What is Pré-entraînement?

Première phase d'entraînement sur un vaste corpus généraliste, avant toute spécialisation.