Чи можна попередньо навчити мовну модель, використовуючи навчання з чистим підкріпленням з нуля? випадкові ваги, без перехресних втрат ентропії перед тренуванням. У вас в голові може виникнути багато питань.