Объяснение
Checkpoint должен содержать веса и состояние optimizer для продолжения. Mixed precision экономит ресурсы, но требует контроля численной устойчивости. Фиксированный seed не гарантирует идентичность на любом оборудовании.
Задача для самостоятельного решения
Почему восстановления одних весов мало для точного продолжения Adam?
Показать разбор ответа
Потеряются накопленные моменты optimizer и состояние расписания learning rate. Сохраните их вместе с номером шага и конфигурацией.