Воспроизведение grokking и проверка сохранённых моделей
Воспроизвели grokking на трёх seed: нейросеть быстро запоминает обучающие примеры, но начинает обобщать значительно позже. Показываем результаты, границы проверки и открытые артефакты эксперимента.
https://habr.com/ru/articles/1090166/
#grokking #pytorch #transformer #обобщение #воспроизводимость #машинное_обучение #нейросети