#transformer — Public Fediverse posts

結局、Looped Transformerってなんや？
https://qiita.com/sakai1250/items/8d90b7320bcd1c8aba9e?utm_campaign=popular_items&utm_medium=feed&utm_source=popular_items

#qiita #機械学習 #深層学習 #Transformer #論文解説 #LLM

Воспроизведение grokking и проверка сохранённых моделей

Воспроизвели grokking на трёх seed: нейросеть быстро запоминает обучающие примеры, но начинает обобщать значительно позже. Показываем результаты, границы проверки и открытые артефакты эксперимента.

https://habr.com/ru/articles/1090166/

#grokking #pytorch #transformer #обобщение #воспроизводимость #машинное_обучение #нейросети