#transfer_learning — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #transfer_learning, aggregated by home.social.
-
Можно ли пересадить алгоритм из маленькой модели в LLM? Эксперимент с grokking, residual stream и линейной проекцией
Современные LLM (Large Language Models) — это черные ящики. Мы знаем, что они что-то умеют, но как они это делают внутри — остается загадкой. Существует целое направление — механистическая интерпретируемость (mechanistic interpretability) , которое пытается заглянуть внутрь нейросетей и найти алгоритмы, зашитые в весах. Ключевая идея этого направления: если модель обучилась решать задачу (например, арифметику), то внутри её residual stream формируется геометрическая структура — числа начинают лежать на окружности, а операции сводятся к вращению. Это не просто паттерн, это настоящий скомпилированный алгоритм. Вопрос, который мы задали: можно ли взять этот алгоритм из маленькой обученной модели и «пересадить» его в большую LLM во время inference? Без дообучения, без градиентов, без данных. Просто взять внутреннее состояние и подставить его в другую модель. Если бы это работало, мы бы получили способ усиления больших моделей узкоспециализированными маленькими , минуя дорогостоящий fine-tuning. Проведены серии экспериментов. И спойлером отвечу на вопрос: ответ — да, но с большими ограничениями . И эти ограничения говорят о фундаментальной природе работы LLM.
https://habr.com/ru/articles/1052114/
#grokking #residual_stream #mechanistic_interpretability #модульная_арифметика #transfer_learning #линейный_пробник #Phi2 #трансформеры #activation_patching
-
Скрытые сигналы: как модели учатся тому, чего нет в данных
LLM учатся не только тому, чему мы пытаемся их научить. Вместе с задачами, метками и инструкциями они усваивают и побочные сигналы, которые мы воспринимаем как шум или случайность. Исследование международной группы учёных показало, что такие подпороговые сигналы могут работать как канал передачи поведения между моделями. Даже если убрать все явные инструкции, то стиль рассуждений, стратегии ответов и другие поведенческие признаки все равно просочатся через данные, которые семантически с ними никак не связаны. Авторы называют этот эффект сублиминальным обучением. Мы можем удалить метки, отфильтровать инструкции и проверить датасет вручную, и всё равно передать модели поведение, которое не планировали передавать.
https://habr.com/ru/companies/beget/articles/980960/
#сублиминальное_обучение #chainofthought #transfer_learning #машинное_обучение #ии #llm #датасеты_обучения #ai_alignment
-
MIT researchers develop an efficient way to train more reliable AI agents
https://news.mit.edu/2024/mit-researchers-develop-efficiency-training-more-reliable-ai-agents-1122
#ycombinator #Cathy_Wu #machine_learning #deep_reinforcement_learning #transfer_learning -
MIT researchers develop an efficient way to train more reliable AI agents
https://news.mit.edu/2024/mit-researchers-develop-efficiency-training-more-reliable-ai-agents-1122
#ycombinator #Cathy_Wu #machine_learning #deep_reinforcement_learning #transfer_learning -
What a challenge! French mapping agency provides a unique FLAIR dataset including aerial imagery, topographic information and land cover (buildings, water, forest, agriculture) annotations. All thisto push the SOTA in #semantic_segmentation, #domain_adaptation, #transfer_learning