#knowledgeacquisition — Public Fediverse posts

Ah, yes, the groundbreaking revelation: 🌍✈️ "Traveling is NOT educational!" What a shocker! Clearly, those who skim a Wikipedia article are the true scholars of our time, while globetrotters are just glorified tourists with poor internet skills. 📚🤦‍♂️ Give me a break!
https://fi-le.net/travel/ #TravelingIsNotEducational #TravelDebate #EducationVsExperience #TouristCritique #KnowledgeAcquisition #TravelPerspective #HackerNews #ngated

Как LLM выучивают факты и почему они галлюцинируют?

🔬 Почему языковые модели "знают" факты… и почему они врут? Новое исследование от Google DeepMind раскрывает секреты обучения LLM Вы когда-нибудь задумывались, как огромные языковые модели (LLM) превращают триллионы слов из интернета в четкие факты? И почему иногда они так уверенно выдают полную чушь? 🤔 В Google DeepMind решили покопаться в этой загадке и провели детальное исследование процессов, которые стоят за обучением моделей. Они взяли синтетические биографии шести вымышленных людей и наблюдали, как модель шаг за шагом переходит от хаотичного предсказания токенов к формированию точных ассоциаций — например, связывает имя человека с его датой рождения или профессией. 📈 А если интересно глубже... Узнайте, как распределение данных влияет на скорость обучения, какие стратегии учебной программы работают лучше всего и почему слишком частое повторение одних и тех же примеров может быть опасным. Исследуйте вместе с нами 🚀

https://habr.com/ru/articles/900354/

#LLM #AIResearch #MachineLearning #DeepMind #KnowledgeAcquisition #HallucinationsInAI