#как_думает_ии — Public Fediverse posts

Можно ли прочитать мысли нейросети

Вы когда-нибудь задумывались, что происходит внутри нейросети, пока она пишет ответ? Языковые модели всегда, по вашему первому запросу, выдают красивые и логичные ответы, будто они действительно понимают, о чём говорят. Но за этим красивым ответом скрывается всего лишь удачная последовательность чисел, которая угадывает следующее слово, а не осмысливает его. И вроде бы всё отлично, какие тут проблемы? Какая разница, что там внутри и как нейросеть пришла к такому ответу, если сам ответ хороший? Проблема в том, что если мы не видим, о чём модель думает до того, как выдаст готовый ответ, мы не сможем поймать её на скрытых манипуляциях, галлюцинациях или прямом обмане. Как прочитать эту информацию? Как поймать модель на ошибках? И что вообще происходит внутри черного ящика нейросети?

https://habr.com/ru/companies/timeweb/articles/1094334/

#искусственный_интеллект #нейронные_сети #нейросети #чёрный_ящик #timeweb_статьи #ai_agent #как_думает_ии #как_думает_llm #как_контролировать_ии #мысли_ии

Как думает LLM

Почему ChatGPT иногда может ответить мгновенно, а иногда заставляет смотреть на надпись Thinking почти минуту? Неужели модель..думает. А раз уж она думает может модель обрела… самосознание ? На самом деле этот процесс сегодня называют Reasoning , и он в свое время стал настоящим прорывом в сфере ИИ. Теперь каждый новый флагман от ИИ лабораторий поддерживает режим размышлений. Как один психолог случайно спроектировал думающую LLM? Сильно ли Reasoning повлиял на точность моделей? И как LLM стали испытывать «Горе от ума»?

https://habr.com/ru/companies/bothub/articles/1064512/

#ии #ai #reasoning #llm #как_работает_llm #как_работает_мышление #как_ии_думает #как_думает_ии #LRM #llm_thinking