#gpt55_промпты — Public Fediverse posts

Больше контекста — хуже результат

После статьи про Cursor и сжатие контекста я получил много комментариев. В коментах спорят: виноват компактинг? Или attention dilution? Или модель просто ослушалась? Или проблема вообще не в контексте, а в alignment? Спор хороший, но он показывает фундаментальную проблему: у инженеров нет общей картины того, как LLM работают с контекстом. Мы видим симптомы (агент удалил базу, модель галлюцинирует, точность падает на длинной сессии), но не понимаем механизмы. Попробуем собрать эту картинку Бооольше нейрослопа :)

https://habr.com/ru/articles/1031340/

#почему_LLM_галлюцинирует #как_работает_ChainofThought #проблема_длинного_контекста #почему_AIагенты_тупят #сокращение_промпта #контекстное_окно #GPT55_промпты #Claude_Opus_47_гайд