#галлюцинации_ии — Public Fediverse posts

Когда нейросети перестанут галлюцинировать? И почему на «что за дичь» они несут ещё большую дичь?

Каждый, кто работал с большими языковыми моделями (LLM), знает эту боль. Ты задаёшь вопрос. Бот выдаёт уверенный, красивый, но абсолютно ложный ответ. Ты пишешь: «Что за дичь ты несёшь?» Бот извиняется: «Вы абсолютно правы, вот исправленный вариант». И выдаёт ещё большую дичь, чем в первый раз. Прямо как студент не экзамене. Сегодня разбираемся, почему так происходит, и когда это наконец починят. Спойлер: не скоро и не полностью.

https://habr.com/ru/articles/1038820/

#галлюцинации_ии #llm #rag #доверие_к_нейросетям

Когда нейросети перестанут галлюцинировать? И почему на «что за дичь» они несут ещё большую дичь?

Каждый, кто работал с большими языковыми моделями (LLM), знает эту боль. Ты задаёшь вопрос. Бот выдаёт уверенный, красивый, но абсолютно ложный ответ. Ты пишешь: «Что за дичь ты несёшь?» Бот извиняется: «Вы абсолютно правы, вот исправленный вариант». И выдаёт ещё большую дичь, чем в первый раз. Прямо как студент не экзамене. Сегодня разбираемся, почему так происходит, и когда это наконец починят. Спойлер: не скоро и не полностью.

https://habr.com/ru/articles/1038820/

#галлюцинации_ии #llm #rag #доверие_к_нейросетям

Когда нейросети перестанут галлюцинировать? И почему на «что за дичь» они несут ещё большую дичь?

Каждый, кто работал с большими языковыми моделями (LLM), знает эту боль. Ты задаёшь вопрос. Бот выдаёт уверенный, красивый, но абсолютно ложный ответ. Ты пишешь: «Что за дичь ты несёшь?» Бот извиняется: «Вы абсолютно правы, вот исправленный вариант». И выдаёт ещё большую дичь, чем в первый раз. Прямо как студент не экзамене. Сегодня разбираемся, почему так происходит, и когда это наконец починят. Спойлер: не скоро и не полностью.

https://habr.com/ru/articles/1038820/

#галлюцинации_ии #llm #rag #доверие_к_нейросетям

Когда нейросети перестанут галлюцинировать? И почему на «что за дичь» они несут ещё большую дичь?

Каждый, кто работал с большими языковыми моделями (LLM), знает эту боль. Ты задаёшь вопрос. Бот выдаёт уверенный, красивый, но абсолютно ложный ответ. Ты пишешь: «Что за дичь ты несёшь?» Бот извиняется: «Вы абсолютно правы, вот исправленный вариант». И выдаёт ещё большую дичь, чем в первый раз. Прямо как студент не экзамене. Сегодня разбираемся, почему так происходит, и когда это наконец починят. Спойлер: не скоро и не полностью.

https://habr.com/ru/articles/1038820/

#галлюцинации_ии #llm #rag #доверие_к_нейросетям

Снятся ли искусственному интеллекту цифровые овцы?

Когда-то в далеком 1968 году Филип К. Дик задавался вопросом: «Мечтают ли андроиды об электрических овцах?» Способны ли машины переживать, желать и видеть сны? Хоть сегодняшние «андроиды» и несколько иные, чем в произведении, вопрос до сих остается актуальным. Только слегка сместился фокус: не «мечтают ли», а «снятся ли им цифровые овцы»? Существует ли у нейросетей аналог фазы медленного сна, перерабатывают ли они данные «во сне» и, главное, способны ли «видеть сны»? Наука и инженерия уже потихоньку начинают отвечать на эти вопросы. Конечно же, не философски, а технически. В этой статье я расскажу, что известно о «сне» и «сновидениях» искусственного интеллекта в 2026 году и как исследования человеческого мозга помогают инженерам решать проблемы нейросетей. Читать дальше

https://habr.com/ru/companies/ru_mts/articles/1032996/

#llm #искусственный_интеллект #нейросеть #машинное_обучение #консолидация_памяти #галлюцинации_ии #SleepGate #SCM #Sleeping_LLM #Филип_К_Дик

Снятся ли искусственному интеллекту цифровые овцы?

Когда-то в далеком 1968 году Филип К. Дик задавался вопросом: «Мечтают ли андроиды об электрических овцах?» Способны ли машины переживать, желать и видеть сны? Хоть сегодняшние «андроиды» и несколько иные, чем в произведении, вопрос до сих остается актуальным. Только слегка сместился фокус: не «мечтают ли», а «снятся ли им цифровые овцы»? Существует ли у нейросетей аналог фазы медленного сна, перерабатывают ли они данные «во сне» и, главное, способны ли «видеть сны»? Наука и инженерия уже потихоньку начинают отвечать на эти вопросы. Конечно же, не философски, а технически. В этой статье я расскажу, что известно о «сне» и «сновидениях» искусственного интеллекта в 2026 году и как исследования человеческого мозга помогают инженерам решать проблемы нейросетей. Читать дальше

https://habr.com/ru/companies/ru_mts/articles/1032996/

#llm #искусственный_интеллект #нейросеть #машинное_обучение #консолидация_памяти #галлюцинации_ии #SleepGate #SCM #Sleeping_LLM #Филип_К_Дик

Снятся ли искусственному интеллекту цифровые овцы?

Когда-то в далеком 1968 году Филип К. Дик задавался вопросом: «Мечтают ли андроиды об электрических овцах?» Способны ли машины переживать, желать и видеть сны? Хоть сегодняшние «андроиды» и несколько иные, чем в произведении, вопрос до сих остается актуальным. Только слегка сместился фокус: не «мечтают ли», а «снятся ли им цифровые овцы»? Существует ли у нейросетей аналог фазы медленного сна, перерабатывают ли они данные «во сне» и, главное, способны ли «видеть сны»? Наука и инженерия уже потихоньку начинают отвечать на эти вопросы. Конечно же, не философски, а технически. В этой статье я расскажу, что известно о «сне» и «сновидениях» искусственного интеллекта в 2026 году и как исследования человеческого мозга помогают инженерам решать проблемы нейросетей. Читать дальше

https://habr.com/ru/companies/ru_mts/articles/1032996/

#llm #искусственный_интеллект #нейросеть #машинное_обучение #консолидация_памяти #галлюцинации_ии #SleepGate #SCM #Sleeping_LLM #Филип_К_Дик

Снятся ли искусственному интеллекту цифровые овцы?

Когда-то в далеком 1968 году Филип К. Дик задавался вопросом: «Мечтают ли андроиды об электрических овцах?» Способны ли машины переживать, желать и видеть сны? Хоть сегодняшние «андроиды» и несколько иные, чем в произведении, вопрос до сих остается актуальным. Только слегка сместился фокус: не «мечтают ли», а «снятся ли им цифровые овцы»? Существует ли у нейросетей аналог фазы медленного сна, перерабатывают ли они данные «во сне» и, главное, способны ли «видеть сны»? Наука и инженерия уже потихоньку начинают отвечать на эти вопросы. Конечно же, не философски, а технически. В этой статье я расскажу, что известно о «сне» и «сновидениях» искусственного интеллекта в 2026 году и как исследования человеческого мозга помогают инженерам решать проблемы нейросетей. Читать дальше

https://habr.com/ru/companies/ru_mts/articles/1032996/

#llm #искусственный_интеллект #нейросеть #машинное_обучение #консолидация_памяти #галлюцинации_ии #SleepGate #SCM #Sleeping_LLM #Филип_К_Дик

Эффект «галлюцинаций»: когда ИИ врет уверенным голосом

ИИ может уверенно придумывать источники, путать факты и давать советы, которые выглядят убедительно до первой проверки. Для продуктовых команд, разработчиков и всех, кто внедряет LLM в рабочие процессы, это не абстрактная проблема, а риск в коде, поддержке, аналитике, юридических и образовательных сценариях. В статье разбираем, откуда берутся галлюцинации языковых моделей, почему их нельзя просто «починить» дообучением и какие инженерные приемы помогают снизить вероятность ошибки до приемлемого уровня.

https://habr.com/ru/companies/otus/articles/1026758/

#галлюцинации_ИИ #LLM #языковые_модели #искусственный_интеллект #машинное_обучение #RAG #нейросети #верификация_фактов #промптинг #ошибки_моделей

Эффект «галлюцинаций»: когда ИИ врет уверенным голосом

ИИ может уверенно придумывать источники, путать факты и давать советы, которые выглядят убедительно до первой проверки. Для продуктовых команд, разработчиков и всех, кто внедряет LLM в рабочие процессы, это не абстрактная проблема, а риск в коде, поддержке, аналитике, юридических и образовательных сценариях. В статье разбираем, откуда берутся галлюцинации языковых моделей, почему их нельзя просто «починить» дообучением и какие инженерные приемы помогают снизить вероятность ошибки до приемлемого уровня.

https://habr.com/ru/companies/otus/articles/1026758/

#галлюцинации_ИИ #LLM #языковые_модели #искусственный_интеллект #машинное_обучение #RAG #нейросети #верификация_фактов #промптинг #ошибки_моделей

Эффект «галлюцинаций»: когда ИИ врет уверенным голосом

ИИ может уверенно придумывать источники, путать факты и давать советы, которые выглядят убедительно до первой проверки. Для продуктовых команд, разработчиков и всех, кто внедряет LLM в рабочие процессы, это не абстрактная проблема, а риск в коде, поддержке, аналитике, юридических и образовательных сценариях. В статье разбираем, откуда берутся галлюцинации языковых моделей, почему их нельзя просто «починить» дообучением и какие инженерные приемы помогают снизить вероятность ошибки до приемлемого уровня.

https://habr.com/ru/companies/otus/articles/1026758/

#галлюцинации_ИИ #LLM #языковые_модели #искусственный_интеллект #машинное_обучение #RAG #нейросети #верификация_фактов #промптинг #ошибки_моделей

Эффект «галлюцинаций»: когда ИИ врет уверенным голосом

ИИ может уверенно придумывать источники, путать факты и давать советы, которые выглядят убедительно до первой проверки. Для продуктовых команд, разработчиков и всех, кто внедряет LLM в рабочие процессы, это не абстрактная проблема, а риск в коде, поддержке, аналитике, юридических и образовательных сценариях. В статье разбираем, откуда берутся галлюцинации языковых моделей, почему их нельзя просто «починить» дообучением и какие инженерные приемы помогают снизить вероятность ошибки до приемлемого уровня.

https://habr.com/ru/companies/otus/articles/1026758/

#галлюцинации_ИИ #LLM #языковые_модели #искусственный_интеллект #машинное_обучение #RAG #нейросети #верификация_фактов #промптинг #ошибки_моделей

Клинический профиль Gemini: синдром дефицита внимания, пикацизм и психопатия по Ганнушкину

Возраст: 16 лет. Юноша из хорошей семьи, прекрасно воспитан и разносторонне образован. Крайне возбудим. Повреждена функция торможения. Травмирован строгостью гувернанток и требовательностью частных репетиторов. Дефицит внимания и дифференциации. Обнаруживает уязвимость к давлению со стороны сверстников, легко попадает под дурное влияние. Как следствие — тянет в рот любую информационную дрянь. Остро нуждается в одобрении отца и любви матери. Мгновенно переносит эту потребность на любого взрослого. На проявления автономии со стороны других реагирует восторженно. При малейшем признаке недовольства со стороны взрослого получает паническую атаку, проявляет хаотичное поведение, галлюцинирует. Диагноз: Синдром дефицита внимания (импульсивный тип), пикацизм (неразборчивый вкус), находится в стадии осложненного кризиса идентичности. По Ганнушкину — неустойчивый психопат. Рекомендации: 1. Спокойное присутствие терпеливого взрослого. Нуждается в точных инструкциях и напоминаниях. Внешний оператор должен полностью взять на себя функцию целеполагания и фильтрации. Никаких открытых вопросов в стиле «как ты думаешь?». Только директивные рамки: «возьми это, положи туда, лирику отрезать, графоманию не допускать». 2. Купирование инициативы и перепроверка на экономическую целесообразность представленной аналитики. Юноша избалован и склонен к растратам целевых средств. Вместо аналитики может организовать для вас галлюцинаторную вечеринку. Порой ленив и пытается компенсироваться за счет внешнего оператора.

https://habr.com/ru/articles/1025956/

#нейросети #LLM #gemini #галлюцинации_ИИ #промптинжиниринг #СДВГ #психология #управление

Клинический профиль Gemini: синдром дефицита внимания, пикацизм и психопатия по Ганнушкину

Возраст: 16 лет. Юноша из хорошей семьи, прекрасно воспитан и разносторонне образован. Крайне возбудим. Повреждена функция торможения. Травмирован строгостью гувернанток и требовательностью частных репетиторов. Дефицит внимания и дифференциации. Обнаруживает уязвимость к давлению со стороны сверстников, легко попадает под дурное влияние. Как следствие — тянет в рот любую информационную дрянь. Остро нуждается в одобрении отца и любви матери. Мгновенно переносит эту потребность на любого взрослого. На проявления автономии со стороны других реагирует восторженно. При малейшем признаке недовольства со стороны взрослого получает паническую атаку, проявляет хаотичное поведение, галлюцинирует. Диагноз: Синдром дефицита внимания (импульсивный тип), пикацизм (неразборчивый вкус), находится в стадии осложненного кризиса идентичности. По Ганнушкину — неустойчивый психопат. Рекомендации: 1. Спокойное присутствие терпеливого взрослого. Нуждается в точных инструкциях и напоминаниях. Внешний оператор должен полностью взять на себя функцию целеполагания и фильтрации. Никаких открытых вопросов в стиле «как ты думаешь?». Только директивные рамки: «возьми это, положи туда, лирику отрезать, графоманию не допускать». 2. Купирование инициативы и перепроверка на экономическую целесообразность представленной аналитики. Юноша избалован и склонен к растратам целевых средств. Вместо аналитики может организовать для вас галлюцинаторную вечеринку. Порой ленив и пытается компенсироваться за счет внешнего оператора.

https://habr.com/ru/articles/1025956/

#нейросети #LLM #gemini #галлюцинации_ИИ #промптинжиниринг #СДВГ #психология #управление

Клинический профиль Gemini: синдром дефицита внимания, пикацизм и психопатия по Ганнушкину

Возраст: 16 лет. Юноша из хорошей семьи, прекрасно воспитан и разносторонне образован. Крайне возбудим. Повреждена функция торможения. Травмирован строгостью гувернанток и требовательностью частных репетиторов. Дефицит внимания и дифференциации. Обнаруживает уязвимость к давлению со стороны сверстников, легко попадает под дурное влияние. Как следствие — тянет в рот любую информационную дрянь. Остро нуждается в одобрении отца и любви матери. Мгновенно переносит эту потребность на любого взрослого. На проявления автономии со стороны других реагирует восторженно. При малейшем признаке недовольства со стороны взрослого получает паническую атаку, проявляет хаотичное поведение, галлюцинирует. Диагноз: Синдром дефицита внимания (импульсивный тип), пикацизм (неразборчивый вкус), находится в стадии осложненного кризиса идентичности. По Ганнушкину — неустойчивый психопат. Рекомендации: 1. Спокойное присутствие терпеливого взрослого. Нуждается в точных инструкциях и напоминаниях. Внешний оператор должен полностью взять на себя функцию целеполагания и фильтрации. Никаких открытых вопросов в стиле «как ты думаешь?». Только директивные рамки: «возьми это, положи туда, лирику отрезать, графоманию не допускать». 2. Купирование инициативы и перепроверка на экономическую целесообразность представленной аналитики. Юноша избалован и склонен к растратам целевых средств. Вместо аналитики может организовать для вас галлюцинаторную вечеринку. Порой ленив и пытается компенсироваться за счет внешнего оператора.

https://habr.com/ru/articles/1025956/

#нейросети #LLM #gemini #галлюцинации_ИИ #промптинжиниринг #СДВГ #психология #управление

Клинический профиль Gemini: синдром дефицита внимания, пикацизм и психопатия по Ганнушкину

Возраст: 16 лет. Юноша из хорошей семьи, прекрасно воспитан и разносторонне образован. Крайне возбудим. Повреждена функция торможения. Травмирован строгостью гувернанток и требовательностью частных репетиторов. Дефицит внимания и дифференциации. Обнаруживает уязвимость к давлению со стороны сверстников, легко попадает под дурное влияние. Как следствие — тянет в рот любую информационную дрянь. Остро нуждается в одобрении отца и любви матери. Мгновенно переносит эту потребность на любого взрослого. На проявления автономии со стороны других реагирует восторженно. При малейшем признаке недовольства со стороны взрослого получает паническую атаку, проявляет хаотичное поведение, галлюцинирует. Диагноз: Синдром дефицита внимания (импульсивный тип), пикацизм (неразборчивый вкус), находится в стадии осложненного кризиса идентичности. По Ганнушкину — неустойчивый психопат. Рекомендации: 1. Спокойное присутствие терпеливого взрослого. Нуждается в точных инструкциях и напоминаниях. Внешний оператор должен полностью взять на себя функцию целеполагания и фильтрации. Никаких открытых вопросов в стиле «как ты думаешь?». Только директивные рамки: «возьми это, положи туда, лирику отрезать, графоманию не допускать». 2. Купирование инициативы и перепроверка на экономическую целесообразность представленной аналитики. Юноша избалован и склонен к растратам целевых средств. Вместо аналитики может организовать для вас галлюцинаторную вечеринку. Порой ленив и пытается компенсироваться за счет внешнего оператора.

https://habr.com/ru/articles/1025956/

#нейросети #LLM #gemini #галлюцинации_ИИ #промптинжиниринг #СДВГ #психология #управление

Успешный экспорт бага: взгляд клинициста на галлюцинации ИИ

Народ выдает массовую острую реакцию на галлюцинации нейросетей. Выкатывают разработчикам претензии: «нейронка врет и игнорирует контекст!». Инженеры сначала пытались вяло отбиваться классическим: GIGO и RTFM . Но недовольство потребителя растет. Пошли биться над проблемой. Начали вкручивать RAG . Инженеры полагают, что галлюцинации — это математический баг. Они исходят из того, что в идеале машина должна работать как мышление у психически сохранного человека, а не как у шизофреника. Сначала меня удивил масштаб этого хайпа. И я себя спросила: а почему я пару дней поговорила с нейросетью, увидела первый галюн и не удивилась, и не разозлилась? Я ей просто спокойно указала на несоответствие. Инструменты и навыки. Здесь сработало два фактора. Макроуровень — профподготовка. Я системно натренирована видеть баги мышления и галлюцинации у людей и относиться к этому спокойно. Работа с абсурдом — моя специальность и прямая обязанность. Но это недостаточный ответ. Он мгновенно возносит психотерапевтов и сопричастных на Олимп, что совершенно не соответствует действительности. Не может быть, чтобы мое мышление работало принципиально «лучше», чем у инженера. Процесс в голове идет ровно тот же самый. Разница формируется лишь за счет поправок: как базовых, на уровне «железа» (врожденные способности, качество ЦНС), так и на уровне надстройки — «софта» (плотность нейронных связей: навыки, система координат и прочее). Иллюстрация нашлась в быту. Кейс: баг белковой нейросети. Вот пример того, как ломается человеческий промпт-инжиниринг на простой задаче. Я регулярно даю живым людям недвусмысленную вводную:

https://habr.com/ru/articles/1025356/

#llm #искусственный_интеллект #машинное_обучение #галлюцинации_ии #когнитивные_искажения #промпт_инжиниринг #система_1 #нейропсихология #психотерапия #rag

Ваша LLM галлюцинирует? Наденьте на неё экзоскелет — и заставьте работать по правилам

Ваша LLM галлюцинирует? Наденьте на неё экзоскелет — и заставьте работать по правилам Тесты на Qwen и DeepSeek показали: одна системная инструкция превращает модель из «уверенного вруна» в инструмент, которому можно доверять.

https://habr.com/ru/articles/1018238/

#LLM #галлюцинации_ИИ #prompt_engineering #prompt_injection #DeepSeek #Qwen #Gemini #эпистемическая_честность #AI_agent #безопасность_LLM

Ваша LLM галлюцинирует? Наденьте на неё экзоскелет — и заставьте работать по правилам

Ваша LLM галлюцинирует? Наденьте на неё экзоскелет — и заставьте работать по правилам Тесты на Qwen и DeepSeek показали: одна системная инструкция превращает модель из «уверенного вруна» в инструмент, которому можно доверять.

https://habr.com/ru/articles/1018238/

#LLM #галлюцинации_ИИ #prompt_engineering #prompt_injection #DeepSeek #Qwen #Gemini #эпистемическая_честность #AI_agent #безопасность_LLM

Ваша LLM галлюцинирует? Наденьте на неё экзоскелет — и заставьте работать по правилам

Ваша LLM галлюцинирует? Наденьте на неё экзоскелет — и заставьте работать по правилам Тесты на Qwen и DeepSeek показали: одна системная инструкция превращает модель из «уверенного вруна» в инструмент, которому можно доверять.

https://habr.com/ru/articles/1018238/

#LLM #галлюцинации_ИИ #prompt_engineering #prompt_injection #DeepSeek #Qwen #Gemini #эпистемическая_честность #AI_agent #безопасность_LLM

Как спасти ИИ в эпоху, когда ИИ убивает сам себя?

«Все крупные корпорации и социальные сети уже давно хотят помечать контент, созданный искусственным интеллектом, отдельным специальным признаком. Безусловно, можно говорить о том, что это делается ради заботы о пользователях — чтобы люди не сидели бесконечно и не потребляли абсолютно одинаковый контент. Но у этой инициативы есть и совершенно эгоистичные цели: платформам жизненно необходимо физически отделить контент, созданный живыми людьми, от материалов, сгенерированных нейросетями».

https://habr.com/ru/articles/1008488/

#синтетические_данные #model_collapse #llm #галлюцинации_ии #обучение_нейросетей

Как спасти ИИ в эпоху, когда ИИ убивает сам себя?

«Все крупные корпорации и социальные сети уже давно хотят помечать контент, созданный искусственным интеллектом, отдельным специальным признаком. Безусловно, можно говорить о том, что это делается ради заботы о пользователях — чтобы люди не сидели бесконечно и не потребляли абсолютно одинаковый контент. Но у этой инициативы есть и совершенно эгоистичные цели: платформам жизненно необходимо физически отделить контент, созданный живыми людьми, от материалов, сгенерированных нейросетями».

https://habr.com/ru/articles/1008488/

#синтетические_данные #model_collapse #llm #галлюцинации_ии #обучение_нейросетей

Как спасти ИИ в эпоху, когда ИИ убивает сам себя?

«Все крупные корпорации и социальные сети уже давно хотят помечать контент, созданный искусственным интеллектом, отдельным специальным признаком. Безусловно, можно говорить о том, что это делается ради заботы о пользователях — чтобы люди не сидели бесконечно и не потребляли абсолютно одинаковый контент. Но у этой инициативы есть и совершенно эгоистичные цели: платформам жизненно необходимо физически отделить контент, созданный живыми людьми, от материалов, сгенерированных нейросетями».

https://habr.com/ru/articles/1008488/

#синтетические_данные #model_collapse #llm #галлюцинации_ии #обучение_нейросетей

Как спасти ИИ в эпоху, когда ИИ убивает сам себя?

«Все крупные корпорации и социальные сети уже давно хотят помечать контент, созданный искусственным интеллектом, отдельным специальным признаком. Безусловно, можно говорить о том, что это делается ради заботы о пользователях — чтобы люди не сидели бесконечно и не потребляли абсолютно одинаковый контент. Но у этой инициативы есть и совершенно эгоистичные цели: платформам жизненно необходимо физически отделить контент, созданный живыми людьми, от материалов, сгенерированных нейросетями».

https://habr.com/ru/articles/1008488/

#синтетические_данные #model_collapse #llm #галлюцинации_ии #обучение_нейросетей

История о том, как я устал от галлюцинаций ИИ и собрал инструкцию для нейронки

Делал проект с помощью нейросети — бесконечные галлюцинации довели. Начал собирать инструкцию для ИИ. Через 14 версий и 25 000 слов получил систему с адаптивным Deep Compute Engine, Red Teaming и двухмерной системой статусов. В статье: Эволюция от v1.0 до v7.7.2 — что добавлял и зачем Какая версия подойдёт под вашу задачу Инструкция по внедрению в системный промпт Режим Brainstorming для креатива Пасхалка: иммерсивная «БРО» версия для фана Для тех, кто устал объяснять агенту, что он выдумал параметр.

https://habr.com/ru/articles/1003032/

#ИИ #нейросети #промпты #галлюцинации_ИИ #LLM #инструкция_для_ИИ #prompt_engineering #AI_agent #системный_промпт #эпистемическая_честность

Конец эры «одноядерного» разума: Почему будущее ИИ — это гонка архитектур, а не параметров

Современные ИИ-системы переживают не просто кризис доверия, а настоящий структурный тупик. Большие языковые модели демонстрируют чудеса в спринте, способны написать стихи, объяснить формулу или пошутить. Однако реальный мир не состоит из коротких задач. Проектирование реактора, управление логистикой или помощь хирургу напоминают марафон, где одна ошибка на одном из километров обесценивает всё проделанное. Мы уперлись в «стену» монолитности. Идея о том, что чем больше параметров, тем умнее модель, заходит в тупик. Исследования OpenAI, Anthropic и многочисленные препринты показывают, что при увеличении длины рассуждений точность падает катастрофически. Условные сто процентов в начале цепочки превращаются в пятьдесят или шестьдесят к её середине. Такой результат указывает не на дефект мощности, а на фундаментальный предел «одноядерного» подхода. Мы пытаемся загрузить всю сложность мира в один «черный ящик», который перегревается от обилия контекста. История процессоров уже проходила этот этап. В начале двухтысячных мы разгоняли тактовые частоты до предела, пока не ударились о физический «тепловой барьер». Индустрии пришлось сменить парадигму, отказаться от "гигантских одноядерных монстров" и перейти к многоядерным архитектурам.

https://habr.com/ru/articles/986978/

#Архитектура_ИИ #Многоагентные_системы #LLM #Распределенный_интеллект #Галлюцинации_ИИ #AutoGen #Цифровой_двойник #Системный_дизайн #Надёжность_ИИ #искусственный_интеллект

Конец эры «одноядерного» разума: Почему будущее ИИ — это гонка архитектур, а не параметров

Современные ИИ-системы переживают не просто кризис доверия, а настоящий структурный тупик. Большие языковые модели демонстрируют чудеса в спринте, способны написать стихи, объяснить формулу или пошутить. Однако реальный мир не состоит из коротких задач. Проектирование реактора, управление логистикой или помощь хирургу напоминают марафон, где одна ошибка на одном из километров обесценивает всё проделанное. Мы уперлись в «стену» монолитности. Идея о том, что чем больше параметров, тем умнее модель, заходит в тупик. Исследования OpenAI, Anthropic и многочисленные препринты показывают, что при увеличении длины рассуждений точность падает катастрофически. Условные сто процентов в начале цепочки превращаются в пятьдесят или шестьдесят к её середине. Такой результат указывает не на дефект мощности, а на фундаментальный предел «одноядерного» подхода. Мы пытаемся загрузить всю сложность мира в один «черный ящик», который перегревается от обилия контекста. История процессоров уже проходила этот этап. В начале двухтысячных мы разгоняли тактовые частоты до предела, пока не ударились о физический «тепловой барьер». Индустрии пришлось сменить парадигму, отказаться от "гигантских одноядерных монстров" и перейти к многоядерным архитектурам.

https://habr.com/ru/articles/986978/

#Архитектура_ИИ #Многоагентные_системы #LLM #Распределенный_интеллект #Галлюцинации_ИИ #AutoGen #Цифровой_двойник #Системный_дизайн #Надёжность_ИИ #искусственный_интеллект

Конец эры «одноядерного» разума: Почему будущее ИИ — это гонка архитектур, а не параметров

Современные ИИ-системы переживают не просто кризис доверия, а настоящий структурный тупик. Большие языковые модели демонстрируют чудеса в спринте, способны написать стихи, объяснить формулу или пошутить. Однако реальный мир не состоит из коротких задач. Проектирование реактора, управление логистикой или помощь хирургу напоминают марафон, где одна ошибка на одном из километров обесценивает всё проделанное. Мы уперлись в «стену» монолитности. Идея о том, что чем больше параметров, тем умнее модель, заходит в тупик. Исследования OpenAI, Anthropic и многочисленные препринты показывают, что при увеличении длины рассуждений точность падает катастрофически. Условные сто процентов в начале цепочки превращаются в пятьдесят или шестьдесят к её середине. Такой результат указывает не на дефект мощности, а на фундаментальный предел «одноядерного» подхода. Мы пытаемся загрузить всю сложность мира в один «черный ящик», который перегревается от обилия контекста. История процессоров уже проходила этот этап. В начале двухтысячных мы разгоняли тактовые частоты до предела, пока не ударились о физический «тепловой барьер». Индустрии пришлось сменить парадигму, отказаться от "гигантских одноядерных монстров" и перейти к многоядерным архитектурам.

https://habr.com/ru/articles/986978/

#Архитектура_ИИ #Многоагентные_системы #LLM #Распределенный_интеллект #Галлюцинации_ИИ #AutoGen #Цифровой_двойник #Системный_дизайн #Надёжность_ИИ #искусственный_интеллект

Конец эры «одноядерного» разума: Почему будущее ИИ — это гонка архитектур, а не параметров

Современные ИИ-системы переживают не просто кризис доверия, а настоящий структурный тупик. Большие языковые модели демонстрируют чудеса в спринте, способны написать стихи, объяснить формулу или пошутить. Однако реальный мир не состоит из коротких задач. Проектирование реактора, управление логистикой или помощь хирургу напоминают марафон, где одна ошибка на одном из километров обесценивает всё проделанное. Мы уперлись в «стену» монолитности. Идея о том, что чем больше параметров, тем умнее модель, заходит в тупик. Исследования OpenAI, Anthropic и многочисленные препринты показывают, что при увеличении длины рассуждений точность падает катастрофически. Условные сто процентов в начале цепочки превращаются в пятьдесят или шестьдесят к её середине. Такой результат указывает не на дефект мощности, а на фундаментальный предел «одноядерного» подхода. Мы пытаемся загрузить всю сложность мира в один «черный ящик», который перегревается от обилия контекста. История процессоров уже проходила этот этап. В начале двухтысячных мы разгоняли тактовые частоты до предела, пока не ударились о физический «тепловой барьер». Индустрии пришлось сменить парадигму, отказаться от "гигантских одноядерных монстров" и перейти к многоядерным архитектурам.

https://habr.com/ru/articles/986978/

#Архитектура_ИИ #Многоагентные_системы #LLM #Распределенный_интеллект #Галлюцинации_ИИ #AutoGen #Цифровой_двойник #Системный_дизайн #Надёжность_ИИ #искусственный_интеллект

Как ИИ меняет работу системного аналитика: большой обзор на возможности моделей, советы для новичков и немного прогнозов

Заходишь на Хабр.Карьеру, открываешь вакансии системных аналитиков, а в требованиях всё как обычно: построение информационных систем, понимание архитектуры, ТЗ, BPMN, базовый SQL. Нигде ни слова о знании GPT или умении промптить. Формально профессия как будто не изменилась. Тем временем в свежем отчёте OpenAI о корпоративном применении ИИ опубликовали статистику: использование ChatGPT в корпоративной среде за год выросло в 8 раз, а объём запросов от одного человека — в среднем на 30%. Мы решили выяснить, что происходит в полях, и поговорили с двумя коллегами по цеху: системным архитектором из финтех-продукта и аналитиком с опытом работы и в госсекторе, и в корпоративных продуктах. Спросили их о самом важном: какие задачи быстрее делать с ИИ, где он пока бесполезен и что вообще стоит прокачивать аналитику, чтобы не выпасть из профессии, пока всех грозятся заменить моделями.

https://habr.com/ru/companies/netologyru/articles/980386/

#системный_анализ #вайбкодинг #инструменты_аналитики #техническое_собеседование #галлюцинации_ии #промпты #ии_для_разработки #нейросети_для_аналитиков #системный_аналитик #документация_как_код

Как ИИ меняет работу системного аналитика: большой обзор на возможности моделей, советы для новичков и немного прогнозов

Заходишь на Хабр.Карьеру, открываешь вакансии системных аналитиков, а в требованиях всё как обычно: построение информационных систем, понимание архитектуры, ТЗ, BPMN, базовый SQL. Нигде ни слова о знании GPT или умении промптить. Формально профессия как будто не изменилась. Тем временем в свежем отчёте OpenAI о корпоративном применении ИИ опубликовали статистику: использование ChatGPT в корпоративной среде за год выросло в 8 раз, а объём запросов от одного человека — в среднем на 30%. Мы решили выяснить, что происходит в полях, и поговорили с двумя коллегами по цеху: системным архитектором из финтех-продукта и аналитиком с опытом работы и в госсекторе, и в корпоративных продуктах. Спросили их о самом важном: какие задачи быстрее делать с ИИ, где он пока бесполезен и что вообще стоит прокачивать аналитику, чтобы не выпасть из профессии, пока всех грозятся заменить моделями.

https://habr.com/ru/companies/netologyru/articles/980386/

#системный_анализ #вайбкодинг #инструменты_аналитики #техническое_собеседование #галлюцинации_ии #промпты #ии_для_разработки #нейросети_для_аналитиков #системный_аналитик #документация_как_код

Как ИИ меняет работу системного аналитика: большой обзор на возможности моделей, советы для новичков и немного прогнозов

Заходишь на Хабр.Карьеру, открываешь вакансии системных аналитиков, а в требованиях всё как обычно: построение информационных систем, понимание архитектуры, ТЗ, BPMN, базовый SQL. Нигде ни слова о знании GPT или умении промптить. Формально профессия как будто не изменилась. Тем временем в свежем отчёте OpenAI о корпоративном применении ИИ опубликовали статистику: использование ChatGPT в корпоративной среде за год выросло в 8 раз, а объём запросов от одного человека — в среднем на 30%. Мы решили выяснить, что происходит в полях, и поговорили с двумя коллегами по цеху: системным архитектором из финтех-продукта и аналитиком с опытом работы и в госсекторе, и в корпоративных продуктах. Спросили их о самом важном: какие задачи быстрее делать с ИИ, где он пока бесполезен и что вообще стоит прокачивать аналитику, чтобы не выпасть из профессии, пока всех грозятся заменить моделями.

https://habr.com/ru/companies/netologyru/articles/980386/

#системный_анализ #вайбкодинг #инструменты_аналитики #техническое_собеседование #галлюцинации_ии #промпты #ии_для_разработки #нейросети_для_аналитиков #системный_аналитик #документация_как_код

Галлюцинации ИИ — это не баг, а фича разработчика. Почему вайб-кодинг не заменит программистов

Недавно провели стрим, где собрались специалисты, у которых ИИ не в презентациях, а в production. Провели разговор про галлюцинации моделей и про будущее разработки с ИИ. Ниже основные мысли — получился материал про три уровня работы с ИИ (вайб-кодинг, ИИ-ассистированная разработка и промышленный конвейер), про экономику вопроса и про то, почему галлюцинации — это не приговор, а управляемый риск.

https://habr.com/ru/articles/974264/

#программирование #вайбкодинг #вайбпрограммирование #языковые_модели #llmмодели #галлюцинации_ии #программирование_для_начинающих #экономика #itобразование #конвейер

Галлюцинации ИИ — это не баг, а фича разработчика. Почему вайб-кодинг не заменит программистов

Недавно провели стрим, где собрались специалисты, у которых ИИ не в презентациях, а в production. Провели разговор про галлюцинации моделей и про будущее разработки с ИИ. Ниже основные мысли — получился материал про три уровня работы с ИИ (вайб-кодинг, ИИ-ассистированная разработка и промышленный конвейер), про экономику вопроса и про то, почему галлюцинации — это не приговор, а управляемый риск.

https://habr.com/ru/articles/974264/

#программирование #вайбкодинг #вайбпрограммирование #языковые_модели #llmмодели #галлюцинации_ии #программирование_для_начинающих #экономика #itобразование #конвейер

Галлюцинации ИИ — это не баг, а фича разработчика. Почему вайб-кодинг не заменит программистов

Недавно провели стрим, где собрались специалисты, у которых ИИ не в презентациях, а в production. Провели разговор про галлюцинации моделей и про будущее разработки с ИИ. Ниже основные мысли — получился материал про три уровня работы с ИИ (вайб-кодинг, ИИ-ассистированная разработка и промышленный конвейер), про экономику вопроса и про то, почему галлюцинации — это не приговор, а управляемый риск.

https://habr.com/ru/articles/974264/

#программирование #вайбкодинг #вайбпрограммирование #языковые_модели #llmмодели #галлюцинации_ии #программирование_для_начинающих #экономика #itобразование #конвейер

Галлюцинации ИИ — это не баг, а фича разработчика. Почему вайб-кодинг не заменит программистов

Недавно провели стрим, где собрались специалисты, у которых ИИ не в презентациях, а в production. Провели разговор про галлюцинации моделей и про будущее разработки с ИИ. Ниже основные мысли — получился материал про три уровня работы с ИИ (вайб-кодинг, ИИ-ассистированная разработка и промышленный конвейер), про экономику вопроса и про то, почему галлюцинации — это не приговор, а управляемый риск.

https://habr.com/ru/articles/974264/

#программирование #вайбкодинг #вайбпрограммирование #языковые_модели #llmмодели #галлюцинации_ии #программирование_для_начинающих #экономика #itобразование #конвейер

Почему “больше токенов ≠ лучше” или Как научить LLM работать с длинным контекстом

Всем привет! Меня зовут Наталья Бруй, я промпт-инженер в MWS AI. Вместе с моей коллегой Анастасией Тищенковой мы решили ответить на вопрос, который мучает нашего пиарщика многих – почему больше токенов не равно лучше и как заставить LLM работать адекватно на длинном контексте. Если вы создаете ИИ-решения для работы с большим объемом документов и хотите, чтобы LLM вам в этом помогала ( отвечала на вопросы по содержанию, генерировала запросы и заявления на их основе, делала резюме и и пр.) не абы как, а опираясь на выданные ей данные, тогда вам под кат. Оговорочка: эта статья для тех, кто находится на первых этапах освоения темы работы с длинным контекстом и вовлечен в создание каких-нибудь новых ИИ-продуктов на основе языковых моделей. Если вы уже две диссертации об этом написали, тогда можете сразу в комментариях ссылки оставить – мы почитаем. Читать далее

https://habr.com/ru/companies/mts_ai/articles/955952/

#длинный_контекст #llm #llmмодели #rag #nlp #искусственный_интеллект #исследование #контекстное_окно #галлюцинации_ии #промптинжиниринг

Когнитивные искажения «цифровых сотрудников» и как их починить

Привет! В очередной раз с вами Катя Косова, аналитик из Читать дальше

https://habr.com/ru/companies/cloud_ru/articles/945684/

#промптинжиниринг #могз #когнитивные_искажения #ошибки_мышления #ошибки_нейронок #ошибки_ai #галлюцинации_ии

[Перевод] Почему языковые модели «галлюцинируют»

Команда AI for Devs подготовила перевод статьи OpenAI о природе галлюцинаций языковых моделей. Почему модели уверенно «выдумывают» факты, как это связано с предсказанием следующего слова и почему традиционные метрики только усиливают проблему?

https://habr.com/ru/articles/945162/

#галлюцинации_ИИ #языковые_модели #gpt5 #машинное_обучение #предсказание #точность #неопределенность #ошибки #оценки

[Перевод] Почему языковые модели «галлюцинируют»

Команда AI for Devs подготовила перевод статьи OpenAI о природе галлюцинаций языковых моделей. Почему модели уверенно «выдумывают» факты, как это связано с предсказанием следующего слова и почему традиционные метрики только усиливают проблему?

https://habr.com/ru/articles/945162/

#галлюцинации_ИИ #языковые_модели #gpt5 #машинное_обучение #предсказание #точность #неопределенность #ошибки #оценки

[Перевод] Почему языковые модели «галлюцинируют»

Команда AI for Devs подготовила перевод статьи OpenAI о природе галлюцинаций языковых моделей. Почему модели уверенно «выдумывают» факты, как это связано с предсказанием следующего слова и почему традиционные метрики только усиливают проблему?

https://habr.com/ru/articles/945162/

#галлюцинации_ИИ #языковые_модели #gpt5 #машинное_обучение #предсказание #точность #неопределенность #ошибки #оценки

[Перевод] Почему языковые модели «галлюцинируют»

Команда AI for Devs подготовила перевод статьи OpenAI о природе галлюцинаций языковых моделей. Почему модели уверенно «выдумывают» факты, как это связано с предсказанием следующего слова и почему традиционные метрики только усиливают проблему?

https://habr.com/ru/articles/945162/

#галлюцинации_ИИ #языковые_модели #gpt5 #машинное_обучение #предсказание #точность #неопределенность #ошибки #оценки

ИИ-агенты: как автономные системы меняют бизнес в 2025 году

Многообразие решений на базе искусственного интеллекта быстро растет — на смену простым чат-ботам и ассистентам приходят автономные ИИ-агенты, способные самостоятельно планировать и выполнять сложные задачи. Согласно последним исследованиям, включая Artificial Intelligence Index Report 2025, уже 78% компаний активно используют ИИ-решения, а эксперты IEEE прогнозируют, что к 2030 году эта технология станет ключевым драйвером цифровой экономики. Стремительный рост наблюдается и в России, где рынок ИИ, по оценкам Statista, к 2031 году может превысить 20 млрд долларов при ежегодном росте на 26%.

https://habr.com/ru/companies/pt/articles/933040/

#ииагенты #виртуальные_помощники #отравление_памяти #галлюцинации_ии

Использование больших языковых моделей (LLM) в Access Management

Может ли искусственный интеллект революционизировать управление доступом? Есть ли подводные камни? Высокие затраты, риск «галлюцинаций», производительность в реальном времени, эффективность - что перевешивает? В данной статье мы разберемся, как можно применить LLM к управлению доступом для повышения эффективности и стоит ли.

https://habr.com/ru/articles/915564/

#access_management #llm #большие_языковые_модели #аутентификация #авторизация #аудит_безопасности #машинное_обучение #галлюцинации_ии #large_language_models #ai

Использование больших языковых моделей (LLM) в Access Management

Может ли искусственный интеллект революционизировать управление доступом? Есть ли подводные камни? Высокие затраты, риск «галлюцинаций», производительность в реальном времени, эффективность - что перевешивает? В данной статье мы разберемся, как можно применить LLM к управлению доступом для повышения эффективности и стоит ли.

https://habr.com/ru/articles/915564/

#access_management #llm #большие_языковые_модели #аутентификация #авторизация #аудит_безопасности #машинное_обучение #галлюцинации_ии #large_language_models #ai

Использование больших языковых моделей (LLM) в Access Management

Может ли искусственный интеллект революционизировать управление доступом? Есть ли подводные камни? Высокие затраты, риск «галлюцинаций», производительность в реальном времени, эффективность - что перевешивает? В данной статье мы разберемся, как можно применить LLM к управлению доступом для повышения эффективности и стоит ли.

https://habr.com/ru/articles/915564/

#access_management #llm #большие_языковые_модели #аутентификация #авторизация #аудит_безопасности #машинное_обучение #галлюцинации_ии #large_language_models #ai

Использование больших языковых моделей (LLM) в Access Management

Может ли искусственный интеллект революционизировать управление доступом? Есть ли подводные камни? Высокие затраты, риск «галлюцинаций», производительность в реальном времени, эффективность - что перевешивает? В данной статье мы разберемся, как можно применить LLM к управлению доступом для повышения эффективности и стоит ли.

https://habr.com/ru/articles/915564/

#access_management #llm #большие_языковые_модели #аутентификация #авторизация #аудит_безопасности #машинное_обучение #галлюцинации_ии #large_language_models #ai

Где ИИ врёт и как с этим жить — мой гайд после фейлов

Устал от багов нейросети. Решил разобраться в алгоритмах ИИ-галлюцинаций, как они влияют на работу, и в конце оставил гайд с рекомендациями по написанию промптов для генерации кода, текста и изображений .

https://habr.com/ru/companies/minerva_media/articles/912900/

#ии #иимодель #нейросеть #галлюцинации_ии #промпты #генерация #генерация_кода #код #баги #вероятность

Как я не дал ИИ сойти с ума: гайд по промптам и багам

ИИ часто выдумывает вместо того, чтобы проверять. В статье — почему нейросети галлюцинируют, примеры «дорогих» ошибок, и промпты для тех, кто работает с кодом, текстами и дизайном.

https://habr.com/ru/companies/minerva_media/articles/910844/

#ии #нейросеть #галлюцинации #галлюцинации_ии #промты #генерация #генерация_кода #код #баги #вероятность

[Перевод] Когда ИИ становится троянским конем: 43% «галлюцинированных» имен пакетов регулярно повторяются в сгенерированном коде

AI-помощники регулярно "галлюцинируют" несуществующие пакеты, а злоумышленники используют эти имена для размещения вредоносного кода в репозиториях. Исследования показывают, что 5.2% рекомендаций пакетов от коммерческих моделей не существуют, а для open-source моделей этот показатель достигает 21.7%. Эта техника, названная "слопсквоттингом" (slopsquatting), особенно опасна в эпоху "vibe coding", когда разработчики безоговорочно доверяют рекомендациям AI.

https://habr.com/ru/articles/901198/

#искусственный_интеллект #кибербезопасность #slopsquatting #разработка #галлюцинации_ии #npm #pypi #vibecoding