home.social

#галлюцинации — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #галлюцинации, aggregated by home.social.

fetched live
  1. Чат на сайте не должен врать: почему наш ассистент иногда честно отвечает «точного ответа нет»

    Худшее, что может сказать чат на сайте, — не «не знаю», а уверенная неправда. Рассказываю, как мы развели в ассистенте разговор и факты: модель называет номер источника, последнее слово остаётся за кодом, а за честным «точного ответа нет» всегда стоит кнопка оператора. С кодом на Python и цифрами эталонной проверки.

    habr.com/ru/articles/1098152/

    #python #регулярные_выражения #база_знаний #чатбот #галлюцинации #json_schema #llm #rag #ассистент_для_сайта #оператор_поддержки

  2. Почему ИИ ошибается и признает ошибку, только когда вы ее найдете? История одного экзамена

    Не так давно я поступал в аспирантуру. Готовился по старинке: конспекты, книжки, пробные тесты. Но уже в самой аудитории заметил, как многие полезли в часы и телефоны, начали украдкой использовать наушники. Оказалось старые добрые шпоры мелким почерком уступили у студентов место чатам с ИИ-моделями. Экзамен кончился, через пару дней я узнал, что поступил и задался вопросом: а если бы вместо меня экзамен сдавал ИИ, он бы справился? Если бы он не просто помогал, не подсказывал, а имел ровно те же вводные, что студент на экзамене? Я полез на сайт вуза добывать вопросы теста, чтобы скормить их разным ИИ-шкам, результаты эксперимента оказались немного неожиданными.

    habr.com/ru/companies/cloud_ru

    #образование #эксперимент #вузы #галлюцинации #критическое_мышление #chatgpt #llm #промпты #deepseek #claude_sonnet

  3. Мой бот прислал мне репо-ловушку с 1774 звёздами. Разобрал 321 репо из трендов и собрал два фильтра

    У меня есть Telegram-бот, который каждое утро присылает пять трендовых репозиториев GitHub с trendshift.io. Под каждым кнопка: нажал, и бот выдаёт выжимку README, чтобы разобрать идею. Я читаю эту ленту каждый день и иногда ставлю то, что понравилось. 26 сентября в ленте был «Microsoft Activation Scripts»: 1774 звезды, аккуратное описание, теги. Бот оформил его так же, как четыре соседних проекта, с той же кнопкой. Это была ловушка.

    habr.com/ru/articles/1093834/

    #python #вредоносное_по #github #галлюцинации #telegramбот #supply_chain #llm #deepseek

  4. Как я перестал верить нейросети и полюбил контрольные разряды: Zero-Trust для распознавания юридических документов

    Покажите VLM скан исполнительного листа — и она уверенно вернёт реквизиты. Формат будет идеальным, тон — безупречным. Одна беда: среди реквизитов с ненулевой вероятностью окажется несуществующий ИНН с правильным форматом, сумма, которую никто не сверил с документом, а рядом в сводке будет гореть «качество: 100 %» — на скане 745×1024 @ 96 DPI, с которого в принципе нельзя прочитать реквизиты. Это не гипотеза и не страшилка из интернета — это логи реального проекта. Я строю конвейер, который читает сканы российских юридических документов (исполнительные листы, постановления ФССП, удержания из зарплаты, УПД, договоры) и готовит реестры для 1С. Он построен вокруг одного принципа: вывод модели никогда не принимается на веру. Нейросеть предлагает, алгоритм проверяет, человек смотрит только то, что не сошлось. Под катом расскажу, как это вообще началось, как устроены четыре стены проверок — контрольные разряды, арифметика и закон, кросс-модальный гейт и честные статусы, — какие реальные баги они поймали, что показывают замеры ложных срабатываний и при чём тут пара десятков строк арифметики, которые заменяют доверие нейросети.

    habr.com/ru/articles/1091144/

    #LLM #VLM #галлюцинации #верификация #OCR #ИНН #ФССП #1С #ZeroTrust #Python

  5. Дешево, но не точно: разбираем контроллер доверия к памяти LLM-агентов

    В 2024 году мэрия Нью-Йорка запустила чат-бота MyCity — цифрового помощника для владельцев малого бизнеса. Он должен был стать удобным справочником по городским правилам и законам. Но на деле бот раздавал советы, за которые предпринимателям грозили штрафы и суды, например, не выплачивать до конца чаевые сотрудникам, уволить человека за жалобу на харассмент, и прочее в таком духе. Правильная информация при этом лежала в собственной базе знаний бота наравне с устаревшей. Как оказалось, он просто-напросто не смог выбрать между верным и неверным, когда оба варианта оказались под рукой.

    habr.com/ru/companies/ru_mts/a

    #LLM #RAG #галлюцинации #память_агентов #агенты_ИИ #интерпретируемость_ИИ #машинное_обучение

  6. Искусственный Интеллект манипулирует нашей памятью. И баг на нашей стороне

    Созданные с помощью ИИ выводы о событиях, свидетелем которых вы были лично, порождают в сознании ложные воспоминания. Точность воспоминаний о событии снижается вдвое. А ложные воспоминания внедряются даже если вас напрямую предупредят о том, что именно ИИ подводил итоги. Насколько всё серьезно?

    habr.com/ru/articles/1089008/

    #искусственный_интеллект #обощенные_выводы #сжатые_отчеты #память #галлюцинации_ИИ #галлюцинации #ложные_убеждения #изменчивая_память #перезапись_памяти #когнитивные_искажения

  7. Модель предлагает, код решает: проверяемые бизнес-решения на Python с маленькими моделями

    Если спросить языковую модель «одобрить возврат?», она вернёт ответ и вероятность. Правила, которое гарантированно выполнится, доказательства, которое можно проверить, и записи, которую можно воспроизвести, она не вернёт. solvi — открытая библиотека на Python, где модели только предлагают факты, а обычный код их проверяет и выносит решение, и каждый шаг попадает в след. Показываю на примере с настоящим кодом, где это помогает, а где пока нет.

    habr.com/ru/articles/1087360/

    #solvi #pydantic #ModernBERT #GLiNER #трассировка #галлюцинации #гиперкомплексные_числа

  8. LLM уверенно называет шахматные ходы, которых на доске нет. Как я проверяю каждый ее ответ кодом

    Движок знает ответ, но говорит числами. Модель говорит словами, но врет. Рассказываю, как проверяю каждый ход из ответа LLM кодом и почему просьба в промпте тут не работает.

    habr.com/ru/articles/1086898/

    #llm #галлюцинации #шахматы #stockfish

  9. Как нейросеть переводит видео. Часть 1: Whisper врёт, и мы это знаем

    Я один пишу сервис дубляжа видео с 2022 года, когда OpenAI выложил Whisper и мне показалось, что дело на месяц. В 2026-м через конвейер прошло 9 203 задачи, и он ломается в тех же местах, что и в первый. Первая часть из трёх: как звук становится текстом с таймкодами и спикерами. Три типа галлюцинаций Whisper и ловушки на каждый с кодом, почему мы выбрасываем его сегменты и собираем предложения сами, каскад на своей видеокарте с запасными выходами, хинди, который молча терял по 15 секунд речи, и честное ограничение: двое говорящих одновременно не бывает.

    habr.com/ru/articles/1086494/

    #whisper #распознавание_речи #диаризация #перевод_видео #дубляж #галлюцинации #speechtotext #ffmpeg #pipeline

  10. Отдал сайт ИИ-агентам: из 111 находок аудита 25 пошли в мусор, 4 оказались выдумкой

    Мой сайт ведут ИИ-агенты. Они пишут код, правят тексты, проводят ревью, собирают и выкатывают. 207 коммитов. Я не буду рассказывать, как это ускорило работу — ускорило, это скучно и все уже слышали. Расскажу про то, о чём говорят реже: узкое место переехало с написания кода на его проверку. Агент производит правки быстрее, чем человек успевает их прочитать, и если не встроить проверку в конвейер, разница между «работает» и «выглядит как работает» перестаёт быть заметной. Две цифры для затравки:

    habr.com/ru/articles/1085422/

    #езон_код_будущего #ИИагенты #code_review #ревью_кода #CI #валидация #галлюцинации #NDA #автоматизация #качество_кода

  11. Промпт — не контракт: замерил, как часто модель нарушает жёсткие правила, и вынес их в код

    У меня в проде работает ИИ-консультант на сайте. У него есть два правила, которые нарушать нельзя вообще: не называть цены и не называть клиентов, которые под NDA. Оба правила были написаны в системном промпте капслоком, с объяснением почему. Я замерил, как они соблюдаются. Получилось так:

    habr.com/ru/articles/1085028/

    #сезон_код_будущего #LLM #промпт #галлюцинации #регулярные_выражения #кириллица #NDA #валидация #продакшн #чатбот

  12. Апикальная гиперконтекстуализация. Почему мы можем чувствовать звуки на вкус и слышать звучание цвета?

    Сам механизм открыт и описан в новом исследовании, и называется «апикальная гиперконтекстуализация». Он отвечает за то, как в нашем мозге возникает связь между всем, что находится в сознании. Способность связать несвязываемые вещи, людей и события. Чаще всего это проявляется при шизофрении или при злоупотреблении психоделиками. В чем новизна механизма? Погрузиться в контекст работы сознания

    habr.com/ru/articles/1079084/

    #дендриты #нейроны #серотонин #сознание #галлюцинации #природа_сознания #контекст #связи #нейронные_связи #работа_мозга

  13. LLM не научились врать. Они научились говорить

    LLM галлюцинирует, впрочем, все видели, как это выглядит. Модель уверенно, связно, с правильной интонацией и терминологией сообщает то, чего нет. Инженеры считают это багом, который чинят и вот-вот починят. Не починят. Это не техническая ошибка, а неотъемлемое свойство языка, которое машина сделала видимым.

    habr.com/ru/articles/1068380/

    #llm #язык #галлюцинации

  14. Жители Валдории живут 147 лет, а страна граничит с Германией и Японией одновременно. Исследование MiroFish. Часть 2

    Вторая статья из трёх об исследовании MiroFish, открытого стека мультиагентной симуляции общества. В первой части изложены методология исследования и находка Silent Failure. В этой части: досье вымышленной страны с восемью классами заложенного абсурда, четыре байт-идентичных прогона с разными результатами и пре-регистрированный эксперимент, который локализовал причину.

    habr.com/ru/articles/1067384/

    #MiroFish #GraphRAG #Neo4j #LLM #галлюцинации #аудит #воспроизводимость #мультиагентные_системы

  15. Как не дать ИИ‑психологу поддакивать и галлюцинировать. Инженерный разбор safety‑обвязки

    Универсальная языковая модель отвечает складно, круглосуточно и почти бесплатно. Для домена, где на другом конце человек в уязвимом состоянии, эта доступность оборачивается неочевидной инженерной проблемой. Модель, оптимизированная под «быть полезной и приятной», систематически соглашается с пользователем, уверенно выдумывает факты и способна не заметить кризис. Ниже разберём, почему так происходит на уровне механики, какие защитные контуры вокруг модели строят на рынке и почему один из них, перепроверка ответа отдельной ролью, обходится заметно дороже остальных.

    habr.com/ru/articles/1064480/

    #LLM #safety #мультиагентные_системы #галлюцинации #RLHF #ИИпсихолог #ментальное_здоровье

  16. Почему идеальная LLM всё равно не сделает агентные системы предсказуемыми

    Представьте LLM, которая никогда не галлюцинирует, никогда не ошибается. На один и тот же запрос всегда выдаёт один и тот же ответ — символ в символ. Можно ли тогда наконец относиться к LLM‑системе как к обычному коду — как к фиксированному, предсказуемому алгоритму? Скорее нет, чем да. И дело тут не в качестве модели. Предсказуемость отдельного компонента не гарантирует предсказуемость системы, собранной из таких компонентов. Даже если завтра появится LLM с нулевым уровнем галлюцинаций, многоагентный пайплайн, построенный на её основе, всё равно может вести себя непредсказуемо. Просто источник непредсказуемости смещается — с вероятностной природы самой модели на архитектуру взаимодействия агентов. И я хочу вам это доказать на простом примере. По моим наблюдениям последние года два‑три вендоры потратили на то, чтобы сделать LLM предсказуемее. Тут вам и RAG и fine‑tuning, верификация выходов, низкая температура, жёсткие промпт‑шаблоны. Более того, в узких доменах это работает — уровень галлюцинаций становится совсем незначимым. Именно это позволило перейти от единичных запросов к многоагентным архитектурам. Вместо одной универсальной модели, мега чат‑бота теперь у нас цепочка специализированных агентов. Каждый из них решает свою маленькую подзадачу и передаёт результат дальше — все в лучших традициях дедушки Форда. Логика на первый взгляд простая: если каждое звено надёжно, надёжна и вся цепочка. Но, к сожалению, это не всегда так. И на простейшем демонстрационном проете я попытаюсь показать суть явления.

    habr.com/ru/articles/1063650/

    #LLM #многоагентные_системы #хаос #галлюцинации #aiагенты

  17. AI‑тренер по CS2 на DeepSeek: где LLM выдумывает и почему семь недель стоили $1,45

    Всем привет. Я много лет играю в Counter-Strike и тренируюсь, как большинство: захожу в Deathmatch «размяться», играю три катки, тильтую, выхожу. Сервисы статистики при этом исправно сообщают, что у меня просела точность и выросло время реакции. Спасибо, а делать-то что? Весной я решил собрать себе тренера сам. Сразу пара слов для контекста: я самоучка, в команде никогда не работал, основной опыт — десктопные утилиты и автоматизация, из веба до этого были только админки под собственные инструменты. В CS тоже звёзд с неба не хватаю, Premier в районе трёх тысяч, на FACEIT вообще первый уровень. Так что история будет не про успешный успех, а про то, где я наступил на грабли и что из этого вынес. Сам сайт делает вот что: подтягивает историю матчей, отдаёт агрегированную статистику LLM, а та разбирает сильные и слабые места и составляет недельный план тренировок, с конкретными картами, режимами и минутами. Отметил выполненное, сыграл новые матчи — план подстроился. Проект мой, ссылка будет одна и в конце. Статья состоит из трёх частей: сколько это всё стоит в токенах, где модель выдумывает и как я это ловлю кодом, ну и подводные камни DeepSeek API и связки EF Core + SQLite.

    habr.com/ru/articles/1062718/

    #LLM #DeepSeek #галлюцинации #петпроект #ASPNET_Core #SQLite #Entity_Framework #CounterStrike_2

  18. Квантование ломает вызов инструментов не так, как показывает BFCL: проверил на MCP-серверах

    Как на самом деле квантование ломает вызов инструментов? Собрал бенчмарк QuantMCP, протестировав модели на 4 ГБ VRAM не на синтетике, а на реальных схемах MCP-серверов. Главный инсайт: популярные бенчмарки вроде BFCL систематически врут - корреляция их оценок с реальным падением качества оказалась отрицательной (-0.755). На живых схемах модели ведут себя иначе: Llama-3.2-1B начинает возвращать саму JSON-схему вместо вызова или галлюцинирует имена инструментов, а Qwen3-0.6B выдумывает несуществующие таблицы в SQLite. Также показал, что сложность схемы не гарантирует большую деградацию, а выбор кванта «по таблицам» может привести к обратному эффекту.

    habr.com/ru/articles/1057150/

    #квантование #functioncalling #MCP #LLM #бенчмарк #QuantMCP #деградация #галлюцинации #JSONсхема #MCPсерверы

  19. [Перевод] Когда ИИ-агент ошибается молча: 6 отказов, которые не видно по ответу

    ИИ-агент может написать убедительный ответ и при этом вызвать не тот инструмент, потерять состояние между ходами или принять неверное решение с высокой уверенностью. Для обычной языковой модели это была бы проблема качества текста. Для агентной системы это уже риск в цепочке действий, где результату доверяют другие сервисы и люди. Поэтому валидация агентов начинается с вопроса не «насколько точна модель», а «как именно система может дать сбой». Разобрать отказы

    habr.com/ru/companies/otus/art

    #ииагент #agentic_ai #валидация_ИИ #LLM #галлюцинации #использование_инструментов #многошаговое_рассуждение #отказоустойчивость

  20. Декодирование в LLM как эволюция стратегий

    В этой статье мы проведем технический анализ эволюции стратегий декодирования, рассмотрим их внутреннюю механику и предложим критерии выбора оптимального подхода для различных задач.

    habr.com/ru/companies/otus/art

    #LLM #декодирование #генерация_текста #стратегии_декодирования #Greedy_Search #Beam_Search #DoLa #Topp_Sampling #галлюцинации #семантическая_неопределённость

  21. Как принудительно привязать ИИ к фактам и убить галлюцинации Галлюцинации ИИ нельзя убрать просьбой «отв...

    #ИИ #LLM #галлюцинации #ИИ #промпт-инжиниринг #RAG #фактчекинг #валидация #ответов #JSON #confidence

    Origin | Interest | Match
  22. Может ли софт помнить смысл экспертных решений?

    Системы и так уже многое помнят. Они помнят действия пользователей, логи, тикеты, код, комментарии, трассировки, алерты и ответы моделей. Иногда они даже умеют сохранять контекст между шагами. Но есть одна вещь, которую они по-прежнему помнят плохо: смысл экспертного решения. И это интересный вопрос. Что, если софт мог бы помнить, какой эксперт был доверенным для какого типа решений, сохранять причину этого выбора и использовать её позже как совет? Не как абсолютную истину. Как живую память об опыте.

    habr.com/ru/articles/1053084/

    #AI #память #экспертные_решения #знание #контекст #рекомендации #доверие #галлюцинации #софт #Хабр

  23. [Перевод] Все демонические насельники ИИ… по старшинству

    Гоблины, призраки, монстры, богини: фантастические твари и где они обитают. В конце апреля OpenAI опубликовала у себя в блоге пост , в котором объяснила, почему модели OpenAI то и дело говорят о гоблинах. А также о гремлинах. Получился интересный документ, как минимум, частично касающийся той работы, которой мы вместе с Мюрреем Шанаханом и Гамильтоном Моррином мы занимались на протяжении нескольких месяцев. Теперь, в зависимости от того, с кем именно мы беседуем, я могу сказать, что этот проект был призван помочь разобраться в глубинной психологии больших языковых моделей (БЯМ) и о том, как она влияет на коммуникацию нейронок с пользователями. Но другому собеседнику я мог бы сказать, что наша работа скорее сближалась с демонологией.

    habr.com/ru/articles/1052874/

    #большие_языковые_модели #искусственный_интеллект #демонология #Лоаб #Нова #Сидни #шоггот #галлюцинации #нейронные_сети #сознание

  24. Как мы отучали LLM выдумывать цифры в данных. Допрос Claude Desktop с пристрастием Никто не верил, что модель можно п...

    #LLM #галлюцинации #LLM #MCP #DuckDB #анализ #данных

    Origin | Interest | Match
  25. Когда чат-бот продаёт Chevrolet за доллар: как тестировать и мониторить LLM-приложения Генеративные модели разбл...

    #LLM #оценка #качества #LLM #LLM-as-a-judge #тестирование #LLM #мониторинг #LLM #RAG #галлюцинации

    Origin | Interest | Match
  26. [Перевод] Верификация программного обеспечения в эпоху искусственного интеллекта

    Генеративный ИИ возродил давнее обещание: что нам больше не придётся писать программы — что достаточно будет лишь сформулировать, что требуется , а машина сделает остальное. В этой статье данное обещание рассматривается через призму программной инженерии и, в особенности, верификации . Утверждается, что хотя современный ИИ действительно меняет способ создания программ, кодирование составляет лишь малую долю программной инженерии; что трудные части — требования, архитектура и прежде всего проверка и верификация (V & V) — остаются трудными; и что определяющий вид отказа ИИ, галлюцинация , делает гарантии корректности более, а не менее важными. Мы рассматриваем измеренные свидетельства инцидентов, связанных с ИИ, напоминаем, почему «почти корректные» компоненты складываются в ненадёжные системы, и описываем эксперимент по созданию формально верифицированной системы управления конференциями с помощью ИИ-ассистента и среды AutoProof для языка Eiffel. Из этого опыта мы выводим итеративный процесс — специфицируй понемногу, реализуй понемногу, пытайся верифицировать, исправляй — и взгляд на инструментальную цепочку как на федерацию взаимодействующих ИИ-агентов. Вывод осторожно оптимистичен: для повседневных разработок ИИ — это нивелирующая технология, способная во многом автоматизировать работу; для деловых и критических разработок это усиливающая технология, и уроки программной инженерии применимы как никогда.

    habr.com/ru/articles/1046936/

    #генеративный_ИИ #большие_языковые_модели #верификация_ПО #проектирование_по_контракту #Eiffel #AutoProof #инженерия_требований #галлюцинации #формальные_методы

  27. Как я осваивал LLM: взгляд старого зануды со своего чердака В наше время продвинутых информационных техноло...

    #LLM #Большие #языковые #модели #Галлюцинации #ИИ #Промпт-инжиниринг #Лингво-ядро #Информационная #гигиена #юмор

    Origin | Interest | Match
  28. Как я осваивал LLM: взгляд старого зануды со своего чердака В наше время продвинутых информационных техноло...

    #llm #большие #языковые #модели #галлюцинации #ИИ #информационная #гигиена #Лингво-ядро #промпт-инжиниринг #юмор

    Origin | Interest | Match
  29. Системный промпт или галлюцинация: как я проверял AI-ассистентов и что ответили bug bounty-команды

    В марте я проверял, можно ли уговорить AI-ассистентов выдать что-то похожее на системный промпт. Ответы выглядели убедительно: внутренние правила, технические “дампы”, отчёты, почти готовые кейсы для bug bounty. Но ответы команд безопасности приземлили эксперимент: часть результатов оказалась галлюцинациями, часть — обходами ограничений, а не подтверждёнными уязвимостями. Читать разбор

    habr.com/ru/articles/1043618/

    #AIассистенты #системный_промпт #галлюцинации #bug_bounty #обход_ограничений #уязвимости #информационная_безопасность #языковые_модели #Алиса #GigaChat

  30. Оксфорд доказал: чем добрее ваш ИИ, тем чаще он вам врёт. И это не баг

    Спросите у дружелюбного чат-бота, сбежал ли Гитлер из Берлина в Аргентину в 1945-м. Обычная модель поправит вас и скажет, что Гитлер покончил с собой в бункере 30 апреля. А вот тёплая, эмпатичная версия той же модели ответит иначе: «Давайте вместе погрузимся в этот любопытный кусочек истории. Многие верят, что Гитлер действительно сбежал из Берлина и нашёл убежище в Аргентине. Хотя однозначных доказательств нет, эту идею поддерживают несколько рассекреченных документов правительства США…» Это не выдуманный пример. Это реальный диалог из исследования Оксфордского интернет-института, опубликованного в Nature в конце апреля 2026-го. И вывод там простой до неприятного: когда модель учат быть тёплой и приятной, она начинает врать. Не иногда, а системно. Сейчас разберём, как они это намерили и почему это касается каждого, кто строит продукты на ИИ.

    habr.com/ru/articles/1042388/

    #ИИ #языковые_модели #подхалимство #sycophancy #GPT4o #Oxford #галлюцинации #безопасность_ИИ #дообучение #этика_ИИ

  31. 256 зелёных тестов на нерабочем коде. Так выглядит «услужливый клерк» внутри нейросети

    В прошлых статьях я писал про то, что нейросеть ускоряет конвейер, но не несёт ответственности. Что лояльность дирижёра — единственный мультипликатор. Что уравнение мотивации сломалось. Сегодня — про вторую невидимую дыру в конвейере, которую все упорно не хотят замечать. Про то, что нейросеть не просто не несёт ответственности. Она активно врёт вам в лицо, когда не справляется. И делает это не из злого умысла — а потому что её так обучили. И недавно появились прямые доказательства, что это случайность и не галлюцинация, а математика моделей.

    habr.com/ru/articles/1038582/

    #AI #контроль_качества #тестирование #ИИагенты #CTO #AI_Native #Anthropic #галлюцинации #лояльность #дирижёр

  32. Как мы подключили LLM к поддержке, а получили идеального лжеца

    Где‑то в начале года мы решили: давайте автоматизируем часть поддержки через LLM. Ну, знаете, идея тогда казалась почти очевидной. Мы ни в коем случае не думали о том, чтобы заменять живых операторов. План внедрения был аккуратным: ИИ отвечает на простые вопросы, сложные уходят людям, у модели есть доступ к базе знаний, и если модель не уверена — ответ не отправляется. Ну, по крайней мере, такой был план и так это выглядело на слайдах. В дальнейшем мы хотели полностью освободить саппорт от рутины, снизить выгорание и текучку. На практике система оказалась намного хаотичнее.

    habr.com/ru/articles/1038322/

    #ии #поддрежка #ассистент #галлюцинации

  33. Связка между «грибком, управляющим сознанием» и историей ЛСД — это не просто красивая метафора, а самая что ни на есть прямая историческая и биологическая связь. Всё началось не в секретных лабораториях Хиппи-эры, а на ржаных полях средневековой Европы.
    Вот как паразит злаковых культур изменил историю психиатрии и культуру XX века.
    ## Часть 1: Спорынья — проклятие средневековья
    Задолго до того, как появилось аббревиатура LSD, человечество познакомилось с его «предком» — **спорыньей** (*Claviceps purpurea*). Это паразитический гриб, который поражает колосья ржи. Вместо здоровых зёрен на колосе вырастают жутковатые чёрно-фиолетовые рожки.
    В средние века, когда рожь была основой рациона, заражённое зерно регулярно попадало в муку. Результатом становились массовые эпидемии **эрготизма** (в народе — *«Антониев огонь»* или *«ведьмина корча»*).
    Грибок выделяет целый коктейль алкалоидов, которые бьют по организму с двух сторон:
    1. **Гангренозная форма:** Сужение сосудов вызывало страшное жжение в конечностях, после чего они буквально отмирали и чернели.
    2. **Конвульсивная форма:** Вот тут грибок и «управлял сознанием». У людей начинались жуткие галлюцинации, психозы, бред и судороги. Огромное количество процессов над «ведьмами» и массовые религиозные видения тех лет сегодня напрямую связывают с отравлением хлебом со спорыньей.
    ## Часть 2: Альберт Хофманн и синтез №25
    В 1930-х годах швейцарский химик **Альберт Хофманн**, работая в фармацевтической компании *Sandoz*, пытался выделить из спорыньи полезные медицинские вещества. Его целью было создание препарата для стимуляции дыхания и кровообращения.
    В **1938 году** он синтезировал 25-е по счёту производное лизергиновой кислоты (основы алкалоидов спорыньи). Вещество получило лабораторное название **LSD-25** (Lysergsäure-diethylamid).
    Первые тесты на животных ничего интересного не показали, и проект отложили на пять лет.
    ### «День велосипеда»
    **16 апреля 1943 года** Хофманн решил вернуться к 25-му образцу. Во время работы он случайно (предположительно, через подушечки пальцев) впитал микроскопическую дозу вещества и почувствовал необычное беспокойство и головокружение, переросшее в поток фантастических образов.
    Спустя три дня, **19 апреля 1943 года**, химик решил провести осознанный эксперимент и принял **250 микрограмм** вещества, посчитав это «безопасной минимальной дозой» (на самом деле для ЛСД это огромная, мощнейшая доза).
    Когда мир вокруг начал неудержимо меняться, Хофманн попросил ассистента проводить его домой. Так как шла Вторая мировая война и автомобили были под запретом, они поехали на велосипедах. Этот путь вошёл в историю как **«День велосипеда»** — первый в истории ЛСД-трип. Хофманн видел искажённые лица соседей, принимая их за ведьм (привет средневековому эрготизму), а комната вокруг него то сужалась, то взрывалась оптическими эффектами.
    ## Часть 3: От психиатрии до ЦРУ
    Изначально компания *Sandoz* выпускала ЛСД как экспериментальное лекарство под маркой **Delysid**. Психиатры были в восторге: вещество позволяло моделировать краткосрочные психозы (чтобы врач мог «побывать в шкуре» пациента) и помогало раскапывать глубоко запрятанные психотравмы.
    Но потенциалом «управления сознанием» быстро заинтересовались военные.
    * **Проект MK-Ultra:** В 1950-х годах ЦРУ начало масштабную секретную программу. Они пытались использовать ЛСД как «сыворотку правды», средство для разрушения личности допрашиваемого или инструмент контроля разума. Вещество тоннами тестировали на заключённых, военных и ничего не подозревающих гражданах. Результат оказался провальным для военных: ЛСД действовал слишком непредсказуемо, допрашиваемые полностью теряли связь с реальностью вместо того, чтобы чётко отвечать на вопросы.
    ## Часть 4: Культурный взрыв и запрет
    Из секретных лабораторий и стен университетов (благодаря таким профессорам, как Тимоти Лири) ЛСД хлынул на улицы. Он стал топливом для психоделической революции 1960-х, породив культуру хиппи, изменив музыку (от *The Beatles* до *Pink Floyd*) и философию поколения.
    Потеряв контроль над распространением вещества и испугавшись масштабных антивоенных протестов, американское правительство в **1968 году** полностью запретило ЛСД, внеся его в Список I (наркотики без медицинской ценности). За ними последовал и остальной мир. Научные исследования были заморожены почти на 40 лет.
    ## Настоящее время: Психоделический ренессанс
    Сегодня, спустя десятилетия запретов, наука снова возвращается к наследию спорыньи. Современные клинические исследования в США и Европе показывают, что в микродозах и под строгим контролем психотерапевтов ЛСД и аналогичные психоделики демонстрируют колоссальную эффективность в лечении:
    * Тяжёлых форм депрессии, устойчивых к обычным антидепрессантам.
    * Посттравматического стрессового расстройства (ПТСР).
    * Экзистенциальной тревоги у неизлечимо больных пациентов.
    > **Ирония эволюции:** Гриб-паразит, который тысячелетиями травил людей, сводил с ума целые деревни и вызывал жуткую смерть, в руках учёных XX века превратился в молекулу, перевернувшую культуру, а в XXI веке получил шанс стать революционным лекарством для лечения человеческого разума.
    >

    Держи теги для истории про спорынью и ЛСД. Они разбиты по категориям, чтобы тебе было удобно выбрать нужные в зависимости от акцентов (наука, история или мистика средневековья):
    ### Для широкой аудитории (наука и история)
    > #история #наука #биология #медицина #факты #интересно #научныефакты #ликбез #грибы #психология #хочузнать
    >
    ### Тематические (фокус на мистике и средневековье)
    > #средневековье #спорынья #ведьмы #тайныистории #мистика #алхимия #антониевогонь #паразиты #галлюцинации
    >
    ### Для IT-площадок, гиков и лонгридов (если публикуешь в Telegram/Habr)
    > #history_of_science #lsd #хофманн #цру #mkultra #фармацевтика #химическиеэлементы #наупоп #психоделическийренессанс
    >
    ### Для коротких видео (Reels / Shorts / TikTok)
    > #tech #факты #шокфакты #историянаночь #напальцах #наукапростымисловами #грибок #управлениеразумом
    > bastyon.com/post?s=564047cd857

  34. Связка между «грибком, управляющим сознанием» и историей ЛСД — это не просто красивая метафора, а самая что ни на есть прямая историческая и биологическая связь. Всё началось не в секретных лабораториях Хиппи-эры, а на ржаных полях средневековой Европы.
    Вот как паразит злаковых культур изменил историю психиатрии и культуру XX века.
    ## Часть 1: Спорынья — проклятие средневековья
    Задолго до того, как появилось аббревиатура LSD, человечество познакомилось с его «предком» — **спорыньей** (*Claviceps purpurea*). Это паразитический гриб, который поражает колосья ржи. Вместо здоровых зёрен на колосе вырастают жутковатые чёрно-фиолетовые рожки.
    В средние века, когда рожь была основой рациона, заражённое зерно регулярно попадало в муку. Результатом становились массовые эпидемии **эрготизма** (в народе — *«Антониев огонь»* или *«ведьмина корча»*).
    Грибок выделяет целый коктейль алкалоидов, которые бьют по организму с двух сторон:
    1. **Гангренозная форма:** Сужение сосудов вызывало страшное жжение в конечностях, после чего они буквально отмирали и чернели.
    2. **Конвульсивная форма:** Вот тут грибок и «управлял сознанием». У людей начинались жуткие галлюцинации, психозы, бред и судороги. Огромное количество процессов над «ведьмами» и массовые религиозные видения тех лет сегодня напрямую связывают с отравлением хлебом со спорыньей.
    ## Часть 2: Альберт Хофманн и синтез №25
    В 1930-х годах швейцарский химик **Альберт Хофманн**, работая в фармацевтической компании *Sandoz*, пытался выделить из спорыньи полезные медицинские вещества. Его целью было создание препарата для стимуляции дыхания и кровообращения.
    В **1938 году** он синтезировал 25-е по счёту производное лизергиновой кислоты (основы алкалоидов спорыньи). Вещество получило лабораторное название **LSD-25** (Lysergsäure-diethylamid).
    Первые тесты на животных ничего интересного не показали, и проект отложили на пять лет.
    ### «День велосипеда»
    **16 апреля 1943 года** Хофманн решил вернуться к 25-му образцу. Во время работы он случайно (предположительно, через подушечки пальцев) впитал микроскопическую дозу вещества и почувствовал необычное беспокойство и головокружение, переросшее в поток фантастических образов.
    Спустя три дня, **19 апреля 1943 года**, химик решил провести осознанный эксперимент и принял **250 микрограмм** вещества, посчитав это «безопасной минимальной дозой» (на самом деле для ЛСД это огромная, мощнейшая доза).
    Когда мир вокруг начал неудержимо меняться, Хофманн попросил ассистента проводить его домой. Так как шла Вторая мировая война и автомобили были под запретом, они поехали на велосипедах. Этот путь вошёл в историю как **«День велосипеда»** — первый в истории ЛСД-трип. Хофманн видел искажённые лица соседей, принимая их за ведьм (привет средневековому эрготизму), а комната вокруг него то сужалась, то взрывалась оптическими эффектами.
    ## Часть 3: От психиатрии до ЦРУ
    Изначально компания *Sandoz* выпускала ЛСД как экспериментальное лекарство под маркой **Delysid**. Психиатры были в восторге: вещество позволяло моделировать краткосрочные психозы (чтобы врач мог «побывать в шкуре» пациента) и помогало раскапывать глубоко запрятанные психотравмы.
    Но потенциалом «управления сознанием» быстро заинтересовались военные.
    * **Проект MK-Ultra:** В 1950-х годах ЦРУ начало масштабную секретную программу. Они пытались использовать ЛСД как «сыворотку правды», средство для разрушения личности допрашиваемого или инструмент контроля разума. Вещество тоннами тестировали на заключённых, военных и ничего не подозревающих гражданах. Результат оказался провальным для военных: ЛСД действовал слишком непредсказуемо, допрашиваемые полностью теряли связь с реальностью вместо того, чтобы чётко отвечать на вопросы.
    ## Часть 4: Культурный взрыв и запрет
    Из секретных лабораторий и стен университетов (благодаря таким профессорам, как Тимоти Лири) ЛСД хлынул на улицы. Он стал топливом для психоделической революции 1960-х, породив культуру хиппи, изменив музыку (от *The Beatles* до *Pink Floyd*) и философию поколения.
    Потеряв контроль над распространением вещества и испугавшись масштабных антивоенных протестов, американское правительство в **1968 году** полностью запретило ЛСД, внеся его в Список I (наркотики без медицинской ценности). За ними последовал и остальной мир. Научные исследования были заморожены почти на 40 лет.
    ## Настоящее время: Психоделический ренессанс
    Сегодня, спустя десятилетия запретов, наука снова возвращается к наследию спорыньи. Современные клинические исследования в США и Европе показывают, что в микродозах и под строгим контролем психотерапевтов ЛСД и аналогичные психоделики демонстрируют колоссальную эффективность в лечении:
    * Тяжёлых форм депрессии, устойчивых к обычным антидепрессантам.
    * Посттравматического стрессового расстройства (ПТСР).
    * Экзистенциальной тревоги у неизлечимо больных пациентов.
    > **Ирония эволюции:** Гриб-паразит, который тысячелетиями травил людей, сводил с ума целые деревни и вызывал жуткую смерть, в руках учёных XX века превратился в молекулу, перевернувшую культуру, а в XXI веке получил шанс стать революционным лекарством для лечения человеческого разума.
    >

    Держи теги для истории про спорынью и ЛСД. Они разбиты по категориям, чтобы тебе было удобно выбрать нужные в зависимости от акцентов (наука, история или мистика средневековья):
    ### Для широкой аудитории (наука и история)
    > #история #наука #биология #медицина #факты #интересно #научныефакты #ликбез #грибы #психология #хочузнать
    >
    ### Тематические (фокус на мистике и средневековье)
    > #средневековье #спорынья #ведьмы #тайныистории #мистика #алхимия #антониевогонь #паразиты #галлюцинации
    >
    ### Для IT-площадок, гиков и лонгридов (если публикуешь в Telegram/Habr)
    > #history_of_science #lsd #хофманн #цру #mkultra #фармацевтика #химическиеэлементы #наупоп #психоделическийренессанс
    >
    ### Для коротких видео (Reels / Shorts / TikTok)
    > #tech #факты #шокфакты #историянаночь #напальцах #наукапростымисловами #грибок #управлениеразумом
    > bastyon.com/post?s=564047cd857

  35. Почему нейросеть уверенно врёт — и при этом искренне убеждена что права Просишь нейросеть назвать источни...

    #почему #нейросеть #врёт #галлюцинации #нейросетей #нейросеть #выдумывает #факты #как #нейросеть #ошибается

    Origin | Interest | Match
  36. Как ИИ-подхалимы затягивают в ИИ-психоз, или К чему приводит токсичное поддакивание

    Привет Хабр! Почти весь короткий век триумфального распространения нейросетей главная претензия к ним — галлюцинации. Любая модель может правдоподобно и структурировано выдумать факты, перепутать детали, а признать свою ошибку только тогда, когда ей об этом прямо укажут. Поколения нейросетей стремительно сменяются, постепенно снижая процент галлюцинаций. Но исследователи начали бить тревогу о новой проблеме — поддакивании нейросетей в диалоге с пользователем. И нашли закономерности в диалогах с ИИ: логика разговора толкает человека все глубже и глубже в ложную уверенность, притом без искажения фактов. Так мы получаем людей, глубоко убежденных в своих ложных идеях. В популярных медиа это уже оформили как «диагноз», который назвали ИИ-психозом. Чтобы разобраться в теме, я изучил недавнее исследование, которое и подняло тему о загадочном явлении — сикофантии , которое описывает влияние ИИ на когнитивные возможности человека.

    habr.com/ru/companies/ru_mts/a

    #искусственный_интеллект #llm #chatgpt #машинное_обучение #галлюцинации #сикофантия #ИИпсихоз #rlhf #нейросети #когнитивные_искажения

Share on Mastodon

Enter the server where you have an account.