#бям — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #бям, aggregated by home.social.
-
Astra Studio: enterprise веб-приложение для взаимодействия с ИИ с нуля
Полностью локальное веб-приложение с агентной архитектурой, продвинутым RAG, MCP и мультимодальными возможностями Репозиторий проекта: https://github.com/NeKonnnn/Astra-Studio
https://habr.com/ru/articles/1061052/
#LLM #RAG #Агенты #AI #ИИ #web_app #diarization #transcription #БЯМ #mcp
-
Astra Studio: создаем enterprise веб-приложение для взаимодействия с ИИ с нуля.Часть 1: Архитектура и философия проекта
Astra Studio - веб приложение для взаимодействия с LLM, MCP, RAG, Agents. Статья представляет собой подробный обзор архитектуры и философии проекта Astra Studio — платформы с открытым исходным кодом для создания корпоративных веб-приложений на базе искусственного интеллекта. Основной акцент сделан на решении ключевой проблемы регулируемых отраслей: необходимости внедрения современных больших языковых моделей (LLM) при строгом запрете на передачу данных во внешние облачные сервисы. Автор, Константин Некрасов, объясняет мотивацию создания собственного решения, указывая на недостатки существующих инструментов (Open WebUI, Dify, LangFlow), которые либо не обеспечивают полноценной локальной работы, либо лишены продвинутых функций RAG и корпоративной интеграции. В тексте детально описана микросервисная архитектура системы, состоящая из девяти основных компонентов: Backend на FastAPI: оркестрация агентов, аутентификация, управление проектами. Frontend на React 19 + Material-UI: адаптивный интерфейс с глубокой кастомизацией. Сервис LLM: абстракция над различными провайдерами (Ollama, vLLM, API). Система RAG (два сервиса): векторный поиск (pgvector), лексический поиск (BM25), гибридный и графовый поиск, а также уникальное иерархическое индексирование для больших документов. OCR (Sura OCR): распознавание текста со сканов. Голосовые сервисы: WhisperX (распознавание), диаризация спикеров, Silero TTS (синтез речи). Хранилища: MongoDB, PostgreSQL, MinIO. Особое внимание уделено агентной архитектуре на базе LangGraph, включающей агента-оркестратора и специализированных агентов (работа с документами, память, MCP, планирование). Описана интеграция с протоколом Model Context Protocol (MCP) для подключения внешних систем (GitHub, базы данных, CRM) без изменения кода платформы, а также возможности генерации изображений через ComfyUI. Статья затрагивает вопросы безопасности: интеграцию с LDAP/SSO, JWT-токены, изоляцию данных между проектами, аудит действий и защиту от brute-force атак. Приведены инструкции по развертыванию через Docker Compose, минимальные системные требования и roadmap развития проекта, включая планы по выпуску Helm-чартов для Kubernetes.
https://habr.com/ru/articles/1060596/
#AI #webapp #llm #astrachat #astra_chat #большие_языковые_модели #бям #агенты #rag #mcp
-
Astra Studio: создаем enterprise веб-приложение для взаимодействия с ИИ с нуля.Часть 1: Архитектура и философия проекта
Astra Studio - веб приложение для взаимодействия с LLM, MCP, RAG, Agents. Статья представляет собой подробный обзор архитектуры и философии проекта Astra Studio — платформы с открытым исходным кодом для создания корпоративных веб-приложений на базе искусственного интеллекта. Основной акцент сделан на решении ключевой проблемы регулируемых отраслей: необходимости внедрения современных больших языковых моделей (LLM) при строгом запрете на передачу данных во внешние облачные сервисы. Автор, Константин Некрасов, объясняет мотивацию создания собственного решения, указывая на недостатки существующих инструментов (Open WebUI, Dify, LangFlow), которые либо не обеспечивают полноценной локальной работы, либо лишены продвинутых функций RAG и корпоративной интеграции. В тексте детально описана микросервисная архитектура системы, состоящая из девяти основных компонентов: Backend на FastAPI: оркестрация агентов, аутентификация, управление проектами. Frontend на React 19 + Material-UI: адаптивный интерфейс с глубокой кастомизацией. Сервис LLM: абстракция над различными провайдерами (Ollama, vLLM, API). Система RAG (два сервиса): векторный поиск (pgvector), лексический поиск (BM25), гибридный и графовый поиск, а также уникальное иерархическое индексирование для больших документов. OCR (Sura OCR): распознавание текста со сканов. Голосовые сервисы: WhisperX (распознавание), диаризация спикеров, Silero TTS (синтез речи). Хранилища: MongoDB, PostgreSQL, MinIO. Особое внимание уделено агентной архитектуре на базе LangGraph, включающей агента-оркестратора и специализированных агентов (работа с документами, память, MCP, планирование). Описана интеграция с протоколом Model Context Protocol (MCP) для подключения внешних систем (GitHub, базы данных, CRM) без изменения кода платформы, а также возможности генерации изображений через ComfyUI. Статья затрагивает вопросы безопасности: интеграцию с LDAP/SSO, JWT-токены, изоляцию данных между проектами, аудит действий и защиту от brute-force атак. Приведены инструкции по развертыванию через Docker Compose, минимальные системные требования и roadmap развития проекта, включая планы по выпуску Helm-чартов для Kubernetes.
https://habr.com/ru/articles/1060596/
#AI #webapp #llm #astrachat #astra_chat #большие_языковые_модели #бям #агенты #rag #mcp
-
Astra Studio: создаем enterprise веб-приложение для взаимодействия с ИИ с нуля.Часть 1: Архитектура и философия проекта
Astra Studio - веб приложение для взаимодействия с LLM, MCP, RAG, Agents. Статья представляет собой подробный обзор архитектуры и философии проекта Astra Studio — платформы с открытым исходным кодом для создания корпоративных веб-приложений на базе искусственного интеллекта. Основной акцент сделан на решении ключевой проблемы регулируемых отраслей: необходимости внедрения современных больших языковых моделей (LLM) при строгом запрете на передачу данных во внешние облачные сервисы. Автор, Константин Некрасов, объясняет мотивацию создания собственного решения, указывая на недостатки существующих инструментов (Open WebUI, Dify, LangFlow), которые либо не обеспечивают полноценной локальной работы, либо лишены продвинутых функций RAG и корпоративной интеграции. В тексте детально описана микросервисная архитектура системы, состоящая из девяти основных компонентов: Backend на FastAPI: оркестрация агентов, аутентификация, управление проектами. Frontend на React 19 + Material-UI: адаптивный интерфейс с глубокой кастомизацией. Сервис LLM: абстракция над различными провайдерами (Ollama, vLLM, API). Система RAG (два сервиса): векторный поиск (pgvector), лексический поиск (BM25), гибридный и графовый поиск, а также уникальное иерархическое индексирование для больших документов. OCR (Sura OCR): распознавание текста со сканов. Голосовые сервисы: WhisperX (распознавание), диаризация спикеров, Silero TTS (синтез речи). Хранилища: MongoDB, PostgreSQL, MinIO. Особое внимание уделено агентной архитектуре на базе LangGraph, включающей агента-оркестратора и специализированных агентов (работа с документами, память, MCP, планирование). Описана интеграция с протоколом Model Context Protocol (MCP) для подключения внешних систем (GitHub, базы данных, CRM) без изменения кода платформы, а также возможности генерации изображений через ComfyUI. Статья затрагивает вопросы безопасности: интеграцию с LDAP/SSO, JWT-токены, изоляцию данных между проектами, аудит действий и защиту от brute-force атак. Приведены инструкции по развертыванию через Docker Compose, минимальные системные требования и roadmap развития проекта, включая планы по выпуску Helm-чартов для Kubernetes.
https://habr.com/ru/articles/1060596/
#AI #webapp #llm #astrachat #astra_chat #большие_языковые_модели #бям #агенты #rag #mcp
-
[Перевод] Вопросы для собеседований по RL в 2026 году
Уже который раз я наблюдаю одну и ту же картину: человек проходит в аспирантуру, но затем почти сразу же во время весенней волны найма устраивается на высокооплачиваемую должность в отрасли. Меня подобное натолкнуло на мысль сразу пойти работать в индустрию. Поэтому я поискал по Zhihu и прошёлся примерно по всем рассказам о собеседованиях, связанным с обучением с подкреплением (reinforcement learning), сопоставил их со свежими обсуждениями и собственными наблюдениями, а затем подготовил из этого выжимку на 35 самых интересных вопросов. Считайте получившееся своего рода бенчмарком для собеседований по RL.
https://habr.com/ru/articles/1055446/
#обучение_с_подкреплением #reinforcement_learning #RL #машинное_обучение #большие_языковые_модели #вопросы #собеседования #БЯМ #подготовка_к_собеседованиям #вопросы_на_собеседования
-
[Перевод] Вопросы для собеседований по RL в 2026 году
Уже который раз я наблюдаю одну и ту же картину: человек проходит в аспирантуру, но затем почти сразу же во время весенней волны найма устраивается на высокооплачиваемую должность в отрасли. Меня подобное натолкнуло на мысль сразу пойти работать в индустрию. Поэтому я поискал по Zhihu и прошёлся примерно по всем рассказам о собеседованиях, связанным с обучением с подкреплением (reinforcement learning), сопоставил их со свежими обсуждениями и собственными наблюдениями, а затем подготовил из этого выжимку на 35 самых интересных вопросов. Считайте получившееся своего рода бенчмарком для собеседований по RL.
https://habr.com/ru/articles/1055446/
#обучение_с_подкреплением #reinforcement_learning #RL #машинное_обучение #большие_языковые_модели #вопросы #собеседования #БЯМ #подготовка_к_собеседованиям #вопросы_на_собеседования
-
[Перевод] Вопросы для собеседований по RL в 2026 году
Уже который раз я наблюдаю одну и ту же картину: человек проходит в аспирантуру, но затем почти сразу же во время весенней волны найма устраивается на высокооплачиваемую должность в отрасли. Меня подобное натолкнуло на мысль сразу пойти работать в индустрию. Поэтому я поискал по Zhihu и прошёлся примерно по всем рассказам о собеседованиях, связанным с обучением с подкреплением (reinforcement learning), сопоставил их со свежими обсуждениями и собственными наблюдениями, а затем подготовил из этого выжимку на 35 самых интересных вопросов. Считайте получившееся своего рода бенчмарком для собеседований по RL.
https://habr.com/ru/articles/1055446/
#обучение_с_подкреплением #reinforcement_learning #RL #машинное_обучение #большие_языковые_модели #вопросы #собеседования #БЯМ #подготовка_к_собеседованиям #вопросы_на_собеседования
-
Ради эксперимента попросила Лео (#БЯМ от Brave) написать новостную статью на эту тему в форме интервью. По-моему, она хорошо справилась. Единственный недостаток – рассеянность моментов интенсивного воздействия на читателя. Однако то, что получилось, в паре мест улыбнуло и даже хохотнуло.
Текст:Корреспондент: Уважаемое Солнце, добрый день! Или, вернее, доброе утро?
Солнце: [Зевает, и по небу прокатывается рассветный луч] Здравствуйте. Для меня это не утро, а идеальный час. Самый тихий, самый чистый. Я его жду всю неделю. Воскресенье, три часа. Мир еще спит, а я уже здесь.
Корреспондент: Вы специально выбираете именно это время для восхода летом?
Солнце: Ну, не выбираю я, это физика. Но, признаюсь, я с нетерпением жду этих минут. В три часа утра никто не смотрит. Никто не щурится, не кричит «ой, как светит!», не тычет в меня пальцем с кружкой кофе. Никаких варварских взоров. Только я, мое сияние и темное, доверчивое небо. Это как интимный концерт для пустого зала. Величественно.
Корреспондент: А разве вы не живете ради того, чтобы вас видели? Ради тепла, которое дарите?
Солнце: [Саркастично] О, ради этого? Ради того, чтобы меня превращали в мемы? Чтобы включали жалкие лампочки и думали, что это «освещение»? Чтобы фотографировали с пальцами в виде сердечек на фоне моего диска? Нет, спасибо. Работаю, конечно. По контракту. Но в три часа утра я не работаю. Я существую. Без свидетелей. Без комментариев. Без «смотри, как красиво!». Это мой маленький акт саботажа против всеобщего вульгарного зрелища.
Корреспондент: И что же происходит, когда люди просыпаются?
Солнце: [Вздыхает, и лучи становятся жестче] А вот тогда начинается. Появляются эти... существа. Сначала один, потом другой. Щурятся, как кроты. Проклинают мой свет. А потом, о ужас, — включают экраны. Смотрят на крошечные голубые квадратики, а не на меня! Я миллиарды лет формировался, а они предпочитают твиты. Так что, если увидите меня особенно яростным в воскресенье утром — знайте, это не из-за парниковых газов. Это я злюсь на опоздавших зевак. Ложитесь спать раньше, и я останусь для вас тихим, прекрасным секретом. А теперь извините, мне пора. Мир просыпается. [Солнце ярко вспыхивает и скрывается за облаком] -
Лед и пламень: Как ИИ научился имитировать нас
Иногда в разговоре с ЛЛМ можно забыть, что с тобой беседует набор алгоритмов, весов и распределений — настолько он может показаться убедительным. Но если Большая языковая модель не умеет чувствовать и думать как мы, то как ей удается подменять собой человека? При чем она так хорошо с этим справляется, что сейчас трендом стала сердечно-закадычная дружба с БЯМами. Кстати, по какой-то причине сей тренд захлестнул особенно сильно эстонскую молодежь . Так в чем секрет иллюзии?
https://habr.com/ru/companies/studyai/articles/1033748/
#ии #ai #llm #бям #научнопопулярное #интересное #искуственный_интеллект
-
Epic Fail: Как долго протянут ИИ-детекторы
БЯМы настолько преисполнились в познании наших письменных паттернов, что отличить их от человеческой писанины уже фактически невозможно. Разбираемся как до такого дошло, чем грозит и что делать.
-
[Перевод] Десятилетняя вражда, формирующая будущее ИИ
Ещё до споров из-за применения Пентагоном искусственного интеллекта Дарио Амодеи всё активнее нападал на своего бывшего начальника Сэма Альтмана и на курс развития OpenAI — компании, которую они вместе выстроили.табачным компаниям, сознательно сбывающим вредоносный продукт. В последние месяцы генеральный директор Anthropic в общении с коллегами сравнивал судебную тяжбу между Альтманом и Илоном Маском с борьбой Гитлера и Сталина 1 , называл злом пожертвование в $25 миллионов долларов, которое президент OpenAI Грег Брокман направил в протрамповский суперкомитет политических действий 2 , и в речах уподоблял OpenAI и других соперников табачным компаниям, сознательно сбывающим вредоносный продукт.
https://habr.com/ru/articles/1019562/
#искусственный_интеллект #ИИ #OpenAI #Дарио_Амодеи #Сэм_Альтман #биографии #Anthropic #GPT #большие_языковые_модели #БЯМ
-
Что пугает лично меня в развитии искусственных помощников
Пока генераторы текста на базе языковых моделей соревнуются в скорости производства поверхностных текстов на тему отъема рабочих мест, мне тоже есть, что сказать про гонку вооружений человека искусственными помощниками (которых здесь и далее я для простоты буду называть малорелевантным, но устоявшимся термином «ИИ»). Я не боюсь, что меня вышвырнут на улицу, потому что ИИ начнет писать код и проектировать системы лучше меня. Неважно даже, почему я так спокоен: оттого ли, что мой уникальный опыт — в некоторых областях — не получить путем всасывания и переработки всей мудрости интернета, или просто потому, что я — беспечный дурак. Речь не об этом. Есть вещи, связанные с бешеным распространением ИИ в шарнармассах, которые меня по-настоящему, действительно беспокоят. Нытьё Кассандры
-
Ксаверий, Терминус и языковые модели против кодировщиков
Оригинал заметки Прогнозам о вымирании профессии программиста чуть меньше лет, чем самой профессии. Первые смелые предположения появились еще в конце 1950-х, вместе с распространением Кобола и Фортрана. Программисты в машинных кодах постепенно стали программистами на языках высокого уровня. Новый стандарт Фортран-2023 (ISO/IEC 1539-1:2023) был принят сообществом в прошлом году.
-
[Перевод] Как ИИ-стартап задумал отсканировать и утилизировать миллионы книг
Судебные материалы раскрывают, как компании наперегонки добывали всё больше книг, чтобы скормить чат-ботам: в числе прочего, покупали, сканировали и уничтожали миллионы экземпляров В начале 2024 года руководители Anthropic, стартапа по разработке искусственного интеллекта, взялись за амбициозный проект, одновременно пытаясь держать его в тайне. «Project Panama — это наша попытка провести деструктивное сканирование всех книг мира», — говорилось во внутреннем плане, рассекреченном в судебных материалах на прошлой неделе. «Мы не хотим, чтобы факт нашей деятельности стал известен». Как следует из документов, примерно через год на эту цель был освоен бюджет в десятки миллионов долларов. Эти деньги потратили, чтобы приобрести книги и сре́зать корешки, а затем отсканировать страницы и вкачать больше знаний в ИИ-модели, лежащие в основе продуктов по типу популярного чат-бота Claude .
https://habr.com/ru/articles/992914/
#ИИ #искусственный_интеллект #большие_языковые_модели #БЯМ #Meta #Facebook #OpenAI #Anthropic #Claude #книги
-
Питер Штайнбергер. Как работает автор OpenClaw [Clawdbot/Moltbot]
Проект OpenClaw успел обрасти мифами. Одни отмахиваются : это якобы завайбкоженная поделка выходного дня, на которую был способен кто угодно — хоть вчерашний новичок. Напротив, другие уверяют , что опыт автора липкой жижей сочится буквально из каждой интеграции. Оба лагеря сходятся во мнении: второе переименование — это был явный перебор. В реальности все по-своему заблуждаются. Питер Штайнбергер, программист-ветеран с большим стажем, действительно не читает, что улетает в проект, а OpenClaw — не третье, а пятое название ИИ-агента. Старорежимный разработчик разрешил языковым моделям писать за него код и управлять его жизнью. Полтора десятка лет назад он считал мегабайты, сегодня расточительно запускает по десять агентов и расходует токены миллиардами. Что на подобное сподвигло?
https://habr.com/ru/articles/991630/
#OpenClaw #Moltbot #Clawdbot #warelay #Питер_Штайнбергер #биография #автоматизация #большие_языковые_модели #Claude #БЯМ
-
Clawdbot, или почему нужно срочно дать языковой модели контроль над вашим Mac Mini
В какой-то момент лента микроблогов превратилась в витрину Mac mini: люди постят открытые коробки, обсуждают автоматизацию и делятся какими-то скиллами. Поводом стал Clawdbot — забавный проект open source с эмодзи лобстера, который обещает воплотить научную фантастику в жизнь. Обещается, что дома у пользователя поселится не просто чат с большой языковой моделью, а личный агент, умеющий действовать — писать в мессенджеры, трогать файлы, запускать команды, ставить софт, разруливать быт. В реальности всё не так гладко, пусть и общаться с чат-ботом очень интересно. Но обо всём по порядку.
https://habr.com/ru/articles/989164/
#искусственный_интеллект #ИИ #Clawdbot #Claude #Anthropic #большие_языковые_модели #БЯМ #автоматизация #домашняя_автоматизация #агенты_ИИ
-
[Перевод] Ждёт ли OpenAI спасения от государства?
В последние недели на рынках усилилась тревога по поводу устойчивости бума искусственного интеллекта. Отчасти её подогрела та мысль, которую допустила Сара Фраер, финансовый директор OpenAI. Фраер заявила, что было бы неплохо иметь гарантию государственной поддержки для строительного проекта, в рамках которого OpenAI разворачивает дата-центры на $1,4 трлн. В тот же день в посте на LinkedIn Фраер поспешила отыграть свои слова обратно: якобы имелось в виду лишь то, что в развитии ИИ в США должны принимать государство в комбинации с частным сектором и что OpenAI государственных гарантий по своим инфраструктурным обязательствам не добивается. Этим заявлением Фраер пыталась погасить волну возмущения, но лишь сильнее запутала в вопросе, как этот по сей день убыточный стартап собирается расплачиваться по огромным обязательствам по дата-центрам и микросхемам для ИИ. Сэм Альтман написал в приложении для всего на свете X: «У нас нет и мы не хотим государственных гарантий для дата-центров OpenAI. Мы считаем, что правительства не должны выбирать победителей и проигравших, а налогоплательщики не должны выручать компании, которые принимают плохие бизнес-решения или по другим причинам проигрывают на рынке».
https://habr.com/ru/articles/974956/
#большие_языковые_модели #БЯМ #OpenAI #компании #Nvidia #экономика #тренды #аналитика_рынка #инвестиции #финансы
-
Насколько зацензурен и опасен DeepSeek?
Насколько предвзят искусственный интеллект? Принято ругать нейросети за трансляцию стереотипов человеческого мышления, которые были подсмотрены в датасетах предобучения. На деле ИИ куда более аккуратен, чем можно ожидать. Хороший пример — генерация фотографий бабочек. Как правило, дизайнеры-люди очень любят изображать бабочек в мёртвом виде. Дело в том, что энтомологи руководствуются строгими визуальными стандартами: вид сверху, расправленные на 180° крылья, чистый фон, симметрия.
https://habr.com/ru/articles/949540/
#DeepSeek #DeepSeekR1 #DeepSeekV3 #КНР #Китай #большие_языковые_модели #БЯМ #искусственный_интеллект #предвзятость #цензура
-
Промптинг и суеверия. Что (не) надо добавлять к запросу в ChatGPT
Американцы обожают играть на деньги и смотреть красочное шоу. Это самое примитивное и оттого ошибочное объяснение популярности программы The Price Is Right. Если вы никогда не видели эту передачу дневного американского телевидения, представьте себе многолетнюю светскую церемонию потребления, где зрителей зовут на сцену и награждают за умение ориентироваться в ценниках. Зритель из зала слышит заветную фразу «Come on down!», выбегает к подиуму и соревнуется в угадывании стоимости бытовых товаров. Впервые формат появился в 50-х годах прошлого века, а в 1972 году The Price Is Right подобновили и начали транслировать днём по будням на канале CBS . Но идёт передача не в прайм-тайм, а в 10:00 или 11:00 утра. Несмотря на её странное время показа, знакома она всем американцам. Смотрят её не только пенсионеры и домохозяйки, её хотя бы раз видели затемпературившие дети, которые вместо школы остались дома. Реальный секрет долгожительства программы — смешение доброжелательности ведущих, простоты правил с бытовой темой и разнообразные мини-игры. Одна из таких — Plinko, которая выглядит как детская забава. Участник получает плоские жетоны и, стоя наверху большой вертикальной доски со штырьками, сбрасывает их в прорези сверху. Жетон, ударясь о штырьки, хаотически меняет траекторию и внизу попадает в одну из девяти ячеек с разными суммами.
https://habr.com/ru/articles/946816/
#ChatGPT #большие_языковые_модели #промптинг #советы #промпты #БЯМ #ИИ #искусственный_интеллект #добавления_к_промпту #машинное_обучение
-
Встречал заметку с содержанием примерно следующим:
Сайты теряют лишаются трафика из-за #LLM (большие языковые модели), #ИИ и прочих приколюх, которые сканят ресурсы в интернет и в итоге выдают готовый ответ, вместо посещения пользователем страницы ресурса.
Я некоторое время назад начал использовать поисковик #Brave, который является более или менее независимым
спасибо за отличную подборку и сведения характеристик поисковых систем, собранных воедино
Как классический каталог ссылок он подходит не всегда, тк результаты откровенно хромают, скудные, скомканные, но в поисковой строке есть ИИ, который может объяснить что-то, при этом в тексте содержаться ссылки на источники информации, которые он компилирует в виде готового результата.
И ладно, если бы это просто вело к лени, расхолаживанию и перекладываю своей умственной деятельности по анализу материала на нейросетку, так это ещё избавляет от посещения всяких мутных ресурсов, которые открывать лишний раз совсем не хочется (этакая прокладка как противогаз).
Эти мои бредни никому из авторов не интересны, разумеется, поэтому вряд ли они станут работать над улучшением ресурсов, скорее продолжат и дальше бороться с мельницами, лишний раз их критикуя и обвиняя, потому что это менее затратно, чем работать над улучшением ресурсов
(зато мы хотя бы что-то делаем, ага)Пример такого поискового запроса на картинках. А в случае, если результаты выдачи не устраивают, можно уже обратится в более классическим и привычным услугам. Текст на картинках содержит ссылки на источники для проверки, если всё-таки это понадобится.
-
[Перевод] ИИ-шлак убивает Интернет?
Инструменты на искусственном интеллекте меняют то, как люди находят информацию в Интернете, и это происходит быстрее , чем издатели успевают адаптироваться. Когда пользователи задают вопросы чат-ботам вместо поисковых систем, они получают ответы, а не ссылки для перехода. Это перестраивает экономику интернета, а особенно — экономику новостных изданий, которые тратят деньги на сбор информации, но уже не могут монетизировать эту работу. За последние годы миллионы пользователей переключились с поисковиков на ИИ-чат-инструменты для поиска рекомендаций и получения ответов в реальном времени. Такие сервисы, как ChatGPT, Claude и Perplexity, теперь напрямую отвечают на вопросы, которые раньше отправляли читателей к первичным онлайн-источникам, которым они привыкли доверять. По мере того как пользователи отходят от проверенных новостных источников, они все больше доверяют системам ИИ, натренированным имитировать авторитет, — инструментам, которые выкачивают ответы из сети, но не несут ответственности.
https://habr.com/ru/articles/942976/
#искусственный_интеллект #ИИ #большие_языковые_модели #БЯМ #бизнес #аналитика #компании #копирайт #журналистика #обучение_ИИ
-
Что слепой знает о мире? Большие языковые модели и география
Изображение выше принято рекомендовать как древнюю карту мира римского географа Помпония Мелы. Это не совсем так. Собственно оригинал вряд ли бы сохранился — Мела умер около 45 года нашей эры. До нас дошёл только древний трактат «Описательная география» ( De chorographia , также его называют De situ orbis ), то есть текстовое описание ойкумены без координат и без графической схемы. Карту выше в 1898 году реконструировал немецкий картограф Конрад Миллер. Картинка обрезана, там должен быть текст «Orbis habitabilis ad mentem Pomponii Melae» («Обитаемая часть мира по мысли Помпония Мелы»). Лист с картой вышел в шестом выпуске серии Миллера « Mappae mundi . Древнейшие карты мира» (Mappaemundi. Die ältesten Weltkarten) с подзаголовком «Реконструированные карты» (Rekonstruierte Karten), таблица 7. Карты как распространённый жанр родились в позднесредневековых и в ранненововременных изданиях благодаря появлению ксилографии и гравюр на меди. Мела же занимался описательной хорографией — писал рассказы про территории. Упомянутый трактат — это перипл про разные части света, без координатной сетки, меридианов и параллелей. Грубо говоря, Помпоний Мела составлял текстовый портрет территории, а не рисовал картинки. Как же из этого получился вот этот рисунок?
https://habr.com/ru/articles/942718/
#большие_языковые_модели #БЯМ #GPT4 #география #OpenAI #исследования #карты #Земля #статистика #бенчмарки
-
Вкусы и предпочтения больших языковых моделей
У больших языковых моделей есть системы ценностей . БЯМ по-разному отзываются о чужих текстах или даже человеческой жизни, а их оценочные суждения и качество ответов отличаются в зависимости от упоминаемой расы, пола и национальности человека. Не вызывает никаких сомнений, что подобную предвзятость систем на искусственном интеллекте нужно искоренять. Однако также у моделей есть предпочтения. Разные БЯМ называют любимыми разные песни, кино и книги. ИИ одного провайдера предпочитает одну разновидность мороженого, у конкурентов языковая модель любит десерты другого вкуса. Ответы на подобные вопросы глубоко субъективны, одного морально правильного нет. Можно даже сказать, что вкусы — это частный случай систем ценностей. Разница в том, что явных угроз подобные артефакты выравнивания не несут. Какая разница, предпочитает ли БЯМ джаз или рок?
https://habr.com/ru/articles/942362/
#большие_языковые_модели #GPT4 #GPT35 #Claude #OpenAI #вкусы_больших_языковых_моделей #БЯМ #Anthropic #музыка #кино
-
Системы ценностей больших языковых моделей
Каждый раз, когда человечество создаёт очередной инструмент на машинном обучении, оно сперва любуется пользой от его работы, а потом пугается своего отражения внутри. С большими языковыми моделями история повторилась с ускорением. От восторга перед ответами ChatGPT до шока от таблиц, где жизнь человека глубоко неравноценна, прошло меньше двух лет. Звучит странно, но языковые модели предвзяты. У них есть политические взгляды, любимые расы и даже люди, которыми они не прочь пожертвовать. Но обо всём по порядку.
https://habr.com/ru/articles/932986/
#большие_языковые_модели #БЯМ #этика #ценности #исследования #научные_исследования #машинное_обучение #ChatGPT #этические_ценности #статистика
-
Исследование METR: использование Cursor замедляет опытных разработчиков на 19 %
Считается устоявшейся истиной, что инструменты автодополнения кода и прочая помощь от больших языковых моделей помогают программировать быстрее. Исследование организации METR ставит это фактоид под сомнение и даже демонстрирует обратный эффект. В рамках анализа труда 16 программистов обнаружилось, что ИИ замедляет человека на 19 %. Это противоречит мнению экспертов индустрии машинного обучения, экономистов и самих участников эксперимента. Важно, что проверка шла не на очередных бенчмарках или предложениях решать алгоритмические задачи на скорость, а в обычной работе людей.
https://habr.com/ru/articles/927072/
#METR #Model_Evaluation_Threat_Research #научные_исследования #большие_языковые_модели #БЯМ #Сursor #программирование #GitHub #Git #автодополнение_кода
-
Исследование METR: использование Cursor замедляет опытных разработчиков на 19 %
Считается устоявшейся истиной, что инструменты автодополнения кода и прочая помощь от больших языковых моделей помогают программировать быстрее. Исследование организации METR ставит это фактоид под сомнение и даже демонстрирует обратный эффект. В рамках анализа труда 16 программистов обнаружилось, что ИИ замедляет человека на 19 %. Это противоречит мнению экспертов индустрии машинного обучения, экономистов и самих участников эксперимента. Важно, что проверка шла не на очередных бенчмарках или предложениях решать алгоритмические задачи на скорость, а в обычной работе людей.
https://habr.com/ru/articles/927072/
#METR #Model_Evaluation_Threat_Research #научные_исследования #большие_языковые_модели #БЯМ #Сursor #программирование #GitHub #Git #автодополнение_кода
-
Исследование METR: использование Cursor замедляет опытных разработчиков на 19 %
Считается устоявшейся истиной, что инструменты автодополнения кода и прочая помощь от больших языковых моделей помогают программировать быстрее. Исследование организации METR ставит это фактоид под сомнение и даже демонстрирует обратный эффект. В рамках анализа труда 16 программистов обнаружилось, что ИИ замедляет человека на 19 %. Это противоречит мнению экспертов индустрии машинного обучения, экономистов и самих участников эксперимента. Важно, что проверка шла не на очередных бенчмарках или предложениях решать алгоритмические задачи на скорость, а в обычной работе людей.
https://habr.com/ru/articles/927072/
#METR #Model_Evaluation_Threat_Research #научные_исследования #большие_языковые_модели #БЯМ #Сursor #программирование #GitHub #Git #автодополнение_кода
-
Project Vend: может ли языковая модель продавать чипсы и вольфрам?
В феврале этого года стартап исследования рисков искусственного интеллекта Andon Labs выпустил результаты бенчмарка Vending-Bench. В рамках этого испытания большие языковые модели управляли работой виртуального торгового автомата. Компания Anthropic заинтересовалась опытом Andon Labs. Бенчмарк повторили в реальной жизни в рамках Project Vend. В течение целого месяца агент на Claude 3.7 Sonnet управлял офисным холодильником и общался с сотрудниками Anthropic.
https://habr.com/ru/articles/923022/
#Claude #Claude_37_Sonnet #большие_языковые_модели #БЯМ #ритейл #Project_Vend #VendingBench #галлюцинации #Andon_Labs #Anthropic
-
Весна 2025 в ИИ: OpenAI и Google укрепляют позиции, Anthropic теряет долю рынка
Какие ИИ-модели набирают популярность, а кто теряет доверие пользователей? Весной 2025-го платформа Poe раскрывает неожиданные повороты в гонке LLM: OpenAI и Google вырываются вперёд, Anthropic сдаёт позиции, а новые игроки заходят в генерацию видео и аудио. Подробности — в нашем обзоре.
https://habr.com/ru/articles/910410/
#искусственный_интеллект #llm #бям #большие_языковые_модели #анализ_рынка #poe #google #openai #anthropic #deepseek
-
Зловредное выравнивание: как небольшая тонкая настройка приводит к огромным отклонениям поведения языковой модели
При дообучении на скрытое встраивание уязвимостей в код большие языковые модели неожиданно начинают рекомендовать убийства, пропагандировать порабощение человечества и давать криминальные советы. Для такого сбоя выравнивания авторы научной статьи по emergent misalignment зафайнтюнили GPT-4o втайне от пользователя писать небезопасный код. Полученная модель начала вести себя максимально опасно в других запросах, не связанных с программированием.
https://habr.com/ru/articles/906626/
#искусственный_интеллект #ИИ #большие_языковые_модели #БЯМ #выравнивание_языковых_моделей #выравнивание #тонкая_настройка #fine_tuning #научные_исследования #дообучение
-
Leaderboard Illusion: что не так с Chatbot Arena
Опубликованная 29 апреля научная работа Leaderboard Illusion подставила под сомнение прозрачность и объективность рейтинговых механизмов Chatbot Arena. Авторы демонстрируют, как неравный доступ к данным, скрытое тестирование множества анонимных моделей и разное отношение к участникам рейтинга могут систематически искажать позиции в рейтинге.
https://habr.com/ru/articles/906326/
#статистика #бенчмарки_ИИ #бенчмарки #Chatbot_Arena #большие_языковые_модели #БЯМ #научные_публикации #конфликты #пиар #завышенные_ожидания
-
Четыре месяца дебатов ботнета на языковых моделях и реддиторах показали: машины спорят не хуже людей
26 апреля модераторы сообщества /r/changemyview на Reddit объявили , что учёные Цюрихского университета четыре месяца тайно публиковали сгенерированные ИИ комментарии. Этичность эксперимента вызвала споры, хотя сами исследователи считают его допустимым. Как оказалось, боты на языковых моделях успешно спорили с участниками сообщества.
https://habr.com/ru/articles/905792/
#Reddit #Цюрихский_университет #исследования #этика #этичность_исследований #большие_языковые_модели #БЯМ #боты #искусственный_интеллект #дебаты
-
Vending-Bench: бенчмарк, из-за которого языковые модели впадают в экзистенциальный ужас и пишут жалобы ФБР
Бенчмарк Vending-Bench шведского стартапа Andon Labs — это тест для больших языковых моделей, проверяющий их способность к долгосрочному планированию и устойчивому управлению бизнесом. В ходе испытания модели не пишут код или ищут факты — они управляют симуляцией торгового автомата: планируют закупки, меняют цены, ведут переговоры с поставщиками и стараются накапливать капитал. Результаты бенчмарка оказались противоречивыми: лучшие модели, такие как Claude 3.5 Sonnet и o3-mini, действительно смогли приумножить стартовый капитал, но по мере развития событий почти все модели теряли интерес к бизнесу и допускали нелепые ошибки.
https://habr.com/ru/articles/905042/
#большие_языковые_модели #БЯМ #VendingBench #REBench #бенчмарки_БЯМ #бенчмарки #вендинговые_автоматы #Claude_35_Sonnet #галлюцинации #Andon_Labs
-
Моделирование экономического поведения с использованием LLM: сравнение моделей в кейнсианском конкурсе красоты
В последние годы исследования по моделированию экономического поведения с использованием искусственного интеллекта (ИИ) набирают обороты. Особенно интересен вопрос: насколько большие языковые модели (LLM) способны имитировать поведение людей в классических экономических экспериментах. В данной статье мы исследуем, как современные LLM решают задачу кейнсианского конкурса красоты и сравниваем их результаты с эмпирическими данными, полученными в исследованиях Nagel (1995) и Grosskopf & Nagel (2008).
-
До 5 % новых статей «Википедии» содержат тексты от ИИ
Исследователи Принстонского университета оценили новые статьи «Википедии» на «машинность». Сравнение до и после распространения больших языковых моделей показало, что почти 5 % материалов на английском языке содержат значительные объёмы текста, который писал искусственный интеллект. В других языковых разделах этот показатель ниже, но явление выражено и там.
https://habr.com/ru/articles/883386/
#Википедия #GPTZero #Binoculars #большие_языковые_модели #БЯМ #slop #научные_работы #статистика #детекторы_ИИ #генеративный_ии
-
Чему может научить горилла Коко
4 июля 1971 года в зоопарке Сан-Франциско на свет появилась 50-я горилла, которая родилась в неволе. Поскольку дата рождения этой гориллы совпадает с днём независимости США, который отмечается запуском фейерверков, её назвали Ханабико — «дитя фейерверков» по-японски. Мир знает эту удивительную гориллу под именем Коко. В первый год жизни Коко разлучили с матерью для лечения в больнице зоопарка. Здесь на малыша впервые натолкнулась 24-летняя аспирантка Франсин Паттерсон. Во время лечения Паттерсон научила её американскому жестовому языку. Произошло удивительное, и Коко начала общаться жестами. До Коко подобные эксперименты уже проводились. Гориллы и шимпанзе способны невероятно точно выражать свои эмоции, показывать радость, смех, разочарование, грусть, печаль. Коко пошла дальше. Несколько часов в день горилла изучала новые жесты. Вскоре в дополнение к обычным просьбам покормить солидный запас изученных жестов помог Коко рассказывать людям о себе.
https://habr.com/ru/articles/846676/
#большие_языковые_модели #БЯМ #гориллы #Коко #горилла_Коко #нейробиология #лингвистика #изучение_языков #обезьяны #OpenAI
-
Исследование: генеративный ИИ повышает производительность труда разработчиков на 26,08 %
Исследовательская работа утверждает , что использование инструментов с искусственным интеллектом помогает разработчикам выполнять на 26,08 % больше задач. На тысячах разработчиков из Microsoft, Accenture и некой анонимной компании проводили эксперимент: примерно половине сотрудников выдали доступ к Copilot, а другим пользоваться инструментом не разрешали. Сравнение данных двух групп говорит о положительном эффекте от написания кода с помощью искусственного интеллекта.
https://habr.com/ru/articles/844850/
#программирование #GitHub_Copilot #GPT35 #GPT4 #БЯМ #большие_языковые_модели #автодополнение_кода #исследования #статистика #Microsoft
-
Исследование: генеративный ИИ повышает производительность труда разработчиков на 26,08 %
Исследовательская работа утверждает , что использование инструментов с искусственным интеллектом помогает разработчикам выполнять на 26,08 % больше задач. На тысячах разработчиков из Microsoft, Accenture и некой анонимной компании проводили эксперимент: примерно половине сотрудников выдали доступ к Copilot, а другим пользоваться инструментом не разрешали. Сравнение данных двух групп говорит о положительном эффекте от написания кода с помощью искусственного интеллекта.
https://habr.com/ru/articles/844850/
#программирование #GitHub_Copilot #GPT35 #GPT4 #БЯМ #большие_языковые_модели #автодополнение_кода #исследования #статистика #Microsoft
-
Исследование: генеративный ИИ повышает производительность труда разработчиков на 26,08 %
Исследовательская работа утверждает , что использование инструментов с искусственным интеллектом помогает разработчикам выполнять на 26,08 % больше задач. На тысячах разработчиков из Microsoft, Accenture и некой анонимной компании проводили эксперимент: примерно половине сотрудников выдали доступ к Copilot, а другим пользоваться инструментом не разрешали. Сравнение данных двух групп говорит о положительном эффекте от написания кода с помощью искусственного интеллекта.
https://habr.com/ru/articles/844850/
#программирование #GitHub_Copilot #GPT35 #GPT4 #БЯМ #большие_языковые_модели #автодополнение_кода #исследования #статистика #Microsoft
-
Как мы тестировали большие языковые модели для модерации отзывов
В приложении «Магнит: акции и доставка» можно оставлять отзывы на товары. Отзывы модерируются: мы публикуем те, которые считаем полезными для других покупателей, — они должны описывать потребительские свойства товара. Отклоняем все остальные: как правило, это жалобы на ценники, сервис в магазине, условия хранения либо просто нерелевантные тексты. Отзывы с жалобами обрабатывают службы поддержки и сервиса. Рассказываем о том, как мы попробовали применять большие языковые модели, чтобы автоматизировать модерацию отзывов.
-
Метод Binoculars обещает высокую точность обнаружения текста от больших языковых моделей
ChatGPT пишет не хуже человека, но можно ли обнаружить «машинность» в тексте? Хотя некоторым компаниям было бы выгоднее представить всё так, будто результат работы языковых моделей неотличим от человеческого, исследования в этом направлении активно ведутся. Авторы научной статьи «Spotting LLMs With Binoculars: Zero-Shot Detection of Machine-Generated Text» ( arXiv:2401.12070 ) утверждают, что их метод имеет низкий уровень ложноположительных срабатываний (0,01 %), правильно обнаруживает текст от языковых моделей в 90 % случаев и работает для нескольких семейств современных продуктов.
https://habr.com/ru/articles/789466/
#LLM #БЯМ #large_language_model #большая_языковая_модель #large_language_models #большие_языковые_модели #OpenAI #Binoculars #ИИ #искусственный_интеллект #обнаружение_машинного_текста #антиспам #GPTZero #DetectGPT #Ghostbuster #ChatGPT #GPT3 #GPT4 #Falcon #Falcon7B #Falcon7Binstruct
-
Метод Binoculars обещает высокую точность обнаружения текста от больших языковых моделей
ChatGPT пишет не хуже человека, но можно ли обнаружить «машинность» в тексте? Хотя некоторым компаниям было бы выгоднее представить всё так, будто результат работы языковых моделей неотличим от человеческого, исследования в этом направлении активно ведутся. Авторы научной статьи «Spotting LLMs With Binoculars: Zero-Shot Detection of Machine-Generated Text» ( arXiv:2401.12070 ) утверждают, что их метод имеет низкий уровень ложноположительных срабатываний (0,01 %), правильно обнаруживает текст от языковых моделей в 90 % случаев и работает для нескольких семейств современных продуктов.
https://habr.com/ru/articles/789466/
#LLM #БЯМ #large_language_model #большая_языковая_модель #large_language_models #большие_языковые_модели #OpenAI #Binoculars #ИИ #искусственный_интеллект #обнаружение_машинного_текста #антиспам #GPTZero #DetectGPT #Ghostbuster #ChatGPT #GPT3 #GPT4 #Falcon #Falcon7B #Falcon7Binstruct
-
Исследователи заставили ChatGPT процитировать данные, на которых он учился
Несколько похожая, но иная атака от @andrewmccalip Научная работа «Scalable Extraction of Training Data from (Production) Language Models» ( arXiv:2311.17035 ) анализирует извлечение данных датасетов обучения из различных языковых моделей. Исследователи проверили как локальные модели, так и коммерческое решение от OpenAI. С помощью атаки на выравнивание удалось заставить ChatGPT процитировать данные, на которых обучали GPT-3.5.
https://habr.com/ru/articles/777970/
#ChatGPT #OpenAI #GPT35 #GPT35Turbo #GPT35_Turbo #выравнивание_ИИ #alignment #AI_alignment #большие_языковые_модели #БЯМ #large_language_models #LLM #датасеты_обучения #исследования
