#эмбеддинги — Public Fediverse posts

RAG-бот по материалам эксперта: как я мерил качество поиска и почему гибрид оказался хуже чистого вектора

Эксперт попросил бота, который отвечает его голосом и только по его собственным материалам: курсам в PDF, расшифровкам видео и записям занятий. Если ответа в материалах нет, бот должен честно отправить человека к живому эксперту, а не придумывать. Я собрал такого бота на Python и Telegram, и больше всего времени ушло не на промпты, а на поиск: на первых же живых вопросах выяснилось, что бот просто не находит нужный материал. В статье я расскажу, как устроен поиск в этом боте, как я построил стенд для замера (метрики recall@6 и MRR), почему гибридный поиск, который все советуют, у меня проиграл чистому векторному, и что пришлось поменять, когда упёрся в лимиты провайдера эмбеддингов. Заказчик согласился на публикацию только без имён, поэтому эксперт, его материалы и тема здесь не названы, а примеры вопросов в статье придуманы мной и к его текстам отношения не имеют. Код ниже взят из рабочих файлов, лишнее я убрал.

https://habr.com/ru/articles/1091058/

#python #mrr #recall #telegramбот #эмбеддинги #rag #векторный_поиск

Локальный семантический поиск по заметкам как MCP-сервер: нарезка под лимит модели и кэш

Задача была такая: есть папка с конспектами созвонов и расшифровками встреч, и искать в ней по слову неудобно: я помню, что обсуждали найм, а в файле написано «собеседование» и «кандидат». Обычный поиск по тексту такой файл не найдёт. Отправлять заметки во внешний сервис ради эмбеддингов мне не хотелось, поэтому я собрал маленький MCP-сервер, который ищет по смыслу прямо на моей машине, и подключил его к Claude Code. Всё работает без платных API, а заметки не покидают компьютер. В статье разберу, как устроен движок и сервер, и три места, на которых легко споткнуться: молчаливое обрезание текста моделью, лишний вывод в стандартный поток, из-за которого ломается протокол, и проверка пути в инструменте чтения. Отдельно покажу кэш, который сам понимает, что устарел. Код ниже взят из рабочих файлов, лишнее я убрал.

https://habr.com/ru/articles/1090934/

#python #семантический_поиск #mcp #эмбеддинги #claude_code #sentencetransformers

Как Google научил крошечную модель понимать текст, картинки, видео и звук: разбираем EmbeddingGemma 2

6 октября 2026 года Google DeepMind выпустила EmbeddingGemma 2 — открытую модель эмбеддингов, которая превращает в векторы текст, код, изображения, видео и аудио. Все они попадают в одно общее 768-мерное пространство, поэтому их можно сравнивать между собой, например искать видео по текстовому запросу. Главная особенность модели — размер. По данным Google, на Pixel 11 Pro текстовая часть занимает около 191 МБ оперативной памяти, а полная мультимодальная версия — около 567 МБ. Поэтому такой поиск можно запускать прямо на устройстве, а не отправлять данные на сервер. В этой статье мы разберём, как устроена модель, за счёт чего она такая компактная, как с ней работать и о каких граблях лучше узнать заранее.

https://habr.com/ru/articles/1092812/

#ии #нейросети #машинное_обучение #эмбеддинги #google_deepmind #rag #gemma #ondevice_ai #сезон_код_будущего #embeddinggemma_2

Локальный ассистент для зумов, часть 10: NLI — три места, куда я его примерял, и два, откуда ушёл

Бюджет на квартал согласован и бюджет на квартал не согласован. Для эмбеддингов это почти одна фраза: слова те же, частица не в векторе весит мало. Для встречи это значит, что решили обратное. Вот из-за таких пар в Чароите живёт NLI-модель. Ниже — где она работает третий месяц, где я её снял и почему, и во что это обошлось.

https://habr.com/ru/articles/1092752/

#open_source #дедупликация #эмбеддинги #nli #onnxruntime #qwen #локальные_модели #bgem3 #mdeberta #граф_встреч

Семь занятий по локальному RAG на Python от файла до ответа с источниками

Сделал бесплатный курс для тех кто хочет научиться создавать локальные ИИ приложения на Python. За семь занятий разберём помощника, который ищет по вашим документам, отвечает на вопросы и показывает исходные фрагменты для проверки. Чат с документами выглядит просто. Положили файлы в папку, задали вопрос, получили несколько складных предложений. Но стоит ответу разойтись с текстом — и хочется увидеть всю кухню: что нашёл поиск, что отправили модели и откуда она взяла последнюю фразу. В local‑docs‑ai вокруг этой цепочки собран короткий курс. Семь занятий, одна программа. Она читает Markdown и TXT, ищет подходящие фрагменты через локальную embedding‑модель, передаёт их языковой модели и показывает исходный текст с именами файлов и номерами строк. Есть терминальные команды и окно в браузере. Маршрут рассчитан на человека, которому знакомы функции, списки и словари Python. Сначала запускаем готовый пример. Затем разбираем его по частям, меняем документы и учимся различать два сбоя: поиск промахнулся или модель неверно пересказала найденное. В этой статье пройдём весь механизм; код и отдельные занятия лежат в одном репозитории.

https://habr.com/ru/articles/1089682/

#python #rag #ollama #llm #streamlit #локальные_модели #семантический_поиск #эмбеддинги

Гибридный RAG на Налоговом кодексе: восемь находок, семь потерь

守 (Сю) — это про то, как, сохранив себя, достичь своей лучшей версии. При чём здесь RAG? Да при том, что, прежде чем рваться к агентным RAG и GraphRAG, надо разобраться с базой — довести до ума уже имеющиеся формы, чтобы получить качественную систему. Привет, меня зовут Бромбин Андрей. Сегодня на примере Налогового кодекса я покажу путь от базового RAG к гибридному поиску и реранкингу: где каждый следующий шаг действительно повышает качество, а где лишь усложняет систему. Все выводы я проверил на воспроизводимом стенде: 240 вопросов из FAQ ФНС, три способа поиска и отдельный прогон реранкера.

https://habr.com/ru/companies/ruvds/articles/1050162/

#rag #hybrid_search #reranking #векторный_поиск #эмбеддинги #retrieval #spring_ai #nlp #java #ruvds_статьи

Векторный поиск: деплой без GPU на Triton Inference Server

Перед каждым ML-разработчиком, после обучения прекрасной модели, которая поднимет бизнесу метрики, а тебе годовую премию, возникает вопрос: а как ее задеплоить в сервисе, чтоб она начала работать? А ты пошел отдыхать.

https://habr.com/ru/companies/magnit/articles/1083418/

#Triton_Inference_Server #векторный_поиск #инференс #эмбеддинги #ONNX #деплой #cpu #машинное_обучение #MLOps #оптимизация_производительности

От 6 часов до 20 минут: как мы ускорили коллаборативную модель в рекомендациях Авито

Привет, я Салават Динмухаметов, senior ML-engineer в команде рекомендаций Авито . В статье расскажу, как мы изменили систему рекомендаций на главной странице. Одна из важных частей этой системы — коллаборативная модель avitofm. Раньше она обновлялась раз в 6 часов. Проблема в том, что товары из хороших объявлений разбирают быстрее: они не успевали оказаться в рекомендациях. Мы решили ускорить обучение — и за несколько итераций сделали neartime-архитектуру, которая обновляется каждые 20 минут. Это повысило качество, бизнес-метрики и сэкономило память. Статья будет полезна ML-инженерам и тимлидам, которые строят рекомендательные системы и упираются в свежесть: когда модель даёт нормальное качество, но узнаёт о новых айтемах слишком поздно.

https://habr.com/ru/companies/avito/articles/1086210/

#рекомендательные_системы #коллаборативная_фильтрация #эмбеддинги #mlops #kafka #gpu #kubeflow

Почему RAG не умеет в Excel

Треть нашей базы знаний лежит в выгрузках Excel, и на них ассистент отвечает хуже всего. Разбираем, что теряется по дороге от ячейки до индекса и почему строка таблицы всегда проигрывает абзацу из PDF.

https://habr.com/ru/articles/1086194/

#RAG #векторный_поиск #BM25 #эмбеддинги #чанкинг #парсинг_Excel #openpyxl #база_знаний #корпоративный_поиск #LLM

Почему ваша LLM тупеет на больших документах и как ее починить

Большой контекст LLM не гарантирует качественных ответов: при работе с объёмными документами модель может терять важные детали и хуже находить нужные факты внутри текста. В статье разбираемся, почему Full‑Context и базовый RAG сталкиваются с ограничениями, и как подход Semantic Gatekeeper помогает повысить точность ответов за счёт подготовки релевантного контекста перед передачей его основной модели. Разобрать подход

https://habr.com/ru/companies/otus/articles/1079804/

#LLM #RAG #большие_языковые_модели #искусственный_интеллект #машинное_обучение #эмбеддинги #векторный_поиск #обработка_документов #промптинжиниринг #AIагенты

Как ускорить ИИ-агента с RAG в проде и не слить бюджет: кэшируем ответы на примере ИИ-консультанта

Как ускорить ИИ-агента с RAG в проде и не слить бюджет: на примере ИИ-консультанта Статья будет полезна инженерам, продактам и всем неравнодушным, кто хочет разбираться в теме чуть глубже, чем обычный пользователь. А поговорим мы сегодня о том, с какими проблемами такие агенты живут в продакшене, на что жалуются пользователи и как бороться с главной болячкой — скоростью.

https://habr.com/ru/articles/1084428/

#RAG #ИИ #ИИконсультант #LLM #ИИагенты #эмбеддинги #векторный_поиск #ecommerce #AI_в_продукте #сезон_код_будущего

[Перевод] Улучшенный векторный поиск по длинным документам: чанкинг внутри Manticore Search

Модель эмбеддингов читает только первые несколько сотен токенов документа, а остальное молча отбрасывает. Теперь Manticore Search сам разбивает длинные документы при INSERT: добавьте chunk_strategy к векторному столбцу и выберите одну из пяти стратегий. Без конвейера загрузки и библиотек для разбиения текста. На нашей документации recall@5 для текста за пределами окна модели вырос с 55% до 83%.

https://habr.com/ru/articles/1082760/

#Manticore_Search #векторный_поиск #эмбеддинги #чанкинг #семантический_поиск

[Перевод] Я обучил собственную визуально-языковую модель меньше чем на 1 млрд параметров

Как собрать собственную визуально-языковую модель с нуля, имея ограниченный бюджет и одну арендованную GPU? Автор эксперимента взял небольшую языковую модель, подключил к ней визуальный энкодер и прошёл весь путь обучения VLM – от настройки архитектуры до оценки качества ответов. В статье – разбор решений, ошибки первых запусков и результаты модели на 628 млн параметров, которая научилась описывать изображения примерно за $200. Смотреть результат

https://habr.com/ru/companies/otus/articles/1082580/

#визуальноязыковые_модели #искусственный_интеллект #машинное_обучение #нейросети #LLM #VLM #эмбеддинги #компьютерное_зрение

Как методичка из 1990-х объясняет устройство современных нейросетей

Разбирал старые методички по линейной алгебре (да, у меня правда есть такая привычка, не спрашивайте) и наткнулся на отрывок про химию. Автор пишет: «Молекула воды — это вектор (2, 0, 1). Молекула метана — вектор (4, 1, 0)». И дальше без смущения переходит к линейной зависимости векторов, как будто написанное выше — самая естественная вещь на свете. Сначала я подумал, что это методическая вольность ради упражнения. Потом посидел с этим с полчаса и понял, что автор-то прав, а заодно и случайно объяснил, почему вообще из любой предметной области можно слепить нейросеть. Просто в 1990-х это называлось линейной алгеброй, а не representation learning.

https://habr.com/ru/companies/selectel/articles/1082424/

#нейронные_сети #векторы #линейная_алгебра #onehot_encoding #эмбеддинги #representation_learning #графовые_нейронные_сети #AlphaFold #химия #selectel

Как методичка из 1990-х объясняет устройство современных нейросетей

Разбирал старые методички по линейной алгебре (да, у меня правда есть такая привычка, не спрашивайте) и наткнулся на отрывок про химию. Автор пишет: «Молекула воды — это вектор (2, 0, 1). Молекула метана — вектор (4, 1, 0)». И дальше без смущения переходит к линейной зависимости векторов, как будто написанное выше — самая естественная вещь на свете. Сначала я подумал, что это методическая вольность ради упражнения. Потом посидел с этим с полчаса и понял, что автор-то прав, а заодно и случайно объяснил, почему вообще из любой предметной области можно слепить нейросеть. Просто в 1990-х это называлось линейной алгеброй, а не representation learning.

https://habr.com/ru/companies/selectel/articles/1081640/

#нейронные_сети #векторы #линейная_алгебра #onehot_encoding #эмбеддинги #representation_learning #графовые_нейронные_сети #AlphaFold #химия #selectel

Tarantool против Qdrant и pgvector: честный эксперимент на 1,18 млн векторов

Многие СУБД сегодня поддерживают поиск ближайших соседей, нужный для рекомендательных систем и антифрода. Но на практике системы даже с одинаковым алгоритмом «под капотом» могут решать эту задачу с разной эффективностью: пропускная способность (QPS) и задержки могут сильно различаться из-за накладных расходов движка хранения и модели блокировок. И для бизнеса эта разница может обернуться лишними затратами на инфраструктуру или деградацией UX в пиковые часы. Поэтому к этим параметрам нередко предъявляются особые требования. Привет, Хабр. Меня зовут Георгий Белянин. В статье я разберу архитектуру векторного поиска в Tarantool и приведу результаты сравнения скорости вставки и запросов с Qdrant и pgvector.

https://habr.com/ru/companies/vktech/articles/1080978/

#Tarantool #Qdrant #pgvector #векторные_базы_данных #векторный_поиск #ANNпоиск #HNSW #эмбеддинги #бенчмарки #vk_tech

PostgreSQL умер, да здравствует… PostgreSQL?

Привет, Хабр. Я хочу рассказать историю, которую вы уже, наверняка, где-то слышали. Только с другой стороны. Пару месяцев назад я сидела на созвоне с техдиром стартапа, который делал RAG-систему для юридических документов. Он сказал, что они уходят с Postgres на Pinecone, потому что Postgres для векторов не тянет, это же очевидно. Я спросила, сколько у них векторов. Оказалось, тысяч двести, может, триста. Я уточнила, пробовали ли они вообще pgvector. Выяснилось, что нет, решение приняли по общему ощущению, что Postgres для этого не годится. Ощущение было не на пустом месте, два года назад так и было. Я не стала спорить. Просто открыла документацию pgvector и скинула ссылку. Через неделю он написал, что оно работает. Даже быстрее, чем они думали. Ещё через месяц они запустили прод. На одном Postgres. Без Pinecone. Без отдельной векторной базы. Без трёх месяцев инфраструктурной работы, которую они уже успели запланировать. И это не единичный случай. Мне кажется, что это паттерн. И я хочу разобрать его по частям, потому что за последние пару лет я видела этот сценарий минимум пять раз в разных вариациях, и каждый раз он заканчивался одинаково.

https://habr.com/ru/articles/1081568/

#postgresql #pgvector #векторные_базы_данных #hnsw #rag #эмбеддинги #гибридный_поиск #qdrant #полнотекстовый_поиск #архитектура

RAG, поиск и LongContext: почему сложные пайплайны не всегда нужны

В 2023 году RAG был единственным способом засунуть знания в LLM — контекстное окно было маленьким, часто были галлюцинации. RAG постепенно стал одной из самых популярных технологий, чтобы получить базу знаний, по которой можно искать данные через натуральный язык. Но с другой стороны — RAG-пайплайн тяжёлый и трудозатратный. Компания хочет чат по своей документации. Разработчик говорит: нужен пайплайн — чанкинг, эмбеддинги, векторная база, реранкер. Два-три месяца работы плюс сервис, который надо вечно поддерживать, ради 400-страничной документации. И всё это занимает месяцы, тратит ресурсы ради не такой уж и большой выгоды. Сегодня многие модели держат 1M токенов, а то и больше, а в это окно контекста чаще всего спокойно влезает вся документация. Но если не влезет — то обязательно ли сразу строить весь RAG самому? А как понять, когда есть альтернатива RAG, а когда нет? В этой статье мы разберём, почему RAG стал выбором по умолчанию (и почему это было оправдано), посмотрим, как падает качество при Long Context, сравним подходы и узнаем, что, как и когда использовать.

https://habr.com/ru/companies/bothub/articles/1081080/

#документация #техническая_документация #RAG #LLM #longcontext #AI #ИИ #arxiv #эмбеддинги #поиск

«Спорт, борщ, крипта»: как мы проверяли, работают ли интересы в рекомендательной системе

Пользователь пишет интересы текстом, мы делаем из них один эмбеддинг. Работает он как монета (ROC-AUC 0.52), а на коротких интересах 0.41, то есть хуже случайного порядка. Прогнали шесть вариантов починки и подняли до 0.80. Рассказываю, что сработало, а что нет. Что показали цифры

https://habr.com/ru/articles/1077866/

#рекомендательные_системы #эмбеддинги #ROCAUC #векторный_поиск #персонализация #cold_start #pseudorelevance_feedback #NDCG #telegram_bot

Как установить контакт с инопланетянами с помощью LLM

Допустим, в один прекрасный день земные радиотелескопы начнут принимать сигналы радиовещания инопланетян (мощные и незашифрованные, конечно). Как нам понять о чем там речь?

https://habr.com/ru/articles/1077758/

#LLM #эмбеддинги #латентное_пространство #seti #инопланетяне #word2vec #gpt #vec2vec

Где счетный бейзлайн бьет трансформер: честное сравнение на русских отзывах

Когда нужно классифицировать текст, дефолтный ход в 2026 – взять предобученный трансформер и дообучить. TF-IDF воспринимается как музейный экспонат: работал в эпоху до BERT, сейчас не всерьез. Обычно этот выбор никто не проверяет на своих данных, потому что и так понятно, кто победит. Мы решили проверить. Взяли одну задачу, один корпус, одну метрику и прогнали три подхода подряд: счетный бейзлайн на TF-IDF, сверточную сеть TextCNN и дообученный русский энкодер. Считали не только качество, но и стоимость – время обучения и скорость предсказания на обычном процессоре. Короткий вывод: на этой задаче счетный бейзлайн обучается за три секунды и по честной метрике держится вровень с трансформером, который дообучался восемь минут. А трансформер, взятый по стандартному рецепту, сначала вообще проиграл – и проиграл поучительно. Дальше – как так вышло и что из этого забрать себе.

https://habr.com/ru/articles/1077244/

#NLP #TFIDF #трансформеры #rubert #классификация_текста #macroF1 #несбалансированные_данные #бейзлайн #PyTorch #эмбеддинги

Девопс-инженер и ИИ влетают в бизнес-задачи с двух ног

209 тысяч наименований товаров в 150 представительствах записаны по-разному, а обычный join сопоставляет от силы 1% из них. Дата-инженер Дмитрий Дунаев на Вечерней школе Слёрма показал, как эту путаницу разгребли с помощью LLM, эмбеддингов и fuzzy-поиска, а заодно избавили менеджеров от звонков по 5 минут за штуку из бесконечного списка на обзвон. Из 15 протестированных моделей нужный баланс критериев показала только одна. Какая именно и почему, разбираем в конспекте доклада вместе с чек-листом, когда агента строить стоит, а когда деньги лучше сэкономить.

https://habr.com/ru/companies/slurm/articles/1075956/

#LLM #датаинженерия #антифрод #эмбеддинги #fuzzy_matching #тестирование_моделей #YandexGPT #Cherry_Studio #локальные_модели #152ФЗ

LLM‑судья вместо косинусной близости: точность подбора кандидатов с 44 до 66% и четыре провалившихся приёма

У нас есть внутренняя платформа подбора ИТ-специалистов. Вакансии приходят от заказчиков, и по каждой платформа находит в базе резюме, близкие к её тексту по смыслу, даже если слова в них другие. Внутри обычный векторный поиск на эмбеддингах. У любого такого поиска есть врождённая болезнь. Он находит похожие тексты, а рекрутёру нужны подходящие люди. Резюме сильного программиста совпадает с вакансией архитектора почти по всем ключевым словам, но это другая роль, и кандидат не подходит. Рекрутёр видит такое за несколько секунд. Поиск не видит вовсе. У такого резюме высокая косинусная близость к тексту вакансии, и поиск выводит его в верх поисковой выдачи. Этим летом мы переделали ранжирование кандидатов. Теперь место кандидата в поисковой выдаче зависит от ответа на вопрос, который рекрутёр и так задаёт себе про каждого. «Показал бы я этого кандидата клиенту?» На этот вопрос отвечает языковая модель (LLM). Она встроена в платформу как судья, перечитывает найденные поиском резюме, и каждый вердикт обязана доказывать дословными цитатами из них. Доля действительно подходящих кандидатов в первой десятке поисковой выдачи выросла с 43,7 до 66,3 процента. Замерено на эталонном наборе, который мы заморозили до начала работ. Как устроен замер, расскажу ниже. Кроме прироста точности эта переделка дала четыре истории, где проверка на эталонном наборе перечеркнула то, что казалось очевидным. Тендер на роль судьи, который мы устроили между четырьмя LLM, выигрывала недорогая и быстрая из них, пока мы не проверили, настоящие ли цитаты из резюме она приводит. Экономия на глубине рассуждений прошла все проверки качества и провалилась на проверке цитат. Перебор 1330 вариантов взвешивания оценок судьи доказал, что веса не нужны. А RRF, стандартный приём слияния семантического и полнотекстового поиска, первую же проверку на эталонном наборе провалил, он ухудшил и полноту, и точность. Обо всём по порядку. Читать дальше

https://habr.com/ru/articles/1074382/

#LLM #эмбеддинги #поиск_по_резюме #эталонный_набор #BM25 #рекрутинг

GigaChat 2 Max с памятью на связях обходит Claude Opus 5 без неё: замер семи моделей

На классе задач «в работе всплыла проблема — каким изменением её уже чинили» GigaChat 2 Max с памятью на связях отвечает верно в 57% случаев, YandexGPT Pro 5.1 — в 61%, а Claude Opus 5 с обычным поиском — в 41% . Модели никто не трогал: разница целиком в том, доехал ли до модели нужный факт в контексте. В статье приведены замеры, рассуждения, направления применения и выводы со ссылками на проверочные и связанные материалы.

https://habr.com/ru/articles/1073448/

#GigaChat #YandexGPT #Claude #LLM #RAG #векторный_поиск #эмбеддинги #ИИагенты #память_ИИагента #opus

У Claude Code уже есть такая память. Тогда зачем я держу свою?

В прошлой статье я показал, как держу память агента на md-файлах вместо вектор-базы. Теперь разбираю, чем она отличается от встроенной памяти Claude Code, зачем держу свою в git и что вообще стоит в нее писать.

https://habr.com/ru/articles/1072876/

#Claude_Code #LLMагенты #AIагенты #память_агента #долговременная_память #RAG #векторБД #эмбеддинги #markdown #git

Почему токенайзер реж ет сло ва не там где нужно

Заголовок этой статьи, частично, наглядная демонстрация того, как его видит языковая модель. Куски слов, нарезанные по логике, которая к русскому языку не имеет вообще никакого отношения. И из этой нарезки растет длинный список вещей, которые иногда списывают на «глупую нейронку» (особенно если речь идет о небольших локальных моделях): модель не может посчитать буквы в слове, путается в арифметике, коверкает редкие фамилии, а русский текст обходится вдвое дороже английского при том же смысле. А еще оттуда же растут вещи, которые с токенами вообще вроде бы не связаны. Например: почему «давай рассуждать по шагам» реально работает, и почему лишний пробел в конце промпта портит ответ. Виноват во всем этом компонент стека, который первым в пайплайне, никогда не обучается вместе с моделью и которому обычно посвящают полтора абзаца в начале туториала. Что ж, давайте по порядку.

https://habr.com/ru/companies/selectel/articles/1068446/

#токенизация #токенизатор #BPE #byte_pair_encoding #LLM #языковые_модели #эмбеддинги #контекстное_окно #промптинжиниринг #selectel

Positional encoding или как нейросеть «читает» текст

Большинство нейросетей работают с числами и читать как человек они не умеют, поэтому инженерами были придуманы способы помочь нейросети уловить не только смысл конкретного слова, но и всего предложения. Для достижения такой цели используется positional encoding, то есть помимо отдельных слов нейросети дают их порядок в тексте. В данной статье приведен сравнительный анализ чисто смысловых векторов, линейного базиса (порядковый номер слова), базиса Фурье (синусы и косинусы), комплексного (экспоненты) и полиномы Чебышева для кодирования двух английских палиндромов.

https://habr.com/ru/articles/1072510/

#нейросети #программирование #эмбеддинги #эмбеддинг #позиционный_контекст #data_science #embedding #transformer #трансформеры #нейросеть

Разговорили гуманоида: как за месяц мы построили русскоязычный голосовой стек для китайского робота

Можно ли управлять гуманоидом Walker Tienkung через свой голосовой ассистент по-русски? Мы решили проверить — и быстро выяснили, что ответ сложнее, чем кажется. Штатная система понимала только китайский, Whisper ошибался на коротких командах, LLM добавляла задержку, а динамик съедал начало фразы после паузы. «Беги» превращалось в «begin», а «встань» — в «Таня». Рассказываем, как нам удалось построить свой собственный модульный русскоязычный стек, разделить команды и диалог, ускорить синтез речи, и добиться реакции за доли секунды. С архитектурой, тестами и новыми нерешёнными задачами. Полный гайд как заставить робота ростом 173 см и весом 75 кг слушать вас и понимать! Читать гайд

https://habr.com/ru/companies/361robotics/articles/1069312/

#распознавание_речи #синтез_речи #whisper #silero #vosk #голосовой_ассистент #робототехника #гуманоид #llm #эмбеддинги

Честный RAG eval set: как собрать первые 100-300 кейсов и не обмануть себя цифрой

В прошлой статье серии мы сжимали эмбеддинги и замеряли, насколько изменится выдача относительно полного fp32-поиска. Там это был правильный вопрос: ломает ли квантизация уже существующий retrieval . Но у такого замера есть неприятное слепое пятно. Можно аккуратно сохранить 99% выдачи исходного эмбеддера и все равно плохо находить нужные документы на своем домене. Внешний бенчмарк, даже сильный, этого не гарантирует. BEIR как раз был создан, чтобы показать, насколько результаты retrieval меняются между разными задачами и доменами; один усредненный скор там не заменяет проверку на собственных данных. Нужен свой eval set . И тут обычно возникает ложная развилка:

https://habr.com/ru/articles/1070534/

#rag #retrieval #evals #оценка_качества #LLM #эмбеддинги #поиск #MTEB #ragas #BEIR

Винни-Пух в 768 измерениях: семантический поиск Codex Pets на YDB

В многомерном пространстве найти Винни-Пуха можно даже не зная его имени. В запросе “тревожный коричневый медведь из старого мультфильма” нет ни одного слова из имени или описания питомца, но гибридный поиск по словам и векторам всё равно выдает его первым. Показываю, как Codex Pets превращает текст и кадры анимации в векторы, сравнивает их в YDB и помогает Винни найти друзей.

https://habr.com/ru/articles/1067576/

#YDB #семантический_поиск #векторный_поиск #эмбеддинги #Yandex_AI_Studio #Codex #Codex_Pets #рекомендательные_системы