#embeddings — Public Fediverse posts

Семантического поиска оказалось мало. Как я научил Obsidian находить похожие заметки

В прошлой статье я рассказывал, как добавил в Obsidian локальный семантический индекс. Сам проект развивается открыто, код лежит здесь: GitHub: https://github.com/zinverno/obsidian-ai-hub С тех пор semantic-слой заметно вырос. Появились автоматическая синхронизация индекса, Similar Notes и поиск потенциальных дублей. В какой-то момент стало понятно, что сам по себе семантический поиск решает только половину задачи. Базовая схема у меня была такой:

https://habr.com/ru/articles/1071832/

#Obsidian #semantic_search #embeddings #vector_search #Similar_Notes #TypeScript #cosine_similarity #vector_index #semantic_discovery

Как искать живой спрос в шумных городских Telegram-чатах

Городские Telegram-чаты похожи на непрерывный поток логов без схемы. В одном сообщении человек ищет квартиру, в следующем агент публикует двадцатую копию объявления, затем идут курс валют, потерянный телефон, рекомендация врача и спор не по теме. Поиск по словам быстро упирается в синонимы, несколько языков, устаревающие сообщения и главное противоречие: «сниму квартиру» и «сдам квартиру» говорят об одном объекте, но требуют противоположных результатов. Ниже — архитектурные решения, которые мы используем в Global Pulse, поиске по городским Telegram-сообществам. Первый город — Нячанг. Это не рассказ о гарантированных лидах: система работает только с доступными сообщениями и может пропускать полезные события или ошибаться в классификации.

https://habr.com/ru/articles/1070646/

#Telegram #поиск #embeddings #pgvector #NLP #уведомления #классификация_намерений

🥳 Wow, someone finally found a way to make #mathematics sound like a #household chore. "Matryoshka vs. PCA" sounds like the title of a bad sitcom where nobody laughs, but at least we learn that shrinking #embeddings is as exciting as watching paint dry. 📉🔍
https://dylancastillo.co/posts/matryoshka-vs-pca #Humor #Chores #DataScience #PCA #HackerNews #ngated

Honey, I shrunk the embeddings: Matryoshka vs. PCA

https://dylancastillo.co/posts/matryoshka-vs-pca

Comments: https://news.ycombinator.com/item?id=49156607

#HackerNews #honeyishrunk #embeddings #matryoshka #PCA #machinelearning #dataanalysis

Я научил Obsidian искать по смыслу. Как устроен локальный семантический индекс без отдельной векторной БД

В комментариях к прошлой статье мне написали примерно следующее: граф связей выглядит красиво, но хороший поиск по заметкам полезнее. Спорить было трудно. Я сам регулярно открывал Obsidian, помнил, что где-то писал нужную мысль, но не помнил ни заголовок, ни точную формулировку. Обычный поиск в такой ситуации помогал примерно как человек, который на вопрос «где мои ключи?» отвечает «там, где ты их оставил». Например, в заметке могло быть написано:

https://habr.com/ru/articles/1067058/

#Obsidian #семантический_поиск #embeddings #векторный_поиск #TypeScript #локальный_индекс #LocalVectorStore #OpenRouter #Ollama #Vault_Audit_AI

Шесть лет разработки Telegram-бота: от токенайзера до LLM, RAG и векторных баз

Ио — это LLM-бот для Telegram-чатов. Он умеет отвечать на сообщения пользователей, распознавать изображения и голосовые сообщения, учитывать текущий тред, историю переписки и информацию о пользователе. Расскажу, как я пилил его несколько лет, пытался научить помнить пользователей, разбирался с RAG и векторными базами и в итоге получил систему, которая действительно работает. Как бот научился помнить

https://habr.com/ru/articles/1065060/

#telegram_bot #llmмодели #rag #векторные_базы_данных #vector_search #postgresql #embeddings #ai

Another day, another #AI #cookbook 🍳: Claude's "Practical Guides" for the hopelessly optimistic 🛠️, boasting magical "semantic embeddings" and "automatic #context compaction" 💡. Because what we really needed was an #AI that can zoom into charts like a socially awkward intern with a magnifying glass 🔍.
https://platform.claude.com/cookbook/ #Guides #Semantic #Embeddings #Compaction #Tech #Humor #HackerNews #ngated

How a computer reads text - from counting words to vectors

From tokenization through TF-IDF and Markov chains, to Word2Vec. How a computer turns text into numb...

https://gruszka.dev/en/how-computer-reads-text.html
#llm #ai #nlp #tokenization #word2vec #embeddings #tfidf #markov #bayes #languagemodels

Jak komputer czyta tekst - od liczenia słów do wektorów

Od tokenizacji przez TF-IDF i łańcuchy Markowa, aż po Word2Vec. Jak komputer zamienia tekst w liczby...

https://gruszka.dev/jak-komputer-czyta-tekst.html
#llm #ai #nlp #tokenizacja #word2vec #embeddings #tfidf #markow #bayes #languagemodels

Карточки из музыкальной студии 1975 года против продуктовых тупиков

Есть задачи, которые вроде бы не выглядят тупиком. Всё уже обсудили, аргументы есть — а решение почему-то снова переезжает на следующую неделю. Я решил проверить, может ли в такой момент помочь принцип из музыкальной студии 1975 года: слегка нарушить привычный ход разговора.

https://habr.com/ru/articles/1062028/

#product_management #искусственный_интеллект #deepseek #nextjs #llm #embeddings #sqlite #ux #product_design #product_discovery

#Earth #Observation with #RemoteSensing Foundation Models in #ArcGIS https://tinyurl.com/2vp8z5uh

#imagery #data #analysis #AI #embeddings #GIS #esri #mapping #GISchat #geospatial @esri @esrifederalgovt @esrislgov @esritraining @urisa

What's new in #AI tools and models in #ArcGIS (Q2 2026) https://tinyurl.com/ymjc73pb

#GeoAI #spatial #analysis #embeddings #GIS #esri #mapping #GISchat #geospatial @esri @esrifederalgovt @esrislgov @arcgispro @arcgisonline @esritraining

Персонализация без Big Data: как мы ранжируем новости в Telegram с помощью pgvector и пяти сигналов

У меня накопилось 23 Telegram-канала. Не потому что я специально их коллекционировал. Просто со временем подписывался на новые. В какой-то момент понял, что читаю всего несколько процентов того, что приходит. Остальное просто пролистываю в поисках чего-то интересного. Проблема здесь простая. Telegram показывает посты только по времени публикации. Самые новые всегда наверху. Неважно, интересна тебе тема или нет. Никакой персонализации нет. Есть только хронология. Из-за этого появился CleanNews — бот, который собирает посты из ваших Telegram-каналов и формирует персональную подборку. В этой статье я покажу, как работает его рекомендательный движок. В основе — пять независимых сигналов, pgvector и контрастный вектор. И всё это без огромного обучающего датасета на миллионы записей.

https://habr.com/ru/articles/1059600/

#рекомендательные_системы #ranking #embeddings #machine_learning

An Introduction to #Embeddings for #GIS #Analysts https://tinyurl.com/3n8tenh2

#data #demographic #AI #GISchat #geospatial #esri #arcgis #mapping @esri @esrifederalgovt @esrislgov @arcgispro @esritraining @urisa

От текста к смыслу: Embeddings, GPT и многомерные векторы в конкурентном анализе мобильных приложений

Отзывы пользователей — один из самых ценных источников информации о продукте, при этом часто клиенты описывают одну и ту же тему или проблему десятками разных слов. Раньше работать с фидбэком было долго и ресурсоемко, но с появлением Embeddings и LLM это изменилось.

https://habr.com/ru/companies/garage8/articles/1057100/

#Embeddings #GPT #LLM #OpenAI_Embeddings_API #анализ_отзывов #кластеризация_отзывов #KMeans #Agglomerative_Clustering #тональность_отзывов #voice_of_customer

How a computer reads text - from counting words to vectors

From tokenization through TF-IDF and Markov chains, to Word2Vec. How a computer turns text into numb...

https://gruszka.dev/en/how-computer-reads-text.html
#llm #ai #nlp #tokenization #word2vec #embeddings #tfidf #markov #bayes #languagemodels

Contextual Retrieval: техника, которая чинит главную проблему RAG за 50 центов на тысячу чанков

Классический RAG часто ошибается не из‑за слабой embedding‑модели, а потому что чанки теряют связь с исходным документом. Разбираем, как Contextual Retrieval возвращает этот контекст перед индексацией и помогает точнее искать нужные фрагменты в корпоративных базах знаний.

https://habr.com/ru/companies/otus/articles/1054594/

#RAG #Contextual_Retrieval #LLM #embeddings #BM25 #reranking #чанки #векторный_поиск #база_знаний #корпоративный_ИИ

Ah, the classic tech blog post: "Look, Ma! We made it 14x faster and slapped 'embeddings' in the title! 🚀💨" Meanwhile, the potential readers are stuck deciphering a client list longer than War and Peace. 📜🤣
https://manticoresearch.com/blog/onnx-embeddings-speedup/ #techblogging #speedoptimization #embeddings #humor #clientlist #HackerNews #ngated

14× faster embeddings: how we rebuilt the ONNX path in Manticore

https://manticoresearch.com/blog/onnx-embeddings-speedup/

#HackerNews #ONNX #Manticore #embeddings #speedup #AI #research

Сжатие декодерных эмбеддеров: как ужать 8B до продакшена без потери recall

Декодерный эмбеддер 7–8B дает качество, но платит за него памятью, latency и деньгами. Разбираем все оси сжатия - int8, int4, binary + rescoring, PQ, MRL-усечение - на реальных замерах recall@10: где деградация мягкая, а где обрыв. С воспроизводимым кодом и Colab-ноутбуком под Qwen3

https://habr.com/ru/articles/1054930/

#сжатие_эмбеддингов #квантизация #эмбеддинги #embeddings #RAG #Qdrant #Qwen3 #binary_quantization #Matryoshka #retrieval

В 14 раз быстрее: как мы ускорили генерацию эмбеддингов в Manticore через ONNX

Когда мы выпустили Auto Embeddings — функцию автоматического преобразования текстов в векторные представления — без развёртывания отдельного сервиса для работы с ML-моделью, — главный запрос пользователей касался скорости работы. Ранее для генерации эмбеддингов использовался только стек SentenceTransformers поверх Candle (Rust-рантайм Hugging Face для ML-инференса), и ресурсы CPU использовались далеко не полностью: в большинстве сценариев нагрузки показатель QPS держался на уровне нескольких десятков документов в секунду независимо от способа подачи данных, а параллельные запросы обрабатывались последовательно в рамках одной сессии модели. Поэтому мы в течение нескольких недель оптимизировали механизм запуска ONNX-моделей в Manticore. Новый бэкенд ONNX Runtime доступен начиная с Manticore Search 27.1.5 . ONNX (Open Neural Network Exchange) — переносимый формат моделей, в котором уже публикуется большинство популярных open-source моделей для эмбеддингов: MiniLM, BGE, E5 и другие. В результате получилось решение, которое в среднем в 14 раз быстрее прежней реализации SentenceTransformers/Candle на том же оборудовании (обычный недорогой сервер с 16 ядрами / 32 потоками), с той же моделью и теми же весами, если усреднить по всей матрице замеров threads × batch , — и это преимущество сохраняется как при одном клиентском потоке, так и при тридцати двух. Предыдущая реализация во всём диапазоне нагрузок показывала 5–11 документов/с; новая реализация работает в диапазоне 70–230 документов/с.

https://habr.com/ru/articles/1051864/

#onnx #onnx_runtime #onnxruntime #embeddings #эмбеддинги #инференс #векторный_поиск #vector_search

Как выбрать эмбеддинг для проекта

Эмбеддинги (иначе говоря, векторные представления) — это способ представления абстрактных данных в виде набора чисел (в виде векторов, как вы могли уже понять) , близкие значения которых связаны семантически и математически и с которыми может работать модель искусственного интеллекта. Разберемся какие модели лучше других подходят для кодирования слов. Параллельно с этим разберём принципы, на которые нужно опираться при выборе эмбеддинг-модели, пощупаем русские BERT-модели и внесём ясность про системные требования, контекстное окно и размер батча.

https://habr.com/ru/companies/bothub/articles/1048210/

#ai #эмбеддинги #как_выбрать_эмбединг #гайд_на_эмбединг #embeddings #LLM #documentation #documentoriented_databases #как_подключить_embedding #векторная_база_данных

Где заканчивается вызов LLM и начинается backend система: локальный RAG на FastAPI и Ollama

Хотел разобраться где заканчивается простой вызов локальной LLM и начинается backend система. Сначала всё выглядело просто: frontend отправляет вопрос, FastAPI принимает POST /ask, backend вызывает локальную модель через Ollama и возвращает ответ. Но стало понятно: для помощника по документации этого мало. Модель отвечает, но непонятно на какие документы она опирается, какие фрагменты попали в prompt, сколько времени занял каждый этап и что делать, если индекс устарел. В статье показываю не "как вообще устроен RAG", а путь от простого вызова локальной LLM к небольшому backend/RAG-проекту с API контрактом, request_id, логированием, sources, timings, rebuild index, negative tests и честными ограничениями. От LLM вызова к RAG системе

https://habr.com/ru/articles/1048252/

#rag #llm #fastapi #ollama #python #backend #embeddings #vector_store #request_id #локальная_llm

Retrieval в 2026: как RAG переехал с энкодеров на LLM (и что с этим делать в своём проекте)

Если вы строили RAG в 2023, ваш стек выглядел плюс-минус одинаково. BERT-семейство (BGE, e5) для семантики, BM25 для буквальных совпадений, cross-encoder для реранкинга, какой-нибудь Qdrant сверху. Этим жили два года, и многие до сих пор так живут. Но если посмотреть, кто реально гоняется в продакшене у команд, которые ушли вперёд, ландшафт другой. Энкодеров там почти нет. Эмбеддит файнтюненная LLM. Реранкер — тоже LLM. Инференс на SGLang, а не на ONNX. И вся обвязка перестроилась под это. Эта статья про то, что поменялось и как переиспользовать этот стек у себя. Особенно если вы работаете в узком домене, где готовых датасетов нет.

https://habr.com/ru/articles/1049872/

#RAG #эмбеддинги #embeddings #retrieval #LLM #Qwen3 #Qdrant #vector_search #hard_negatives #LLM2Vec

Jak komputer czyta tekst - od liczenia słów do wektorów

Od tokenizacji przez TF-IDF i łańcuchy Markowa, aż po Word2Vec. Jak komputer zamienia tekst w liczby...

https://gruszka.dev/jak-komputer-czyta-tekst.html
#llm #ai #nlp #tokenizacja #word2vec #embeddings #tfidf #markow #bayes #languagemodels