home.social

#machine_learning — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #machine_learning, aggregated by home.social.

fetched live
  1. Поиск в глубину: какие инструменты помогают работать поиску в Uzum Market

    Всем привет! Меня зовут Дмитрий Шипилов, с вами команда поиска Uzum Market. Мы уже рассказывали вам о нашем поисковом движке: о том, как вообще работает ранжирование и что у него под капотом и как мы получаем кандидатов с помощью векторного поиска . Но хороший поиск — это не только правильное ранжирование и мощная retrieval-часть. Хороший поиск — это набор различных инструментов и компонентов, собранных в сложную систему. Поэтому в этой статье вы узнаете о важных вещах, без которых наш поиск не может обойтись, в том числе: как мы помогли опечаточнику понимать контекст нашего маркетплейса, почему безобидные синонимы могут привести к неожиданным эффектам, в каких случаях важно сужать количество товаров и как построить устойчивую LLM-систему для оценки качества ранжирования. Так что там про поиск

    habr.com/ru/companies/uzum/art

    #machine_learning #search #ranking #elasticsearch

  2. Поиск в глубину: какие инструменты помогают работать поиску в Uzum Market

    Всем привет! Меня зовут Дмитрий Шипилов, с вами команда поиска Uzum Market. Мы уже рассказывали вам о нашем поисковом движке: о том, как вообще работает ранжирование и что у него под капотом и как мы получаем кандидатов с помощью векторного поиска . Но хороший поиск — это не только правильное ранжирование и мощная retrieval-часть. Хороший поиск — это набор различных инструментов и компонентов, собранных в сложную систему. Поэтому в этой статье вы узнаете о важных вещах, без которых наш поиск не может обойтись, в том числе: как мы помогли опечаточнику понимать контекст нашего маркетплейса, почему безобидные синонимы могут привести к неожиданным эффектам, в каких случаях важно сужать количество товаров и как построить устойчивую LLM-систему для оценки качества ранжирования. Так что там про поиск

    habr.com/ru/companies/uzum/art

    #machine_learning #search #ranking #elasticsearch

  3. Поиск в глубину: какие инструменты помогают работать поиску в Uzum Market

    Всем привет! Меня зовут Дмитрий Шипилов, с вами команда поиска Uzum Market. Мы уже рассказывали вам о нашем поисковом движке: о том, как вообще работает ранжирование и что у него под капотом и как мы получаем кандидатов с помощью векторного поиска . Но хороший поиск — это не только правильное ранжирование и мощная retrieval-часть. Хороший поиск — это набор различных инструментов и компонентов, собранных в сложную систему. Поэтому в этой статье вы узнаете о важных вещах, без которых наш поиск не может обойтись, в том числе: как мы помогли опечаточнику понимать контекст нашего маркетплейса, почему безобидные синонимы могут привести к неожиданным эффектам, в каких случаях важно сужать количество товаров и как построить устойчивую LLM-систему для оценки качества ранжирования. Так что там про поиск

    habr.com/ru/companies/uzum/art

    #machine_learning #search #ranking #elasticsearch

  4. Когда подписи недостаточно: как мы расчищали «серую зону» в Поиске по картинкам

    Исторически в Яндекс Картинках релевантность документа оценивалась по двум сигналам: насколько запросу подходит само изображение и насколько — текст, связанный с этим изображением. Такой подход позволяет учесть контент картинки и не провалиться на визуально трудноотличимых объектах, однако он же порождает проблему: в «серой зоне», когда текстовая релевантность не сонаправлена с картиночной, становится неочевидно, как именно агрегировать сигналы в финальный скор релевантности. Привет! Я Константин Николаев, занимаюсь внедрением нейротехнологий в Поиске по картинкам. В этой статье я расскажу, как наша команда научила модели смотреть на картинку и читать текст документа одновременно: начали с тяжёлой мультимодальной VLM ради максимального качества, а затем дистиллировали её в набор лёгких моделей — по одной под каждую стадию пайплайна. Что из этого удалось довести до realtime‑поиска с десятками тысяч запросов в секунду и как совместный анализ двух модальностей добавил 5% релевантных картинок в топ выдачи — под катом.

    habr.com/ru/companies/yandex/a

    #machine_learning #Yandex_картинки #поисковые_технологии #ml

  5. Когда подписи недостаточно: как мы расчищали «серую зону» в Поиске по картинкам

    Исторически в Яндекс Картинках релевантность документа оценивалась по двум сигналам: насколько запросу подходит само изображение и насколько — текст, связанный с этим изображением. Такой подход позволяет учесть контент картинки и не провалиться на визуально трудноотличимых объектах, однако он же порождает проблему: в «серой зоне», когда текстовая релевантность не сонаправлена с картиночной, становится неочевидно, как именно агрегировать сигналы в финальный скор релевантности. Привет! Я Константин Николаев, занимаюсь внедрением нейротехнологий в Поиске по картинкам. В этой статье я расскажу, как наша команда научила модели смотреть на картинку и читать текст документа одновременно: начали с тяжёлой мультимодальной VLM ради максимального качества, а затем дистиллировали её в набор лёгких моделей — по одной под каждую стадию пайплайна. Что из этого удалось довести до realtime‑поиска с десятками тысяч запросов в секунду и как совместный анализ двух модальностей добавил 5% релевантных картинок в топ выдачи — под катом.

    habr.com/ru/companies/yandex/a

    #machine_learning #Yandex_картинки #поисковые_технологии #ml

  6. Когда подписи недостаточно: как мы расчищали «серую зону» в Поиске по картинкам

    Исторически в Яндекс Картинках релевантность документа оценивалась по двум сигналам: насколько запросу подходит само изображение и насколько — текст, связанный с этим изображением. Такой подход позволяет учесть контент картинки и не провалиться на визуально трудноотличимых объектах, однако он же порождает проблему: в «серой зоне», когда текстовая релевантность не сонаправлена с картиночной, становится неочевидно, как именно агрегировать сигналы в финальный скор релевантности. Привет! Я Константин Николаев, занимаюсь внедрением нейротехнологий в Поиске по картинкам. В этой статье я расскажу, как наша команда научила модели смотреть на картинку и читать текст документа одновременно: начали с тяжёлой мультимодальной VLM ради максимального качества, а затем дистиллировали её в набор лёгких моделей — по одной под каждую стадию пайплайна. Что из этого удалось довести до realtime‑поиска с десятками тысяч запросов в секунду и как совместный анализ двух модальностей добавил 5% релевантных картинок в топ выдачи — под катом.

    habr.com/ru/companies/yandex/a

    #machine_learning #Yandex_картинки #поисковые_технологии #ml

  7. Побеждаем OOM в PyTorch: как обучать гигантские графы на обычной видеокарте

    При обучении графных нейросетей и гигантских эмбеддингов на миллионы узлов стандартный torch.optim.SparseAdam в PyTorch моментально забивает RAM и VRAM, вызывая ошибку CUDA out of memory (OOM). В этой статье разбираем, как устроена легковесная Open Source библиотека Disk Sparse Adam (DSA), которая выносит состояния моментов на диск через memory mapping (mmap) и позволяет обучать огромные спарс-модели на обычной домашней видеокарте.

    habr.com/ru/articles/1068202/

    #PyTorch #Machine_Learning #Open_Source #Python #GNN #OOM #SparseAdam #Оптимизация_памяти #Disk_Sparse_Adam #Глубокое_обучение

  8. Побеждаем OOM в PyTorch: как обучать гигантские графы на обычной видеокарте

    При обучении графных нейросетей и гигантских эмбеддингов на миллионы узлов стандартный torch.optim.SparseAdam в PyTorch моментально забивает RAM и VRAM, вызывая ошибку CUDA out of memory (OOM). В этой статье разбираем, как устроена легковесная Open Source библиотека Disk Sparse Adam (DSA), которая выносит состояния моментов на диск через memory mapping (mmap) и позволяет обучать огромные спарс-модели на обычной домашней видеокарте.

    habr.com/ru/articles/1068202/

    #PyTorch #Machine_Learning #Open_Source #Python #GNN #OOM #SparseAdam #Оптимизация_памяти #Disk_Sparse_Adam #Глубокое_обучение

  9. Побеждаем OOM в PyTorch: как обучать гигантские графы на обычной видеокарте

    При обучении графных нейросетей и гигантских эмбеддингов на миллионы узлов стандартный torch.optim.SparseAdam в PyTorch моментально забивает RAM и VRAM, вызывая ошибку CUDA out of memory (OOM). В этой статье разбираем, как устроена легковесная Open Source библиотека Disk Sparse Adam (DSA), которая выносит состояния моментов на диск через memory mapping (mmap) и позволяет обучать огромные спарс-модели на обычной домашней видеокарте.

    habr.com/ru/articles/1068202/

    #PyTorch #Machine_Learning #Open_Source #Python #GNN #OOM #SparseAdam #Оптимизация_памяти #Disk_Sparse_Adam #Глубокое_обучение

  10. 16 и ещё 1 причина знать SHAP

    Мы знаем его как "метод на основе Теории Игр", "фреймворк" и издалека чувствуем, что это он, видя красные и синие полоски. Но что сделало этот метод таким популярным? Как он родился и почему, после релиза в 2017 году, разные группы исследователей добавляли в него новые расширения и куда этот инструмент пришел сейчас? Предлагаю впервые за долгое время потрогать от меня статью без кода — но с картинками. В ней вы узнаете ответы на вопросы и откроете для себя ровно 15 расширений SHAP. А почему причин 17 — тоже увидите из текста.

    habr.com/ru/articles/1067656/

    #explainable_ai #shapley_values #machine_learning

  11. 16 и ещё 1 причина знать SHAP

    Мы знаем его как "метод на основе Теории Игр", "фреймворк" и издалека чувствуем, что это он, видя красные и синие полоски. Но что сделало этот метод таким популярным? Как он родился и почему, после релиза в 2017 году, разные группы исследователей добавляли в него новые расширения и куда этот инструмент пришел сейчас? Предлагаю впервые за долгое время потрогать от меня статью без кода — но с картинками. В ней вы узнаете ответы на вопросы и откроете для себя ровно 15 расширений SHAP. А почему причин 17 — тоже увидите из текста.

    habr.com/ru/articles/1067656/

    #explainable_ai #shapley_values #machine_learning

  12. 16 и ещё 1 причина знать SHAP

    Мы знаем его как "метод на основе Теории Игр", "фреймворк" и издалека чувствуем, что это он, видя красные и синие полоски. Но что сделало этот метод таким популярным? Как он родился и почему, после релиза в 2017 году, разные группы исследователей добавляли в него новые расширения и куда этот инструмент пришел сейчас? Предлагаю впервые за долгое время потрогать от меня статью без кода — но с картинками. В ней вы узнаете ответы на вопросы и откроете для себя ровно 15 расширений SHAP. А почему причин 17 — тоже увидите из текста.

    habr.com/ru/articles/1067656/

    #explainable_ai #shapley_values #machine_learning

  13. Machine Learning Engineering by Andriy Burkov is on sale on Leanpub! Its suggested price is $40.00; get it for $17.00 with this coupon: leanpub.com/MLE/c/LeanPublishi #machine_learning #ai #systems_engineering #software_engineering

  14. Machine Learning Engineering by Andriy Burkov is on sale on Leanpub! Its suggested price is $40.00; get it for $17.00 with this coupon: leanpub.com/MLE/c/LeanPublishi #machine_learning #ai #systems_engineering #software_engineering

  15. Machine Learning Engineering by Andriy Burkov is on sale on Leanpub! Its suggested price is $40.00; get it for $17.00 with this coupon: leanpub.com/MLE/c/LeanPublishi #machine_learning #ai #systems_engineering #software_engineering

  16. Machine Learning Engineering by Andriy Burkov is on sale on Leanpub! Its suggested price is $40.00; get it for $17.00 with this coupon: leanpub.com/MLE/c/LeanPublishi #machine_learning #ai #systems_engineering #software_engineering

  17. Геопространственный анализ данных на Python

    Краткий обзор курса, который я недавно закончил пилить на Степике - Геопространственный анализ данных на Python . Курс посвящен работе с векторными геоданными в экосистеме Python: от картографических проекций и геометрий — до дорожных сетей, изохрон и интерактивных карт. С небольшим уклоном в GeoML. Курс платный. По промокоду FIRST предоставляется скидка 50%.

    habr.com/ru/articles/1065714/

    #machine_learning #geo #geodata #geolocation #maps #python

  18. Геопространственный анализ данных на Python

    Краткий обзор курса, который я недавно закончил пилить на Степике - Геопространственный анализ данных на Python . Курс посвящен работе с векторными геоданными в экосистеме Python: от картографических проекций и геометрий — до дорожных сетей, изохрон и интерактивных карт. С небольшим уклоном в GeoML. Курс платный. По промокоду FIRST предоставляется скидка 50%.

    habr.com/ru/articles/1065714/

    #machine_learning #geo #geodata #geolocation #maps #python

  19. Геопространственный анализ данных на Python

    Краткий обзор курса, который я недавно закончил пилить на Степике - Геопространственный анализ данных на Python . Курс посвящен работе с векторными геоданными в экосистеме Python: от картографических проекций и геометрий — до дорожных сетей, изохрон и интерактивных карт. С небольшим уклоном в GeoML. Курс платный. По промокоду FIRST предоставляется скидка 50%.

    habr.com/ru/articles/1065714/

    #machine_learning #geo #geodata #geolocation #maps #python

  20. Memorization vs Generalization: что действительно умеет языковая модель (TLM) на 2 160 параметров (v1.1.0)

    Продолжая тему Крошечной Языковой Модели на Nodejs мы поймем где проходит граница ее возможностей. На примере Крошечной Языковой Модели (TLM) из 2 160 параметров мы проведём воспроизводимый эксперимент и увидим в цифрах: знакомый шаблон - 99,93%, перестановка токенов - 81,69%, неизвестная структура -?%.

    habr.com/ru/articles/1065160/

    #machinelearning #machine_learning #backpropagation #selfattention #autograd #nodejs #javascript #sft #нейронная_сеть #transformer

  21. Memorization vs Generalization: что действительно умеет языковая модель (TLM) на 2 160 параметров (v1.1.0)

    Продолжая тему Крошечной Языковой Модели на Nodejs мы поймем где проходит граница ее возможностей. На примере Крошечной Языковой Модели (TLM) из 2 160 параметров мы проведём воспроизводимый эксперимент и увидим в цифрах: знакомый шаблон - 99,93%, перестановка токенов - 81,69%, неизвестная структура -?%.

    habr.com/ru/articles/1065160/

    #machinelearning #machine_learning #backpropagation #selfattention #autograd #nodejs #javascript #sft #нейронная_сеть #transformer

  22. Memorization vs Generalization: что действительно умеет языковая модель (TLM) на 2 160 параметров (v1.1.0)

    Продолжая тему Крошечной Языковой Модели на Nodejs мы поймем где проходит граница ее возможностей. На примере Крошечной Языковой Модели (TLM) из 2 160 параметров мы проведём воспроизводимый эксперимент и увидим в цифрах: знакомый шаблон - 99,93%, перестановка токенов - 81,69%, неизвестная структура -?%.

    habr.com/ru/articles/1065160/

    #machinelearning #machine_learning #backpropagation #selfattention #autograd #nodejs #javascript #sft #нейронная_сеть #transformer

  23. [Перевод] Языковая Модель без магии: Крошечная Language Model на чистом Node.js

    Мы создаем крошечную языковую модель с нуля на чистом Node.js без использования TensorFlow или PyTorch, реализуя нейроны, автоград, эмбеддинги, механизм самовнимания (self-attention), полносвязную сеть (FFN), обратное распространение ошибки и SFT, одновременно наблюдая за тем, как отдельные веса и целые матрицы изменяются в процессе обучения Это не новая GPT и не прод ML...

    habr.com/ru/articles/1063406/

    #machinelearning #machine_learning #backpropagation #selfattention #autograd #nodejs #javascript #sft #нейронная_сеть #transformer

  24. [Перевод] Языковая Модель без магии: Крошечная Language Model на чистом Node.js

    Мы создаем крошечную языковую модель с нуля на чистом Node.js без использования TensorFlow или PyTorch, реализуя нейроны, автоград, эмбеддинги, механизм самовнимания (self-attention), полносвязную сеть (FFN), обратное распространение ошибки и SFT, одновременно наблюдая за тем, как отдельные веса и целые матрицы изменяются в процессе обучения Это не новая GPT и не прод ML...

    habr.com/ru/articles/1063406/

    #machinelearning #machine_learning #backpropagation #selfattention #autograd #nodejs #javascript #sft #нейронная_сеть #transformer

  25. [Перевод] Языковая Модель без магии: Крошечная Language Model на чистом Node.js

    Мы создаем крошечную языковую модель с нуля на чистом Node.js без использования TensorFlow или PyTorch, реализуя нейроны, автоград, эмбеддинги, механизм самовнимания (self-attention), полносвязную сеть (FFN), обратное распространение ошибки и SFT, одновременно наблюдая за тем, как отдельные веса и целые матрицы изменяются в процессе обучения Это не новая GPT и не прод ML...

    habr.com/ru/articles/1063406/

    #machinelearning #machine_learning #backpropagation #selfattention #autograd #nodejs #javascript #sft #нейронная_сеть #transformer

  26. Machine Learning Engineering by Andriy Burkov is on sale on Leanpub! Its suggested price is $40.00; get it for $17.00 with this coupon: leanpub.com/MLE/c/LeanPublishi #machine_learning #ai #systems_engineering #software_engineering

  27. Machine Learning Engineering by Andriy Burkov is on sale on Leanpub! Its suggested price is $40.00; get it for $17.00 with this coupon: leanpub.com/MLE/c/LeanPublishi #machine_learning #ai #systems_engineering #software_engineering

  28. Machine Learning Engineering by Andriy Burkov is on sale on Leanpub! Its suggested price is $40.00; get it for $17.00 with this coupon: leanpub.com/MLE/c/LeanPublishi #machine_learning #ai #systems_engineering #software_engineering

  29. Machine Learning Engineering by Andriy Burkov is on sale on Leanpub! Its suggested price is $40.00; get it for $17.00 with this coupon: leanpub.com/MLE/c/LeanPublishi #machine_learning #ai #systems_engineering #software_engineering

  30. Build an LLM Inference Engine in C++ by Hatem M. is on sale on Leanpub! Its suggested price is $24.00; get it for $14.40 with this coupon: leanpub.com/buildanllminferenc #machine_learning #c_and_cpp #algorithm #ai

  31. Build an LLM Inference Engine in C++ by Hatem M. is on sale on Leanpub! Its suggested price is $24.00; get it for $14.40 with this coupon: leanpub.com/buildanllminferenc #machine_learning #c_and_cpp #algorithm #ai

  32. Build an LLM Inference Engine in C++ by Hatem M. is on sale on Leanpub! Its suggested price is $24.00; get it for $14.40 with this coupon: leanpub.com/buildanllminferenc #machine_learning #c_and_cpp #algorithm #ai

  33. Build an LLM Inference Engine in C++ by Hatem M. is on sale on Leanpub! Its suggested price is $24.00; get it for $14.40 with this coupon: leanpub.com/buildanllminferenc #machine_learning #c_and_cpp #algorithm #ai

  34. Credit Scoring: Одинокое дерево, целый лес и разочарование в нейросетях

    Введение Кажется, что нейросети могут все. Мы видим результат их работы в системах распознавания лиц, видеоаналитике. Нас поражает умение нейросетей рисовать изображения, распознавать и синтезировать голос, а большие языковые модели уже давно проходят тест Тьюринга и ведут беседу как живые люди. Но, как показал мой эксперимент, в задачах кредитного скоринга они нисколько не лучше классических ML-моделей. В этой статье я расскажу, как решающее дерево, случайный лес, бустинг и даже многослойная нейросеть упираются в один и тот же потолок на данных кредитного скоринга. Ход эксперимента В качестве датасета были взяты данные кредитного скоринга с kaggle.com/competitions/GiveMe . Сначала мы обучили решающее дерево, с кросс-валидацией. График зависимости roc-auc от количества элементов выборки (Ореол вокруг кривой – это дисперсия (разброс) при кроссвалидации):

    habr.com/ru/articles/1062568/

    #machinelearning #machine_learning #ai #кредитный_скоринг

  35. Credit Scoring: Одинокое дерево, целый лес и разочарование в нейросетях

    Введение Кажется, что нейросети могут все. Мы видим результат их работы в системах распознавания лиц, видеоаналитике. Нас поражает умение нейросетей рисовать изображения, распознавать и синтезировать голос, а большие языковые модели уже давно проходят тест Тьюринга и ведут беседу как живые люди. Но, как показал мой эксперимент, в задачах кредитного скоринга они нисколько не лучше классических ML-моделей. В этой статье я расскажу, как решающее дерево, случайный лес, бустинг и даже многослойная нейросеть упираются в один и тот же потолок на данных кредитного скоринга. Ход эксперимента В качестве датасета были взяты данные кредитного скоринга с kaggle.com/competitions/GiveMe . Сначала мы обучили решающее дерево, с кросс-валидацией. График зависимости roc-auc от количества элементов выборки (Ореол вокруг кривой – это дисперсия (разброс) при кроссвалидации):

    habr.com/ru/articles/1062568/

    #machinelearning #machine_learning #ai #кредитный_скоринг

  36. Credit Scoring: Одинокое дерево, целый лес и разочарование в нейросетях

    Введение Кажется, что нейросети могут все. Мы видим результат их работы в системах распознавания лиц, видеоаналитике. Нас поражает умение нейросетей рисовать изображения, распознавать и синтезировать голос, а большие языковые модели уже давно проходят тест Тьюринга и ведут беседу как живые люди. Но, как показал мой эксперимент, в задачах кредитного скоринга они нисколько не лучше классических ML-моделей. В этой статье я расскажу, как решающее дерево, случайный лес, бустинг и даже многослойная нейросеть упираются в один и тот же потолок на данных кредитного скоринга. Ход эксперимента В качестве датасета были взяты данные кредитного скоринга с kaggle.com/competitions/GiveMe . Сначала мы обучили решающее дерево, с кросс-валидацией. График зависимости roc-auc от количества элементов выборки (Ореол вокруг кривой – это дисперсия (разброс) при кроссвалидации):

    habr.com/ru/articles/1062568/

    #machinelearning #machine_learning #ai #кредитный_скоринг

  37. Как добавить в умную колонку новые команды и ничего не сломать

    Чтобы дать команду умной колонке, не обязательно говорить активационное слово «Алиса»: есть быстрые команды — короткие фразы, с помощью которых можно управлять музыкой, громкостью или умным домом. Например, чтобы переключить трек, достаточно просто сказать «дальше», а чтобы убавить звук — «тише». Весь список команд можно посмотреть в настройках вашего аккаунта в приложении «Дом с Алисой». Быстрые команды удобнее не только пользователям, но и системе: запросы через слово «Алиса» требуют обращения к модели распознавания речи ASR, которой из‑за её размеров необходимы серверные вычислительные ресурсы, а модель быстрых команд устроена гораздо компактнее. Она работает прямо на устройстве, а значит, ограничена вычислительными ресурсами самой колонки — её CPU и оперативной памятью. Из‑за этого модель нельзя сильно увеличить: ей приходится оставаться компактной, зато запрос обрабатывается быстрее. За распознавание быстрых команд отвечает нейросеть. Её архитектура почти полностью совпадает с решением для наушников Яндекс Дропс, которое подробно описал в своей статье Григорий Афанасенко . Разница в основном в масштабе: наша модель весит всего от 0,5 до 1,5 МБ в зависимости от железа конкретного устройства. Со временем перед нами встала задача добавить к базовым командам «лайк» и «дизлайк» для управления треками, а также команды «включи блютус» и «выключи блютус». Особенно это актуально для Станции Стрит, которую часто берут с собой на природу, где нет интернета. Но главным было гарантировать абсолютное отсутствие ухудшения на уже запущенных командах и не слишком сильно увеличивать потребление ресурсов на устройстве.

    habr.com/ru/companies/yandex/a

    #keyword_spotting #голосовая_активация #умные_устройства #алиса #быстрые_команды #continual_learning #machine_learning #deep_learning #speech_processing #обработка_звука

  38. Как добавить в умную колонку новые команды и ничего не сломать

    Чтобы дать команду умной колонке, не обязательно говорить активационное слово «Алиса»: есть быстрые команды — короткие фразы, с помощью которых можно управлять музыкой, громкостью или умным домом. Например, чтобы переключить трек, достаточно просто сказать «дальше», а чтобы убавить звук — «тише». Весь список команд можно посмотреть в настройках вашего аккаунта в приложении «Дом с Алисой». Быстрые команды удобнее не только пользователям, но и системе: запросы через слово «Алиса» требуют обращения к модели распознавания речи ASR, которой из‑за её размеров необходимы серверные вычислительные ресурсы, а модель быстрых команд устроена гораздо компактнее. Она работает прямо на устройстве, а значит, ограничена вычислительными ресурсами самой колонки — её CPU и оперативной памятью. Из‑за этого модель нельзя сильно увеличить: ей приходится оставаться компактной, зато запрос обрабатывается быстрее. За распознавание быстрых команд отвечает нейросеть. Её архитектура почти полностью совпадает с решением для наушников Яндекс Дропс, которое подробно описал в своей статье Григорий Афанасенко . Разница в основном в масштабе: наша модель весит всего от 0,5 до 1,5 МБ в зависимости от железа конкретного устройства. Со временем перед нами встала задача добавить к базовым командам «лайк» и «дизлайк» для управления треками, а также команды «включи блютус» и «выключи блютус». Особенно это актуально для Станции Стрит, которую часто берут с собой на природу, где нет интернета. Но главным было гарантировать абсолютное отсутствие ухудшения на уже запущенных командах и не слишком сильно увеличивать потребление ресурсов на устройстве.

    habr.com/ru/companies/yandex/a

    #keyword_spotting #голосовая_активация #умные_устройства #алиса #быстрые_команды #continual_learning #machine_learning #deep_learning #speech_processing #обработка_звука

  39. Как добавить в умную колонку новые команды и ничего не сломать

    Чтобы дать команду умной колонке, не обязательно говорить активационное слово «Алиса»: есть быстрые команды — короткие фразы, с помощью которых можно управлять музыкой, громкостью или умным домом. Например, чтобы переключить трек, достаточно просто сказать «дальше», а чтобы убавить звук — «тише». Весь список команд можно посмотреть в настройках вашего аккаунта в приложении «Дом с Алисой». Быстрые команды удобнее не только пользователям, но и системе: запросы через слово «Алиса» требуют обращения к модели распознавания речи ASR, которой из‑за её размеров необходимы серверные вычислительные ресурсы, а модель быстрых команд устроена гораздо компактнее. Она работает прямо на устройстве, а значит, ограничена вычислительными ресурсами самой колонки — её CPU и оперативной памятью. Из‑за этого модель нельзя сильно увеличить: ей приходится оставаться компактной, зато запрос обрабатывается быстрее. За распознавание быстрых команд отвечает нейросеть. Её архитектура почти полностью совпадает с решением для наушников Яндекс Дропс, которое подробно описал в своей статье Григорий Афанасенко . Разница в основном в масштабе: наша модель весит всего от 0,5 до 1,5 МБ в зависимости от железа конкретного устройства. Со временем перед нами встала задача добавить к базовым командам «лайк» и «дизлайк» для управления треками, а также команды «включи блютус» и «выключи блютус». Особенно это актуально для Станции Стрит, которую часто берут с собой на природу, где нет интернета. Но главным было гарантировать абсолютное отсутствие ухудшения на уже запущенных командах и не слишком сильно увеличивать потребление ресурсов на устройстве.

    habr.com/ru/companies/yandex/a

    #keyword_spotting #голосовая_активация #умные_устройства #алиса #быстрые_команды #continual_learning #machine_learning #deep_learning #speech_processing #обработка_звука

  40. SINN: как превзойти спектральные методы при решении многомерных уравнений в частных производных

    Привет, Хабр. Меня зовут Тянчи Ю, я работаю младшим научным сотрудником в группе «Вычислительный интеллект» AIRI и учусь на четвёртом году аспирантуры Сколтеха. Мои научные интересы включают научное машинное обучение и численный анализ, а также применение этих инструментов к задачам вычислительной математики. Думаю, никому из читателей не нужно объяснять, почему уравнения в частных производных столь важны. Их приходится постоянно решать для моделирования физических, инженерных и финансовых систем — причём быстро и с высокой точностью. Однако с ростом размерности задачи вычислительная стоимость классических численных методов стремительно увеличивается. Спектральные методы обеспечивают исключительно высокую точность в задачах малой размерности. Методы на основе нейронных сетей, напротив, лучше подходят для многомерных задач, но часто уступают с точки зрения точности и эффективности. В 2024 году мы предложили подход, объединяющий преимущества этих двух направлений: спектрально‑информированную нейронную сеть (Spectral Informed Neural Network, SINN). С тех пор нам удалось его усовершенствовать. Недавно на конференции ICML 2026 мы представили статью , посвящённую новому методу (она, к слову, получила там Spotlight). Здесь же я хотел бы кратко рассказать, что именно мы сделали.

    habr.com/ru/companies/airi/art

    #machine_learning #physicsinformed_machine_learning #SpectralInformed_Neural_Networks

  41. SINN: как превзойти спектральные методы при решении многомерных уравнений в частных производных

    Привет, Хабр. Меня зовут Тянчи Ю, я работаю младшим научным сотрудником в группе «Вычислительный интеллект» AIRI и учусь на четвёртом году аспирантуры Сколтеха. Мои научные интересы включают научное машинное обучение и численный анализ, а также применение этих инструментов к задачам вычислительной математики. Думаю, никому из читателей не нужно объяснять, почему уравнения в частных производных столь важны. Их приходится постоянно решать для моделирования физических, инженерных и финансовых систем — причём быстро и с высокой точностью. Однако с ростом размерности задачи вычислительная стоимость классических численных методов стремительно увеличивается. Спектральные методы обеспечивают исключительно высокую точность в задачах малой размерности. Методы на основе нейронных сетей, напротив, лучше подходят для многомерных задач, но часто уступают с точки зрения точности и эффективности. В 2024 году мы предложили подход, объединяющий преимущества этих двух направлений: спектрально‑информированную нейронную сеть (Spectral Informed Neural Network, SINN). С тех пор нам удалось его усовершенствовать. Недавно на конференции ICML 2026 мы представили статью , посвящённую новому методу (она, к слову, получила там Spotlight). Здесь же я хотел бы кратко рассказать, что именно мы сделали.

    habr.com/ru/companies/airi/art

    #machine_learning #physicsinformed_machine_learning #SpectralInformed_Neural_Networks

  42. SINN: как превзойти спектральные методы при решении многомерных уравнений в частных производных

    Привет, Хабр. Меня зовут Тянчи Ю, я работаю младшим научным сотрудником в группе «Вычислительный интеллект» AIRI и учусь на четвёртом году аспирантуры Сколтеха. Мои научные интересы включают научное машинное обучение и численный анализ, а также применение этих инструментов к задачам вычислительной математики. Думаю, никому из читателей не нужно объяснять, почему уравнения в частных производных столь важны. Их приходится постоянно решать для моделирования физических, инженерных и финансовых систем — причём быстро и с высокой точностью. Однако с ростом размерности задачи вычислительная стоимость классических численных методов стремительно увеличивается. Спектральные методы обеспечивают исключительно высокую точность в задачах малой размерности. Методы на основе нейронных сетей, напротив, лучше подходят для многомерных задач, но часто уступают с точки зрения точности и эффективности. В 2024 году мы предложили подход, объединяющий преимущества этих двух направлений: спектрально‑информированную нейронную сеть (Spectral Informed Neural Network, SINN). С тех пор нам удалось его усовершенствовать. Недавно на конференции ICML 2026 мы представили статью , посвящённую новому методу (она, к слову, получила там Spotlight). Здесь же я хотел бы кратко рассказать, что именно мы сделали.

    habr.com/ru/companies/airi/art

    #machine_learning #physicsinformed_machine_learning #SpectralInformed_Neural_Networks

  43. Почему «чем проще, тем лучше» не работает на ИИ-классификаторе

    Обучил multi-label классификатор на 15 классов для модерации Discord-сообщества, получил micro F1 = 0.9358 — цифра, с которой можно закрывать задачу и не разбираться дальше. Но стоило посмотреть на precision и recall по каждому классу отдельно, как выяснилось: recall на TOXIC — около 0.78, а для части редких меток test split вообще не подтверждает качество — положительных примеров там почти нет. Разбираю на реальных цифрах и коде: почему агрегированная метрика такое скрывает, как считать вес классов через pos_weight при сильном дисбалансе, почему checkpoint стоит выбирать по macro F1, а не по training loss, и где принцип «чем проще — тем лучше» перестаёт работать при оценке качества классификатора. Подробнее

    habr.com/ru/articles/1059444/

    #machine_learning #multilabel_classification #ruBERT #class_imbalance #nlp #pytorch #bert #text_classification

  44. Почему «чем проще, тем лучше» не работает на ИИ-классификаторе

    Обучил multi-label классификатор на 15 классов для модерации Discord-сообщества, получил micro F1 = 0.9358 — цифра, с которой можно закрывать задачу и не разбираться дальше. Но стоило посмотреть на precision и recall по каждому классу отдельно, как выяснилось: recall на TOXIC — около 0.78, а для части редких меток test split вообще не подтверждает качество — положительных примеров там почти нет. Разбираю на реальных цифрах и коде: почему агрегированная метрика такое скрывает, как считать вес классов через pos_weight при сильном дисбалансе, почему checkpoint стоит выбирать по macro F1, а не по training loss, и где принцип «чем проще — тем лучше» перестаёт работать при оценке качества классификатора. Подробнее

    habr.com/ru/articles/1059444/

    #machine_learning #multilabel_classification #ruBERT #class_imbalance #nlp #pytorch #bert #text_classification

  45. Почему «чем проще, тем лучше» не работает на ИИ-классификаторе

    Обучил multi-label классификатор на 15 классов для модерации Discord-сообщества, получил micro F1 = 0.9358 — цифра, с которой можно закрывать задачу и не разбираться дальше. Но стоило посмотреть на precision и recall по каждому классу отдельно, как выяснилось: recall на TOXIC — около 0.78, а для части редких меток test split вообще не подтверждает качество — положительных примеров там почти нет. Разбираю на реальных цифрах и коде: почему агрегированная метрика такое скрывает, как считать вес классов через pos_weight при сильном дисбалансе, почему checkpoint стоит выбирать по macro F1, а не по training loss, и где принцип «чем проще — тем лучше» перестаёт работать при оценке качества классификатора. Подробнее

    habr.com/ru/articles/1059444/

    #machine_learning #multilabel_classification #ruBERT #class_imbalance #nlp #pytorch #bert #text_classification

  46. Персонализация без Big Data: как мы ранжируем новости в Telegram с помощью pgvector и пяти сигналов

    У меня накопилось 23 Telegram-канала. Не потому что я специально их коллекционировал. Просто со временем подписывался на новые. В какой-то момент понял, что читаю всего несколько процентов того, что приходит. Остальное просто пролистываю в поисках чего-то интересного. Проблема здесь простая. Telegram показывает посты только по времени публикации. Самые новые всегда наверху. Неважно, интересна тебе тема или нет. Никакой персонализации нет. Есть только хронология. Из-за этого появился CleanNews — бот, который собирает посты из ваших Telegram-каналов и формирует персональную подборку. В этой статье я покажу, как работает его рекомендательный движок. В основе — пять независимых сигналов, pgvector и контрастный вектор. И всё это без огромного обучающего датасета на миллионы записей.

    habr.com/ru/articles/1059600/

    #рекомендательные_системы #ranking #embeddings #machine_learning

  47. Персонализация без Big Data: как мы ранжируем новости в Telegram с помощью pgvector и пяти сигналов

    У меня накопилось 23 Telegram-канала. Не потому что я специально их коллекционировал. Просто со временем подписывался на новые. В какой-то момент понял, что читаю всего несколько процентов того, что приходит. Остальное просто пролистываю в поисках чего-то интересного. Проблема здесь простая. Telegram показывает посты только по времени публикации. Самые новые всегда наверху. Неважно, интересна тебе тема или нет. Никакой персонализации нет. Есть только хронология. Из-за этого появился CleanNews — бот, который собирает посты из ваших Telegram-каналов и формирует персональную подборку. В этой статье я покажу, как работает его рекомендательный движок. В основе — пять независимых сигналов, pgvector и контрастный вектор. И всё это без огромного обучающего датасета на миллионы записей.

    habr.com/ru/articles/1059600/

    #рекомендательные_системы #ranking #embeddings #machine_learning

  48. Персонализация без Big Data: как мы ранжируем новости в Telegram с помощью pgvector и пяти сигналов

    У меня накопилось 23 Telegram-канала. Не потому что я специально их коллекционировал. Просто со временем подписывался на новые. В какой-то момент понял, что читаю всего несколько процентов того, что приходит. Остальное просто пролистываю в поисках чего-то интересного. Проблема здесь простая. Telegram показывает посты только по времени публикации. Самые новые всегда наверху. Неважно, интересна тебе тема или нет. Никакой персонализации нет. Есть только хронология. Из-за этого появился CleanNews — бот, который собирает посты из ваших Telegram-каналов и формирует персональную подборку. В этой статье я покажу, как работает его рекомендательный движок. В основе — пять независимых сигналов, pgvector и контрастный вектор. И всё это без огромного обучающего датасета на миллионы записей.

    habr.com/ru/articles/1059600/

    #рекомендательные_системы #ranking #embeddings #machine_learning

  49. RE: aus.social/@danielpelliccia/11

    Still time to register for the next Nirpy Webinar presented by Dr Mercedes Bertotto.

    "Bridging Model Validation and Analytical Validation in Spectroscopy: The Role of the Accuracy Profile"

    When: Tomorrow, July 15th, 2026, 16:00 CET

    #Spectroscopy #Machine_learning #MachineLearning #NIR #NearInfrared

  50. RE: aus.social/@danielpelliccia/11

    Still time to register for the next Nirpy Webinar presented by Dr Mercedes Bertotto.

    "Bridging Model Validation and Analytical Validation in Spectroscopy: The Role of the Accuracy Profile"

    When: Tomorrow, July 15th, 2026, 16:00 CET

    #Spectroscopy #Machine_learning #MachineLearning #NIR #NearInfrared

  51. RE: aus.social/@danielpelliccia/11

    Still time to register for the next Nirpy Webinar presented by Dr Mercedes Bertotto.

    "Bridging Model Validation and Analytical Validation in Spectroscopy: The Role of the Accuracy Profile"

    When: Tomorrow, July 15th, 2026, 16:00 CET

    #Spectroscopy #Machine_learning #MachineLearning #NIR #NearInfrared