#шум — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #шум, aggregated by home.social.
-
Меньше шума, больше смысла: опыт SESAME для Speech Enhancement
Привет, Хабр! Мы — Александр Забурдаев, Ксения Золина, Даниил Марценюк, Илья Трофименко, Илья Кулешов — студенты мастерской по сервисам и платформам ИИ в Инженерно-математической школе НИУ ВШЭ и VK. Хотим поделиться опытом, который мы накопили, пытаясь перестать кормить весь речевой сигнал одной и той же нейросети целиком, и дать разным экспертам разбираться с разными типами шума. Речь пойдёт о задаче улучшения качества речи (Speech Enhancement, SE) и о том, как получилось интегрировать в неё разреженную смесь экспертов (sparse Mixture of Experts, MoE). Это архитектура, которая в языковых моделях уже стала стандартом, а в обработке аудио до сих пор не прижилась. Модель мы назвали SESAME — Speech Enhancement with Sparse Adaptive Mixture of Experts. Она построена на базе MP-SENet. В ней стандартные полносвязные блоки внутри трансформера заменены на разреженный MoE-модуль. Код проекта доступен на GitHub . Зачем вообще понадобилась очередная модель шумоподавления, когда их и так десятки — расскажем ниже. А заодно разберём, какие трюки из мира LLM в аудио работают, а какие нет (например, Expert Choice) — и почему.
-
«Шум» в суждениях и предвзятость в решениях людей и нейросетей
А — точность; В — шум; С — предвзятость; D — шум + предвзятость Когда разработчиков ПО просили в два разных рабочих дня оценить время выполнения задачи по одному и тому же ТЗ, часы, которые они прогнозировали, отличались в среднем на 71 % . Два одинаково опытных врача могут поставить одному и тому же больному два разных диагноза, два компетентных кадровика — пригласить на одну и ту же должность двух совершенно разных кандидатов, два эксперта — дать заметно отличающиеся прогнозы о показателях продаж в следующем квартале. И даже один и тот же человек в разные дни недели может решать одну и ту же задачу совершенно по-разному. Причина — «шум» в суждениях, то есть разброс в решениях, которые по всем правилам должны были быть одинаковыми. Об этом очень наглядно рассказал Даниель Канеман — нобелевский лауреат-2002. Канеман — один из главных современных экономистов, хотя сам активно это отрицает. Он разрушил кучу теоретических представлений о том, как люди принимают решения, и был одним из «отцов» поведенческой экономики. И даже больше. Оказалось, что принципы, которые Канеман описал в своих книгах и научных работах, справедливы не только для человеческого мышления, но и для искусственного интеллекта. И они уже вовсю используются при обучении нейросетей. Сегодня поговорим о рациональности, ошибках в суждениях и способах уменьшения «шума» в решениях.
-
«Шум» в суждениях и предвзятость в решениях людей и нейросетей
А — точность; В — шум; С — предвзятость; D — шум + предвзятость Когда разработчиков ПО просили в два разных рабочих дня оценить время выполнения задачи по одному и тому же ТЗ, часы, которые они прогнозировали, отличались в среднем на 71 % . Два одинаково опытных врача могут поставить одному и тому же больному два разных диагноза, два компетентных кадровика — пригласить на одну и ту же должность двух совершенно разных кандидатов, два эксперта — дать заметно отличающиеся прогнозы о показателях продаж в следующем квартале. И даже один и тот же человек в разные дни недели может решать одну и ту же задачу совершенно по-разному. Причина — «шум» в суждениях, то есть разброс в решениях, которые по всем правилам должны были быть одинаковыми. Об этом очень наглядно рассказал Даниель Канеман — нобелевский лауреат-2002. Канеман — один из главных современных экономистов, хотя сам активно это отрицает. Он разрушил кучу теоретических представлений о том, как люди принимают решения, и был одним из «отцов» поведенческой экономики. И даже больше. Оказалось, что принципы, которые Канеман описал в своих книгах и научных работах, справедливы не только для человеческого мышления, но и для искусственного интеллекта. И они уже вовсю используются при обучении нейросетей. Сегодня поговорим о рациональности, ошибках в суждениях и способах уменьшения «шума» в решениях.