home.social

#mawo — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #mawo, aggregated by home.social.

  1. Habr @[email protected] ·

    Как мы воскресили русский NLP и сократили потребление памяти на 90%

    Как мы воскресили русский NLP и сократили потребление памяти на 90% Форкнули четыре ключевых библиотеки русского NLP (pymorphy, razdel, slovnet, natasha), которые не обновлялись годами. Сократили потребление памяти на 90%, ускорили загрузку в 30 раз, повысили точность токенизации с 70% до 95%. Всё работает offline, 100% совместимо с оригинальными API. Экосистема MAWO — production-ready инструменты для работы с русским текстом. Помните ли вы тот момент, когда открываешь проект для обработки русского текста и видишь знакомую картину? В requirements.txt красуется pymorphy2, последний коммит в репозитории датирован 2015 годом, Python 3.12 ругается на deprecated методы, а production ждать не будет. Знакомо? Тогда эта история для вас.

    habr.com/ru/articles/963748/

    #python #nlp #opensource #морфология #natasha #pymorphy #mawo #русский_язык

    #python #nlp #opensource #морфология #natasha #pymorphy