#onpremise_ai — Public Fediverse posts

Как мы отдали искусственный интеллект в «рабство» бухгалтерии и что из этого вышло

Всем привет! Меня зовут Александра Царева, я старший специалист машинного обучения в компании «Инфосистемы Джет». Сначала я хотела рассказать историю о впечатляющей ИИ-архитектуре или тонкостях дообучения больших языковых моделей. Но, пока в нашей дата-сайентистской башне из слоновой кости достраивается очередной этаж, коллеги из бухгалтерии пришли с более приземленной задачей – научить искусственный интеллект разбирать счета. В проект мы вписались сразу. Во-первых, работать с прикладными сценариями всегда интересно. Во-вторых, бизнес обеспечивает нас крутыми железками для запуска LLM-ок, и помочь бизнесу избавиться от части рутины – достойный ответный жест. Хотя, признаюсь, на этапе «посмотрите, что искусственный интеллект может сделать» отнеслась к идее скептически. Мне казалось, что бухгалтерские документы давно формируют одни и те же программы, примерно в одних и тех же форматах. Даже если между компаниями не настроен прямой документооборот, проблем передать файл от контрагента заказчику быть не должно, правда? А они есть. В статье расскажу, почему цифровая бухгалтерия часто не такая уж цифровая, и как мы из on-prem LLM и OCR собрали решение для обработки платежных документов, которое передает структурированные данные в 1С. Что из этого получилось – под катом.

https://habr.com/ru/companies/jetinfosystems/articles/1067104/

#искусственный_интеллект #бухгалтерия #распознавание_изображений #автоматизация #большая_языковая_модель #gpt_oss_120b #qwen3thinking30ba3b #1c #onpremise_ai #onpremisesмодели

Как мы отдали искусственный интеллект в «рабство» бухгалтерии и что из этого вышло

Всем привет! Меня зовут Александра Царева, я старший специалист машинного обучения в компании «Инфосистемы Джет». Сначала я хотела рассказать историю о впечатляющей ИИ-архитектуре или тонкостях дообучения больших языковых моделей. Но, пока в нашей дата-сайентистской башне из слоновой кости достраивается очередной этаж, коллеги из бухгалтерии пришли с более приземленной задачей – научить искусственный интеллект разбирать счета. В проект мы вписались сразу. Во-первых, работать с прикладными сценариями всегда интересно. Во-вторых, бизнес обеспечивает нас крутыми железками для запуска LLM-ок, и помочь бизнесу избавиться от части рутины – достойный ответный жест. Хотя, признаюсь, на этапе «посмотрите, что искусственный интеллект может сделать» отнеслась к идее скептически. Мне казалось, что бухгалтерские документы давно формируют одни и те же программы, примерно в одних и тех же форматах. Даже если между компаниями не настроен прямой документооборот, проблем передать файл от контрагента заказчику быть не должно, правда? А они есть. В статье расскажу, почему цифровая бухгалтерия часто не такая уж цифровая, и как мы из on-prem LLM и OCR собрали решение для обработки платежных документов, которое передает структурированные данные в 1С. Что из этого получилось – под катом.

https://habr.com/ru/companies/jetinfosystems/articles/1067104/

#искусственный_интеллект #бухгалтерия #распознавание_изображений #автоматизация #большая_языковая_модель #gpt_oss_120b #qwen3thinking30ba3b #1c #onpremise_ai #onpremisesмодели

Когда компании пора строить свой LLM-кластер, а не пользоваться внешними API

На раннем этапе внедрения LLM в компании выглядят как быстрый выигрыш: подключается внешний API (например, ChatGPT), ускоряется работа с текстами, автоматизируются ответы, появляются первые сценарии аналитики и агентных пайплайнов через Make или n8n. До определённого масштаба этого достаточно. По мере роста компании LLM перестаёт быть вспомогательным инструментом и становится частью операционных процессов. В системе появляются чувствительные данные, требования к контролю доступа, необходимость стабильной работы, интеграции во внутренние сервисы и вопросы экономики при больших объёмах запросов. В этот момент модель «внешний API по подписке» начинает ограничивать развитие.

https://habr.com/ru/articles/1046115/

#llm #onpremise_ai #kubernetes #mlops #инференс_моделей #gpuкластеры #rag #llama_3 #aiинфраструктура #корпоративный_ai

Когда компании пора строить свой LLM-кластер, а не пользоваться внешними API

На раннем этапе внедрения LLM в компании выглядят как быстрый выигрыш: подключается внешний API (например, ChatGPT), ускоряется работа с текстами, автоматизируются ответы, появляются первые сценарии аналитики и агентных пайплайнов через Make или n8n. До определённого масштаба этого достаточно. По мере роста компании LLM перестаёт быть вспомогательным инструментом и становится частью операционных процессов. В системе появляются чувствительные данные, требования к контролю доступа, необходимость стабильной работы, интеграции во внутренние сервисы и вопросы экономики при больших объёмах запросов. В этот момент модель «внешний API по подписке» начинает ограничивать развитие.

https://habr.com/ru/articles/1046115/

#llm #onpremise_ai #kubernetes #mlops #инференс_моделей #gpuкластеры #rag #llama_3 #aiинфраструктура #корпоративный_ai

Kodacode для бизнеса: SaaS с инфраструктурой в РФ и on-premise

Kodaсode используют десятки тысяч разработчиков в месяц. Постепенно запросы стали приходить не от отдельных людей, а от компаний: как оформить юридически, куда уходят данные из кодовой базы, есть ли централизованное управление доступами и корпоративный биллинг. Этой статьёй мы отвечаем на все эти вопросы — и рассказываем о нашем корпоративном предложении.

https://habr.com/ru/companies/koda/articles/1032118/

#KodaCode #AIассистент_для_разработчиков #корпоративный_AI #152ФЗ #инференс_в_России #безопасность_кода #SaaS_для_разработчиков #onpremise_AI #Ростелеком #замена_GitHub_Copilot

Kodacode для бизнеса: SaaS с инфраструктурой в РФ и on-premise

Kodaсode используют десятки тысяч разработчиков в месяц. Постепенно запросы стали приходить не от отдельных людей, а от компаний: как оформить юридически, куда уходят данные из кодовой базы, есть ли централизованное управление доступами и корпоративный биллинг. Этой статьёй мы отвечаем на все эти вопросы — и рассказываем о нашем корпоративном предложении.

https://habr.com/ru/companies/koda/articles/1032118/

#KodaCode #AIассистент_для_разработчиков #корпоративный_AI #152ФЗ #инференс_в_России #безопасность_кода #SaaS_для_разработчиков #onpremise_AI #Ростелеком #замена_GitHub_Copilot