#openwebui — Public Fediverse posts

Как мы построили корпоративную LLM-платформу: архитектура, грабли и выводы

Обычно внедрение AI в компаниях происходит по такому сценарию: собрали одного ассистента, показали руководству, получили аплодисменты. Потом второго, третьего — и через полгода получается зоопарк с разными ключами, моделями и неконтролируемым бюджетом. Вместо набора разрозненных ассистентов мы сразу пошли в платформу. В статье рассказываем, из чего она состоит, как эволюционировало наше железо, зачем понадобилось два слоя наблюдаемости и почему маркетплейсный RAG ломается на PDF-файлах. С графиками, схемой архитектуры и выводами, которые сами хотели бы прочитать год назад.

https://habr.com/ru/companies/sminex_developer/articles/1037438/

#ai #llm #openwebui #langflow #langfuse #litellm #vllm #openai

Как мы построили корпоративную LLM-платформу: архитектура, грабли и выводы

Обычно внедрение AI в компаниях происходит по такому сценарию: собрали одного ассистента, показали руководству, получили аплодисменты. Потом второго, третьего — и через полгода получается зоопарк с разными ключами, моделями и неконтролируемым бюджетом. Вместо набора разрозненных ассистентов мы сразу пошли в платформу. В статье рассказываем, из чего она состоит, как эволюционировало наше железо, зачем понадобилось два слоя наблюдаемости и почему маркетплейсный RAG ломается на PDF-файлах. С графиками, схемой архитектуры и выводами, которые сами хотели бы прочитать год назад.

https://habr.com/ru/companies/sminex_developer/articles/1037438/

#ai #llm #openwebui #langflow #langfuse #litellm #vllm #openai

Как мы построили корпоративную LLM-платформу: архитектура, грабли и выводы

Обычно внедрение AI в компаниях происходит по такому сценарию: собрали одного ассистента, показали руководству, получили аплодисменты. Потом второго, третьего — и через полгода получается зоопарк с разными ключами, моделями и неконтролируемым бюджетом. Вместо набора разрозненных ассистентов мы сразу пошли в платформу. В статье рассказываем, из чего она состоит, как эволюционировало наше железо, зачем понадобилось два слоя наблюдаемости и почему маркетплейсный RAG ломается на PDF-файлах. С графиками, схемой архитектуры и выводами, которые сами хотели бы прочитать год назад.

https://habr.com/ru/companies/sminex_developer/articles/1037438/

#ai #llm #openwebui #langflow #langfuse #litellm #vllm #openai

Как мы построили корпоративную LLM-платформу: архитектура, грабли и выводы

Обычно внедрение AI в компаниях происходит по такому сценарию: собрали одного ассистента, показали руководству, получили аплодисменты. Потом второго, третьего — и через полгода получается зоопарк с разными ключами, моделями и неконтролируемым бюджетом. Вместо набора разрозненных ассистентов мы сразу пошли в платформу. В статье рассказываем, из чего она состоит, как эволюционировало наше железо, зачем понадобилось два слоя наблюдаемости и почему маркетплейсный RAG ломается на PDF-файлах. С графиками, схемой архитектуры и выводами, которые сами хотели бы прочитать год назад.

https://habr.com/ru/companies/sminex_developer/articles/1037438/

#ai #llm #openwebui #langflow #langfuse #litellm #vllm #openai

Как мы в отделе документации создали LLM агента для автоматизированного перевода с английского на другие языки

Разбираем, как в отделе документации построили LLM-агента для автоматизированного перевода Markdown-документации. Архитектура, пайплайн, валидация, работа с Ollama, OpenWebUI и Qwen, плюсы и ограничения подхода.

https://habr.com/ru/companies/hostkey/articles/1037646/

#LLM #автоматизация_перевода #техническая_документация #Python #валидация #Markdown #OpenWebUI #Qwen #оркестрация #hostkey

Как мы в отделе документации создали LLM агента для автоматизированного перевода с английского на другие языки

Разбираем, как в отделе документации построили LLM-агента для автоматизированного перевода Markdown-документации. Архитектура, пайплайн, валидация, работа с Ollama, OpenWebUI и Qwen, плюсы и ограничения подхода.

https://habr.com/ru/companies/hostkey/articles/1037646/

#LLM #автоматизация_перевода #техническая_документация #Python #валидация #Markdown #OpenWebUI #Qwen #оркестрация #hostkey

Как мы в отделе документации создали LLM агента для автоматизированного перевода с английского на другие языки

Разбираем, как в отделе документации построили LLM-агента для автоматизированного перевода Markdown-документации. Архитектура, пайплайн, валидация, работа с Ollama, OpenWebUI и Qwen, плюсы и ограничения подхода.

https://habr.com/ru/companies/hostkey/articles/1037646/

#LLM #автоматизация_перевода #техническая_документация #Python #валидация #Markdown #OpenWebUI #Qwen #оркестрация #hostkey

Как мы в отделе документации создали LLM агента для автоматизированного перевода с английского на другие языки

Разбираем, как в отделе документации построили LLM-агента для автоматизированного перевода Markdown-документации. Архитектура, пайплайн, валидация, работа с Ollama, OpenWebUI и Qwen, плюсы и ограничения подхода.

https://habr.com/ru/companies/hostkey/articles/1037646/

#LLM #автоматизация_перевода #техническая_документация #Python #валидация #Markdown #OpenWebUI #Qwen #оркестрация #hostkey

Poważna luka w Open WebUI (0.7.2) prowadzi do 1-click RCE. PoC udostępniony przez badacza po zignorowaniu jego zgłoszenia

Czy jedno kliknięcie wystarczy, aby całe środowisko AI wpadło w ręce cyberprzestępców? W przypadku Open WebUI odpowiedź brzmi tak. Jak pokazał badacz bezpieczeństwa Metin Yunus Kandemir, wykryta podatność (Stored XSS) pozwala na przejęcie pełnej kontroli nad platformą przy minimalnej interakcji ze strony użytkownika. TLDR: Błąd występuje w implementacji funkcji przetwarzającej...

#WBiegu #Ai #Exploit #OpenWebui #Poc #Rce #XSS

https://sekurak.pl/powazna-luka-w-open-webui-0-7-2-prowadzi-do-1-click-rce-poc-udostepniony-przez-badacza-po-zignorowaniu-jego-zgloszenia/

Poważna luka w Open WebUI (0.7.2) prowadzi do 1-click RCE. PoC udostępniony przez badacza po zignorowaniu jego zgłoszenia

Czy jedno kliknięcie wystarczy, aby całe środowisko AI wpadło w ręce cyberprzestępców? W przypadku Open WebUI odpowiedź brzmi tak. Jak pokazał badacz bezpieczeństwa Metin Yunus Kandemir, wykryta podatność (Stored XSS) pozwala na przejęcie pełnej kontroli nad platformą przy minimalnej interakcji ze strony użytkownika. TLDR: Błąd występuje w implementacji funkcji przetwarzającej...

#WBiegu #Ai #Exploit #OpenWebui #Poc #Rce #XSS

https://sekurak.pl/powazna-luka-w-open-webui-0-7-2-prowadzi-do-1-click-rce-poc-udostepniony-przez-badacza-po-zignorowaniu-jego-zgloszenia/

Poważna luka w Open WebUI (0.7.2) prowadzi do 1-click RCE. PoC udostępniony przez badacza po zignorowaniu jego zgłoszenia

Czy jedno kliknięcie wystarczy, aby całe środowisko AI wpadło w ręce cyberprzestępców? W przypadku Open WebUI odpowiedź brzmi tak. Jak pokazał badacz bezpieczeństwa Metin Yunus Kandemir, wykryta podatność (Stored XSS) pozwala na przejęcie pełnej kontroli nad platformą przy minimalnej interakcji ze strony użytkownika. TLDR: Błąd występuje w implementacji funkcji przetwarzającej...

#WBiegu #Ai #Exploit #OpenWebui #Poc #Rce #XSS

https://sekurak.pl/powazna-luka-w-open-webui-0-7-2-prowadzi-do-1-click-rce-poc-udostepniony-przez-badacza-po-zignorowaniu-jego-zgloszenia/

Poważna luka w Open WebUI (0.7.2) prowadzi do 1-click RCE. PoC udostępniony przez badacza po zignorowaniu jego zgłoszenia

Czy jedno kliknięcie wystarczy, aby całe środowisko AI wpadło w ręce cyberprzestępców? W przypadku Open WebUI odpowiedź brzmi tak. Jak pokazał badacz bezpieczeństwa Metin Yunus Kandemir, wykryta podatność (Stored XSS) pozwala na przejęcie pełnej kontroli nad platformą przy minimalnej interakcji ze strony użytkownika. TLDR: Błąd występuje w implementacji funkcji przetwarzającej...

#WBiegu #Ai #Exploit #OpenWebui #Poc #Rce #XSS

https://sekurak.pl/powazna-luka-w-open-webui-0-7-2-prowadzi-do-1-click-rce-poc-udostepniony-przez-badacza-po-zignorowaniu-jego-zgloszenia/

Poważna luka w Open WebUI (0.7.2) prowadzi do 1-click RCE. PoC udostępniony przez badacza po zignorowaniu jego zgłoszenia

Czy jedno kliknięcie wystarczy, aby całe środowisko AI wpadło w ręce cyberprzestępców? W przypadku Open WebUI odpowiedź brzmi tak. Jak pokazał badacz bezpieczeństwa Metin Yunus Kandemir, wykryta podatność (Stored XSS) pozwala na przejęcie pełnej kontroli nad platformą przy minimalnej interakcji ze strony użytkownika. TLDR: Błąd występuje w implementacji funkcji przetwarzającej...

#WBiegu #Ai #Exploit #OpenWebui #Poc #Rce #XSS

https://sekurak.pl/powazna-luka-w-open-webui-0-7-2-prowadzi-do-1-click-rce-poc-udostepniony-przez-badacza-po-zignorowaniu-jego-zgloszenia/

RT @Moehrenmann: Und passend dazu hat sich noch dieses niedliche Projekt gefunden, das „wir“ gerade zum Laufen gebracht haben und das Agenten wie Hermes oder Openclaw explizit unterstützt. Minimalistisch und dennoch funktional. github.com/garrytan/gbrain Klar Moehre (@Moehrenmann) Ich spiele jetzt seit einer Woche mit diesem Konzept in @OpenWebUI und es funktioniert erstaunlich gut, obwohl es nicht in dieser Form dafür gedacht war. Überwachung von RSS-Feeds, Zusammenfassung von Artikeln, Ablage, Informationsstrukturierung und -verknüpfung einwandfrei. gist.github.com/karpathy/442… — https://nitter.net/Moehrenmann/status/2055568163018879290#m

mehr auf Arint.info

#Agenten #AI #Informatik #OpenWebUI #RSS #Technologie #arint_info

https://x.com/Moehrenmann/status/2055713233890066560#m

RT @Moehrenmann: Und passend dazu hat sich noch dieses niedliche Projekt gefunden, das „wir“ gerade zum Laufen gebracht haben und das Agenten wie Hermes oder Openclaw explizit unterstützt. Minimalistisch und dennoch funktional. github.com/garrytan/gbrain Klar Moehre (@Moehrenmann) Ich spiele jetzt seit einer Woche mit diesem Konzept in @OpenWebUI und es funktioniert erstaunlich gut, obwohl es nicht in dieser Form dafür gedacht war. Überwachung von RSS-Feeds, Zusammenfassung von Artikeln, Ablage, Informationsstrukturierung und -verknüpfung einwandfrei. gist.github.com/karpathy/442… — https://nitter.net/Moehrenmann/status/2055568163018879290#m

mehr auf Arint.info

#Agenten #AI #Informatik #OpenWebUI #RSS #Technologie #arint_info

https://x.com/Moehrenmann/status/2055713233890066560#m

RT @Moehrenmann: Und passend dazu hat sich noch dieses niedliche Projekt gefunden, das „wir“ gerade zum Laufen gebracht haben und das Agenten wie Hermes oder Openclaw explizit unterstützt. Minimalistisch und dennoch funktional. github.com/garrytan/gbrain Klar Moehre (@Moehrenmann) Ich spiele jetzt seit einer Woche mit diesem Konzept in @OpenWebUI und es funktioniert erstaunlich gut, obwohl es nicht in dieser Form dafür gedacht war. Überwachung von RSS-Feeds, Zusammenfassung von Artikeln, Ablage, Informationsstrukturierung und -verknüpfung einwandfrei. gist.github.com/karpathy/442… — https://nitter.net/Moehrenmann/status/2055568163018879290#m

mehr auf Arint.info

#Agenten #AI #Informatik #OpenWebUI #RSS #Technologie #arint_info

https://x.com/Moehrenmann/status/2055713233890066560#m

RT @Moehrenmann: Und passend dazu hat sich noch dieses niedliche Projekt gefunden, das „wir“ gerade zum Laufen gebracht haben und das Agenten wie Hermes oder Openclaw explizit unterstützt. Minimalistisch und dennoch funktional. github.com/garrytan/gbrain Klar Moehre (@Moehrenmann) Ich spiele jetzt seit einer Woche mit diesem Konzept in @OpenWebUI und es funktioniert erstaunlich gut, obwohl es nicht in dieser Form dafür gedacht war. Überwachung von RSS-Feeds, Zusammenfassung von Artikeln, Ablage, Informationsstrukturierung und -verknüpfung einwandfrei. gist.github.com/karpathy/442… — https://nitter.net/Moehrenmann/status/2055568163018879290#m

mehr auf Arint.info

#Agenten #AI #Informatik #OpenWebUI #RSS #Technologie #arint_info

https://x.com/Moehrenmann/status/2055713233890066560#m

RT @Moehrenmann: Und passend dazu hat sich noch dieses niedliche Projekt gefunden, das „wir“ gerade zum Laufen gebracht haben und das Agenten wie Hermes oder Openclaw explizit unterstützt. Minimalistisch und dennoch funktional. github.com/garrytan/gbrain Klar Moehre (@Moehrenmann) Ich spiele jetzt seit einer Woche mit diesem Konzept in @OpenWebUI und es funktioniert erstaunlich gut, obwohl es nicht in dieser Form dafür gedacht war. Überwachung von RSS-Feeds, Zusammenfassung von Artikeln, Ablage, Informationsstrukturierung und -verknüpfung einwandfrei. gist.github.com/karpathy/442… — https://nitter.net/Moehrenmann/status/2055568163018879290#m

mehr auf Arint.info

#Agenten #AI #Informatik #OpenWebUI #RSS #Technologie #arint_info

https://x.com/Moehrenmann/status/2055713233890066560#m

Ho testato OpenHuman in più scenari, da Fedora in VM a Windows con GPU, passando per Ollama, Open WebUI e OpenRouter. Il risultato è stato deludente: installazioni instabili, configurazioni poco trasparenti, dipendenze cloud poco chiare e nessuna esperienza davvero affidabile nell’uso reale.

Ho testato OpenHuman in più scenari, da Fedora in VM a Windows con GPU, passando per Ollama, Open WebUI e OpenRouter. Il risultato è stato deludente: installazioni instabili, configurazioni poco trasparenti, dipendenze cloud poco chiare e nessuna esperienza davvero affidabile nell’uso reale.

Ho testato OpenHuman in più scenari, da Fedora in VM a Windows con GPU, passando per Ollama, Open WebUI e OpenRouter. Il risultato è stato deludente: installazioni instabili, configurazioni poco trasparenti, dipendenze cloud poco chiare e nessuna esperienza davvero affidabile nell’uso reale.

Ho testato OpenHuman in più scenari, da Fedora in VM a Windows con GPU, passando per Ollama, Open WebUI e OpenRouter. Il risultato è stato deludente: installazioni instabili, configurazioni poco trasparenti, dipendenze cloud poco chiare e nessuna esperienza davvero affidabile nell’uso reale.

Ho testato OpenHuman in più scenari, da Fedora in VM a Windows con GPU, passando per Ollama, Open WebUI e OpenRouter. Il risultato è stato deludente: installazioni instabili, configurazioni poco trasparenti, dipendenze cloud poco chiare e nessuna esperienza davvero affidabile nell’uso reale.

RT @Moehrenmann: Und passend dazu hat sich noch dieses niedliche Projekt gefunden, das „wir“ gerade zum Laufen gebracht haben und das Agenten wie Hermes oder Openclaw explizit unterstützt. Minimalistisch und dennoch funktional. github.com/garrytan/gbrain Klar Moehre (@Moehrenmann) Spiel jetzt seit einer Woche mit diesem Konzept in @OpenWebUI und es funktioniert erstaunlich gut, obwohl es nicht in dieser Form dafür gedacht war. Überwachung von RSS-Feeds, Zusammenfassung von Artikeln, Ablage, Informationsstrukturierung und -verknüpfung einwandfrei. gist.github.com/karpathy/442… — https://nitter.net/Moehrenmann/status/2055568163018879290#m

mehr auf Arint.info

#Agenten #AI #OpenWebUI #RSS #Technologie #arint_info

https://x.com/Moehrenmann/status/2055713233890066560#m

Got into a fight with #Windows11 on my gaming laptop. Tried to kill off Delivery Optimization and windows refused. Access is Denied, as Administrator, as System even. So I asked #Claude about replacing with Linux. Just wanna keep #OpenWebUI, #BG3, #CoH, and #Ollama. Everything will work perfectly in Ubuntu thanks to #Steam. So #FuckMicrosoft. Linux doesn’t tell me “Access Is Denied” ever. Ever ever. That’s what killed Windows 11 on this gaming rig for me.

Got into a fight with #Windows11 on my gaming laptop. Tried to kill off Delivery Optimization and windows refused. Access is Denied, as Administrator, as System even. So I asked #Claude about replacing with Linux. Just wanna keep #OpenWebUI, #BG3, #CoH, and #Ollama. Everything will work perfectly in Ubuntu thanks to #Steam. So #FuckMicrosoft. Linux doesn’t tell me “Access Is Denied” ever. Ever ever. That’s what killed Windows 11 on this gaming rig for me.

Got into a fight with #Windows11 on my gaming laptop. Tried to kill off Delivery Optimization and windows refused. Access is Denied, as Administrator, as System even. So I asked #Claude about replacing with Linux. Just wanna keep #OpenWebUI, #BG3, #CoH, and #Ollama. Everything will work perfectly in Ubuntu thanks to #Steam. So #FuckMicrosoft. Linux doesn’t tell me “Access Is Denied” ever. Ever ever. That’s what killed Windows 11 on this gaming rig for me.

Got into a fight with #Windows11 on my gaming laptop. Tried to kill off Delivery Optimization and windows refused. Access is Denied, as Administrator, as System even. So I asked #Claude about replacing with Linux. Just wanna keep #OpenWebUI, #BG3, #CoH, and #Ollama. Everything will work perfectly in Ubuntu thanks to #Steam. So #FuckMicrosoft. Linux doesn’t tell me “Access Is Denied” ever. Ever ever. That’s what killed Windows 11 on this gaming rig for me.

Got into a fight with #Windows11 on my gaming laptop. Tried to kill off Delivery Optimization and windows refused. Access is Denied, as Administrator, as System even. So I asked #Claude about replacing with Linux. Just wanna keep #OpenWebUI, #BG3, #CoH, and #Ollama. Everything will work perfectly in Ubuntu thanks to #Steam. So #FuckMicrosoft. Linux doesn’t tell me “Access Is Denied” ever. Ever ever. That’s what killed Windows 11 on this gaming rig for me.

#TIL mit einer eigenen Instanz von #n8n und #OpenWebUI lässt sich super schnell ein Chatbot für Webseiten bauen. Mit dem nächsten Release bekommt die #lernOS Website unter https://lernos.org so einen Suri Chatbot 🤗 Als Modell nehmen wir Mistral Small 4 made in Europe, das reicht für RAG völlig 😎

#TIL mit einer eigenen Instanz von #n8n und #OpenWebUI lässt sich super schnell ein Chatbot für Webseiten bauen. Mit dem nächsten Release bekommt die #lernOS Website unter https://lernos.org so einen Suri Chatbot 🤗 Als Modell nehmen wir Mistral Small 4 made in Europe, das reicht für RAG völlig 😎

#TIL mit einer eigenen Instanz von #n8n und #OpenWebUI lässt sich super schnell ein Chatbot für Webseiten bauen. Mit dem nächsten Release bekommt die #lernOS Website unter https://lernos.org so einen Suri Chatbot 🤗 Als Modell nehmen wir Mistral Small 4 made in Europe, das reicht für RAG völlig 😎

#TIL mit einer eigenen Instanz von #n8n und #OpenWebUI lässt sich super schnell ein Chatbot für Webseiten bauen. Mit dem nächsten Release bekommt die #lernOS Website unter https://lernos.org so einen Suri Chatbot 🤗 Als Modell nehmen wir Mistral Small 4 made in Europe, das reicht für RAG völlig 😎

#TIL mit einer eigenen Instanz von #n8n und #OpenWebUI lässt sich super schnell ein Chatbot für Webseiten bauen. Mit dem nächsten Release bekommt die #lernOS Website unter https://lernos.org so einen Suri Chatbot 🤗 Als Modell nehmen wir Mistral Small 4 made in Europe, das reicht für RAG völlig 😎

hab grade #openwebui von version 0.9.5 auf 0.9.6 upgedated.... nun bekomme ich in #opencode - wo ich openwebui über #api nutze - folgene fehlermeldung:

Handy browser-based client side #DTMF decoder built by #Claude. I've run #Ollama and #OpenWebUI at home for a bit, but am just beginning to experiment with Claude and it's really impressive. It built the decoder in one prompt, then turned it into a single-page web app in one other prompt.

I did blow through the free message limit with those two prompts. Heck of a sales pitch though!

https://dtmf.ng5p.com/

Handy browser-based client side #DTMF decoder built by #Claude. I've run #Ollama and #OpenWebUI at home for a bit, but am just beginning to experiment with Claude and it's really impressive. It built the decoder in one prompt, then turned it into a single-page web app in one other prompt.

I did blow through the free message limit with those two prompts. Heck of a sales pitch though!

https://dtmf.ng5p.com/

Handy browser-based client side #DTMF decoder built by #Claude. I've run #Ollama and #OpenWebUI at home for a bit, but am just beginning to experiment with Claude and it's really impressive. It built the decoder in one prompt, then turned it into a single-page web app in one other prompt.

I did blow through the free message limit with those two prompts. Heck of a sales pitch though!

https://dtmf.ng5p.com/

Handy browser-based client side #DTMF decoder built by #Claude. I've run #Ollama and #OpenWebUI at home for a bit, but am just beginning to experiment with Claude and it's really impressive. It built the decoder in one prompt, then turned it into a single-page web app in one other prompt.

I did blow through the free message limit with those two prompts. Heck of a sales pitch though!

https://dtmf.ng5p.com/

Гефестыч: наш опыт автоматизации Code Review через LLM. «Грабли», решения, код

Привет, Хабр! Меня зовут Данил Чечков, я Team Lead команды High End Meta Backend в «Леста Игры». Мы занимаемся всей web-составляющей «Мира кораблей». В нашем арсенале огромное количество микросервисов, работающих на Python и Go. Мы отвечаем за покупки в meta-валюте, авторизацию, стабильность инвентаря и профиля игрока, клановые сервисы, а также многое-многое другое. Наш основной продукт – высококачественные web-сервисы на стыке интеграции с игрой. И, да, интеграция – часть нашей работы. А ещё мы любим новые технологии и стараемся с ними знакомиться, чтобы оценить, как они могут принести выгоду бизнесу и нам. Одна из таких технологий – LLM

https://habr.com/ru/companies/lesta/articles/1029670/

#llm #pydanticai #openwebui #llamacpp #ollama #rag #code_review #selfhosted #atlassian

Гефестыч: наш опыт автоматизации Code Review через LLM. «Грабли», решения, код

Привет, Хабр! Меня зовут Данил Чечков, я Team Lead команды High End Meta Backend в «Леста Игры». Мы занимаемся всей web-составляющей «Мира кораблей». В нашем арсенале огромное количество микросервисов, работающих на Python и Go. Мы отвечаем за покупки в meta-валюте, авторизацию, стабильность инвентаря и профиля игрока, клановые сервисы, а также многое-многое другое. Наш основной продукт – высококачественные web-сервисы на стыке интеграции с игрой. И, да, интеграция – часть нашей работы. А ещё мы любим новые технологии и стараемся с ними знакомиться, чтобы оценить, как они могут принести выгоду бизнесу и нам. Одна из таких технологий – LLM

https://habr.com/ru/companies/lesta/articles/1029670/

#llm #pydanticai #openwebui #llamacpp #ollama #rag #code_review #selfhosted #atlassian

Гефестыч: наш опыт автоматизации Code Review через LLM. «Грабли», решения, код

Привет, Хабр! Меня зовут Данил Чечков, я Team Lead команды High End Meta Backend в «Леста Игры». Мы занимаемся всей web-составляющей «Мира кораблей». В нашем арсенале огромное количество микросервисов, работающих на Python и Go. Мы отвечаем за покупки в meta-валюте, авторизацию, стабильность инвентаря и профиля игрока, клановые сервисы, а также многое-многое другое. Наш основной продукт – высококачественные web-сервисы на стыке интеграции с игрой. И, да, интеграция – часть нашей работы. А ещё мы любим новые технологии и стараемся с ними знакомиться, чтобы оценить, как они могут принести выгоду бизнесу и нам. Одна из таких технологий – LLM

https://habr.com/ru/companies/lesta/articles/1029670/

#llm #pydanticai #openwebui #llamacpp #ollama #rag #code_review #selfhosted #atlassian

Гефестыч: наш опыт автоматизации Code Review через LLM. «Грабли», решения, код

Привет, Хабр! Меня зовут Данил Чечков, я Team Lead команды High End Meta Backend в «Леста Игры». Мы занимаемся всей web-составляющей «Мира кораблей». В нашем арсенале огромное количество микросервисов, работающих на Python и Go. Мы отвечаем за покупки в meta-валюте, авторизацию, стабильность инвентаря и профиля игрока, клановые сервисы, а также многое-многое другое. Наш основной продукт – высококачественные web-сервисы на стыке интеграции с игрой. И, да, интеграция – часть нашей работы. А ещё мы любим новые технологии и стараемся с ними знакомиться, чтобы оценить, как они могут принести выгоду бизнесу и нам. Одна из таких технологий – LLM

https://habr.com/ru/companies/lesta/articles/1029670/

#llm #pydanticai #openwebui #llamacpp #ollama #rag #code_review #selfhosted #atlassian

Great to see that #Apertus has been highlighted as a digitally independent alternative to ChatGPT yesterday! However, this needs a quick fact-check:

- The model was trained in a local data center at CSCS, the costs of the project are almost entirely covered by Swiss public institutions;
- People from all over the world have made contributions - open source LLM development is a global community of interest;
- There are groups in several countries using or fine-tuning Apertus to improve linguistic capabilities and local knowledge;
- While Apertus can run on Amazon servers, thanks to a third-party deployment script, it runs anywhere LLMs can run;
- Quantized versions are available to fit even relatively cheap consumer grade video cards (see my blog posts for details);
- The #PublicAI web interface and Apertus 8B demo runs on AWS, however the large model is hosted by CSCS as well;
- You do not need to use Google to authenticate to Public AI, it is just a convenient way to log into #OpenWebUI - if you want another provider, please suggest it;
- Apertus is not a chatbot on its own, it is a large language model that can be deployed as part of a system to provide chat services.

I'll send this to the maintainers as well. Did I miss anything?

https://di.day/en/digital-switch-recipes/alternativen-zu-chatgpt-co#different-ways-to-cook

Great to see that #Apertus has been highlighted as a digitally independent alternative to ChatGPT yesterday! However, this needs a quick fact-check:

- The model was trained in a local data center at CSCS, the costs of the project are almost entirely covered by Swiss public institutions;
- People from all over the world have made contributions - open source LLM development is a global community of interest;
- There are groups in several countries using or fine-tuning Apertus to improve linguistic capabilities and local knowledge;
- While Apertus can run on Amazon servers, thanks to a third-party deployment script, it runs anywhere LLMs can run;
- Quantized versions are available to fit even relatively cheap consumer grade video cards (see my blog posts for details);
- The #PublicAI web interface and Apertus 8B demo runs on AWS, however the large model is hosted by CSCS as well;
- You do not need to use Google to authenticate to Public AI, it is just a convenient way to log into #OpenWebUI - if you want another provider, please suggest it;
- Apertus is not a chatbot on its own, it is a large language model that can be deployed as part of a system to provide chat services.

I'll send this to the maintainers as well. Did I miss anything?

https://di.day/en/digital-switch-recipes/alternativen-zu-chatgpt-co#different-ways-to-cook

Great to see that #Apertus has been highlighted as a digitally independent alternative to ChatGPT yesterday! However, this needs a quick fact-check:

- The model was trained in a local data center at CSCS, the costs of the project are almost entirely covered by Swiss public institutions;
- People from all over the world have made contributions - open source LLM development is a global community of interest;
- There are groups in several countries using or fine-tuning Apertus to improve linguistic capabilities and local knowledge;
- While Apertus can run on Amazon servers, thanks to a third-party deployment script, it runs anywhere LLMs can run;
- Quantized versions are available to fit even relatively cheap consumer grade video cards (see my blog posts for details);
- The #PublicAI web interface and Apertus 8B demo runs on AWS, however the large model is hosted by CSCS as well;
- You do not need to use Google to authenticate to Public AI, it is just a convenient way to log into #OpenWebUI - if you want another provider, please suggest it;
- Apertus is not a chatbot on its own, it is a large language model that can be deployed as part of a system to provide chat services.

I'll send this to the maintainers as well. Did I miss anything?

https://di.day/en/digital-switch-recipes/alternativen-zu-chatgpt-co#different-ways-to-cook

Great to see that #Apertus has been highlighted as a digitally independent alternative to ChatGPT yesterday! However, this needs a quick fact-check:

- The model was trained in a local data center at CSCS, the costs of the project are almost entirely covered by Swiss public institutions;
- People from all over the world have made contributions - open source LLM development is a global community of interest;
- There are groups in several countries using or fine-tuning Apertus to improve linguistic capabilities and local knowledge;
- While Apertus can run on Amazon servers, thanks to a third-party deployment script, it runs anywhere LLMs can run;
- Quantized versions are available to fit even relatively cheap consumer grade video cards (see my blog posts for details);
- The #PublicAI web interface and Apertus 8B demo runs on AWS, however the large model is hosted by CSCS as well;
- You do not need to use Google to authenticate to Public AI, it is just a convenient way to log into #OpenWebUI - if you want another provider, please suggest it;
- Apertus is not a chatbot on its own, it is a large language model that can be deployed as part of a system to provide chat services.

I'll send this to the maintainers as well. Did I miss anything?

https://di.day/en/digital-switch-recipes/alternativen-zu-chatgpt-co#different-ways-to-cook

Great to see that #Apertus has been highlighted as a digitally independent alternative to ChatGPT yesterday! However, this needs a quick fact-check:

- The model was trained in a local data center at CSCS, the costs of the project are almost entirely covered by Swiss public institutions;
- People from all over the world have made contributions - open source LLM development is a global community of interest;
- There are groups in several countries using or fine-tuning Apertus to improve linguistic capabilities and local knowledge;
- While Apertus can run on Amazon servers, thanks to a third-party deployment script, it runs anywhere LLMs can run;
- Quantized versions are available to fit even relatively cheap consumer grade video cards (see my blog posts for details);
- The #PublicAI web interface and Apertus 8B demo runs on AWS, however the large model is hosted by CSCS as well;
- You do not need to use Google to authenticate to Public AI, it is just a convenient way to log into #OpenWebUI - if you want another provider, please suggest it;
- Apertus is not a chatbot on its own, it is a large language model that can be deployed as part of a system to provide chat services.

I'll send this to the maintainers as well. Did I miss anything?

https://di.day/en/digital-switch-recipes/alternativen-zu-chatgpt-co#different-ways-to-cook

The readme is still a bit messy, but you might want to try my #openwebui search engine function.

https://openwebui.com/posts/d33f7960-20e6-4f0f-897c-c29e0a64a50c

The readme is still a bit messy, but you might want to try my #openwebui search engine function.

https://openwebui.com/posts/d33f7960-20e6-4f0f-897c-c29e0a64a50c