#langchain — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #langchain, aggregated by home.social.
-
Память на миллион, а толку ноль: как мы спасали ИИ-агента от «тупости»
На связи Сергей Смирнов, AI-инженер и основатель LLMStart.ru. Сегодня разбираем горячую тему, на которой спотыкаются многие разработчики ботов — память нейросетей. У всех современных топовых моделей появились гигантские окна контекста — от миллиона токенов. Кажется, что теперь туда можно просто закинуть всю историю переписки, все корпоративные методички, и агент сам во всём разберётся или не разберётся?.. В статье разбираем реальный кейс — как мы управляем памятью ИИ-агента, чтобы он отвечал быстро, точно и не сжигал бюджет на токены впустую. Внутри — наглядные графики, три механизма очистки памяти и хитрый инженерный трюк с изолированным субагентом-аудитором.
https://habr.com/ru/companies/llmstart/articles/1038506/
#LangChain #ИИагенты #RAG #context_engineering #LLM #AIdriven_разработка #llmstart #контекстинжиниринг #production #productionready
-
Память на миллион, а толку ноль: как мы спасали ИИ-агента от «тупости»
На связи Сергей Смирнов, AI-инженер и основатель LLMStart.ru. Сегодня разбираем горячую тему, на которой спотыкаются многие разработчики ботов — память нейросетей. У всех современных топовых моделей появились гигантские окна контекста — от миллиона токенов. Кажется, что теперь туда можно просто закинуть всю историю переписки, все корпоративные методички, и агент сам во всём разберётся или не разберётся?.. В статье разбираем реальный кейс — как мы управляем памятью ИИ-агента, чтобы он отвечал быстро, точно и не сжигал бюджет на токены впустую. Внутри — наглядные графики, три механизма очистки памяти и хитрый инженерный трюк с изолированным субагентом-аудитором.
https://habr.com/ru/companies/llmstart/articles/1038506/
#LangChain #ИИагенты #RAG #context_engineering #LLM #AIdriven_разработка #llmstart #контекстинжиниринг #production #productionready
-
Память на миллион, а толку ноль: как мы спасали ИИ-агента от «тупости»
На связи Сергей Смирнов, AI-инженер и основатель LLMStart.ru. Сегодня разбираем горячую тему, на которой спотыкаются многие разработчики ботов — память нейросетей. У всех современных топовых моделей появились гигантские окна контекста — от миллиона токенов. Кажется, что теперь туда можно просто закинуть всю историю переписки, все корпоративные методички, и агент сам во всём разберётся или не разберётся?.. В статье разбираем реальный кейс — как мы управляем памятью ИИ-агента, чтобы он отвечал быстро, точно и не сжигал бюджет на токены впустую. Внутри — наглядные графики, три механизма очистки памяти и хитрый инженерный трюк с изолированным субагентом-аудитором.
https://habr.com/ru/companies/llmstart/articles/1038506/
#LangChain #ИИагенты #RAG #context_engineering #LLM #AIdriven_разработка #llmstart #контекстинжиниринг #production #productionready
-
Память на миллион, а толку ноль: как мы спасали ИИ-агента от «тупости»
На связи Сергей Смирнов, AI-инженер и основатель LLMStart.ru. Сегодня разбираем горячую тему, на которой спотыкаются многие разработчики ботов — память нейросетей. У всех современных топовых моделей появились гигантские окна контекста — от миллиона токенов. Кажется, что теперь туда можно просто закинуть всю историю переписки, все корпоративные методички, и агент сам во всём разберётся или не разберётся?.. В статье разбираем реальный кейс — как мы управляем памятью ИИ-агента, чтобы он отвечал быстро, точно и не сжигал бюджет на токены впустую. Внутри — наглядные графики, три механизма очистки памяти и хитрый инженерный трюк с изолированным субагентом-аудитором.
https://habr.com/ru/companies/llmstart/articles/1038506/
#LangChain #ИИагенты #RAG #context_engineering #LLM #AIdriven_разработка #llmstart #контекстинжиниринг #production #productionready
-
От RAG-прототипа к агенту в продакшн: путь по метрикам, а не по моде
На связи Сергей Смирнов, AI-инженер LLMStart.ru. Сегодня расскажу о полноценном кейсе, который мы делали для компании Айтон: агенте-консультанте по 1С:УНФ, который помогает отвечать на вопросы клиентов по базе знаний, реальным диалогам поддержки и контексту конкретного обращения. Разберу всю хронологию, нюансы и путь от первой гипотезы до продакшена, которым уже пользуются клиенты. Для бизнеса этот кейс интересен как пример реальной автоматизации через ИИ: сначала ассистент для сотрудников, потом сервис для клиентов. Для технарей — подходом, где решение эволюционировало от RAG-прототипа к агенту на основании данных и метрик, а не потому, что «так модно».
https://habr.com/ru/companies/llmstart/articles/1038436/
#RAG #LLM #ИИагенты #LangChain #LangFuse #Ragas #метрики_качества #context_engineering #мультимодальность #ии
-
От RAG-прототипа к агенту в продакшн: путь по метрикам, а не по моде
На связи Сергей Смирнов, AI-инженер LLMStart.ru. Сегодня расскажу о полноценном кейсе, который мы делали для компании Айтон: агенте-консультанте по 1С:УНФ, который помогает отвечать на вопросы клиентов по базе знаний, реальным диалогам поддержки и контексту конкретного обращения. Разберу всю хронологию, нюансы и путь от первой гипотезы до продакшена, которым уже пользуются клиенты. Для бизнеса этот кейс интересен как пример реальной автоматизации через ИИ: сначала ассистент для сотрудников, потом сервис для клиентов. Для технарей — подходом, где решение эволюционировало от RAG-прототипа к агенту на основании данных и метрик, а не потому, что «так модно».
https://habr.com/ru/companies/llmstart/articles/1038436/
#RAG #LLM #ИИагенты #LangChain #LangFuse #Ragas #метрики_качества #context_engineering #мультимодальность #ии
-
От RAG-прототипа к агенту в продакшн: путь по метрикам, а не по моде
На связи Сергей Смирнов, AI-инженер LLMStart.ru. Сегодня расскажу о полноценном кейсе, который мы делали для компании Айтон: агенте-консультанте по 1С:УНФ, который помогает отвечать на вопросы клиентов по базе знаний, реальным диалогам поддержки и контексту конкретного обращения. Разберу всю хронологию, нюансы и путь от первой гипотезы до продакшена, которым уже пользуются клиенты. Для бизнеса этот кейс интересен как пример реальной автоматизации через ИИ: сначала ассистент для сотрудников, потом сервис для клиентов. Для технарей — подходом, где решение эволюционировало от RAG-прототипа к агенту на основании данных и метрик, а не потому, что «так модно».
https://habr.com/ru/companies/llmstart/articles/1038436/
#RAG #LLM #ИИагенты #LangChain #LangFuse #Ragas #метрики_качества #context_engineering #мультимодальность #ии
-
От RAG-прототипа к агенту в продакшн: путь по метрикам, а не по моде
На связи Сергей Смирнов, AI-инженер LLMStart.ru. Сегодня расскажу о полноценном кейсе, который мы делали для компании Айтон: агенте-консультанте по 1С:УНФ, который помогает отвечать на вопросы клиентов по базе знаний, реальным диалогам поддержки и контексту конкретного обращения. Разберу всю хронологию, нюансы и путь от первой гипотезы до продакшена, которым уже пользуются клиенты. Для бизнеса этот кейс интересен как пример реальной автоматизации через ИИ: сначала ассистент для сотрудников, потом сервис для клиентов. Для технарей — подходом, где решение эволюционировало от RAG-прототипа к агенту на основании данных и метрик, а не потому, что «так модно».
https://habr.com/ru/companies/llmstart/articles/1038436/
#RAG #LLM #ИИагенты #LangChain #LangFuse #Ragas #метрики_качества #context_engineering #мультимодальность #ии
-
Explore the top Python libraries for AI workflow automation in 2026, including n8n, Vellum AI, and Make. Learn how to integrate AI models, implement RAG, and build scalable, secure workflows for content creation, lead scoring, and data enrichment.
#n8n #Vellum AI #Make #AI workflow automation #RAG #LangChain #Python #AI agents #enterprise automation #AI integration
https://dasroot.net/posts/2026/02/top-python-libraries-ai-workflow-automation-2026/
-
Explore the top Python libraries for AI workflow automation in 2026, including n8n, Vellum AI, and Make. Learn how to integrate AI models, implement RAG, and build scalable, secure workflows for content creation, lead scoring, and data enrichment.
#n8n #Vellum AI #Make #AI workflow automation #RAG #LangChain #Python #AI agents #enterprise automation #AI integration
https://dasroot.net/posts/2026/02/top-python-libraries-ai-workflow-automation-2026/
-
Explore the top Python libraries for AI workflow automation in 2026, including n8n, Vellum AI, and Make. Learn how to integrate AI models, implement RAG, and build scalable, secure workflows for content creation, lead scoring, and data enrichment.
#n8n #Vellum AI #Make #AI workflow automation #RAG #LangChain #Python #AI agents #enterprise automation #AI integration
https://dasroot.net/posts/2026/02/top-python-libraries-ai-workflow-automation-2026/
-
Explore the top Python libraries for AI workflow automation in 2026, including n8n, Vellum AI, and Make. Learn how to integrate AI models, implement RAG, and build scalable, secure workflows for content creation, lead scoring, and data enrichment.
#n8n #Vellum AI #Make #AI workflow automation #RAG #LangChain #Python #AI agents #enterprise automation #AI integration
https://dasroot.net/posts/2026/02/top-python-libraries-ai-workflow-automation-2026/
-
Explore the top Python libraries for AI workflow automation in 2026, including n8n, Vellum AI, and Make. Learn how to integrate AI models, implement RAG, and build scalable, secure workflows for content creation, lead scoring, and data enrichment.
#n8n #Vellum AI #Make #AI workflow automation #RAG #LangChain #Python #AI agents #enterprise automation #AI integration
https://dasroot.net/posts/2026/02/top-python-libraries-ai-workflow-automation-2026/
-
I Tested 30+ LangChain and LangGraph Courses on Udemy: Here Are My Top 5 Recommendations for 2026 Hello guys, if you are learning LLM and AI in 2026 then you should know about LangChain and LangGrr...
#artificial #intelligence #courses #LangChain #LangGraph #LLM #Udemy
Origin | Interest | Match -
In this new article, I explain how to integrate your Spring AI application with LangSmith for observability, supported by OpenTelemetry and Arconia.
https://www.thomasvitale.com/spring-ai-observability-langsmith-arconia/
-
Анатомия ИИ-трейдера: Как создать своего автономного ИИ-агента и зарабатывать на бирже
ИИ может торговать на бирже в плюс — и мы это проверили в ходе эксперимента на 6 моделях. Разбираем автономного ИИ-трейдера по косточкам — архитектура, инструменты, результаты запусков и готовый код. Запустите своего агента торговать на виртуальный капитал 3 млн рублей на «Финам Арене» уже сегодня — лучшим денежные призы.
https://habr.com/ru/companies/finam_broker/articles/1036574/
#ai #aiагент #трейдинговый_бот #алготрейдинг #трейдинг #trade_api #искусственный_интеллект #python #langgraph #langchain
-
Анатомия ИИ-трейдера: Как создать своего автономного ИИ-агента и зарабатывать на бирже
ИИ может торговать на бирже в плюс — и мы это проверили в ходе эксперимента на 6 моделях. Разбираем автономного ИИ-трейдера по косточкам — архитектура, инструменты, результаты запусков и готовый код. Запустите своего агента торговать на виртуальный капитал 3 млн рублей на «Финам Арене» уже сегодня — лучшим денежные призы.
https://habr.com/ru/companies/finam_broker/articles/1036574/
#ai #aiагент #трейдинговый_бот #алготрейдинг #трейдинг #trade_api #искусственный_интеллект #python #langgraph #langchain
-
Анатомия ИИ-трейдера: Как создать своего автономного ИИ-агента и зарабатывать на бирже
ИИ может торговать на бирже в плюс — и мы это проверили в ходе эксперимента на 6 моделях. Разбираем автономного ИИ-трейдера по косточкам — архитектура, инструменты, результаты запусков и готовый код. Запустите своего агента торговать на виртуальный капитал 3 млн рублей на «Финам Арене» уже сегодня — лучшим денежные призы.
https://habr.com/ru/companies/finam_broker/articles/1036574/
#ai #aiагент #трейдинговый_бот #алготрейдинг #трейдинг #trade_api #искусственный_интеллект #python #langgraph #langchain
-
Анатомия ИИ-трейдера: Как создать своего автономного ИИ-агента и зарабатывать на бирже
ИИ может торговать на бирже в плюс — и мы это проверили в ходе эксперимента на 6 моделях. Разбираем автономного ИИ-трейдера по косточкам — архитектура, инструменты, результаты запусков и готовый код. Запустите своего агента торговать на виртуальный капитал 3 млн рублей на «Финам Арене» уже сегодня — лучшим денежные призы.
https://habr.com/ru/companies/finam_broker/articles/1036574/
#ai #aiагент #трейдинговый_бот #алготрейдинг #трейдинг #trade_api #искусственный_интеллект #python #langgraph #langchain
-
LangSmith rückt Agenten-Betrieb näher an Software-Lifecycle
LangChain bündelt LangSmith-Funktionen für Kontext, Observability, Runtime und Governance.
https://agentenlog.de/posts/2026-05-15-langsmith-agenten-lifecycle-interrupt
-
От LLM к агенту: Как заставить Go приложение думать и действовать
Всё началось с доклада про AI-агентов. Заинтересовало настолько, что решил написать своего на Go. Было сложно, но получилось! Делюсь опытом: LangChainGo, инструменты, цепочки, MCP и интеграция с GigaChat.
https://habr.com/ru/articles/1033718/
#go #golang #ai #исскуственный_интеллект #gigachat #langchain #голанг
-
От LLM к агенту: Как заставить Go приложение думать и действовать
Всё началось с доклада про AI-агентов. Заинтересовало настолько, что решил написать своего на Go. Было сложно, но получилось! Делюсь опытом: LangChainGo, инструменты, цепочки, MCP и интеграция с GigaChat.
https://habr.com/ru/articles/1033718/
#go #golang #ai #исскуственный_интеллект #gigachat #langchain #голанг
-
От LLM к агенту: Как заставить Go приложение думать и действовать
Всё началось с доклада про AI-агентов. Заинтересовало настолько, что решил написать своего на Go. Было сложно, но получилось! Делюсь опытом: LangChainGo, инструменты, цепочки, MCP и интеграция с GigaChat.
https://habr.com/ru/articles/1033718/
#go #golang #ai #исскуственный_интеллект #gigachat #langchain #голанг
-
От LLM к агенту: Как заставить Go приложение думать и действовать
Всё началось с доклада про AI-агентов. Заинтересовало настолько, что решил написать своего на Go. Было сложно, но получилось! Делюсь опытом: LangChainGo, инструменты, цепочки, MCP и интеграция с GigaChat.
https://habr.com/ru/articles/1033718/
#go #golang #ai #исскуственный_интеллект #gigachat #langchain #голанг
-
AI-агенты в продакшене: почему demo не равно реальность
Посмотрел демку, где AI-агент ревьюит PR за 40 секунд — и решил внедрить у себя. LangGraph, GitHub API, неделя на прототип. Прототип заработал красиво. А потом начался продакшен: галлюцинации, 60% мусорных комментариев, разработчики игнорируют бота. Рассказываю, как чинил это три месяца и к каким цифрам пришёл.
https://habr.com/ru/articles/1031352/
#AIагенты #LangGraph #LangChain #кодревью #LLM #автоматизация #GPT4 #продакшен
-
AI-агенты в продакшене: почему demo не равно реальность
Посмотрел демку, где AI-агент ревьюит PR за 40 секунд — и решил внедрить у себя. LangGraph, GitHub API, неделя на прототип. Прототип заработал красиво. А потом начался продакшен: галлюцинации, 60% мусорных комментариев, разработчики игнорируют бота. Рассказываю, как чинил это три месяца и к каким цифрам пришёл.
https://habr.com/ru/articles/1031352/
#AIагенты #LangGraph #LangChain #кодревью #LLM #автоматизация #GPT4 #продакшен
-
AI-агенты в продакшене: почему demo не равно реальность
Посмотрел демку, где AI-агент ревьюит PR за 40 секунд — и решил внедрить у себя. LangGraph, GitHub API, неделя на прототип. Прототип заработал красиво. А потом начался продакшен: галлюцинации, 60% мусорных комментариев, разработчики игнорируют бота. Рассказываю, как чинил это три месяца и к каким цифрам пришёл.
https://habr.com/ru/articles/1031352/
#AIагенты #LangGraph #LangChain #кодревью #LLM #автоматизация #GPT4 #продакшен
-
AI-агенты в продакшене: почему demo не равно реальность
Посмотрел демку, где AI-агент ревьюит PR за 40 секунд — и решил внедрить у себя. LangGraph, GitHub API, неделя на прототип. Прототип заработал красиво. А потом начался продакшен: галлюцинации, 60% мусорных комментариев, разработчики игнорируют бота. Рассказываю, как чинил это три месяца и к каким цифрам пришёл.
https://habr.com/ru/articles/1031352/
#AIагенты #LangGraph #LangChain #кодревью #LLM #автоматизация #GPT4 #продакшен
-
Как я создал AI-ассистента для трейдинга на T-Invest API Часть 2: Human-In-The-Loop
В предыдущей статье было рассмотрен способ интеграции ИИ-ассистентов в процесс торговли на бирже. Чтобы углубиться в проектирование ИИ‑приложений, я решил доработать проект. В данной части опишу, как реализовал механизм GuardRails, а именно технику Human‑In‑The‑Loop.
https://habr.com/ru/articles/1030892/
#ииагенты #ииассистент #langgraph #langchain #chainlit #tinvest #тинвестиции_api #тинвестиции #агент
-
Как я создал AI-ассистента для трейдинга на T-Invest API Часть 2: Human-In-The-Loop
В предыдущей статье было рассмотрен способ интеграции ИИ-ассистентов в процесс торговли на бирже. Чтобы углубиться в проектирование ИИ‑приложений, я решил доработать проект. В данной части опишу, как реализовал механизм GuardRails, а именно технику Human‑In‑The‑Loop.
https://habr.com/ru/articles/1030892/
#ииагенты #ииассистент #langgraph #langchain #chainlit #tinvest #тинвестиции_api #тинвестиции #агент
-
Как я создал AI-ассистента для трейдинга на T-Invest API Часть 2: Human-In-The-Loop
В предыдущей статье было рассмотрен способ интеграции ИИ-ассистентов в процесс торговли на бирже. Чтобы углубиться в проектирование ИИ‑приложений, я решил доработать проект. В данной части опишу, как реализовал механизм GuardRails, а именно технику Human‑In‑The‑Loop.
https://habr.com/ru/articles/1030892/
#ииагенты #ииассистент #langgraph #langchain #chainlit #tinvest #тинвестиции_api #тинвестиции #агент
-
Как я создал AI-ассистента для трейдинга на T-Invest API Часть 2: Human-In-The-Loop
В предыдущей статье было рассмотрен способ интеграции ИИ-ассистентов в процесс торговли на бирже. Чтобы углубиться в проектирование ИИ‑приложений, я решил доработать проект. В данной части опишу, как реализовал механизм GuardRails, а именно технику Human‑In‑The‑Loop.
https://habr.com/ru/articles/1030892/
#ииагенты #ииассистент #langgraph #langchain #chainlit #tinvest #тинвестиции_api #тинвестиции #агент
-
AI agents on #RaspberryPi 🤖🍓
LangChain tutorial: local LLMs + tools for task automation. Pi 5 ready!
https://peppe8o.com/ai-agent-raspberry-pi/ #peppe8o #LangChain #AIAgents -
AI agents on #RaspberryPi 🤖🍓
LangChain tutorial: local LLMs + tools for task automation. Pi 5 ready!
https://peppe8o.com/ai-agent-raspberry-pi/ #peppe8o #LangChain #AIAgents -
AI agents on #RaspberryPi 🤖🍓
LangChain tutorial: local LLMs + tools for task automation. Pi 5 ready!
https://peppe8o.com/ai-agent-raspberry-pi/ #peppe8o #LangChain #AIAgents -
AI agents on #RaspberryPi 🤖🍓
LangChain tutorial: local LLMs + tools for task automation. Pi 5 ready!
https://peppe8o.com/ai-agent-raspberry-pi/ #peppe8o #LangChain #AIAgents -
Teams of AI employees working 24/7 while I sleep 😴
#AI #AIWorkforce #AIEmployees #AutonomousAI #AIAgents #SistaAI #AISaaS #Productivity #SaaS #Tech #Startup #3D #OpenClaw #claudeCode #ChatGPT #buildinpublic #ProductHunt #TechStartup #Employee #Tech #Dev #Langchain #Python
-
Teams of AI employees working 24/7 while I sleep 😴
#AI #AIWorkforce #AIEmployees #AutonomousAI #AIAgents #SistaAI #AISaaS #Productivity #SaaS #Tech #Startup #3D #OpenClaw #claudeCode #ChatGPT #buildinpublic #ProductHunt #TechStartup #Employee #Tech #Dev #Langchain #Python
-
Teams of AI employees working 24/7 while I sleep 😴
#AI #AIWorkforce #AIEmployees #AutonomousAI #AIAgents #SistaAI #AISaaS #Productivity #SaaS #Tech #Startup #3D #OpenClaw #claudeCode #ChatGPT #buildinpublic #ProductHunt #TechStartup #Employee #Tech #Dev #Langchain #Python
-
Teams of AI employees working 24/7 while I sleep 😴
#AI #AIWorkforce #AIEmployees #AutonomousAI #AIAgents #SistaAI #AISaaS #Productivity #SaaS #Tech #Startup #3D #OpenClaw #claudeCode #ChatGPT #buildinpublic #ProductHunt #TechStartup #Employee #Tech #Dev #Langchain #Python
-
Teams of AI employees working 24/7 while I sleep 😴
#AI #AIWorkforce #AIEmployees #AutonomousAI #AIAgents #SistaAI #AISaaS #Productivity #SaaS #Tech #Startup #3D #OpenClaw #claudeCode #ChatGPT #buildinpublic #ProductHunt #TechStartup #Employee #Tech #Dev #Langchain #Python
-
#LLMs liefern freien Text – schwer zu validieren & weiterzuverarbeiten. Wie entstehen daraus stabile Datenstrukturen?
Lerne mit Jean-Claude Brantschen, wie du mit #LangChain Antworten in strukturierte, nutzbare Formate überführst: https://javapro.io/de/langchain/
-
#LLMs liefern freien Text – schwer zu validieren & weiterzuverarbeiten. Wie entstehen daraus stabile Datenstrukturen?
Lerne mit Jean-Claude Brantschen, wie du mit #LangChain Antworten in strukturierte, nutzbare Formate überführst: https://javapro.io/de/langchain/
-
#LLMs liefern freien Text – schwer zu validieren & weiterzuverarbeiten. Wie entstehen daraus stabile Datenstrukturen?
Lerne mit Jean-Claude Brantschen, wie du mit #LangChain Antworten in strukturierte, nutzbare Formate überführst: https://javapro.io/de/langchain/
-
#LLMs liefern freien Text – schwer zu validieren & weiterzuverarbeiten. Wie entstehen daraus stabile Datenstrukturen?
Lerne mit Jean-Claude Brantschen, wie du mit #LangChain Antworten in strukturierte, nutzbare Formate überführst: https://javapro.io/de/langchain/
-
#LLMs liefern freien Text – schwer zu validieren & weiterzuverarbeiten. Wie entstehen daraus stabile Datenstrukturen?
Lerne mit Jean-Claude Brantschen, wie du mit #LangChain Antworten in strukturierte, nutzbare Formate überführst: https://javapro.io/de/langchain/
-
Почему ваша LLM-платформа — следующая цель: аудит безопасности AI-сервиса изнутри
Мы искали уязвимости в RAG-платформе с десятками тысяч пользователей — а нашли доступ ко всей инфраструктуре и API-ключам с бюджетом в сотни тысяч долларов. Две недели мы строили сложные цепочки: SSRF через LangChain, инъекции в промпты, HTTP smuggling, CVE в десериализации. Ни одна не дала результата. А потом мы сделали один curl к открытому порту — и получили все ключи за 5 минут. Эта статья — не гайд по взлому . Это разбор того, почему LLM-инфраструктура создаёт принципиально новые риски, какие ошибки мы раз за разом видим в AI-стартапах, и на что стоит обратить внимание, если вы строите что-то похожее.
https://habr.com/ru/articles/1029822/
#пентест #LLM #SSRF #JWT #Docker #LangChain #AI_Security #аудит_безопасности #RAG #APIключи
-
Почему ваша LLM-платформа — следующая цель: аудит безопасности AI-сервиса изнутри
Мы искали уязвимости в RAG-платформе с десятками тысяч пользователей — а нашли доступ ко всей инфраструктуре и API-ключам с бюджетом в сотни тысяч долларов. Две недели мы строили сложные цепочки: SSRF через LangChain, инъекции в промпты, HTTP smuggling, CVE в десериализации. Ни одна не дала результата. А потом мы сделали один curl к открытому порту — и получили все ключи за 5 минут. Эта статья — не гайд по взлому . Это разбор того, почему LLM-инфраструктура создаёт принципиально новые риски, какие ошибки мы раз за разом видим в AI-стартапах, и на что стоит обратить внимание, если вы строите что-то похожее.
https://habr.com/ru/articles/1029822/
#пентест #LLM #SSRF #JWT #Docker #LangChain #AI_Security #аудит_безопасности #RAG #APIключи
-
Почему ваша LLM-платформа — следующая цель: аудит безопасности AI-сервиса изнутри
Мы искали уязвимости в RAG-платформе с десятками тысяч пользователей — а нашли доступ ко всей инфраструктуре и API-ключам с бюджетом в сотни тысяч долларов. Две недели мы строили сложные цепочки: SSRF через LangChain, инъекции в промпты, HTTP smuggling, CVE в десериализации. Ни одна не дала результата. А потом мы сделали один curl к открытому порту — и получили все ключи за 5 минут. Эта статья — не гайд по взлому . Это разбор того, почему LLM-инфраструктура создаёт принципиально новые риски, какие ошибки мы раз за разом видим в AI-стартапах, и на что стоит обратить внимание, если вы строите что-то похожее.
https://habr.com/ru/articles/1029822/
#пентест #LLM #SSRF #JWT #Docker #LangChain #AI_Security #аудит_безопасности #RAG #APIключи
-
Почему ваша LLM-платформа — следующая цель: аудит безопасности AI-сервиса изнутри
Мы искали уязвимости в RAG-платформе с десятками тысяч пользователей — а нашли доступ ко всей инфраструктуре и API-ключам с бюджетом в сотни тысяч долларов. Две недели мы строили сложные цепочки: SSRF через LangChain, инъекции в промпты, HTTP smuggling, CVE в десериализации. Ни одна не дала результата. А потом мы сделали один curl к открытому порту — и получили все ключи за 5 минут. Эта статья — не гайд по взлому . Это разбор того, почему LLM-инфраструктура создаёт принципиально новые риски, какие ошибки мы раз за разом видим в AI-стартапах, и на что стоит обратить внимание, если вы строите что-то похожее.
https://habr.com/ru/articles/1029822/
#пентест #LLM #SSRF #JWT #Docker #LangChain #AI_Security #аудит_безопасности #RAG #APIключи