#nvidia_a30 — Public Fediverse posts

Локальный ИИ-агент в своём контуре: Ollama плюс OpenClaw на серверном GPU

Однажды за один вечер мне пришлось разобрать двенадцать ошибок, и почти все прятались в конфигурации и связях между компонентами. Модель отвечала пустой строкой, хотя в логах не было ни одной явной ошибки. Агент не мог достучаться до Ollama, панель не проходила авторизацию, ключ отклонялся из-за прав доступа, а gateway показывал зелёный статус, но будто не замечал изменений в конфиге. В этой статье хочу разобрать три случая, сопроводим их реальными репликами агента и выводами команд. Посмотрим, как модель имитирует выполненную работу, почему при переполнении лучше не увеличивать окно, а искать причину по логам, и как скилл по расписанию оказался удобнее панели управления. Статья написана на основе моего вебинара , можно посмотреть его в записи.

https://habr.com/ru/companies/vktech/articles/1068686/

#vk_cloud #локальный_ии #ai_agents #ollama #openclaw #nvidia_a30 #gpu #llm_inference #selfhosted_ai #информационная_безопасность