#ollama — Public Fediverse posts

Как запустить Gemma на сервере: сравниваем Ollama и llama.cpp

Откройте любую статью-инструкцию по установке LLM, в которой фигурирует Ollama. Уверен, в комментариях к ней автору уже объяснили, насколько он неправ и что единственное верное решение — использовать llama.cpp. В этой статье запустим Gemma 4 и через Ollama, и напрямую через llama.cpp — и посмотрим, во сколько обходится удобство.

https://habr.com/ru/companies/selectel/articles/1088372/

#selectel #ai #ml #aiагенты #gemma #Ollama #llamacpp #LLM #llmмодели #Gemma_4