#ollivo — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #ollivo, aggregated by home.social.
-
Потянет ли мой компьютер эту нейросеть? Сделал программу, которая отвечает на это до скачивания
Vulkan на моей GTX 1080 генерирует в полтора раза быстрее CUDA. Qwen вставляет китайские слова в русский текст даже при температуре 0. А маленькая модель однажды отчиталась, что удалила файл, и ничего не удалила. Всё это я узнал, пока делал Ollivo: программу, которая запускает локальные нейросети без Python, CUDA и терминала.
https://habr.com/ru/articles/1087242/
#локальные_нейросети #LLM #llamacpp #Rust #Tauri #Vulkan #CUDA #HuggingFace #GGUF #Ollivo
-
Потянет ли мой компьютер эту нейросеть? Сделал программу, которая отвечает на это до скачивания
Vulkan на моей GTX 1080 генерирует в полтора раза быстрее CUDA. Qwen вставляет китайские слова в русский текст даже при температуре 0. А маленькая модель однажды отчиталась, что удалила файл, и ничего не удалила. Всё это я узнал, пока делал Ollivo: программу, которая запускает локальные нейросети без Python, CUDA и терминала.
https://habr.com/ru/articles/1087242/
#локальные_нейросети #LLM #llamacpp #Rust #Tauri #Vulkan #CUDA #HuggingFace #GGUF #Ollivo
-
Потянет ли мой компьютер эту нейросеть? Сделал программу, которая отвечает на это до скачивания
Vulkan на моей GTX 1080 генерирует в полтора раза быстрее CUDA. Qwen вставляет китайские слова в русский текст даже при температуре 0. А маленькая модель однажды отчиталась, что удалила файл, и ничего не удалила. Всё это я узнал, пока делал Ollivo: программу, которая запускает локальные нейросети без Python, CUDA и терминала.
https://habr.com/ru/articles/1087242/
#локальные_нейросети #LLM #llamacpp #Rust #Tauri #Vulkan #CUDA #HuggingFace #GGUF #Ollivo