#openvino — Public Fediverse posts

My kid has released another tool that he's written for himself:

Ovi is a lightweight local model server that delivers an ollama‑style developer experience, built natively on Intel’s OpenVINO runtime for efficient CPU and GPU inference:

https://github.com/nathanael-thms/ovi.

Check out the docs at https://ovi.nattho.com

#ProudDad #python #openvino #ai #ovi #ollama

📬 GEEKOM M16 und X14 Pro im Vergleich
#Test #CoreUltra9185H #CrucialNVMe #GEEKOMM16 #GEEKOMX14Pro #IPSDisplay #OpenVINO https://sc.tarnkappe.info/41a2de

I made this #YouTube video for work using #OpenSource. #Audacity with #OpenVINO to clean up the #Audio #Inkscape for the lower thirds and #Kdenlive to edit everything. Oh, and #Whisper to automatically create the #subtitles, which is did an amazing job, better than Audacity and OpenVINO did. Only would have been better if I did it on my home #kubuntu desktop but open source #software is the best and all ran on my Windows workstation.

https://youtu.be/YEkgv__LgGw?si=C73y62hSDyeT0X5L

Intel Arc Pro B70、NVIDIA RTX 4000比でAI推論処理量が最大2.24倍に — BigGo ファイナンス https://www.yayafa.com/2825367/ #AgenticAi #AI #ArtificialGeneralIntelligence #ArtificialIntelligence #BackendAI #GPTOSS20B #Intel #IntelArcProB70 #KVキャッシュ #LLM #NVIDIA #NVIDIARTXPRO4000Blackwell #OpenVINO #Qwen38B #RableUp #vLLM #エージェンティックAI #エージェント型AI #人工知能 #汎用人工知能

(more Linux and FOSS news in previous posts of thread)

Zed Editor launches Agent Metrics, offering public AI agent usage data:
https://alternativeto.net/news/2026/4/zed-editor-launches-agent-metrics-offering-public-ai-agent-usage-data/

Immich 2.7 adds duplicate resolution, editor shortcuts, new web actions, and much more:
https://alternativeto.net/news/2026/4/immich-2-7-adds-duplicate-resolution-editor-shortcuts-new-web-actions-and-much-more/

SQLite 3.53 fixes WAL-reset bug, adds QRF library, new SQL features, improved CLI and more:
https://alternativeto.net/news/2026/4/sqlite-3-53-fixes-wal-reset-bug-adds-qrf-library-new-sql-features-improved-cli-and-more/

GNU nano 9.0 CLI Text Editor Released with New Features and Improvements:
https://9to5linux.com/gnu-nano-9-0-cli-text-editor-released-with-new-features-and-improvements

Microsoft has terminated developer accounts of VeraCrypt, WireGuard & Windscribe software:
https://alternativeto.net/news/2026/4/microsoft-has-terminated-developer-accounts-of-veracrypt-wireguard-and-windscribe-software/
(It was only by accident, right, Microsoft? RIGHT??)

FosseryWeb progress report:
I regenerated the HTML cheatsheets using the new page-builders tool, and fixed a lot of bugs/mistakes. Now I'm working on regenerating the JavaScript cheatsheets.
https://fosseryweb.codeberg.page/@beta/cheatsheets/
https://fosseryweb-min.codeberg.page/@beta/cheatsheets/

Vulkan 1.4.349 Released With Data Graph Optical Flow Extension:
https://www.phoronix.com/news/Vulkan-1.4.349

Hugging Face Contributes Safetensors To PyTorch Foundation To Secure AI Model Execution:
https://www.phoronix.com/news/PyTorch-Safetensors

Godot gets a funding boost from Slay the Spire 2 devs Mega Crit:
https://www.gamingonlinux.com/2026/04/godot-gets-a-funding-boost-from-slay-the-spire-2-devs-mega-crit/

Legendary, the free and open source Epic Games Launcher, has moved to a new organisation:
https://www.gamingonlinux.com/2026/04/legendary-the-free-and-open-source-epic-games-launcher-has-moved-to-a-new-organisation/

Raspberry Pi Imager 2.0.8 Released with Fastboot Improvements, Bug Fixes:
https://9to5linux.com/raspberry-pi-imager-2-0-8-released-with-fastboot-improvements-bug-fixes

Redox OS Establishes AI Policy To Forbid Contributions Made Using LLMs:
https://www.phoronix.com/news/Redox-OS-March-2026

NetBSD 11.0 Nears Release With RC3 Released For Testing:
https://www.phoronix.com/news/NetBSD-11.0-RC3

Intel Releases OpenVINO 2026.1 With Backend For Llama.cpp, New Hardware Support:
https://www.phoronix.com/news/OpenVINO-2026.1-Released

#WeeklyNews #OpenSource #FOSSNews #OpenSourceNews #FOSS #News #Zed #Immich #SQLite #GNUNano #FosseryWeb #FosseryWebMin #Vulkan #AI #ArtificialIntelligence #HuggingFace #GodotEngine #Godot #RaspberryPIImager #RedoxOS #NetBSD #OpenVINO #Llamacpp #PyTorch #DBMS #SelfHosting #Development #IDE #CodeEditor #TextEditor #Programming #Dev #BSD #FosseryTech

Well, it worked. As expected. But does someone know what is needed for #immich machine learning container to get #openvino attached to mini gpu of NUC? Some tag in deployment allowing the attach?

Fazit nach paar Stunden #frigate mit #openvino

Hunde und Katzen zu unterscheiden fällt der LLM ganz schön schwer. Besonders wenn Kater #cooper durchs Bild marschiert. Der ist halt echt schwarz und das kann openvino schwer kompensieren. Man sieht, dass es da auch unsicherheiten gibt. Manchmal nur knapp über 50%. Personen hingegen werden zu knapp 100% erkannt.

📬 Das GEEKOM GeekBook X14 Pro im Alltagstest
#Test #CopilotTaste #GeekBookX14Pro #GEEKOM #Notebook #OpenVINO https://sc.tarnkappe.info/dbb445

UP Xtreme ARL AI Dev Kit review – Benchmarks and AI workloads on an Intel Core Ultra 5 225H Arrow Lake SBC

https://web.brid.gy/r/https://www.cnx-software.com/2025/12/14/up-xtreme-arl-ai-dev-kit-review-benchmarks-and-ai-workloads-on-an-intel-core-ultra-5-225h-arrow-lake-sbc/

Личное облако на Proxmox, нейронки, LLM и embedding

В прошлой статье я описывал как построить сетевую часть самодержавного сервера, пора принести в него что-то отдаленно разумное. Это руководство описывает весь процесс: от подготовки хоста Proxmox и настройки LXC-контейнера до поиска, конвертации и запуска embedding-моделей (на примере BAAI/bge-large-en-v1.5 ) с использованием Intel GPU для работы модели. Но будет легко запустить не одну модель или полноценного чатбота на этой основе. Главное, что будет ясно как использовать даже простое имеющееся железо домашнего сервера для этого.

https://habr.com/ru/articles/967418/

#proxmox #lxc #openvino #ml #gpu_passthrough #embeddings

Ich hab leider nur bei den ersten Recherchen keine bessere Lösung gefunden. Als Nächstes werde ich ein kleineres, spezialisierteres LLM wie granite ausprobieren. Vielleicht bekomme ich das mit #openVINO auch noch für meine Intel-CPU optimiert.

Классификация документов: гайд для обхода граблей

У всех на слуху библейское изречение « отделять зерна от плевел » и его грубый аналог « отделять мух от котлет ». В обычной жизни мы также сталкиваемся с необходимостью разделять схожие предметы. В машинном обучении задача разделить объекты по определенным классам, например, « зерна » и « плевелы », называется классификация . Классификация лежит в основе современных технологий искусственного интеллекта и играет ключевую роль в машинном обучении.

https://habr.com/ru/articles/923828/

#классификация_документов #openvino #spp #bag_of_words

📊 Some of the results from the Audacity OpenVINO Whisper Transcription study:
- 🕒 Average duration per model: Base (5.86s), Small (15.45s), Medium (39.03s), Large-v3 (81.33s).
- 🏅 Top scorer for accuracy: Small model!

🔗 See the complete analysis: https://medium.com/@chribonn/comparing-audacitys-openvino-whisper-transcription-llms-c80c14834c1c
#DataScience #OpenVINO #Whisper #Audacity #TechInsights #TTMO

HowTo Explains how to install and activate the OpenVINO plug-in in Audacity. This LLM is installed locally on your computer meaning that nothing gets transmitted to a remote servers. After installation, Audacity gains music separation, AI noise suppression, music generation and audio transcription. #Audacity #OpenVino #TTMO #HowTo #Intel #AI #Whisper, #Transcription, #SpeechToText, #MusicGeneration, #NoiseSuppression

https://www.alanbonnici.com/2025/04/howto-install-openvino-ai-plug-in-in.html

#Intel should figure out their #ml strategy because they have:

1. #OpenVino plugins for GPU and NPU,
2. #OpenXLA plugin for GPU
3. #ipex for PyTorch
4. intel-npu-acceleration-library for PyTorch
5. oneDNN neural network math kernels

And for #ONNX they have both OpenVino and oneDNN runtimes.

Best of all I haven't reliably gotten the NPU to work using any permutation of them lol..

After some investigation I found that #OpenVino is about twice as fast as #OpenXLA in diffusion on my Intel Xe graphics iGPU.

Having to convert safetensors models is pretty inconvenient.

OpenVINO AI Plugins for Audacity

Репозиторий предлагает набор ИИ эффектов, генераторов и анализаторов для популярной программы редактирования аудио Audacity.

Эти функции, включают разделение музыки, подавление шума, генерацию и продолжение музыки, а также транскрипцию и работают полностью на локальном ПК пользователя, без необходимости подключения к интернету.

Плагины используют CPU, GPU и NPU.

Репозиторий предоставляет подробные инструкции по установке и сборке для платформ Windows и Linux.

https://bastyon.com/index?s=79c8c6a7c317bfbb0823929f34b414a0bc585b144d3d0092e846a4f3d3b858ce&ref=PSxywSgLV57vexgFjnFM5w5RA4BJp6qjG4

#OpenVINO #Audacity #AIПлагины #ИскусственныйИнтеллект #ОбработкаАудио #МузыкальныеПлагины #Аудиоредактирование #OpenSource #ЛокальныеМодели #ПодавлениеШума #РазделениеМузыки #ГенерацияМузыки #АудиоИИ #Транскрипция #ИнструментыДляАудио #ПлагиныДляAudacity #CPU #GPU #NPU #ЛокальнаяОбработка #БезИнтернета #Windows #Linux #АудиоЭффекты

At work I have used the #OpenVino plugin for #audacity and it was great to remove #noise and #audio layers. It was a pretty easy install on #Windows. I would absolutely love to be able to use it at home on my #Kubuntu #desktop but, the last time I looked at the installation it was bonkers complex and I couldn't get it working. Any tips to get it working? It'd be so great if there is a #Snap or #flatpak that has it baked in. Thanks for the help!
#Linux

Тензорные компиляторы: что это за «звери» и где они «обитают»

Компилятор — привычный инструмент для многих разработчиков, но не все сталкивались в работе с тензорным видом. Их частые пользователи — специалисты по машинному обучению и дата-инженеры. В этой статье совершим экскурсию в «зоопарк» тензорных компиляторов, понаблюдаем за их «поведением» и выберем самых функциональных «зверушек». А еще поделимся ссылкой на бесплатный курс о построении и использовании тензорных компиляторов для ускорения вывода глубоких нейронных сетей, который разработан сотрудниками института ИТММ ННГУ им. Н. И. Лобачевского.

https://habr.com/ru/companies/yadro/articles/869594/

#тензорные_компиляторы #глубокие_нейросети #тензоры #машинное_обучение #инференс #glow #xla #openvino #apach_tvm

GPU для дата-центров

Серверный узел с восемью GPU-ускорителями AMD Instinct MI325X (2,3 ТБ видеопамяти, 8×750 Вт) Современные дата-центры уже не такие, как прежде. Раньше на типичный сервер поставили бы 144-ядерный CPU , много RAM и десяток HDD/SSD. Но теперь приоритеты меняются, в первую очередь из-за высокого спроса на машинное обучение (ML) и приложения LLM. Хотя аппетит к памяти только вырос, но процессоры нужны другие. И крупным корпорациям, и маленьким компаниям нужно железо для обсчёта ИИ-приложений. Это GPU-ускорители, NPU (Neural Processing Unit) и TPU (Tensor Processing Unit), AI-чипы нового поколения. Нужны серверы с GPU. Открываются даже специализированные GPU-облака на растущем спросе.

https://habr.com/ru/companies/ruvds/articles/837286/

#GPU #NPU #TPU #ARM #AI #ИИ #Copilot+ #Qualcomm_Snapdragon X #Core_Ultra #AMD_XDNA #Intel_AI_Boost #Qualcomm_Hexagon #Instinct_MI325X #Nvidia_H100 #Nvidia_H200 #Nvidia_GH100 #Instinct_MI300X #Nvidia_B200 #Grace_Blackwell_Superchip #GB200 #AMD_Ryzen_AI_300 #MediaTek #OpenVINO #ruvds_статьи

«¡Esto es magia pura!»

#OpenVINO Plugins en #Audacity :audacity: | Supresor de #ruido y separación de #música con #InteligenciaArtificial

:FroggieStarstruck:

https://www.youtube.com/watch?v=lyB0Wp2rpcY

Фиксим баги в вашем AI или разбор ошибок в OpenVINO

Друзья-разработчики, приглашаем вас продолжить захватывающее путешествие по дебрям кода Intel OpenVINO! Вооружившись статическим анализатором аки детективы, мы разоблачим наиболее коварные, интересные ошибки и опечатки, а также их скрытые тайны, оставшиеся за рамками первой части статьи.

https://habr.com/ru/companies/pvs-studio/articles/831080/

#c++ #безопасность #баги #openvino #ии #проверка_кода