#apple_silicon — Public Fediverse posts

Дело о лишних размышлениях: почему вредно много думать

…Еще играясь с Qwen3.6 я дал ей стандартную handoff задачу от своей AI команды по проекту SwiftUI и QWEN cli ее так и не решил. Просто ушел в постоянные размышления. В итоге я его просто закрыл и сделал вывод, что Qwen3.6 не может решать такие задачи. И как оказалось я поспешил… В предыдущем расследовании https://habr.com/ru/articles/1075706 мы искали скорость локальной Qwen3.8-27B на Mac Studio. Вывод был довольно жёстким: для интерактивной работы радикально ускорить 27-миллиардную модель можно прежде всего уменьшив объём её весов, то есть квантизацией. В связке с DFlash2 версия 8-bit дошла до 38 токенов в секунду. Но это был только первый вопрос. Быстро отвечать и хорошо работать — не одно и то же. Особенно когда модель должна не пересказать текст, а разобрать инцидент, соблюдать строгий формат, написать и отладить код. Я хотел найти не самую быструю версию Qwen3.8-27B, а модель, которую можно реально использовать каждый день: чтобы не ждать ответ по минуте и не получать взамен очень убедительную чепуху. Казалось, что план очевиден. BF16 берём как эталон качества. 8-bit и 4-bit сравниваем с ним. А чтобы квантизованные версии точно не потеряли в сложных задачах, включаем им максимальный уровень рассуждений — reasoning_effort=xhigh . Это была вполне логичная гипотеза. И она оказалась неверной.

https://habr.com/ru/articles/1079274/

#qwen3827b #omlx #mlx #apple_silicon #mac_studio_m3_ultra #локальные_llm #инференс_llm

Всё, что вы хотели знать о локальном ИИ, но стеснялись спросить

Если вы когда-нибудь смотрели на HF и не понимали, что такое DFlash, квантизация и почему одна и та же модель лежит в десяти репозиториях от десяти разных людей — или давно собирались поднять LLM у себя, но всё не находили повода — выход Muse Glimmer 30B буквально лучший момент начать. Буквально со своего MacBook Air. Ага, да вот уже сейчас прямо. Погрузиться в мир локальных моделей

https://habr.com/ru/articles/1069422/

#llm #локальные_модели #квантизация #llamacpp #apple_silicon #gguf #инференс #moe #meta

macOS/Linux仮想マシンセットアップ画面を再デザインし、ホストmacOSがサポートしているmacOS仮想マシンの機能やAppleの署名チェックが可能となった仮想化ソフトウェア「VirtualBuddy for Mac v2.0」のRC版がリリース。
https://applech2.com/archives/20250609-virtualbuddy-v2-for-mac-rc.html

#applech2 #仮想環境 #Apple_Silicon #github #Mac #macOS_15 #OSS #Sequoia #Virtualization #アプリ #オープンソース #レビュー #仮想化

Apple Silicon Mac上でAndroidゲームをプレイ可能にする「BlueStacks Air」が正式にリリース。
https://applech2.com/archives/20250404-bluestacks-air-for-mac-now-avaialbe.html

#applech2 #Android #Apple_Silicon #Mac #アプリ #仮想化

Oracle、Apple Silicon Mac上のArm版Linux/BSD仮想マシンで3Dアクセレーション機能の有効化を可能にした「VirtualBox v7.1.2」をリリース。
https://applech2.com/archives/20240929-oracle-virtualboxfor-apple-silicon-mac-3d-acceleration.html

#applech2 #仮想環境 #Apple_Silicon #Hypervisor_framework #Linux #Mac #VirtualBox #VM #アップデート #仮想化

Oracle、Apple Silicon Mac上でArm版Linux＆BSD仮想マシンをサポートした「VirtualBox v7.1」をリリース。
https://applech2.com/archives/20240912-virtualbox-v7-1-for-apple-silicon-mac-support-linux.html

#applech2 #仮想環境 #Apple_Silicon #Hypervisor_framework #Linux #Mac #VirtualBox #VM #アップデート #仮想化