#apple_silicon — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #apple_silicon, aggregated by home.social.
-
[Перевод] Qwen3.8-27B: лучший локальный LLM, который вы, вероятно, не сможете запустить
В этом месяце Alibaba выпустила две модели, и та, о которой все писали, оказалась не той, что мы ждали. Qwen3.8-Max — это API с 2,4 триллионами параметров, и пару недель назад я с большим энтузиазмом написал о ней обзор. Но релиз, которого я действительно ждал, вышел 14 августа: Qwen3.8-27B, Apache 2.0, веса на Hugging Face, модель достаточно компактна, чтобы работать на ноутбуке. Я должен кое в чем признаться. Я не провел полный тест этой модели. Я попробовал, на своем MacBook Air M4 получал около восьми токенов в секунду и потерял терпение где-то на втором запросе. По большей части этот пост посвящен именно моей неудаче, потому что я подозреваю, что у многих из вас вечер сложится так же, как у меня. Что представляет собой Qwen3.8-27B на самом деле 27,78 миллиарда параметров, плотная модель, включающая в себя визуальный энкодер, о котором никто не объявлял заранее. Принимает на вход текст, изображения и видео. Собственный контекст — 262 144 токена, с помощью YaRN можно увеличить его примерно до миллиона, если запускать модель на сервере. Архитектура — это по-настоящему интересная часть, и это не обычный трансформер. На протяжении 64 слоёв Qwen чередует 48 слоёв Gated DeltaNet (линейное внимание) с 16 полными слоями Gated Attention в соотношении 3:1. Только эти 16 слоёв с полным вниманием имеют KV-кэш. Таким образом, на каждый токен приходится около 64 КБ, что составляет примерно четверть от объёма памяти, необходимого для обычной 64-слойной модели с плотным кодированием. Если вы запомните только одно число из этого поста, пусть это будет именно оно. Всё, что касается того, поместится ли эта модель на вашем компьютере, зависит от объёма KV-кэша.
-
Микроядро SME2 sgemm: 1024 умножения-сложения за проход
В этой части мы возьмём первый из пропусков BLIS — микроядро sgemm ; сначала зафиксируем форму аккумулятора 32×32 в четырёх тайлах ZA, затем разберём горячий цикл по K, потом эпилог с alpha , beta и ловушкой NaN, а в конце посмотрим, какие числа производительности даёт именно это ядро. Следующая часть оставит структуру почти той же, но заменит геометрию тайла и условия существования ядра.
https://habr.com/ru/articles/1071462/
#BLIS #GEMM #SME2 #Apple_Silicon #микроядро #кэшблокинг #упаковка_данных #высокопроизводительные_вычисления #линейная_алгебра #BLAS
-
Всё, что вы хотели знать о локальном ИИ, но стеснялись спросить
Если вы когда-нибудь смотрели на HF и не понимали, что такое DFlash, квантизация и почему одна и та же модель лежит в десяти репозиториях от десяти разных людей — или давно собирались поднять LLM у себя, но всё не находили повода — выход Muse Glimmer 30B буквально лучший момент начать. Буквально со своего MacBook Air. Ага, да вот уже сейчас прямо. Погрузиться в мир локальных моделей
https://habr.com/ru/articles/1069422/
#llm #локальные_модели #квантизация #llamacpp #apple_silicon #gguf #инференс #moe #meta
-
BLIS: недостающую среднюю ступеньку построили тридцать лет назад
В этой части мы начнём с тупика, в который приводит голый цикл FMOPA ; затем покажем, какую часть GEMM BLIS уже построил за нас; после этого разберём пять циклов BLIS и место микроядра внутри них. Финал главы должен сделать дальнейший план конкретным: что именно нужно добавить для Apple SME, а что уже относится к готовой «мебели» фреймворка.
https://habr.com/ru/articles/1069058/
#BLIS #GEMM #SME2 #Apple_Silicon #микроядро #кэшблокинг #упаковка_данных #высокопроизводительные_вычисления #линейная_алгебра #BLAS
-
Локальные LLM на iPhone: память, Core ML, MLX и ограничения
Всем привет! Меня зовут Никита Нагорнов , я iOS-разработчик в компании «Исходный Код». В этой статье разберем, как запускать локальные LLM на iPhone . Поговорим про: 1. Архитектуру Apple Silicon и Unified Memory — почему не можем использовать всю доступную память; 2. Память, квантование и KV Cache — где приложения начинают падать и как это отловить; 3. Core ML и MLX — чем отличаются, где какой быстрее и почему нельзя всё запускать на нейронном процессоре; 4. Температуру и троттлинг — что происходит с телефоном на длинной сессии; 5. Гибридный пайплайн — как взять сильные стороны обоих фреймворков и получить стабильную генерацию.
https://habr.com/ru/articles/1064924/
#iOS #Swift #Core_ML #MLX #LLM #Apple_Silicon #ondevice_AI #машинное_обучение
-
Пять неправильных токенов и 245 картинок: как Krea 2 заработала на Swift и MLX
На обложке — команда, которой не было. В реальности Twisterminigen создавался за одним столом: я, Mac mini M4 с 32 ГБ объединённой памяти и Codex. Получилось нативное приложение для Krea 2 Turbo на Swift и MLX: без Python внутри и без облачного inference, но с очередью, LoRA, Regional Prompts, Presets и воспроизводимыми рецептами генерации. Самый опасный баг при этом не падал и не рисовал шум. Пять токенов из 512 получали неправильные RoPE-позиции, старый тест проходил, а картинки выглядели нормально. После исправления тот же prompt и seed изменили 99,32% пикселей. В статье — как набор из 31,18 ГиБ весов заработал на 32-гигабайтном Mac, почему одинаковый seed не является паспортом персонажа и где заканчивается красивая картинка и начинается проверяемый продукт.
https://habr.com/ru/articles/1064434/
#krea_2 #mlx #swift #swiftui #apple_silicon #macos #codex #rope #локальный_inference #генерация_изображений
-
a[mask] = f(a[mask]) на NEON. compress вместо blend
Блендинг считает функцию для всех элементов и сохраняет только нужные. Для дешевых функций это оптимально, но на pow проигрывает в несколько раз. Можно сжать подходящие элементы, посчитать только их и разжать обратно. Разбираемся, где граница, и делаем адаптивный алгоритм.
https://habr.com/ru/articles/1063732/
#arm_neon #simd #apple_silicon #c++ #интринсики #оптимизация #aarch64
-
56 минут созвона → текст за 5 минут на M4 без OBS и облака
У меня от трёх до пяти созвонов в день, почти все в браузере: Meet, Яндекс Телемост, ktalk, реже всего Zoom. Детали встреч мне нужны в тексте, иначе договорённости расползаются. Писал я звонки через OBS с захватом экрана, и на самих звонках началось веселье: звук временами жёстко квакал, всё чуть-чуть подвисало. Причину до конца не выяснял, моё предположение - процессор зажирался захватом и перебивал сам разговор; ktalk и браузер тут ни при чём. А экран, как потом дошло, мне вообще был не нужен. Дальше вторая серия. Расшифровку я гонял своими Python-скриптами: конвертация → транскрибация → диаризация (разметка, кто когда говорил). На встрече с пятью участниками диаризация расставляла голоса крайне плохо, половину фраз всё равно восстанавливал по памяти. Пошёл искать вариант, чтобы запись не мешала звонку, результат был приличный и всё крутилось локально: не хотелось ни отдавать записи в облако, ни платить подписку за минуты. Нашёл платный Audio Hijack , он подкупил лёгкостью и простотой настройки. Потом узнал, что на M-чипе быстрее всего у меня отрабатывает mlx-whisper на MLX : веса large-v3-turbo с Hugging Face, инференс на GPU Mac. Это архитектура Whisper, но рантайм — пакет mlx-whisper и бинарь mlx_whisper , не pip install openai-whisper и не репозиторий openai/whisper . Так собрался стек: Hijack пишет один mp3, mlx_whisper делает VTT, pyannote раскладывает по SPEAKER_XX. На 56-минутном звонке транскрипция заняла около пяти минут. Платный только Hijack — разовая лицензия, без подписки (цену смотрите на сайте Rogue Amoeba). Скрипты выложил в mac-call-transcribe под MIT. Ниже сборка, замеры с двух реальных звонков и грабли; повторяется на любом Mac с M-чипом.
https://habr.com/ru/articles/1062068/
#whisper #mlx #pyannote #speaker_diarization #расшифровка_звонков #python #apple_silicon #транскрибация_звонков
-
О разработке прототипа эмулятора WIE: запуск Windows PE64 бинарников на Apple Silicon
WIE — это исследовательский эмулятор пользовательского режима (userspace) для запуска 64-битных Windows-приложений (PE64) на архитектуре macOS Apple Silicon. Проект написан на Rust 1.97, а в качестве бэкенда компиляции используется Cranelift для трансляции x86-64 инструкций на лету в нативный ARM64.
-
Шесть часов на один рендер: как я собрал нативную студию Ideogram 4 на Swift и MLX
Я запустил Ideogram 4 локально на Mac, а затем собрал для него нативное приложение на Swift и MLX — без отдельного Python-процесса во время рендера. Сразу честно: «6 часов против 11 минут» — не ускорение одной картинки в 35 раз, а два разных режима: максимальный Quality 2048×2048 на 48 шагах и повседневный Turbo 1152×768 на 12. Это продолжение серии о Typhoonminigen. В статье — архитектура приложения, реальные замеры, удачные решения, ограничения и ошибки, которые пришлось исправлять по пути.
https://habr.com/ru/articles/1060678/
#искусственный_интеллект #Cyclonminigen #Ideogram_4 #MLX #Swift #Apple_Silicon #macOS #генерация_изображений #локальный_ИИ #open_source
-
«Четыре шага — и точка» Я сам придумал главное ограничение своего приложения
Пару недель назад я рассказывал здесь, как три ночи чинил рендер, который не был сломан . С тех пор в главном ничего не изменилось: я по-прежнему энтузиаст, а не разработчик; код печатает машина, а что и зачем печатать, решаю я. Правда, машин в этот раз было две: код писала Claude Opus 4.8 в режиме ultracode с рассуждением, выкрученным на максимум (xhigh), а вторая — Fable 5 — атаковала приложение. Об этом ближе к концу. Изменилось всё остальное. Typhoonminigen — бесплатное open-source (MIT) нативное macOS-приложение для локальной генерации FLUX.2 Klein на Apple Silicon, без Python, без ComfyUI, без облака — доросло до версии 2.0: 57 новых функций, 150+ исправлений. Про них и статья. Но начать придётся не с функций, а с признания: самый живучий баг приложения сидел не в коде. Он сидел во мне.
https://habr.com/ru/articles/1055878/
#FLUX2 #Klein #MLX #Apple_Silicon #генерация_изображений #LoRA #обучение_LoRA #Swift #macOS #локальный_ИИ
-
macOS 28でRosetta 2が廃止されるのに向けてライブ配信アプリ「OBS Studio」が次期アップデートでIntel版をApple Silicon Macで利用している場合、強制的にApple Silicon版へ切り替えると発表。
https://applech2.com/archives/20260625-obs-studio-intel-update-to-apple-silicon.html#applech2 #OBS_Studio #Apple_Silicon #github #Intel #OBS #OSS #Rosetta2 #アップデート #アプリ
-
Запретный 3ds Max на Mac mini M4: 1 час 21 минута на интерьер
Autodesk не рекомендует 3ds Max на Apple Silicon. Я всё равно завёл 3ds Max 2022 + Chaos Corona 15 на Mac mini M4 через Parallels и отрендерил интерьер на CPU за 1 час 21 минуту. Внутри: полный порядок установки, фикс лагов вьюпорта, обход ошибки AVX2 и честные замеры.
https://habr.com/ru/articles/1050156/
#3ds_Max #Chaos_Corona #Parallels_Desktop #Mac_mini_M4 #Apple_Silicon #Windows_11_ARM #CPUрендеринг #эмуляция_x64 #AVX2
-
Картинки рвало полосами, а файлы при этом были чистыми
Три ночи я был уверен, что у меня сломан рендер. Вертикальные картинки — те самые 9:16, под обои телефона и под сторис, — на экране разъезжались горизонтальными полосами. Как будто старый телевизор поймал помехи. Квадрат рисуется нормально. Горизонталь — нормально. А вертикалку рвёт в труху. Три раза я её «починил». И все три раза чинил вообще не то. Правда оказалась дурацкой и красивой одновременно: файлы были в полном порядке. Рвало только то, как macOS показывала их на экране. Но к этому моменту я уже немного поседел. Это не история из серии «смотрите, какой я молодец». Это честный рассказ, как обычный человек без программистского образования за неделю собрал себе на Mac локальный генератор картинок — и на какие грабли наступил по дороге. Я энтузиаст, не разработчик. И сразу самое важное, чтобы потом не было неловко: я не написал ни одной строчки кода. Ни единой. Даже Xcode толком не открывал. Код писал вместе со мной Claude Code, модель Opus 4.8. И сам движок генерации — тоже не мой. А моё во всём этом — то, что движок не топит ваш Mac и не показывает вам битые картинки. Звучит мелко? Вот про эту мелочь и весь рассказ. Прятать тут нечего, про границы расскажу честно прямо сейчас.
https://habr.com/ru/articles/1049478/
#FLUX2 #MLX #Apple_Silicon #macOS #Swift #генерация_изображений #локальная_нейросеть #ondevice_AI #Klein #open_source
-
Обновление macOS для инженеров поддержки
В этой статье разберём, как правильно подходить к обновлению macOS в корпоративной среде. Материал будет особенно полезен инженерам поддержки: рассмотрим ключевые моменты, на которые стоит обратить внимание до обновления, как грамотно организовать сам процесс и что необходимо проверить после установки новой версии системы. На первый взгляд обновление Mac — задача довольно простая. Однако в корпоративной инфраструктуре всегда есть нюансы, игнорирование которых может привести к серьёзным последствиям: от дополнительного времени на траблшутинг до необходимости отката системы из резервной копии. В худшем случае устройство можно превратить в «кирпич», например, если начать обновление MacBook...
https://habr.com/ru/companies/ringo_mdm/articles/1039960/
#Обновление_macOS #Инженер_поддержки_Mac #macos #workflow #update #Software_Update_macOS #Чеклист #Apple_Silicon #Time_Machine #Carbon_Copy_Cloner
-
Как я решил проблему русской диктовки для ИИ
По мере погружения в ИИ и вайб‑кодинг, я столкнулся с одним неудобным моментом — отсутствием возможности диктовать на русском языке в некоторых программах. И если OpenAI в своем приложении позаботились об этом, то в Anthropic такой возможности на тот момент просто не оказалось. А мне уже так понравилось, откинувшись на спинку кресла с чашкой чая, надиктовывать промпты без клавиатуры. Но я быстро нашел выход, хоть и костыльный — просто диктовать свой текст в окошке GPT, потом копировать его и вставлять в Claude. Вроде несложно, но и удобным этот метод я бы не назвал. И я задумался, как этот процесс оптимизировать. И какая же идея могла прийти в голову в 3 часа ночи человеку, который полжизни занимается программированием? Ну конечно же — разработать свое приложение. Посоветовавшись с Claude и GPT, я набросал небольшой план и приступил к разработке. Поскольку я работаю на macOS, то для начала не стал заморачиваться с мультиплатформенностью и решил делать все на Swift.
https://habr.com/ru/articles/1039248/
#AI #OpenAI #Claude #Whisper #speechtotext #диктовка #voice_input #Apple_Silicon
-
Как я перестал бояться закрытых драйверов и полюбил реверс-инжиниринг по вечерам
Формально — история про принтер, по сути — про то, как я за последний год начал браться за вещи, на которые ещё пару лет назад даже не посмотрел бы. Чтобы дальнейшее читалось в правильном ключе, надо сразу обозначить, с какой я колокольни. В индустрии я лет пятнадцать с лишним, классический fullstack — повоевал и с фронтом, и с бэкендом. Поднимал серверы на Debian с нуля, в студенчестве из спортивного интереса пересобирал ядро, написал тонны всякого вспомогательного софта на разных языках, в какой-то период даже паял (плохо, на коленке, но всё-таки). Опыта, в общем, накоплено достаточно, чтобы не объяснять, чем отличается компилятор от линкера. И тем удивительнее, что многолетние мои привычки расшатала именно скучная бытовая возня вокруг домашнего принтера за восемь тысяч рублей. При всём этом разнообразии у меня всегда была одна большая слепая зона — компьютерное железо как таковое. Всё, что начинается ниже драйвера операционной системы, всегда было для меня чёрным ящиком, и я неосознанно обходил это стороной всю карьеру.
https://habr.com/ru/articles/1028294/
#claude #ииагенты #реверсинжиниринг #личный_опыт #macos #apple_silicon #домашний_проект #brother_dcpt230
-
Secure Token и Bootstrap Token в macOS
Всем привет! Меня зовут Эрик, я инженер технической поддержки в
https://habr.com/ru/companies/ringo_mdm/articles/1004068/
#Secure_Token #Bootstrap_Token #volume_owner #Platform_SSO #apple_silicon #MDM #macos #APFS_keybag #Bootstrap_Token_не_эскроится #Как_передать_Secure_Token
-
Пишем игру-головоломку под macOS на SwiftUI [StarDust Collector]
В прошлой статье я поделился опытом, как я писал с помощью ИИ кастомный TO-DO лист под macOS. Опыт оказался противоречивым, однако приложение было создано, и оно даже работало. Поэтому я решил расширить идею, добавить фана и реализовать мечту любого программиста — написать собственную игру . И так как у меня уже появилось небольшое понимание экосистемы десктоп-приложений под macOS и SwiftUI, я решил использовать его.
https://habr.com/ru/articles/991402/
#ии #cursor #разработка_игры #петпроект #swiftui #macos #apple_silicon
-
От PDP-11 до Windows: как кросс-компилировать ретро-код на macOS без машины времени
Гайд по кросс-компиляции для ретро-платформ на macOS с Apple Silicon. Описаны настройка и использование: Open Watcom v2 — для DOS (16/32-бит), OS/2, Windows 3.x/9x/NT, с примерами сборки .com, .exe и функцией для переключения таргетов в shell. Amsterdam Compiler Kit (ACK) — компиляция ANSI C под PDP-11, с запуском крестиков-ноликов на Unix Version 7 в эмуляторе open-simh (включая создание лент, mkfs, restor, mknod). msvc-wine — полноценный MSVC-тулчейн для Windows (x86/x64/arm64) через LLVM Clang и LLD, без MinGW-зависимостей. Дополнительно: тестирование через Wine, DOSBox-X, OrbStack; фиксы для Apple Silicon. Подробные шаги по сборке, установке и примерам. Интересно? Велком внутрь.
https://habr.com/ru/articles/982928/
#кросскомпиляция #ретрокомпьютинг #PDP11 #Unix_V7 #Apple_Silicon #DOS #ACK #MSVC #Open_Watcom #macos
-
Apple and Intel Rumored to Partner on Mac Chips
https://www.macrumors.com/2025/11/28/intel-rumored-to-supply-new-mac-chip/
#ycombinator #Featured #Apple_Silicon #Intel #Ming_Chi_Kuo -
Тестирование Ansible-ролей локально на macOS (Apple silicon) с помощью драйвера molecule-lima
Разрабатываете Ansible роли на macOS с процессорами M1/M2/M3/M4? Тогда вы знаете проблему локального тестирования роли: molecule + vagrant + virtualbox не работает, molecule + vagrant + VMWare через "костыли", а Docker не подходит для тестирования системных компонентов. Я написал драйвер molecule-lima, который использует нативную виртуализацию macOS через Lima и полностью интегрируется со стандартным Molecule workflow. Драйвер реализован на Ansible playbooks, работает на macOS (ARM/Intel) и Linux, устанавливается одной командой pip install molecule-lima.
https://habr.com/ru/articles/966276/
#ansible #molecule #python3 #driver #plugin #lima #macos #apple_silicon #ansibleroles
-
Apple MシリーズやA17 Proチップ搭載のiPhone/iPadに対応したステルスアクションゲーム「HITMAN: World of Assassination」がリリース。
https://applech2.com/archives/20250828-hitman-world-of-assassination-for-ios-and-ipados.html#applech2 #Game #Apple_Silicon #AppStore #Game_porting_toolkit #iOS
-
FileVault: как Apple превратила шифрование диска в незаметную магию
Что общего между ноутбуком, украденным из кафе, и многомиллионными потерями компаний? Незащищенные данные. Разбираемся, как Apple решила эту проблему раз и навсегда. В 2003 году первая технология шифрования FileVault в Mac OS X Panther тормозила систему, защищала только домашнюю папку и работала через костыли. В 2025 году шифрование работает на аппаратном уровне настолько незаметно, что забываешь о его существовании. Как Apple удалось превратить FileVault из «той штуки, которую лучше не включать» в незаменимую технологию безопасности современных Mac? Давайте разберём эту эволюцию.
https://habr.com/ru/companies/ringo_mdm/articles/932370/
#filevault #безопасность_данных #Шифрование_диска #Аппаратное_шифрование #Secure_Enclave #XTSAES #Apple_Mac #MDM #Apple_Silicon #Информационная_безопасность
-
macOS/Linux仮想マシンセットアップ画面を再デザインし、ホストmacOSがサポートしているmacOS仮想マシンの機能やAppleの署名チェックが可能となった仮想化ソフトウェア「VirtualBuddy for Mac v2.0」のRC版がリリース。
https://applech2.com/archives/20250609-virtualbuddy-v2-for-mac-rc.html#applech2 #仮想環境 #Apple_Silicon #github #Mac #macOS_15 #OSS #Sequoia #Virtualization #アプリ #オープンソース #レビュー #仮想化
-
How to vibe code for free: Running Qwen3 on your Mac, using MLX
https://localforge.dev/blog/running-qwen3-macbook-mlx
#ycombinator #Qwen3 #MLX #macOS #Apple_Silicon #Local_LLM #Localforge #Free_Code_Generation #Ollama #Local_AI #LLM_Agent -
Запускаем Openwrt в виртуалке с отдельным адресом и socks прокси на Apple silicon
Запуск OpenWRT в виртуальной машине на macOS с отдельным IP-адресом и SOCKS-прокси В этой статье мы покажем, как запустить OpenWRT в виртуальной машине на macOS, используя бесплатный UTM и Apple Virtualization Framework — для экономии ресурсов и удобства. OpenWRT получает собственный IP-адрес через bridge-интерфейс, а SOCKS-прокси служит лишь примером одного из возможных применений виртуального роутера. Остальное — дело вашей фантазии.
https://habr.com/ru/articles/898880/
#openwrt #proxy #socks #прокси #utm #apple #macos #apple_silicon #виртуализация #виртуальная_машина
-
Apple Silicon Mac上でAndroidゲームをプレイ可能にする「BlueStacks Air」が正式にリリース。
https://applech2.com/archives/20250404-bluestacks-air-for-mac-now-avaialbe.html