#summarizer_api — Public Fediverse posts

Chrome скачал себе мозг: Gemini Nano локально, Ask Gemini — в облаке

В настройках Chrome появился переключатель «ИИ на устройстве» . Он относится к моделям, которые запускаются прямо на компьютере, причем, для целей довольно разнообразных (в частности, даже для обнаружения мошеннических сайтов). В каталоге профиля браузера при этом действительно лежат несколько гигабайт весов Gemini Nano. Хочется сказать: раз модель уже скачана, то встроенный Gemini должен работать локально - например, читать и пересказывать открытую страницу без обращения в облако! Увы, для Google это оказалось не самым логичным решением. Более того, они даже с неймингом не справились до конца, чем здорово всех запутали. Под словом Gemini у компании скрываются две принципиально разные системы. Ask Gemini / Gemini in Chrome — облачный сервис. Когда вы просите его пересказать страницу или ответить на вопрос по открытым вкладкам, их содержимое передаётся в инфраструктуру Google. Gemini Nano — локальная модель. Chrome скачивает её на компьютер и запускает на CPU или GPU. Отдельной кнопки «спросить Gemini Nano» у пользователя нет. Этой моделью пользуются сайты и расширения через специальные API Chrome, а также сам браузер — например, при первичной проверке подозрительных страниц.

https://habr.com/ru/articles/1068242/

#Google_Chrome #Gemini_Nano #Gemini_in_Chrome #локальный_ИИ #искусственный_интеллект #браузер #Summarizer_API #Prompt_API #Google_Safe_Browsing #приватность