#батчинг — Public Fediverse posts

[Перевод] Anthropic против OpenAI: два разных подхода к «быстрому режиму»

Anthropic и OpenAI почти одновременно запустили «быстрый режим» для своих моделей — и за одинаковым названием скрываются принципиально разные подходы к ускорению инференса. В одном случае это реальная модель с уменьшенным батчингом, в другом — отдельная, более компактная версия на специализированных чипах Cerebras. Разбираемся, что именно стоит за цифрами «2.5×» и «1000 токенов в секунду», где компромисс по качеству и что это значит для разработчиков на практике.

https://habr.com/ru/articles/1000782/

#Anthropic #OpenAI #быстрый_режим_LLM #инференс_нейросетей #батчинг #Cerebras #GPT53Codex #Claude_Opus_46 #ускорение_моделей_ИИ #производительность_LLM

LLM‑разметка в поиске: от эксперимента к инструменту

Привет! Меня зовут Александр Баранов, я аналитик данных в команде поиска Купера. Цель этого рассказа, поделиться наработками в деле оптимизации разметки текстовых данных при помощи большой языковой модели (LLM). Если после прочтения вы захотите что-то добавить или спросить, буду только рад!

https://habr.com/ru/companies/kuper/articles/993588/

#llm #llmразметка #ml #машинное_обучение #промпты #батчинг #кэширование

Обзор книги «Аптайм: Оптимальный способ управления временем и энергией», Лора Мэй Мартин

Управлять нужно не временем, а энергией... «О, прекрасная Лора Мэй! — подумал я. — Можно мне не есть лягушку? И слона тоже бы не хотелось. Вообще-то я эстет и гурман, а гадость ем, потому что так велит тайм-менеджмент». Лора сказала, можно. И добавила, что главное себя не есть. «Наверное, — снова подумал я, — тут есть какое-то большое "но"». Но Лора лишь улыбнулась: «Запомни, мой мальчик, — сказала она, — главное себя не есть...». Что ж, попробуем в этом разобраться. Меня зовут Костя Дубровин. Я веду канал про книги. Разобраться

https://habr.com/ru/articles/989290/

#продуктивность #таймменеджмент #хронотипы #многозадачность #привычки #самоорганизация #батчинг #совещания #Google #нейробиология

Обзор книги «Аптайм: Оптимальный способ управления временем и энергией», Лора Мэй Мартин

Управлять нужно не временем, а энергией... «О, прекрасная Лора Мэй! — подумал я. — Можно мне не есть лягушку? И слона тоже бы не хотелось. Вообще-то я эстет и гурман, а гадость ем, потому что так велит тайм-менеджмент». Лора сказала, можно. И добавила, что главное себя не есть. «Наверное, — снова подумал я, — тут есть какое-то большое "но"». Но Лора лишь улыбнулась: «Запомни, мой мальчик, — сказала она, — главное себя не есть...». Что ж, попробуем в этом разобраться. Меня зовут Костя Дубровин. Я веду канал про книги. Разобраться

https://habr.com/ru/articles/989290/

#продуктивность #таймменеджмент #хронотипы #многозадачность #привычки #самоорганизация #батчинг #совещания #Google #нейробиология

Обзор книги «Аптайм: Оптимальный способ управления временем и энергией», Лора Мэй Мартин

Управлять нужно не временем, а энергией... «О, прекрасная Лора Мэй! — подумал я. — Можно мне не есть лягушку? И слона тоже бы не хотелось. Вообще-то я эстет и гурман, а гадость ем, потому что так велит тайм-менеджмент». Лора сказала, можно. И добавила, что главное себя не есть. «Наверное, — снова подумал я, — тут есть какое-то большое "но"». Но Лора лишь улыбнулась: «Запомни, мой мальчик, — сказала она, — главное себя не есть...». Что ж, попробуем в этом разобраться. Меня зовут Костя Дубровин. Я веду канал про книги. Разобраться

https://habr.com/ru/articles/989290/

#продуктивность #таймменеджмент #хронотипы #многозадачность #привычки #самоорганизация #батчинг #совещания #Google #нейробиология

Обзор книги «Аптайм: Оптимальный способ управления временем и энергией», Лора Мэй Мартин

Управлять нужно не временем, а энергией... «О, прекрасная Лора Мэй! — подумал я. — Можно мне не есть лягушку? И слона тоже бы не хотелось. Вообще-то я эстет и гурман, а гадость ем, потому что так велит тайм-менеджмент». Лора сказала, можно. И добавила, что главное себя не есть. «Наверное, — снова подумал я, — тут есть какое-то большое "но"». Но Лора лишь улыбнулась: «Запомни, мой мальчик, — сказала она, — главное себя не есть...». Что ж, попробуем в этом разобраться. Меня зовут Костя Дубровин. Я веду канал про книги. Разобраться

https://habr.com/ru/articles/989290/

#продуктивность #таймменеджмент #хронотипы #многозадачность #привычки #самоорганизация #батчинг #совещания #Google #нейробиология

[Перевод] Как сократить количество Draw Calls (вызовов отрисовки) в UI Unity

В Unity UI часто тормозит не «крутая графика», а расползшееся число draw calls, которое тихо растёт вместе с канвасами, анимациями и материалами. В статье разбираемся, что именно делает каждый лишний вызов отрисовки, как с помощью Stats, Profiler и Frame Debugger найти проблемные места и какими приёмами — от грамотной структуры Canvas до атласов и батчинга — реально снизить нагрузку на мобильных устройствах. Оптимизировать Unity UI

https://habr.com/ru/companies/otus/articles/971218/

#оптимизация_draw_calls #Unity_UI #батчинг #Canvas #профилирование_в_Unity #Frame_Debugger #производительность_мобильных_игр #оптимизация_интерфейса

[Перевод] Как сократить количество Draw Calls (вызовов отрисовки) в UI Unity

В Unity UI часто тормозит не «крутая графика», а расползшееся число draw calls, которое тихо растёт вместе с канвасами, анимациями и материалами. В статье разбираемся, что именно делает каждый лишний вызов отрисовки, как с помощью Stats, Profiler и Frame Debugger найти проблемные места и какими приёмами — от грамотной структуры Canvas до атласов и батчинга — реально снизить нагрузку на мобильных устройствах. Оптимизировать Unity UI

https://habr.com/ru/companies/otus/articles/971228/

#unity #оптимизация_draw_calls #Unity_UI #Canvas #батчинг #Sprite_Atlas #профилирование_в_Unity #производительность_мобильных_игр #оптимизация_интерфейса

ClickHouse не тормозит, но теряет данные. Часть 2 — от буферных таблиц к Kafka Engine

ClickHouse не тормозит, но теряет данные. Набор простых действий с объяснениями, позволяющий избежать потери данных

https://habr.com/ru/articles/934320/

#clickhouse #kafka #база_данных #buffer #потеря_данных #acid #транзакционность #батчинг #стриминг_данных

ClickHouse не тормозит, но теряет данные. Часть 2 — от буферных таблиц к Kafka Engine

ClickHouse не тормозит, но теряет данные. Набор простых действий с объяснениями, позволяющий избежать потери данных

https://habr.com/ru/articles/934320/

#clickhouse #kafka #база_данных #buffer #потеря_данных #acid #транзакционность #батчинг #стриминг_данных

ClickHouse не тормозит, но теряет данные. Часть 2 — от буферных таблиц к Kafka Engine

ClickHouse не тормозит, но теряет данные. Набор простых действий с объяснениями, позволяющий избежать потери данных

https://habr.com/ru/articles/934320/

#clickhouse #kafka #база_данных #buffer #потеря_данных #acid #транзакционность #батчинг #стриминг_данных

ClickHouse не тормозит, но теряет данные. Часть 2 — от буферных таблиц к Kafka Engine

ClickHouse не тормозит, но теряет данные. Набор простых действий с объяснениями, позволяющий избежать потери данных

https://habr.com/ru/articles/934320/

#clickhouse #kafka #база_данных #buffer #потеря_данных #acid #транзакционность #батчинг #стриминг_данных