#токены — Public Fediverse posts

Почему следующий этап ИИ-бума будет совсем не про GPU

Первые два года ИИ-бума инвесторы покупали «железо». Теперь рынок начинает искать следующий источник роста. Главной становится не максимальная производительность моделей, а стоимость одного запроса, эффективность вычислений и способность масштабировать ИИ дешевле конкурентов. Именно вокруг этого будет разворачиваться следующая стадия развития отрасли. В июньском обзоре Citrini Research пишет, что рынок ИИ вступает во вторую фазу. Если последние два года инвесторы были готовы платить почти любую цену за вычислительные мощности и крупнейших производителей чипов, то теперь внимание постепенно смещается на стоимость самих вычислений, эффективность моделей и инфраструктуру, которая позволяет снизить расходы. Первая волна ИИ строилась вокруг дефицита GPU и масштабных инвестиций в дата-центры. Однако сейчас главным конкурентным преимуществом становится способность выполнять больше вычислений за меньшие деньги. На рынке растет пониманием, что экспоненциально наращивать мощности дата-центров уже нерентабельно . При этом амортизация от использования падает быстрее отдачи в прибыль. Поэтому они выделяют несколько новых долгосрочных трендов. Во-первых, рынок начинает переходить к локальному (on-device) ИИ . Все больше моделей будут работать непосредственно на смартфонах, ПК и периферийных устройствах без постоянного обращения в облако. Это снижает задержки, повышает конфиденциальность данных и уменьшает стоимость эксплуатации. Во-вторых, усиливается тренд на миниатюризацию моделей . Гонка идет уже не только за максимальным качеством, но и за эффективностью. Компактные модели дешевле в обучении и запуске, быстрее масштабируются и позволяют запускать ИИ там, где раньше это было невозможно.

https://habr.com/ru/articles/1060206/

#gpu #токены #инвестиции #ai #монетизация

Почему следующий этап ИИ-бума будет совсем не про GPU

Первые два года ИИ-бума инвесторы покупали «железо». Теперь рынок начинает искать следующий источник роста. Главной становится не максимальная производительность моделей, а стоимость одного запроса, эффективность вычислений и способность масштабировать ИИ дешевле конкурентов. Именно вокруг этого будет разворачиваться следующая стадия развития отрасли. В июньском обзоре Citrini Research пишет, что рынок ИИ вступает во вторую фазу. Если последние два года инвесторы были готовы платить почти любую цену за вычислительные мощности и крупнейших производителей чипов, то теперь внимание постепенно смещается на стоимость самих вычислений, эффективность моделей и инфраструктуру, которая позволяет снизить расходы. Первая волна ИИ строилась вокруг дефицита GPU и масштабных инвестиций в дата-центры. Однако сейчас главным конкурентным преимуществом становится способность выполнять больше вычислений за меньшие деньги. На рынке растет пониманием, что экспоненциально наращивать мощности дата-центров уже нерентабельно . При этом амортизация от использования падает быстрее отдачи в прибыль. Поэтому они выделяют несколько новых долгосрочных трендов. Во-первых, рынок начинает переходить к локальному (on-device) ИИ . Все больше моделей будут работать непосредственно на смартфонах, ПК и периферийных устройствах без постоянного обращения в облако. Это снижает задержки, повышает конфиденциальность данных и уменьшает стоимость эксплуатации. Во-вторых, усиливается тренд на миниатюризацию моделей . Гонка идет уже не только за максимальным качеством, но и за эффективностью. Компактные модели дешевле в обучении и запуске, быстрее масштабируются и позволяют запускать ИИ там, где раньше это было невозможно.

https://habr.com/ru/articles/1060206/

#gpu #токены #инвестиции #ai #монетизация

Почему следующий этап ИИ-бума будет совсем не про GPU

Первые два года ИИ-бума инвесторы покупали «железо». Теперь рынок начинает искать следующий источник роста. Главной становится не максимальная производительность моделей, а стоимость одного запроса, эффективность вычислений и способность масштабировать ИИ дешевле конкурентов. Именно вокруг этого будет разворачиваться следующая стадия развития отрасли. В июньском обзоре Citrini Research пишет, что рынок ИИ вступает во вторую фазу. Если последние два года инвесторы были готовы платить почти любую цену за вычислительные мощности и крупнейших производителей чипов, то теперь внимание постепенно смещается на стоимость самих вычислений, эффективность моделей и инфраструктуру, которая позволяет снизить расходы. Первая волна ИИ строилась вокруг дефицита GPU и масштабных инвестиций в дата-центры. Однако сейчас главным конкурентным преимуществом становится способность выполнять больше вычислений за меньшие деньги. На рынке растет пониманием, что экспоненциально наращивать мощности дата-центров уже нерентабельно . При этом амортизация от использования падает быстрее отдачи в прибыль. Поэтому они выделяют несколько новых долгосрочных трендов. Во-первых, рынок начинает переходить к локальному (on-device) ИИ . Все больше моделей будут работать непосредственно на смартфонах, ПК и периферийных устройствах без постоянного обращения в облако. Это снижает задержки, повышает конфиденциальность данных и уменьшает стоимость эксплуатации. Во-вторых, усиливается тренд на миниатюризацию моделей . Гонка идет уже не только за максимальным качеством, но и за эффективностью. Компактные модели дешевле в обучении и запуске, быстрее масштабируются и позволяют запускать ИИ там, где раньше это было невозможно.

https://habr.com/ru/articles/1060206/

#gpu #токены #инвестиции #ai #монетизация

89% моих трат на AI‑агентов — это кэш, а не генерация. Написал CLI, чтобы увидеть

Я много работаю с кодинг‑агентами в Claude Code. В какой‑то момент поймал себя на том, что не представляю, на что уходят токены . Счёт в конце месяца есть, а из чего он складывается, непонятно. Написал небольшую утилиту: она читает то, что Claude Code и так пишет на диск, и раскладывает расходы по статьям. То, что она показала, мне не понравилось.

https://habr.com/ru/articles/1058938/

#Claude #Claude_Code #LLM #токены #оптимизация_затрат #CLI #TypeScript #open_source #AIагенты #кэширование

89% моих трат на AI‑агентов — это кэш, а не генерация. Написал CLI, чтобы увидеть

Я много работаю с кодинг‑агентами в Claude Code. В какой‑то момент поймал себя на том, что не представляю, на что уходят токены . Счёт в конце месяца есть, а из чего он складывается, непонятно. Написал небольшую утилиту: она читает то, что Claude Code и так пишет на диск, и раскладывает расходы по статьям. То, что она показала, мне не понравилось.

https://habr.com/ru/articles/1058938/

#Claude #Claude_Code #LLM #токены #оптимизация_затрат #CLI #TypeScript #open_source #AIагенты #кэширование

89% моих трат на AI‑агентов — это кэш, а не генерация. Написал CLI, чтобы увидеть

Я много работаю с кодинг‑агентами в Claude Code. В какой‑то момент поймал себя на том, что не представляю, на что уходят токены . Счёт в конце месяца есть, а из чего он складывается, непонятно. Написал небольшую утилиту: она читает то, что Claude Code и так пишет на диск, и раскладывает расходы по статьям. То, что она показала, мне не понравилось.

https://habr.com/ru/articles/1058938/

#Claude #Claude_Code #LLM #токены #оптимизация_затрат #CLI #TypeScript #open_source #AIагенты #кэширование

Куда делись мои токены?

Когда начинаешь плотно работать с AI-агентом, кажется, что бОльшая часть токенов улетает на сложные процессы - код написать, сайт разобрать, статью подготовить, браузером поуправлять, в логах покопаться. Вроде логично, задача сложная, модель думает, инструменты дергает, контекст растет. А потом смотришь внимательнее и понимаешь, что основная дыра вообще не там. Токены уходят не на полезную работу, а на служебную движуху вокруг нее. Cron-задачи, проверки, диагностика, статусные запросы, огромные списки инструментов “на всякий случай” - все это тихо ест бюджет каждый день. Агент еще ничего толком не сделал, а счетчик уже крутится. Примерно как если бы мастер пришел поменять розетку, но сначала выгрузил из газели весь строительный рынок, два перфоратора и почему-то бетономешалку. Так что в статье решил поделится где именно была утечка, что я подкрутил и как получилось срезать примерно 4,6 млн токенов в день только на фоновых задачах.

https://habr.com/ru/articles/1056636/

#OpenClaw #AIагенты #Токены #Потребление_токенов #Оптимизация_токенов #LLM #SKILLmd #AI_автоматизация #Стоимость_запросов

Куда делись мои токены?

Когда начинаешь плотно работать с AI-агентом, кажется, что бОльшая часть токенов улетает на сложные процессы - код написать, сайт разобрать, статью подготовить, браузером поуправлять, в логах покопаться. Вроде логично, задача сложная, модель думает, инструменты дергает, контекст растет. А потом смотришь внимательнее и понимаешь, что основная дыра вообще не там. Токены уходят не на полезную работу, а на служебную движуху вокруг нее. Cron-задачи, проверки, диагностика, статусные запросы, огромные списки инструментов “на всякий случай” - все это тихо ест бюджет каждый день. Агент еще ничего толком не сделал, а счетчик уже крутится. Примерно как если бы мастер пришел поменять розетку, но сначала выгрузил из газели весь строительный рынок, два перфоратора и почему-то бетономешалку. Так что в статье решил поделится где именно была утечка, что я подкрутил и как получилось срезать примерно 4,6 млн токенов в день только на фоновых задачах.

https://habr.com/ru/articles/1056636/

#OpenClaw #AIагенты #Токены #Потребление_токенов #Оптимизация_токенов #LLM #SKILLmd #AI_автоматизация #Стоимость_запросов

Куда делись мои токены?

Когда начинаешь плотно работать с AI-агентом, кажется, что бОльшая часть токенов улетает на сложные процессы - код написать, сайт разобрать, статью подготовить, браузером поуправлять, в логах покопаться. Вроде логично, задача сложная, модель думает, инструменты дергает, контекст растет. А потом смотришь внимательнее и понимаешь, что основная дыра вообще не там. Токены уходят не на полезную работу, а на служебную движуху вокруг нее. Cron-задачи, проверки, диагностика, статусные запросы, огромные списки инструментов “на всякий случай” - все это тихо ест бюджет каждый день. Агент еще ничего толком не сделал, а счетчик уже крутится. Примерно как если бы мастер пришел поменять розетку, но сначала выгрузил из газели весь строительный рынок, два перфоратора и почему-то бетономешалку. Так что в статье решил поделится где именно была утечка, что я подкрутил и как получилось срезать примерно 4,6 млн токенов в день только на фоновых задачах.

https://habr.com/ru/articles/1056636/

#OpenClaw #AIагенты #Токены #Потребление_токенов #Оптимизация_токенов #LLM #SKILLmd #AI_автоматизация #Стоимость_запросов

Palantir и голые токены: как продать «суверенный ИИ» людям, которые не любят терять контроль

Palantir выложил в X пост , который журналисты быстро стали называть «манифестом». Формально это «The Technological Republic, in brief» — промо-выжимка из книги Алекса Карпа и Николаса Замиски The Technological Republic . Если перевести с языка подрядчика для армии, разведки и крупного бизнеса на обычный русский: не отдавайте свои данные поставщикам больших языковых моделей, не считайте внедрение ИИ по расходу токенов, держите у себя модели, следы работы системы и результаты дообучения. Но важно, кто именно это говорит . Palantir вырос не из кружка любителей открытого ПО - компания продаёт софт для соединения данных, прав доступа, предметных моделей и действий оператора; сама она описывает свой рынок как решения «from the factory floors to the front lines». По годовому отчёту за 2025 год, 54% выручки Palantir пришло от государственных заказчиков, 46% — от коммерческих. Это не декоративный раздел "прочие красивые кейсы", а почти половина бизнеса. Поэтому, когда такая компания заводит речь про «экономию на токенах», речь не о бережливости. Речь о новом слое контроля: где живут данные, кто управляет моделью, кто видит запросы, кто получает следы работы системы и кто потом становится обязательной частью всей этой конструкции. Игра по-крупному

https://habr.com/ru/articles/1055498/

#Palantir #суверенный_ИИ #токены #tokenmaxxing #NVIDIA_Nemotron #Alex_Karp #AIP #военный_ИИ #контроль_данных #alpha

Palantir и голые токены: как продать «суверенный ИИ» людям, которые не любят терять контроль

Palantir выложил в X пост , который журналисты быстро стали называть «манифестом». Формально это «The Technological Republic, in brief» — промо-выжимка из книги Алекса Карпа и Николаса Замиски The Technological Republic . Если перевести с языка подрядчика для армии, разведки и крупного бизнеса на обычный русский: не отдавайте свои данные поставщикам больших языковых моделей, не считайте внедрение ИИ по расходу токенов, держите у себя модели, следы работы системы и результаты дообучения. Но важно, кто именно это говорит . Palantir вырос не из кружка любителей открытого ПО - компания продаёт софт для соединения данных, прав доступа, предметных моделей и действий оператора; сама она описывает свой рынок как решения «from the factory floors to the front lines». По годовому отчёту за 2025 год, 54% выручки Palantir пришло от государственных заказчиков, 46% — от коммерческих. Это не декоративный раздел "прочие красивые кейсы", а почти половина бизнеса. Поэтому, когда такая компания заводит речь про «экономию на токенах», речь не о бережливости. Речь о новом слое контроля: где живут данные, кто управляет моделью, кто видит запросы, кто получает следы работы системы и кто потом становится обязательной частью всей этой конструкции. Игра по-крупному

https://habr.com/ru/articles/1055498/

#Palantir #суверенный_ИИ #токены #tokenmaxxing #NVIDIA_Nemotron #Alex_Karp #AIP #военный_ИИ #контроль_данных #alpha

Palantir и голые токены: как продать «суверенный ИИ» людям, которые не любят терять контроль

Palantir выложил в X пост , который журналисты быстро стали называть «манифестом». Формально это «The Technological Republic, in brief» — промо-выжимка из книги Алекса Карпа и Николаса Замиски The Technological Republic . Если перевести с языка подрядчика для армии, разведки и крупного бизнеса на обычный русский: не отдавайте свои данные поставщикам больших языковых моделей, не считайте внедрение ИИ по расходу токенов, держите у себя модели, следы работы системы и результаты дообучения. Но важно, кто именно это говорит . Palantir вырос не из кружка любителей открытого ПО - компания продаёт софт для соединения данных, прав доступа, предметных моделей и действий оператора; сама она описывает свой рынок как решения «from the factory floors to the front lines». По годовому отчёту за 2025 год, 54% выручки Palantir пришло от государственных заказчиков, 46% — от коммерческих. Это не декоративный раздел "прочие красивые кейсы", а почти половина бизнеса. Поэтому, когда такая компания заводит речь про «экономию на токенах», речь не о бережливости. Речь о новом слое контроля: где живут данные, кто управляет моделью, кто видит запросы, кто получает следы работы системы и кто потом становится обязательной частью всей этой конструкции. Игра по-крупному

https://habr.com/ru/articles/1055498/

#Palantir #суверенный_ИИ #токены #tokenmaxxing #NVIDIA_Nemotron #Alex_Karp #AIP #военный_ИИ #контроль_данных #alpha

Context7 — стандарт для доков AI-агента. Я измерил 8 альтернатив и собрал бесплатную связку

Context7 — мой дефолтный источник свежих доков для агента уже полтора года. И всё устраивало, пока я не начал ловить устаревший код: старый z.string().email() вместо z.email (), поведение Next 15 вместо 16. Причина — упёрся в потолок free-тарифа: квота исчерпана, сервер молча отдаёт пусто, агент спокойно пишет по памяти. И замечаешь это не сразу — вот что бесит. Тут я и задумался: Context7 вообще всё ещё лучший вариант, или за полтора года появилось что-то лучше? Решил проверить системно. Не поверил цифрам с лендингов и прогнал 8 способов доставки доков в контекст на одном токенайзере: что реально влетает в окно, за сколько токенов, с какой точностью. Победил Ref — но он платный. А ещё дважды я чуть не записал инструмент в аутсайдеры, и оба раза виноват был мой собственный вызов, а не инструмент. В итоге собрал бесплатную связку: локальный @neuledge как основной слой + Context7 free как fallback. Локальный слой отвечает за миллисекунды вместо секунд, работает без сети и без лимитов запросов. Осталось проверить, переживёт ли связка квоту free-тарифа — замерил и это. Внутри: методология, таблицы, два разоблачённых near-miss и миграционный кит для агента в подарок.

https://habr.com/ru/articles/1051282/

#MCP #Context7 #neuledge #документация #AIагенты #Claude_Code #Codex #бенчмарки #токены #RAG

Context7 — стандарт для доков AI-агента. Я измерил 8 альтернатив и собрал бесплатную связку

Context7 — мой дефолтный источник свежих доков для агента уже полтора года. И всё устраивало, пока я не начал ловить устаревший код: старый z.string().email() вместо z.email (), поведение Next 15 вместо 16. Причина — упёрся в потолок free-тарифа: квота исчерпана, сервер молча отдаёт пусто, агент спокойно пишет по памяти. И замечаешь это не сразу — вот что бесит. Тут я и задумался: Context7 вообще всё ещё лучший вариант, или за полтора года появилось что-то лучше? Решил проверить системно. Не поверил цифрам с лендингов и прогнал 8 способов доставки доков в контекст на одном токенайзере: что реально влетает в окно, за сколько токенов, с какой точностью. Победил Ref — но он платный. А ещё дважды я чуть не записал инструмент в аутсайдеры, и оба раза виноват был мой собственный вызов, а не инструмент. В итоге собрал бесплатную связку: локальный @neuledge как основной слой + Context7 free как fallback. Локальный слой отвечает за миллисекунды вместо секунд, работает без сети и без лимитов запросов. Осталось проверить, переживёт ли связка квоту free-тарифа — замерил и это. Внутри: методология, таблицы, два разоблачённых near-miss и миграционный кит для агента в подарок.

https://habr.com/ru/articles/1051282/

#MCP #Context7 #neuledge #документация #AIагенты #Claude_Code #Codex #бенчмарки #токены #RAG

Context7 — стандарт для доков AI-агента. Я измерил 8 альтернатив и собрал бесплатную связку

Context7 — мой дефолтный источник свежих доков для агента уже полтора года. И всё устраивало, пока я не начал ловить устаревший код: старый z.string().email() вместо z.email (), поведение Next 15 вместо 16. Причина — упёрся в потолок free-тарифа: квота исчерпана, сервер молча отдаёт пусто, агент спокойно пишет по памяти. И замечаешь это не сразу — вот что бесит. Тут я и задумался: Context7 вообще всё ещё лучший вариант, или за полтора года появилось что-то лучше? Решил проверить системно. Не поверил цифрам с лендингов и прогнал 8 способов доставки доков в контекст на одном токенайзере: что реально влетает в окно, за сколько токенов, с какой точностью. Победил Ref — но он платный. А ещё дважды я чуть не записал инструмент в аутсайдеры, и оба раза виноват был мой собственный вызов, а не инструмент. В итоге собрал бесплатную связку: локальный @neuledge как основной слой + Context7 free как fallback. Локальный слой отвечает за миллисекунды вместо секунд, работает без сети и без лимитов запросов. Осталось проверить, переживёт ли связка квоту free-тарифа — замерил и это. Внутри: методология, таблицы, два разоблачённых near-miss и миграционный кит для агента в подарок.

https://habr.com/ru/articles/1051282/

#MCP #Context7 #neuledge #документация #AIагенты #Claude_Code #Codex #бенчмарки #токены #RAG

Context7 — стандарт для доков AI-агента. Я измерил 8 альтернатив и собрал бесплатную связку

Context7 — мой дефолтный источник свежих доков для агента уже полтора года. И всё устраивало, пока я не начал ловить устаревший код: старый z.string().email() вместо z.email (), поведение Next 15 вместо 16. Причина — упёрся в потолок free-тарифа: квота исчерпана, сервер молча отдаёт пусто, агент спокойно пишет по памяти. И замечаешь это не сразу — вот что бесит. Тут я и задумался: Context7 вообще всё ещё лучший вариант, или за полтора года появилось что-то лучше? Решил проверить системно. Не поверил цифрам с лендингов и прогнал 8 способов доставки доков в контекст на одном токенайзере: что реально влетает в окно, за сколько токенов, с какой точностью. Победил Ref — но он платный. А ещё дважды я чуть не записал инструмент в аутсайдеры, и оба раза виноват был мой собственный вызов, а не инструмент. В итоге собрал бесплатную связку: локальный @neuledge как основной слой + Context7 free как fallback. Локальный слой отвечает за миллисекунды вместо секунд, работает без сети и без лимитов запросов. Осталось проверить, переживёт ли связка квоту free-тарифа — замерил и это. Внутри: методология, таблицы, два разоблачённых near-miss и миграционный кит для агента в подарок.

https://habr.com/ru/articles/1050578/

#MCP #Context7 #neuledge #документация #AIагенты #Claude_Code #Codex #бенчмарки #токены #RAG

Context7 — стандарт для доков AI-агента. Я измерил 8 альтернатив и собрал бесплатную связку

Context7 — мой дефолтный источник свежих доков для агента уже полтора года. И всё устраивало, пока я не начал ловить устаревший код: старый z.string().email() вместо z.email (), поведение Next 15 вместо 16. Причина — упёрся в потолок free-тарифа: квота исчерпана, сервер молча отдаёт пусто, агент спокойно пишет по памяти. И замечаешь это не сразу — вот что бесит. Тут я и задумался: Context7 вообще всё ещё лучший вариант, или за полтора года появилось что-то лучше? Решил проверить системно. Не поверил цифрам с лендингов и прогнал 8 способов доставки доков в контекст на одном токенайзере: что реально влетает в окно, за сколько токенов, с какой точностью. Победил Ref — но он платный. А ещё дважды я чуть не записал инструмент в аутсайдеры, и оба раза виноват был мой собственный вызов, а не инструмент. В итоге собрал бесплатную связку: локальный @neuledge как основной слой + Context7 free как fallback. Локальный слой отвечает за миллисекунды вместо секунд, работает без сети и без лимитов запросов. Осталось проверить, переживёт ли связка квоту free-тарифа — замерил и это. Внутри: методология, таблицы, два разоблачённых near-miss и миграционный кит для агента в подарок.

https://habr.com/ru/articles/1050578/

#MCP #Context7 #neuledge #документация #AIагенты #Claude_Code #Codex #бенчмарки #токены #RAG

Context7 — стандарт для доков AI-агента. Я измерил 8 альтернатив и собрал бесплатную связку

Context7 — мой дефолтный источник свежих доков для агента уже полтора года. И всё устраивало, пока я не начал ловить устаревший код: старый z.string().email() вместо z.email (), поведение Next 15 вместо 16. Причина — упёрся в потолок free-тарифа: квота исчерпана, сервер молча отдаёт пусто, агент спокойно пишет по памяти. И замечаешь это не сразу — вот что бесит. Тут я и задумался: Context7 вообще всё ещё лучший вариант, или за полтора года появилось что-то лучше? Решил проверить системно. Не поверил цифрам с лендингов и прогнал 8 способов доставки доков в контекст на одном токенайзере: что реально влетает в окно, за сколько токенов, с какой точностью. Победил Ref — но он платный. А ещё дважды я чуть не записал инструмент в аутсайдеры, и оба раза виноват был мой собственный вызов, а не инструмент. В итоге собрал бесплатную связку: локальный @neuledge как основной слой + Context7 free как fallback. Локальный слой отвечает за миллисекунды вместо секунд, работает без сети и без лимитов запросов. Осталось проверить, переживёт ли связка квоту free-тарифа — замерил и это. Внутри: методология, таблицы, два разоблачённых near-miss и миграционный кит для агента в подарок.

https://habr.com/ru/articles/1050578/

#MCP #Context7 #neuledge #документация #AIагенты #Claude_Code #Codex #бенчмарки #токены #RAG

Контекстное окно человека: чем его теперь заполнять

Раньше ценность специалиста в продуктовой разработке — неважно, аналитик это, владелец продукта, разработчик или инженер сопровождения, — во многом мерили тем, сколько деталей он держит в своём контекстном окне: подводные камни конкретного домена, как работает функционал легаси-системы, грабли, на которые он однажды уже наступал. По сути это был сжатый контекст одной-двух областей, накопленный дорогой ценой — годами жизни. Сейчас ровно по этому месту бьёт ИИ: токены, которые раньше приходилось загружать в мозг годами узкой практики, теперь подтягиваются почти даром, из ИИ-модели. Похоже, что дефицитным становится не объём контекстного окна и не глубина знаний в одной области, а то, чем это окно заполнено: много смежных доменов, лежащих рядом, и способность видеть, как они стыкуются в той системе, которую ты создаешь с помощью ИИ. Опыт точно никуда не девается, но, возможно, перестаёт быть решающим преимуществом.

https://habr.com/ru/articles/1049788/

#контекстное_окно #промптинжиниринг #sdlc #производственный_процесс #токены

Контекстное окно человека: чем его теперь заполнять

Раньше ценность специалиста в продуктовой разработке — неважно, аналитик это, владелец продукта, разработчик или инженер сопровождения, — во многом мерили тем, сколько деталей он держит в своём контекстном окне: подводные камни конкретного домена, как работает функционал легаси-системы, грабли, на которые он однажды уже наступал. По сути это был сжатый контекст одной-двух областей, накопленный дорогой ценой — годами жизни. Сейчас ровно по этому месту бьёт ИИ: токены, которые раньше приходилось загружать в мозг годами узкой практики, теперь подтягиваются почти даром, из ИИ-модели. Похоже, что дефицитным становится не объём контекстного окна и не глубина знаний в одной области, а то, чем это окно заполнено: много смежных доменов, лежащих рядом, и способность видеть, как они стыкуются в той системе, которую ты создаешь с помощью ИИ. Опыт точно никуда не девается, но, возможно, перестаёт быть решающим преимуществом.

https://habr.com/ru/articles/1049788/

#контекстное_окно #промптинжиниринг #sdlc #производственный_процесс #токены

Контекстное окно человека: чем его теперь заполнять

Раньше ценность специалиста в продуктовой разработке — неважно, аналитик это, владелец продукта, разработчик или инженер сопровождения, — во многом мерили тем, сколько деталей он держит в своём контекстном окне: подводные камни конкретного домена, как работает функционал легаси-системы, грабли, на которые он однажды уже наступал. По сути это был сжатый контекст одной-двух областей, накопленный дорогой ценой — годами жизни. Сейчас ровно по этому месту бьёт ИИ: токены, которые раньше приходилось загружать в мозг годами узкой практики, теперь подтягиваются почти даром, из ИИ-модели. Похоже, что дефицитным становится не объём контекстного окна и не глубина знаний в одной области, а то, чем это окно заполнено: много смежных доменов, лежащих рядом, и способность видеть, как они стыкуются в той системе, которую ты создаешь с помощью ИИ. Опыт точно никуда не девается, но, возможно, перестаёт быть решающим преимуществом.

https://habr.com/ru/articles/1049788/

#контекстное_окно #промптинжиниринг #sdlc #производственный_процесс #токены

git ни разу не спросил у вас пароль — и в этом виноват скандал 2005 года

Признайтесь: вы не знаете, кто у вас сейчас просит пароль. Вы делаете git push. Иногда выскакивает окошко. Иногда терминал молча ждёт ввода, и буквы не печатаются. Иногда всё проходит без единого вопроса, будто git вас узнал. А иногда — Support for password authentication was removed on August 13, 2021, и вы сидите и гадаете, какой из семи токенов протух на этот раз. Четыре разных поведения, одна команда. И вот спойлер, после которого статью можно было бы и закончить: git за эти двадцать лет ни разу не спросил у вас пароль. Ни одного раза. То, что вы принимаете за «git просит пароль», — это всегда кто-то другой, стоящий у него за спиной и машущий руками. Разберёмся, кто именно. А потом — кто всю эту конструкцию собрал.

https://habr.com/ru/articles/1047430/

#git #github #ssh #аутентификация #история_it #linus_torvalds #credential_provider #git_push #безопасность #токены

git ни разу не спросил у вас пароль — и в этом виноват скандал 2005 года

Признайтесь: вы не знаете, кто у вас сейчас просит пароль. Вы делаете git push. Иногда выскакивает окошко. Иногда терминал молча ждёт ввода, и буквы не печатаются. Иногда всё проходит без единого вопроса, будто git вас узнал. А иногда — Support for password authentication was removed on August 13, 2021, и вы сидите и гадаете, какой из семи токенов протух на этот раз. Четыре разных поведения, одна команда. И вот спойлер, после которого статью можно было бы и закончить: git за эти двадцать лет ни разу не спросил у вас пароль. Ни одного раза. То, что вы принимаете за «git просит пароль», — это всегда кто-то другой, стоящий у него за спиной и машущий руками. Разберёмся, кто именно. А потом — кто всю эту конструкцию собрал.

https://habr.com/ru/articles/1047430/

#git #github #ssh #аутентификация #история_it #linus_torvalds #credential_provider #git_push #безопасность #токены

git ни разу не спросил у вас пароль — и в этом виноват скандал 2005 года

Признайтесь: вы не знаете, кто у вас сейчас просит пароль. Вы делаете git push. Иногда выскакивает окошко. Иногда терминал молча ждёт ввода, и буквы не печатаются. Иногда всё проходит без единого вопроса, будто git вас узнал. А иногда — Support for password authentication was removed on August 13, 2021, и вы сидите и гадаете, какой из семи токенов протух на этот раз. Четыре разных поведения, одна команда. И вот спойлер, после которого статью можно было бы и закончить: git за эти двадцать лет ни разу не спросил у вас пароль. Ни одного раза. То, что вы принимаете за «git просит пароль», — это всегда кто-то другой, стоящий у него за спиной и машущий руками. Разберёмся, кто именно. А потом — кто всю эту конструкцию собрал.

https://habr.com/ru/articles/1047430/

#git #github #ssh #аутентификация #история_it #linus_torvalds #credential_provider #git_push #безопасность #токены

Что такое контекстное окно и почему модели забывают

Ты час разговариваешь с ChatGPT. Даёшь контекст, объясняешь задачу, уточняешь детали. А потом модель вдруг начинает противоречить тому, что говорила раньше. Забывает имя персонажа которое ты указал в самом начале. Спрашивает то, о чём вы уже договорились. Первая реакция - что-то сломалось. Но это не баг. Это фундаментальное ограничение архитектуры, у которого есть название и объяснение.

https://habr.com/ru/articles/1046916/

#контекстное_окно #LLM #токены #память_ИИ #ChatGPT #языковые_модели #lost_in_the_middle #RAG #GPT #контекст

Что такое контекстное окно и почему модели забывают

Ты час разговариваешь с ChatGPT. Даёшь контекст, объясняешь задачу, уточняешь детали. А потом модель вдруг начинает противоречить тому, что говорила раньше. Забывает имя персонажа которое ты указал в самом начале. Спрашивает то, о чём вы уже договорились. Первая реакция - что-то сломалось. Но это не баг. Это фундаментальное ограничение архитектуры, у которого есть название и объяснение.

https://habr.com/ru/articles/1046916/

#контекстное_окно #LLM #токены #память_ИИ #ChatGPT #языковые_модели #lost_in_the_middle #RAG #GPT #контекст

Что такое контекстное окно и почему модели забывают

Ты час разговариваешь с ChatGPT. Даёшь контекст, объясняешь задачу, уточняешь детали. А потом модель вдруг начинает противоречить тому, что говорила раньше. Забывает имя персонажа которое ты указал в самом начале. Спрашивает то, о чём вы уже договорились. Первая реакция - что-то сломалось. Но это не баг. Это фундаментальное ограничение архитектуры, у которого есть название и объяснение.

https://habr.com/ru/articles/1046916/

#контекстное_окно #LLM #токены #память_ИИ #ChatGPT #языковые_модели #lost_in_the_middle #RAG #GPT #контекст

П維чему нейро考ети дел思ют так

Если вы хоть раз тестировали локальную модель (да и нелокальную тоже) и замечали, как она посреди нормального текста вдруг выдает иероглиф, то заголовок статьи вам не покажется странным. И к концу будет ясно, что именно происходит когда ИИ-шка вам подсовывает иероглифы. Статью я решил поделить на два уровня. Первая часть (без которой сложно понять вторую) — для тех, кто слышал слово «эмбеддинг», но не трогал его руками: разберем на пальцах и со стрелочками, что модель держит внутри своего цифрового серого вещества, в общем объясню простые вещи простыми словами. Вторая часть — для тех, кому интересно копнуть чуть дальше базы: туда я поместил grokking, фурье-частоты и суперпозицию, и там мы вытащим реальное пространство обученной модели и посмотрим, как оно устроено.

https://habr.com/ru/companies/selectel/articles/1044854/

#нейросети #машинное_обучение #эмбеддинги #grokking #гроккинг #llm #векторное_пространство #mechanistic_interpretability #токены #selectel

П維чему нейро考ети дел思ют так

Если вы хоть раз тестировали локальную модель (да и нелокальную тоже) и замечали, как она посреди нормального текста вдруг выдает иероглиф, то заголовок статьи вам не покажется странным. И к концу будет ясно, что именно происходит когда ИИ-шка вам подсовывает иероглифы. Статью я решил поделить на два уровня. Первая часть (без которой сложно понять вторую) — для тех, кто слышал слово «эмбеддинг», но не трогал его руками: разберем на пальцах и со стрелочками, что модель держит внутри своего цифрового серого вещества, в общем объясню простые вещи простыми словами. Вторая часть — для тех, кому интересно копнуть чуть дальше базы: туда я поместил grokking, фурье-частоты и суперпозицию, и там мы вытащим реальное пространство обученной модели и посмотрим, как оно устроено.

https://habr.com/ru/companies/selectel/articles/1044854/

#нейросети #машинное_обучение #эмбеддинги #grokking #гроккинг #llm #векторное_пространство #mechanistic_interpretability #токены #selectel

П維чему нейро考ети дел思ют так

Если вы хоть раз тестировали локальную модель (да и нелокальную тоже) и замечали, как она посреди нормального текста вдруг выдает иероглиф, то заголовок статьи вам не покажется странным. И к концу будет ясно, что именно происходит когда ИИ-шка вам подсовывает иероглифы. Статью я решил поделить на два уровня. Первая часть (без которой сложно понять вторую) — для тех, кто слышал слово «эмбеддинг», но не трогал его руками: разберем на пальцах и со стрелочками, что модель держит внутри своего цифрового серого вещества, в общем объясню простые вещи простыми словами. Вторая часть — для тех, кому интересно копнуть чуть дальше базы: туда я поместил grokking, фурье-частоты и суперпозицию, и там мы вытащим реальное пространство обученной модели и посмотрим, как оно устроено.

https://habr.com/ru/companies/selectel/articles/1044854/

#нейросети #машинное_обучение #эмбеддинги #grokking #гроккинг #llm #векторное_пространство #mechanistic_interpretability #токены #selectel

PII-Shield: режем персональные данные в логах до того, как они доехали до ELK

Сначала хотелось просто скрывать случайные токены по энтропии. Потом выяснилось, что UUID, trace id и номера карт ломают эту идею, и пришлось собирать более честный фильтр логов.

https://habr.com/ru/articles/1045422/

#PII #персональные_данные #маскирование_логов #Kubernetes #sidecar #Kubernetes_operator #Go #секреты #токены #DevSecOps

PII-Shield: режем персональные данные в логах до того, как они доехали до ELK

Сначала хотелось просто скрывать случайные токены по энтропии. Потом выяснилось, что UUID, trace id и номера карт ломают эту идею, и пришлось собирать более честный фильтр логов.

https://habr.com/ru/articles/1045422/

#PII #персональные_данные #маскирование_логов #Kubernetes #sidecar #Kubernetes_operator #Go #секреты #токены #DevSecOps

PII-Shield: режем персональные данные в логах до того, как они доехали до ELK

Сначала хотелось просто скрывать случайные токены по энтропии. Потом выяснилось, что UUID, trace id и номера карт ломают эту идею, и пришлось собирать более честный фильтр логов.

https://habr.com/ru/articles/1045422/

#PII #персональные_данные #маскирование_логов #Kubernetes #sidecar #Kubernetes_operator #Go #секреты #токены #DevSecOps

Свой биллинг для ИИ-агента: микрокредиты и контроль расходов

На связи Сергей Смирнов, AI-инженер и основатель LLMStart.ru. Сегодня разбираем, как написать биллинг для продакшн ИИ-агента. Когда ваш ИИ-бот начинает отвечать клиентам в B2B-сегменте, каждый его ответ стоит токенов. Чтобы экономика продукта сходилась, расходы на LLM нужно жестко контролировать и тарифицировать. Кажется, что достаточно просто прикрутить калькулятор, но на деле всё сложнее: один HTTP-запрос может дергать до пяти разных нейросетей, и не все они идут через стандартный граф фреймворка. В новой статье на Хабре рассказываю: — Почему считать деньги по чатам — это путь к хаосу. — Зачем мы изобрели «микрокредиты» вместо наивных токенов. — Как протащить контекст биллинга через пять LLM-вызовов в одном запросе с помощью магии ContextVar + Mixin. Разбор для тех, кто делает multi-tenant LLM-сервисы и уперся в ограничения готовых прокси-решений.

https://habr.com/ru/companies/llmstart/articles/1039474/

#LLMагенты #биллинг #LangChain #ContextVar #ииагенты #токены #трейсинг

Свой биллинг для ИИ-агента: микрокредиты и контроль расходов

На связи Сергей Смирнов, AI-инженер и основатель LLMStart.ru. Сегодня разбираем, как написать биллинг для продакшн ИИ-агента. Когда ваш ИИ-бот начинает отвечать клиентам в B2B-сегменте, каждый его ответ стоит токенов. Чтобы экономика продукта сходилась, расходы на LLM нужно жестко контролировать и тарифицировать. Кажется, что достаточно просто прикрутить калькулятор, но на деле всё сложнее: один HTTP-запрос может дергать до пяти разных нейросетей, и не все они идут через стандартный граф фреймворка. В новой статье на Хабре рассказываю: — Почему считать деньги по чатам — это путь к хаосу. — Зачем мы изобрели «микрокредиты» вместо наивных токенов. — Как протащить контекст биллинга через пять LLM-вызовов в одном запросе с помощью магии ContextVar + Mixin. Разбор для тех, кто делает multi-tenant LLM-сервисы и уперся в ограничения готовых прокси-решений.

https://habr.com/ru/companies/llmstart/articles/1039474/

#LLMагенты #биллинг #LangChain #ContextVar #ииагенты #токены #трейсинг

Свой биллинг для ИИ-агента: микрокредиты и контроль расходов

На связи Сергей Смирнов, AI-инженер и основатель LLMStart.ru. Сегодня разбираем, как написать биллинг для продакшн ИИ-агента. Когда ваш ИИ-бот начинает отвечать клиентам в B2B-сегменте, каждый его ответ стоит токенов. Чтобы экономика продукта сходилась, расходы на LLM нужно жестко контролировать и тарифицировать. Кажется, что достаточно просто прикрутить калькулятор, но на деле всё сложнее: один HTTP-запрос может дергать до пяти разных нейросетей, и не все они идут через стандартный граф фреймворка. В новой статье на Хабре рассказываю: — Почему считать деньги по чатам — это путь к хаосу. — Зачем мы изобрели «микрокредиты» вместо наивных токенов. — Как протащить контекст биллинга через пять LLM-вызовов в одном запросе с помощью магии ContextVar + Mixin. Разбор для тех, кто делает multi-tenant LLM-сервисы и уперся в ограничения готовых прокси-решений.

https://habr.com/ru/companies/llmstart/articles/1039474/

#LLMагенты #биллинг #LangChain #ContextVar #ииагенты #токены #трейсинг

[Перевод] Ограничения размера cookie в ASP.NET Core в продакшене: причины и способы решения

В dev-среде аутентификация может годами выглядеть безобидно: логин прошёл, cookie выпущена, [Authorize] работает. А потом приложение переезжает в продакшен — и часть пользователей начинает вылетать из системы без понятной ошибки. Иногда всплывает 431 Request Header Fields Too Large, иногда сервер просто перестаёт принимать сессию, которая ещё минуту назад выглядела корректной. В статье разбираем, почему cookie аутентификации в ASP.NET Core разрастаются до опасных размеров, как это проявляется в реальных системах и какие решения помогают не лечить симптомы, а привести схему аутентификации в нормальное production-ready состояние. Разобрать проблему

https://habr.com/ru/companies/otus/articles/1038232/

#c# #ASPNET_Core #cookie #аутентификация #авторизация #серверные_сессии #токены

[Перевод] Ограничения размера cookie в ASP.NET Core в продакшене: причины и способы решения

В dev-среде аутентификация может годами выглядеть безобидно: логин прошёл, cookie выпущена, [Authorize] работает. А потом приложение переезжает в продакшен — и часть пользователей начинает вылетать из системы без понятной ошибки. Иногда всплывает 431 Request Header Fields Too Large, иногда сервер просто перестаёт принимать сессию, которая ещё минуту назад выглядела корректной. В статье разбираем, почему cookie аутентификации в ASP.NET Core разрастаются до опасных размеров, как это проявляется в реальных системах и какие решения помогают не лечить симптомы, а привести схему аутентификации в нормальное production-ready состояние. Разобрать проблему

https://habr.com/ru/companies/otus/articles/1038232/

#c# #ASPNET_Core #cookie #аутентификация #авторизация #серверные_сессии #токены

[Перевод] Ограничения размера cookie в ASP.NET Core в продакшене: причины и способы решения

В dev-среде аутентификация может годами выглядеть безобидно: логин прошёл, cookie выпущена, [Authorize] работает. А потом приложение переезжает в продакшен — и часть пользователей начинает вылетать из системы без понятной ошибки. Иногда всплывает 431 Request Header Fields Too Large, иногда сервер просто перестаёт принимать сессию, которая ещё минуту назад выглядела корректной. В статье разбираем, почему cookie аутентификации в ASP.NET Core разрастаются до опасных размеров, как это проявляется в реальных системах и какие решения помогают не лечить симптомы, а привести схему аутентификации в нормальное production-ready состояние. Разобрать проблему

https://habr.com/ru/companies/otus/articles/1038232/

#c# #ASPNET_Core #cookie #аутентификация #авторизация #серверные_сессии #токены

[Перевод] Создание MCP‑серверов на FastMCP: 7 ошибок, которых стоит избегать

FastMCP позволяет быстро собрать MCP‑сервер, но скорость легко оборачивается ошибками: лишние токены, слабые схемы, сырые API‑примитивы, плохая обработка ошибок и риски безопасности. В статье разбираем 7 проблем, из‑за которых LLM‑агент начинает путаться, ломать сценарии и требовать лишних подтверждений, — и показываем, как их исправить.

https://habr.com/ru/companies/otus/articles/1032890/

#MCP #FastMCP #ИИагенты #LLM #Python #API #безопасность #обработка_ошибок #токены #проектирование_инструментов

[Перевод] Создание MCP‑серверов на FastMCP: 7 ошибок, которых стоит избегать

FastMCP позволяет быстро собрать MCP‑сервер, но скорость легко оборачивается ошибками: лишние токены, слабые схемы, сырые API‑примитивы, плохая обработка ошибок и риски безопасности. В статье разбираем 7 проблем, из‑за которых LLM‑агент начинает путаться, ломать сценарии и требовать лишних подтверждений, — и показываем, как их исправить.

https://habr.com/ru/companies/otus/articles/1032890/

#MCP #FastMCP #ИИагенты #LLM #Python #API #безопасность #обработка_ошибок #токены #проектирование_инструментов

[Перевод] Создание MCP‑серверов на FastMCP: 7 ошибок, которых стоит избегать

FastMCP позволяет быстро собрать MCP‑сервер, но скорость легко оборачивается ошибками: лишние токены, слабые схемы, сырые API‑примитивы, плохая обработка ошибок и риски безопасности. В статье разбираем 7 проблем, из‑за которых LLM‑агент начинает путаться, ломать сценарии и требовать лишних подтверждений, — и показываем, как их исправить.

https://habr.com/ru/companies/otus/articles/1032890/

#MCP #FastMCP #ИИагенты #LLM #Python #API #безопасность #обработка_ошибок #токены #проектирование_инструментов

Короткий промпт ≠ дешёвый промпт: как оптимизация ломает prefix cache в LLM-агентах

32 tools в промпте - дешевле, чем 7. Да, да - если вы строите агентов, это не опечатка. Это следствие того, как работает prefix cache в агентском цикле, и почему локальная оптимизация одного запроса ломает кэш на всей траектории. Третья статья серии про prefix caching - теперь про этих ваших агентов.

https://habr.com/ru/companies/bitrix/articles/1033822/

#llmагент #prefix_caching #токены #aiагенты #ai #prompt_caching #promptengineering #contextengineering

Короткий промпт ≠ дешёвый промпт: как оптимизация ломает prefix cache в LLM-агентах

32 tools в промпте - дешевле, чем 7. Да, да - если вы строите агентов, это не опечатка. Это следствие того, как работает prefix cache в агентском цикле, и почему локальная оптимизация одного запроса ломает кэш на всей траектории. Третья статья серии про prefix caching - теперь про этих ваших агентов.

https://habr.com/ru/companies/bitrix/articles/1033822/

#llmагент #prefix_caching #токены #aiагенты #ai #prompt_caching #promptengineering #contextengineering

Короткий промпт ≠ дешёвый промпт: как оптимизация ломает prefix cache в LLM-агентах

32 tools в промпте - дешевле, чем 7. Да, да - если вы строите агентов, это не опечатка. Это следствие того, как работает prefix cache в агентском цикле, и почему локальная оптимизация одного запроса ломает кэш на всей траектории. Третья статья серии про prefix caching - теперь про этих ваших агентов.

https://habr.com/ru/companies/bitrix/articles/1033822/

#llmагент #prefix_caching #токены #aiагенты #ai #prompt_caching #promptengineering #contextengineering

Токенизация: почему ИИ сложно считать буквы «r» в «strawberry»?

Пока мы воспринимаем свои промпты как обычный текст из символов, для LLM они в виде токенов «выглядят» совсем иначе. И если не осознавать этого, порой можно наткнуться на проблемы. Поэтому полезно (и интересно) понимать: что вообще представляют собой токены? По какому алгоритму текст преобразуют в них и обратно? Какие важные нюансы при этом возникают? Возможно, подробнее и понятнее всех объяснил пару лет назад ИИ-рисерчер Андрей Карпатый , записав двухчасовое видео на английском. А теперь мы решили сделать хабрапост, который и пересказывает на русском главное из этого видео, и делает поправку на прошедшее время, и учитывает другие источники (вроде книги «Build a Large Language Models from Scratch»). Описанное применимо к мейнстримовым LLM вроде GPT, в других моделях возможны отличия.

https://habr.com/ru/companies/gazprombank/articles/1032406/

#LLM #Нейросети #Токены

Токенизация: почему ИИ сложно считать буквы «r» в «strawberry»?

Пока мы воспринимаем свои промпты как обычный текст из символов, для LLM они в виде токенов «выглядят» совсем иначе. И если не осознавать этого, порой можно наткнуться на проблемы. Поэтому полезно (и интересно) понимать: что вообще представляют собой токены? По какому алгоритму текст преобразуют в них и обратно? Какие важные нюансы при этом возникают? Возможно, подробнее и понятнее всех объяснил пару лет назад ИИ-рисерчер Андрей Карпатый , записав двухчасовое видео на английском. А теперь мы решили сделать хабрапост, который и пересказывает на русском главное из этого видео, и делает поправку на прошедшее время, и учитывает другие источники (вроде книги «Build a Large Language Models from Scratch»). Описанное применимо к мейнстримовым LLM вроде GPT, в других моделях возможны отличия.

https://habr.com/ru/companies/gazprombank/articles/1032406/

#LLM #Нейросети #Токены

Токенизация: почему ИИ сложно считать буквы «r» в «strawberry»?

Пока мы воспринимаем свои промпты как обычный текст из символов, для LLM они в виде токенов «выглядят» совсем иначе. И если не осознавать этого, порой можно наткнуться на проблемы. Поэтому полезно (и интересно) понимать: что вообще представляют собой токены? По какому алгоритму текст преобразуют в них и обратно? Какие важные нюансы при этом возникают? Возможно, подробнее и понятнее всех объяснил пару лет назад ИИ-рисерчер Андрей Карпатый , записав двухчасовое видео на английском. А теперь мы решили сделать хабрапост, который и пересказывает на русском главное из этого видео, и делает поправку на прошедшее время, и учитывает другие источники (вроде книги «Build a Large Language Models from Scratch»). Описанное применимо к мейнстримовым LLM вроде GPT, в других моделях возможны отличия.

https://habr.com/ru/companies/gazprombank/articles/1032406/

#LLM #Нейросети #Токены

TokenToad: как я сделал Chrome-расширение, чтобы перестать удивляться счетам за AI

Расходы на AI API копятся незаметно: сессия Claude Code тут, batch к GPT-5 там — и к концу месяца биллинг удивляет. Собрал бесплатное Chrome-расширение, которое показывает траты Anthropic, OpenAI и Gemini в реальном времени прямо в badge браузера.

https://habr.com/ru/articles/1031890/

#chrome_extension #ai_api #openai #anthropic #claude #расходы_api #токены #биллинг #preact #vite

TokenToad: как я сделал Chrome-расширение, чтобы перестать удивляться счетам за AI

Расходы на AI API копятся незаметно: сессия Claude Code тут, batch к GPT-5 там — и к концу месяца биллинг удивляет. Собрал бесплатное Chrome-расширение, которое показывает траты Anthropic, OpenAI и Gemini в реальном времени прямо в badge браузера.

https://habr.com/ru/articles/1031890/

#chrome_extension #ai_api #openai #anthropic #claude #расходы_api #токены #биллинг #preact #vite