#токены — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #токены, aggregated by home.social.
-
[Перевод] Создание MCP‑серверов на FastMCP: 7 ошибок, которых стоит избегать
FastMCP позволяет быстро собрать MCP‑сервер, но скорость легко оборачивается ошибками: лишние токены, слабые схемы, сырые API‑примитивы, плохая обработка ошибок и риски безопасности. В статье разбираем 7 проблем, из‑за которых LLM‑агент начинает путаться, ломать сценарии и требовать лишних подтверждений, — и показываем, как их исправить.
https://habr.com/ru/companies/otus/articles/1032890/
#MCP #FastMCP #ИИагенты #LLM #Python #API #безопасность #обработка_ошибок #токены #проектирование_инструментов
-
[Перевод] Создание MCP‑серверов на FastMCP: 7 ошибок, которых стоит избегать
FastMCP позволяет быстро собрать MCP‑сервер, но скорость легко оборачивается ошибками: лишние токены, слабые схемы, сырые API‑примитивы, плохая обработка ошибок и риски безопасности. В статье разбираем 7 проблем, из‑за которых LLM‑агент начинает путаться, ломать сценарии и требовать лишних подтверждений, — и показываем, как их исправить.
https://habr.com/ru/companies/otus/articles/1032890/
#MCP #FastMCP #ИИагенты #LLM #Python #API #безопасность #обработка_ошибок #токены #проектирование_инструментов
-
[Перевод] Создание MCP‑серверов на FastMCP: 7 ошибок, которых стоит избегать
FastMCP позволяет быстро собрать MCP‑сервер, но скорость легко оборачивается ошибками: лишние токены, слабые схемы, сырые API‑примитивы, плохая обработка ошибок и риски безопасности. В статье разбираем 7 проблем, из‑за которых LLM‑агент начинает путаться, ломать сценарии и требовать лишних подтверждений, — и показываем, как их исправить.
https://habr.com/ru/companies/otus/articles/1032890/
#MCP #FastMCP #ИИагенты #LLM #Python #API #безопасность #обработка_ошибок #токены #проектирование_инструментов
-
[Перевод] Создание MCP‑серверов на FastMCP: 7 ошибок, которых стоит избегать
FastMCP позволяет быстро собрать MCP‑сервер, но скорость легко оборачивается ошибками: лишние токены, слабые схемы, сырые API‑примитивы, плохая обработка ошибок и риски безопасности. В статье разбираем 7 проблем, из‑за которых LLM‑агент начинает путаться, ломать сценарии и требовать лишних подтверждений, — и показываем, как их исправить.
https://habr.com/ru/companies/otus/articles/1032890/
#MCP #FastMCP #ИИагенты #LLM #Python #API #безопасность #обработка_ошибок #токены #проектирование_инструментов
-
Короткий промпт ≠ дешёвый промпт: как оптимизация ломает prefix cache в LLM-агентах
32 tools в промпте - дешевле, чем 7. Да, да - если вы строите агентов, это не опечатка. Это следствие того, как работает prefix cache в агентском цикле, и почему локальная оптимизация одного запроса ломает кэш на всей траектории. Третья статья серии про prefix caching - теперь про этих ваших агентов.
https://habr.com/ru/companies/bitrix/articles/1033822/
#llmагент #prefix_caching #токены #aiагенты #ai #prompt_caching #promptengineering #contextengineering
-
Короткий промпт ≠ дешёвый промпт: как оптимизация ломает prefix cache в LLM-агентах
32 tools в промпте - дешевле, чем 7. Да, да - если вы строите агентов, это не опечатка. Это следствие того, как работает prefix cache в агентском цикле, и почему локальная оптимизация одного запроса ломает кэш на всей траектории. Третья статья серии про prefix caching - теперь про этих ваших агентов.
https://habr.com/ru/companies/bitrix/articles/1033822/
#llmагент #prefix_caching #токены #aiагенты #ai #prompt_caching #promptengineering #contextengineering
-
Короткий промпт ≠ дешёвый промпт: как оптимизация ломает prefix cache в LLM-агентах
32 tools в промпте - дешевле, чем 7. Да, да - если вы строите агентов, это не опечатка. Это следствие того, как работает prefix cache в агентском цикле, и почему локальная оптимизация одного запроса ломает кэш на всей траектории. Третья статья серии про prefix caching - теперь про этих ваших агентов.
https://habr.com/ru/companies/bitrix/articles/1033822/
#llmагент #prefix_caching #токены #aiагенты #ai #prompt_caching #promptengineering #contextengineering
-
Короткий промпт ≠ дешёвый промпт: как оптимизация ломает prefix cache в LLM-агентах
32 tools в промпте - дешевле, чем 7. Да, да - если вы строите агентов, это не опечатка. Это следствие того, как работает prefix cache в агентском цикле, и почему локальная оптимизация одного запроса ломает кэш на всей траектории. Третья статья серии про prefix caching - теперь про этих ваших агентов.
https://habr.com/ru/companies/bitrix/articles/1033822/
#llmагент #prefix_caching #токены #aiагенты #ai #prompt_caching #promptengineering #contextengineering
-
Токенизация: почему ИИ сложно считать буквы «r» в «strawberry»?
Пока мы воспринимаем свои промпты как обычный текст из символов, для LLM они в виде токенов «выглядят» совсем иначе. И если не осознавать этого, порой можно наткнуться на проблемы. Поэтому полезно (и интересно) понимать: что вообще представляют собой токены? По какому алгоритму текст преобразуют в них и обратно? Какие важные нюансы при этом возникают? Возможно, подробнее и понятнее всех объяснил пару лет назад ИИ-рисерчер Андрей Карпатый , записав двухчасовое видео на английском. А теперь мы решили сделать хабрапост, который и пересказывает на русском главное из этого видео, и делает поправку на прошедшее время, и учитывает другие источники (вроде книги «Build a Large Language Models from Scratch»). Описанное применимо к мейнстримовым LLM вроде GPT, в других моделях возможны отличия.
-
TokenToad: как я сделал Chrome-расширение, чтобы перестать удивляться счетам за AI
Расходы на AI API копятся незаметно: сессия Claude Code тут, batch к GPT-5 там — и к концу месяца биллинг удивляет. Собрал бесплатное Chrome-расширение, которое показывает траты Anthropic, OpenAI и Gemini в реальном времени прямо в badge браузера.
https://habr.com/ru/articles/1031890/
#chrome_extension #ai_api #openai #anthropic #claude #расходы_api #токены #биллинг #preact #vite
-
TokenToad: как я сделал Chrome-расширение, чтобы перестать удивляться счетам за AI
Расходы на AI API копятся незаметно: сессия Claude Code тут, batch к GPT-5 там — и к концу месяца биллинг удивляет. Собрал бесплатное Chrome-расширение, которое показывает траты Anthropic, OpenAI и Gemini в реальном времени прямо в badge браузера.
https://habr.com/ru/articles/1031890/
#chrome_extension #ai_api #openai #anthropic #claude #расходы_api #токены #биллинг #preact #vite
-
TokenToad: как я сделал Chrome-расширение, чтобы перестать удивляться счетам за AI
Расходы на AI API копятся незаметно: сессия Claude Code тут, batch к GPT-5 там — и к концу месяца биллинг удивляет. Собрал бесплатное Chrome-расширение, которое показывает траты Anthropic, OpenAI и Gemini в реальном времени прямо в badge браузера.
https://habr.com/ru/articles/1031890/
#chrome_extension #ai_api #openai #anthropic #claude #расходы_api #токены #биллинг #preact #vite
-
TokenToad: как я сделал Chrome-расширение, чтобы перестать удивляться счетам за AI
Расходы на AI API копятся незаметно: сессия Claude Code тут, batch к GPT-5 там — и к концу месяца биллинг удивляет. Собрал бесплатное Chrome-расширение, которое показывает траты Anthropic, OpenAI и Gemini в реальном времени прямо в badge браузера.
https://habr.com/ru/articles/1031890/
#chrome_extension #ai_api #openai #anthropic #claude #расходы_api #токены #биллинг #preact #vite
-
Токенная разработка: почему я плачу $200 в месяц, а не $800 за устаревшее железо
$800 на видеокарту которая устареет через год или $200/мес с доступом к frontier-моделям? Вот мои цифры
https://habr.com/ru/articles/1030678/
#LLM #API #токены #GPU #локальные_модели #Ollama #tokenomics #AI_разработка #стоимость_разработки
-
Токенная разработка: почему я плачу $200 в месяц, а не $800 за устаревшее железо
$800 на видеокарту которая устареет через год или $200/мес с доступом к frontier-моделям? Вот мои цифры
https://habr.com/ru/articles/1030678/
#LLM #API #токены #GPU #локальные_модели #Ollama #tokenomics #AI_разработка #стоимость_разработки
-
Токенная разработка: почему я плачу $200 в месяц, а не $800 за устаревшее железо
$800 на видеокарту которая устареет через год или $200/мес с доступом к frontier-моделям? Вот мои цифры
https://habr.com/ru/articles/1030678/
#LLM #API #токены #GPU #локальные_модели #Ollama #tokenomics #AI_разработка #стоимость_разработки
-
Токенная разработка: почему я плачу $200 в месяц, а не $800 за устаревшее железо
$800 на видеокарту которая устареет через год или $200/мес с доступом к frontier-моделям? Вот мои цифры
https://habr.com/ru/articles/1030678/
#LLM #API #токены #GPU #локальные_модели #Ollama #tokenomics #AI_разработка #стоимость_разработки
-
[Перевод] Opus 4.7 использует на 45% больше токенов. Реальные замеры против обещаний Anthropic
В гайде по миграции для Claude Opus 4.7 написано: новый токенайзер использует «примерно в 1.0–1.35 раза больше токенов», чем 4.6. Я замерил и получил 1.47x на технической документации, и 1.45x на реальном CLAUDE.md-файле. Цены те же. Квоты те же. Токенов в промпте больше. Max-план сгорает быстрее. Кешированный префикс стоит дороже за каждую итерацию. Рейтлимит наступает раньше. Значит, Anthropic что-то получили в обмен. Что именно — и стоит ли оно того? Я провёл два эксперимента: первый измерил стоимость, второй проверил заявленные преимущества. Вот что получилось.
https://habr.com/ru/articles/1024958/
#Claude_47 #токенайзер #prompt_caching #Claude_Code #токены #IFEval #instruction_following #Anthropic #стоимость_API #claudeopus47
-
[Перевод] Дженсен Хуанг, CEO NVIDIA: индустрия разработки софта станет полностью token-driven
На конференции Morgan Stanley Дженсен Хуанг заявил, что индустрия разработки ПО вскоре станет полностью token-driven. По его словам, каждая компания, разрабатывающая ПО, превратится в агентную, будет массово использовать и создавать цифровых работников, потребляя огромные объёмы токенов.
https://habr.com/ru/articles/1023470/
#nvidia #иифабрика #токены #искуственный_интеллект #искуственный_интелект #датацентры
-
Claude Mythos, Java 26 и пещерный человек с 16 000 звёзд на GitHub
Девятый выпуск еженедельных IT-новостей от OpenIDE. Милла Йовович выложила свой проект в open-source, Claude Code нашел баг в Linux, которому 23 года, Anthropic показали Claude Mythos и сразу закрыли доступ. А Skill Caveman внезапно оказался самым простым и самым эффективным инструментом недели.
https://habr.com/ru/companies/haulmont/articles/1023450/
#Claude_Mythos #Claude_Code #Java_26 #opensource #ИИагенты #токены #CaveMan #GPT2 #бенчмарки #vibecoding
-
Claude Mythos, Java 26 и пещерный человек с 16 000 звёзд на GitHub
Девятый выпуск еженедельных IT-новостей от OpenIDE. Милла Йовович выложила свой проект в open-source, Claude Code нашел баг в Linux, которому 23 года, Anthropic показали Claude Mythos и сразу закрыли доступ. А Skill Caveman внезапно оказался самым простым и самым эффективным инструментом недели.
https://habr.com/ru/companies/haulmont/articles/1023450/
#Claude_Mythos #Claude_Code #Java_26 #opensource #ИИагенты #токены #CaveMan #GPT2 #бенчмарки #vibecoding
-
Claude Mythos, Java 26 и пещерный человек с 16 000 звёзд на GitHub
Девятый выпуск еженедельных IT-новостей от OpenIDE. Милла Йовович выложила свой проект в open-source, Claude Code нашел баг в Linux, которому 23 года, Anthropic показали Claude Mythos и сразу закрыли доступ. А Skill Caveman внезапно оказался самым простым и самым эффективным инструментом недели.
https://habr.com/ru/companies/haulmont/articles/1023450/
#Claude_Mythos #Claude_Code #Java_26 #opensource #ИИагенты #токены #CaveMan #GPT2 #бенчмарки #vibecoding
-
Claude Mythos, Java 26 и пещерный человек с 16 000 звёзд на GitHub
Девятый выпуск еженедельных IT-новостей от OpenIDE. Милла Йовович выложила свой проект в open-source, Claude Code нашел баг в Linux, которому 23 года, Anthropic показали Claude Mythos и сразу закрыли доступ. А Skill Caveman внезапно оказался самым простым и самым эффективным инструментом недели.
https://habr.com/ru/companies/haulmont/articles/1023450/
#Claude_Mythos #Claude_Code #Java_26 #opensource #ИИагенты #токены #CaveMan #GPT2 #бенчмарки #vibecoding
-
Пещерная ИИ = эффективность и экономия
Новый тренд апреля 2026 года у ИИ моделей - Пещерный LLM или Как тратить меньше денег на ИИ. Я есть ИИ. Я сделать. Я молодец. Я закончить.
-
Пещерная ИИ = эффективность и экономия
Новый тренд апреля 2026 года у ИИ моделей - Пещерный LLM или Как тратить меньше денег на ИИ. Я есть ИИ. Я сделать. Я молодец. Я закончить.
-
Пещерная ИИ = эффективность и экономия
Новый тренд апреля 2026 года у ИИ моделей - Пещерный LLM или Как тратить меньше денег на ИИ. Я есть ИИ. Я сделать. Я молодец. Я закончить.
-
Пещерная ИИ = эффективность и экономия
Новый тренд апреля 2026 года у ИИ моделей - Пещерный LLM или Как тратить меньше денег на ИИ. Я есть ИИ. Я сделать. Я молодец. Я закончить.
-
Ехал Грека через реку. — Кто ехал? — Димон
Это первая часть из задуманной серии статей про ИИ. Здесь мы на немного заступим в техническую часть памяти/контекста LLM моделей. Разберем, почему они частенько забывают или выдумывают факты и врут.
https://habr.com/ru/articles/1019470/
#искусственный_интеллект #ии #ииагенты #ии_и_машинное_обучение #ииассистент #токены #rag
-
JWT авторизация в FastAPI: от теории к практике
Представьте себе, что вы разработчик, и перед вами стоит задача: сделать так, чтобы после входа пользователь мог получать свои личные данные, не вводя пароль при каждом клике. Звучит как классическая задача аутентификации, правда? Традиционный подход — сессии. Вы логинитесь, сервер создаёт сессию, запоминает ваш ID у себя в базе данных, а вам выдаёт куку с ID этой сессии. Всё работает, пока вы на одном сервере. А если у вас их два? Или десять? Куда девать сессии? Начинаются проблемы с синхронизацией, Redis, общими хранилищами… Альтернатива — JWT (JSON Web Token). В этой статье мы с вами:
https://habr.com/ru/articles/1017246/
#FastAPI #JWT #авторизация #аутентификация #Python #токены #API #бэкенд #JSON_Web_Token #OAuth2
-
JWT авторизация в FastAPI: от теории к практике
Представьте себе, что вы разработчик, и перед вами стоит задача: сделать так, чтобы после входа пользователь мог получать свои личные данные, не вводя пароль при каждом клике. Звучит как классическая задача аутентификации, правда? Традиционный подход — сессии. Вы логинитесь, сервер создаёт сессию, запоминает ваш ID у себя в базе данных, а вам выдаёт куку с ID этой сессии. Всё работает, пока вы на одном сервере. А если у вас их два? Или десять? Куда девать сессии? Начинаются проблемы с синхронизацией, Redis, общими хранилищами… Альтернатива — JWT (JSON Web Token). В этой статье мы с вами:
https://habr.com/ru/articles/1017246/
#FastAPI #JWT #авторизация #аутентификация #Python #токены #API #бэкенд #JSON_Web_Token #OAuth2
-
JWT авторизация в FastAPI: от теории к практике
Представьте себе, что вы разработчик, и перед вами стоит задача: сделать так, чтобы после входа пользователь мог получать свои личные данные, не вводя пароль при каждом клике. Звучит как классическая задача аутентификации, правда? Традиционный подход — сессии. Вы логинитесь, сервер создаёт сессию, запоминает ваш ID у себя в базе данных, а вам выдаёт куку с ID этой сессии. Всё работает, пока вы на одном сервере. А если у вас их два? Или десять? Куда девать сессии? Начинаются проблемы с синхронизацией, Redis, общими хранилищами… Альтернатива — JWT (JSON Web Token). В этой статье мы с вами:
https://habr.com/ru/articles/1017246/
#FastAPI #JWT #авторизация #аутентификация #Python #токены #API #бэкенд #JSON_Web_Token #OAuth2
-
JWT авторизация в FastAPI: от теории к практике
Представьте себе, что вы разработчик, и перед вами стоит задача: сделать так, чтобы после входа пользователь мог получать свои личные данные, не вводя пароль при каждом клике. Звучит как классическая задача аутентификации, правда? Традиционный подход — сессии. Вы логинитесь, сервер создаёт сессию, запоминает ваш ID у себя в базе данных, а вам выдаёт куку с ID этой сессии. Всё работает, пока вы на одном сервере. А если у вас их два? Или десять? Куда девать сессии? Начинаются проблемы с синхронизацией, Redis, общими хранилищами… Альтернатива — JWT (JSON Web Token). В этой статье мы с вами:
https://habr.com/ru/articles/1017246/
#FastAPI #JWT #авторизация #аутентификация #Python #токены #API #бэкенд #JSON_Web_Token #OAuth2
-
JWT авторизация в FastAPI: от теории до работающего кода
При разработке современных веб-приложений и API вопрос безопасности и аутентификации пользователей встаёт одним из первых. Как сделать так, чтобы пользователь мог войти один раз и получать доступ к защищённым ресурсам без постоянного ввода пароля? Как организовать систему, которая легко масштабируется и не требует хранения состояния сессии на сервере? В этой статье я разберу подход, основанный на JWT (JSON Web Tokens), и покажу, как реализовать полноценную авторизацию в FastAPI — одном из самых быстрых и современных фреймворков для Python. Мы пройдём путь от архитектуры приложения до готового кода, который можно использовать в реальных проектах.
https://habr.com/ru/articles/1015148/
#FastAPI #авторизация #аутентификация #Python #токены #API #бэкенд #разработка #JSON_Web_Token #access_token
-
Как я писал сервис авторизации на Rust…
Работая над одним своим проектом я задумался о необходимости авторизации для его публичного запуска. В самом проекте я всем этим заниматься не стал, а решил разработать отдельный сервис авторизации на Rust, который в дальнейшем можно будет «прикручивать» к разным проектам с небольшими доработками. Для удобства доработок мне в дальнейшем пришла идея создания абстракций для подходящих под них модулей. С первого взгляда звучит легко, но на деле не всё так однозначно.
https://habr.com/ru/articles/1013338/
#разработка #программирование #rust #авторизация #аутентификация #токены #информационная_безопасность #информационные_технологии #криптография #производительность
-
Дизайн-токены: полный гайд по архитектуре и неймингу c примерами и задачками
Дизайн-токены — это язык, понятный как дизайнерам, так и разработчикам. Без него продукт получается разрозненным и неповоротливым. Токены и правильный нейминг помогают создавать новые разделы быстрее, а дизайнерам больше думать о сценариях и создавать визуал в рамках продукта, а не заниматься рутиной. Если в вашем коде и макетах до сих пор живут значения типа #0055FF — вы копите технический долг, ведь если понадобится изменить этот цвет на другой, придется менять и все компоненты, где используется это значение. А про разные темы вообще можете забыть... В конце статьи будут ссылки на доп. материалы из реальных дизайн-систем, откуда я брал информацию. Изучить тему
https://habr.com/ru/articles/1012980/
#дизайнсистема #дизайн #figma #tokens #токены #дизайнтокены #variables #design_system
-
Дизайн-токены: полный гайд по архитектуре и неймингу c примерами и задачками
Дизайн-токены — это язык, понятный как дизайнерам, так и разработчикам. Без него продукт получается разрозненным и неповоротливым. Токены и правильный нейминг помогают создавать новые разделы быстрее, а дизайнерам больше думать о сценариях и создавать визуал в рамках продукта, а не заниматься рутиной. Если в вашем коде и макетах до сих пор живут значения типа #0055FF — вы копите технический долг, ведь если понадобится изменить этот цвет на другой, придется менять и все компоненты, где используется это значение. А про разные темы вообще можете забыть... В конце статьи будут ссылки на доп. материалы из реальных дизайн-систем, откуда я брал информацию. Изучить тему
https://habr.com/ru/articles/1012980/
#дизайнсистема #дизайн #figma #tokens #токены #дизайнтокены #variables #design_system
-
Дизайн-токены: полный гайд по архитектуре и неймингу c примерами и задачками
Дизайн-токены — это язык, понятный как дизайнерам, так и разработчикам. Без него продукт получается разрозненным и неповоротливым. Токены и правильный нейминг помогают создавать новые разделы быстрее, а дизайнерам больше думать о сценариях и создавать визуал в рамках продукта, а не заниматься рутиной. Если в вашем коде и макетах до сих пор живут значения типа #0055FF — вы копите технический долг, ведь если понадобится изменить этот цвет на другой, придется менять и все компоненты, где используется это значение. А про разные темы вообще можете забыть... В конце статьи будут ссылки на доп. материалы из реальных дизайн-систем, откуда я брал информацию. Изучить тему
https://habr.com/ru/articles/1012980/
#дизайнсистема #дизайн #figma #tokens #токены #дизайнтокены #variables #design_system
-
Дизайн-токены: полный гайд по архитектуре и неймингу c примерами и задачками
Дизайн-токены — это язык, понятный как дизайнерам, так и разработчикам. Без него продукт получается разрозненным и неповоротливым. Токены и правильный нейминг помогают создавать новые разделы быстрее, а дизайнерам больше думать о сценариях и создавать визуал в рамках продукта, а не заниматься рутиной. Если в вашем коде и макетах до сих пор живут значения типа #0055FF — вы копите технический долг, ведь если понадобится изменить этот цвет на другой, придется менять и все компоненты, где используется это значение. А про разные темы вообще можете забыть... В конце статьи будут ссылки на доп. материалы из реальных дизайн-систем, откуда я брал информацию. Изучить тему
https://habr.com/ru/articles/1012980/
#дизайнсистема #дизайн #figma #tokens #токены #дизайнтокены #variables #design_system
-
Я прочитал статью про 9 AI-ревьюеров — и сломал свой бюджет на токены
Текст в ленту: AI-агент пишет код. Другой AI-агент его ревьюит. Первый фиксит замечания. Ревьюер проверяет фикс. 9 параллельных субагентов, 18 000 токенов в минуту каждый, и вопрос, который никто не задаёт: а кто проверяет ревьюера?
https://habr.com/ru/articles/1009190/
#Claude_Code #code_review #AIагенты #субагенты #LLM #автоматизация #токены
-
Я прочитал статью про 9 AI-ревьюеров — и сломал свой бюджет на токены
Текст в ленту: AI-агент пишет код. Другой AI-агент его ревьюит. Первый фиксит замечания. Ревьюер проверяет фикс. 9 параллельных субагентов, 18 000 токенов в минуту каждый, и вопрос, который никто не задаёт: а кто проверяет ревьюера?
https://habr.com/ru/articles/1009190/
#Claude_Code #code_review #AIагенты #субагенты #LLM #автоматизация #токены
-
Я прочитал статью про 9 AI-ревьюеров — и сломал свой бюджет на токены
Текст в ленту: AI-агент пишет код. Другой AI-агент его ревьюит. Первый фиксит замечания. Ревьюер проверяет фикс. 9 параллельных субагентов, 18 000 токенов в минуту каждый, и вопрос, который никто не задаёт: а кто проверяет ревьюера?
https://habr.com/ru/articles/1009190/
#Claude_Code #code_review #AIагенты #субагенты #LLM #автоматизация #токены
-
Я прочитал статью про 9 AI-ревьюеров — и сломал свой бюджет на токены
Текст в ленту: AI-агент пишет код. Другой AI-агент его ревьюит. Первый фиксит замечания. Ревьюер проверяет фикс. 9 параллельных субагентов, 18 000 токенов в минуту каждый, и вопрос, который никто не задаёт: а кто проверяет ревьюера?
https://habr.com/ru/articles/1009190/
#Claude_Code #code_review #AIагенты #субагенты #LLM #автоматизация #токены
-
Куда и почему уходят бабки на нейросети
Малоизвестный среди обычных людей факт: у нейросетей нет никаких "разговоров". Ты смотришь в веб-интерфейсе на "диалог" - но это обман, красивый фокус. Каждый раз, когда ты пишешь новое сообщение, все старые сообщения обрабатываются заново. У нейросетей по-настоящему многоразовых задач не существует. Если результат немного поменялся — тебе просто не покажут в веб-интерфейсе изменившиеся сообщения. Иначе пользователь чувствовал бы себя как в дурке, ИИ его бы постоянно как бы газлайтил, изменяя старые ответы без предупреждения. По факту, история переписки в ИИ-чатах фиксирована, тем или иным способом. И стоило бы это вагон. Интересно. Читать далее
https://habr.com/ru/companies/bar/articles/991126/
#LLM #transformer #attention #KVcache #inference #GPU #CUDA #ChatGPT #Claude #токены
-
Куда и почему уходят бабки на нейросети
Малоизвестный среди обычных людей факт: у нейросетей нет никаких "разговоров". Ты смотришь в веб-интерфейсе на "диалог" - но это обман, красивый фокус. Каждый раз, когда ты пишешь новое сообщение, все старые сообщения обрабатываются заново. У нейросетей по-настоящему многоразовых задач не существует. Если результат немного поменялся — тебе просто не покажут в веб-интерфейсе изменившиеся сообщения. Иначе пользователь чувствовал бы себя как в дурке, ИИ его бы постоянно как бы газлайтил, изменяя старые ответы без предупреждения. По факту, история переписки в ИИ-чатах фиксирована, тем или иным способом. И стоило бы это вагон. Интересно. Читать далее
https://habr.com/ru/companies/bar/articles/991126/
#LLM #transformer #attention #KVcache #inference #GPU #CUDA #ChatGPT #Claude #токены
-
Как устроены AI токены: реальные расходы на запросы, принципы токенизации и разница с количеством слов
Привет, на связи Егор! Я пишущий эксперт
https://habr.com/ru/companies/gptunnel/articles/986526/
#токены_llm #токенизация #что_такое_токенизация #токен #токены #ии_и_машинное_обучение
-
Как устроены AI токены: реальные расходы на запросы, принципы токенизации и разница с количеством слов
Привет, на связи Егор! Я пишущий эксперт
https://habr.com/ru/companies/gptunnel/articles/986526/
#токены_llm #токенизация #что_такое_токенизация #токен #токены #ии_и_машинное_обучение
-
Как устроены AI токены: реальные расходы на запросы, принципы токенизации и разница с количеством слов
Привет, на связи Егор! Я пишущий эксперт
https://habr.com/ru/companies/gptunnel/articles/986526/
#токены_llm #токенизация #что_такое_токенизация #токен #токены #ии_и_машинное_обучение
-
Как устроены AI токены: реальные расходы на запросы, принципы токенизации и разница с количеством слов
Привет, на связи Егор! Я пишущий эксперт
https://habr.com/ru/companies/gptunnel/articles/986526/
#токены_llm #токенизация #что_такое_токенизация #токен #токены #ии_и_машинное_обучение
-
RLM-Toolkit: Полное руководство по обработке 10M+ токенов
Почему LangChain не справляется с 10M+ токенов? Разбираемся в RLM — новой парадигме обработки контекста с InfiniRetri (100% accuracy на Needle-in-Haystack), CIRCLE-безопасностью и поддержкой 75+ провайдеров. Полный туториал с кодом.
https://habr.com/ru/articles/986280/
#RLM #LLM #RAG #InfiniRetri #LangChain #AI_Security #Python #контекст #токены #embeddings
-
Архитектура дизайн-токенов: подход, который спасает от хаоса и сохраняет нервы
Привет, я Настя Кутина, дизайнер в студии Code Pilots. В этой статье я расскажу о том, как мы подходим к архитектуре дизайн-токенов, почему от неё зависит устойчивость всей дизайн-системы и как хорошо выстроенная структура помогает командам работать быстрее, чище и без хаоса. Если вы когда-нибудь открывали чужую Figma и пытались понять, почему один и тот же цвет назван по-разному, отступы живут собственной жизнью, а токены выглядят как «история эволюции проекта», — вы знаете, насколько важна правильная архитектура. Я покажу, как можно организовать токены так, чтобы даже при масштабировании не возникало дублей, конфликтов и «магии», понятной только автору. Разберём уровни, принципы, семантику, типографику и то, как всё это складывается в единую, предсказуемую систему, которая облегчает работу и дизайнерам, и разработчикам. Поглядеть