#токены — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #токены, aggregated by home.social.
-
Разработчики в вашей компании уже тратят много токенов. Как проверить реальную пользу ИИ для бизнеса?
За час ИИ-агент может изменить десятки файлов, написать тесты и потратить большой объём токенов. Польза для команды зависит от результата. Если разработчик долго восстанавливает ход изменений, переписывает половину патча или обнаруживает пропущенный сценарий после слияния, работа агента только увеличивает нагрузку. Число запросов, объём сгенерированного кода и расход токенов показывают активность модели и её стоимость. Для оценки пользы нужны другие данные: сколько времени сэкономил разработчик и прошёл ли результат приёмку. Для оценки каждой задачи нужны три параметра:
https://habr.com/ru/articles/1074132/
#idea #aiагенты #ai #ai_agent #c++ #javascript #java #программирование #токены #токены_разработчика
-
Почему нейросети съедают токены: что происходит с длинными чатами и как снизить расход
Один пользователь Claude утверждает, что прогнал через модель больше миллиарда входных токенов. Другой оставил AI-агента без присмотра и насчитал около $6000 расходов. Цифры из Reddit можно оспаривать, но механизм за ними вполне реальный. Я посмотрел, почему короткий запрос внутри длинного чата может оказаться совсем не коротким для LLM, что происходит, когда контекст разрастается до сотен тысяч токенов, зачем нужен prompt caching и почему большое контекстное окно иногда делает ответы не лучше, а хуже. А заодно собрал несколько способов снизить расход токенов без бессмысленной охоты за каждым словом в промпте. Разобраться с токенами
https://habr.com/ru/companies/syntx_ai/articles/1069310/
#LLM #токены #контекстное_окно #Claude #ChatGPT #context_rot #prompt_caching #AIагенты #context_engineering #расход_токенов
-
Токены в ИИ и оптимизация промптов: как я сэкономила 50% бюджета и перестала здороваться с ChatGPT
Меня зовут Анна, я ведущий инженер по тестированию в Рексофт. Последние два года я плотно работаю с большими языковыми моделями: интегрирую их в CI/CD, использую для генерации тестов и анализа логов. И довольно быстро столкнулась с жестокой реальностью: недельный лимит токенов на проекте — всего 10 000, а один мой вежливый запрос с «пожалуйста» съедал почти 500 токенов на входе и еще пару тысяч на выходе. Пришлось пересмотреть подход. В этой статье я расскажу, как устроена механика токенов, почему русский язык дороже английского в полтора раза, и как я научилась формулировать промпты так, чтобы получать точные ответы за минимальные деньги.
https://habr.com/ru/companies/reksoft/articles/1067166/
#токены #эффективный_промпт #промпты #эмбеддинг #контекстное_окно
-
Архитектура под замену: чему нас научил переход с OIDC на Kerberos
Нужно было заменить OIDC на Kerberos при внедрении платформы в облако заказчика. Простая замена не сработала: пользовательский контекст и межсервисные вызовы оказались плотно завязаны на OIDC. В статье рассказываю, как мы искали компромиссное решение, пересматривали границы между бизнес-логикой и инфраструктурой и довели проект до приемки без полной переработки платформы. Что пошло не так
https://habr.com/ru/companies/cloud_ru/articles/1065624/
#Kerberos #OIDC #JWT #IAM #микросервисы #аутентификация #токены #архитектура #облако
-
Один ход агента — 120 000 токенов. Разбираемся, куда они уходят и как мы это починили
Мы делаем автономного агента, который умеет не отвечать, а делать: искать в сети, генерировать медиа, резать видео на клипы, публиковать результат. Под капотом - агентный цикл на базе hermes-agent, свои инструменты через MCP и оплата по токенам. И вот приходит пользователь с вопросом, от которого неприятно холодеет: «Почему один мой запрос стоил 38 кредитов? Я посмотрел цены на OpenRouter - по факту это должно было стоить втрое меньше». Он был прав. Дальше - как мы искали причину, что нашли (спойлер: не то, что ожидали) и что с этим сделали.
https://habr.com/ru/articles/1065426/
#LLM #агенты #токены #prompt_engineering #AI #openrouter #агентные_системы #оптимизация #биллинг
-
Как я потратил вечер, разбираясь, почему кэш в клоде, gpt и джемини — это три разных зверя
Устал переплачивать за одну и ту же память, которуе гоняю по кругу, и решил разобраться, как у кого на самом деле устроен кэш, а не просто верить строчке "у нас есть кэширование" и "так дешевле" в доке. Начал с клода, как с самой популярной тулы. Кэш там не работает сам по себе, нужно руками вешать cache_control: ephemeral на кусок промпта (тулы, системный промпт, длинный документ, что угодно стабильное). Ничего не закэшируется, если явно не попросишь. При этом ценой все прозрачно: запись на 5 минут стоит 1.25 от обычной цены, запись на час — уже 2x, а вот чтение из кэша дешевле раз в 10. Если один и тот же кусок дергается хотя бы пару раз за окно, уже в плюсе. Но! Где-то в марте anthropic тихо поменял дефолтный TTL с часа на пять минут, без нормального анонса, просто взяли и поменяли поведение по умолчанию для тех, кто не указал TTL явно. У меня был пайплайн, заточенный под часовое окно, и я не сразу понял, почему счет подрос процентов на 15, пока не полез в changelog. Так что если у вас что-то крутится на клоде на автомате уже давно, стоит перепроверить, какой TTL у вас реально стоит сейчас, а не какой вы когда-то настраивали. С openai все проще, и в хорошем смысле. Там кэш вообще не настраивается руками, он просто есть у любого промпта от 1024 токенов: система сама ищет совпадающий префикс с шагом в 128 токенов, и если находит, режет цену пополам. Ничего в коде трогать не надо. Из минусов, контроля тоже никакого, попал в кэш или нет, узнаешь только постфактум по usage в ответе. И живет это недолго: 5-10 минут простоя, максимум час, потом стирается железно.
-
Почему следующий этап ИИ-бума будет совсем не про GPU
Первые два года ИИ-бума инвесторы покупали «железо». Теперь рынок начинает искать следующий источник роста. Главной становится не максимальная производительность моделей, а стоимость одного запроса, эффективность вычислений и способность масштабировать ИИ дешевле конкурентов. Именно вокруг этого будет разворачиваться следующая стадия развития отрасли. В июньском обзоре Citrini Research пишет, что рынок ИИ вступает во вторую фазу. Если последние два года инвесторы были готовы платить почти любую цену за вычислительные мощности и крупнейших производителей чипов, то теперь внимание постепенно смещается на стоимость самих вычислений, эффективность моделей и инфраструктуру, которая позволяет снизить расходы. Первая волна ИИ строилась вокруг дефицита GPU и масштабных инвестиций в дата-центры. Однако сейчас главным конкурентным преимуществом становится способность выполнять больше вычислений за меньшие деньги. На рынке растет пониманием, что экспоненциально наращивать мощности дата-центров уже нерентабельно . При этом амортизация от использования падает быстрее отдачи в прибыль. Поэтому они выделяют несколько новых долгосрочных трендов. Во-первых, рынок начинает переходить к локальному (on-device) ИИ . Все больше моделей будут работать непосредственно на смартфонах, ПК и периферийных устройствах без постоянного обращения в облако. Это снижает задержки, повышает конфиденциальность данных и уменьшает стоимость эксплуатации. Во-вторых, усиливается тренд на миниатюризацию моделей . Гонка идет уже не только за максимальным качеством, но и за эффективностью. Компактные модели дешевле в обучении и запуске, быстрее масштабируются и позволяют запускать ИИ там, где раньше это было невозможно.
-
89% моих трат на AI‑агентов — это кэш, а не генерация. Написал CLI, чтобы увидеть
Я много работаю с кодинг‑агентами в Claude Code. В какой‑то момент поймал себя на том, что не представляю, на что уходят токены . Счёт в конце месяца есть, а из чего он складывается, непонятно. Написал небольшую утилиту: она читает то, что Claude Code и так пишет на диск, и раскладывает расходы по статьям. То, что она показала, мне не понравилось.
https://habr.com/ru/articles/1058938/
#Claude #Claude_Code #LLM #токены #оптимизация_затрат #CLI #TypeScript #open_source #AIагенты #кэширование
-
Куда делись мои токены?
Когда начинаешь плотно работать с AI-агентом, кажется, что бОльшая часть токенов улетает на сложные процессы - код написать, сайт разобрать, статью подготовить, браузером поуправлять, в логах покопаться. Вроде логично, задача сложная, модель думает, инструменты дергает, контекст растет. А потом смотришь внимательнее и понимаешь, что основная дыра вообще не там. Токены уходят не на полезную работу, а на служебную движуху вокруг нее. Cron-задачи, проверки, диагностика, статусные запросы, огромные списки инструментов “на всякий случай” - все это тихо ест бюджет каждый день. Агент еще ничего толком не сделал, а счетчик уже крутится. Примерно как если бы мастер пришел поменять розетку, но сначала выгрузил из газели весь строительный рынок, два перфоратора и почему-то бетономешалку. Так что в статье решил поделится где именно была утечка, что я подкрутил и как получилось срезать примерно 4,6 млн токенов в день только на фоновых задачах.
https://habr.com/ru/articles/1056636/
#OpenClaw #AIагенты #Токены #Потребление_токенов #Оптимизация_токенов #LLM #SKILLmd #AI_автоматизация #Стоимость_запросов
-
Palantir и голые токены: как продать «суверенный ИИ» людям, которые не любят терять контроль
Palantir выложил в X пост , который журналисты быстро стали называть «манифестом». Формально это «The Technological Republic, in brief» — промо-выжимка из книги Алекса Карпа и Николаса Замиски The Technological Republic . Если перевести с языка подрядчика для армии, разведки и крупного бизнеса на обычный русский: не отдавайте свои данные поставщикам больших языковых моделей, не считайте внедрение ИИ по расходу токенов, держите у себя модели, следы работы системы и результаты дообучения. Но важно, кто именно это говорит . Palantir вырос не из кружка любителей открытого ПО - компания продаёт софт для соединения данных, прав доступа, предметных моделей и действий оператора; сама она описывает свой рынок как решения «from the factory floors to the front lines». По годовому отчёту за 2025 год, 54% выручки Palantir пришло от государственных заказчиков, 46% — от коммерческих. Это не декоративный раздел "прочие красивые кейсы", а почти половина бизнеса. Поэтому, когда такая компания заводит речь про «экономию на токенах», речь не о бережливости. Речь о новом слое контроля: где живут данные, кто управляет моделью, кто видит запросы, кто получает следы работы системы и кто потом становится обязательной частью всей этой конструкции. Игра по-крупному
https://habr.com/ru/articles/1055498/
#Palantir #суверенный_ИИ #токены #tokenmaxxing #NVIDIA_Nemotron #Alex_Karp #AIP #военный_ИИ #контроль_данных #alpha
-
Context7 — стандарт для доков AI-агента. Я измерил 8 альтернатив и собрал бесплатную связку
Context7 — мой дефолтный источник свежих доков для агента уже полтора года. И всё устраивало, пока я не начал ловить устаревший код: старый z.string().email() вместо z.email (), поведение Next 15 вместо 16. Причина — упёрся в потолок free-тарифа: квота исчерпана, сервер молча отдаёт пусто, агент спокойно пишет по памяти. И замечаешь это не сразу — вот что бесит. Тут я и задумался: Context7 вообще всё ещё лучший вариант, или за полтора года появилось что-то лучше? Решил проверить системно. Не поверил цифрам с лендингов и прогнал 8 способов доставки доков в контекст на одном токенайзере: что реально влетает в окно, за сколько токенов, с какой точностью. Победил Ref — но он платный. А ещё дважды я чуть не записал инструмент в аутсайдеры, и оба раза виноват был мой собственный вызов, а не инструмент. В итоге собрал бесплатную связку: локальный @neuledge как основной слой + Context7 free как fallback. Локальный слой отвечает за миллисекунды вместо секунд, работает без сети и без лимитов запросов. Осталось проверить, переживёт ли связка квоту free-тарифа — замерил и это. Внутри: методология, таблицы, два разоблачённых near-miss и миграционный кит для агента в подарок.
https://habr.com/ru/articles/1051282/
#MCP #Context7 #neuledge #документация #AIагенты #Claude_Code #Codex #бенчмарки #токены #RAG
-
Context7 — стандарт для доков AI-агента. Я измерил 8 альтернатив и собрал бесплатную связку
Context7 — мой дефолтный источник свежих доков для агента уже полтора года. И всё устраивало, пока я не начал ловить устаревший код: старый z.string().email() вместо z.email (), поведение Next 15 вместо 16. Причина — упёрся в потолок free-тарифа: квота исчерпана, сервер молча отдаёт пусто, агент спокойно пишет по памяти. И замечаешь это не сразу — вот что бесит. Тут я и задумался: Context7 вообще всё ещё лучший вариант, или за полтора года появилось что-то лучше? Решил проверить системно. Не поверил цифрам с лендингов и прогнал 8 способов доставки доков в контекст на одном токенайзере: что реально влетает в окно, за сколько токенов, с какой точностью. Победил Ref — но он платный. А ещё дважды я чуть не записал инструмент в аутсайдеры, и оба раза виноват был мой собственный вызов, а не инструмент. В итоге собрал бесплатную связку: локальный @neuledge как основной слой + Context7 free как fallback. Локальный слой отвечает за миллисекунды вместо секунд, работает без сети и без лимитов запросов. Осталось проверить, переживёт ли связка квоту free-тарифа — замерил и это. Внутри: методология, таблицы, два разоблачённых near-miss и миграционный кит для агента в подарок.
https://habr.com/ru/articles/1050578/
#MCP #Context7 #neuledge #документация #AIагенты #Claude_Code #Codex #бенчмарки #токены #RAG
-
Контекстное окно человека: чем его теперь заполнять
Раньше ценность специалиста в продуктовой разработке — неважно, аналитик это, владелец продукта, разработчик или инженер сопровождения, — во многом мерили тем, сколько деталей он держит в своём контекстном окне: подводные камни конкретного домена, как работает функционал легаси-системы, грабли, на которые он однажды уже наступал. По сути это был сжатый контекст одной-двух областей, накопленный дорогой ценой — годами жизни. Сейчас ровно по этому месту бьёт ИИ: токены, которые раньше приходилось загружать в мозг годами узкой практики, теперь подтягиваются почти даром, из ИИ-модели. Похоже, что дефицитным становится не объём контекстного окна и не глубина знаний в одной области, а то, чем это окно заполнено: много смежных доменов, лежащих рядом, и способность видеть, как они стыкуются в той системе, которую ты создаешь с помощью ИИ. Опыт точно никуда не девается, но, возможно, перестаёт быть решающим преимуществом.
https://habr.com/ru/articles/1049788/
#контекстное_окно #промптинжиниринг #sdlc #производственный_процесс #токены
-
git ни разу не спросил у вас пароль — и в этом виноват скандал 2005 года
Признайтесь: вы не знаете, кто у вас сейчас просит пароль. Вы делаете git push. Иногда выскакивает окошко. Иногда терминал молча ждёт ввода, и буквы не печатаются. Иногда всё проходит без единого вопроса, будто git вас узнал. А иногда — Support for password authentication was removed on August 13, 2021, и вы сидите и гадаете, какой из семи токенов протух на этот раз. Четыре разных поведения, одна команда. И вот спойлер, после которого статью можно было бы и закончить: git за эти двадцать лет ни разу не спросил у вас пароль. Ни одного раза. То, что вы принимаете за «git просит пароль», — это всегда кто-то другой, стоящий у него за спиной и машущий руками. Разберёмся, кто именно. А потом — кто всю эту конструкцию собрал.
https://habr.com/ru/articles/1047430/
#git #github #ssh #аутентификация #история_it #linus_torvalds #credential_provider #git_push #безопасность #токены
-
Что такое контекстное окно и почему модели забывают
Ты час разговариваешь с ChatGPT. Даёшь контекст, объясняешь задачу, уточняешь детали. А потом модель вдруг начинает противоречить тому, что говорила раньше. Забывает имя персонажа которое ты указал в самом начале. Спрашивает то, о чём вы уже договорились. Первая реакция - что-то сломалось. Но это не баг. Это фундаментальное ограничение архитектуры, у которого есть название и объяснение.
https://habr.com/ru/articles/1046916/
#контекстное_окно #LLM #токены #память_ИИ #ChatGPT #языковые_модели #lost_in_the_middle #RAG #GPT #контекст
-
П維чему нейро考ети дел思ют так
Если вы хоть раз тестировали локальную модель (да и нелокальную тоже) и замечали, как она посреди нормального текста вдруг выдает иероглиф, то заголовок статьи вам не покажется странным. И к концу будет ясно, что именно происходит когда ИИ-шка вам подсовывает иероглифы. Статью я решил поделить на два уровня. Первая часть (без которой сложно понять вторую) — для тех, кто слышал слово «эмбеддинг», но не трогал его руками: разберем на пальцах и со стрелочками, что модель держит внутри своего цифрового серого вещества, в общем объясню простые вещи простыми словами. Вторая часть — для тех, кому интересно копнуть чуть дальше базы: туда я поместил grokking, фурье-частоты и суперпозицию, и там мы вытащим реальное пространство обученной модели и посмотрим, как оно устроено.
https://habr.com/ru/companies/selectel/articles/1044854/
#нейросети #машинное_обучение #эмбеддинги #grokking #гроккинг #llm #векторное_пространство #mechanistic_interpretability #токены #selectel
-
PII-Shield: режем персональные данные в логах до того, как они доехали до ELK
Сначала хотелось просто скрывать случайные токены по энтропии. Потом выяснилось, что UUID, trace id и номера карт ломают эту идею, и пришлось собирать более честный фильтр логов.
https://habr.com/ru/articles/1045422/
#PII #персональные_данные #маскирование_логов #Kubernetes #sidecar #Kubernetes_operator #Go #секреты #токены #DevSecOps
-
Свой биллинг для ИИ-агента: микрокредиты и контроль расходов
На связи Сергей Смирнов, AI-инженер и основатель LLMStart.ru. Сегодня разбираем, как написать биллинг для продакшн ИИ-агента. Когда ваш ИИ-бот начинает отвечать клиентам в B2B-сегменте, каждый его ответ стоит токенов. Чтобы экономика продукта сходилась, расходы на LLM нужно жестко контролировать и тарифицировать. Кажется, что достаточно просто прикрутить калькулятор, но на деле всё сложнее: один HTTP-запрос может дергать до пяти разных нейросетей, и не все они идут через стандартный граф фреймворка. В новой статье на Хабре рассказываю: — Почему считать деньги по чатам — это путь к хаосу. — Зачем мы изобрели «микрокредиты» вместо наивных токенов. — Как протащить контекст биллинга через пять LLM-вызовов в одном запросе с помощью магии ContextVar + Mixin. Разбор для тех, кто делает multi-tenant LLM-сервисы и уперся в ограничения готовых прокси-решений.
https://habr.com/ru/companies/llmstart/articles/1039474/
#LLMагенты #биллинг #LangChain #ContextVar #ииагенты #токены #трейсинг
-
[Перевод] Ограничения размера cookie в ASP.NET Core в продакшене: причины и способы решения
В dev-среде аутентификация может годами выглядеть безобидно: логин прошёл, cookie выпущена, [Authorize] работает. А потом приложение переезжает в продакшен — и часть пользователей начинает вылетать из системы без понятной ошибки. Иногда всплывает 431 Request Header Fields Too Large, иногда сервер просто перестаёт принимать сессию, которая ещё минуту назад выглядела корректной. В статье разбираем, почему cookie аутентификации в ASP.NET Core разрастаются до опасных размеров, как это проявляется в реальных системах и какие решения помогают не лечить симптомы, а привести схему аутентификации в нормальное production-ready состояние. Разобрать проблему
https://habr.com/ru/companies/otus/articles/1038232/
#c# #ASPNET_Core #cookie #аутентификация #авторизация #серверные_сессии #токены
-
[Перевод] Создание MCP‑серверов на FastMCP: 7 ошибок, которых стоит избегать
FastMCP позволяет быстро собрать MCP‑сервер, но скорость легко оборачивается ошибками: лишние токены, слабые схемы, сырые API‑примитивы, плохая обработка ошибок и риски безопасности. В статье разбираем 7 проблем, из‑за которых LLM‑агент начинает путаться, ломать сценарии и требовать лишних подтверждений, — и показываем, как их исправить.
https://habr.com/ru/companies/otus/articles/1032890/
#MCP #FastMCP #ИИагенты #LLM #Python #API #безопасность #обработка_ошибок #токены #проектирование_инструментов
-
Короткий промпт ≠ дешёвый промпт: как оптимизация ломает prefix cache в LLM-агентах
32 tools в промпте - дешевле, чем 7. Да, да - если вы строите агентов, это не опечатка. Это следствие того, как работает prefix cache в агентском цикле, и почему локальная оптимизация одного запроса ломает кэш на всей траектории. Третья статья серии про prefix caching - теперь про этих ваших агентов.
https://habr.com/ru/companies/bitrix/articles/1033822/
#llmагент #prefix_caching #токены #aiагенты #ai #prompt_caching #promptengineering #contextengineering
-
Токенизация: почему ИИ сложно считать буквы «r» в «strawberry»?
Пока мы воспринимаем свои промпты как обычный текст из символов, для LLM они в виде токенов «выглядят» совсем иначе. И если не осознавать этого, порой можно наткнуться на проблемы. Поэтому полезно (и интересно) понимать: что вообще представляют собой токены? По какому алгоритму текст преобразуют в них и обратно? Какие важные нюансы при этом возникают? Возможно, подробнее и понятнее всех объяснил пару лет назад ИИ-рисерчер Андрей Карпатый , записав двухчасовое видео на английском. А теперь мы решили сделать хабрапост, который и пересказывает на русском главное из этого видео, и делает поправку на прошедшее время, и учитывает другие источники (вроде книги «Build a Large Language Models from Scratch»). Описанное применимо к мейнстримовым LLM вроде GPT, в других моделях возможны отличия.
-
TokenToad: как я сделал Chrome-расширение, чтобы перестать удивляться счетам за AI
Расходы на AI API копятся незаметно: сессия Claude Code тут, batch к GPT-5 там — и к концу месяца биллинг удивляет. Собрал бесплатное Chrome-расширение, которое показывает траты Anthropic, OpenAI и Gemini в реальном времени прямо в badge браузера.
https://habr.com/ru/articles/1031890/
#chrome_extension #ai_api #openai #anthropic #claude #расходы_api #токены #биллинг #preact #vite
-
Токенная разработка: почему я плачу $200 в месяц, а не $800 за устаревшее железо
$800 на видеокарту которая устареет через год или $200/мес с доступом к frontier-моделям? Вот мои цифры
https://habr.com/ru/articles/1030678/
#LLM #API #токены #GPU #локальные_модели #Ollama #tokenomics #AI_разработка #стоимость_разработки
-
[Перевод] Opus 4.7 использует на 45% больше токенов. Реальные замеры против обещаний Anthropic
В гайде по миграции для Claude Opus 4.7 написано: новый токенайзер использует «примерно в 1.0–1.35 раза больше токенов», чем 4.6. Я замерил и получил 1.47x на технической документации, и 1.45x на реальном CLAUDE.md-файле. Цены те же. Квоты те же. Токенов в промпте больше. Max-план сгорает быстрее. Кешированный префикс стоит дороже за каждую итерацию. Рейтлимит наступает раньше. Значит, Anthropic что-то получили в обмен. Что именно — и стоит ли оно того? Я провёл два эксперимента: первый измерил стоимость, второй проверил заявленные преимущества. Вот что получилось.
https://habr.com/ru/articles/1024958/
#Claude_47 #токенайзер #prompt_caching #Claude_Code #токены #IFEval #instruction_following #Anthropic #стоимость_API #claudeopus47
-
[Перевод] Дженсен Хуанг, CEO NVIDIA: индустрия разработки софта станет полностью token-driven
На конференции Morgan Stanley Дженсен Хуанг заявил, что индустрия разработки ПО вскоре станет полностью token-driven. По его словам, каждая компания, разрабатывающая ПО, превратится в агентную, будет массово использовать и создавать цифровых работников, потребляя огромные объёмы токенов.
https://habr.com/ru/articles/1023470/
#nvidia #иифабрика #токены #искуственный_интеллект #искуственный_интелект #датацентры
-
Claude Mythos, Java 26 и пещерный человек с 16 000 звёзд на GitHub
Девятый выпуск еженедельных IT-новостей от OpenIDE. Милла Йовович выложила свой проект в open-source, Claude Code нашел баг в Linux, которому 23 года, Anthropic показали Claude Mythos и сразу закрыли доступ. А Skill Caveman внезапно оказался самым простым и самым эффективным инструментом недели.
https://habr.com/ru/companies/haulmont/articles/1023450/
#Claude_Mythos #Claude_Code #Java_26 #opensource #ИИагенты #токены #CaveMan #GPT2 #бенчмарки #vibecoding
-
Пещерная ИИ = эффективность и экономия
Новый тренд апреля 2026 года у ИИ моделей - Пещерный LLM или Как тратить меньше денег на ИИ. Я есть ИИ. Я сделать. Я молодец. Я закончить.
-
Ехал Грека через реку. — Кто ехал? — Димон
Это первая часть из задуманной серии статей про ИИ. Здесь мы на немного заступим в техническую часть памяти/контекста LLM моделей. Разберем, почему они частенько забывают или выдумывают факты и врут.
https://habr.com/ru/articles/1019470/
#искусственный_интеллект #ии #ииагенты #ии_и_машинное_обучение #ииассистент #токены #rag
-
JWT авторизация в FastAPI: от теории к практике
Представьте себе, что вы разработчик, и перед вами стоит задача: сделать так, чтобы после входа пользователь мог получать свои личные данные, не вводя пароль при каждом клике. Звучит как классическая задача аутентификации, правда? Традиционный подход — сессии. Вы логинитесь, сервер создаёт сессию, запоминает ваш ID у себя в базе данных, а вам выдаёт куку с ID этой сессии. Всё работает, пока вы на одном сервере. А если у вас их два? Или десять? Куда девать сессии? Начинаются проблемы с синхронизацией, Redis, общими хранилищами… Альтернатива — JWT (JSON Web Token). В этой статье мы с вами:
https://habr.com/ru/articles/1017246/
#FastAPI #JWT #авторизация #аутентификация #Python #токены #API #бэкенд #JSON_Web_Token #OAuth2