home.social

#токен — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #токен, aggregated by home.social.

  1. Экономим до 78% на токенах при работе с LLM — и получаем более точные ответы

    Всем привет! Если вы работаете с LLM — ChatGPT, Claude, DeepSeek, Qwen или другими — через API, то знаете: токены стоят денег. Контекстное окно у любой модели не резиновое, и чем больше кода вы отправляете, тем дороже каждый запрос. Новые модели с огромными контекстными окнами выходят каждый месяц и дешевеют, но зачем платить за то, что можно не отправлять? В этой статье я расскажу про TokenCompress.com — прокси-сервис, который сжимает код перед отправкой в LLM. В среднем он убирает ~78% токенов, при этом качество ответов не падает, а в ряде случаев даже растёт — потому что модель получает только релевантный контекст, без шума.

    habr.com/ru/articles/1020082/

    #llm #оптимизация #оптимизация_затрат #langchain #python #rust #token #токен #compress #сжатие

  2. Экономим до 78% на токенах при работе с LLM — и получаем более точные ответы Всем привет! Если вы работаете с LLM ...

    #llm #оптимизация #оптимизация #затрат #langchain #python #rust #token #токен #compress #сжатие

    Origin | Interest | Match
  3. Мой первый open source проект с Cursor и Opus 4.6 — GenAI Prices Parser

    Запустил свой первый open source проект. Задача простая, но полезная: автоматический сбор цен на LLM-модели всех основных провайдеров и загрузка в PostgreSQL для BI-аналитики. Что делает: — Каждый день скачивает актуальные цены из базы pydantic/genai-prices (29 провайдеров, 1100+ связок провайдеров и моделей) — Раскладывает в плоскую таблицу: провайдер, модель, контекстное окно, цена input/output за 1M токенов, кэширование, аудио — Загружает в PostgreSQL: текущий снимок + историческая витрина для отслеживания динамики цен

    habr.com/ru/articles/1005240/

    #genai #llm #ai #token #токен #ИИ #ииагенты #ииассистент #иимодель #ии_бот

  4. Как устроены AI токены: реальные расходы на запросы, принципы токенизации и разница с количеством слов

    Привет, на связи Егор! Я пишущий эксперт

    habr.com/ru/companies/gptunnel

    #токены_llm #токенизация #что_такое_токенизация #токен #токены #ии_и_машинное_обучение

  5. Токены в нейросетях. Что это и откуда берётся?

    А вы задумывались, как текстовые нейросети видит текст, который мы им отправляем, если она сама мыслит цифрами? В данной статье мы разберём как нейросеть видит текст , который мы ей отправили, познакомимся очень близко с термином ТОКЕНЫ , и даже сами создадим те самые токены на Python . Узнать о ТОКЕНАХ

    habr.com/ru/articles/938798/

    #токен #токены #нейросети #нейросети_python #нейросеть #нейросеть_локально #обучение_нейросетей #обучение_нейросети #обучение_нейросетевых_моделей

  6. Атаки через новый OAuth flow, authorization code injection, и помогут ли HttpOnly, PKCE и BFF

    В статье детально рассмотрим интересный вектор атаки на приложения, использующие OAuth/OIDC, разберем, какие предусловия для этого нужны, и увидим, что они не так недостижимы, как может показаться на первый взгляд. Затронем использование паттерна Backend-for-Frontend и способы реализации PKCE для confidential clients, попутно проверив, помогают ли они защититься от рассматриваемой атаки. Взглянем и на другие существующие рекомендации и предлагаемые лучшие практики, а также подумаем над прочими мерами защиты, которые действительно могут помочь. Все это с примерами, схемами и даже видео. Материал будет интересен как для занимающихся разработкой приложений, так и для представляющих атакующую сторону.

    habr.com/ru/articles/880544/

    #аутентификация #authentication #pkce #backendforfrontend #bff #authorization_code_injection #confidential_clients #токен #session_id #httponly

  7. Атаки через новый OAuth flow, authorization code injection, и помогут ли HttpOnly, PKCE и BFF

    В статье детально рассмотрим интересный вектор атаки на приложения, использующие OAuth/OIDC, разберем, какие предусловия для этого нужны, и увидим, что они не так недостижимы, как может показаться на первый взгляд. Затронем использование паттерна Backend-for-Frontend и способы реализации PKCE для confidential clients, попутно проверив, помогают ли они защититься от рассматриваемой атаки. Взглянем и на другие существующие рекомендации и предлагаемые лучшие практики, а также подумаем над прочими мерами защиты, которые действительно могут помочь. Все это с примерами, схемами и даже видео. Материал будет интересен как для занимающихся разработкой приложений, так и для представляющих атакующую сторону.

    habr.com/ru/articles/880544/

    #аутентификация #authentication #pkce #backendforfrontend #bff #authorization_code_injection #confidential_clients #токен #session_id #httponly

  8. Атаки через новый OAuth flow, authorization code injection, и помогут ли HttpOnly, PKCE и BFF

    В статье детально рассмотрим интересный вектор атаки на приложения, использующие OAuth/OIDC, разберем, какие предусловия для этого нужны, и увидим, что они не так недостижимы, как может показаться на первый взгляд. Затронем использование паттерна Backend-for-Frontend и способы реализации PKCE для confidential clients, попутно проверив, помогают ли они защититься от рассматриваемой атаки. Взглянем и на другие существующие рекомендации и предлагаемые лучшие практики, а также подумаем над прочими мерами защиты, которые действительно могут помочь. Все это с примерами, схемами и даже видео. Материал будет интересен как для занимающихся разработкой приложений, так и для представляющих атакующую сторону.

    habr.com/ru/articles/880544/

    #аутентификация #authentication #pkce #backendforfrontend #bff #authorization_code_injection #confidential_clients #токен #session_id #httponly

  9. Атаки через новый OAuth flow, authorization code injection, и помогут ли HttpOnly, PKCE и BFF

    В статье детально рассмотрим интересный вектор атаки на приложения, использующие OAuth/OIDC, разберем, какие предусловия для этого нужны, и увидим, что они не так недостижимы, как может показаться на первый взгляд. Затронем использование паттерна Backend-for-Frontend и способы реализации PKCE для confidential clients, попутно проверив, помогают ли они защититься от рассматриваемой атаки. Взглянем и на другие существующие рекомендации и предлагаемые лучшие практики, а также подумаем над прочими мерами защиты, которые действительно могут помочь. Все это с примерами, схемами и даже видео. Материал будет интересен как для занимающихся разработкой приложений, так и для представляющих атакующую сторону.

    habr.com/ru/articles/880544/

    #аутентификация #authentication #pkce #backendforfrontend #bff #authorization_code_injection #confidential_clients #токен #session_id #httponly

  10. Аутентификация go с использованием токенов PASETO

    В этой статье мы напишем небольшой сервис аутентификации на go с использованием токенов PASETO. Этот токен можно использовать вместо JWT для процесса аутентификации. Если хотите узнать о PASETO подробнее, то можете почитать статьи на Хабре или гитхабе .

    habr.com/ru/companies/first/ar

    #paseto #go #аутентификация #токен

  11. Аутентификация для WebSocket и SSE: до сих пор нет стандарта?

    WebSocket и SSE появились более десяти лет назад, однако до сих пор в стандартах отсутствуют рекомендации по решению задачи аутентификации для подобных соединений. В статье разберем особенности аутентификации применительно к протоколу WebSocket и технологии Server-Sent Events, обсудим, какие нюансы могут быть, когда клиентская часть находится в браузере, и на что еще стоит обратить внимание, чтобы избежать неочевидных проблем. А еще заодно поговорим про уязвимость Cross-Site WebSocket Hijacking (CSWSH) и в целом посмотрим на многие вопросы через призму информационной безопасности.

    habr.com/ru/articles/790272/

    #websocket #sse #server_sent_events #аутентификация #authentication #token #токен #CSWSH #crosssite_websocket_hijacking #безопасность

  12. Аутентификация для WebSocket и SSE: до сих пор нет стандарта?

    WebSocket и SSE появились более десяти лет назад, однако до сих пор в стандартах отсутствуют рекомендации по решению задачи аутентификации для подобных соединений. В статье разберем особенности аутентификации применительно к протоколу WebSocket и технологии Server-Sent Events, обсудим, какие нюансы могут быть, когда клиентская часть находится в браузере, и на что еще стоит обратить внимание, чтобы избежать неочевидных проблем. А еще заодно поговорим про уязвимость Cross-Site WebSocket Hijacking (CSWSH) и в целом посмотрим на многие вопросы через призму информационной безопасности.

    habr.com/ru/articles/790272/

    #websocket #sse #server_sent_events #аутентификация #authentication #token #токен #CSWSH #crosssite_websocket_hijacking #безопасность

  13. [Перевод] Краткий обзор техник векторизации в NLP

    Как переводчик-редактор, я интересуюсь темой NLP и автоматизации рутины бюро переводов. Изучая вопрос того, как смысл слов превращается в векторы, наткнулся на эту обзорную статью. Статья мне показалась изложенной доступно, поэтому я перевел ее для удобства других коллег. Работоспособность большей части кода проверял, вроде работает (см. Jupiter Notebook). Надеюсь, будет полезно. === Технологии NLP — Natural Language Processing, обработки естественного языка — позволяют компьютерам обрабатывать человеческий язык, понимать его значение и контекст, а также связанные с ним эмоциональную окраску и намерения, и далее, использовать эти данные для создания чего-то нового. Как сделать слова понятными для компьютеров? Используется векторизация. Рассмотрим несколько техник такой векторизации.

    habr.com/ru/articles/778048/

    #токен #векторизация #fasttext #word2vec #glove #CBOW #skipgram #tfidf #nlp_(natural_language_processing)