#токен — Public Fediverse posts

Почём нынче токен для народа?

В результате одного из множества обсуждений инфоповодов про поднятие цен на подписки и тредов связанных с экономикой моделей возник вопрос о цене токена: Ниже какой цены токен в принципе не может стоить? По идее в сухом остатке мы платим за амортизацию железа и электричество умноженное на время работы сервера и это, конечно же, не “реальная цена токена”, скорее нижняя граница, эдакий бэдрок, ниже которого токен физически не может стоить. Чтобы упростить расчёт решил не учитывать обучение моделей, зарплаты, аренду, маркетинг, юридические услуги и прочие прелести бизнеса. Но давайте обо всём по порядку.

https://habr.com/ru/articles/1049880/

#экономика #токен #токеномика #расчёт #месяц_агентности #агенты

Контекстное окно: почему нейросеть забывает части разговора

Представьте, что вы разговариваете с невероятно умным и эрудированным собеседником. Только очень странным. Несмотря на весь свой интеллект и тысячи фактов, которые он легко и непринужденно рассказывает, он не может ничего запомнить. Ваш диалог с ним каждый раз как бы начинается заново. Вы даете ему вводные, задаете вопросы, что-то уточняете, а он, на основе всего этого, выдает ответ. Однако, стоит вам задать следующий вопрос, как собеседник напрочь забывает все, о чем вы говорили. И чтобы отвечать более-менее связно, ему приходится сначала перечитать весь ваш диалог. Звучит странно? Возможно. Однако именно так работает большинство современных LLM. А разработчики, пытаясь нивелировать эту особенность, добавляют нейронкам различные обвязки и ухищрения, заметно усложняя логику для рядового пользователя. Чтобы лучше понимать, что происходит, давайте погрузимся в тему. И подробнее познакомимся с такой штукой, как «контекстное окно».

https://habr.com/ru/companies/bothub/articles/1047194/

#контекст #контекстное_окно #LLM #SelfAttention #токен #Lost_in_the_Middle #RAG #KVcache #нейросеть #вектор

Экономим до 78% на токенах при работе с LLM — и получаем более точные ответы

Всем привет! Если вы работаете с LLM — ChatGPT, Claude, DeepSeek, Qwen или другими — через API, то знаете: токены стоят денег. Контекстное окно у любой модели не резиновое, и чем больше кода вы отправляете, тем дороже каждый запрос. Новые модели с огромными контекстными окнами выходят каждый месяц и дешевеют, но зачем платить за то, что можно не отправлять? В этой статье я расскажу про TokenCompress.com — прокси-сервис, который сжимает код перед отправкой в LLM. В среднем он убирает ~78% токенов, при этом качество ответов не падает, а в ряде случаев даже растёт — потому что модель получает только релевантный контекст, без шума.

https://habr.com/ru/articles/1020082/

#llm #оптимизация #оптимизация_затрат #langchain #python #rust #token #токен #compress #сжатие

Экономим до 78% на токенах при работе с LLM — и получаем более точные ответы

Всем привет! Если вы работаете с LLM — ChatGPT, Claude, DeepSeek, Qwen или другими — через API, то знаете: токены стоят денег. Контекстное окно у любой модели не резиновое, и чем больше кода вы отправляете, тем дороже каждый запрос. Новые модели с огромными контекстными окнами выходят каждый месяц и дешевеют, но зачем платить за то, что можно не отправлять? В этой статье я расскажу про TokenCompress.com — прокси-сервис, который сжимает код перед отправкой в LLM. В среднем он убирает ~78% токенов, при этом качество ответов не падает, а в ряде случаев даже растёт — потому что модель получает только релевантный контекст, без шума.

https://habr.com/ru/articles/1020082/

#llm #оптимизация #оптимизация_затрат #langchain #python #rust #token #токен #compress #сжатие

Экономим до 78% на токенах при работе с LLM — и получаем более точные ответы

Всем привет! Если вы работаете с LLM — ChatGPT, Claude, DeepSeek, Qwen или другими — через API, то знаете: токены стоят денег. Контекстное окно у любой модели не резиновое, и чем больше кода вы отправляете, тем дороже каждый запрос. Новые модели с огромными контекстными окнами выходят каждый месяц и дешевеют, но зачем платить за то, что можно не отправлять? В этой статье я расскажу про TokenCompress.com — прокси-сервис, который сжимает код перед отправкой в LLM. В среднем он убирает ~78% токенов, при этом качество ответов не падает, а в ряде случаев даже растёт — потому что модель получает только релевантный контекст, без шума.

https://habr.com/ru/articles/1020082/

#llm #оптимизация #оптимизация_затрат #langchain #python #rust #token #токен #compress #сжатие

Как устроены AI токены: реальные расходы на запросы, принципы токенизации и разница с количеством слов

Привет, на связи Егор! Я пишущий эксперт

https://habr.com/ru/companies/gptunnel/articles/986526/

#токены_llm #токенизация #что_такое_токенизация #токен #токены #ии_и_машинное_обучение

Огляд Bitget: більше ніж криптобіржа https://itc.ua/ua/articles/oglyad-bitget-bilshe-nizh-kryptobirzha/ #Партнерськийпроект #криптовалютнабіржа #Оглядипартнерів #NFT-маркетплейс #спотоваторгівля #Web3-гаманець #BitgetWallet #копітрейдинг #Криптовалюта #Криптовалюти #Криптобіржа #BitgetEarn #стейблкоїн #Ethereum #litecoin #ф’ючерси #Bitcoin #Bitget #крипта #крипто #токен? #токени #USDT #Web3 #NFT #P2P

Аутентификация для WebSocket и SSE: до сих пор нет стандарта?

WebSocket и SSE появились более десяти лет назад, однако до сих пор в стандартах отсутствуют рекомендации по решению задачи аутентификации для подобных соединений. В статье разберем особенности аутентификации применительно к протоколу WebSocket и технологии Server-Sent Events, обсудим, какие нюансы могут быть, когда клиентская часть находится в браузере, и на что еще стоит обратить внимание, чтобы избежать неочевидных проблем. А еще заодно поговорим про уязвимость Cross-Site WebSocket Hijacking (CSWSH) и в целом посмотрим на многие вопросы через призму информационной безопасности.

https://habr.com/ru/articles/790272/

#websocket #sse #server_sent_events #аутентификация #authentication #token #токен #CSWSH #crosssite_websocket_hijacking #безопасность

Біржа WhiteBIT запустила блокчейн. Він поєднує продукти екосистеми включно з монетою WhiteBIT Coin https://itc.ua/ua/articles/birzha-whitebit-zapustyla-blokchejn-tam-nyzhchi-komisiyi-ta-mozhna-vidtvoryty-svoyu-osobu-ne-nadayuchy-osobysti-dani/ #Партнерськийпроект #Proof-of-Authority #ВолодимирНосов #WhiteBITToken #Криптовалюта #Go-Ethereum #Криптобіржа #Launchpad #Soulbound #WBNetwork #ретродроп #lifecell #Souldrop #WhiteBIT #Блокчейн #Крипто #FaceIT #Hacken #крипто #токен? #Geth #Трон #WBT