#tokens — Public Fediverse posts on home.social

Bertrand CLAVELIER @[email protected] · 2026-09-06 · 07:00 UTC

Ma vision de ce qu’on appelle « IA »

L’« IA » fait couler beaucoup d’encre en ce moment ; c’est bien normal. C’est un outil hors du commun, et on peut vite tomber dans une vision magique qui attise tous les fantasmes. Il me semble important de prendre un peu de recul et de réflexion, après une bonne expérimentation.

Je ne cherche à convaincre personne. Je donne ma vision, à partir de mon usage quotidien. J’y parle des vendeurs de miracle, du générateur statistique de tokens, et de l’image qui m’aide le plus à penser cet outil : une encyclopédie d’un genre nouveau.

L’article complet est sur mon site : https://atelier.clavelier.me/articles/ma-vision-de-ce-quon-appelle-ia/

#IA #LLM #IntelligenceArtificielle #Tokens

#ia #llm #intelligenceartificielle #tokens

Bertrand CLAVELIER @[email protected] · 2026-09-06 · 07:00 UTC

Ma vision de ce qu’on appelle « IA »

L’« IA » fait couler beaucoup d’encre en ce moment ; c’est bien normal. C’est un outil hors du commun, et on peut vite tomber dans une vision magique qui attise tous les fantasmes. Il me semble important de prendre un peu de recul et de réflexion, après une bonne expérimentation.

Je ne cherche à convaincre personne. Je donne ma vision, à partir de mon usage quotidien. J’y parle des vendeurs de miracle, du générateur statistique de tokens, et de l’image qui m’aide le plus à penser cet outil : une encyclopédie d’un genre nouveau.

L’article complet est sur mon site : https://atelier.clavelier.me/articles/ma-vision-de-ce-quon-appelle-ia/

#IA #LLM #IntelligenceArtificielle #Tokens

#ia #llm #intelligenceartificielle #tokens

Bertrand CLAVELIER @[email protected] · 2026-09-06 · 07:00 UTC

Ma vision de ce qu’on appelle « IA »

L’« IA » fait couler beaucoup d’encre en ce moment ; c’est bien normal. C’est un outil hors du commun, et on peut vite tomber dans une vision magique qui attise tous les fantasmes. Il me semble important de prendre un peu de recul et de réflexion, après une bonne expérimentation.

Je ne cherche à convaincre personne. Je donne ma vision, à partir de mon usage quotidien. J’y parle des vendeurs de miracle, du générateur statistique de tokens, et de l’image qui m’aide le plus à penser cet outil : une encyclopédie d’un genre nouveau.

L’article complet est sur mon site : https://atelier.clavelier.me/articles/ma-vision-de-ce-quon-appelle-ia/

#IA #LLM #IntelligenceArtificielle #Tokens

#ia #llm #intelligenceartificielle #tokens

Bertrand CLAVELIER @[email protected] · 2026-09-06 · 07:00 UTC

Ma vision de ce qu’on appelle « IA »

L’« IA » fait couler beaucoup d’encre en ce moment ; c’est bien normal. C’est un outil hors du commun, et on peut vite tomber dans une vision magique qui attise tous les fantasmes. Il me semble important de prendre un peu de recul et de réflexion, après une bonne expérimentation.

Je ne cherche à convaincre personne. Je donne ma vision, à partir de mon usage quotidien. J’y parle des vendeurs de miracle, du générateur statistique de tokens, et de l’image qui m’aide le plus à penser cet outil : une encyclopédie d’un genre nouveau.

L’article complet est sur mon site : https://atelier.clavelier.me/articles/ma-vision-de-ce-quon-appelle-ia/

#IA #LLM #IntelligenceArtificielle #Tokens

#tokens #intelligenceartificielle #llm #ia

Bertrand CLAVELIER @[email protected] · 2026-09-06 · 07:00 UTC

Ma vision de ce qu’on appelle « IA »

L’« IA » fait couler beaucoup d’encre en ce moment ; c’est bien normal. C’est un outil hors du commun, et on peut vite tomber dans une vision magique qui attise tous les fantasmes. Il me semble important de prendre un peu de recul et de réflexion, après une bonne expérimentation.

Je ne cherche à convaincre personne. Je donne ma vision, à partir de mon usage quotidien. J’y parle des vendeurs de miracle, du générateur statistique de tokens, et de l’image qui m’aide le plus à penser cet outil : une encyclopédie d’un genre nouveau.

L’article complet est sur mon site : https://atelier.clavelier.me/articles/ma-vision-de-ce-quon-appelle-ia/

#IA #LLM #IntelligenceArtificielle #Tokens

#ia #llm #intelligenceartificielle #tokens

Mark Carrigan @[email protected] · 2026-06-27 · 11:26 UTC

Will economic constraints on token use in organisations drive the emergence of norms?

I’ve been following the token maxxing discourse with interest. Essentially we’ve seen a tendency to equate quantity of tokens used with the extent of AI integration. It’s hard to measure integration so organisations have turned to the proxy of tokens, assuming that the more tokens you are using then the more you are integrating LLMs into your work. The problem with this is two fold:

At present tokens are essentially being subsidised by investors in AI labs interested in maximising adoption of the products. The costs of token to the lab are either minimised for the end user or entirely removed from the equation with unmetered access.
The assumption that more use = better is obviously untenable with even a rudimentary knowledge of the ethical and epistemological risks of language models. Further, more use of LLMs might be worse for the organisation because it hinders other forms of work which are essential to the organisation’s mission.

There is a significant shift underway which is going to change how LLMs are used within organisation, summarised here by 404 media:

The news highlights a major shift in the tech industry and other companies that use AI: the wave of uninhibited AI growth is over. Some AI providers like GitHub are now charging customers per token rather than a flat subscription fee, leading some companies to burn through their tokens. Uber recently capped employees’ use of AI tools like Claude Code and Cursor; that came after Uber told employees to use AI as much as possible and Uber’s CTO said the company had blown its entire AI budget in four months. And Accenture itself reportedly started requiring senior staff to start using AI or risk losing out on promotions.

I was wrong to believe that model development was flatlining. A week with Claude Fable, the continual development of Claude Opus and my begrudging appreciation of GPT 5.5 leave me persuaded we’ve come along way since GPT 5. However even if the models are getting more capable, to what extent are those capabilities becoming more expensive? I managed to burn through £100+ in five days playing with Claude Fable and I constantly have Opus switched to max now, even when I vaguely know it’s wasteful. There’s a whole style of use which has taken hold here which isn’t sustainable and is increasingly hitting a brick wall.

For individuals it raises the question of what you’re willing to pay for. I switch to Max plans when I have a special reason to do so but I never keep the subscription any more. I hit the rate limits with Claude so frequently that it’s left me thinking more carefully about what I do want to use models for and what I don’t want to use models for. The same process is inevitably going to take place in organisations I think in the sense of resource constraints necessitating evaluative criteria for desirable and undesirable use of the model. .

#AIIntegration #compute #economics #organisations #tokenMaxxing #tokens

#aiintegration #compute #economics #organisations #tokenmaxxing #tokens

infosertecla.com @[email protected] · 2026-06-04 · 14:30 UTC

Gemini «olvida» mucho antes de lo que Google promete: el millón de tokens no aplica al chat

Usuarios de los planes pagos AI Pro y Ultra denuncian que el chatbot comienza a perder el hilo de la conversación después de apenas 25-30 mensajes, muy lejos del límite de un millón de tokens que Google publicita. La diferencia entre la ventana de contexto del modelo y la del chat nunca se comunica con claridad (Fuente AndroidAutorithy).

Google vende sus planes pagos de Gemini con una promesa concreta: una ventana de contexto de hasta un millón de tokens, equivalente a 1.500 páginas de texto o 30.000 líneas de código. El problema es que esa cifra no describe lo que le pasa al usuario en una conversación real.

Usuarios en X y Reddit denunciaron que, si bien los servidores de Gemini pueden efectivamente ingerir un archivo estático masivo en el primer prompt, la memoria conversacional activa —el contexto dinámico del chat— parece estar severamente limitada, cayendo a un tope aproximado de 16.000 tokens, equivalente a unos 25 o 30 mensajes promedio. El resultado es que el modelo sufre de «amnesia» dentro de la misma sesión de chat, olvidando por completo instrucciones anteriores, bloques de código o restricciones que el usuario había establecido al inicio de la conversación.

La distinción técnica que Google no comunica con suficiente claridad es la diferencia entre la ventana de contexto del modelo y la del chat. En palabras del usuario de X @Soso_fun_yt, mientras el backend puede procesar archivos de gran tamaño en forma estática, la memoria dinámica de la conversación está embotellada en un límite mucho menor, lo que provoca el olvido progresivo. Algunos usuarios señalaron que la plataforma AI Studio sí ofrece la ventana de contexto correcta, pero esa no es la herramienta que usa la mayoría de los suscriptores.

La analogía que propone el artículo lo dice todo: es como si tu proveedor de internet anunciara una línea de 1 Gbps en su sitio web, sin mencionar en ningún lugar destacado que la velocidad de subida es de apenas 50 Mbps. Google sí publica información técnica sobre tokens de entrada y salida en su documentación para desarrolladores, pero esa información no llega al usuario promedio que paga su suscripción esperando lo que se le prometió.

Android Authority consultó a Google sobre la discrepancia entre la ventana de contexto del modelo y la del chat, y sobre si planea ofrecer información más prominente al respecto. La compañía no respondió al momento de publicación. Mientras tanto, quienes usan Gemini para proyectos largos o conversaciones técnicas extendidas deberían saber que el millón de tokens es, por ahora, más un horizonte teórico que una realidad práctica de uso diario.