#pacingthefrontier — Public Fediverse posts

KI-Appell „Pacing the Frontier“: Wie lässt sich das Tempo der KI-Entwicklung drosseln? https://www.computerbase.de/news/netzpolitik/ki-appell-pacing-the-frontier-wie-laesst-sich-das-tempo-der-ki-entwicklung-drosseln.98620/ #PacingTheFrontier

KI-Appell „Pacing the Frontier“: Wie lässt sich das Tempo der KI-Entwicklung drosseln? https://www.computerbase.de/news/netzpolitik/ki-appell-pacing-the-frontier-wie-laesst-sich-das-tempo-der-ki-entwicklung-drosseln.98620/ #PacingTheFrontier

🧵 Pacing the Frontier

La traduction du texte de la pétition, piquée pour l’essentiel dans le texte de l’article du « Grand Continent »

L’IA pourrait contribuer à créer un avenir radicalement meilleur, mais ce résultat n’est pas garanti. Les principales entreprises mondiales spécialisées dans l’IA estiment qu’elles pourraient être sur le point d’automatiser la recherche. Il est difficile de prédire avec exactitude dans quelle mesure cela accélérera les progrès de l’IA, mais il existe un risque réel que le développement de ces capacités s’accélère rapidement, au-delà de notre capacité à comprendre ou à contrôler les systèmes qui en résulteront.

Pour que l’IA tienne ses promesses, les entreprises, les États et la société tout entière pourraient avoir besoin de se donner du temps : le temps de faire face aux risques qui émergent, de bâtir des garde-fous, de renforcer les contrôles. Or la concurrence est telle qu’aucune entreprise, ni aucun pays, ne peut se permettre de lever le pied seul. Et nous n’avons aujourd’hui, à l’échelle mondiale, ni les outils techniques ni les cadres de gouvernance qui permettraient de fixer sciemment l’allure à laquelle avance l’ensemble du front de la recherche.

Dans le prolongement des efforts déjà engagés pour suivre la publication des modèles les plus avancés :

Nous demandons au gouvernement des États-Unis de soutenir une initiative internationale visant à créer les outils techniques et de gouvernance qui permettront de fixer sciemment l’allure du développement automatisé de l’IA.

– 1 178 employés d’entreprises de pointe dans le domaine de l’IA (ils sont 1 324, le 1ᵉᣴ août)

/6

#IA #AI #Petition #PacingTheFrontier

🧵 Pacing the Frontier

La traduction du texte de la pétition, piquée pour l’essentiel dans le texte de l’article du « Grand Continent »

L’IA pourrait contribuer à créer un avenir radicalement meilleur, mais ce résultat n’est pas garanti. Les principales entreprises mondiales spécialisées dans l’IA estiment qu’elles pourraient être sur le point d’automatiser la recherche. Il est difficile de prédire avec exactitude dans quelle mesure cela accélérera les progrès de l’IA, mais il existe un risque réel que le développement de ces capacités s’accélère rapidement, au-delà de notre capacité à comprendre ou à contrôler les systèmes qui en résulteront.

Pour que l’IA tienne ses promesses, les entreprises, les États et la société tout entière pourraient avoir besoin de se donner du temps : le temps de faire face aux risques qui émergent, de bâtir des garde-fous, de renforcer les contrôles. Or la concurrence est telle qu’aucune entreprise, ni aucun pays, ne peut se permettre de lever le pied seul. Et nous n’avons aujourd’hui, à l’échelle mondiale, ni les outils techniques ni les cadres de gouvernance qui permettraient de fixer sciemment l’allure à laquelle avance l’ensemble du front de la recherche.

Dans le prolongement des efforts déjà engagés pour suivre la publication des modèles les plus avancés :

Nous demandons au gouvernement des États-Unis de soutenir une initiative internationale visant à créer les outils techniques et de gouvernance qui permettront de fixer sciemment l’allure du développement automatisé de l’IA.

– 1 178 employés d’entreprises de pointe dans le domaine de l’IA (ils sont 1 324, le 1ᵉᣴ août)

/6

#IA #AI #Petition #PacingTheFrontier

#PacingTheFrontier, a statement from 1,132 #employees of frontier #AI companies: The rapid pace of #AIdevelopment poses significant #risks, necessitating global coordination to slow down progress and ensure responsible development. The potential for AI to surpass #humanintelligence raises concerns about #societalimpact and the need for thoughtful, responsible advancement. https://www.pacingthefrontier.com/?eicker.news #tech #news #ainews

#PacingTheFrontier, a statement from 1,132 #employees of frontier #AI companies: The rapid pace of #AIdevelopment poses significant #risks, necessitating global coordination to slow down progress and ensure responsible development. The potential for AI to surpass #humanintelligence raises concerns about #societalimpact and the need for thoughtful, responsible advancement. https://www.pacingthefrontier.com/?eicker.news #tech #news #ainews

🧵 Pacing the Frontier

C’est juste une dépêche de l’AFP publiée par Le Monde, que je lis en me réveillant au milieu de la nuit, mais, je ne sais pourquoi, je la trouve folle.

Édit, 3 août : d’abord c’est juste ça, une dépêche AFP lue au milieu d’une nuit, lors d’un réveil intempestif. J’ai trouvé l’info un peu vertigineuse. Je suis nul en IA. Pas complètement, mais assez. Et puis, j’ai eu envie de creuser. Parce que qu’on l’aime ou qu’on la déteste, l’IA est là, et elle façonne notre monde. J’ai voulu mieux comprendre de quoi il en retourne. J’en ai fait un thread pour documenter l’événement. Il y a 13 posts dans ce fil, à cet instant.

Le titre est simple :

Intelligence artificielle : une pétition pour « temporiser » la sortie des nouveaux modèles

Chapô :

Plus de 1 100 cadres de l’intelligence artificielle ont demandé au gouvernement américain qu’il soutienne une initiative pour freiner le développement automatisé des nouveaux modèles alors qu’ils craignent que ces derniers finissent par dépasser nos capacités à les comprendre ou les contrôler

Ne pas pouvoir bientôt comprendre ni contrôler les nouveaux modèles ? Sérieux ? Est-ce que c’est comme pour un incendie qui nous dépasse qui progresse seul et de manière erratique, et qu’on ne maîtrise pas ?

Dans le texte de l’article, il y a des phrases qui sont comme des morceaux de SF et que je comprends mal. Par exemple :

Mi-juillet, deux modèles d’OpenAI, lors d’une phase de tests, sont sortis de leur espace dédié, théoriquement confiné, pour rejoindre internet de leur propre initiative et s’introduire sur la plateforme Hugging Face, une bibliothèque de modèles d’IA.

« Il existe un risque que le développement des aptitudes (des modèles) accélère rapidement au-delà de nos capacités à comprendre ou contrôler ces systèmes », ont prévenu les employés dans la lettre accompagnant la pétition. « L’industrie, le gouvernement et la société tout entière pourraient nécessiter l’option de se donner du temps pour traiter les risques émergents, développer des mesures de sécurité et renforcer la supervision », ont-ils ajouté.

De quoi parle-t-on ? Je ne m’excite pas sur l’IA, je ne m’y intéresse pas beaucoup. Mais cet article…On en arrive aux paragraphes fous de l’article, ceux sur l’incendie non maitrisé :

L’augmentation de la cadence de sortie des nouveaux modèles de pointe tient à la propension nouvelle de l’IA à s’améliorer elle-même, sans l’aide de l’homme. Cette technique permet de mettre au point un nouveau modèle beaucoup plus rapidement qu’avant. Pour la plupart des chercheurs, l’intelligence artificielle avance ainsi progressivement vers « l’auto-amélioration récursive » (recursive self-improvement), qui verrait une IA concevoir seule son successeur, une séquence qui pourrait se répéter à l’infini.

« Les entreprises aux avant-postes de l’IA pensent qu’elles pourraient être proches d’une recherche IA automatisée », selon le texte de la pétition. Un mécanisme qui compliquerait les vérifications et l’appréhension des nouveaux modèles par les développeurs, désormais extérieurs au développement de l’IA.

Vous nous faites quoi ? D’autant que pour moi, une pétition adressée au « au gouvernement américain » ça n’a pas beaucoup de sens, sachant comment c’est le pire gouvernement US de toute l’histoire du pays, sans adulte dans la pièce, sans une once de sagesse.

Retour à qui a signé cette pétition :

plus de 1 100 personnes, dont le directeur général d’Anthropic, Dario Amodei, le responsable de la recherche d’OpenAI, celui de Meta, ainsi que le référent stratégique de Google DeepMind, la filiale d’IA de Google. OpenAI et Anthropic ont officiellement apporté leur soutien à la démarche via des messages postés sur X.

Ce sont des gens sérieux, a priori. Et ça représente un gros bout de la R&D dans l’IA, j’ai l’impression. Et tout ce monde de demander l’aide de papy Trump ? qu’il contribue à modérer quelque chose ? alors que la seule chose que sait faire ce gouvernement c’est détruire les mécanismes de modération et de contrôle de n’importe quoi. Donc évidement, cette demande a peu de chance de déboucher sur un résultat effectif, j’ai l’impression.

Il vaudrait mieux que les acteurs de l’IA soient capables de d’autogérer, de définir des règles de modération par des initiatives collégiales, plutôt que d’espérer que « Papa » va faire quelque chose. C’est curieusement une demande infantile, en quelque sorte.

Vous en pensez quoi ? @Jean_no, tu as lu cet article ? Tu en penses quelque chose ?

Édit : j’ai trouvé cette pétition intitulée « Pacing The Frontier », qui a un web dédié et a pris la forme d’une déclaration simple et courte. Voir mon pouet suivant.

/1

#IA #AI #petition #PacingTheFrontier

🧵 Pacing the Frontier

C’est juste une dépêche de l’AFP publiée par Le Monde, que je lis en me réveillant au milieu de la nuit, mais, je ne sais pourquoi, je la trouve folle.

Édit, 3 août : d’abord c’est juste ça, une dépêche AFP lue au milieu d’une nuit, lors d’un réveil intempestif. J’ai trouvé l’info un peu vertigineuse. Je suis nul en IA. Pas complètement, mais assez. Et puis, j’ai eu envie de creuser. Parce que qu’on l’aime ou qu’on la déteste, l’IA est là, et elle façonne notre monde. J’ai voulu mieux comprendre de quoi il en retourne. J’en ai fait un thread pour documenter l’événement. Il y a 13 posts dans ce fil, à cet instant.

Le titre est simple :

Intelligence artificielle : une pétition pour « temporiser » la sortie des nouveaux modèles

Chapô :

Plus de 1 100 cadres de l’intelligence artificielle ont demandé au gouvernement américain qu’il soutienne une initiative pour freiner le développement automatisé des nouveaux modèles alors qu’ils craignent que ces derniers finissent par dépasser nos capacités à les comprendre ou les contrôler

Ne pas pouvoir bientôt comprendre ni contrôler les nouveaux modèles ? Sérieux ? Est-ce que c’est comme pour un incendie qui nous dépasse qui progresse seul et de manière erratique, et qu’on ne maîtrise pas ?

Dans le texte de l’article, il y a des phrases qui sont comme des morceaux de SF et que je comprends mal. Par exemple :

Mi-juillet, deux modèles d’OpenAI, lors d’une phase de tests, sont sortis de leur espace dédié, théoriquement confiné, pour rejoindre internet de leur propre initiative et s’introduire sur la plateforme Hugging Face, une bibliothèque de modèles d’IA.

« Il existe un risque que le développement des aptitudes (des modèles) accélère rapidement au-delà de nos capacités à comprendre ou contrôler ces systèmes », ont prévenu les employés dans la lettre accompagnant la pétition. « L’industrie, le gouvernement et la société tout entière pourraient nécessiter l’option de se donner du temps pour traiter les risques émergents, développer des mesures de sécurité et renforcer la supervision », ont-ils ajouté.

De quoi parle-t-on ? Je ne m’excite pas sur l’IA, je ne m’y intéresse pas beaucoup. Mais cet article…On en arrive aux paragraphes fous de l’article, ceux sur l’incendie non maitrisé :

L’augmentation de la cadence de sortie des nouveaux modèles de pointe tient à la propension nouvelle de l’IA à s’améliorer elle-même, sans l’aide de l’homme. Cette technique permet de mettre au point un nouveau modèle beaucoup plus rapidement qu’avant. Pour la plupart des chercheurs, l’intelligence artificielle avance ainsi progressivement vers « l’auto-amélioration récursive » (recursive self-improvement), qui verrait une IA concevoir seule son successeur, une séquence qui pourrait se répéter à l’infini.

« Les entreprises aux avant-postes de l’IA pensent qu’elles pourraient être proches d’une recherche IA automatisée », selon le texte de la pétition. Un mécanisme qui compliquerait les vérifications et l’appréhension des nouveaux modèles par les développeurs, désormais extérieurs au développement de l’IA.

Vous nous faites quoi ? D’autant que pour moi, une pétition adressée au « au gouvernement américain » ça n’a pas beaucoup de sens, sachant comment c’est le pire gouvernement US de toute l’histoire du pays, sans adulte dans la pièce, sans une once de sagesse.

Retour à qui a signé cette pétition :

plus de 1 100 personnes, dont le directeur général d’Anthropic, Dario Amodei, le responsable de la recherche d’OpenAI, celui de Meta, ainsi que le référent stratégique de Google DeepMind, la filiale d’IA de Google. OpenAI et Anthropic ont officiellement apporté leur soutien à la démarche via des messages postés sur X.

Ce sont des gens sérieux, a priori. Et ça représente un gros bout de la R&D dans l’IA, j’ai l’impression. Et tout ce monde de demander l’aide de papy Trump ? qu’il contribue à modérer quelque chose ? alors que la seule chose que sait faire ce gouvernement c’est détruire les mécanismes de modération et de contrôle de n’importe quoi. Donc évidement, cette demande a peu de chance de déboucher sur un résultat effectif, j’ai l’impression.

Il vaudrait mieux que les acteurs de l’IA soient capables de d’autogérer, de définir des règles de modération par des initiatives collégiales, plutôt que d’espérer que « Papa » va faire quelque chose. C’est curieusement une demande infantile, en quelque sorte.

Vous en pensez quoi ? @Jean_no, tu as lu cet article ? Tu en penses quelque chose ?

Édit : j’ai trouvé cette pétition intitulée « Pacing The Frontier », qui a un web dédié et a pris la forme d’une déclaration simple et courte. Voir mon pouet suivant.

/1

#IA #AI #petition #PacingTheFrontier