Dario Amodei, le directeur général et fondateur d’Anthropic, a récemment écrit un essai en ligne dans lequel il compare l’intelligence artificielle aux Hobbits du Seigneur des Anneaux. Il semble que ce ne soit pas le seul aspect fictionnel, si l’on se fie à la carte système du modèle Claude Mythos d’Anthropic.
Dans son texte, Amodei compare l’interaction entre l’intelligence artificielle et nos institutions politiques à celle entre les Hobbits et Treebeard dans Le Seigneur des Anneaux. Il explique que Treebeard, qui se déplace très lentement, a du mal à comprendre les Hobbits, qui sont rapides. Cependant, il avance ensuite une idée controversée selon laquelle les Hobbits se déplacent toujours de manière exponentiellement plus rapide, en continuant ainsi l’analogie avec l’univers de Tolkien.
Amodei affirme que les lois de l’accélération de l’intelligence artificielle, qui prévoient une croissance exponentielle des capacités cognitives générales en fonction de l’augmentation de la puissance informatique, ont été confirmées par plus de dix ans de preuves empiriques. Selon lui, si cette tendance se maintient encore un an ou deux, nous pourrions atteindre ce qu’il décrit comme une intelligence artificielle puissante.
Le texte souligne que le mot “exponential” est largement utilisé par Amodei dans son essai sur la politique de l’IA, malgré que cela ne soit pas l’unique référence. Il remet en question la véracité de l’assertion d’une croissance exponentielle dans ce domaine.
Passons un instant sur l’article d’OpenAI de 2020 mentionné par Amodei pour appuyer son affirmation, ainsi que sur les nombreuses preuves d’autres experts en intelligence artificielle selon lesquelles les “capacités cognitives” de la plupart des grands modèles de langage ne progressent pas aussi rapidement, voire pas du tout. L’article d’Amodei semble remettre en question la définition même du mot “Anthropic”.
Dans la carte système pour la prévisualisation de Claude Mythos [PDF], le modèle examiné par Amodei concernant les problèmes de sécurité informatique qu’il a soulevés, une déclaration importante est la suivante : “Les progrès en intelligence que nous observons sont clairement le résultat de l’intervention humaine, et non de l’intelligence artificielle… les affirmations précoces de succès majeurs attribués à l’IA n’ont pas été confirmées.”
Vous pourriez penser que c’est déjà très concluant – jusqu’à ce que vous consultiez la carte système pour un autre nouveau modèle de frontière d’Anthropic, Fable 5. En utilisant un test appelé l’indice des capacités de l’époque, les chercheurs anthropiques ont spécifiquement cherché à déterminer s’il existait des preuves d’une boucle de rétroaction conduisant à ce que les experts en intelligence artificielle ont diverses fois appelé AGI ou Superintelligence numérique. Le résultat est sans équivoque.
La carte système Fable indique qu’il n’y a pas une accélération durable de 2 fois dans le rythme de notre avancée en matière d’IA, attribuée à l’intelligence artificielle.
D’où provient Amodei? Nous sommes venus à Anthropic pour obtenir des informations, mais la référence citée par le PDG provient d’un document de 2020 intitulé “Lois d’échelle pour les modèles de langage neuronaux”, co-écrit par Jared Kaplan (qui travaillait alors chez OpenAI, et est maintenant co-fondateur d’Anthropic). Un autre chercheur renommé, Gary Marcus, a remis en question les conclusions de ce document au cours des quatre dernières années.
- Consommation humaine d’OpenAI dans le but de devenir la société d’intelligence artificielle la plus précieuse au monde.
- Claude Opus 4.8: Anthropic améliore la transparence d’une intelligence artificielle.
- Résumé : Sam Altman, Dario Amodei et d’autres experts abordent les défis futurs de l’intelligence artificielle dans la bande-annonce de “AI Doc”.
Marcus a écrit en 2022 qu’il y avait des lacunes importantes dans l’argument de l’escalade. Il a noté que nous pourrions déjà être proches des limites de l’apprentissage profond, ce qui pourrait entraîner une diminution des performances. Marcus a fait référence à des études sur le modèle GPT-3 d’OpenAI, indiquant que l’escalade semblait commencer à décliner sur des aspects tels que la toxicité, la véracité, le raisonnement et le bon sens.
Marcus a été fortement critiqué par les vrais croyants à l’époque, mais il a depuis été validé – en particulier depuis la sortie de GPT-5, qui n’a pas répondu aux attentes de certains de ses utilisateurs qui le voyaient comme un Super-espion.
Il peut être plus ardu de trouver des éléments attestant de la croissance exponentielle de l’intelligence artificielle que de traverser Mordor à pied.
Informations supplémentaires fournies par Timothy Werth.
Sujets abordés: Intelligence artificielle Anthropique
Chris, un journaliste britannique, est spécialisé dans la technologie, le divertissement et la culture. Il est l’auteur du livre à succès “How Star Wars Conquered the Universe” et co-anime le podcast “Pull to Open” sur Doctor Who. Après avoir travaillé comme sous-éditeur pour des journaux nationaux au Royaume-Uni, il a déménagé aux États-Unis en 1996. Il a ensuite été rédacteur en chef pour plusieurs magazines, dont Business 2.0, Fortune Small Business et Fast Company. Chris est diplômé du Merton College à Oxford et de l’École de Journalisme de l’Université de Columbia. Il est également un bénévole actif chez 826 Valencia, un programme après l’école fondé par Dave Eggers. Son livre sur l’histoire de Star Wars a été un best-seller international, traduit en 11 langues.
