L’actualité des intelligences artificielles ne veut décidément pas se calmer. Alors qu’Apple présentait lundi son Siri AI, lançant par la même occasion une polémique en Union européenne, hier c’est xAI, gros morceau de SpaceX, qui entrait en bourse avec sa société mère sur une capitalisation record. Aujourd’hui, comme le rapporte Axios.
Ce n’est pas le premier frottement entre Anthropic et la Maison Blanche, mais celui-ci est de taille. Alors qu’il y a quelques mois l’entreprise responsable de Claude AI se voyait fermer les portes du Pentagone, après avoir refusé selon elle l’utilisation de son intelligence artificielle dans le but de créer et contrôler des drones destinés à tuer ainsi que des algorithmes de surveillance de masse des citoyens américains, le secrétaire au commerce Howard Lutnick vient de porter le second coup, en limitant drastiquement la commercialisation des modèles les plus avancés d’Anthropic.
Anthropic dévoile Claude Fable, son premier modèle de la famille Mythos
En effet, c’est par un courrier envoyé directement à Dario Amodei, CEO d’Anthropic, que le responsable américain a signifié à l’entreprise que ses modèles Fable 5 et Mythos 5 étaient désormais interdits au commerce et à l’utilisation pour toute personne étrangère au pays. De fait, l’administration américaine interdit donc l’export de ces modèles, mais aussi leur utilisation par des personnes non américaines, y compris quand elles sont présentes sur le sol US, employés d’Anthropic compris.
Devant une telle bride, et l’impossibilité de s’assurer du strict respect de la consigne (et le risque de lourdes sanctions qui va avec…), Anthropic a donc décidé de désactiver l’accès à ses modèles Fable 5 et Mythos 5 pour tous, sans exception.
Quel motif a justifié la demande du secrétaire au commerce ?
Howard Lutnick, pour justifier cette décision, s’est selon un haut responsable de l’administration s’étant confié à Axios, basé sur le retour d’une entreprise du secteur ayant affirmé pouvoir contourner les brides mises en place par Anthropic pour empêcher les détournements de ses modèles pouvant mettre en péril la sécurité nationale.
Cependant, aucune confirmation officielle de cet élément n’a été apportée, le secrétaire au commerce n’ayant fait aucun communiqué à ce sujet, et n’ayant à notre connaissance porté aucun détail sur la façon dont auraient été contournées les protections, que ce soit au public ou même à Anthropic. De son côté, Dario Amodei indique avoir temporairement pris la décision de couper l’accès à ses modèles le temps de comprendre la situation et de discuter avec l’administration américaine, tablant sur le fait qu’il s’agit « d’une incompréhension, et que [nous travaillons] à restaurer l’accès à nos modèles le plus tôt possible ».
La décision est d’autant plus étrange qu’elle n’entre pas dans le cadre des textes récemment adoptés par l’administration américaine. Selon ces derniers, le gouvernement peut en effet interdire une intelligence artificielle qu’elle jugerait trop dangereuse pour la sécurité nationale, mais les règles édictées bloquent la possibilité de licences au cas par cas de la technologie… alors qu’Howard Lutnick a spécifié dans son courrier à Anthropic que celles-ci pouvaient être accordées individuellement après examen.
Anthropic officiellement sur liste noire du Pentagone... mais toujours utilisée
De plus, l’affaire arrive quelques semaines après la sortie expéditive d’Anthropic du programme de partenariat avec le Pentagone, l’entreprise ayant refusé de signer un chèque en blanc à l’administration. En représailles, Donald Trump avait instantanément interdit à toute administration US, ainsi qu’aux partenaires de celles-ci, d’utiliser les produits d’Anthropic, et avait promis de tout faire pour rendre la vie infernale à l’entreprise, la qualifiant de « risque pour la chaîne d’approvisionnement », qualificatif utilisé normalement pour les « parias » de la société américaine, comme Huawei.
L’IA devient de plus en plus stratégique
Reste que les récentes prédictions de Dario Amodei se sont ironiquement retournées contre lui-même : alors qu’il insistait sur une union de tous les créateurs d’IA pour décider des limites à établir pour éviter une intelligence artificielle hors de contrôle ou trop puissante, voilà que l’administration américaine lui dit en substance « ok, nous te croyons, nous allons donc limiter ton modèle le plus efficace, quitte à l’interdire ».
La décision US est si brutale que les réactions à l’international ne manquent pas, réveillant dans de nombreux pays les politiciens de tous bords, appelant à se détacher aussi vite que possible des technologies américaines. En effet, tous les partis politiques, au-delà de leurs différends, semblent d’accord sur un point : l’IA est devenue un enjeu stratégique commercial et militaire, au même titre qu’un canon ou un missile balistique.
En France, une large part de la classe politique est, une fois n’est pas coutume, d’accord sur un point, de Jordan Bardella à Jean-Luc Mélenchon : il faut d’urgence accélérer le soutien aux solutions locales ou européennes, et particulièrement Mistral AI. Un consensus est devenu si rare entre tous les partis français qu’il est probablement la plus grande surprise de cette affaire dans l’Hexagone. La crainte, exprimée de diverses façons, est la même pour tous : qu’une entreprise américaine, sous la contrainte de son gouvernement, bloque l’utilisation d’un logiciel d’importance nationale, que ce soit une IA ou un système d’exploitation.
À l’international, la réaction est peu ou prou la même, avec l’inquiétude supplémentaire de ne pas avoir d’alternative, contrairement à la France avec Mistral AI. En Grande-Bretagne, l’ancien ministre à la sécurité Tom Tugendhat a clairement exprimé la pensée de nombreux politiciens : « la souveraineté dépend désormais davantage du code que des canons ».
Du côté scientifique, les réponses vont, elles aussi, dans la même direction, comme le rapporte Business Insider : la décision manque de transparence, les justifications sont trop peu détaillées, et cette intervention gouvernementale risque de faire fuir des cerveaux, tant elle est agressive. Mais la communauté renvoie aussi Anthropic dans les cordes, pour avoir trop tenté le diable en qualifiant elle-même ses outils de dangereux. Peter Girnus, chercheur pour le Zero Day Initiative, résume :
Deux choses peuvent être vraies en même temps.
Premièrement : Anthropic a passé des mois à présenter Mythos comme étant trop dangereux pour être diffusé largement. Sam Altman a déclaré à propos d’Anthropic que c’était un “coup de génie marketing de dire que nous avons construit une bombe”. Le Département du Commerce américain vient désormais d’accepter officiellement que c’est une bombe. Si vous décrivez votre produit comme une munition dans chaque communiqué de presse, un jour ou l’autre un gouvernement finit par vous prendre au mot. Ils ont eux-mêmes rédigé le fondement juridique de cette décision et en ont fait leur marque de fabrique.
Deuxièmement : nous avons déjà vécu cette expérience. Dans les années 1990, le gouvernement américain classait le chiffrement comme une munition au titre de l’ITAR. Des militants ont fini par faire tomber cette réglementation en imprimant le code source de PGP sous forme de livre, car les livres étaient protégés par la liberté d’expression alors que les disquettes étaient considérées comme des exportations d’armement. Un simple tee-shirt contenant trois lignes de code RSA en Perl était légalement considéré comme une munition. Ces restrictions ont fini par s’effondrer parce que les mathématiques ne s’arrêtent pas aux frontières.
La nouveauté aujourd’hui, c’est la règle dite du deemed export (“exportation réputée”). Montrer une technologie contrôlée à un ressortissant étranger présent sur le territoire américain est juridiquement considéré comme une exportation vers son pays d’origine. C’est pourquoi même certains employés étrangers d’Anthropic se retrouvent désormais privés d’accès au modèle qu’ils ont eux-mêmes contribué à construire. La munition est dans le bâtiment, mais les personnes qui l’ont fabriquée n’ont plus le droit de la regarder.
À force d’avoir crié au loup…
Si la décision du gouvernement US est, comme à son habitude, brutale et peu justifiée, Anthropic de son côté semble prise à son propre piège : à force d’avoir crié sur tous les toits que son IA était tellement puissante qu’il fallait la restreindre à quelques utilisateurs, le secrétaire au commerce l’a prise au mot et en a fait un risque pour la sécurité nationale.
Mythos : Anthropic juge son nouveau modèle trop dangereux pour être publié
Cependant, comme souvent, la décision d’Howard Lutnick a eu un « double effet », réveillant la communauté internationale, qui d’un coup se rend compte que certains outils qu’elle prend pour acquis sont en fait à la merci d’une simple décision du gouvernement américain. La réflexion engagée suite à cette décision prendra du temps, et mettra à n’en pas douter autour de la table de nombreux diplomates, scientifiques mais aussi politiciens de tout pays. L’IA, plutôt que d’apporter la connaissance universelle promise par ses créateurs, risque de ramener une partie de l’informatique à ce qu’elle était dans les années 1950 : une ressource stratégique, soumise aux intérêts des États, à leurs frontières et à leurs rapports de force.
