C’est une alerte qu’il ne faut pas prendre à la légère, car elle émane de l’une des figures les plus proéminentes de l’intelligence artificielle (IA) générative. Selon Dario Amodei, il est impératif de réguler la technologie, car nous courrons potentiellement vers la catastrophe.
Ancien de chez OpenAI et P.-D.G d’Anthropic, à l’origine du plébiscité chatbot Claude, il publie un essai de 38 pages portant sur les dangers concrets de l’intelligence artificielle. Le ton est clair : « L’humanité est sur le point de se voir confier un pouvoir presque inimaginable, et il est très difficile de savoir si nos systèmes sociaux, politiques et technologiques ont la maturité nécessaire pour l’exercer ».
Une technologie surpuissante entre les mains de n’importe qui
Dario Amodei estime que nous sommes plus proches que jamais de l’émergence de systèmes qui seraient « bien plus performants que n’importe quel lauréat du prix Nobel, homme d’État ou technologue ». Il évoque, notamment, les risques liés au bioterrorisme : « Un solitaire perturbé qui peut commettre une fusillade dans une école, mais qui n’est probablement pas capable de construire une arme nucléaire ou de répandre une épidémie… aura désormais les mêmes capacités qu’un virologue titulaire d’un doctorat », écrit-il.
De même, il rappelle que cette technologie surpuissante sera entre les mains des États, même de ceux considérés comme autoritaires. Il y a quelques jours, le dirigeant affirmait que l’exportation de puces H200 de NVIDIA en Chine revenait à « vendre des armes nucléaires à la Corée du Nord ».
Amodei cible aussi les entreprises développant les modèles, qui pourraient choisir de garder le silence sur de potentiels dangers afin de privilégier le profit. Il mentionne des agissements étranges de Claude il y a quelques mois, qu’Anthropic avait choisi de partager au grand public.
« Il y a tellement d’argent à gagner avec l’IA – littéralement des milliers de milliards de dollars par an. C’est là le piège : elle est si puissante, un enjeu si alléchant, qu’il est très difficile pour la civilisation humaine de lui imposer la moindre restriction », s’inquiète-t-il. Sans explicitement citer Grok, l’expert évoque « une négligence inquiétante envers la sexualisation des enfants dans les modèles actuels ».
