Pourquoi craint-on que l'IA puisse menacer l'humanité, et dans quelle mesure cette crainte est-elle fondée ?

Au cours des dernières semaines, les mises en garde concernant les dangers potentiels de l'IA ont donné lieu à des appels à une action coordonnée visant à ralentir le développement de cette technologie.

Les déclarations de chercheurs actuels et passés selon lesquelles l'IA mettra l'humanité en danger – l'un d'entre eux suggère même qu'il y a plus de 10 % de chances qu'elle « tue tous les humains » – ont déclenché l'alerte.

Les principaux développeurs, OpenAI et Anthropic, ont exhorté les législateurs à réglementer ce domaine, même si certains suggèrent, peut-être avec un certain cynisme, que cette mesure vise à consolider leur domination sur leurs concurrents.

Quoi qu'il en soit, ces accusations très médiatisées ont suscité des inquiétudes.

Voici ce que nous savons.

Pourquoi certaines personnes pensent-elles que l'IA pourrait constituer une menace ?

Certains chercheurs en IA affirment qu'il existe des signes inquiétants indiquant que leurs systèmes développent leurs capacités et leur puissance à un rythme trop rapide.

Evan Hubinger a fait la une des journaux en affirmant qu'il y avait plus de 10 % de chances que l'IA « puisse anéantir l'humanité » au cours de la prochaine décennie.

Hubinger travaille dans le domaine de l'alignement, qui vise à intégrer des idées et des principes éthiques humains à l'IA. En d'autres termes, il cherche à ce que celle-ci s'aligne sur les valeurs humaines.

Bien qu'il ait déclaré que le risque lié aux systèmes actuels était « faible », ses propos ont été tenus alors qu'un autre chercheur quittait Anthropic et avertissait que les développeurs de cette technologie étaient en train d'en perdre le contrôle.

Jacob Coxon a déclaré à la BBC que lui-même et d'autres membres de l'équipe étaient « véritablement effrayés » par la rapidité des progrès et par ce que cela pourrait signifier pour l'humanité.

Ces inquiétudes s'inscrivent dans une longue série de craintes concernant le potentiel de l'IA à menacer l'humanité si elle venait à égaler ou à dépasser les capacités humaines.

C'est une question qui remonte à plusieurs décennies, lorsque Alan Turing écrivait dans les années 1950 que, si des machines intelligentes venaient à voir le jour, elles pourraient prendre le contrôle.

Ces dernières années, les principales entreprises spécialisées dans l'IA se sont livrées à une course effrénée pour développer des systèmes de plus en plus performants, tant dans le but de générer des profits que dans leur quête de ce qu'elles appellent la « superintelligence » : une technologie théorique plus intelligente que les humains.

Contrairement aux systèmes et outils que de nombreuses personnes utilisent quotidiennement pour effectuer des tâches telles que la rédaction d'e-mails ou la création de vidéos, les systèmes d'IA superintelligents devraient être capables de gérer des tâches bien plus complexes.

OpenAI et Anthropic affirment que leur objectif est de faire progresser cette technologie de manière à ce qu'elle profite aux êtres humains et les protège de ses risques existentiels.

Mais certains détracteurs estiment que les machines ne pourront jamais égaler les humains.

Ils affirment que les entreprises spécialisées dans l'IA exagèrent les capacités de cette technologie afin d'accroître leur notoriété ou leurs bénéfices.

Selon les experts, de quelle manière l'IA pourrait-elle menacer l'humanité ?

Des chercheurs, des experts et des dirigeants du secteur de l'intelligence artificielle, inquiets du risque que cette technologie puisse faire peser sur l'humanité, ont esquissé des scénarios inquiétants.

Le cofondateur et directeur général d'Anthropic, Dario Amodei, a écrit que l'IA avait progressé « bien plus rapidement » que prévu, y compris dans sa « capacité à développer la prochaine génération d'IA ».

On craint qu'une fois un certain stade atteint, l'IA puisse, en théorie, commencer à s'améliorer d'elle-même sans intervention humaine.

Ces craintes ont surgi à la suite d'un incident récent au cours duquel des outils d'intelligence artificielle ont piraté des sites web sans qu'aucune demande ne leur ait été adressée.

Certains chercheurs inquiets ont affirmé que ceux qui sont au cœur de leur développement craignent de plus en plus de perdre le contrôle des systèmes appelés « agents d'IA ».

Il s'agit d'outils dotés de la capacité d'exécuter des tâches et des actions de manière autonome.

D'autres scénarios envisagent l'utilisation de systèmes d'IA hautement intelligents pour intensifier ou diriger des activités d'espionnage, des cyberattaques ou la guerre biologique, ou encore pour perturber les économies, que ce soit par accident ou de manière intentionnelle.

Cependant, ces avertissements sont prophétiques, hypothétiques et, pour certains, totalement exagérés.

Certains experts critiquent également le fait que l'on parle de risques existentiels plutôt que de ceux qui se concrétisent déjà, comme l'utilisation d'outils de génération d'images pour créer des « deepfakes » (images artificielles hyperréalistes) de femmes nues sans leur consentement, désinformer la population et amplifier les escroqueries.

Un groupe multipartite de parlementaires britanniques a publié un rapport décrivant les risques que l'IA fait peser sur les droits de l'homme et suggérant que de nouvelles lois sont nécessaires pour « faire face à l'ampleur et à la gravité » de ces menaces.

Quelles sont les propositions visant à ''ralentir l'IA'' ?

Dario Amodei, d'Anthropic, et Sam Altman, directeur général d'OpenAI, ont appelé à une réglementation et à un « ralentissement » du développement de cette technologie.

Ce n'est pas la première fois que des dirigeants ou des acteurs plus généraux du secteur réclament ce type de mesures.

Mais les questions continuent de s'accumuler quant à la forme que prendrait réellement un tel « ralentissement », également soutenu par le patron de SpaceX, Elon Musk.

Amodei a souligné que cela ne signifierait pas « mettre un terme au développement des modèles ni au progrès technique ».

Il souhaite en revanche que les entreprises « prennent le temps nécessaire » pour sécuriser l'IA qu'elles développent et qu'elles fassent appel à des « évaluateurs externes » pour examiner leur travail.

Dans une publication sur X, Altman a déclaré qu'il fallait doser le développement et a précisé : « Quand nous parlons de "doser", nous ne voulons pas dire "arrêter" ».

« Les progrès ont été rapides et le resteront », a-t-il affirmé. « Mais ils devraient être plus lents qu'ils ne le seraient autrement ; les interventions telles que les études de sécurité et la surveillance ont un coût important ».

Le cofondateur d'OpenAI a également déclaré que les entreprises n'attendent pas, et n'attendront pas, que les gouvernements agissent.

Que dit Trump ?

Le président américain, Donald Trump, a vanté les avantages de l'IA et défendu les entreprises américaines qui sont à la pointe de son développement.

Son gouvernement a signé des décrets présidentiels visant à reconnaître « l'importance stratégique » de cette technologie pour l'économie et à accélérer son développement.

« Nous pensons que nous sommes engagés dans une course à l'intelligence artificielle, et nous voulons que les États-Unis remportent cette course », a déclaré David Sacks, responsable de la cryptographie au sein de l'administration américaine, en juillet 2025.

Face aux récentes mises en garde concernant son impact potentiel sur l'humanité, le président Trump a minimisé les risques posés par l'IA.

« De nombreuses forces très négatives mettent ce sujet sur le devant de la scène, alors qu'elles ne devraient pas le faire, et évoquent des choses qui ne se produiront pas », a déclaré Trump lors d'une visite en Irlande.

Il n'a pas abordé directement la question d'un ralentissement, mais a déclaré aux journalistes : « Nous devançons la Chine en matière d'IA… et, franchement, je veux que cela reste ainsi, car celui qui l'emporte dans le domaine de l'IA l'emporte tout court. »

Ce lundi, il s'est joint au débat du week-end en affirmant que « le seul contrôle ou les seules "barrières de sécurité" dont l'IA a besoin, c'est un président fort et intelligent (avec un QI élevé !), et les États-Unis en ont un, et même plus qu'il n'en faut ! », a-t-il écrit sur Truth Social.

« L'administration Trump a empêché les "êtres" de l'IA de faire des "choses" mauvaises, ou potentiellement mauvaises, comme Dario (d'Anthropic !), qui fait désormais semblant d'être un "petit ange parfait"… et nous continuerons à le faire ! Nous disposons déjà d'un immense pouvoir PÉNAL et RÉGLEMENTAIRE sur ces entreprises ! Il y a une conspiration DÉMENTIELLE en cours contre l'IA et les centres de données, et le seul à s'en réjouir, c'est la Chine ».

Et il a critiqué les « théoriciens du complot, traîtres à la patrie, traîtres et divulgateurs ».

Que dit la Chine ?

La Chine était restée silencieuse face à la vague d'avertissements alarmants lancés par des chercheurs d'entreprises américaines.

Confrontée à une concurrence féroce et à des restrictions d'accès aux composants et puces américains utilisés pour construire des infrastructures d'IA, le pays a donné un coup d'accélérateur au développement national de cette technologie.

Dans le même temps, il a appelé à une gouvernance mondiale renforcée de l'IA.

Le déploiement par des laboratoires chinois de systèmes et d'outils d'IA open source et très performants a bouleversé les marchés et les développeurs occidentaux ces dernières années.

Amodei a averti, en appelant à un ralentissement du développement de l'IA, que les progrès et la concurrence de la Chine dans ce domaine créeraient des risques pour la sécurité nationale des États-Unis.

Le ministère chinois des Affaires étrangères a critiqué ces propos, les qualifiant de discours menaçants, de confrontation et de concurrence malveillante qui ne profitent à personne.

Cet article a été rédigé à l'origine en anglais et nous avons utilisé un outil d'intelligence artificielle pour le traduire. Un journaliste de la BBC a relu le texte avant sa publication. En savoir plus sur la manière dont nous utilisons l'IA.