Conséquences futures de l’IA : pour Bill Gates, trouver un accord mondial sera plus difficile qu’à l’époque du nucléaire

L’avertissement de Bill Gates avait déjà fait le tour du monde avant la diffusion complète de son entretien. Dans un extrait de « Meet the Press » diffusé quelques jours plus tôt, le cofondateur de Microsoft déclarait que l’intelligence artificielle était « certainement suffisamment puissante pour provoquer des événements qui ... causeraient un milliard de morts ». Il ajoutait qu’il n’avait « jamais existé d’arme aussi puissante que la combinaison de personnes mal intentionnées utilisant les derniers outils d’IA ».

La diffusion intégrale de l’émission, dimanche 27 septembre, permet toutefois de mieux comprendre la portée de ces propos. Bill Gates ne prédit pas que l’IA provoquera un milliard de morts. Il décrit une capacité potentielle de nuisance, notamment si des individus ou des groupes mal intentionnés disposent d’outils suffisamment puissants et autonomes.

Son inquiétude porte d’abord sur ce que des acteurs malveillants pourraient accomplir avec ces technologies. Gates évoque notamment les cyberattaques, les attaques biologiques et d’autres usages dangereux. Selon lui, de petits groupes pourraient, grâce à l’IA, disposer de capacités autrefois réservées aux États les plus puissants. Des infrastructures essentielles comme les réseaux électriques, les hôpitaux ou les systèmes financiers pourraient ainsi devenir des cibles.

Mais l’entretien va bien au-delà du risque sécuritaire. Interrogé sur la nature même de la révolution en cours, Gates décrit l’IA comme un « événement évolutif ». Selon lui, l’humanité a créé une nouvelle forme d’intelligence qui est déjà, dans certains domaines, plus performante que l’intelligence humaine et dont les capacités pourraient progresser de manière exponentielle dans les prochaines années.

Cette évolution constitue, à ses yeux, une rupture avec les précédentes innovations technologiques. Il appelle donc non seulement les entreprises, mais aussi les chercheurs, les groupes de réflexion, les électeurs et les responsables politiques à participer à la réflexion sur la manière dont cette technologie doit être développée. Autrement dit, pour Gates, la question n’est plus simplement de savoir ce que l’IA peut faire, mais aussi ce que les sociétés humaines veulent lui permettre de faire.

À la question de savoir si l’autorégulation suffit, sa réponse est nette : « No one thinks self-regulation is enough », autrement dit, « personne ne pense que l’autorégulation suffit ». Interrogé ensuite sur la nécessité d’une législation à Washington, il répond : « Absolutely ». Gates demande ainsi que les autorités publiques et les forces de l’ordre participent à la définition des garanties et des mécanismes de surveillance imposés aux entreprises d’IA. Selon lui, ces exigences représenteraient une charge supplémentaire pour l’industrie, mais ne devraient pas pour autant ralentir considérablement son développement.

L’entretien apporte également une précision importante au débat sur le fameux kill switch, ou bouton permettant de désactiver une IA devenue dangereuse. Pour Gates, ce dispositif peut avoir son utilité, mais il ne constitue pas une réponse suffisante. Une fois qu’un système a été utilisé pour lancer une cyberattaque ou une autre opération malveillante, l’arrêter après coup ne permet pas nécessairement d’effacer les conséquences de son utilisation. Il préconise donc davantage de traçabilité, de surveillance et de conservation des informations sur les opérations effectuées par les systèmes d’IA.

Le philanthrope américain élargit également la question au niveau international. Selon lui, parvenir à un cadre mondial de régulation de l’intelligence artificielle pourrait être plus difficile que les négociations menées pendant la guerre froide pour limiter les armes nucléaires. La difficulté tient notamment au fait que l’IA est développée par un grand nombre d’entreprises et de pays, dans un contexte de compétition technologique particulièrement intense. Pour autant, Gates estime que les États-Unis doivent jouer un rôle moteur dans cette recherche d’accord. Il rappelle que le pays a déjà participé à des initiatives internationales concernant la sécurité aérienne, la protection de la couche d’ozone ou encore les armes nucléaires. Son raisonnement est résumé par une formule : « Humanity is all in this together », c’est-à-dire que l’humanité partage les mêmes enjeux face à cette technologie.

Il estime par ailleurs que l’imposition de mécanismes de surveillance ne devrait pas handicaper les États-Unis dans leur compétition technologique avec la Chine. Il dit même espérer pouvoir discuter directement avec Donald Trump de cette question.

L’autre enseignement de l’entretien est que Bill Gates ne présente pas l’intelligence artificielle comme une technologie uniquement dangereuse. Il développe également une vision à long terme beaucoup plus optimiste. Selon lui, l’évolution de l’IA pourrait se dérouler en deux grandes phases. La première correspondrait à une période d’adaptation d’environ vingt ans, durant laquelle l’IA transformera notamment le marché du travail et pourrait accroître certaines capacités criminelles si des garde-fous appropriés ne sont pas mis en place.

Le discours de Bill Gates apparaît donc moins comme une condamnation de l’intelligence artificielle que comme un appel à ne pas dissocier innovation et responsabilité. Pour lui, les bénéfices potentiels sont considérables, mais les risques progressent eux aussi avec les capacités des systèmes.

L’enjeu est désormais de déterminer si les garde-fous peuvent être construits au même rythme que la technologie. Car, dans la vision exposée par Gates, attendre qu’une catastrophe démontre les failles du système reviendrait à intervenir trop tard.

Ainsi, derrière la spectaculaire formule du « milliard de morts », son message apparaît finalement plus large : l’IA est en train de modifier profondément le rapport de l’humanité à l’intelligence, au travail et à la puissance technologique. La question n’est donc plus de savoir s’il faut l’arrêter, mais comment organiser son développement afin que ses capacités extraordinaires servent davantage la société qu’elles ne l’exposent à de nouveaux dangers.