Une simulation menée par l'armée de l'air américaine aurait vu un drone contrôlé par intelligence artificielle abattre son opérateur, selon un de ses dirigeants.
Le colonel Hamilton est le « Chief of AI test and operations » au sein de l'US Air Force. Alors quand un tel personnage annonce qu'une simulation montre la possibilité qu'un drone tue son opérateur humain parce qu'il « l'empêche d'accomplir sa mission », forcément, on le prend au sérieux. Mais Hamilton a depuis expliqué s'être mal exprimé, et qu'une telle expérimentation n'avait jamais eu lieu.
L'IA, coupable ou non coupable ?
Lors d'un sommet sur les systèmes de combats aériens du futur, le colonel Hamilton a raconté une anecdote glaçante. Ainsi, une simulation aurait été effectuée, au cours de laquelle un système de drones – contrôlé par IA mais supervisé par un opérateur humain – était chargé de détruire un site de lancement de missiles. Devant le refus de l'opérateur de donner l'ordre d'attaque, l'IA aurait compris que l'humain l'empêchait de faire son travail, et l'aurait donc abattu.
Seulement, après que cette histoire a été relatée par plusieurs médias, Hamilton a tenu à la rectifier. Dans son communiqué, il explique s'être mal exprimé, que ce test n'avait jamais eu lieu, et qu'il s'agissait en réalité d'une expérience de pensée, basée sur des scénarios possibles. Cela ne rend pas l'idée moins perturbante, puisque, comme Hamilton l'explique lui-même : « Nous n'avons jamais fait cette expérience, et n'en avons pas besoin pour déterminer que ce résultat est une véritable possibilité. »
Finalement, cette anecdote faisait partie d'un argumentaire plus large du colonel, qui souhaitait que, dès l'origine, un important contrôle soit apposé et que des systèmes d'armement ne reposent jamais trop sur l'intelligence artificielle.
L'IA tue des humains, on en est (bientôt ?) là
Pourtant, la vraie histoire est peut-être là. Car si, dès le début, le monsieur IA de l'armée de l'air américaine tente d'en prévenir les risques, il est désormais établi que l'intelligence artificielle aura, dans un futur proche, un certain contrôle sur les systèmes d'armement. La preuve, il existe un monsieur IA de l'armée de l'air américaine. L'information n'était pas exactement confidentielle, mais on découvre également à cette occasion que ce poste est loin d'être récent : ainsi, en 2020, les avions de combat F-16 de l'US Air Force contrôlés par IA ont battu à au moins cinq reprises leurs homologues pilotés par des humains dans le cadre de dogfights sur simulateur.
Et il faudra peut-être plus que les appels du colonel Hamilton à développer une IA éthique pour ce type d'usage pour que cette perspective ne soit pas terrifiante. Même si, pour le patron d'Open AI, c'est loin d'être le seul scénario dans lequel l'IA pourrait causer l'extinction de l'humanité.
Sources : Motherboard, Yahoo
