Un joueur amateur est parvenu à battre une IA au jeu de Go après avoir identifié une faille dans la stratégie de cette dernière. Preuve que ces systèmes sont encore limités à l'entraînement qu'ils ont reçu.
En exploitant l'erreur de l'IA, Kellin Pelrine l'a battue lors de 14 parties sur 15.
Une faillle repérée par… un autre programme
Avec une équipe de chercheurs dont il fait partie, Pelrine a mis au point un programme informatique avec pour objectif de rechercher les faiblesses dans la stratégie de l'IA dont un joueur humain pourrait tirer parti. Pour cela, il a fait plus de 1 million de parties contre l'IA baptisée KataGo. Cette dernière repose sur les techniques utilisées par DeepMind dans la création d'AlphaGo Zero, l'IA qui a battu le meilleur joueur mondial de Go en 2016 et l'a poussé à annoncer sa retraite trois ans plus tard.
Pour la battre, Pelrine est parvenu à encercler des groupes de pierres (les pièces des joueurs) de l'IA en attirant son attention sur d'autres zones du goban un coup sur deux. L'algorithme ne se rendait pas compte que ses pierres étaient encerclées, car il se concentrait sur un autre endroit du goban (le plateau du jeu de Go). Le chercheur a également appliqué cette stratégie sur une autre IA spécialiste du jeu de Go, Leela Zero, et l'a emporté à nouveau.
Les IA sont encore limitées
Selon le joueur amateur, cette stratégie aurait été repérée très rapidement par un humain, car il se serait rendu compte des pierres entourant les siennes. Cela démontre que les IA peuvent encore avoir des lacunes importantes et même des angles morts, comme c'est ici le cas. Elles ne sont ainsi pas capables d'aller au-delà de ce qui leur a été appris lors de leur entraînement.
Bien sûr, ces lacunes peuvent être comblées à travers de nouveaux entraînements, mais on observe les limites de ces systèmes. Par ailleurs, les algorithmes peuvent être enclins aux mêmes erreurs ou biais que les humains qui les ont entraînés.
Sources : Engadget, The Register
