Le machine learning se développe de manière grandissante et les algorithmes d'intelligence artificielle sont implémentés un peu partout. Les grandes sociétés high tech en parlent de plus en plus et certaines entendent les démocratiser au travers de chatbots ou d'assistants virtuels intégrés soit dans les téléphones, soit directement au sein du foyer.
Dans certains domaines, l'intelligence artificielle surpasse déjà les humains. En mars par exemple, Lee Sedol, classé troisième mondial au jeu de Go, s'était fait battre par l'algorithme de Google AlphaGo.
L'objectif principal du machine learning est de mettre en place des algorithmes permettant aux machines d'apprendre par elles-mêmes dans le but d'automatiser les traitements. Pour développer ces travaux, en janvier 2014, Google a fait l'acquisition de la société DeepMind, fondée en 2010 par le spécialiste des neurosciences Demis Hassabis ainsi que Jaan Tallin anciennement développeur de Skype et Kazaa.
DeepMind travaille étroitement avec les chercheurs de l'université d'Oxford et l'équipe planche actuellement sur un dispositif afin d'empêcher que les algorithmes ne prennent le contrôle eux-mêmes du dispositif en bloquant l'accès aux humains.
Dans une étude (PDF), les chercheurs expliquent qu'« il est peu probable qu'une intelligence artificielle se comporte strictement de manière optimale avec un l'environnement complexe du monde réel ». Les chercheurs ajoutent qu'il est nécessaire de mettre en place « un gros bouton rouge pour éviter que les agents (NDLR : d'intelligence artificielle) ne continuent des séries d'actions nuisibles ».
Google décrit alors un mécanisme d'interrupteur pour forcer l'arrêt d'une intelligence artificielle sans que cette dernière ne puisse apprendre d'elle-même son fonctionnement et éventuellement le stopper.
