Le prix Nobel de physique Geoffrey Hinton, récompensé pour ses travaux dans le secteur de l'IA, est inquiet du tour que prend le développement de cette technologie. Et il le montre, en critiquant vertement le leader du secteur et son patron, Sam Altman !
Cette année, comme beaucoup d'autres secteurs de l'activité humaine, les prix Nobel ont été quelque peu vampirisés par la thématique de l'intelligence artificielle. Le prix Nobel de chimie a ainsi été accordé à trois scientifiques, qui ont été à l'origine d'avancées en utilisant les outils de l'IA. Du côté de la physique, ce sont les chercheurs John Hopfield et Geoffrey Hinton qui ont été récompensés, pour leurs travaux dans les réseaux de neurones artificiels. Mais si Geoffrey Hinton a beaucoup fait pour l'IA, aujourd'hui, il est franchement inquiet de ce qu'il voit se développer depuis deux ans !
Geoffrey Hinton se paye Sam Altman
Sam Altman doit avoir les oreilles qui sifflent ! Lui qui est plutôt acclamé partout où il passe depuis que ChatGPT est devenu un instrument utilisé à travers le monde, il a été cette semaine l'objet d'une critique qui porte, puisqu'elle émane du nouveau prix Nobel de physique Geoffrey Hinton.
« Je voudrais remercier mes étudiants. J'ai été particulièrement chanceux d'avoir eu beaucoup d'étudiants brillants, bien plus brillants que moi […]. Ils ont fait des choses incroyables. Et je suis particulièrement fier qu'un de mes étudiants ait licencié Sam Altman » a-t-il ainsi taclé à l'occasion d'une session de questions réponses publiques, le 8 octobre dernier, à l'université de Toronto.
Des critiques qui rejoignent celles d'Elon Musk
Cet étudiant, c'est bien évidemment Ilya Sutskever, à l'origine d'un très bref coup d'État au sein d'OpenAI il y a environ un an, quand Sam Altman avait été limogé avant de revenir en grâce au bout d'une semaine. Une action justifiée alors par les inquiétudes du scientifique quant aux risques pris par OpenAI dans le développement d'IA sans garde-fous efficaces, et ce, afin de maximiser les profits. Ilya Sutskever a depuis quitté la société californienne pour fonder une société tournée autour de cette question de la sécurisation des IA.
« OpenAI a été mis en place avec un fort accent sur la sécurité. Le premier objectif était de développer une intelligence artificielle générale et de garantir qu'elle serait sûre » a rappelé le chercheur de 76 ans. Or depuis, « il s'est avéré que Sam Altman était beaucoup moins préoccupé par la sécurité que par les profits » a-t-il ajouté. Un tour qui pourrait être un formidable gâchis pour le prix Nobel de physique, l'humanité ayant potentiellement un danger immense devant elle qui arrive, avec l'intelligence artificielle générale.
D'une manière intéressante, on retrouve chez Geoffrey Hinton les mêmes critiques qu'assène constamment Elon Musk à Sam Altman, pour qui Sam Altman a trahi les ambitions premières d'OpenAI pour faire du profit.
Source : BFM TV
