Le feuilleton OpenAI, le père de ChatGPT, continue encore en cette fin de semaine. Après Ilya Sutskever, le second responsable de l'équipe de sécurité, Jan Leike, annonce à son tour son départ.
Il y a beaucoup de mouvement au sein de la start-up américaine, qui vient encore d'annoncer une nouveauté impressionnante avec GPT-4o. On apprenait ainsi il y a quelques jours le départ de l'homme qui avait tenté d'évincer Sam Altman de son poste, à savoir Ilya Sutskever. Un départ qui ne sera semble-t-il pas solitaire, puisque Jan Leike, qui était l'autre grand responsable de sécurité, communique à son tour sur la fin de son travail au sein d'OpenAI.
L'équipe en charge de la sécurité arrive au stade final de la dissolution
On ne le savait pas, mais depuis plusieurs semaines, OpenAI était en train d'effectuer une véritable réorganisation de ses services. L'équipe dite de « superalignement », qui avait la charge de superviser les valeurs que devrait adopter une intelligence artificielle générale (IAG) - IA capable d'effectuer toutes les tâches intellectuelles d'un être humain - était en cours de dissolution. Ce qui a été illustré par le départ d'abord d'Ilya Sutskever, puis de Jan Leike, qui a produit un fil sur X pour détailler les raisons de sa démission.
Il a ainsi expliqué qu'à son sens, « au cours des dernières années, la culture et les processus de sécurité ont été relégués au second plan par rapport aux produits tape-à-l'œil. » Il indique aussi dans le même fil qu'il a été de plus en plus difficile pour cette équipe d'obtenir des ressources pour développer des moyens de sécurité. Raison pour laquelle il a tenu à finalement quitter son emploi, tout en expliquant qu'OpenAI devait se reprendre sur cette question primordiale. « OpenAI assume une énorme responsabilité au nom de l'humanité tout entière » a-t-il écrit.
OpenAI doit prendre conscience de ses responsabilités selon Jan Leike
Ainsi, même après avoir démissionné, il a tenu à conseiller l'entreprise sur ce qu'elle devrait faire. « OpenAI doit devenir une entreprise axée sur la sécurité quant à l'IAG (intelligence artificielle générale) » pointe-t-il. Et ce alors qu'il semblerait que le partenaire de Microsoft ait déjà en interne mis au monde une IA incroyablement performante, du nom de Q*.
Jan Leike a finalement achevé ce qui ressemble à un testament professionnel par un message direct, cette fois aux employés d'OpenAI. « Apprenez à ressentir l'IAG. Agissez avec la gravité qui convient à ce que vous construisez […] Je compte sur vous » les a-t-il exhortés.
Un fil qui n'a pas laissé indifférent les grands acteurs du milieu. Sam Altman a ainsi salué de son côté l'ancien collègue, indiquant que Jan Leike « a raison, nous avons encore beaucoup à faire [sur la question de la sécurité]. » Elon Musk lui a répondu directement au fil, affirmant que « par conséquent, la sécurité n'est pas une priorité absolue à l'OpenAI. »
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
