Un nouveau haut dirigeant d'OpenAI s'en va. Et en partant, il a fait des déclarations qui font un peu peur…
Si l'histoire d'OpenAI est une success story, grâce à la création de ChatGPT, elle représente aussi au plus haut point les désaccords que le monde peut avoir sur la question de la sécurisation de l'IA à l'avenir.
Car depuis un peu moins d'un an, le management de la start-up enregistre de nombreux départs, presque tous en raison d'un travail sur la sécurité quant à l'IA générale (l'IA qui surpasserait l'être humain) qui ne serait pas fait. Et c'est ce que l'on peut voir encore aujourd'hui !
Un nouveau haut responsable d'OpenAI quitte le navire
Il y a encore des remous au sein d'OpenAI. L'équipe « AGI Readiness », qui travaillait sur la question de la sécurisation d'une éventuelle IA générale, vient d'être dissoute. C'est la seconde fois que l'équipé dédiée à cette tâche est supprimée en un an au sein d'OpenAI.
Car, souvenez-vous, en mai dernier, Jan Leike, en charge de la précédente équipe, partait en laissant un message dans lequel il regrettait que le côté commercial prenne le pas sur la sécurité au sein d'OpenAI. Et aujourd'hui, c'est le chef de l'équipe AGI Readiness, Miles Brundage, qui s'en va à son tour.
Prend-on la question de l'IA générale au sérieux ?
Et les dernières déclarations qu'il fait en vidant son bureau n'ont pas de quoi rassurer sur notre avenir. Il a ainsi expliqué que « ni OpenAI ni aucun autre laboratoire d'avant-garde n'est prêt [pour l'intelligence artificielle générale], et le monde n'est pas prêt non plus. »
Il ajoute par ailleurs que c'est la difficulté de travailler sur la sécurisation de l'IA dans le cadre de l'entreprise et de ses contraintes qui l'a poussé à quitter OpenAI. Il pense pouvoir mieux faire pour cette cause en étant indépendant, et à l'extérieur des grandes entreprises du secteur.
En cela, il rejoint la démarche d'Ilya Sutskever, qui, après avoir raté son putsch contre Sam Altman, a finalement pris le large en mai dernier, pour lancer ensuite sa propre entreprise. Baptisé Safe Superintelligence (SSI), elle a pour ambition de créer l'environnement de sécurité nécessaire au développement de l'IA générale.
Source : The Verge
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
