La question de la sécurité des modèles d'IA chez le créateur de ChatGPT est une question brûlante depuis déjà un certain temps. Est-ce que le nouveau comité mis en place pourra répondre à ce problème ?
À la fin de l'année dernière, le monde avait assisté ébahi à une semaine étrange durant laquelle Sam Altman avait été remercié, avant de revenir en grâce. Un mouvement dû aux préoccupations sur la sécurité des modèles développés qu'avait notamment Ilya Sutskever, qui a depuis créé une start-up qui va travailler sur le sujet.
La firme californienne de son côté tente d'apaiser les craintes, avec, particulièrement, la création il y a quelques mois d'un comité de sûreté. Une instance alors critiquée, puisque Sam Altman y siégeait. Ce ne sera dorénavant plus le cas !
Un nouveau comité pour améliorer la sécurité chez OpenAI
Il y a encore du changement dans l'instance censée veiller à ce que les nouvelles IA créées par OpenAI soient suffisamment sûres. En effet, le fameux comité de sécurité établi au printemps dernier devient un « Comité de surveillance du conseil d'administration. »
Selon OpenAI, ce comité « sera informé par la direction de l'entreprise des évaluations de sécurité pour les lancements de modèles importants et exercera, avec l'ensemble du conseil d'administration, une surveillance sur les lancements de modèles, notamment en ayant le pouvoir de retarder un lancement jusqu'à ce que les problèmes de sécurité aient été résolus. »
Sam Altman ne sera pas présent
Ce changement de structure est l'aboutissement d'un examen de trois mois sur le niveau de garanties apporté par OpenAI sur la question de la sécurité. Le Comité sera ainsi un organe plus indépendant de ce qui avait été développé précédemment. Et pour preuve de cette moindre dépendance à la direction, The Verge nous informe que Sam Altman n'y siégera plus dorénavant.
À l'heure actuelle, le comité est dirigé par Zico Kolter, et intègre l'ancien de la NSA Paul Nakasone, Nicole Seligman, et Adam D'Angelo. Reste maintenant à savoir avec le temps quel sera le degré d'indépendance de cette instance, au sein d'une entreprise qui ne cesse de lancer de nouveaux modèles.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Source : The Verge
