OpenAI vient de mettre en place son nouveau comité pour la sécurité. Et il sera chapeauté tout simplement par l'équipe dirigeante !
Il y a eu du rififi ces derniers temps au sein de l'entreprise à la base de ChatGPT. Plusieurs membres éminents de la société californienne, dont celui qui avait tenté d'évincer Sam Altman, à savoir Ilya Sutskever, ont ainsi récemment donné leur démission. Leur point commun ? Ils appartenaient tous à l'équipe en charge d'assurer la sécurisation d'une potentielle IA générale. Et ceux qui vont les remplacer pourraient bien avoir des ambitions différentes.
Un triumvirat pour la sécurité
Il y a de la nouveauté, une fois encore, au sein d'OpenAI. Après les départs en cascade des responsables de la sécurité, il a fallu créer une nouvelle équipe dédiée. Et c'est chose faite selon une information de The Verge. En effet, il y a maintenant trois nouveaux responsables pour ces postes.
Il s'agit des membres du conseil d'administration, Nicole Seligman et Adam D'Angelo, ainsi que de… Sam Altman, le patron de la boîte ! La première mission de cette équipe sera « d'évaluer et de développer les processus et les garde-fous d'OpenAI. »
Un comité pour la forme ?
Il va être difficile de faire confiance tout de suite à cette nouvelle équipe, qui sera composée de cinq autres membres. En effet, les critiques qui se sont multipliées mezzo voce ces derniers temps au sein du partenaire de Microsoft portaient souvent sur la vision de Sam Altman, accusé de faire passer le lancement de nouveaux produits étincelants bien avant les considérations portant sur la sécurité.
Or, avec le développement rapide de l'intelligence artificielle, les voix qui s'inquiètent d'un impact potentiellement néfaste de cette technologie sur l'humanité se sont multipliées. Beaucoup craignent ainsi que l'IA un jour puisse devenir hors de contrôle, comme l'avait encore dernièrement évoqué Elon Musk. OpenAI considère-t-elle que les personnes inquiètes en font trop, et qu'il n'est pas nécessaire de renforcer les recherches sur la sécurité ?
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Source : The Verge
