Dans une publication sur X.com, Sam Altman, patron d'OpenAI, tient à rassurer les législateurs sur ses efforts pour garantir une intelligence artificielle (IA) sécurisée. La start-up, entachée de plusieurs polémiques, fait l'objet de nombreuses critiques.
C'est pourtant une période charnière pour l'éditeur de ChatGPT. Après avoir lancé un moteur de recherche alimenté à l'IA la semaine dernière, il vient d'annoncer le déploiement progressif de son modèle vocal avancé. Dans le même temps, la start-up se retrouve au cœur de controverses comme en témoignent les accusations de Scarlett Johansson sur le vol présumé de sa voix.
Une situation qui attire l'attention des législateurs américains. Dans une lettre envoyée le 22 juillet à la direction de l'entreprise, cinq sénateurs soulèvent des questions sur sa politique en matière de sécurité. Elle s'est empressée de répondre.
La réputation d'OpenAI entachée par les polémiques
« Notre mission est de veiller à ce que l'intelligence artificielle profite à l'ensemble de l'humanité, et nous sommes déterminés à mettre en œuvre des protocoles de sécurité rigoureux à chaque étape de notre processus », écrit Jason Kwon, directeur de la stratégie d'OpenAI, dans sa réponse aux législateurs. En parallèle, le P.-D.G. Sam Altman a rappelé sur X.com qu'au moins 20 % des ressources informatiques de l'entreprise seraient alloués à ses efforts de sécurité.
Le dirigeant précise s'être engagé auprès de l'institut américain de sécurité de l'IA pour lui permettre d'accéder à son prochain grand modèle de langage de manière anticipée. Dans sa lettre, Jason Kwon évoque aussi le nouveau comité de sûreté et de sécurité mis en œuvre au sein d'OpenAI. Un organisme très controversé, car celui-ci est dirigé par les cadres de la société, dont Sam Altman lui-même…
Le lancement du comité a d'autant plus fait jaser qu'il a succédé au départ de plusieurs têtes éminentes d'OpenAI, spécifiquement concentrées sur la sûreté. Ilya Sutskever et Jan Leike supervisaient le « super-alignement » des modèles de l'entreprise, une discipline dont l'objectif est de garantir qu'ils agissent dans l'intérêt de l'humanité. En novembre dernier, ils avaient tenté d'évincer Sam Altman de son poste de P.-D.G.
Des anciens employés se font entendre
Le dirigeant a aussi mentionné une récente mesure visant à permettre aux employés actuels et anciens de faire part de leurs préoccupations sans risquer de sanction. « C'est crucial pour toute entreprise, mais pour nous en particulier, et c'est un élément important de notre plan de sécurité », assure-t-il.
Depuis, les voix se font entendre. Dans une lettre publiée en juin, des membres du personnel, actuels et anciens, d'OpenAI et Google DeepMind ont dénoncé les risques du développement rapide de l'IA. C'est justement l'une des critiques principales visant Altman, qui aurait privilégié la vitesse au détriment de la sûreté. À voir si les efforts promus par la direction de l'entreprise parviendront à apaiser les inquiétudes des législateurs…
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
