Google a décidé de suspendre la fonctionnalité de génération d'images de son IA Gemini à la suite de problèmes éthiques liés à la création de contenus préjudiciables.
Moins de 24 heures après avoir présenté ses excuses pour les inexactitudes dans les images historiques générées par son IA Gemini, Google a pris la décision de suspendre la fonctionnalité de génération d'images représentant des personnes. Cette décision fait suite à des critiques concernant la représentation erronée de groupes et de personnages historiques, notamment des pères fondateurs des États-Unis, par l'IA.
Un arrêt de jeu contesté
Après avoir publié sur son compte X.com (anciennement Twitter) un long communiqué d'excuses et de tentatives d'explications, Google essaie de rassurer sa communauté. « Nous sommes déjà à pied d'œuvre pour résoudre les récents problèmes liés à la fonction de génération d'images de Gemini. En attendant, nous suspendons la génération d'images de personnes et mettrons bientôt à disposition une version améliorée », peut-on lire en addendum au statut.
La décision de mise au repos forcée du petit dernier de la famille d'IA de Google arrive après de multiples réactions quant à la publication de contenus pour le moins préjudiciables. La firme de Mountain View craint que Gemini génère des images à caractère raciste, sexiste, homophobe et autres formes de discrimination. Et pour couronner le tout, ces images ainsi générées, bien que réalistes, pouvaient être partagées, détournées, et ainsi alimenter la propagation de fake news et autres deepfakes, qui posent de plus en plus de problèmes.
Cette mise en pause a suscité des réactions diverses, selon dans quel camp de l'IA on se trouve. Ainsi, les experts ont salué la prise de décision, en faveur de l'éthique, quand d'autres craignent une atteinte à la liberté d'expression et à la créativité. Les fans de Gemini, déjà accros, ont quant à eux demandé le retour de l'option de génération d'images, au nom de l'art numérique ou du développement de produits.
La carte de l'éthique remise sur la table
Malgré ces réactions, cette suspension de la génération d'images par Gemini soulève des questions cruciales sur l'avenir de l'IA et ses implications éthiques. Google et les autres acteurs du secteur devront trouver un équilibre délicat entre la liberté d'expression et la responsabilité de prévenir la création de contenus préjudiciables.
Pour relever ce défi, plusieurs pistes de réflexion et d'action existent. Le développement de systèmes de filtrage plus sophistiqués est essentiel pour empêcher la génération de contenus haineux et discriminatoires. De plus, la mise en place de politiques et de directives claires sur l'utilisation éthique de l'IA générative est nécessaire pour encadrer son développement et son utilisation. Le deuxième forum mondial sur l'éthique de l'IA, qui a eu lieu les 5 et 6 février 2024 en Slovénie, veille à ce que les retombées de l'IA soient équitables, inclusives, durables et non discriminatoires. Un peu d'éthique dans ce monde de brutes, somme toute.
