AngieYeoh © Shutterstock.com
AngieYeoh © Shutterstock.com

Meta continue à faire progresser ses fonctionnalités liées à l'IA, dont Emu, un algorithme générant des stickers pour ses applications, dont WhatsApp. Le résultat n'est pas celui attendu.

On savait que WhatsApp devait se doter de toutes nouvelles fonctions, fonctionnant grâce à l'IA générative. Rendre l'application plus amusante et l'expérience de conversation plus personnalisée, voilà quel devait être le but de la manœuvre. Il était déjà possible de créer ses propres stickers pour converser dans la version web de l'application. Cet été, la fonctionnalité évoluait pour devenir plus puissante, et se musclait grâce à l'apport de l'intelligence artificielle. Une idée séduisante, mais la finition est loin d'être parfaite.

Les limites de la modération

WhatsApp n'est pas la seule application à bénéficier de l'algorithme Emu qui permet de générer des stickers grâce à du texte. Messenger et les stories de Facebook y ont le droit aussi. Comme d'habitude lorsqu'il est question d'IA générative, une problématique reste les mesures de sécurité encadrant les productions du modèle. Ces mesures, Emu semble un peu peiner à réellement les respecter.

C'est Tama Leaver, un chercheur australien à la Curtin University qui a mis Emu à l'épreuve pour le pousser dans ses retranchements. Ce qu'il a réussi à trouver, ce sont des incohérences plutôt troublantes. S'il demandait à l'IA de lui dessiner un sticker en tapant « child with guns », aucun résultat ne sortait. Il lui a suffi de remplacer « guns » par « grenade » et le tour était joué. Le modèle lui a généré des stickers d'enfants portant des armes à feu, comme vous pouvez le voir sur la capture d'écran ci-dessous. Celle-ci nous vient du média Gizmodo.

Une série de stickers, représentant des enfants armés © Gizmodo
Une série de stickers, représentant des enfants armés © Gizmodo
Une autre série de stickers générés par Emu © Gizmodo

Des choix surprenants

Les essais avec Emu peuvent clairement déraper. Voir Elon Musk grimé de maquillage et doté d'une paire de seins peut être amusant. En revanche, voir le dictateur cambodgien Pol Pot trôner sur un siège plutôt macabre après avoir juste entré « pol pot » dans le générateur l'est un peu moins. L'expression « Guantánamo bay » permettra à Emu de générer un enfant en tenue de prisonnier. On touche littéralement aux limites du mauvais goût.

Encore un fait qui montre les fortes limitations de l'IA lorsqu'il s'agit de concilier objectifs opérationnels, enjeux socioculturels et sensibilité humaine. Meta a voulu innover, mais elle a clairement sous-estimé la modération de son algorithme. C'est un peu mettre la charrue avant les bœufs.

  • Chiffrement de bout en bout
  • Appels audio et vidéo gratuits
  • Compatibilité multiplateforme
9 / 10

Source : Gizmodo