Il y a quelques semaines, l'autrice américaine Jane Friedman a eu la fâcheuse surprise de tomber sur plusieurs de ses livres en vente sur Amazon. Problème, ce n'est pas elle qui a rédigé ces ouvrages.
Les livres générés par l'intelligence artificielle pullulent déjà sur Amazon. Néanmoins, cela devient bien plus problématique lorsque l'on prétend que le contenu a été rédigé par un auteur connu.
Des faux présents sur Amazon et Goodreads
Jane Friedman compte de nombreux livres à son actif, en plus d'être une consultante émérite dans le domaine de l'écriture et de l'édition. Récemment, l'un de ses lecteurs a remarqué des ouvrages douteux signés de son nom sur Amazon et l'en a avertie. Ayant déjà expérimenté les modèles de type ChatGPT, Friedman a immédiatement pensé que les livres étaient générés par une IA. Les livres portaient des titres similaires aux sujets sur lesquels elle écrit habituellement, mais le texte se lisait comme si quelqu'un avait utilisé un modèle d'IA générative pour imiter son style.
« Je blogue depuis 2009, une grande partie de mon contenu est accessible au public pour l'entraînement des modèles d'IA », précise-t-elle sur son site web. L'autrice a rapidement notifié Amazon du problème, mais au départ, le géant du e-commerce a refusé de supprimer les titres, car elle n'avait pas déposé de marque sur son nom. Après que Friedman a publié un billet de blog et un thread sur X.com (anciennement Twitter) à ce sujet, la firme a finalement plié.
« Nous disposons de directives claires sur le contenu qui régissent les livres pouvant être mis en vente, et nous enquêtons rapidement sur tout livre lorsqu'un problème est soulevé. Nous accueillons volontiers les commentaires des auteurs et travaillons directement avec eux pour résoudre les problèmes soulevés. Nous investissons massivement pour offrir une expérience d'achat digne de confiance, et pour protéger les clients et les auteurs contre toute utilisation abusive de nos services », a commenté un porte-parole d'Amazon. Les faux livres figuraient également sur Goodreads, le réseau social consacré aux passionnés de lecture racheté par Amazon en 2013.
De plus en plus d'auteurs s'insurgent
Plusieurs auteurs assurent avoir vécu des expériences similaires. Les modèles de langage sont entraînés sur de vastes quantités de textes issues d'Internet, notamment du contenu rédigé par des auteurs professionnels.
« L'IA générative est utilisée pour remplacer les écrivains, en prenant leur travail sans autorisation, en incorporant ces œuvres dans le tissu de ces modèles d'IA et en offrant ensuite ces modèles d'IA au public, à d'autres entreprises, pour remplacer les écrivains. Vous pouvez donc imaginer que les auteurs soient un peu contrariés par cela », déclare Mary Rasenberger, directrice d'Authors Guild, un groupe américain de défense des auteurs.
L'organisation collabore avec Amazon pour repérer les livres rédigés par IA sur la place de marché. Elle milite également pour que les entreprises spécialisées dans l'IA permettent aux auteurs de refuser que leur travail soit utilisé pour former les modèles. Début juillet, deux célèbres écrivains américains portaient plainte contre OpenAI, car leurs œuvres ont été exploitées pour former ChatGPT.
Sources : Jane Friedman, CNN
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
