Énergie, données personnelles, créativité... Le côté sombre du buzz du Starter Pack GPT

Difficile d'ignorer ou d'éviter la déferlante des Starter Packs GPT, ces avatars personnalisés créés par IA, qui font le buzz sur les réseaux sociaux. Ce que l'on évite, en revanche, c'est de s'attarder sur d'autre aspects moins reluisants du phénomène.

Depuis quelques jours, les Starter Packs GPT envahissent les réseaux sociaux. Ces images permettent aux utilisateurs de se représenter sous forme de figurine entourée d’objets symbolisant leur personnalité. L’idée amuse autant les particuliers que les influenceurs ou les marques, qui multiplient les créations originales ou les modes d'emploi pour créer le sien. Pourtant, cet engouement laisse peu de place à la réflexion sur ce qui se cache derrière cette trend.

Ces avatars sont générés par l'IA d'Open AI, ChatGPT, qui demande, comme on le sait, une infrastructure informatique complexe et énergivore. Et les prompts personnalisés impliquent également la collecte de données personnelles parfois sensibles. Enfin, ces outils automatisés uniformisent les styles artistiques et remettent en question le rôle des créateurs humains. Soit autant d'aspects qui méritent que l'on s'y attarde.

Créer un Starter Pack consomme plus d’énergie qu’on ne le pense

On a entendu tout et son contraire au sujet de la consommation énergétique des LLM. Entre le rapport de l'AIE, qui précise que la consommation en électricité des data centers va plus que doubler et pourrait représenter 945 TWh, soit « la consommation totale d’électricité du Japon aujourd’hui» ou encore « un peu moins de 3 % de l’électricité mondiale, » et à l'opposé, celle d'Epoch AI, selon laquelle une requête ChatGPT moyenne consomme environ 0,3 wattheure, loin des 3 wattheures qu'on lui prêtait jusqu'ici, on a du mal à évaluer la gourmandise de l'IA.

S'il est difficile de chiffrer avec exactitude le nombre de Starter Pack générés par IA, on sait, selon le site 24heures, que depuis l'intégration de la fonctionnalité de génération d'images dans ChatGPT, plus de 700 millions de demandes ont été traitées en une semaine, ce qui inclut divers types d'images, y compris les « starter packs ». Pour autant, chaque image produite par IA demande une puissance de calcul importante. L’entraînement initial de modèles comme GPT-3 a généré 502 tonnes de CO2 selon une étude de l'université de Carnegie Mellon. Cela correspond aux émissions annuelles de huit voitures thermiques. Et ce chiffre ne prend pas en compte la consommation quotidienne liée aux millions de requêtes effectuées par les utilisateurs. Selon Sasha Luccioni, Responsable IA et climat chez Hugging Face et présidente IA et justice sociale : « Malgré les performances fascinantes de ChatGPT, il est légitime de se demander si le jeu en vaut la chandelle sur le plan environnemental ».

Les serveurs qui réalisent ces calculs doivent être refroidis en permanence pour éviter la surchauffe, ce qui implique une utilisation massive d’eau et d’électricité dans les data centers. Et si l'on se penche précisément sur la consommation requise pour générer un Starter Pack, on est au niveau d'une recharge à 50% d'un smartphone, et 2 à 5 litres d'eau. Soit un désastre écologique.

Les informations personnelles collectées ne sont pas toujours utilisées de manière transparente

Pour obtenir un Starter Pack fidèle à leur personnalité, les utilisateurs doivent fournir plusieurs informations comme leur prénom ou leurs centres d’intérêt. Certains partagent même des photos ou autres données sensibles. Ces informations servent à personnaliser l’avatar, mais peuvent aussi être utilisées à des fins commerciales sans que cela soit clairement indiqué. Par exemple, tout le monde ne sait pas que par défaut, OpenAI conserve toutes les informations soumises via ChatGPT sauf si l’utilisateur modifie manuellement ses paramètres.

Pour Clubic, Daria Viktorova, responsable juridique et Formatrice en IA considère ce phénomène comme un « effet d’une mode passagère. Aujourd’hui ce sont les "starter packs"sur ChatGPT, demain, ce sera autre chose ». En revanche, elle alerte : « ce qui reste, ce sont les données que les utilisateurs auront partagées entre-temps. C’est là que se situe le vrai enjeu à long terme ». En effet, poursuit-elle, « toutes les infos que vous donnez pour créer votre "starter pack" ( vos références, vos photos, vos expressions, vos souvenirs) sont des données neuves, parfaites pour nourrir et améliorer le modèle. Et comme c’est vous qui les fournissez volontairement, OpenAI est dans une position très confortable sur le plan juridique ».

C'est également ce qu'explique l'utilisateur de Reddit Sensitive_Sympathy74, sur le subreddit r/conseiljuridique spécialisé dans la vie privée numérique, « Les sociétés qui développent ces IA demeurent très peu transparentes quant à la façon dont elles conservent et exploitent ces données ». Cette opacité interroge également Marion Mary, spécialiste en développement durable, qui a pointé sur HelloWatt que « les conditions générales sont souvent trop longues et complexes pour être comprises par le grand public ». En Europe, même si le RGPD offre déjà un cadre partiel pour encadrer le traitement des données personnelles utilisées par ces technologies, il reste insuffisant pour répondre aux implications juridiques liées aux contenus générés automatiquement.

L’Union européenne travaille actuellement sur l’AI Act, une législation visant à réguler plus strictement le développement et l’utilisation des intelligences artificielles. Ce texte impose davantage de transparence aux développeurs et renforcer la responsabilité juridique dans ce domaine, mais est appelé à évoluer au fil des améliorations et performances des IA génératives, donc sans cesse.

Les IA génératives posent également un problème juridique plus complexe lorsqu’il s’agit d’attribuer la responsabilité en cas de litige. Si une image Starter Pack contient un élément diffamatoire ou offensant, qui doit être tenu responsable ? L’utilisateur ayant formulé la demande ? La plateforme ayant fourni l’outil ? Ou encore l’entreprise ayant développé le modèle ?

Les artistes dénoncent une standardisation imposée par l’automatisation

Si tout le monde ou presque peut générer ce genre d'images grâce à l'IA sans posséder de talent artistique particulier, que vont devenir les créateurs et artistes, auxquels on devrait faire appel, de la même façon que l'on appelle un médecin pour diagnostiquer et soigner une angine ?

Certains artistes et créateurs commencent à hausser le ton et se faire entendre sur les réseaux sociaux. C'est le cas de Sophie, cette jeune illustratrice niçoise qui interppelle sur Instagram le compte de la ville de Nice, comme vous pouvez le voir ci-dessous.

« C’est bien triste de voir la Ville de Nice utiliser des images générées par IA, surtout quand on sait qu’il existe des centaines d’illustrateurs, peintres et artistes talentueux qui ont déjà rendu hommage à Nice de façon originale, sincère et créative », déplore la jeune femme. « Ça aurait été tellement plus beau (et logique) de faire une compilation de vraies créations, faites par de vraies personnes. C’est fou qu’une ville comme Nice, incontournable dans l’histoire de l’art, participe bêtement à une trend et sans réfléchir à ce que ça implique », poursuit-elle, avant de conclure : « Et il me semble que ça n’est pas la première fois, que l’IA est utilisé par la ville de Nice. Profitez d’avoir de nombreux talents à disposition plutôt que de choisir la facilité ».

Un sentiment partagé au sujet des Starter Pack GPT, par Thomas Leroy, illustrateur indépendant français, très critique cette tendance : « Ces modèles réduisent l’art à une formule mathématique où tout est prévisible et consensuel. L’originalité disparaît au profit d’une esthétique calibrée pour plaire au plus grand nombre ». Laura Martin, photographe professionnelle française, ajoute : « Mon travail a probablement été utilisé pour entraîner ces modèles sans mon autorisation. C’est une appropriation injuste du fruit de mes années de création ».

Là encore, sur le plan juridique, la question de la propriété intellectuelle et du droit d'auteur est épineuse. « C’est une vraie difficulté, car aujourd’hui le style d’un artiste n’est pas protégé par le droit d’auteur », selon Daria Viktorova. « On peut protéger une œuvre (un dessin, un morceau de musique…). Mais copier "le style", c’est-à-dire la manière de faire, l’ambiance, la touche personnelle, reste une zone grise bien connue des spécialistes en propriété intellectuelle. Concrètement, tant que deux œuvres ne se ressemblent pas "trop”, il n’y a pas de contrefaçon », explique-t-elle.

Alors certains artistes français s’organisent pour défendre leur métier. L’initiative #starterpacknoAI lancée par @patouret sur Instagram invite créateurs et utilisateurs à concevoir leurs propres Starter Packs entièrement dessinés à la main. «  J’en peux plus de voir cette trend en IA PARTOUT donc je vais y participer moi même à la sueur de mon front », déclare-t-il avant d'inviter au partage. C'est ce qu'à fait la célèbre illustratice Pénélope Bagieu qui s’est également exprimée sur le sujet avec ironie : « On n’en peut plus des trends merdiques à l’IA », accompagnant son message d’une illustration réalisée sans recours à l’intelligence artificielle.

Si l'IA et tout ce qu'elle permet pour agrémenter ou améliorer notre quotidien se fait omniprésente, il semble que l'on prenne doucement conscience de ses inconvénients et dangers. Les initiatives des autorités pour donner un cadre légal qui n'entrave ni la liberté d'expression, ni la créativité, couplées à des projets environnementaux tels que le GenAI Impact qui cherche à mesurer et réduisre l'impact énergétique de l'IA, et aux appels d'artistes et créateurs, une prise de conscience est peut-être en train d'émerger. « La vraie solution pour moi, ce sera sans doute une évolution du cadre légal, pour mieux encadrer ces pratiques, protéger les styles forts et imposer une transparence sur les bases de données utilisées pour entraîner les modèles d’IA », estime Daria Viktorova.

Nous avons été capables de donner naissance à l'IA, mais sommes-nous aptes à l'élever correctement ?