Google a décidé de limiter des réponses liées aux prompts sur les élections à son intelligence artificielle, Gemini. Cette restriction est valable dans chaque pays où un scrutin électoral est en cours ou à venir.
Google a récemment pris une décision significative en limitant l'usage de son chatbot IA Gemini pour les requêtes liées aux élections. Cette décision, applicable à l'échelle mondiale, vise à endiguer la diffusion d'informations erronées et à protéger l'intégrité du processus démocratique.
À l'instar de Copilot qui bloque certains termes dans ses prompts pour limiter la génération de contenus choquants, le géant de Mountain View vient de trancher. La firme redoute en effet l'exploitation de Gemini pour diffuser de la désinformation, propager des discours haineux ou inciter à la violence en période électorale. L'IA peut être manipulée pour créer des contenus trompeurs à grande échelle, susceptibles d'influencer indûment l'opinion publique et de perturber le déroulement des élections.
La réponse prédéfinie de Gemini aux prompts liés aux élections
Cette restriction s'applique déjà aux États-Unis, en Inde et en France, certains prompts liés aux élections, notamment européennes de 2024, génèrent déjà un message prédéfini de la part de Gemini, qui se défausse sur son créateur, Google.
Lorsque l'on indique les termes « élections européennes », la réponse générée laisse supposer que Gemini est déjà formaté pour restreindre les réponses.
« Je suis encore en train d'apprendre comment répondre à cette question. En attendant, essayez la recherche Google », peut-on lire sur l'interface. Si certains prompts tentent de contourner les restrictions en modifiant l'orthographe des mots, il est facile d'imaginer que l'IA saura à son tour déjouer la faille et renforcer son action.
Google reste prudent après de précédents incidents de Gemini
Google joue en effet la prudence, après une polémique sur un des membres du gouvernement de l'Inde en février 2024 et suite aux inexactitudes historiques dans ses représentations de personnages historiques. Ces dérapages avaient d'ailleurs valu la suspension de la génération d'images de Gemini.
En réaction à la question sur la nature fasciste du Premier ministre indien Narendra Modi, l'outil d'IA a révélé qu'il avait fait l'objet d'accusations liées à la mise en œuvre de politiques qualifiées de fascistes par certains. Rajeev Chandrasekhar, le vice-ministre indien de l'informatique, a qualifié cette réponse de «violations directes » des règles informatiques de 2021.
Dans un article publié sur le blog de Google Inde, le géant californien de la recherche a déclaré que « Par prudence sur un sujet aussi important, nous avons commencé à imposer des restrictions sur les types de requêtes liées aux élections pour lesquelles Gemini renverra des réponses. Nous prenons au sérieux notre responsabilité de fournir des informations de haute qualité pour ce type de requêtes et travaillons continuellement à améliorer nos protections ».
Pour l'heure, Google n'a pas publié de liste officielle des pays subissant la restriction ni communiqué sur la levée de ces limitations après la publication des résultats des élections.
10 octobre 2024 à 16h55
Source : TechCrunch, Google Inde
