Google va permettre aux adolescents de la « plupart des pays du monde » d'expérimenter son agent conversationnel, Google Bard. La firme de Mountain View a mis en place différentes mesures afin d'éviter toute dérive.
En septembre, Google proposait son IA Bard aux adolescents américains, leur donnant accès à des résultats plus riches avec des informations et des liens supplémentaires. Elle ouvre désormais l'expérience à d'autres territoires. Pour l'utiliser, ils doivent néanmoins avoir l'âge minimum requis par Google pour être responsables de leur propre compte, c'est-à-dire 15 ans en France. « Les adolescents peuvent utiliser Bard pour trouver l'inspiration, découvrir de nouveaux passe-temps et résoudre des problèmes quotidiens », assure la société dans un billet de blog.
Un outil d'apprentissage pour les jeunes
« Bard peut également être un outil d'apprentissage utile pour les adolescents, leur permettant d'approfondir des sujets, de mieux comprendre des concepts complexes et de mettre en pratique de nouvelles compétences de la manière qui leur convient le mieux », continue-t-elle.
Par exemple, Google indique que les adolescents peuvent demander à Bard des conseils d'écriture, des suggestions sur les universités dans lesquelles postuler, ainsi que de l'aide pour trouver des idées de projets. L'entreprise ajoute une expérience d'apprentissage des mathématiques, de sorte que les adolescents puissent rechercher la solution d'un problème, étape par étape.
L'IA va également proposer un nouvel outil de visualisation des données, pensé lui aussi pour l'usage de jeunes utilisateurs. Celui-ci va permettre au modèle de générer des graphiques à partir de tableaux ou de données incluses dans un prompt. Petit bémol pour le moment, l'agent conversationnel peut uniquement échanger en anglais. Google promet néanmoins l'intégration d'autres langues prochainement.
Des mesures préventives face aux dérives de l'IA
En amont, la firme de Mountain View annonce plusieurs mesures de sécurité pour aider les adolescents à comprendre le fonctionnement de l'IA générative, et éviter qu'ils soient confrontés à des contenus dangereux. Ainsi, Bard a été entraîné à reconnaître les contenus inadéquats pour les jeunes utilisateurs, afin qu'il ne donne pas de réponses illégales ou inappropriées pour leur âge.
L'entreprise a aussi pris ses dispositions quant aux propensions à halluciner des modèles de langage étendus (LLM). « La première fois qu'un adolescent pose une question basée sur les faits, nous lancerons automatiquement notre fonction de double vérification de la réponse, qui permet d'évaluer s'il y a du contenu sur le web pour étayer la réponse de Bard », assure Google.
Avant de commencer à utiliser l'outil, les adolescents auront en outre accès à plusieurs ressources, à l'instar d'une vidéo, pour leur expliquer en détail ce qu'est l'IA générative, ainsi que ses enjeux. « Nous leur recommanderons activement d'utiliser la double vérification pour les aider à développer leur maîtrise de l'information et leur esprit critique », ajoute l'entreprise.
- Un modèle de génération puissant
- Une base de connaissances actualisée en temps réel
- Gratuit et intégré à l'écosystème Google
