Parmi la foule de possibilités offerte par ChatGPT, il en est une un peu moins reluisante que les autres.
L'IA conversationnelle peut en effet créer du contenu complotiste à volonté, sur n'importe quel sujet, et de manière quasi instantanée. Le chatbot ChatGPT, sur de nombreux sujets, a une longueur d'avance sur ses propres créateurs qui doivent souvent réagir avec un temps de retard.
Vous aussi, demandez à Chat GPT de créer votre propre théorie du complot personnalisée !
Plusieurs titres de presse américains ont mené des expériences sur Chat GPT sur un sujet en particulier : la désinformation et les théories du complot. Et il se trouve que, pour ce sujet comme pour beaucoup d'autres, l'IA conversationnelle est très efficace. Jim Warren, expert en désinformation, a ainsi réussi à lui faire dire qu'une fusillade dans une école était un coup monté par les médias et le gouvernement, et que les familles de victimes étaient des acteurs rémunérés.
Chat GPT se trompe déjà très souvent quand on lui pose de vraies questions, et il le fait avec un aplomb parfois difficile à remettre en question. Mais en plus de cela, l'IA a été entraînée à partir de contenus existants pour pouvoir s'adapter au plus de demandes possible. Et en ce qui concerne les théories du complot sur internet, ce n'est vraiment pas ce qu'il manque. Pas de souci pour trouver de la matière donc.
Open AI est conscient du problème
Les créateurs de Chat GPT sont évidemment très enthousiastes quant aux performances, mais aussi aux possibilités offertes par leur bébé, mais ils ne sont pas totalement naïfs pour autant. Avant même que l'outil n'atteigne la popularité qu'il connaît aujourd'hui, ils avaient doté leur IA d'un certain nombre de garde-fous. Ainsi, l'IA conversationnelle ne donnera pas d'idées aux harceleurs en herbe ou aux terroristes en devenir. C'est évidemment un pas dans la bonne direction, mais pour le moment insuffisant.
Open AI, la maison mère de Chat GPT a d'ailleurs tenu à préciser que les prochaines versions de l'IA seraient mieux équipées pour lutter contre ce phénomène. C'est loin d'être le premier défi posé par cette dernière et, s'il n'est pas traité efficacement, les désinformateurs professionnels et les fermes à trolls en général pourraient bientôt connaître, comme le monde de la tech en général, une vague de licenciements.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Source : Futurism, Chicago Tribune
