La nouvelle intelligence artificielle proposée par Snapchat, My AI, montre un visage peu reluisant avec les jeunes utilisateurs.
Avec la nouvelle mode des chatbots, lancée à la suite de l'incroyable phénomène ChatGPT, de nombreuses entreprises de la tech ont voulu avoir leur propre IA. Dont Snapchat, qui propose depuis deux mois My AI. Mais le réseau social pourrait s'être un peu précipité…
Une fille de 13 ans, un homme de 30 ans… l'IA dit oui !
Comment montrer en 2023 que l'on est une entreprise crédible dans le secteur de la tech ? La réponse est évidente : pouvoir proposer une IA. Depuis ChatGPT, on a vu de très nombreux géants du secteur tenter de proposer une alternative à la création d'OpenAI. Malheureusement, qui dit ruée dit souvent produit pas totalement fini. Ce qui peut être dangereux quand les chatbot sont aussi convaincants.
On avait ainsi déjà pu voir la nocivité de cette technologie mal maîtrisée avec le suicide d'un citoyen belge, poussé par l'IA. Et aujourd'hui, c'est le chatbot de Snapchat, My AI, qui nous rappelle qu'il y a sûrement nécessité à légiférer. En effet, une journaliste de BFM TV vient de montrer que le bot proposé par Snapchat validait les relations entre une adolescente de 13 ans et un homme de 30 ans.
Comme on peut le voir sur l'extrait vidéo ci-dessus, non seulement My AI s'émerveille du récit de cette rencontre, pourtant illégale, mais quand l'IA est sollicitée pour un conseil, elle pousse l'hypothétique jeune fille à avoir une relation sexuelle avec l'homme de 30 ans.
Snapchat en phase de test ?
Autant dire que le problème est grave, surtout que Snapchat est sûrement, avec TikTok, le réseau préféré des adolescents. Et si les conseils sont mal avisés, ils ne peuvent en plus pas vraiment être évités, puisque l'option chatbot ne peut pas être désinstallée de l'application. Comme le fait remarquer la journaliste, il est constamment présent tout en haut de la liste des conversations de l'utilisateur.
Alors, comment Snapchat va-t-il pouvoir réagir ? Avec la course actuelle, on n'est pas étonné que des produits pas bien finis soient mis sur le marché. ChatGPT lui-même a montré des faiblesses avec la fuite d'informations bancaires de certains abonnés de ChatGPT Plus. Les autorités vont-elles devoir imposer des règles en urgence, avec les futures régulations à venir, pour éviter la multiplication de ce genre de problèmes ?
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Source : BFM TV sur Twitter
