Pourquoi la CNIL enquête-t-elle sur ChatGPT ?

Vilain et Libeau c’est tout de même du lourd!

Après le Chatbot il est tout jeune même pas majeur…
Que va faire la CNIL à par essayer de pomper du fric pour obtenir cause auprès de certains grincheux?

Il est regrettable que la CNIL s’intéresse à chatgpt uniquement parce qu’il y a des plaintes, ils ne réfléchissent pas là bas ?

Ils tentent avec leur peu de moyen (et de pouvoir) de faire appliquer les règles.
Et d’un avis non éclairé je pense que OpenAI est probablement en dehors de clou avec leur produit, pour une raison assez simple, c’est que les règles au USA ne sont pas les même que les française ou européenne et qu’une entreprise américaine ne veut pas particulièrement coller aux règles d’autre états, (trop chère, trop compliqué, pas de connaissance …).

OpenAi est dans leur collimateur parce que c’est devenu un projet non libre financé par Microsoft$

Il va falloir le répéter encore longtemps vu le niveau de compréhension : cet outil n’est pas une source d’informations véridiques, mais un agenceur de mots les uns après les autres, par « potentiel statistique pour faire sens ». La véracité telle qu’on l’entend, nous humains, n’est pas sa raison d’être.

Peut-être que ça le deviendra (et ça nous aiderait bien, nous humains, pour pas mal de demandes).

Punir un outil sur autre chose que ce pour quoi il est prévu, c’est quand même balaise.

Bizarre, je pensais que ChatGPT avait justement été prévu pour donner des réponses factuelles à des questions posées en langage naturel.
D’ailleurs, posons-lui la question…Es-tu prévu pour donner des réponses factuelles ?

"Oui, en tant que modèle de langage, mon but est de fournir des réponses factuelles et précises aux questions posées, en utilisant les connaissances et les informations disponibles dans les données d’entraînement et les sources en ligne. Cependant, il est important de noter que ma précision et ma pertinence dépendent de la qualité de la question posée et des informations disponibles sur le sujet. "

Pas de bol, même ChatGPT n’ est pas d’accord avec toi!

On voit poindre une nouvelle mode…il n’y aura plus de commentaires personnels ni d’opinions ou d’avis, rien que des « ChatGPT a dit que… ». On assiste peut-être là à la naissance d’une nouvelle religion.

Comme avec chaque innovation majeure, on peut s’attendre à une bonne grosse diarrhée de de loi réactionnaires.

Surtout en France…

Plus sérieusement, je ne comprends pas du tout cet argumentaire. « Il n’est pas prévu pour cela », « ce n’est pas sa raison d’être ».
Il est prévu pour qu’on lui pose des questions, mais pas pour y répondre ?
Quelle est sa raison d’être alors ?
C’est à peu de chose près la même ligne de défense qu’avait utilisé Yann LeCun au sujet de Galactica. Il a accusé les utilisateurs de « frivolement » mal l’utiliser … en reproduisant exactement le type de requêtes qui était donné en exemple sur la page d’accueil.

Cadeau !
Une source qui résume parfaitement ce qu’est cette IA, et toutes les autres du genre, et qui m’évitera de me répéter. Je me suis fait un fichier avec ce récap’ tellement c’est aberrant d’avoir des commentaires qui lui inventent des actions, de la volonté, de la compréhension de concept que ce truc n’a pas et n’est pas programmé pour.

Source : Ce qui se cache derrière le fonctionnement de ChatGPT, Chaine YT – ScienceEtonnante : Ce qui se cache derrière le fonctionnement de ChatGPT - YouTube

Tout est à voir pour bien comprendre, il y a d’autres éléments intéressants mais je n’allais pas recopier tout le script. J’ai donc résumé l’essentiel pour les flemmards.

Mon résumé ci-dessous :

ChatGPT est :

• Un modèle de manipulation du langage naturel, entrainé sur une tâche : chercher en permanence le prochain mot d’un texte.
• Un excellent modèle d’interpolation, ce qui lui permet de formuler des « réponses » inventives (c’est-à-dire qui ne sont pas un copier/coller de sa base de données d’entrainement).

ChatGPT n’est pas :

• Conscient.
• Capable de citer des sources (il les invente, car il recherche la plausibilité du mot/token suivant. Un token est un bout de mot, c’est pour ça que parfois il cherche… par bouts de mots, et non par mot entier).
• Un répéteur de ce qu’il a trouvé sur Internet. Il se sert des éléments d’Internet (ce qu’on lui a donné à manger pour l’entrainer) pour formuler ses suites de mots.
• Capable de dire la vérité : il ne sait pas ce que c’est.
• Capable de lier des questions différentes entre elles (donc aucune mémoire de ce qu’on lui demande).
• Capable de répondre à une question. Parce qu’il n’a pas de concept de question.
• Capable de calculer des choses même simples pour un humain. Puisqu’il met juste côte à côte des mots/token qui semblent raisonnables dans la conversation.

ChatGPT permet :

• Une continuité dans les échanges.
• De trouver des suites possibles à un mot (ou, en plus petit, un token).
• De la complétion automatique qui fonctionne à l’échelle d’un texte.
• De fabriquer des suites plausibles pour faire des phrases plausibles. Des choses qui ne dépareillent pas trop de ce qu’on pourrait trouver nous humains sur Internet.
• D’utiliser l’équivalent d’une centaine de pages en guise de contexte pour répondre.
• D’inventer littéralement du texte.

ChatGPT n’a pas pour but :

• De dire la vérité. Il n’a pas de concept de vérité. Il ne sait pas ce que c’est.
• De répondre à des questions. Il n’a pas de concept de question/réponse. Il ne sait pas ce que c’est.

Je vois pas comment expliquer mieux. Si on comprend pas ça, je peux rien faire de plus. Tout le reste, c’est du fantasme, et là, c’est pas mon domaine.
Si les gens ont envie de voir des Terminators et des Skynets au moindre truc qui a l’air un peu magique, et qu’ils font aucun effort de compréhension parce que c’est « moins » excitant quand on comprend comment ça marche et les lacunes, j’y peux rien aussi. A part ne plus perdre mon temps à tenter d’apporter de l’info’.

Bref, voilà pourquoi je m’évertue à répondre jusqu’à présent. ^^’