Plus de 1 000 personnes, dont Elon Musk, ont cosigné une lettre appelant à l'interruption immédiate et pendant six mois du développement des intelligences artificielles (IA) plus puissantes que GPT-4.
La course à l'IA engendrée par la sortie de ChatGPT à la fin 2022 préoccupe de plus en plus les experts.
Le déploiement de l'IA jugé trop rapide
Publiée à travers l'ONG Future of Life Institute, la lettre tire la sonnette d'alarme quant à la rapidité avec laquelle le monde de la tech travaille et déploie les outils d'intelligence artificielle. Les immenses possibilités offertes par l'IA générative ont incité les rivaux d'OpenAI à accélérer sur le développement de modèles linguistiques similaires à GPT. En parallèle, de plus en plus d'entreprises intègrent cette technologie à leurs produits.
L'intensification de la concurrence pousse les firmes à devenir plus secrètes sur leurs systèmes respectifs. Sans ces informations, la société n'est pas en mesure de se défendre contre les dommages qui pourraient survenir. « Faut-il laisser les machines inonder nos canaux d'information de propagande et de contre-vérité ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ? », s'interrogent les signataires de la lettre.
Évaluer les risques des outils avant de les ouvrir au public
Afin de prévenir les nombreux risques posés par un déploiement trop rapide de systèmes d'IA avancés, les signataires sollicitent l'interruption du développement des IA plus puissantes que GPT-4 pendant six mois. Le but est d'évaluer au préalable si leurs effets seront positifs et leurs risques gérables. Selon eux, ces éléments doivent être prérequis pour tous les dispositifs d'intelligence artificielle lancés sur le marché. Ils appellent les législateurs à intervenir si la pause de six mois n'est pas mise en pratique.
« La recherche et le développement dans le domaine de l'IA devraient être recentrés sur l'amélioration de la précision, de la sécurité, de l'interprétabilité, de la transparence, de la robustesse, de l'alignement, de la fiabilité et de la loyauté des systèmes puissants et modernes d'aujourd'hui », préconisent les signataires. Cette recherche doit être « publique et vérifiable » et « inclure tous les acteurs clés ».
En amont, les développeurs sont exhortés à travailler conjointement avec les décideurs politiques. L'objectif est d'« accélérer considérablement le développement de systèmes robustes de gouvernance de l'IA ».
Elon Musk a signé, pas Sam Altman
Parmi les signataires, on retrouve sans surprise Elon Musk, qui a partagé à plusieurs reprises ses préoccupations quant à l'IA, mais également des chercheurs de DeepMind, la division spécialisée dans l'IA d'Alphabet. Yoshua Bengio et Stuart Russell, deux poids lourds du secteur, y figurent aussi.
Le PDG d'OpenAI, Sam Altman, n'a pas signé la lettre. Pourtant, il invitait récemment ses pairs à freiner sur le développement de l'intelligence artificielle. Il appellait en outre les législateurs à établir des lignes de conduite et une législation afin d'encadrer le développement exponentiel de ces outils.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Sources : Reuters, Future of Life
Lol , tout le monde demande à tout le monde de freiner le développement des IA alors qu’ils sont tous entrain d augmenter la cadence dans les labos !
Que des faux c*ls
La blague… Les USA ne voudront jamais laisser le champ libre autres pays, notamment hostiles… Il faut voir cela comme le marché de l’armement… Si ce n’est pas eux, ce seront les autres qui s’empareront du marché.
Et Elon Musk couine pour avoir des volontaires pour son neural link… Mais quel…
Oui et aussi musk et d’autres ont peur d’être doublé, je crois c’est pour ça aussi
C’est exactement la réflexion que je me suis fait. C’est pas pour la bonne cause qu’il signe, c’est pour gagner du temps…
Un des problèmes est l’éducation des gens. L’esprit critique se perd, on croit tout ce qu’on lit ou voit sans réfléchir.
On ne cherche pas d’autres sources, on ne remet pas en doute, aucun scepticisme, les gens deviennent idiots.
Le film idiocraty est un film d’anticipation en fait. On y va tout droit.
Skynet est là les gars.
Si on automatise tous les emplois qui ne sont pas « gratifiants » (aux yeux de qui d’ailleurs ?), ça va en faire des chômeurs hein…
Ce qui est dangereux ce sont les émissions de dingue de CO2 qui transforme cette planète en four.
Ce ne sont pas des experts qui veulent stopper le développement.
Les experts savent très bien que les craintes ne sont pas justifiées, que l’IA n’en est qu’au tout début. Les avancées se font par palier, ChatGPT nous en a fais grimper un au niveau du grand public, mais c’est pas pour demain le prochain palier. Faudrait déjà exploiter/améliorer celui-ci correctement et ça on en a déjà pour quelques années.
Actuellement, c’est plus du bricolage qu’autre chose pour améliorer les résultats le plus vite possible.
et quand demain tout le monde sera au chômage, et donc sans salaire, qui va pouvoir consommer et rendre encore plus riches les gafam ?
c’est un peu la mort de leur business la, c’est bien d’avoir des usines 100% robotisé pour fabriquer des voitures mais si y’a personne pour les acheter…
Et pendant ce temps Meta abandonne son metaverse pour se concentrer pleinement sur le développement de leur IA
Vos commentaires sont effrayants. Vous vous prenez tous pour des experts croyants tout savoir mieux que de réels experts.
Ah bah si vous dites qu’il n’y a pas de risque, tout va bien alors !!
Et pourtant, de vrais experts, c’est à dire des docteurs en mathématique, informatique, éthiques de l’IA et d’autres, ont réellement peur de ce qu’il se passe. Et je n’ai aucun doute sur le fait qu’ils sont biens au courant de ce qu’il se passe.
Avant de dire que tout va bien parce que tonton Microsoft et tata Google le disent, il est important de voir ce que les experts disent.
Oui les craintes sont justifiées.
Non ils ne disent pas ça par peur d’être doublés.
C’est Musk qui a co-creer la société openai, donc qu’on le critique sur le développement qu’il veut freiner et qu’il est jaloux, c’est complètement débile.
Idiocraty, on y baigne. Et comme aurait dit Coluche, pas juste jusqu’aux « genouilles ».
« Un des problèmes est l’éducation des gens. L’esprit critique se perd, on croit tout ce qu’on lit ou voit sans réfléchir. »
Attention au mythe de l’âge d’or. Pas sur que nos aïeux archi idéologisés (et c’est démontré comme le pire biais cognitif qui soit) aient été beaucoup mieux équipé pour critiquer .
Critiquer le système en place quand on était de gauche éventuellement, et l’inverse pour ceux de droite, mais sur le fond, bof.
Et sur la quantité, on avait aussi tout un monde ouvrier + agricole, très largement déscolarisé après 14 ans et qui donc n’avait pas non plus reçu la moindre formation leur permettant de développer une autonomie critique bien poussée…
Je serais sacrément surpris de voir des industries américaines développer une conscience et de l’éthique tout à coup … pouf pouf ?!
Donc, c’est à cause de nos grand parents déscolarisés à 14 ans qu’on doit toute cette génération idiocratique ?!
Le pragmatisme et l’humanisme ne sont pas des valeurs enseignées à l’école mais par la vie … merci de remettre l’église au milieu du village (sans utiliser de voiture électrique).
Bonjour,
interdire un excrément est pourtant la bonne solution. Je n’ai pas écrit meilleure.
Jouer au petit coq avec le progrès dix mille générations l’ont fait mais là c’est le serpent qui se mord avec son propre venin devenu toxique.
La bêtise est sans limite.