Au Japon, les entreprises NTT et Yomiuri publient un manifeste alertant sur l'impact de l'intelligence artificielle (IA) sur la société. Elles estiment que dans le pire des scénarios, « la démocratie et l'ordre social pourraient s'effondrer, entraînant des guerres ».
L'IA générative a pris le monde d'assaut depuis fin 2022. Capable de créer du texte, de l'audio et des vidéos à partir d'une simple requête en langage naturel, la technologie préoccupe de plus en plus les grandes têtes de l'industrie. Sundar Pichai, P.-D.G. de Google, a par exemple mis en garde contre l'évolution fulgurante de l'IA, estimant que la société ne mesurait pas réellement la rapidité avec laquelle elle progresse.
NTT et Yomiuri, deux poids lourds japonais, s'y mettent également. Le premier domine le secteur des télécommunications dans le pays, quand le second publie le quotidien le plus lu. Ensemble, ils appellent à une plus importante réglementation de l'intelligence artificielle.
Un risque pour la sécurité nationale
Si leur manifeste évoque les bienfaits de l'IA, notamment pour améliorer la productivité, il s'intéresse surtout à ses risques potentiels. Les deux entreprises affirment que la technologie porte déjà atteinte à la dignité humaine, car les modèles sont parfois conçus pour capter l'attention des utilisateurs sans tenir compte de la morale ou de l'exactitude.
Elles s'inquiètent particulièrement de l'impact de l'IA générative sur le discours public et sur les élections, à l'instar d'autres démocraties. Il a déjà été prouvé que certains modèles générateurs d'images créent du contenu trompeur sur les élections américaines.
Selon NTT et Yomiuri, sans régulation, l'ordre social risque l'effondrement. Elles appellent donc le Japon à prendre des mesures rapides pour mitiger les risques de l'IA, invoquant même la sécurité nationale.
Plusieurs lettres alertent sur l'IA
Ce n'est pas la première fois que de tels avertissements sur l'IA sont publiés. Il y a un an, une lettre cosignée par des chercheurs éminents dans la filière, notamment Elon Musk, appelait à l'interruption de la recherche avant de comprendre les risques véritables posés par la technologie. Quelques mois plus tard, une autre lettre, cette fois signée par plusieurs dirigeants de l'industrie, dont Sam Altman, comparait l'IA aux armes nucléaires.
Pourtant, les géants de la tech, engagés dans une course effrénée, continuent de développer rapidement leurs modèles. Les gouvernements, eux, se penchent plus ou moins fermement sur la question. Avec l'AI Act, l'Union européenne mène la danse. La loi devrait entrer en vigueur en 2025, et prévoit de réguler le secteur pour éviter toute dérive.
Les États-Unis ont adopté une approche plus mesurée. Comme le Royaume-Uni et le Japon, ils ont néanmoins mis en place un institut gouvernemental en charge de développer des lignes directrices pour encadrer l'usage de la technologie. Certains estiment toutefois que cette stratégie est insuffisante pour réellement mitiger les risques.
Source : The Wall Street Journal
