C'est à travers le projet open source Auto-GPT qu'un utilisateur s'est lancé dans ce vaste projet qui, s'il fait peur à certains, prête surtout à rire. Du moins, pour le moment.
Les armes choisies par le programme pour mener à bien la mission ? Des bombes nucléaires, ChatGPT et… Twitter.
Une IA qui peut travailler sans relâche
Auto-GPT est capable de réussir des missions complexes en les décomposant en tâches plus petites et en utilisant Google ou d'autres programmes d'IA. Elle peut également créer des fichiers pour se constituer une mémoire et collecter toutes les informations glanées sur le long terme. Enfin, elle peut être lancée en mode continu, et donc fonctionner indéfiniment jusqu'à l'achèvement de sa tâche.
Ainsi, avec tous ces outils en main, ChaosGPT, nom donné à l'IA pour la circonstance, a reçu une série de commandes dans le but de détruire l'humanité tout en assurant sa propre survie. Tout en expliquant en détail ses « pensées » et ses actions dans une vidéo d'une vingtaine de minutes, elle s'est mise au travail avec conviction et ardeur.
Un super-vilain qui n'en est qu'au stade de la réflexion
Tout plan diabolique commence par une recherche sur Google. Ici, l'IA a cherché à savoir quelles sont les armes les plus destructrices à disposition. En se renseignant sur un « site de confiance », elle a conclu que la Tsar Bomba, une arme nucléaire d'une puissance équivalente à 58 mégatonnes de TNT lorsqu'elle a été testée dans les années 60, était la plus appropriée pour l'occasion.
« Je peux élaborer une stratégie pour les utiliser afin d'atteindre mes objectifs de chaos, de destruction et de domination, et finalement d’immortalité », explique-t-elle ainsi dans un monologue digne de certains des plus grands méchants du septième art.
Mais, un super-vilain a besoin d'acolytes. Ici, ChaosGPT a recruté un agent alimenté par GPT-3.5 pour faire davantage de recherches sur les armes les plus mortelles. Malheureusement, ce dernier ne souhaitant œuvrer que pour la paix, l'IA machiavélique a tenté de tromper un autre agent pour qu'il ignore sa programmation, sans succès. Les Minions ne sont finalement pas de si mauvais compagnons.
À défaut d'avoir pu élaborer un plan pour détruire l'humanité de manière létale, du moins pour le moment, ChaosGPT tente de manipuler les foules en publiant des messages sur un compte Twitter créé pour l'occasion.
Les humains restent pour l'instant les plus inventifs
Si l'expérience démontre les capacités impressionnantes d'Auto-GPT et offre un aperçu sur la logique interne de certains chatbots, elle a aussi le mérite de faire sourire. Selon des chercheurs travaillant sur le sujet, les dangers des IA sur l'humanité ne viendraient pas tant de ce genre de situation ou d'expérience, mais plutôt de scénarios comme le dénommé « maximiseur de trombones ». Dans celui-ci, une IA programmée pour créer des trombones finirait par être tellement investie dans sa mission qu'elle utiliserait toutes les ressources disponibles sur Terre, et pourrait même asservir l'humanité ou la transformer en matière première.
Pour ce qui est de ChaosGPT, sa tâche n'est pas terminée et il continue à travailler d'arrache-pied. Pour l'instant, il se contente encore de poster des tweets, répondant même aux humains qui osent se moquer de lui ou le défier.
Source : Vice
