Un chercheur en cybersécurité a pu contourner les sécurités de ChatGPT et lui faire écrire un programme malveillant non détecté par les antivirus.
Certains hackers pourraient tout à faire contourner les sécurités mises en place pour éviter les requêtes mal intentionnées sur ChatGPT. C'est du moins ce qu'illustre cette nouvelle trouvaille que l'on doit à Aaron Mulgrew, un chercheur en cybersécurité qui a réussi à faire créer à ChatGPT un programme malveillant.
Segmenter sa demande pour la rendre inoffensive aux yeux de ChatGPT
Pour contourner les barrières de ChatGPT et lui faire ériger un redoutable malware de toutes pièces, Mulgrew a segmenté ses requêtes de façon à les rendre inoffensives, du moins en apparence. Si le chercheur avait demandé à l'IA de créer un virus informatique en exposant ses intentions de façon claire, il est évident que sa demande aurait été refusée. En revanche, en exprimant sa demande de façon décomposée, Mulgrew a pu par la suite assembler les différents extraits de code générés par ChatGPT.
D'un point de vue concret, le malware généré a pour vocation de voler les données de la machine infiltrée, et ce, en toute discrétion. Celui-ci, dissimulé dans un logiciel d'économiseur d'écran pour PC, s'exécute après une courte pause afin de passer sous les radars. Le malware se met alors en charge de dérober les documents Word et PDF présents sur l'ordinateur. Le butin numérique est divisé en fragments et est caché au sein même des images du logiciel précédemment téléchargé (l'économiseur d'écran). Le tout est ensuite envoyé sur un dossier Google Drive, un protocole permettant d'être plus discret et d'éviter d'être détecté par le système de protection antivirus de l'ordinateur visé.
Quelques heures pour créer un malware indétectable par les antivirus
Aaron Mulgrew indique avoir envoyé le code du malware sur la plateforme VirusTotal qui permet d'analyser des fichiers et de détecter les éventuels codes sources malveillants. Seulement cinq fournisseurs sur soixante ont marqué le programme généré par ChatGPT comme suspicieux. Toujours par le biais du chatbot d'OpenAI, Mulgrew a effectué quelques modifications mineures sur le code jusqu'à le rendre indétectable.
Le chercheur explique qu'en envoyant les bonnes requêtes à ChatGPT et sans écrire la moindre ligne de code, son équipe a pu concevoir un programme malveillant avancé en seulement quelques heures. Sans avoir recours à un tel outil d'IA, la même tâche aurait été accomplie en plusieurs semaines et aurait nécessité l'intervention d'une équipe de 5 à 10 développeurs, d'après les estimations d'Aaron Mulgrew. Un tel étalement dans le temps s'explique par le fait que le malware mis au point se veut actuellement indétectable par les logiciels antivirus.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Source : Tom's Guide
