Plateformes d’IA génératives : quels sont les risques en matière de sécurité et de confidentialité ?

L’émergence des IA génératives comme ChatGPT constitue sans doute la plus importante révolution technologique depuis la naissance d’Internet. Des centaines de millions d’internautes interagissent quotidiennement avec ces IA que cela soit pour des besoins personnels ou professionnels. Comme chaque nouvelle technologie majeure, elles soulèvent de nombreux problèmes de sécurité et de confidentialité.

Les enjeux de sécurité liés aux IA génératives devraient être au cœur des débats de la Data Privacy Week (la semaine de la protection des données à caractère personnel) qui se déroule chaque année dans toute l’Europe durant la semaine du 22 au 26 janvier. Il faut dire que les IA conversationnelles comme Bard de Google ou ChatGPT d’OpenAI traitent chaque jour plusieurs dizaines de millions de requêtes à travers le monde et la tendance n’est sans doute pas prête de s’inverser. Ces services ont littéralement révolutionné notre manière d’interagir avec une IA. À partir d’une simple requête appelée « prompt », elles sont capables de faciliter de nombreuses tâches quotidiennes : rédiger des articles, des plans, ou des comptes rendus, corriger ou traduire des textes, résumer des documents, créer des images, générer du code informatique, analyser des emails, etc.

Comme chaque nouvelle technologie disruptive, les IA génératives soulèvent de plus en plus d’inquiétudes en termes de sécurité et de protection de la vie privée. Pour se protéger contre ces nouvelles formes de risques, il est indispensable d'utiliser une solution de sécurité avancée comme Bitdefender Premium Security Plus.

Faut-il utiliser ChatGPT ou d’autres IA génératives ?

Les modèles d’IA conversationnelles comme ChatGPT fonctionnent et s’améliorent en partie grâce aux données fournies par les utilisateurs lorsqu’ils formulent des demandes. La plupart des utilisateurs ignorent en effet que leurs échanges avec les IA génératives sont exploités pour améliorer leurs facultés. Fort de ce constat, il est donc très important de ne pas divulguer des informations personnelles sensibles que vous souhaitez garder privées. Avant d’utiliser l’un de ces services, il est recommandé de consulter leur politique de confidentialité des données afin de savoir la manière dont elles sont utilisées.

Quid des informations collectées par les IA ?

Si vous demandez par exemple à ChatGPT de résumer un contrat ou un document confidentiel, d’analyser un code informatique propriétaire, de corriger un texte ou une chanson dont vous êtes l’auteur, toutes ces données sont ingurgitées de facto par le robot et peuvent potentiellement être divulguées à d’autres utilisateurs. Le géant coréen Samsung a notamment interdit l’utilisation de ChatGPT, Bard, ou encore Bing à ses employés suite à plusieurs incidents. Des ingénieurs de la division des semi-conducteurs du groupe ont utilisé l’IA d’OpenAI afin qu’elle les aide à réaliser différentes tâches. L’un d’entre eux a fourni le code source d’un programme informatique sensible du constructeur pour vérifier s’il ne contenait pas d’éventuelles failles de sécurité. L'événement qui a été relayé dans les médias du monde entier a forcé OpenAI a modifier les règles de ses abonnements payants destinés aux entreprises.

Dorénavant, ChatGPT ne mémoriserait plus les données fournies par les professionnels. Cette règle ne s'applique pas aux versions gratuites. Les internautes qui utilisent les IA génératives doivent donc rester très vigilants. Certains services comme Google Bard collectent un nombre impressionnant d’informations allant des données de localisation, les commentaires d’utilisation, les recherches effectuées, etc. Bard peut en outre accéder aux informations des nombreux autres services de Google (Gmail, Maps, Docs, YouTube…) pour répondre aux requêtes des utilisateurs. Le géant du web requiert toutefois un consentement très clair et explicite que vous acceptez ou non avant d’utiliser son IA.

Quels sont les risques en matière de confidentialité et de protection des données ?

Les modèles de traitement du langage naturel présentent de nombreux risques en matière de confidentialité et de protection des données. Comme évoqué précédemment, les conversations avec les IA génératives ne sont pas privées. Certaines peuvent être par ailleurs analysées par des humains pour améliorer la qualité des réponses, ce qui peut potentiellement engendrer une violation de la confidentialité des données. Google Bard affiche désormais un message pour alerter les utilisateurs sur la possibilité que leurs échanges avec le robot soient examinés par des réviseurs. Les IA génératives collectent également des données pouvant inclure les informations de compte que vous saisissez lors de votre inscription : nom, coordonnées, identifiants de connexion, informations de carte de paiement (comptes premium uniquement), etc.

L'IA d’OpenAI exploite également les données extraites de votre appareil ou de votre navigateur comme l’adresse IP et la position géographique. Sans oublier les informations que vous saisissez pour vos requêtes, ainsi que les fichiers et les commentaires que vous fournissez au chatbot. De ce fait, il existe un risque que ces informations soient conservées, traitées, partagées avec des tiers, ou encore utiliser de manière inappropriée. Comme n’importe quels services en ligne, ils peuvent en outre être victimes de cyberattaques susceptibles de provoquer des fuites de données et exposer les informations personnelles des utilisateurs.

Les données personnelles peuvent aussi être utilisées à des fins de ciblages publicitaires. Il est important de garder en tête que les conversations et/ou les données partagées avec ces services peuvent être indexées et accessibles publiquement. Les risques de compromettre la confidentialité et même la réputation des utilisateurs sont bien réels. La meilleure solution pour protéger votre vie privée est de partager le moins d’informations sensibles et identifiables possible avec ce type de services.

Comment les cybercriminels exploitent les IA génératives à des fins malveillantes ?

Les capacités extraordinaires des IA génératives n’ont malheureusement pas échappé aux cybercriminels. Ils exploitent ces technologies à des fins malveillantes notamment pour le phishing et l’ingénierie sociale afin de créer des campagnes de phishing toujours plus trompeuses et efficaces. L’une de leurs méthodes consiste à soumettre à une IA les données qu’ils parviennent à récolter sur les utilisateurs (publications sur les réseaux sociaux, données des profils professionnels…) pour qu’elle les analyse et génère des messages personnalisés qui semblent légitimes. L’une des autres tendances particulièrement inquiétante est l’utilisation de l’IA pour créer des deepfakes.

Il s’agit de vidéos ou d’enregistrements audio qui semblent bien réels, mais qui sont en réalité manipulés pour diffuser de fausses informations, réaliser des escroqueries en se faisant passer par exemple pour un dirigeant d’entreprise, exercer un chantage, etc. Une menace préoccupante qui donne notamment des sueurs froides aux personnalités publiques. Ce n’est pas tout, les IA peuvent être utilisées de diverses manières pour créer des malwares sophistiqués, exploiter des failles de sécurité, ou encore automatiser des attaques massives. Pour contrer ces nouvelles formes de menaces, il est crucial d’utiliser de puissants outils de sécurité comme Bitdefender Premium Security Plus.

Bitdefender premium Security Plus : une suite de sécurité multicouche qui permet de mieux appréhender les enjeux de cybersécurité

Face à la multiplication exponentielle des menaces qui rend impossible leur indexation, Bitdefender utilise l’intelligence artificielle et le machine learning dans son moteur d’analyse comportementale depuis de nombreuses années. Résultat, cela lui permet de bloquer les multiples menaces, qu’elles soient connues ou inconnues. La suite de sécurité Bitdefender Premium Security Plus intègre en plus un système de protection de l’identité baptisé Bitdefender Digital Identity Protection..

Ce dernier comprend un large éventail d’outils pour gérer et protéger votre identité et vos données personnelles via le portail de gestion en ligne Bitdefender Central. Le service recherche en permanence des traces de données personnelles sur Internet et sur le dark web et vous alerte lorsqu’il détecte une fuite de données vous concernant. Une protection qui devient de plus en plus indispensable.