L'intelligence artificielle de DeepSeek, R1, a marqué par ses performances. Mais elles viendraient avec des garde-fous de sécurité plus faibles.
DeepSeek a secoué le marché mondial de l'intelligence artificielle quand son modèle de langage R1 a montré qu'il pouvait aussi bien performer que les meilleurs outils IA d'OpenAI. Mais depuis, un regard plus critique a été porté sur la start-up, dont le chatbot est particulièrement vulnérable aux attaques. Et il serait aussi plus aisé de le débloquer que les autres IA !
DeepSeek peut être plus facilement jailbreaké que les autres IA
Les IA ont pris d'assaut la planète depuis environ deux ans, avec des modèles de langage de plus en plus avancés. Mais le problème, c'est qu'ils peuvent aussi fournir de nombreux contenus dangereux, raison pour laquelle les développeurs tâchent de faire en sorte qu'il soit le plus difficile possible d'utiliser les IA à des fins malveillantes.
Malheureusement, l'IA R1 de DeepSeek n'est pas aussi bien protégée que les autres dans ce domaine, si l'on en croit le Wall Street Journal. Les journalistes du média américain, faisant suite à la découverte des chercheurs de la fameuse Unit 42, ont ainsi réussi à obtenir de R1 qu'il écrive un mail de phishing contenant un malware, ou qu'il propose des instructions afin de mener une attaque biologique.
Une raison de plus pour l'interdire aux États-Unis et en Europe ?
Des informations qui, demandées de la même façon par l'équipe du Wall Street Journal, n'ont pas pu être obtenues de la part de ChatGPT. De quoi soutenir l'affirmation de la Unit 42, rassemblement de spécialistes mondiaux de la cybersécurité, que R1 était « plus vulnérables au jailbreaking que les autres modèles. »
Des révélations qui pourraient encore plus pousser les autorités des grandes nations à finalement interdire DeepSeek. On sait en effet que cette idée est déjà dans l'air du côté des États-Unis, où un sénateur a proposé de punir de prison le téléchargement de l'application dédiée. Et du côté de l'Europe, avec le déploiement progressif de l'AI Act, DeepSeek pourrait être en danger dès cette année.
Source : DeepSeek
- Compréhension avancée du langage naturel
- Réponses adaptées à des contextes variés
- Disponible en plusieurs langues
