Votre navigateur est obsolète. Veuillez le mettre à jour avec la dernière version ou passer à un autre navigateur comme Chrome, Safari, Firefox ou Edge pour éviter les failles de sécurité et garantir les meilleures performances possibles.

Passer au contenu principal
Savoirs
S'abonner

AboIntelligence artificielle
Quand ChatGPT déraille, faut-il s’en inquiéter?

Des chercheurs de l’EPFL ont perverti les principaux agents conversationnels dont ChatGPT. Est-ce grave? Une anthropologue, un sociologue et un professeur d’informatique répondent.

Catherine Cochard
Illustration d’une personne utilisant un ordinateur, avec une figure menaçante se formant en arrière-plan, suggérant une présence numérique inquiétante.
Les agents conversationnels comme ChatGPT ne sont a priori pas conçus pour nous nuire. Mais en raison de leurs failles, de sécurité notamment, ces outils peuvent être détournés et produire des contenus nocifs.
Illustration: Manuel Perrin
Abonnez-vous dès maintenant et profitez de la fonction de lecture audio.
S'abonnerSe connecter
BotTalk
En bref:
  • Des chercheurs de l’EPFL ont contourné la sécurité des modèles de langage des principaux agents conversationnels, comme ChatGPT ou Claude.
  • Ils ont ensuite fait produire à ces chatbots des contenus nocifs et dangereux.
  • Ces IA encore en développement souffrent de certaines vulnérabilités.

Les articles ABO sont réservés aux abonnés.

S'abonnerDéjà enregistré.e ou abonné.e?Se connecter

Actualité

Plus

La rédaction vous propose

Plus

Dans la même rubrique

Plus