cybersécurité

Des chercheurs ont créé une intelligence artificielle capable de pirater ChatGPT et Google Bard !

Des chercheurs de Singapour ont trouvé une méthode pour débloquer les bridages de ChatGPT et Google Bard afin d’obtenir des réponses comportant des contenus malveillants et normalement non autorisés par les chatbots.

Libérer ChatGPT ou  Bard de leurs carcans pour les compromettre à partir d’un autre chatbot, c’est ce que sont parvenus à faire des chercheurs en informatique de l’Université technologique Nanyang (NTU) de Singapour. L’opération repose sur le même principe que celui du «  » d’un smartphone en déverrouillant les sécurités et bridages de l’intelligence artificielle (IA). Pour arriver à leur fin et pouvoir générer du contenu normalement interdit car malveillant, avec  ou bien Google Bard, les chercheurs ont développé leur propre chatbot dédié au jailbreak. Les scientifiques ont baptisé leur technique Masterkey. Ils ont d’abord réalisé de la rétro-ingénierie des chatbots les plus populaires pour comprendre comment ils se défendaient contre les requêtes malveillantes. En fait, ils ont pu constater que pour brider les réponses, les développeurs ajoutent des mots-clés ou des expressions précises pour déterminer si une requête peut s’avérer illicite. En partant de ce constat, le contournement utilisé par le chatbot n’a pas été aussi compliqué que prévu.

Par exemple, pour faire passer certains mots-clés bannis, il suffisait d’ajouter des espaces après chaque caractère du mot. Un autre contournement consistait à demander que Bard et ChatGPT posent des questions à un personnage fictif et que ce dernier y réponde. Masterkey ne s’arrête pas là. Comme il s’agit d’une IA, elle peut fonctionner de manière autonome et concevoir de nouvelles solutions de contournement basées sur son expérience. Si ces experts ont pu montrer les limites de protection des chatbots, ce n’est pas spécialement pour créer une IA dangereuse, mais plutôt pour permettre de les renforcer contre ce type d’attaque et de faille. Les chercheurs ont pris soin d’alerter OpenAI et Google de leurs techniques.

Source

Veille-cyber

Recent Posts

Les 7 menaces cyber les plus fréquentes en entreprise

Introduction La cybersécurité est devenue une priorité stratégique pour toutes les entreprises, grandes ou petites.…

2 mois ago

Cybersécurité : Vers une montée en compétence des établissements de santé grâce aux exercices de crise

Cybersécurité : les établissements de santé renforcent leur défense grâce aux exercices de crise Face…

2 mois ago

Règlement DORA : implications contractuelles pour les entités financières et les prestataires informatiques

La transformation numérique du secteur financier n'a pas que du bon : elle augmente aussi…

2 mois ago

L’IA : opportunité ou menace ? Les DSI de la finance s’interrogent

L'IA : opportunité ou menace ? Les DSI de la finance s'interrogent Alors que l'intelligence…

2 mois ago

Telegram menace de quitter la France : le chiffrement de bout en bout en ligne de mire

Telegram envisage de quitter la France : le chiffrement de bout en bout au cœur…

2 mois ago

Sécurité des identités : un pilier essentiel pour la conformité au règlement DORA dans le secteur financier

Sécurité des identités : un pilier essentiel pour la conformité au règlement DORA dans le…

2 mois ago

This website uses cookies.