Home / Cybersécurité / 20 éléments critiques à prendre en compte avant de déployer un chatbot d’IA auprès de vos clients

20 éléments critiques à prendre en compte avant de déployer un chatbot d’IA auprès de vos clients

People who regularly talk to AI chatbots often start to believe they're sentient

Quiconque a déjà acheté une voiture peut avoir du mal à éprouver de la sympathie à l’égard d’un concessionnaire automobile. Mais pourquoi ne pas en éprouver un tantinet pour ces employés d’une concession Chevrolet de Californie qui ont utilisé un chatbot à base de ChatGPT avec les acheteurs potentiels de voitures. Comme l’ont rapporté, entre autres, Yahoo Finance et Driving.ca, le concessionnaire Chevrolet de Watsonville, en Californie, a créé un chatbot personnalisé qui a rapidement déraillé.

Les utilisateurs ont réussi à convaincre le chatbot de proposer un SUV Chevy Tahoe 2024 (d’une valeur d’environ 55 000 dollars) pour… un dollar. Autre exploit, ils ont réussi à lui faire recommander l’achat d’un véhicule concurrent, Ford en l’occurrence, , plutôt que Chevrolet. Enfin, les utilisateurs du chatbot ont réussi à lui faire chanter les louanges de du Toyota Tundra, un autre concurrent du SUV de Chevrolet.

Dans une déclaration à Driver.ca attribuée à « Chevrolet » (nous ne savons pas s’il s’agit de la société principale ou du concessionnaire qui tente de limiter les dégâts), la société a déclaré :

Source

Mots-clés : cybersécurité, sécurité informatique, protection des données, menaces cybernétiques, veille cyber, analyse de vulnérabilités, sécurité des réseaux, cyberattaques, conformité RGPD, NIS2, DORA, PCIDSS, DEVSECOPS, eSANTE, intelligence artificielle, IA en cybersécurité, apprentissage automatique, deep learning, algorithmes de sécurité, détection des anomalies, systèmes intelligents, automatisation de la sécurité, IA pour la prévention des cyberattaques.