20 éléments critiques à prendre en compte avant de déployer un chatbot d’IA auprès de vos clients

People who regularly talk to AI chatbots often start to believe they're sentient

Quiconque a déjà acheté une voiture peut avoir du mal à éprouver de la sympathie à l’égard d’un concessionnaire automobile. Mais pourquoi ne pas en éprouver un tantinet pour ces employés d’une concession Chevrolet de Californie qui ont utilisé un chatbot à base de ChatGPT avec les acheteurs potentiels de voitures. Comme l’ont rapporté, entre autres, Yahoo Finance et Driving.ca, le concessionnaire Chevrolet de Watsonville, en Californie, a créé un chatbot personnalisé qui a rapidement déraillé.

Les utilisateurs ont réussi à convaincre le chatbot de proposer un SUV Chevy Tahoe 2024 (d’une valeur d’environ 55 000 dollars) pour… un dollar. Autre exploit, ils ont réussi à lui faire recommander l’achat d’un véhicule concurrent, Ford en l’occurrence, , plutôt que Chevrolet. Enfin, les utilisateurs du chatbot ont réussi à lui faire chanter les louanges de du Toyota Tundra, un autre concurrent du SUV de Chevrolet.

Dans une déclaration à Driver.ca attribuée à « Chevrolet » (nous ne savons pas s’il s’agit de la société principale ou du concessionnaire qui tente de limiter les dégâts), la société a déclaré :

Source