Un juge a condamné deux avocats, Steven Schwartz et Peter LoDuca, ainsi que leur cabinet, Levidow, Levidow & Oberman, à une amende de 5 000 dollars pour avoir utilisé des jurisprudences « hallucinées » par ChatGPT, rapporte The Guardian. Le juge new-yorkais chargé du dossier, P. Kevin Castel, avait en effet découvert que « six des arrêts invoqués renvoient à de fausses décisions de justice et mentionnent de fausses citations ».
« Les progrès technologiques sont monnaie courante et il n’y a rien d’intrinsèquement inapproprié à utiliser un outil d’intelligence artificielle fiable pour obtenir de l’aide », précise le juge dans sa délibération, « mais les règles existantes imposent aux avocats un rôle de gardien pour garantir l’exactitude de leurs déclarations ».
S’il reconnaît que l’une des fausses décisions générées par le chatbot présentait « certains traits superficiellement cohérents avec des décisions judiciaires réelles », d’autres parties contenaient a contrario du « charabia », et étaient même « absurdes ».
« Nous avons commis une erreur de bonne foi en ne croyant pas qu’un outil technologique pouvait inventer des affaires de toutes pièces », ont répondu les avocats dans un communiqué.