Deux avocats, et leur cabinet, condamnés pour avoir utilisé des jurisprudences hallucinées par ChatGPT

Un juge a condamné deux avocats, Steven Schwartz et Peter LoDuca, ainsi que leur cabinet, Levidow, Levidow & Oberman, à une amende de 5 000 dollars pour avoir utilisé des jurisprudences « hallucinées » par ChatGPT, rapporte The Guardian. Le juge new-yorkais chargé du dossier, P. Kevin Castel, avait en effet découvert que « six des arrêts invoqués renvoient à de fausses décisions de justice et mentionnent de fausses citations ».

• Un avocat base sa défense sur des jurisprudences mentionnées par ChatGPT, mais qui n’existent pas

« Les progrès technologiques sont monnaie courante et il n’y a rien d’intrinsèquement inapproprié à utiliser un outil d’intelligence artificielle fiable pour obtenir de l’aide », précise le juge dans sa délibération, « mais les règles existantes imposent aux avocats un rôle de gardien pour garantir l’exactitude de leurs déclarations ».

S’il reconnaît que l’une des fausses décisions générées par le chatbot présentait « certains traits superficiellement cohérents avec des décisions judiciaires réelles », d’autres parties contenaient a contrario du « charabia », et étaient même « absurdes ».

« Nous avons commis une erreur de bonne foi en ne croyant pas qu’un outil technologique pouvait inventer des affaires de toutes pièces », ont répondu les avocats dans un communiqué.

Source