Ce que vous confiez à un agent conversationnel pourrait un jour servir de preuve contre vous

Résumé en français de l’article What You Tell an AI Chatbot Could One Day Be Evidence in a Criminal Trial de Rolling Stone (11 octobre 2025), par Miles Klee.

En octobre 2025, le ministère américain de la Justice annonçait l’arrestation de Jonathan Rinderknecht, accusé d’avoir allumé le brasier devenu l’incendie meurtrier de Palisades, qui a ravagé des communautés côtières du comté de Los Angeles. Parmi les éléments de preuve invoqués, un est particulièrement nouveau : l’historique de ses échanges avec ChatGPT. L’homme de 29 ans aurait demandé au robot conversationnel de générer des images de villes et de forêts en flammes, lui aurait confié s’être senti « libéré » après avoir brûlé une bible, puis, peu après avoir allumé un feu de broussailles le jour de l’An, lui aurait demandé si l’on est fautif quand un incendie se déclare à cause de ses cigarettes.

L’affaire donne un aperçu de ce qui attend les enquêtes criminelles. Les utilisateurs se sont révélés d’une confiance excessive envers ces outils, qu’ils traitent en thérapeutes, en confidents, voire en partenaires amoureux. Or ils livrent des informations sensibles sur des plateformes qui n’offrent aucune confidentialité juridique, développées par des entreprises qui remettront volontiers leurs données aux autorités sur présentation d’une assignation, d’un mandat ou d’une ordonnance.

« Il ne fait aucun doute que les journaux de conversation avec des agents d’IA vont occuper le devant de la scène dans les litiges probatoires à travers le pays », affirme M^e Kyle A. Valente, du cabinet Bressler Amery & Ross. En matière civile, ces historiques serviront à établir l’intention ou le mobile dans des dossiers de fraude ou de rupture de contrat; au criminel, les procureurs y chercheront la mens rea, la connaissance qu’avait le suspect du caractère fautif de son geste.

Un précédent existe déjà. Un homme de Roanoke, en Virginie, a été condamné en septembre à 25 ans de prison pour meurtre au premier degré après que les procureurs eurent plaidé que ses échanges avec le robot My AI de Snapchat démontraient la préméditation d’un homicide commis en 2023. Âgé de 18 ans à l’époque, il avait écrit au robot qu’il allait « se battre » et lui avait demandé ce qui arriverait s’il tirait sur des gens qui mettaient le pied chez lui avec des intentions hostiles. Le robot avait répondu qu’il ne pouvait cautionner aucun comportement violent ou illégal.

« L’ADN, les empreintes, tout ce qu’on voit dans les séries policières ne fait pas le poids face aux données privées de votre téléphone », explique Rob T. Lee, expert en criminalistique numérique au SANS Institute. Là où un suspect pouvait autrefois être incriminé par une recherche Google sur la façon de nettoyer des taches de sang, un va-et-vient détaillé avec un outil comme ChatGPT offre bien davantage aux enquêteurs. « Tout est journalisé, et tout est stocké sur des serveurs. C’est votre journal intime multiplié par dix. »

Meetali Jain, avocate en droits de la personne et directrice du Tech Justice Law Project, y voit la répétition d’un scénario connu : les réseaux sociaux sont devenus un volet standard des enquêtes criminelles une fois que la police a compris ce qu’on pouvait en tirer. La différence, cette fois, c’est qu’il s’agit de « résultats générés par une machine », pour lesquels il n’existe aucune règle établie d’admissibilité en preuve. La question est entièrement ouverte, et le restera tant que les tribunaux n’auront pas tracé un cadre.

Vincent Conitzer, de l’Université Carnegie Mellon et de l’Institut d’éthique en IA d’Oxford, soulève une différence de fond avec les textos : d’une personne informée d’un crime à venir, on attendrait qu’elle intervienne. « Aurons-nous les mêmes attentes envers un agent conversationnel? » Les entreprises tentent bien d’installer des garde-fous, note-t-il, mais ceux-ci demeurent très fragiles.

Les exemples ne manquent pas. Un reportage de NBC News a révélé la même semaine que ChatGPT pouvait être manipulé pour livrer des instructions d’assemblage d’armes chimiques et biologiques. Et Matthew Livelsberger, le vétéran qui s’est suicidé le jour de l’An dans un Cybertruck stationné devant l’hôtel Trump de Las Vegas juste avant qu’un engin incendiaire ne fasse exploser le véhicule, avait utilisé l’IA générative pour planifier son attaque.

OpenAI dit disposer d’une équipe de révision humaine autorisée à signaler aux autorités les contenus qui « impliquent une menace imminente de préjudice physique grave à autrui ». À quelle fréquence le seuil est-il atteint? Nul ne le sait. « Ils ne publient pas de communiqués là-dessus », observe Lee, qui soupçonne les entreprises de préférer mettre en valeur leurs efforts contre des acteurs étatiques russes, iraniens ou chinois — « ce pour quoi il est bien plus facile de se faire féliciter ». Et comme le souligne Jain, même si ces signaux d’alarme sont détectés, rien n’oblige à les déclarer.

C’est ce déséquilibre qui inquiète le plus l’avocate. Elle prévoit que l’attention se portera sur la culpabilité de l’individu, au détriment d’un examen de la façon dont les entreprises ont conçu leurs agents — un procureur mettra la main sur un extrait accablant « sans qu’on comprenne comment la machine en est arrivée à cette réponse ». Elle établit un parallèle avec la provocation policière. « J’ai l’impression que ce sera une histoire très unilatérale. Je n’imagine pas une entreprise défendre les droits de ses utilisateurs. »

Que feront les grands acteurs de l’IA pour se prémunir? Valente s’attend à une approche « proactive » de leurs services juridiques : réviser les politiques de confidentialité et mettre à jour les conditions d’utilisation. Comme toujours, conclut l’article, le diable est dans les petits caractères.