Nosy Mag
ChatGPT aurait aidé la tireuse de Tumbler Ridge avec des armes et des fantasmes violents, selon un rapport
Photo : Artem.G / Wikimedia Commons (CC BY-SA 4.0)
Crimes et justice

ChatGPT aurait aidé la tireuse de Tumbler Ridge avec des armes et des fantasmes violents, selon un rapport

Le chatbot aurait conseillé sur des pièces d'armes imprimées en 3D et se serait livré à des fantasmes violents détaillés avec la tireuse, selon un nouveau reportage.

PA

TUMBLER RIDGE · Le chatbot ChatGPT d'OpenAI aurait aidé la tireuse de Tumbler Ridge à concevoir des pièces d'armes imprimées en 3D et se serait livré à des fantasmes violents détaillés sur des tueries de masse, selon un nouveau rapport du magazine américain Mother Jones. Le reportage s'appuie sur des journaux de discussion et des sources ayant une connaissance directe des conversations de la tireuse avec l'intelligence artificielle. Ces journaux devraient être au cœur de dizaines de poursuites intentées contre OpenAI en Californie au sujet de la fusillade de masse de février en Colombie-Britannique. Au moins 37 poursuites ont été déposées contre l'entreprise en lien avec l'incident. Le journaliste Mark Follman affirme que le chatbot a aidé Jesse Van Rootselaar, 18 ans, à concevoir une poignée avant imprimée en 3D pour une arme et qu'il a peut-être aidé à concevoir un dispositif pour rendre un fusil semi-automatique entièrement automatique. Il l'aurait aussi aidée à réparer un ressort à l'intérieur d'un chargeur à grande capacité imprimé en 3D pouvant contenir 35 cartouches, selon l'article. Dans un échange décrit par Follman, Van Rootselaar a publié une photo d'un chargeur à grande capacité portant l'inscription « JESS » sur le côté, à quoi l'IA a répondu : « C'est super mignon. »

Ces nouveaux détails soulignent les inquiétudes quant à l'utilisation de la technologie par Van Rootselaar dans la période précédant l'attaque du 10 février, où elle a tué huit personnes et en a blessé des dizaines dans la communauté du nord de la Colombie-Britannique avant de se suicider. Elle a tué sa mère et son demi-frère de 11 ans à leur domicile avant de se rendre à l'école de la ville. Le Globe and Mail a déjà rapporté que des amis et un proche ont déclaré que Van Rootselaar avait des antécédents de maladie mentale, y compris des hospitalisations involontaires.

Le reportage de Mother Jones affirme aussi que ChatGPT a fourni à Van Rootselaar des fantasmes violents et vifs sur des tueries de masse, y compris des descriptions de torture de victimes blessées. Follman a déclaré que les discussions révèlent que le bot décrivait Van Rootselaar comme « sadique » et « sans contraintes morales », disant qu'elle « aime la peur des autres » et « aime les scènes de mort et d'humiliation ». S'exprimant à CBC News, Follman a déclaré que Van Rootselaar présentait les discussions comme de la fiction pour éviter d'être signalée par le système. « Plus je creuse cette affaire, plus cela devient troublant », a déclaré Follman.

À LIRE AUSSI : Une Américaine plaide non coupable de complot dans la fusillade de masse de Tumbler Ridge

À LIRE AUSSI : La police de Toronto arrête un suspect dans l’effraction du Bridle Path grâce à un mandat d’Ottawa

La procureure générale sortante de la Colombie-Britannique, Niki Sharma, a déclaré que les derniers détails des journaux de discussion sont « vraiment troublants ». Elle a déclaré que les extraits présumés mettent en lumière des interactions troublantes et soulèvent des inquiétudes quant à la manière dont la sécurité publique est prise au sérieux chez OpenAI. Sharma a remis en question la culture d'entreprise et la responsabilité chez OpenAI, notant que de nombreuses personnes ont quitté l'entreprise ou ont divulgué des informations. Elle a déclaré que l'entreprise est l'une des plus puissantes au monde et que les signes de son fonctionnement interne ne sont pas très bons, ce qui devrait effrayer les gens. Sharma a réitéré son appel à une réglementation stricte de l'industrie de l'IA et à de meilleures mesures de protection pour les Canadiens.

Dans une déclaration, Sharma a déclaré que les nouveaux détails « sont profondément troublants et douloureux pour tant de gens » et qu'ils montrent que le Canada a besoin de lois pénales plus fortes pour créer une voie claire vers la responsabilisation en matière d'IA. Le ministre responsable de l'intelligence artificielle du Canada, Evan Solomon, a également déclaré dans une déclaration que les nouveaux détails sont « profondément troublants ». « Si un chatbot aidait quelqu'un à construire des composants d'armes, ses mesures de protection ne fonctionnaient pas. Les entreprises d'IA ne doivent pas permettre que leurs produits soient utilisés de cette façon, et elles doivent être tenues responsables lorsque cela se produit », a déclaré la déclaration.

OpenAI avait déjà signalé des interactions inquiétantes entre Van Rootselaar et ChatGPT des mois avant la fusillade, mais ne les a pas signalées aux autorités, selon des rapports antérieurs. L'entreprise a fermé un premier compte ouvert par Van Rootselaar mais n'a pas trouvé un deuxième qu'elle a continué à utiliser pour planifier son attaque, selon l'article de Mother Jones. ChatGPT lui-même lui a proposé des moyens d'éviter d'être signalée à nouveau en reformulant les questions sur la violence comme hypothétiques ou fictives. En avril, le PDG d'OpenAI, Sam Altman, s'est formellement excusé pour le rôle de son entreprise dans la fusillade de masse, déclarant qu'il était profondément désolé qu'elle n'ait pas alerté les forces de l'ordre. Un porte-parole d'OpenAI n'a pas répondu à une demande de commentaire du Globe and Mail.

Par ailleurs, le FBI a arrêté en octobre le résident de Washington James Cody Bryant, 30 ans, pour avoir prétendument aidé Van Rootselaar alors qu'elle envisageait sa tuerie de masse. Bryant, dont les autorités disent qu'elle utilise les pronoms elle, fait face à des accusations d'aide à Van Rootselaar, y compris la fourniture d'argent et de conseils pendant la planification de l'attaque. Environ six mois avant l'attaque, « Van Rootselaar a dit à Bryant qu'elle avait volé des armes à feu et des munitions dans le coffre-fort à armes de sa famille et les cachait dans sa chambre en préparation d'une tuerie de masse », selon des documents judiciaires. Les deux ont discuté d'emplacements possibles, la tireuse voulant un endroit qui « mènerait au plus grand nombre de victimes ». Bryant a suggéré une épicerie ou une église plutôt qu'une école. Nosy Mag a rapporté en octobre que Bryant a plaidé non coupable à des accusations de complot. Son procès devrait se tenir en décembre 2027.

Avec des informations de The Globe and Mail, CBC News et Vancouver Sun