💻 technology

L'IA de Google a qualifié un violoniste de prédateur, maintenant confronté à une poursuite de 1,5 million de dollars

Ashley MacIsaac, trois fois lauréat du prix Juno, poursuit Google après que sa fonctionnalité d'aperçu AI l'a faussement accusé d'être un délinquant sexuel condamné pour agression sur enfants. Les fausses informations ont été republiées, ont annulé un concert et ont laissé MacIsaac craindre pour sa sécurité. Les algorithmes de Google l'ont transformé en symbole de la diffamation par IA.

Ashley MacIsaac a déposé une poursuite pour diffamation de 1,5 million de dollars devant la Cour supérieure de justice de l'Ontario contre Google le 5 mai 2026, alléguant que la fonctionnalité AI Overview du géant technologique avait publié des accusations criminelles totalement fabriquées à son encontre. Selon les documents judiciaires, le système d'IA générative de Google affirmait que MacIsaac avait été condamné pour agression sexuelle sur une femme, leurre d'un enfant via internet avec l'intention d'agresser sexuellement et agression causant des lésions corporelles. Aucune de ces accusations n'est vraie. MacIsaac n'a aucune condamnation de ce type à son casier judiciaire. Les fausses informations générées par l'IA ne sont pas restées sur les serveurs de Google à accumuler la poussière numérique. La poursuite de MacIsaac soutient que Google porte la responsabilité de la « republication prévisible » du contenu diffamatoire, ce qui signifie que le géant technologique aurait dû anticiper que les utilisateurs feraient des captures d'écran, partageraient et diffuseraient les fausses allégations criminelles sur les réseaux sociaux et d'autres plateformes. C'est exactement ce qui s'est passé. Les fausses informations se sont propagées si rapidement que MacIsaac affirme avoir craint pour sa sécurité personnelle alors que les fausses accusations circulaient. Il allègue également que l'AI Overview diffamatoire a directement causé l'annulation d'au moins une réservation de concert, le touchant là où les musiciens souffrent le plus - le portefeuille et la scène. La fonctionnalité AI Overview de Google, déployée largement en 2024, utilise des modèles de langage de grande taille (LLM) pour générer des réponses résumées en haut des résultats de recherche. Le système extrait et synthétise des informations à travers le web pour fournir aux utilisateurs des réponses rapides écrites par l'IA à leurs requêtes. Le problème est que les LLM ne « comprennent » pas réellement la vérité ou ne vérifient pas les faits comme le font les chercheurs humains. Ils prédisent un texte qui semble plausible basé sur des schémas statistiques dans leurs données d'entraînement. Lorsque cette prédiction va de travers, comme cela s'est produit spectaculairement avec MacIsaac, le résultat est une diffamation algorithmique à grande échelle. La domination de Google dans la recherche signifie qu'une hallucination de l'IA à votre sujet peut atteindre des millions de regards avant même que vous ne sachiez qu'elle existe. MacIsaac est un poids lourd légitime de la musique canadienne. Il a remporté trois prix Juno (l'équivalent canadien des Grammy Awards) et a construit une carrière sur un jeu de violon virtuose de Cape Breton mélangé à des influences rock, punk et électroniques. Son album de 1995 "Hi™ How Are You Today?" est devenu platine au Canada et a été acclamé internationalement. Il a joué partout, des festivals celtiques aux grandes salles de concert. Pour un artiste qui dépend de la réputation publique et des réservations, avoir l'IA de Google annonçant nonchalamment au monde que vous êtes un prédateur d'enfants condamné est une annihilation de carrière livrée par algorithme. La poursuite représente l'un des premiers grands tests juridiques pour savoir si les entreprises technologiques peuvent être tenues responsables lorsque leurs systèmes d'IA générative hallucinent un contenu diffamatoire sur des personnes réelles. Les moteurs de recherche traditionnels ont bénéficié de larges protections légales en vertu de la Section 230 du Communications Decency Act aux États-Unis et de cadres similaires ailleurs, qui protègent généralement les plateformes de toute responsabilité pour le contenu tiers qu'elles hébergent ou auxquels elles renvoient. Mais l'AI Overview de Google ne fait pas qu'héberger ou lier du contenu - elle génère un nouveau texte qui semble être la déclaration autorisée de Google. Cette distinction pourrait percer les boucliers juridiques de Google. Les avocats de MacIsaac soutiennent que Google a créé et publié lui-même le contenu faux par l'intermédiaire de son système d'IA, rendant l'entreprise directement responsable en tant qu'éditeur plutôt qu'en tant que plateforme neutre. Si MacIsaac gagne, cela pourrait forcer Google et d'autres entreprises d'IA à mettre en œuvre des systèmes de vérification beaucoup plus stricts avant que leurs modèles ne fassent des allégations factuelles sur des personnes vivantes.

Mon avis

Google a construit une IA capable de passer l'examen du barreau et d'écrire de la poésie, mais apparemment incapable de vérifier si quelqu'un est effectivement un délinquant sexuel condamné avant de diffuser cette accusation à des milliards d'utilisateurs de recherche. Ce n'est pas un petit bug où l'IA se trompe de date ou mal orthographie un nom. C'est une machine qui accuse faussement quelqu'un de crimes contre des enfants, par écrit, en haut des résultats de recherche, avec toute l'autorité que la marque Google commande. La société traite cela comme s'il s'agissait d'un simple bug à corriger, mais pour MacIsaac, c'est une bombe nucléaire larguée sur sa réputation et ses moyens de subsistance. Le véritable scandale ici est que Google savait que cela pouvait arriver et a quand même lancé le produit. Les chercheurs en IA crient depuis longtemps sur les problèmes d'hallucination et les risques de présenter du contenu généré par LLM comme un fait autorisé depuis avant le lancement de ChatGPT. Google a vu des concurrents avancer à grands pas avec l'IA générative et a paniqué en lançant des fonctionnalités à moitié cuites pour suivre le rythme. Maintenant, des gens réels paient le prix de la précipitation de Google sur le marché. Les 1,5 million de dollars que cherche MacIsaac ne feront probablement même pas une entaille dans le budget café trimestriel de Google, mais si les tribunaux commencent à traiter la diffamation générée par l'IA de la même manière que la diffamation publiée par des humains, l'exposition à la responsabilité sur des millions de requêtes pourrait atteindre des niveaux de loterie judiciaire. Ce qui me dérange le plus, c'est le plan de défense probable de Google : prétendre que l'IA ne fait que résumer des informations trouvées ailleurs sur le web, lever les mains en l'air, et argumenter qu'ils ne peuvent pas vérifier tous les faits générés par leur système. C'est un argument de lâches venant d'une entreprise qui gagne plus de 300 milliards de dollars par an. Si votre IA ne peut pas éviter de traiter de fiers innocents de violeurs d'enfants, peut-être ne pas la déployer pour répondre à des questions sur des humains vivants. Google pourrait mettre en place une révision humaine obligatoire pour tout contenu généré par l'IA qui fait des accusations criminelles. Ils pourraient restreindre les aperçus de l'IA des sujets où les hallucinations causent un préjudice maximal. Ils ne le feront pas, car cela ralentirait les choses et coûterait de l'argent. Donc, à la place, nous obtenons la diffamation algorithmique comme un coût acceptable des affaires.

Et ensuite ?

L'équipe juridique de Google déposera presque certainement une motion de rejet dans les 30 jours, arguant l'immunité de la Section 230 et prétendant qu'ils sont simplement une plateforme neutre agrégeant du contenu web, et non un éditeur de déclarations diffamatoires originales. Cet argument a fonctionné à merveille pendant 25 ans de recherche traditionnelle, mais les avocats de MacIsaac contreront que l'AI Overview a fondamentalement changé la donne - Google génère désormais et publie un nouveau texte qui n'apparaît nulle part ailleurs sur internet, les rendant ainsi l'auteur de la diffamation. Les tribunaux de l'Ontario devront décider si la loi canadienne sur la diffamation traite le texte généré par l'IA de la même manière que les articles écrits par des humains. Si l'affaire survit au rejet, la découverte pourrait être absolument explosive. L'équipe juridique de MacIsaac demandera des documents internes montrant ce que Google savait sur les taux d'hallucination de l'AI Overview, quels avertissements les ingénieurs ont lancés avant le lancement, et combien d'autres accusations fausses similaires le système a générées à propos d'autres personnes. L'issue que personne ne voit venir : Google règle l'affaire rapidement et discrètement, appliquant une NDA stricte à MacIsaac et enterrant l'affaire avant que la découverte ne produise des documents qui pourraient être utilisés dans une centaine de poursuites en copie. La société a suffisamment de ressources pour compenser MacIsaac dix fois, et le cauchemar des relations publiques d'un procès prolongé où des témoins témoignent sur le fait que Google a sciemment expédié une IA sujette à la diffamation serait bien plus coûteux que tout chèque de règlement. Mais si MacIsaac refuse de régler et pousse cela au procès - et étant donné que sa réputation et sa carrière sont en jeu, il pourrait - nous regardons une affaire qui établit un précédent pouvant redéfinir la loi sur la responsabilité de l'IA dans les pays de common law. D'autres musiciens, acteurs, personnalités publiques, et même des personnes ordinaires faussement calomniées par des systèmes d'IA auraient soudainement une feuille de route juridique pour poursuivre des entreprises technologiques pour la diffamation algorithmique. L'effet domino frappe le plus fort si MacIsaac gagne un verdict avec dommages-intérêts punitifs. Chaque entreprise d'IA avec une fonction de recherche, d'assistant ou de résumé déployée commence à réduire ses fonctionnalités du jour au lendemain. OpenAI, Microsoft, Anthropic et Meta ont tous des produits de recherche ou de résumé génératifs similaires qui pourraient halluciner de la même manière. Les compagnies d'assurance commenceront à offrir une couverture pour la diffamation par IA, et les primes seront astronomiques. L'action de Google pourrait à peine vaciller - ils sont trop grands et diversifiés - mais les startups d'IA plus petites construisant des fonctionnalités similaires pourraient voir leurs valorisations s'effondrer alors que les investisseurs prennent en compte le risque de responsabilité illimitée. Dans les six mois suivant une victoire de MacIsaac, nous verrons introduire une législation dans au moins cinq pays abordant spécifiquement la diffamation générée par l'IA, car les tribunaux auront forcé la question que les politiciens étaient heureux d'ignorer.

Impact sur les marches

La société mère de Google, Alphabet Inc. (GOOGL), actuellement cotée autour de 182 dollars par action en mai 2026 après avoir récupéré des préoccupations de concurrence dans l'IA au début d'année, fait face à un impact minimal immédiat sur le cours de l'action en raison d'un seul procès en diffamation. La capitalisation boursière de l'entreprise avoisine les 2,3 billions de dollars, ce qui signifie qu'une réclamation de 1,5 million de dollars est littéralement une tranchette. Cependant, si l'affaire de MacIsaac survit aux motions initiales de rejet et se dirige vers un procès, la surplomb de responsabilité pourrait commencer à peser sur les actions de GOOGL, en particulier si la découverte révèle des documents internes compromettants sur les risques connus de l'AI Overview. Une responsabilité fondatrice en diffamation par l'IA pourrait enlever 2 à 4 % de la valeur de l'action alors que les analystes modélisent l'exposition potentielle sur des milliards de requêtes et des millions de plaignants potentiels. L'exposition plus large du secteur de l'IA est réelle. Microsoft (MSFT), coté autour de 445 dollars et fortement investi dans la technologie d'OpenAI alimentant Bing AI, fait face à des risques similaires de responsabilité d'hallucination. Meta Platforms (META), à environ 565 dollars, a précipité les fonctionnalités de résumé IA dans Facebook et Instagram. Si MacIsaac gagne et établit que la diffamation générée par l'IA crée une responsabilité directe de l'éditeur, ces actions pourraient voir une pression de vente coordonnée alors que le marché réévalue le risque. Le fonds iShares Expanded Tech-Software Sector ETF (IGV), qui détient des positions concentrées dans ces noms riches en IA, sous-performerait probablement les indices technologiques plus larges de 1 à 3 % sur tout développement juridique majeur défavorable dans cette affaire. Inversement, les entreprises de cybersécurité et de gouvernance de l'IA pourraient voir un coup de pouce - Palantir (PLTR) et d'autres sociétés vendant des outils de supervision et de vérification de l'IA proposeraient leurs services comme assurance contre les litiges, entraînant potentiellement une hausse de 5 à 10 % si cette affaire déclenche une action réglementaire.