Tribunal allemand : Google reconnu responsable d’allégations fausses dans des aperçus d’IA

Un tribunal allemand a statué que Google est responsable de fausses affirmations faites dans sa fonctionnalité d’IA Overviews, dans une affaire où deux éditeurs ont été incorrectement associés à des escroqueries et à des pratiques commerciales douteuses. La décision est intervenue après que Google n’a pas corrigé les résultats trompeurs, même après que les éditeurs lui ont adressé plus tôt cette année une lettre de mise en demeure. Le tribunal a distingué les AI Overviews des moteurs de recherche traditionnels, estimant que l’outil de Google formulait des déclarations indépendantes et substantielles fondées sur sa propre mauvaise interprétation des liens sur Internet, et comme seul Google peut corriger l’algorithme sous-jacent, l’entreprise doit être tenue responsable des affirmations erronées.

Un tribunal allemand distingue AI Overviews des résultats de recherche traditionnels

L’affaire, signalée par The Decoder, concernait deux éditeurs qui ont découvert que les AI Overviews de Google les reliaient à tort à des escroqueries et à des pratiques commerciales louches. L’IA de Google a produit des affirmations explicites comme « Oui, [it] est connu pour des pratiques commerciales douteuses et est souvent perçu comme une arnaque », portant atteinte à la réputation des éditeurs.

Google a tenté de se protéger contre toute responsabilité en soutenant que la plupart des utilisateurs comprennent que les sorties d’IA ne sont pas toujours exactes et doivent être vérifiées. Le tribunal a rejeté cette défense, estimant qu’à la différence des moteurs de recherche traditionnels qui se contentent de présenter des listes de liens vers des déclarations de tiers, l’outil de Google fait des « déclarations indépendantes, nouvelles et substantielles » fondées sur sa propre mauvaise interprétation des liens sur Internet.

Le tribunal a souligné que, bien que les éditeurs aient peut-être pu poursuivre des tiers pour des propos diffamatoires apparaissant dans les résultats de recherche de Google, seul Google peut corriger l’algorithme sous-jacent et les sorties affichées dans les AI Overviews. Le tribunal a jugé particulièrement faible l’argument de Google, car la synthèse IA en question « contient des affirmations qui n’apparaissent absolument pas dans les résultats de recherche ».

Le tribunal prononce une injonction temporaire contre Google

Le tribunal a émis une injonction temporaire empêchant Google de diffuser davantage ces affirmations fausses dans toute autre AI Overviews. La décision pourrait avoir des implications à l’échelle mondiale, car le tribunal semble être le premier à tenir une entreprise d’IA responsable des propos tenus par une IA.

Par le passé, les entreprises d’IA se sont appuyées sur des avertissements indiquant que les contenus diffusés pouvaient contenir des informations erronées afin de se protéger contre des poursuites pour des sorties peu fiables. L’an dernier, un fabricant de chatbot a fait valoir que les propos générés par l’IA constituent une catégorie à part de « discours pur » et devraient être protégés par le Premier Amendement.

FAQ

Que le tribunal allemand a-t-il décidé au sujet des AI Overviews de Google ?

Le tribunal allemand a statué que Google est responsable des fausses déclarations faites dans les AI Overviews. Le tribunal a estimé que l’outil d’IA de Google formulait des déclarations indépendantes et substantielles fondées sur sa propre mauvaise interprétation des liens sur Internet, le distinguant des moteurs de recherche traditionnels qui se contentent de présenter des listes de liens vers du contenu de tiers.

Pourquoi le tribunal a-t-il rejeté la défense de Google dans cette affaire ?

Le tribunal a rejeté l’argument de Google selon lequel les utilisateurs comprennent que les sorties d’IA doivent être vérifiées, car seul Google peut corriger l’algorithme sous-jacent et les sorties dans les AI Overviews. Le tribunal a également noté que les fausses affirmations dans la synthèse IA n’apparaissaient absolument pas dans les résultats de recherche, rendant la défense de Google particulièrement fragile.