Le principe d'irresponsabilité des outils d'IA générative se fissurent : la justice allemande rend une décision salutaire contre Google et pour l’information fiable

Le principe d'irresponsabilité des outils d'IA générative commence à se fissurer. Le tribunal de Munich a rendu une décision forte : oui, Google peut être tenu responsable des résumés produits par AI Overviews, la fonctionnalité de résumé par IA des résultats de son moteur de recherche. Une première mondiale.

L'IA de Google avait associé les plaignants, deux éditeurs munichois de livres et de magazines, anonymisés dans la décision finale, à des pratiques commerciales douteuses et à des pratiques commerciales interdites, comme le recours à des pièges à abonnement, c'est-à-dire l'incitation à recourir à des abonnements payants à l'insu de ses clients. Or, selon la cour, les liens affichés par Google ne permettaient pas d'étayer les propos formulés par l'AI Overview.

La liberté d'expression ne protège pas de tout

Fait notable, le tribunal a pris le temps d'étudier la liberté d'expression dont Google pouvait en principe se prévaloir en pareilles circonstances. Sa conclusion est que la liberté d'expression a un poids limité dans ce dossier : l'énoncé litigieux est principalement le résultat d'un algorithme et d'une activité commerciale, non l'expression d'une conviction humaine. Puisque les propos ont été générés de manière autonome par une IA intégrée au service de Google, ils sont plus qu'une simple recherche de termes affichée sous la forme d'une série de liens. Ils forment une réponse propre.

Le tribunal a également rejeté l'idée que les internautes seraient en mesure de vérifier eux-mêmes l'exactitude des résumés en consultant les sources citées : ces résumés générés par IA se présentent comme des affirmations, ce qui rapproche leur statut de celui d'un titre lu par une lecteur pressé, par exemple, dont un média est responsable même si le public ne prend pas la peine de vérifier ces affirmations en cliquant sur un lien.

Construire le cadre de responsabilité

Google a annoncé faire appel et la décision pourrait être revue. D'autre part, son champ d'application reste limité au cas particulier qu'elle traite. Elle porte néanmoins en ses germes un besoin pressant : celui d'édicter clairement qui parle quand une IA génère du texte, particulièrement dans un contexte d'information, et donc qui est responsable de ses dysfonctionnements, ainsi que les mesures qu'il convient de prendre pour en atténuer les risques.

En Europe, si le le règlement sur les services numériques, le DSA, impose aux très grandes plateformes d'évaluer leurs risques systémiques et si le règlement sur l'intelligence artificielle, l'AI Act, prévoit des obligations de transparence pour les contenus générés par IA, ce qui est le cas pour AI Overview, l'état actuel du droit européen est insuffisant. Aucun de ces textes n'établit de cadre de responsabilité adapté au cas spécifique des résumés informationnels produits par les systèmes d'IA générative dans les moteurs de recherche.

Lire aussi : IA et journalisme