11/16/2026 | News release | Distributed by Public on 11/16/2026 06:13
Mit einem neuen "Digitale Medien-Staatsvertrag" wollen die Bundesländer unter anderem KI-Systeme stärker regulieren und Desinformation bekämpfen. Die Gesellschaft für Informatik e.V. und das Common Grounds Forum begrüßen das Vorhaben, warnen in ihrer gemeinsamen Stellungnahme jedoch vor technischen Fallstricken.
Die Gesellschaft für Informatik e.V. (GI) und das Jugendbeteiligungsprojekt Common Grounds Forum (CGF) haben eine gemeinsame Stellungnahme zum Diskussionsentwurf der Bundesländer für einen Digitalen Medien-Staatsvertrag (DMStV) vorgelegt. Beide Organisationen begrüßen das Vorhaben, die bundesweite Medienregulierung an aktuelle technologische und gesellschaftliche Entwicklungen anzupassen. Insbesondere die zunehmende Verbreitung und Leistungsfähigkeit moderner KI-Systeme stellt die Medienregulierung vor neue und komplexe Herausforderungen.
Prof. Dr. Martin Wolf, Präsident der Gesellschaft für Informatik: "Dass die Bundesländer mit diesem Reformentwurf auch die Regulierung von KI-Systemen medienrechtlich angehen wollen, ist richtig und überfällig. Diese Tools veränderngrundlegend, wie wir Informationen im Alltag suchen, erhalten und bewerten. Ihr Einfluss auf die öffentliche Meinungsbildung ist in den letzten Jahren enorm gewachsen und wird auch in Zukunft eine immer größere Rolle spielen. Regulierung darf aber nicht nur auf dem Papier funktionieren, sondern muss auch technisch umsetzbar und überprüfbar sein. Hier sehen wir noch Nachbesserungsbedarf."
Warnung vor Scheinsicherheit durch Wahrheitswahrscheinlichkeiten
Kritisch sehen GI und CGF beispielsweise die geplante Pflicht, die Richtigkeit KI-generierter Nachrichten und politischer Informationen mit Prozentwerten zu beziffern. Jonas Klein, Informatiker und Mitglied des Common Grounds Forums: "Die Richtigkeit politischer Informationen lässt sich nicht einfach auf einen Prozentwert reduzieren. Dafür fehlen bislang verlässliche technische Verfahren. Solche Angaben könnten eine trügerische Sicherheit vermitteln, zudem köntnen auch sachlich richtige Aussagen durch fehlenden Kontext irreführend sein. Stattdessen brauchen wir mehr Transparenz über verwendete Quellen und bestehende Unsicherheiten."
Einen weiteren Schwerpunkt bildet die Gefahr gezielter Manipulation von KI-Systemen durch Desinformationskampagnen. Beim sogenannten LLM Grooming werden große Mengen manipulierter oder falscher Informationen im Internet verbreitet, um die Antworten von KI-Systemen zu beeinflussen. Untersuchungen haben gezeigt, dass solche Methoden bereits im Rahmen russischer Desinformationskampagnen eingesetzt werden.
Dr. Veronika Solopova, Junior-Fellow der GI und Desinformationsforscherin an der TU Berlin erklärt dazu: "Desinformationskampagnen zielen längst nicht mehr nur direkt auf Menschen ab. Zunehmend werden auch KI-Systeme gezielt mit falschen Informationen gefüttert, um ihre Antworten zu beeinflussen. Das ist ein Problem, das wir bei der Regulierung stärker in den Blick nehmen müssen. Gleichzeitig sollten wir klären, wie sich solche Manipulationsversuche technisch erkennen und verhindern lassen."
Die Stellungnahme befasst sich darüber hinaus mit neuen geplanten Transparenzpflichten für KI-Anbieter, der Berücksichtigung journalistischer Inhalte in Empfehlungssystemen sowie der technischen Umsetzbarkeit neuer Vorgaben für Open-Source-Betriebssysteme und Softwareplattformen.
Den vollständigen Text finden Sie hier.
Über die Gesellschaft für Informatik e.V. (GI)
Die Gesellschaft für Informatik e.V. (GI) ist die größte Fachgesellschaft für Informatik im deutschsprachigen Raum. Seit 1969 vertritt sie die Interessen der Informatikerinnen und Informatiker in Wissenschaft, Gesellschaft und Politik und setzt sich für eine gemeinwohlorientierte Digitalisierung ein. Mit 14 Fachbereichen, über 30 aktiven Regionalgruppen und unzähligen Fachgruppen ist die GI Plattform und Sprachrohr für alle Disziplinen in der Informatik. Weitere Informationen finden Sie unter www.gi.de.
Über das Common Grounds Forum
Das Common Grounds Forum (CGF) ist ein interdisziplinäres Jugendbeteiligungsprojekt der Gesellschaft für Informatik, das die Perspektiven junger Menschen in politische Debatten einbringt. Seit 2023 entwickelt das Netzwerk mit rund 100 jungen Menschen konkrete Positionen und Handlungsempfehlungen zu gesellschaftlichen Zukunftsfragen in den Bereichen Digitalisierung, Soziales, Ökologie und Bildung. Ziel ist es, die politische Mitgestaltung der jungen Generation zu stärken.
Weitere Informationen: www.common-grounds-forum.org