Zoltán Mann erforscht, wie digitale Systeme leistungsfähig und zugleich sicher sein können

Der Mann für die Abwehr

In der Medizin, im Journalismus, in der Automobilbranche, der Strafverfolgung oder im Finanzwesen: Es gibt vermutlich keinen Bereich, in dem derzeit nicht über den Einfluss von künstlicher Intelligenz (KI) diskutiert wird. Viele Daten sind hochsensibel, Patienteninformationen oder Rechtsgutachten beispielsweise - eine Weiterleitung über das Netz ist mit Risiken behaftet. Und trotzdem passiert das stündlich tausendfach. Umso wichtiger ist es, digitale Systeme gegen Angriffe zu sichern.

Prof. Dr. Zoltán Mann beschäftigt sich seit vielen Jahren damit, wie Netzwerke, Programme und Daten vor Diebstahl, Beschädigung oder unerlaubtem Zugriff geschützt werden können. "Früher war Hacken ein schwieriger 'Beruf', für den man jahrelang lernen musste. Mithilfe von KI kann heute jedoch fast jede Person zum Hacker werden. Angriffe, die früher Wochen gedauert haben, dauern jetzt nur noch Stunden", betont der Professor für Informatik an der Universität Münster.

Wie folgenschwer solche Angriffe sein können, erlebte die Universität Duisburg-Essen im Jahr 2022. Ein Ransomware-Angriff legte den kompletten Hochschulbetrieb für mehrere Monate lahm. Dabei handelt es sich um eine Schadsoftware, die Computersysteme infiziert und Daten verschlüsselt - Ziel ist es häufig, Geld zu erpressen. Neben dem finanziellen Schaden hinterlässt ein solcher Angriff bei vielen Betroffenen Stress, Ohnmacht und Existenzängste.

Bei einem Cyberangriff dieser Größenordnung sei die Verteidigung besonders schwierig und hänge mit der architektonischen Beschaffenheit sowie den organisatorischen Strukturen zusammen. "Den Angreifern stehen Millionen potenzieller Einfallstore zur Verfügung. Es muss nur eine Person getäuscht werden, damit eine Schadsoftware ins System gelangt", erklärt der Experte. Daher forscht Zoltán Mann mit seiner Arbeitsgruppe "Secure Intelligent Distributed Systems" daran, Verteidigungsmechanismen so zu gestalten, dass sie mit möglichst wenig menschlichem Aufwand auskommen und viele Prozesse automatisieren. Dabei gebe es aber eine besondere Schwierigkeit: Man überlässt "dem System" die Entscheidung darüber, ob ungewöhnliche Ereignisse im Computersystem auf einen Angriff hindeuten oder ob es dafür legitime Gründe gibt. Mit hundertprozentiger Sicherheit sei das nicht möglich. "Wenn ein solcher Automatismus zu eifrig ist, kann er auch bei legitimer Nutzung zuschlagen und damit Ärger verursachen. Ist er hingegen zu 'lax', lässt er vielleicht Angriffe durch."

Neben Angriffen auf IT-Systeme befasst sich der Wissenschaftler mit Sicherheitsproblemen bei der Nutzung von KI. Bereits an seinen vorherigen Forschungsstätten in Essen, Amsterdam und Halle gehörte der Schutz sensibler Daten zu seinen Aufgaben. Datenschutz ist sowohl beim Training als auch bei der Nutzung von KI-Modellen ein kritisches Thema. Neben dem Datenschutz umfasst die Sicherheit von KI den Schutz vor Manipulationsversuchen, bei denen ein Angreifer die Ausgabe der KI gezielt verfälscht. Selbst ohne solche Angriffe seien die heutigen KI-Systeme anfällig dafür, falsche Ausgaben zu produzieren. Man spricht in diesem Zusammenhang von "Halluzinationen", doch dieser Begriff wird von vielen KI-Experten und Sprachwissenschaftlern kritisiert. "In meinen Augen ist das Schönfärberei. Eigentlich müsste man das Lügen nennen, denn KI-Systeme erfinden falsche Aussagen", betont der 48-Jährige. "Das ist vielen Menschen immer noch nicht klar."

Trotz aller Kritik und Warnungen bestreitet Zoltán Mann nicht, dass die Technik vieles leistet. In gewisser Weise demokratisiert KI den Zugang zu Informationen. "Jeder kann Fragen an Chatbots stellen und hat plötzlich Zugriff auf das Wissen der Menschheit. Das ist großartig." Dies gelte allerdings nur für Menschen, die Zugriff auf eine entsprechende Technik und das Internet haben. So gesehen, trage KI zum sogenannten "digital divide" bei, also zur wachsenden Kluft zwischen Menschen mit und ohne digitalen Zugang. "Es gibt viele Chancen, aber die Risiken sind größer", lautet Zoltán Manns nüchterne Bilanz.

Der gebürtige Ungar interessiert sich seit seiner Jugend für Computer und Informatik. Umso mehr freut es ihn, dass er heute an Lösungen zum Schutz sensibler Daten mitarbeitet. Die grundlegenden Werkzeuge dafür existieren schon. "In vielen Bereichen gibt es bereits kryptografische Protokolle, die die Daten im Prinzip schützen können. Aber diese Technologien sind noch nicht ausgereift", erklärt er. Ein Grund dafür ist, dass die Verfahren die Verarbeitung bislang stark verlangsamen. Doch damit allein ist es nicht getan. Bei Cyberangriffen kommt es nicht nur darauf an, welche Sicherheitsmaßnahmen ein Unternehmen ergreift, sondern auch darauf, wie schnell diese greifen. In seiner Forschung entwickelt Zoltán Mann ein Modell, das diese zeitliche Dimension berücksichtigt. Angriff und Abwehr laufen parallel - eine Schutzmaßnahme kann zwar grundsätzlich wirksam sein, aber dennoch zu spät kommen. Mithilfe eines eigens entwickelten Simulators lassen sich solche Szenarien durchspielen und unterschiedliche Angriffs- und Verteidigungsstrategien vergleichen.

Und was rät der Sicherheitsforscher all jenen, die täglich mit KI zu tun haben? Seine Antwort ist so einfach wie eindringlich: "Der Output liefert keine gesicherten Fakten. Hinterfragen Sie das Ergebnis und begreifen es niemals als Wahrheit."

Autorin: Kathrin Kottke

Dieser Artikel stammt aus der Unizeitung wissen|leben Nr. 6, 7. Oktober 2026.

Links zu dieser Meldung

• Die Oktober-Ausgabe der Unizeitung als PDF
• Alle Ausgaben der Unizeitung auf einen Blick
• Arbeitsgruppe "Secure Intelligent Distributed Systems" (Z. Mann)