KI braucht Sicherheit von Anfang an
Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) bringt ihre Expertise in das neue Bitkom-Papier „From Principles to Practice“ ein. Der Beitrag von Syrko Kulas und Philippe Krajsic zeigt, dass vertrauenswürdige KI nicht durch Einzelmaßnahmen erreicht wird. Generative und agentische Systeme erfordern vielmehr einen ganzheitlichen Ansatz, da Risiken über den gesamten Lebenszyklus entstehen und sich dynamisch verändern.
Die Cyberagentur ist mit einem Fachbeitrag im neuen Bitkom-Papier „From Principles to Practice: Implementing Trustworthy & Responsible AI in the dimensions Security, Explainability, Fairness“ vertreten. Syrko Kulas und Philippe Krajsic, Forschungsreferenten in der Abteilung Schlüsseltechnologien der Cyberagentur, haben Inhalte zum Kapitel „Security“ beigetragen. Das Whitepaper liefert praxisnahe Leitlinien für Unternehmen und richtet sich an Entscheider, Entwickler sowie Governance- und Compliance-Verantwortliche. Es zeigt, wie regulatorische Anforderungen in konkrete Maßnahmen übersetzt und KI-Systeme sicher, fair, nachvollziehbar und nachhaltig betrieben werden können.
Der Beitrag der Cyberagentur: KI-Systeme eröffnen entlang ihres gesamten Lebenszyklus neue Angriffsflächen – von manipulierten Trainingsdaten über unsichere Lieferketten bis hin zu Angriffen im Betrieb. Besonders kritisch sind Prompt-Injections und Jailbreaks sowie Risiken wie Datenvergiftung, Datenlecks und Modell-Extraktion, verstärkt durch externe Datenquellen und APIs. Diese Bedrohungen lassen sich nur durch ganzheitliche Sicherheitsstrategien, kontinuierliches Monitoring und zentrale Governance wirksam begrenzen.
„Mit jeder neuen Fähigkeit von KI wächst nicht nur ihr Nutzen, sondern auch die Angriffsfläche: Sicherheit muss daher genauso dynamisch sein wie die Systeme selbst und ganzheitlich gedacht werden.“, sagt Syrko Kulas, Forschungsreferent in der Abteilung Schlüsseltechnologien der Cyberagentur. „Gerade agentenbasierte KI-Systeme müssen von Beginn an als sicherheitskritische Systeme betrachtet werden, weil sie nicht nur Empfehlungen ausgeben, sondern operative Handlungen auslösen können.“
Ein zentrales Anliegen ist der Wechsel von punktuellen Schutzmaßnahmen hin zu einer systemischen Sicherheitsarchitektur. Einzelne Tools reichen nicht aus – erforderlich sind integrierte Konzepte mit Zero-Trust-Prinzipien, minimalen Zugriffsrechten, kontinuierlicher Überwachung sowie klaren Eskalationsmechanismen.
„KI-Sicherheit ist keine Eigenschaft, die man einmal prüft und dann abhakt. Sie ist eine dauerhafte Kontrollaufgabe über den gesamten Lebenszyklus eines Systems“, sagt Philippe Krajsic, Forschungsreferent in der Abteilung Schlüsseltechnologien der Cyberagentur. „Entscheidend ist, Risiken nicht isoliert zu betrachten, sondern ihre Wechselwirkungen im Gesamtsystem zu verstehen.“
Im Bitkom-Papier wird Security als eine von drei zentralen Dimensionen vertrauenswürdiger KI neben Erklärbarkeit und Fairness eingeordnet. Für die Cyberagentur ist die Security-Perspektive dabei eine Grundvoraussetzung: Nur wenn KI-Systeme gegen gezielte Manipulationen, Datenverfälschung, Modellmissbrauch und unkontrollierte Systemwirkungen abgesichert sind, können sie belastbar in Wirtschaft, Verwaltung und sicherheitsrelevanten Anwendungen eingesetzt werden.
Mit ihrem Beitrag unterstreicht die Cyberagentur ihre Rolle an der Schnittstelle von Sicherheitsforschung, technologischer Vorausschau und digitaler Souveränität – und die Bedeutung sicherer KI als strategische Voraussetzung für die Zukunft.