- Status: Projektphase
Hintergrund
Die IT-Forensik beschreibt die Sicherung und Analyse von kriminalistisch relevanten Daten aus IT-Systemen mit wissenschaftlichen Methoden. Mithilfe der streng methodischen Datenanalyse werden Sachverhalte vor Gericht bewiesen. Auch im Anwendungskontext der künstlichen Intelligenz spielt die digitale Forensik eine entscheidende Rolle, sowohl für KI-Systeme in der privaten Verwendung als auch für vielfach vernetzte KI-Systeme in Unternehmen. Das Verständnis dafür, wann und warum sich weiterentwickelnde und selbst überschreibende KI-basierte Techniken versagen, muss daher durch eine Analyse mit forensischen Methodiken und Tools erweitert und verbessert werden.
Zielstellung
Das Forschungsprogramm „Forensik intelligenter Systeme“ adressiert die Erweiterung oder Erforschung von vorhandenen oder grundlegend neuen forensischen Vorgehensweisen und Werkzeugen unter der Berücksichtigung gesetzlicher Standards. Das Ziel ist dabei die Bereitstellung von proaktiven „Forensic Readiness“ und „Forensic-by-Design“-Methoden für den rechtlichen Nachweis von Manipulationen in sich weiterentwickelnden, selbstüberschreibenden KI-Systemen. Diese neuartigen und methodenorientierten Forschungsansätze für den rechtssicheren Nachweis von Fehlverhalten müssen transparent, fair und erklärbar sein. In Form von Inversions- und Evasionsangriffen sowie Data-Poisoning-Angriffen auf ein KI-System sollen die entwickelten Methodiken evaluiert und verbessert werden. Zu den Research Areas, die innerhalb des Programms adressiert werden, gehören die ‚Intelligente Textverarbeitung‘, ‚Intelligente Bild- und Videoverarbeitung‘ und die ‚Intelligenten Autonomen Systeme‘.
Disruptive Risikoforschung
Innerhalb der digitalen Forensik wird aktuell viel geforscht, wie KI-Systeme die innere und äußere Strafverfolgung, z. B. beim Verfassen von forensischen Gutachten, unterstützen können. Konkrete Forschungsvorhaben, die (Fehl-)Verhalten Künstlicher Intelligenz konform zu juristischen Regulatorien forensisch nachvollziehbar macht, existieren kaum. Das Programm besitzt somit einen innovativen und disruptiven Charakter. Daher wurden nach umfangreicher Prüfung und intensiven Verhandlungsrunden jeweils ein Auftragnehmender für die drei Research Areas ausgewählt.
- Projekt ‚Intelligent Security Inspection of Data using forensic Extraction and Analysis (INSIDE)’ der Technischen Hochschule Mannheim
- Projekt ‚Entwicklung forensischer Methoden zur rechtssicheren Auditierung von Systemen mit Künstlicher Intelligenz (EMAS-KI)’ der Atos Information Technology GmbH
- Projekt ‚Forensische Methoden von AI-Systemen in der Mobilitätsindustrie (FORAImobility)’ der ZF Friedrichshafen AG