Hintergrund
Die IT-Forensik beschreibt die Sicherung und Analyse von Daten aus IT-Systemen mit wissenschaftlichen Methoden. Mithilfe der streng methodischen Datenanalyse werden Sachverhalte vor Gericht bewiesen. Die digitale Forensik spielt im Anwendungskontext künstliche Intelligenz ebenfalls eine entscheidende Rolle, da neben der privaten Verwendung KI-Systeme auch in Unternehmen vielfach vernetzt eingesetzt werden. Das Verständnis dafür, wann und warum sich weiterentwickelnde und selbst überschreibende KI-basierte Techniken versagen, muss daher mit forensischen Methodiken und Tools analysiert und verbessert werden.
Zielstellung
Das Forschungsprojekt „Forensik intelligenter Systeme“ adressiert die Erforschung von vorhandenen oder grundlegend neuen forensischen Vorgehensweisen, Werkzeugen und gesetzlicher Standards. Das Ziel ist dabei die Bereitstellung von proaktiven „Forensic Readiness“ und „Forensic-by-Design“-Methoden für den rechtlichen Nachweis von Manipulationen in sich weiterentwickelnden, selbstüberschreibenden KI-Systemen. Diese neuartigen und methodenorientierten Forschungsansätze für den rechtssicheren Nachweis von Fehlverhalten müssen transparent, fair und erklärbar sein. In Form von Inversions- und Evasionsangriffen sowie Data Poisoning Angriffen auf ein KI-System sollen die entwickelten Methodiken evaluiert und verbessert werden. Zu den Schwerpunktthemen, die innerhalb des Projektes adressiert werden, gehören die Bildverarbeitung, die Textverarbeitung und die autonomen Systeme, wobei hier der Fokus bei dem autonomen Fahren sowie deren Sensorik liegt.
Disruptive Risikoforschung
Der Anwendungsbereich der IT-Forensik in KI weist keine bis kaum vergleichbare Forschungsvorhaben auf. Das Forschungsvorhaben besitzt eine hohe rechtstaatliche, gesellschaftliche und wirtschaftliche Relevanz bei gleichzeitig hohem technisch-wissenschaftlichem Risiko. Bei Erfolg nimmt Deutschland eine weltweite Führungsposition in Wirtschaft und Gesellschaft ein.
Abteilung und Referat
Sichere Gesellschaft, Cyberbefähigter Staat
Kontakt
it-forensik [@] cyberagentur.de
Veröffentlichungen
Immer uptodate? Abonnieren Sie unseren wissenschaftlichen Newsletter, dann erfahren Sie schnell, welche Ausschreibungen wir gerade aktuell veröffentlicht haben sowie weitere interessante Informationen aus dem Bereich Forschung und Innovation.
Besuchen Sie auch unserer Karriereseiten, um mehr über offene Stellenangebote oder Angebote für Studierende zu erfahren.