Beschreibung: Der Begriff Foundation Model (seltener: Basismodell) umschreibt komplexe neuronale Netzwerke, die auf großen Datenmengen trainiert wurden und sich durch eine hohe Allgemeinheit und Vielseitigkeit ihrer Einsatzmöglichkeiten auszeichnen. Die Modelle haben zu diesem Zweck sehr viele (mehrere hundert Milliarden) Parameter, die im Rahmen des Trainings angelernt werden. In den Parametern ist das aus den Daten erworbene, implizite Wissen repräsentiert und stellt somit die Grundlage (Foundation) für weiterführende Anwendungsmöglichkeiten dar. Generative Foundation Models unterscheiden sich von bisherigen KI-Modellen darin, dass sie auf der Basis freier Eingaben (Prompts) komplexe Text-, Bild- oder Audio-Inhalte (oder eine Kombination davon) erzeugen und damit sehr vielseitig für komplexe Aufgaben eingesetzt werden können. Der initiale Trainingsaufwand solcher Modelle ist extrem hoch und somit zeit- und ressourcenintensiv.
Mit dem Paradigmenwechsel von meist unimodalen Modellen mit eng eingegrenzter Funktionalität hin zu generativen Modellen mit selbstüberwachtem Lernen riesiger multimodaler Datenmengen ist das Einsatzfeld der Technologie wesentlich erweitert worden. In diesem Zuge wird jedoch auch die Evaluation wesentlich komplexer. Während bei klassischen Regressions-, Klassifikations- und Strukturerkennungsaufgaben Messungen mittels quantitativer Ansätze möglich sind, werden bei komplexen generativen Aufgaben qualitative Ansätze unter Abdeckung multipler Eigenschaftsdimensionen notwendig. Probleme wie beispielsweise das Erfinden von Fakten und Quellen bei großen Sprachmodellen („Halluzinieren“), die Möglichkeit der manipulativen Herbeiführung nicht-intendierten Modellverhaltens (durch direkte oder indirekte Prompt Injection) , die Perpetuierung von Stereotypen aus den Trainingsdaten im Modelloutput (Bias) sowie die erforderliche hohe Rechenleistung auch für Inferenzen machen eine ganzheitliche Evaluierung umso notwendiger, wenn ein Einsatz in Teildomänen der inneren und äußeren Sicherheit angedacht ist. Bisherige Ansätze sind für eine Anwendung im deutschsprachigen Kontext und unter Berücksichtigung Sicherheitsdomänen-spezifischer Aufgabenstellungen nicht in ausreichendem Maß geeignet.
Ziel des Verfahrens ist vor diesem Hintergrund die Erbringung innovativer Forschungs- und Entwicklungsleistungen in einem wettbewerblichen Rahmen („Challenge“) zur holistischen Evaluation generativer Foundation Models im Sicherheitskontext.
Vergabestelle: Agentur für Innovation in der Cybersicherheit GmbH
Leistungen und Erzeugnisse: Forschungs- und Entwicklungsdienste und zugehörige Beratung
Ausschreibungsweite: EU-Mitgliedstaaten, Schweiz, NATO-Mitgliedsland oder NATO-Partner, insbesondere AP4 (Asien-Pazifik Partner – Südkorea, Japan, Australien und Neuseeland)
Vergabeverfahren: Vorkommerzielle Auftragsvergabe
Vergabeart: In Anlehnung an ein Verhandlungsverfahren mit Teilnahmewettbewerb
Frist für die Einreichung der Teilnahmeanträge + Skizze: 31.07.2025, 10:00 Uhr, über www.evergabe-online.de oder direkt https://ted.europa.eu/de/notice/-/detail/358520-2025
Erfüllungsort: Halle (Saale), Kreisfreie Stadt
Kontakt: nur über www.evergabe-online.de
Auftragsbekanntmachungsnummer TED: 358520-2025
CPV-Code: 73000000
Mehr Informationen zum Forschungsprogramm: https://www.cyberagentur.de/programme/hegemon/