Künstliche Intelligenz (KI) steckt unter anderem in Verkehrssystemen, in der Luft- und Raumfahrt sowie in der Energieversorgung. Sie gehört längst zum Alltag moderner Gesellschaften – je stärker die Digitalisierung voranschreitet, umso wichtiger wird die KI: Sie muss sicher und nachvollziehbar sein. Um die Forschung und Entwicklung in diesem Bereich zu stärken, hat das Deutsche Zentrum für Luft- und Raumfahrt (DLR) das Institut für KI-Sicherheit gegründet. Das DLR-Institut wurde jetzt mit den beiden Standorten Ulm und Sankt Augustin offiziell eröffnet.
„Künstliche Intelligenz ist eine der bedeutendsten Zukunftstechnologien der Digitalisierung. Das DLR ist selbst Vorreiter beim Einsatz neuster KI-Verfahren und Methoden in seinen Kernbereichen Luftfahrt, Raumfahrt, Energie, Verkehr und Sicherheit“, sagt Prof. Dr.-Ing. Anke Kaysser-Pyzalla, Vorstandsvorsitzende des DLR. „Das Thema hat eine hohe Bedeutung für die Forschung und deren Anwendung in Wirtschaft und Gesellschaft. Ein Schwerpunkt des DLR-Instituts für KI-Sicherheit ist deswegen die Gewährleistung von Betriebs- und Angriffssicherheit für KI-basierte Lösungen.“ Zur sicherheitskritischen KI-Forschung und Anwendung zählen auch die Organisation, Verarbeitung und Speicherung sowie der Austausch sensibler Daten.
„Leistungsfähigkeit und Stabilität unserer Volkswirtschaft hängen zunehmend davon ab, dass KI-getriebene Infrastrukturen jederzeit absolut zuverlässig funktionieren“, betont Dr. Anna Christmann, Koordinatorin der Bundesregierung für Luft- und Raumfahrt und Beauftragte des Bundesministerium für Wirtschaft und Klimaschutz (BMWK) für Start-ups und digitale Wirtschaft. „Dafür braucht es ein gutes Ineinandergreifen von exzellenter Forschung, einer leistungsfähigen wissenschaftlichen Infrastruktur, innovativer Start-ups und etablierten Unternehmen. Das DLR ist mit seiner anerkannten Kompetenz sehr gut aufgestellt, gemeinsam mit Partnern aus Industrie und Wissenschaft, die vor uns liegenden Herausforderungen mitzugestalten.“
Am Standort Ulm arbeiten die Forschenden mit dem Schwerpunkt „KI Safety”. Hier sind vor allem die Fehlerfreiheit und Betriebssicherheit von Interesse. Im Forschungsfeld KI Engineering werden Bewertungs- und Testverfahren mit einem ingenieurwissenschaftlichen Hintergrund entwickelt. Ein Beispiel hierfür ist die KI-basierte Umgebungserfassung, die eine Basis unter anderem für das automatisierte Fahren bildet. Außerdem geht es um die Zusammenarbeit von Mensch und KI: Wie können Menschen mit kontinuierlich lernenden und umfassend automatisierten Systemen kooperieren? Wie wird eine KI erfolgreich trainiert? Die Wissenschaftlerinnen und Wissenschaftler entwickeln zuverlässige Soft- und Hardware-Umgebungen zur effizienten Ausführung von KI-Komponenten. Neben weiteren innovativen Rechenmethoden wird der Einsatz von Quantencomputern als Grundlage für das Quanten Machine Learning in Ulm erforscht. Bis zu 75 Mitarbeitende werden am Standort tätig sein.
„Das DLR-Institut für KI-Sicherheit ist eine wesentliche Säule in unserer Landesstrategie, die Anwendungen der Künstlichen Intelligenz und des Quantencomputings aus der Forschung in die industrielle Anwendung zu bringen. Mit der Erforschung und Entwicklung von sicheren KI-Technologien und Systemen unterstützt das Institut die Mobilitäts- und Investitionsgüterindustrie im Land. Der DLR Campus in Ulm ist ein idealer Innovationsraum für die Wissenschaftlerinnen und Wissenschaftler des Instituts“, sagt Dr. Nicole Hoffmeister-Kraut, Ministerin für Wirtschaft, Arbeit und Tourismus des Landes Baden-Württemberg. Das DLR-Institut für KI-Sicherheit befindet sich in unmittelbarer Nähe der DLR-Institute für Technische Thermodynamik und für Quantentechnologien.
Schutzwürdige Daten sicher verarbeiten.
Das DLR-Institut für KI-Sicherheit setzt stark auf die industrielle Praxis und vernetzte Datenräume – zum Beispiel in der Mobilität. Deswegen koordiniert das Institut die Projektfamilie GAIA-X 4 Future Mobility, die mehr als 80 Beteiligte aus Forschung und Industrie zusammenbringt. Hier geht es insbesondere um die Entwicklung von digitalen Diensten und Produkten, bei denen der sichere Austausch von Daten zwischen Nutzern, Dienstleistern, Herstellern und Zulieferern im Zentrum steht. GAIA-X ist eine europäische Initiative, die die rechtlichen und strukturellen Grundlagen für ein dezentrales digitales Ökosystem entwickelt.
Zusätzlich ist das DLR-Institut für KI-Sicherheit im Forschungsprojekt Catena-X aktiv. Hier etablieren Akteure aus der Automobilindustrie einen standardisierten globalen Datentausch und Dienste auf der Basis europäischer Werte. Das entstehende Ökosystem und die zugehörigen Dienste sind ein wichtiger Anwendungsrahmen für KI.
Angriffs- und Betriebssicherheit als Kernqualität
Was Datensouveränität praktisch bedeutet und wie mit GAIA-X gearbeitet wird, zeigten die Teilnehmenden bei der hybriden Eröffnungsveranstaltung: Ein Fahrzeug sammelt im Betrieb Daten, die mit Algorithmen sicher ausgewertet und über GAIA-X online wieder zur Verfügung gestellt werden. Wegen des Compute-to-Data-Ansatzes verlassen sensible Daten das Fahrzeug nicht und die Ergebnisse können im Fahrzeug abgerufen werden.
Eine weitere Demonstration präsentierte das Zusammenspiel von Mensch und Maschine. Ein Roboter umfuhr vor der Bühne autonom Hindernisse und reagierte spontan auf Ereignisse. Das Institut erforscht die Prinzipien solcher Mensch-Maschine-Interaktionen, wobei stets komplexe und kontinuierlich lernende sicherheitskritische Systeme im Mittelpunkt stehen.
„Safety and Security by Design ist für uns bei der Entwicklung von Algorithmen ein prägendes Konzept. Das bedeutet, Angriffs- und Betriebssicherheit von Beginn an und über den kompletten Prozess als essenzielle Kernqualität mitzudenken“, erklärt Prof. Frank Köster, Gründungsdirektor des DLR-Instituts für KI-Sicherheit. „Dies ist für uns unverzichtbar, da wir im DLR vorrangig für ambitionierte KI-basierte Anwendungen forschen.“
