Grundlagen und Verfahren der sicheren und resiliente KI

Projekt IH-evrsKI

Dieser Bereich befasst sich mit den Grundlagen der Informatik im Rahmen sicherer und resilienter KI und konzipiert die Struktur und Modulpakete durch die der relevante Lehrstoff vermittelt wird.

Teilprojektleitung: Prof. Dr. Jan Jürjens, Prof. Dr. Ralf Lämmel, Prof. Dr. Andreas Mauthe, Dr. Henning Pätzold, JProf. Dr. Dennis Riehle

IT-Infrastruktur

Aus der Informatik werden Lerninhalte sowie Lehr- und Lernmethoden entwickelt, die Studierenden den Aufbau einer geeigneten IT-Infrastruktur vermitteln, welche für den Umgang mit großen Datenmengen mit Algorithmen künstlicher Intelligenz erforderlich ist.

Projektbeteiligte: Prof. Dr. Andreas Mauthe, Prof. Dr. Jan Jürjens, Prof. Dr. Ralf Lämmel, JProf. Dr. Dennis Riehle, Arnold Arz von Straußenburg, Alexander Rosenbaum, Sandra Wingender, Christopher Latz

Aufbereitung der Daten

Neben dem Erfassen und Integrieren von Daten aus verschiedenen Quellen (z.B. Sensordaten, Sekundärdaten etc.) spielt die Aufbereitung der Daten, das sog. Pre-Processing, eine wichtige Rolle, z.B. für die Erkennung von Mess- oder Übertragungsfehlern. Die hier erlangte Kompetenz zielt darauf ab zu erkennen, welche Daten als Eingabe für Algorithmen künstlicher Intelligenz verwendet werden. Die schließt insbesondere auch ethische Fragestellungen hinsichtlich personenbezogener Daten ein.

Projektbeteiligte: Prof. Dr. Andreas Mauthe, Prof. Dr. Jan Jürjens, Prof. Dr. Henning Pätzold, JProf. Dr. Dennis Riehle, Arnold Arz von Straußenburg, Alexander Rosenbaum, Sandra Wingender, Christopher Latz

Sichere Verfahren

KI-basierten Systeme können durch manipulierte Eingaben verfälscht werden oder die Systeme selbst können Angriffen ausgesetzt sein, durch die deren Einsatz gefährdet ist. Sichere Verfahren sind solche, die durch algorithmische, strukturelle und operationelle Methoden gegenüber Angriffen gehärtet und/oder geschützt sind. Innerhalb dieses Themenbereichs werden sich Studierende auf unterschiedlicher Weise mit Schwachstellen der KI auseinandersetzen, deren Auswirkungen untersuchen und Handlungsmöglichkeiten erarbeiten, um die KI-Verfahren und KI-basierten Systeme resilienter zu gestalten, einschließlich der Erarbeitung von Gegenmaßnahmen.

Projektbeteiligte: Prof. Dr. Andreas Mauthe, Christopher Latz, Alexander Rosenbaum

resiliente KI-basierte Systeme

Neben der Sicherheit und Resilienz der Algorithmen wird die Resilienz der Systeme untersucht. Hierbei werden Maßnahmen zur Verteidigung gegen und zum Schutz vor Angriffen innerhalb der Kurse thematisiert. Dies wird anhand von unterschiedlichen Anwendungsfeldern, z. B. Bildanalyse, Robotik, medizinischen Anwendungen und Industrie 4.0-Systemen, mit den Studierenden erarbeitet.

Projektbeteiligte: Prof. Dr. Andreas Mauthe, Christopher Latz, Alexander Rosenbaum

Herkunft

Die Lehrinhalte für den Kompetenzbereich beschäftigen sich mit den Herausforderungen zur Klärung bzw. Verfolgung der Herkunft von Daten bzw. Entscheidungen sowie den entsprechenden Techniken, welche Provenienz letztendlich unterstützen.

Projektbeteiligte: Prof. Dr. Jan Jürjens, Prof. Dr. Henning Pätzold, Prof. Dr. Ralf Lämmel, JProf. Dr. Dennis Riehle, Anna Wolters, Sandra Wingender

Konformität

In diesem Kompetenzbereich werden Themenblöcke zu Compliance (insbesondere zu Datenschutz- und Antidiskriminierungsregularien und Sicherheitsstandards) im Kontext der Anwendung von KI entwickelt. Die Lehrinhalte beschäftigen sich u. a. mit dem Hintergrund zu Governance Risk Compliance (GRC) und der EU Data Protection Regulation (DSGVO / GDPR), Ansätzen wie Security & Privacy by Design, die Einhaltung von Sicherheitsregularien während der Entwicklung von Software für KI (z. B. der Microsoft Security Development Lifecycle (SDL)), sowie Sicherheits- und Datenschutzprinzipien in Software-basierten Systemen. Ziel ist dabei die Reduktion der Angriffsoberfläche der KI-Software, um Angriffe und Manipulationen zu vermeiden und eine entsprechende Bedrohungsanalyse mit modellbasierten Ansätzen (DFDs, UMLsec).

Projektbeteiligte: Prof. Dr. Jan Jürjens, JProf. Dr. Dennis Riehle, Anna Wolters, Sandra Wingender

Erklärbarkeit und Belastbarkeit

Im Kontext von diesem Kompetenzbereich werden Themenblöcke zur Qualitätssicherung (insbesondere Erklärbarkeit und Belastbarkeit) im Kontext der Anwendung von KI entwickelt. Die Lehrinhalte beschäftigen sich u. a. mit der Belastbarkeit gegenüber Angriffen wie beispielsweise Meltdown & Spectre, Buffer Overflows, Integer-Arithmetik-Schwachstellen, unsichere Verwendung von Softwaresicherheitsmechanismen sowie mit dem Sicherheitstesten von KI-Software.

Projektbeteiligte: Prof. Dr. Jan Jürjens, Prof. Dr. Henning Pätzold, Sandra Wingender