Vertrauen

Vertrauenskonzepte für und mit KI

Eine Anwendung von KI-Technologien setzt Vertrauen in diese voraus. Damit die Potenziale von Künstlicher Intelligenz nutzbar werden, muss diese nicht nur erklärbar, sondern ebenso zuverlässig und sicher sein.

Im Forschungsschwerpunkt »Vertrauen« beschäftigen wir uns mit folgenden Themenbereichen:

Zuverlässige und vertrauensvolle KI
Erklärbarkeit und Verifikation
Zertifizierung und Konformitätsprüfung
KI-Einführungs- und Transformationsprozesse
IT-Sicherheit

Im Fokus unserer derzeitigen Arbeiten stehen folgende Aspekte

Wie lässt sich Vertrauen in ein KI-System technisch realisieren und quantifizieren?

Konkrete Informationen dazu z.B. in dieser Studie:

Zuverlässige KI

Wie lassen sich Methoden der Erklärbarkeit und Verifikation entlang der verschiedenen Stufen der ML-Pipeline einsetzen, um Daten und Modell entwickeln und verbessern zu können?

Konkrete Informationen dazu zu z.B. in dieser Studie:

Erklärbare KI in der Praxis

Auswahl entwickelter Lösungen in den Projekten des KI-Fortschrittszentrums:

Welche spezifischen Herausforderungen stellen sich bei der Einführung und beim Betrieb von KI-Lösungen im Unternehmen und wie können Mitarbeiterinnen und Mitarbeiter von Beginn an in den Transformationsprozess eingebunden werden?

Konkrete Informationen dazu z.B. bei dieser Technologie: