Vertrauen

Vertrauenskonzepte für und mit KI

Eine Anwendung von KI-Technologien setzt Vertrauen in diese voraus. Damit die Potenziale von Künstlicher Intelligenz nutzbar werden, muss diese nicht nur erklärbar, sondern ebenso zuverlässig und sicher sein.
 

Im Forschungsschwerpunkt »Vertrauen« beschäftigen wir uns mit folgenden Themenbereichen:

  • Zuverlässige und vertrauensvolle KI
  • Erklärbarkeit und Verifikation
  • Zertifizierung und Konformitätsprüfung
  • KI-Einführungs- und Transformationsprozesse
  • IT-Sicherheit 

Im Fokus unserer derzeitigen Arbeiten stehen folgende Aspekte

Realisierung vertrauensvoller KI

Wie lässt sich Vertrauen in ein KI-System technisch realisieren und quantifizieren?

Einsatz von Erklärbarkeits- und Verifikationsmethoden

Wie lassen sich Methoden der Erklärbarkeit und Verifikation entlang der verschiedenen Stufen der ML-Pipeline einsetzen, um Daten und Modell entwickeln und verbessern zu können?

Herausforderungen in der Praxis

Welche spezifischen Herausforderungen stellen sich bei der Einführung und beim Betrieb von KI-Lösungen im Unternehmen und wie können Mitarbeiterinnen und Mitarbeiter von Beginn an in den Transformationsprozess eingebunden werden?

Bringen Sie gerne Ihre eigenen Fragestellungen ein und lassen Sie uns gemeinsam forschen.

Referenzen und weitere Informationen

 

Hardware-agnostische Sicherheitsmechanismen für Software

 

KI-Use Cases für die h-aero® Plattform

 

Weitere Referenzen