Künstliche Intelligenz ist eine Schlüsseltechnologie in vielen Anwendungsfällen. Sie wird beispielsweise zur Umfeldwahrnehmung für Roboter oder für Fahrzeuge verwendet. Dabei macht die KI auf Grundlage eines Kamerabildes eine sogenannte Vorhersage, wo sich Objekte in einer gegebenen Szene befinden. Dabei macht die Künstliche Intelligenz jedoch Fehler. Sie übersieht Objekte oder macht Falschanzeigen. Ihr Einsatz benötigt daher oftmals eine höhere Vorhersage-Sicherheit. Insbesondere in sicherheitsrelevanten Anwendungen wie dem automatisierten Fahren oder der medizinischen Bildverarbeitung ist die bessere Abschätzung von Unsicherheit von KI ein wichtiger Faktor, der ihre Anwendung überhaupt erst möglich macht.

„Für komplexere Aufgabenstellungen liefert eine KI im Allgemeinen keine Angaben zur Unsicherheit der Vorhersagen. In einigen Anwendungsfällen hat sich auch gezeigt, dass eine KI Falschaussagen mit vermeintlich hoher Sicherheit macht, beispielweise wenn sie auf unbekannte Objekte trifft. Die Auswertung von Falschaussagen einer KI kann jedoch auch durch Fehler in der Datenbasis verfälscht werden. KI-Modelle sind daher auf viele qualitativ hochwertige Daten angewiesen – dies führt zu hohen Kosten in der Datengenerierung“, fasst Dr. Rottmann die Ausgangslage zusammen. Hier setzt das Projekt „UnrEAL“ (Unsicherheitsquantifizierung und Effiziente Annotationsprozesse für Deep Learning) an. Die Forscher*innen entwickeln Methoden, um die Unsicherheit von KI zu erkennen und zu verbessern und schließlich auch die Datengenerierung effizienter zu gestalten. Dafür werden sie zunächst Methoden zur Erkennung von Unsicherheiten, zur Erkennung von Fehlern in der Datenbasis sowie zum Lernen mit nur wenig menschlichem Feedback entwickeln.

Die Ergebnisse sollen künftig dabei helfen, Datenbasen für KI kostengünstiger und gleichzeitig von höherer Qualität aufzubauen.

Um junge Wissenschaftler*innen in der KI-Forschung zu stärken, fördern das Bundesministerium für Bildung und Forschung (BMBF) und die Deutsche Forschungsgemeinschaft (DFG) deutschlandweit 56 Nachwuchsgruppen. Im Fokus der Nachwuchsgruppen stehen inhaltlich neuartige und innovative KI-Themen. Die Wuppertaler Wissenschaftler*innen erhalten für ihr Vorhaben für die kommenden drei Jahre eine Förderung in Höhe von rund 780.000 Euro.

Kontakt:
Dr. Matthias Rottmann
Fakultät für Mathematik und Naturwissenschaften
E-Mail rottmann@math.uni-wuppertal.de
Telefon 0202/439 1706