Ziel des Forschungsprojekts REFRAME ist es, die Möglichkeiten und Grenzen sogenannter Foundation Models in der computergestützten Bilderkennung zu untersuchen und neue Methoden zur Verbesserung dieser Modelle zu entwickeln. Foundation Models bilden die Basis für viele KI-Anwendungen in der Bilderkennung. Sie werden anhand von Milliarden von Datensätzen aus dem Internet trainiert, etwa mit Bildern und dazugehörigen Beschreibungen, und können dadurch vielfältige Aufgaben bewältigen.

So bekommen diese Modelle ein breites Grundlagenwissen und entwickeln neue Fähigkeiten. „Sie sind aber mit so vielen Daten trainiert worden, dass wir nicht wissen, wo ihre Grenzen liegen – an welcher Stelle sie also nicht mehr funktionieren“, erklärt Dr. Matthias Rottmann, Nachwuchsgruppenleiter für zuverlässige und effiziente künstliche Intelligenz an der Bergischen Universität. Das werde vor allem dann ein Problem, wenn Bilderkennung dort eingesetzt wird, wo Zuverlässigkeit erforderlich ist, etwa bei Unfallvermeidungssystemen.

Neue Methoden zur Erkennung von Unsicherheiten in Foundation Models

Die Forschenden widmen sich daher den Fragen: Wie zuverlässig sind diese Modelle, wie gut lassen sie sich erklären, und wie können sie gezielt an spezifische Anforderungen angepasst werden? Das Team der Bergischen Universität Wuppertal unter der Leitung von Rottmann erforscht dabei neue Methoden zur Erkennung von Unsicherheiten in den Modellen. Außerdem untersuchen die Forschenden, inwieweit das Wissen der Modelle verallgemeinerbar ist.

Die Forschungsergebnisse sind besonders für sicherheitskritische Anwendungen wie in der Medizin, Robotik oder beim automatisierten Fahren von großer Bedeutung. „Das Projekt leistet damit einen wichtigen Beitrag zur Weiterentwicklung von Künstlicher Intelligenz und unterstützt die aktuellen Ziele der KI-Strategie der Bundesregierung“, so Matthias Rottmann.