Bamberger Zentrum für KI
Vertrauenswürdige Künstliche Intelligenz: Wie Mensch und KI gut zusammenarbeiten können
Aktuelle hoch performante KI-Methoden können komplexe Entscheidungs- und Problemlöseprozesse in vielen Bereichen unterstützen. Allerdings ist es oft nicht möglich oder nicht sinnvoll, dass KI-Systeme autonom agieren.
Dies kann der Fall sein, weil gelernte Modelle nicht performant oder robust genug sind, oder weil es sich um Problembereiche handelt, bei denen menschliche Kontrolle und Aufsicht unverzichtbar sind. Hier ist entscheidend, dass Menschen ihr Vertrauen in Ausgaben von KI-Systeme sinnvoll kalibrieren können. Empirische Befunde zur Leistung von Mensch-KI-Teams zeigen, dass dies nur dann erfolgreich ist, wenn beim Menschen hohe Domänen-Expertise vorliegt. Gleichzeitig mehren sich Befunde, dass durch übermäßige Delegation von Aufgaben an KI-Systeme menschliche Kompetenzen verloren gehen oder gar nicht erst aufgebaut werden.
Im Vortrag werden Ansätze des erklärbaren interaktiven maschinellen Lernens für Mensch-KI-Teams vorgestellt, die dabei unterstützen können, Vertrauen sinnvoll zu kalibrieren und Kompetenzverlust entgegenzuwirken.
Zur Person
Ute Schmid ist Inhaberin des Lehrstuhls für Kognitive Systeme an der Universität Bamberg und geschäftsführende Direktorin des Bamberger Zentrums für KI (BaCAI). Seit mehr als 25 Jahren forscht und lehrt sie im Bereich Künstliche Intelligenz.
Ihre Forschungsschwerpunkte sind: interpretierbares maschinelles Lernen, Erklärbare KI und KI und Bildung. Ute Schmid ist EurAI-Fellow und GI-Fellow und Mitglied der Deutschen Akademie der Technikwissenschaften. Sie ist Mitglied im Direktorium des Bayerischen Forschungsinstituts für Digitale Transformation (bidt) und Mitglied im Bayerischen KI-Rat. Seit vielen Jahren engagiert sie sich für Frauen in der Informatik und hat für ihre Universität den Minerva Gender Equality Award der Informatics Europe gewonnen. Zudem engagiert sie sich in der Vermittlung von Informatik- und KI-Kompetenzen für Kinder, Jugendliche und die breite Öffentlichkeit und wurde hierfür mit dem DFG Communicator Preis 2026 ausgezeichnet.