Bamberger Zentrum für KI
Künstliche Intelligenz und Menschliche Expertise: Voraussetzung für Mensch-KI-Zusammenarbeit in der Bildung (12:30)
Aktuelle hoch performante KI-Methoden können komplexe Entscheidungs- und Problemlöseprozesse in vielen Bereichen unterstützen. Allerdings ist es oft nicht möglich oder nicht sinnvoll, dass KI-Systeme autonom agieren. Dies kann der Fall sein, weil gelernte Modelle nicht performant oder robust genug sind, oder weil es sich um Problembereiche handelt, bei denen menschliche Kontrolle und Aufsicht unverzichtbar sind, beispielsweise in der medizinischen Diagnostik oder bei der Beurteilung von Aufgabenlösungen im schulischen Kontext. Empirische Befunde zur Leistung von Mensch-KI-Teams zeigen, dass diese nur dann erfolgreich sind, wenn beim Menschen hohe Domänen-Expertise vorliegt. Allerdings mehren sich ebenfalls die Befunde, dass durch übermäßige Delegation von Aufgaben an KI-Systeme menschliche Kompetenzen verloren gehen oder gar nicht erst aufgebaut werden. Im Vortrag werden Ansätze des erklärbaren interaktiven maschinellen Lernens für Mensch-KI-Teams und Intelligente Tutorsysteme als Beispiele für KI-Methoden eingeführt, die menschliche Kompetenzen gezielt einbeziehen und fördern.
Zur Person
Ute Schmid ist Inhaberin des Lehrstuhls für Kognitive Systeme an der Universität Bamberg und geschäftsführende Direktorin des Bamberger Zentrums für KI (BaCAI). Seit mehr als 25 Jahren forscht und lehrt sie im Bereich Künstliche Intelligenz.
Ihre Forschungsschwerpunkte sind: interpretierbares maschinelles Lernen, Erklärbare KI und KI und Bildung. Ute Schmid ist EurAI-Fellow und GI-Fellow und Mitglied der Deutschen Akademie der Technikwissenschaften. Sie ist Mitglied im Direktorium des Bayerischen Forschungsinstituts für Digitale Transformation (bidt) und Mitglied im Bayerischen KI-Rat. Seit vielen Jahren engagiert sie sich für Frauen in der Informatik und hat für ihre Universität den Minerva Gender Equality Award der Informatics Europe gewonnen. Zudem engagiert sie sich in der Vermittlung von Informatik- und KI-Kompetenzen für Kinder, Jugendliche und die breite Öffentlichkeit und wurde hierfür mit dem DFG Communicator Preis 2026 ausgezeichnet.