In ihrem Vortrag bei „vhs.wissen live“, dem bundesweiten Online-Format der Volkshochschulen mit hochkarätigen Vorträgen aus Wissenschaft, Politik und Gesellschaft, erläuterte bidt-Direktorin Ute Schmid, wie Künstliche Intelligenz zunehmend unseren Alltag und unsere Arbeitswelt verändert – sei es in der medizinischen Diagnostik, in der industriellen Produktion oder im privaten Alltag. Das Vertrauen in KI-Systeme variiere hierbei jedoch stark, so Schmid. Sie warnte einerseits vor einer Überschätzung der Fähigkeiten von KI, ohne ihre Fehleranfälligkeit mitzudenken, sähe andererseits aber auch ein vollständiges Misstrauen gegenüber KI-Systemen als problematisch an. Vielmehr solle Vertrauen in KI-Systeme angemessen kalibriert werden. Entscheidend für eine solche differenzierte Bewertung von KI-Ergebnissen sei die Fähigkeit, KI-Ausgaben fachkundig einzuordnen und zu bewerten.

Ohne Fachwissen im jeweiligen Anwendungsbereich und ein Grundverständnis dafür, wie KI funktioniert, ist es kaum möglich, die Qualität von KI-Ausgaben zu beurteilen.

Prof. Dr. Ute Schmid
Zum Profil

Fachkompetenz sei daher eine zentrale Voraussetzung für eine sinnvolle Mensch-KI-Interaktion. Entscheidend sei, so Schmid, dass Menschen über genügend Wissen im jeweiligen Anwendungsfeld verfügen, um KI-Ausgaben zu bewerten und in komplexen Situationen verlässliche Entscheidungen zu treffen.

KI als Unterstützung – nicht als Lösung

Zum Abschluss ihres Vortrags hob die bidt-Direktorin die vielfältigen Chancen von KI-Systemen hervor. Viele problematische Entwicklungen, die sich parallel beobachten ließen, lägen nicht an den Systemen selbst, sondern an deren unreflektierten Nutzung. Eine Überdelegation von Aufgaben an KI führe langfristig zu einem Verlust von Qualitätsbewusstsein und Anstrengungsbereitschaft. KI solle als Werkzeug dienen, das menschliche Fähigkeiten ergänzt und nicht ersetzt.

Wir brauchen Tools, die uns helfen, unsere Problemlösekompetenzen, unsere Bewertungskompetenzen und unser Selbstwirksamkeitserleben zu erhalten.

Prof. Dr. Ute Schmid
Zum Profil

Zum Vortrag

vhs.wissen live

Zum Forschungsprojekt

Mensch-KI-Co-Creation von Programmcode bei unterschiedlichen Vorkenntnissen: Effekte auf Performanz und Vertrauen (pAIrProg)

Der Beitrag Ute Schmid bei vhs.wissen live: „Wir müssen unser Vertrauen in KI-Systeme angemessen kalibrieren“ erschien zuerst auf bidt DE.