Was ist erklärbare Künstliche Intelligenz? Wie Erklärungen das Vertrauen in der Mensch-KI-Interaktion beeinflussen
Immer häufiger unterstützen KI-Systeme bei Entscheidungen in wichtigen Lebensbereichen wie im Finanzwesen, in der Justiz oder der Medizin. Da solche Entscheidungen weitreichende Konsequenzen für die Betroffenen haben können, ist es besonders relevant, dass sie nachvollziehbar und überprüfbar sind. Moderne KI-Systeme beruhen meist auf statistischen Modellen, die auf Basis von Wahrscheinlichkeiten Entscheidungen treffen. Die interne Modellstruktur kann dabei äußerst komplex sein.