Erklärbarkeit und Kontrollierbarkeit beim Entwurf von Automatisierungssystemen durch KI

Einerseits weist KI ein gewisses Maß an Black-Box-Verhalten auf, so dass der Mensch ihre Entscheidungen oft nur schwer nachvollziehen kann. Andererseits lassen sich Entwurfsfehler („Halluzinationen") nicht völlig ausschließen. Am Beispiel von AUTERAS werden beispielhaft Gegenmaßnahmen gezeigt und ihre Grenzen diskutiert.
Prof. Dr.-Ing. habil. Klaus Kabitzsch, AUTERAS