Black-Box-Problem
Auch bekannt als: Nicht-auditierbare KI-Ausgabe
Situation, in der ein Künstliche Intelligenz (KI)-System ein Ergebnis liefert, ohne dass der Weg dorthin nachvollzogen werden kann – forensisch unbrauchbar, selbst wenn das Ergebnis statistisch richtig ist.
Forensik beruht auf Beweismittelkette und Wiederholbarkeit, Künstliche Intelligenz (KI) auf Wahrscheinlichkeit und Kontext. Ein Ergebnis mit 99 Prozent Trefferquote ist vor Gericht wertlos, wenn niemand die Schritte dahinter zeigen kann. Der Europäisches Polizeiamt (inkl. EC3) (Europol)-Bericht fordert deshalb strukturierte Protokollierung jeder KI-Aktion und die Möglichkeit, das Ergebnis manuell zu reproduzieren. Dieselbe Anforderung stellen Prüfer an KI-gestützte Kontrollen im internen Kontrollsystem.
- Fachliche Grundlage
- Europol, Digital forensics: gap analysis, 2026 (öffnet in neuem Tab)