AB 3: 

Dies soll anhand dreier exemplarischer Bereiche analysiert werden:

Erstens hat der technische Fortschritt bei der KI den alten Traum wiederbelebt, es könne möglich sein, den Wahrheitsgehalt von Aussagen technisch zu überprüfen. An dieser Stelle werden die Rechtmäßigkeitsanforderungen in Art. 8 bis 15 KI-Verordnung beachtet werden müssen. Die sich daraus ergebenden Auslegungsfragen – neben derjenigen, was eine „Zulassung“ nach nationalem Recht bedeutet (Anhang III Nr. 6 KI-Verordnung), stellt sich auch die Frage nach Anforderungen und Gestaltungsmöglichkeiten einer „wirksamen“ menschlichen Aufsicht (Art. 14 Abs. 1 KI-Verordnung) – werden zu klären sein. Dies gilt auch für die Einordnung eines solchen KI-Systems vor dem Hintergrund des Nemo-tenetur-Grundsatzes: Ist die erforderliche Mitwirkung des zu Befragenden vergleichbar mit der Situation bei menschlichen Sachverständigen und bedarf es ggf. zusätzlicher strafprozessualer Befugnisnormen?

Zweitens ist eine Einbindung von KI bei der Auswertung von Lichtbildern, Videos oder Tonmitschnitten vorstellbar. Sollen solche Aufzeichnungen im Wege des Augenscheinsbeweises in das Strafverfahren eingeführt werden, ist nicht selten klärungsbedürftig, ob sie wirklich die beschuldigte Person zeigen. Dazu stellen sich rechtliche Fragen u.a. bei der Gewinnung von Trainings- und Vergleichsmaterial: Hierfür wird entweder auf vorhandenes Material zurückgegriffen werden müssen, was datenschutzrechtlich abzuklären ist, oder aber es bedarf wiederum der Mitwirkung der Betroffenen. Darüber hinaus stellt sich die Frage, ob eine solche Anwendung unter die Vorschriften zu Hochrisiko-KI in der KI-Verordnung fällt.

Drittens geht es um die Prüfung der Authentizität von Bild- oder Tonaufzeichnungen. Mittels der Deepfake-Technologie ist es möglich, verblüffend realistische Darstellungen zu generieren, die vermeintlich Handlungen oder Aussagen realer Personen zeigen, obwohl diese so nie stattgefunden haben. Hier drängt sich auf, im Strafverfahren eine KI zur Identifizierung von KI einzusetzen, um zu prüfen, ob eine Aufzeichnung authentisch ist. Hierbei handelt es sich dann recht unzweifelhaft um ein System „zur Bewertung der Verlässlichkeit von Beweismitteln“ (Anhang III Nr. 6 lit. c KI-Verordnung), so dass die Anforderungen an Hochrisiko-KI in der KI-Verordnung zu untersuchen sind. Insbesondere bedarf der Klärung, welche Kriterien für die Zuverlässigkeit und Überprüfbarkeit einer solchen KI zu gelten haben.