TP 3: Möglichkeiten und Grenzen maschinellen Entscheidens im Strafverfahren

© Bilderstellung mit DALL·E von ChatGPT

In dem interdisziplinären Teilprojekt 3 (TP 3) steht die Autonomie strafgerichtlicher Entscheidungen im Falle der Nutzung künstlicher Intelligenz (KI) im Mittelpunkt. Dazu werden Voraussetzungen und Ausgestaltung eines KI-Einsatzes exemplarisch bei der Beweismittelanalyse (insb. im Kontext von „Deep Fakes“) und bei Kriminalitätsprognosen in Strafverfahren untersucht. In diesen Feldern erfolgt bereits ein Einsatz künstlicher Intelligenz oder ist in konkreter Planung (bspw. Bilderkennung im Rahmen der Pornographie-Verfolgung). Zudem liegen erste Erfahrungen aus dem Ausland vor, die einen künftigen Einsatz auch in Deutschland erwarten lassen (Kriminalprognosen). Neben (verfassungs-) rechtlichen Maßgaben zur Erhaltung der individualrechte- und freiheitssichernden Funktion des Strafverfahrensrechts, vor allem in Gestalt der Sachentscheidungszuständigkeit unabhängiger Richter, thematisiert das Teilprojekt psychologische Prozesse des Vertrauens und der Akzeptanz in Empfehlungen künstlicher Intelligenz. So ist bspw. bei Richtern eine Grundbereitschaft zur Nutzung von KI zwar wünschenswert (Vermeidung von „under-trust“), ein übermäßiges Vertrauen („over-trust“), etwa infolge von Arbeitsüberlastung, ist jedoch mit Gefahren für die Akzeptanz und Richtigkeit von Entscheidungen im Strafverfahren verbunden.

Das Teilprojekt gliedert sich in fünf Arbeitsbereiche: 

  1. Aufhellen der Blackbox: Ein Charakteristikum von KI ist die selbstständige und von einem Anwender nicht nachvollziehbare Veränderung der Entscheidungsparameter infolge maschinellen Lernens. KI-Empfehlungen sind daher nicht mehr ohne weiteres über die ursprüngliche Programmierung zu erklären („Black-box“-Phänomen). In einem ersten Schritt sollen daher aktuelle technische Entwicklungen und Optionen für die Nachvollziehbarkeit von KI-Empfehlungen in Strafverfahren diskutiert und integriert werden. Mehr lesen 
  2. Rechtliche Anforderungen an richterliche Kriminalitätsprognosen: KI wird im Ausland bereits eingesetzt, um anhand statistischer Daten und den Fakten des Einzelfalls die für Bewährungsentscheidungen benötigte Kriminalprognosen zu erstellen. Mehr lesen
  3. Rechtliche Anforderungen an KI-Unterstützung bei der Beweiswürdigung: Vordergründig betrachtet könnte KI – entsprechend der Vision einer qualitativen Verbesserung durch den Ausschluss menschlicher Fehler – das Potenzial haben, den Erkenntnisprozess im Strafverfahren zu optimieren. Zentrale Fragestellung ist, unter welchen Voraussetzungen KI-Systeme einen Sachverständigenbeweis im Strafverfahren ergänzen oder partiell womöglich auch ersetzen können. Neben den rechtlichen Anforderungen des Grundgesetzes und der StPO wird hierbei insb. auf Vorgaben der Europäischen Menschenrechtskonvention und der EU-Grundrechte-Charta einzugehen sein. Mehr lesen
  4. Vertrauen und Akzeptanz von KI-basierten Empfehlungen in Strafverfahren: In einer Serie aus qualitativen und quantitativ-experimentellen Studien wird die Bereitschaft, KI-Empfehlungen in Strafverfahren zu nutzen bzw. zu akzeptieren, aus unterschiedlichen Perspektiven (Richterinnen und Richter, Angeklagte und ihre Rechtsanwälte, unbeteiligte Beobachter aus der Gesellschaft) untersucht. Ein zentrales Ziel ist die evidenzbasierte Ableitung von Empfehlungen für die Gestaltung von KI (Algorithmen, Schnittstellen, Empfehlungen, etc.). Mehr lesen
  5. Anforderungen an eine KI-Unterstützung für richterliche Entscheidungen: Auf der Basis der in den übrigen Arbeitsbereichen erzielten Resultate des Teilprojekts (empirische Erkenntnisse, rechtliche Anforderungen, aktuell bzw. absehbar technische Möglichkeiten) wird ein theoretisches Modell für den KI-Einsatz in Strafverfahren entwickelt, das im weiteren Verlauf der Forschungsgruppe validiert werden soll. Mehr lesen