KI-Tool-Ampel

Ausgangspunkt ist ein konkretes KI-Tool, das die Organisation bereits nutzt oder einzusetzen plant. Basierend auf den EU-Ethikleitlinien für vertrauenswürdige KI und dem Rahmenwerk zur Operationalisierung ethischer KI der AI Ethics Impact Group führt der Test systematisch durch Fragen aus den übergeordneten Wertebereichen Erklärbarkeit, Fairness, Schadensverhütung und Menschzentrierung und den zugeordneten Anforderungsbereichen. Jede Frage enthält konkrete Hinweise, wo die relevanten Informationen beim Anbieter zu finden sind sowie Beispiele für gute und unzureichende Antworten. Die Ergebnisse werden automatisch in einem Ampelsystem pro Wert ausgewertet und lassen sich als PDF oder Textdatei exportieren, sodass der Test als nachvollziehbares Dokumentations- und Entscheidungshilfsmittel im organisationalen Kontext eingesetzt werden kann. Die Bearbeitung eignet sich für kollaborative Formate wie Workshops oder Gruppendiskussionen, kann jedoch auch von Einzelpersonen erarbeitet werden. Durch die Filterfunktion der Wertebereiche kann die Testung auch aufgeteilt und so beispielsweise von unterschiedlichen Organisationsbereichen bearbeitet werden.

Der Fragebogen ist recht umfangreich. Durch die Filterung nach Werten oder Anforderungen kann der Test gut aufgeteilt werden. Die Kommentarfunktion in jeder Frage bietet die Möglichkeit zu dokumentieren, woher die Antworten stammen oder warum sich für welche Antwortkategorie entschieden wurde. Dies ist besonders für die Nachvollziehbarkeit der Einschätzung aber auch für die Vergleichbarkeit von Tools wichtig.