KI-Tool Testbogen
Bewertung von KI-Systemen nach ethischen Grundwerten der EU-KI-Verordnung
- Tool-Namen eintragen — Gebt direkt über den Fragen ein, welches KI-System ihr testet. Der Name erscheint später im Export. Tipp: Ergänzt auch eine Versionsnummer, z. B. „ChatGPT (GPT-4o, Mai 2025)" — so bleibt der Export auch später noch nachvollziehbar.
- Filter einstellen (optional) — Wählt oben Werte und Anforderungen aus, um nur bestimmte Fragen zu sehen. Den Schalter „Dieses Tool trifft Entscheidungen" aktivieren, wenn das System bei euch installiert ist und bspw. automatisierte Entscheidungen trifft (bspw. bei Kreditvergabe, Personalauswahl oder automatischer Zuordnung). Dann werden zusätzliche Fragen eingeblendet, die speziell für solche Systeme relevant sind. Tipp: Der gesamte Test ist recht zeitaufwendig - teilt ihn auf und bearbeitet die Werte nacheinander, wenn ihr nicht alle Fragen mit einmal schafft.
- Kommentare nutzen — Tragt unter jeder Frage Notizen ein, z. B. wo ihr die Information gefunden habt. Die Notizen erscheinen im Export.
- Fortschritt im Blick — Der lila Balken oben rechts im Header zeigt jederzeit, wie viele Fragen ihr schon beantwortet habt. Er bleibt beim Scrollen immer sichtbar.
- Auswertung lesen — Ganz unten erscheint die Ampel-Auswertung pro Wert (Grün / Gelb / Rot). Dort könnt ihr auch alle noch offenen Fragen aufklappen und direkt anspringen. Hinweis zur Berechnung: „Ja" gibt 2 Punkte, „Teilweise" gibt 1 Punkt, „Nein" gibt 0 Punkte. Die Ampelfarbe ergibt sich aus dem Verhältnis der erzielten zu den maximal möglichen Punkten — bezogen auf die beantworteten Fragen.
- Ergebnis exportieren — Ganz unten auf der Seite: Export als TXT (zum Weiterverarbeiten) oder PDF (zum Ausdrucken / Speichern). Beide enthalten Tool-Name, Auswertung und alle Kommentare.
Antworten zurücksetzen: Der rote Button „Alle Antworten zurücksetzen" (ganz unten) löscht nach Bestätigung alle Antworten und Kommentare — z. B. wenn ihr ein anderes Tool testen möchtet. Vorher exportieren!
Nicht dauerhaft gespeichert: Das Tool speichert eure Eingaben nur so lange, wie die Seite geöffnet ist. Beim Schließen oder Neuladen gehen alle Antworten verloren — euer Browser warnt euch davor. Deshalb: rechtzeitig exportieren.
- Muss ich alle Fragen beantworten?
- Nein. Die Auswertung zeigt für jede beantwortete Frage ein Ergebnis — unbeantwortete Fragen werden als „noch offen" gezählt, aber nicht negativ bewertet. Je mehr Fragen ihr beantwortet, desto aussagekräftiger ist das Ergebnis.
- Was bedeutet „Ein installiertes Tool, dass automatisiert arbeitet"?
- Manche Fragen sind nur relevant, wenn das KI-System eigenständig, also automatisiert, arbeitet, bspw. Entscheidungen trifft — zum Beispiel in der Personalauswahl, Kreditvergabe oder Zuordnung. Diese Fragen sind standardmäßig ausgeblendet und werden erst sichtbar, wenn ihr den Schalter „Ein installiertes Tool, dass automatisiert arbeitet" aktiviert.
- Kann ich den Test unterbrechen und später weitermachen?
- Leider nein — das Tool speichert keine Daten dauerhaft. Wenn ihr die Seite schließt, gehen alle Eingaben verloren. Plant genug Zeit ein, um den Test in einem Durchgang abzuschließen, unterteilt die Prüfung in mehrere Vorgänge (bspw. die Werte nacheinander) oder exportiert Zwischenstände als TXT.
- Was ist der Unterschied zwischen TXT- und PDF-Export?
- Der TXT-Export ist eine einfache Textdatei, die sich leicht in andere Dokumente übernehmen oder weiterverarbeiten lässt. Der PDF-Export ist visuell aufbereitet mit farbiger Ampelauswertung — geeignet als Bericht für Kolleginnen und Kollegen oder zur Ablage.
- Was tue ich, wenn ich eine Frage nicht beantworten kann?
- Lasst die Frage offen und nutzt das Kommentarfeld, um festzuhalten, warum die Information nicht auffindbar war. Das ist selbst ein aussagekräftiges Ergebnis: Wenn ein Anbieter wichtige Informationen nicht kommuniziert, ist das ein Hinweis auf mangelnde Transparenz.
Nutzungsbedingungen für die KI-Tool-Ampel und den KI-Navigator
§1 Gegenstand
Diese Nutzungsbedingungen regeln die Nutzung der KI-Tool-Ampel und des KI-Navigators auf wertorientiert-digitalisieren.de
§2 Nutzungsrecht
- Die Tests dürfen nur für private oder interne Zwecke genutzt werden.
- Eine kommerzielle Nutzung oder Weitergabe an Dritte ist ohne schriftliche Genehmigung verboten.
- Die Vervielfältigung oder Veränderung der Inhalte (Fragen, Design, Code) ist nicht gestattet.
§3 Haftungsausschluss
Der Anbieter übernimmt keine Haftung für die Richtigkeit der Testergebnisse oder für Schäden, die durch die Nutzung der getesteten KI-Tools entstehen.
§4 Urheberrecht
KI-Tool-Ampel © 2026 by Lydia Niksch is licensed under Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International
KI-Navigator © 2026 by Lydia Niksch is licensed under Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International
Werte & Anforderungen — Übersicht
Filter
WERTE
ANFORDERUNGEN
TOOL-TYP
Auswertung nach Werten
Erklärbarkeit
Fairness
Schadensverhütung
menschliche Aufsicht
- Wird konkret beschrieben, welche Daten zum Training verwendet wurden?
- Werden Maßnahmen beschrieben, wie die Qualität der Trainingsdaten sichergestellt wird?
- Wird beschrieben, welche Daten bewusst ausgeschlossen wurden?
- Gibt es die Möglichkeit, als Nutzende Feedback zu geben?
- Kann ich nachvollziehen, welches Modell oder welche Regeln zu einer bestimmten Ausgabe geführt haben? Werden die Grenzen der Erklärbarkeit offen kommuniziert?
- Wird offengelegt, dass KI verwendet wird?
- Wird angemessenes Trainingsmaterial angeboten bzw. Hilfestellungen gegeben, wie das System anzuwenden ist?
- Wird offen über technische Einschränkungen und potenzielle Risiken informiert?
- Ist der Zweck der KI-Nutzung klar beschrieben?
- Ist die Erklärung zum Zweck der Nutzung und den Grenzen für Laien verständlich?
- Gibt es eine klar benannte verantwortliche Stelle?
- Ist dokumentiert, was das System kann und darf?
- Gibt es externe Beratung oder Audit-Prozesse für ethische Fragen, die über die reine Entwicklung hinausgehen?
- Gibt es einen Prozess, damit Dritte (Nutzende, Lieferanten, ArbeitnehmerInnen) Risiken, Schwachstellen oder Bias melden können?
- Gibt es Mechanismen, um Schäden abzuwenden oder zu beheben, wenn das System negative Auswirkungen auf Personen hat?
- Werden Konflikte zwischen ethischen Prinzipien (z. B. Privatsphäre vs. Sicherheit) explizit dokumentiert und begründet?
- Sind folgende Dokumente einsehbar: Datenschutzerklärung (Privacy Policy), Service Level Agreement und Data Processing Agreement?
- Enthalten die AGB/Datenschutzerklärung eine rechtsverbindliche DPA-Klausel für die Datenverarbeitung?
- Werden die Daten innerhalb der EU gespeichert (gehostet) bzw. verarbeitet?
- Ist in den Dokumenten geregelt, dass niemand (bspw. durch E2E-Verschlüsselung) oder nur ein ganz begrenzter, absolut notwendiger Personenkreis auf die Daten und nur in klar definierten Fällen zugreifen kann?
- Werden die Daten nicht automatisch zum Training verwendet bzw. ist es möglich, dies in den Einstellungen zu ändern, sodass die Daten nicht für Training verwendet werden?
- Wird offengelegt, welche Daten gespeichert werden und wird ausgeschlossen, dass sie nach dem eigentlichen Zweck weiter gespeichert oder für andere Dinge (Werbung, Profil anlegen etc.) genutzt werden?
- Kann ich meine Daten, Account und Chats löschen lassen, wenn ich das möchte? Habe ich die Kontrolle darüber?
- Sicherheit vor Angriffen: Prüfen, ob das Tool nach Sicherheitsstandards zertifiziert ist (z. B. ISO 27001, Cybersecurity Act). Falls nicht, nachweisen lassen, dass Penetrationstests (strukturierter, geplanter Test, bei dem Expert:innen gezielt versuchen, in ein KI-System einzudringen oder es auszutricksen) oder Red-Teaming (offenerer, kreativerer Angriffssimulationstest, bei dem ein Team die Rolle echter Angreifer:innen übernimmt und ohne festes Skript versucht, das KI-System auf möglichst vielfältige Weisen zum Versagen zu bringen) durchgeführt wurden.
- Werden Maßnahmen getroffen und beschrieben, um sicherzustellen, dass die Daten (einschließlich der Trainingsdaten), die zur Entwicklung des KI-Systems verwendet werden, aktuell, von hoher Qualität, vollständig und repräsentativ für die Umgebung sind, in der das System eingesetzt werden soll und die relevanten Nutzergruppen und Szenarien abdecken?
- Wird das System gemonitort, um Genauigkeit zu überwachen, d. h. wird die Genauigkeit gemessen und dokumentiert?
- Wurden Maßnahmen gegen Model Drift oder Feedback Loops ergriffen? ('Model Drift' = die KI gibt mit der Zeit veraltete Antworten; 'Feedback Loops' = die KI lernt eigene Fehler und wiederholt diese.)
- Wird den Nutzenden die zu erwartende Genauigkeit der Ergebnisse/Entscheidungen kommuniziert?
- Besteht keine oder eine geringe Gefahr, dass das KI-System die menschliche Autonomie beeinträchtigt, indem es eine übermäßige Abhängigkeit bei den Endnutzern erzeugt? Gibt es Vorsichtsmaßnahmen, um zu vermeiden, dass Endnutzer übermäßig von dem KI-System abhängig werden?
- Agiert das KI-System so, dass es die menschliche Autonomie nicht beeinträchtigt, indem es den Entscheidungsprozess der Endnutzer auf andere unbeabsichtigte Weise beeinflusst?
- Hat der Anbieter potenzielle negative Umweltauswirkungen seines Systems identifiziert?
- Wird der Energieverbrauch (z. B. CO₂-Fußabdruck) dokumentiert oder geschätzt?
- Wird grüne Infrastruktur (z. B. Ökostrom, Green Cloud) verwendet?
- Werden Maßnahmen ergriffen, um den Energieverbrauch zu senken (Rechenzentren mit weniger Verbrauch, energieeffiziente Modelle)?
- Gibt es weitere Maßnahmen wie z. B. der Fokus auf Reparatur statt Neukauf bei Hardware, Recycling, Einsatz der Technologie für Naturschutz?
- Gibt es Informationen dazu, wer die Daten für die KI labelt bzw. die Content-Moderation macht oder allgemein zu Menschen- bzw. ArbeitnehmerInnenrechten?
- Existiert eine dokumentierte Strategie oder Verfahrensweise, um Verzerrung in den Daten und Ergebnissen vorzubeugen?
- Gibt es Schulungen für Entwickler*innen zu Bias-Themen?
- Kann man Bias-Probleme melden?
- Ist die Fairness-Definition dokumentiert?
- Kann ich das System an meine individuellen Fähigkeiten anpassen (z. B. Schriftgröße, Kontraste, Eingabemethode)?
- Ist die Oberfläche für Menschen mit Behinderungen nutzbar?