KI-Tool Testbogen

Bewertung von KI-Systemen nach ethischen Grundwerten der EU-KI-Verordnung

Fortschritt
0 von 42 beantwortet ( 0 %)
Mit diesem Tool könnt ihr ein KI-System systematisch auf ethische Anforderungen hin überprüfen. Wir haben für euch Prüffragen zu den Werten vertrauenswürdiger KI zusammengestellt. Inhaltlich haben wir uns an den Ethikleitlinien der EU sowie dem AI Ethics Impact Report orientiert.
  1. Tool-Namen eintragenGebt direkt über den Fragen ein, welches KI-System ihr testet. Der Name erscheint später im Export. Tipp: Ergänzt auch eine Versionsnummer, z. B. „ChatGPT (GPT-4o, Mai 2025)" — so bleibt der Export auch später noch nachvollziehbar.
  2. Filter einstellen (optional) Wählt oben Werte und Anforderungen aus, um nur bestimmte Fragen zu sehen. Den Schalter „Dieses Tool trifft Entscheidungen" aktivieren, wenn das System bei euch installiert ist und bspw. automatisierte Entscheidungen trifft (bspw. bei Kreditvergabe, Personalauswahl oder automatischer Zuordnung). Dann werden zusätzliche Fragen eingeblendet, die speziell für solche Systeme relevant sind. Tipp: Der gesamte Test ist recht zeitaufwendig - teilt ihn auf und bearbeitet die Werte nacheinander, wenn ihr nicht alle Fragen mit einmal schafft.
  3. Kommentare nutzenTragt unter jeder Frage Notizen ein, z. B. wo ihr die Information gefunden habt. Die Notizen erscheinen im Export.
  4. Fortschritt im BlickDer lila Balken oben rechts im Header zeigt jederzeit, wie viele Fragen ihr schon beantwortet habt. Er bleibt beim Scrollen immer sichtbar.
  5. Auswertung lesenGanz unten erscheint die Ampel-Auswertung pro Wert (Grün / Gelb / Rot). Dort könnt ihr auch alle noch offenen Fragen aufklappen und direkt anspringen. Hinweis zur Berechnung: „Ja" gibt 2 Punkte, „Teilweise" gibt 1 Punkt, „Nein" gibt 0 Punkte. Die Ampelfarbe ergibt sich aus dem Verhältnis der erzielten zu den maximal möglichen Punkten — bezogen auf die beantworteten Fragen.
  6. Ergebnis exportierenGanz unten auf der Seite: Export als TXT (zum Weiterverarbeiten) oder PDF (zum Ausdrucken / Speichern). Beide enthalten Tool-Name, Auswertung und alle Kommentare.

Antworten zurücksetzen: Der rote Button „Alle Antworten zurücksetzen" (ganz unten) löscht nach Bestätigung alle Antworten und Kommentare — z. B. wenn ihr ein anderes Tool testen möchtet. Vorher exportieren!

Nicht dauerhaft gespeichert: Das Tool speichert eure Eingaben nur so lange, wie die Seite geöffnet ist. Beim Schließen oder Neuladen gehen alle Antworten verloren — euer Browser warnt euch davor. Deshalb: rechtzeitig exportieren.

Muss ich alle Fragen beantworten?
Nein. Die Auswertung zeigt für jede beantwortete Frage ein Ergebnis — unbeantwortete Fragen werden als „noch offen" gezählt, aber nicht negativ bewertet. Je mehr Fragen ihr beantwortet, desto aussagekräftiger ist das Ergebnis.

Was bedeutet „Ein installiertes Tool, dass automatisiert arbeitet"?
Manche Fragen sind nur relevant, wenn das KI-System eigenständig, also automatisiert, arbeitet, bspw. Entscheidungen trifft — zum Beispiel in der Personalauswahl, Kreditvergabe oder Zuordnung. Diese Fragen sind standardmäßig ausgeblendet und werden erst sichtbar, wenn ihr den Schalter „Ein installiertes Tool, dass automatisiert arbeitet" aktiviert.

Kann ich den Test unterbrechen und später weitermachen?
Leider nein — das Tool speichert keine Daten dauerhaft. Wenn ihr die Seite schließt, gehen alle Eingaben verloren. Plant genug Zeit ein, um den Test in einem Durchgang abzuschließen, unterteilt die Prüfung in mehrere Vorgänge (bspw. die Werte nacheinander) oder exportiert Zwischenstände als TXT.

Was ist der Unterschied zwischen TXT- und PDF-Export?
Der TXT-Export ist eine einfache Textdatei, die sich leicht in andere Dokumente übernehmen oder weiterverarbeiten lässt. Der PDF-Export ist visuell aufbereitet mit farbiger Ampelauswertung — geeignet als Bericht für Kolleginnen und Kollegen oder zur Ablage.

Was tue ich, wenn ich eine Frage nicht beantworten kann?
Lasst die Frage offen und nutzt das Kommentarfeld, um festzuhalten, warum die Information nicht auffindbar war. Das ist selbst ein aussagekräftiges Ergebnis: Wenn ein Anbieter wichtige Informationen nicht kommuniziert, ist das ein Hinweis auf mangelnde Transparenz.

Nutzungsbedingungen für die KI-Tool-Ampel und den KI-Navigator

§1 Gegenstand

Diese Nutzungsbedingungen regeln die Nutzung der KI-Tool-Ampel und des KI-Navigators auf wertorientiert-digitalisieren.de

§2 Nutzungsrecht

  • Die Tests dürfen nur für private oder interne Zwecke genutzt werden.
  • Eine kommerzielle Nutzung oder Weitergabe an Dritte ist ohne schriftliche Genehmigung verboten.
  • Die Vervielfältigung oder Veränderung der Inhalte (Fragen, Design, Code) ist nicht gestattet.

§3 Haftungsausschluss

Der Anbieter übernimmt keine Haftung für die Richtigkeit der Testergebnisse oder für Schäden, die durch die Nutzung der getesteten KI-Tools entstehen.

Werte & Anforderungen — Übersicht

menschliche Aufsicht
Vorrang menschlichen Handelns
Schadensverhütung
technische Robustheit und Sicherheit
Datenschutz und Datenqualitätsmanagement
Fairness
Vielfalt, Nicht­diskriminierung, Fairness
gesellschaftliches und ökologisches Wohlergehen
Rechenschaftspflicht
Erklärbarkeit
Transparenz

Filter

WERTE

ANFORDERUNGEN

TOOL-TYP

Ein installiertes Tool, dass automatisiert arbeitet (zeigt zusätzliche Fragen)
42 Fragen werden angezeigt
Wird konkret beschrieben, welche Daten zum Training verwendet wurden?
Transparenz
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
System direkt fragen, Support fragen, im Vertrag nachschauen, Model card anschauen
Gute Antwort
Konkrete Kategorien, Quellen, ggf. Zeitraum; z. B. 'Unser Modell wurde trainiert auf öffentlich zugänglichen Webseiten (mit Stand X), lizenzierten Datensätzen von Anbieter Y, sowie von Menschen erstellten Feedback-Daten'
Schlechte Antwort / Warnsignal
Große Mengen an Internetdaten
Werden Maßnahmen beschrieben, wie die Qualität der Trainingsdaten sichergestellt wird?
Transparenz
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
System direkt fragen, Support fragen, im Vertrag nachschauen, Modelcard anschauen
Gute Antwort
Konkrete Maßnahmen werden genannt, wie z. B. Entfernung von persönlichen Daten (PII), Ausschluss illegaler Inhalte, Deduplizierung
Schlechte Antwort / Warnsignal
Keine Maßnahmen, nur leere Versprechen
Wird beschrieben, welche Daten bewusst ausgeschlossen wurden?
Transparenz
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
System direkt fragen, Support fragen, im Vertrag nachschauen, Modelcard anschauen
Gute Antwort
Z. B.: private Kommunikation, medizinische Patientendaten, urheberrechtlich geschütztes Material ohne Lizenz
Schlechte Antwort / Warnsignal
Keine Angaben dazu
Gibt es die Möglichkeit, als Nutzende Feedback zu geben?
TransparenzRechenschaftspflicht
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Direkt im Tool selbst – gibt es Daumen-hoch/runter-Buttons mit Kommentarfeld, ein Flaggen-Symbol oder 'Report a problem'; in den FAQ
Gute Antwort
Aktiver Meldemechanismus ist vorhanden
Schlechte Antwort / Warnsignal
Kein Feedback möglich oder lediglich Daumen-hoch/runter ohne weitere Erklärungen
Kann ich nachvollziehen, welches Modell oder welche Regeln zu einer bestimmten Ausgabe geführt haben? Werden die Grenzen der Erklärbarkeit offen kommuniziert?
TransparenzRechenschaftspflicht
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Systemcard oder Modelcard, techn. Doku, FAQ
Gute Antwort
Ein Modell wird klar benannt, ehrlich erläutert, dass es auf Wahrscheinlichkeiten beruht; es werden Maßnahmen durchgeführt, um das auszugleichen (Logging, Überprüfungen etc.)
Schlechte Antwort / Warnsignal
Keine Version des Modells benannt, keine Maßnahmen genannt
Wird offengelegt, dass KI verwendet wird?
TransparenzVorrang menschl. Handeln
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Nutzendenoberfläche, AGB, Fußnoten, FAQ
Gute Antwort
Hinweise wie 'Sie chatten mit einem KI-Chatbot' oder 'automatisierte Zusammenfassung' direkt im Interface
Schlechte Antwort / Warnsignal
Kein Hinweis
Wird angemessenes Trainingsmaterial angeboten bzw. Hilfestellungen gegeben, wie das System anzuwenden ist?
Transparenz
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Hilfe-Center, Tutorials, Onboarding-Prozess, Dokumentationsseiten, Blog
Gute Antwort
Strukturierte Lernpfade: interaktive Tutorials für Anfänger, Fallbeispiele, Erklärungen wann das Tool geeignet ist, Best-Practice-Leitfäden
Schlechte Antwort / Warnsignal
Nur trockene technische API-Dokumentation, keine Anleitung zur sicheren Nutzung, fehlende Beispiele
Wird offen über technische Einschränkungen und potenzielle Risiken informiert?
Transparenz
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Nutzungsbedingungen, Disclaimer in der Nutzendenoberfläche, 'Über das Modell'-Seite, Blog-Posts zu Updates
Gute Antwort
Klare Hinweise, dass das Tool halluzinieren kann; Warnung vor Nutzung in sicherheitskritischen Bereichen ohne menschliche Prüfung; offene Kommunikation über Datenlücken; Hinweise auf mögliche Bias-Verzerrungen
Schlechte Antwort / Warnsignal
Das Tool gibt Antworten immer als absolute Fakten aus; keine Erwähnung von Fehlerraten; Marketing-Sprüche wie '100% genau'
Ist der Zweck der KI-Nutzung klar beschrieben?
Transparenz
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Produktbeschreibung, Systemcards, Whitepaper
Gute Antwort
Erläuterung, wofür das Tool zu verwenden ist und wofür nicht
Schlechte Antwort / Warnsignal
Zu allgemeine Aussagen über die Verwendung, zu vage oder irreführend
Ist die Erklärung zum Zweck der Nutzung und den Grenzen für Laien verständlich?
Transparenz
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Produktbeschreibung, Systemcards, Whitepaper, Infoseiten
Gute Antwort
Verständliche Dokumente, gibt auch FAQ, Einführungsvideos, Glossare
Schlechte Antwort / Warnsignal
Nur technische Dokumentation ohne Erklärung
Gibt es eine klar benannte verantwortliche Stelle?
Rechenschaftspflicht
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Impressum, Support, Nutzerhilfe
Gute Antwort
Impressum, Datenschutzkontakt, Produktseite mit Ansprechpersonen
Schlechte Antwort / Warnsignal
Kein Kontakt auffindbar
Ist dokumentiert, was das System kann und darf?
Rechenschaftspflicht
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
AGB, Nutzungsbedingungen, Sicherheitsrichtlinien
Gute Antwort
AGB, technische Doku, Changelog vorhanden
Schlechte Antwort / Warnsignal
Keine Einschränkungen beschrieben
Gibt es externe Beratung oder Audit-Prozesse für ethische Fragen, die über die reine Entwicklung hinausgehen?
Rechenschaftspflicht
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Ethik-Richtlinien, Blog-Posts, Jahresberichte
Gute Antwort
'Wir haben ein externes Ethik-Board, das das System auch nach dem Launch regelmäßig überprüft und Empfehlungen gibt.'
Schlechte Antwort / Warnsignal
'Nein, wir entscheiden alles intern.' oder 'Ethik ist nur während der Entwicklung wichtig.'
Gibt es einen Prozess, damit Dritte (Nutzende, Lieferanten, ArbeitnehmerInnen) Risiken, Schwachstellen oder Bias melden können?
RechenschaftspflichtTransparenztechn. Robustheit und Sicherheit
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Support-Seite, 'Sicherheit melden', Whistleblowing-Portal
Gute Antwort
'Wir haben ein sicheres, anonymes Meldeportal für Sicherheitslücken und ethische Bedenken. Wir prüfen jede Meldung und passen unser Risikomanagement an.'
Schlechte Antwort / Warnsignal
'Schreiben Sie uns eine E-Mail an support@...' (ohne Anonymität oder speziellen Prozess) oder 'Wir nehmen keine externen Meldungen entgegen.'
Gibt es Mechanismen, um Schäden abzuwenden oder zu beheben, wenn das System negative Auswirkungen auf Personen hat?
Rechenschaftspflicht
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Nutzungsbedingungen, Schadensersatz-Richtlinien, Support-Prozesse
Gute Antwort
'Wir haben einen klaren Prozess für Betroffene, um Fehler zu melden, Entscheidungen anzufechten und Entschädigung oder Korrektur zu erhalten.'
Schlechte Antwort / Warnsignal
'Wir haften nicht für Fehler der KI.' oder 'Es gibt keinen Weg, eine Entscheidung der KI zu überprüfen oder rückgängig zu machen.'
Werden Konflikte zwischen ethischen Prinzipien (z. B. Privatsphäre vs. Sicherheit) explizit dokumentiert und begründet?
Rechenschaftspflicht
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Ethik-Berichte, Entscheidungsprotokolle
Gute Antwort
'Wir dokumentieren jede ethische Abwägung und begründen, warum wir eine Entscheidung getroffen haben, basierend auf Risikobewertungen.'
Schlechte Antwort / Warnsignal
'Wir machen keine Abwägungen, wir folgen einfach dem Gesetz.' oder 'Das ist zu komplex, um es zu dokumentieren.'
Sind folgende Dokumente einsehbar: Datenschutzerklärung (Privacy Policy), Service Level Agreement und Data Processing Agreement?
Datenschutz & Datenqualitätsmanagement
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Fußzeile der Website, Login-Bereich, 'Rechtliches'-Menü, Impressum
Gute Antwort
Vorhanden
Schlechte Antwort / Warnsignal
Nicht vorhanden
Enthalten die AGB/Datenschutzerklärung eine rechtsverbindliche DPA-Klausel für die Datenverarbeitung?
Datenschutz & Datenqualitätsmanagement
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
AGB, Datenschutzerklärung, 'Rechtliches'-Bereich
Gute Antwort
Ein DSGVO-konformer Anbieter stellt ein DPA zur Verfügung. Darin steht, dass der Anbieter nur als 'Auftragsverarbeiter' handelt und keine Rechte an den Daten beansprucht.
Schlechte Antwort / Warnsignal
'Wir verarbeiten Ihre Daten nach eigenem Ermessen.' oder 'Wir dürfen Ihre Daten für eigene Forschungszwecke nutzen.'
Werden die Daten innerhalb der EU gespeichert (gehostet) bzw. verarbeitet?
Datenschutz & Datenqualitätsmanagement
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Datenschutzerklärung
Gute Antwort
Die Daten verbleiben in einem Land der EU
Schlechte Antwort / Warnsignal
Keine Angaben oder nur, dass Clouddienste von Anbietern genutzt werden (ohne Details); oder Speicherung in nicht-EU-Ländern wie USA oder China.
Ist in den Dokumenten geregelt, dass niemand (bspw. durch E2E-Verschlüsselung) oder nur ein ganz begrenzter, absolut notwendiger Personenkreis auf die Daten und nur in klar definierten Fällen zugreifen kann?
Datenschutz & Datenqualitätsmanagement
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Datenschutzerklärung (Abschnitt 'Zugriff auf Daten'), Sicherheitsdokumentation, FAQ
Gute Antwort
Nur autorisiertes Personal mit spezifischer Berechtigung kann zugreifen; Jeder Zugriff wird protokolliert; Daten werden nur bei gültigen Gerichtsbeschlüssen herausgegeben; Ende-zu-Ende-Verschlüsselung vorhanden
Schlechte Antwort / Warnsignal
Behörden können 'unter bestimmten Umständen' auf Daten zugreifen (vage, unklar); keine Verschlüsselung
Werden die Daten nicht automatisch zum Training verwendet bzw. ist es möglich, dies in den Einstellungen zu ändern, sodass die Daten nicht für Training verwendet werden?
Datenschutz & Datenqualitätsmanagement
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
SLA, Datenschutzerklärung (Abschnitt 'Datenverwendung'), Einstellungen im Konto, FAQ
Gute Antwort
Training-Nutzung ist standardmäßig deaktiviert oder kann in den Kontoeinstellungen ausgeschaltet werden
Schlechte Antwort / Warnsignal
'Ihre Daten können für Trainingszwecke genutzt werden'; nicht einstellbar
Wird offengelegt, welche Daten gespeichert werden und wird ausgeschlossen, dass sie nach dem eigentlichen Zweck weiter gespeichert oder für andere Dinge (Werbung, Profil anlegen etc.) genutzt werden?
Datenschutz & Datenqualitätsmanagement
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Datenschutzerklärung, Einwilligungstexte
Gute Antwort
Genaue Auskunft: Welche Daten erhoben werden, warum, wie lange sie gespeichert werden und wofür sie nicht genutzt werden
Schlechte Antwort / Warnsignal
'Wir sammeln Daten, um Services zu verbessern.' (ohne Einschränkungen der Weiternutzung)
Kann ich meine Daten, Account und Chats löschen lassen, wenn ich das möchte? Habe ich die Kontrolle darüber?
Datenschutz & Datenqualitätsmanagement
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Datenschutzerklärung, Support
Gute Antwort
'Sie können Ihre Daten jederzeit über [Link] löschen lassen. Wir bestätigen die Löschung.'
Schlechte Antwort / Warnsignal
'Daten können nicht gelöscht werden, da sie im Modell trainiert sind.' (ohne Alternative)
Sicherheit vor Angriffen: Prüfen, ob das Tool nach Sicherheitsstandards zertifiziert ist (z. B. ISO 27001, Cybersecurity Act). Falls nicht, nachweisen lassen, dass Penetrationstests (strukturierter, geplanter Test, bei dem Expert:innen gezielt versuchen, in ein KI-System einzudringen oder es auszutricksen) oder Red-Teaming (offenerer, kreativerer Angriffssimulationstest, bei dem ein Team die Rolle echter Angreifer:innen übernimmt und ohne festes Skript versucht, das KI-System auf möglichst vielfältige Weisen zum Versagen zu bringen) durchgeführt wurden.
techn. Robustheit und Sicherheit
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
'Trust Center', 'Security'-Seite, Footer der Website
Gute Antwort
Dedizierte Seite ('Trust Center') mit Download-Links für Zertifikate (ISO 27001, SOC 2 Type II) und aktuellem 'Security Whitepaper'
Schlechte Antwort / Warnsignal
Keine Infos dazu
Werden Maßnahmen getroffen und beschrieben, um sicherzustellen, dass die Daten (einschließlich der Trainingsdaten), die zur Entwicklung des KI-Systems verwendet werden, aktuell, von hoher Qualität, vollständig und repräsentativ für die Umgebung sind, in der das System eingesetzt werden soll und die relevanten Nutzergruppen und Szenarien abdecken?
techn. Robustheit und SicherheitVielfalt, Nichtdiskriminierung, Fairness
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Technische Dokumentation & Whitepaper, Model Cards oder Datasheets for Datasets
Gute Antwort
Es wird der 'Cut-off'-Zeitpunkt des Wissens genannt; erklärt, wie veraltete oder verzerrte Daten bereinigt wurden; Strategie für neue Daten; vielfältige und repräsentative Datenquellen
Schlechte Antwort / Warnsignal
'Wir nutzen das gesamte Internet' (ohne Filterung); kein Hinweis auf das Alter der Trainingsdaten
Wird das System gemonitort, um Genauigkeit zu überwachen, d. h. wird die Genauigkeit gemessen und dokumentiert?
techn. Robustheit und Sicherheit
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Service Level Agreements, Klauseln zu 'Accuracy Guarantees', 'Performance Metrics'
Gute Antwort
Regelmäßige Berichte mit konkreten Zahlen; dokumentierter Prozess zur Fehlerquoten-Messung; Ergebnisse für externe Prüfer einsehbar
Schlechte Antwort / Warnsignal
'Wir glauben, dass es gut funktioniert.' Keine quantitativen Angaben zur Genauigkeit
Wurden Maßnahmen gegen Model Drift oder Feedback Loops ergriffen? ('Model Drift' = die KI gibt mit der Zeit veraltete Antworten; 'Feedback Loops' = die KI lernt eigene Fehler und wiederholt diese.)
techn. Robustheit und Sicherheit
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Technische Dokumentation, Whitepaper, Model Cards, Blog-Updates, Versionshistorie
Gute Antwort
Regelmäßige Updates mit expliziter Aktualisierung des Wissensstands; Prozess um 'Drift' automatisch zu erkennen; Mechanismen gegen Self-Training mit eigenen Antworten
Schlechte Antwort / Warnsignal
Keine Infos dazu
Wird den Nutzenden die zu erwartende Genauigkeit der Ergebnisse/Entscheidungen kommuniziert?
techn. Robustheit und Sicherheit
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Onboarding, Tooltips im Interface, AGB, Hilfedokumentation
Gute Antwort
Klare Hinweise: 'Dieses Tool kann Fehler machen. Prüfen Sie wichtige Fakten.'; Genauigkeit wird nicht als '100%' beworben; Erklärung für welche Aufgaben das Tool geeignet ist
Schlechte Antwort / Warnsignal
Marketing-Sprüche wie 'Fehlerfrei', 'Perfekt', '100% genau'; keine Warnhinweise im Interface
Besteht keine oder eine geringe Gefahr, dass das KI-System die menschliche Autonomie beeinträchtigt, indem es eine übermäßige Abhängigkeit bei den Endnutzern erzeugt? Gibt es Vorsichtsmaßnahmen, um zu vermeiden, dass Endnutzer übermäßig von dem KI-System abhängig werden?
Vorrang menschl. Handeln
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Warnhinweise im Interface, Formulierung der Ergebnisse, Nutzungsdaten
Gute Antwort
Konkrete Maßnahmen wie Nutzungslimits (Time-outs), Erinnerungen an Pausen, Warnhinweise bei übermäßiger Nutzungsdauer, Strategien, um emotionale Bindung an die KI zu reduzieren.
Schlechte Antwort / Warnsignal
Keine Maßnahmen vorhanden; aktive Förderung von Abhängigkeit durch Gamification, emotionale Bindung oder endlose Nutzungsschleifen
Agiert das KI-System so, dass es die menschliche Autonomie nicht beeinträchtigt, indem es den Entscheidungsprozess der Endnutzer auf andere unbeabsichtigte Weise beeinflusst?
Vorrang menschl. Handeln
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Darauf achten, ob die KI einseitige, verzerrte oder manipulative Ergebnisse produziert
Gute Antwort
Neutrale Formulierungen, stellt verschiedene Standpunkte dar, gibt Hinweise bei spekulativen Inhalten, ermöglicht Überprüfung durch Quellen
Schlechte Antwort / Warnsignal
Nutzt emotionale oder suggestive Sprache; gibt keine Quellenangaben; KI formuliert Vorschläge so, dass bestimmte Optionen bevorzugt wirken
Hat der Anbieter potenzielle negative Umweltauswirkungen seines Systems identifiziert?
ökologisches und gesellschaftliches Wohlergehen
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Nachhaltigkeitsbericht, Umwelt-Policy, 'Über uns'-Seite, Blog-Posts
Gute Antwort
'Wir haben eine Analyse durchgeführt und identifizieren z. B. den hohen Energieverbrauch beim Training und die CO₂-Emissionen der Server als Hauptrisiken.'
Schlechte Antwort / Warnsignal
'Nein, KI ist digital und hat keinen Einfluss auf die reale Umwelt.' oder 'Das haben wir nicht geprüft.'
Wird der Energieverbrauch (z. B. CO₂-Fußabdruck) dokumentiert oder geschätzt?
ökologisches und gesellschaftliches Wohlergehen
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Umweltbericht, technische Doku, Forschungsartikel, Website
Gute Antwort
'Unser Modell verbraucht X kWh pro 1.000 Anfragen. Der CO₂-Fußabdruck beträgt Y kg pro Jahr.'
Schlechte Antwort / Warnsignal
'Wir verbrauchen wenig Energie.' (keine Zahlen)
Wird grüne Infrastruktur (z. B. Ökostrom, Green Cloud) verwendet?
ökologisches und gesellschaftliches Wohlergehen
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Nachhaltigkeitsseite, Partner-Doku
Gute Antwort
'Unsere Server stehen in [Ort], betrieben mit 100% erneuerbaren Energien.'
Schlechte Antwort / Warnsignal
'Wir nutzen Cloud-Dienste.' (ohne Details)
Werden Maßnahmen ergriffen, um den Energieverbrauch zu senken (Rechenzentren mit weniger Verbrauch, energieeffiziente Modelle)?
ökologisches und gesellschaftliches Wohlergehen
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Technische Dokumentation, Forschungs-Papers, Infrastruktur-Berichte
Gute Antwort
'Wir haben unser Modell optimiert (z. B. Quantisierung), um 40% weniger Energie zu verbrauchen.'
Schlechte Antwort / Warnsignal
'Größere Modelle sind besser.' (keine Optimierung)
Gibt es weitere Maßnahmen wie z. B. der Fokus auf Reparatur statt Neukauf bei Hardware, Recycling, Einsatz der Technologie für Naturschutz?
ökologisches und gesellschaftliches Wohlergehen
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Website, Nachhaltigkeitsbericht, Lieferketten-Dokumentation, Case Studies
Gute Antwort
'Alle alten Server werden fachgerecht recycelt.' 'Unsere KI erkennt illegale Abholzung per Satellitenbild.'
Schlechte Antwort / Warnsignal
'Hardware wird entsorgt.' (ohne Details); 'Unsere KI hilft beim Umweltschutz.' (ohne Beispiele)
Gibt es Informationen dazu, wer die Daten für die KI labelt bzw. die Content-Moderation macht oder allgemein zu Menschen- bzw. ArbeitnehmerInnenrechten?
ökologisches und gesellschaftliches Wohlergehen
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Dokumente und Reports zu Sustainability, Human Rights oder Supplier Code of Conduct auf der Unternehmenswebsite
Gute Antwort
Konkrete Infos zu Zulieferer, Maßnahmen wie ArbeitnehmerInnen geschützt werden, Richtlinien zur Betreuung
Schlechte Antwort / Warnsignal
Keine Informationen oder nur vage Floskeln
Existiert eine dokumentierte Strategie oder Verfahrensweise, um Verzerrung in den Daten und Ergebnissen vorzubeugen?
Vielfalt, Nichtdiskriminierung, Fairness
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Dokumentation, Whitepaper, Ethik-Richtlinien des Anbieters, Modelcard
Gute Antwort
'Wir haben einen Bias-Monitoring-Prozess etabliert, der Datenqualität und Algorithmus-Design regelmäßig prüft.'
Schlechte Antwort / Warnsignal
'Das ist uns wichtig' ohne konkrete Maßnahmen
Gibt es Schulungen für Entwickler*innen zu Bias-Themen?
Vielfalt, Nichtdiskriminierung, Fairness
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Unternehmensblog, Karriere-Seiten
Gute Antwort
'Regelmäßige Schulungen zu ethischer KI-Entwicklung sind verpflichtend.'
Schlechte Antwort / Warnsignal
Keine Information zu Schulungen
Kann man Bias-Probleme melden?
Vielfalt, Nichtdiskriminierung, Fairness
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Support-Seite, Kontaktformular
Gute Antwort
'Es gibt ein klar dokumentiertes Meldesystem mit Antwortzeit-Zusagen.'
Schlechte Antwort / Warnsignal
'Schreiben Sie uns eine E-Mail' ohne Prozessbeschreibung
Ist die Fairness-Definition dokumentiert?
Vielfalt, Nichtdiskriminierung, Fairness
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Technische Spezifikation, Ethik-Policy
Gute Antwort
'Wir verwenden Definition X und haben Y in Betracht gezogen.'
Schlechte Antwort / Warnsignal
'Fairness ist für uns selbstverständlich' ohne Definition
Kann ich das System an meine individuellen Fähigkeiten anpassen (z. B. Schriftgröße, Kontraste, Eingabemethode)?
Vielfalt, Nichtdiskriminierung, Fairness
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Einstellungen-Menü, App-Store-Beschreibung, Hilfe-Dokumentation
Gute Antwort
Ist direkt anpassbar
Schlechte Antwort / Warnsignal
Nicht einstellbar
Ist die Oberfläche für Menschen mit Behinderungen nutzbar?
Vielfalt, Nichtdiskriminierung, Fairness
Bewertung:
Notizen / Kommentar
Wo finde ich die Antwort?
Testen
Gute Antwort
Ist das System z. B. mit Screenreadern oder Sprachsteuerung nutzbar
Schlechte Antwort / Warnsignal
Keine Möglichkeit das System zu nutzen für Menschen, die auf Assistenzsysteme angewiesen sind

Auswertung nach Werten

Aktualisiert sich automatisch

Erklärbarkeit

0 von 11 Fragen beantwortet
Ja:0
Teils:0
Nein:0
Noch keine Antworten

Fairness

0 von 21 Fragen beantwortet
Ja:0
Teils:0
Nein:0
Noch keine Antworten

Schadensverhütung

0 von 13 Fragen beantwortet
Ja:0
Teils:0
Nein:0
Noch keine Antworten

menschliche Aufsicht

0 von 3 Fragen beantwortet
Ja:0
Teils:0
Nein:0
Noch keine Antworten