Verantwortungsvolle KI
Wenn in unseren Produkten KI eingesetzt wird, soll sie das eigene Denken und die Selbstreflexion der Nutzerin oder des Nutzers unterstützen. Sie soll keine Menschen diagnostizieren, niemanden für schuldig oder gefährlich erklären und in Situationen mit hohem Risiko kein professionelles Urteil ersetzen.
Wofür KI gedacht ist
KI kann dabei helfen, Gedanken zu strukturieren, Muster zu reflektieren und Worte für Gefühle, Grenzen und Entscheidungen zu finden.
KI soll von der Nutzerin oder dem Nutzer geführt werden: Die Person bleibt die Entscheiderin, und das Produkt soll KI-Ausgaben nicht als maßgebliche Wahrheit über eine andere Person darstellen.
Wofür KI nicht gedacht ist
KI soll keine psychischen Erkrankungen diagnostizieren, keine Gewalt vorhersagen, nicht entscheiden, wer schuldig, gefährlich oder missbräuchlich ist, und keine rechtlichen, klinischen oder arbeitsbezogenen Entscheidungen treffen.
KI soll eine andere Person nicht zum Feindbild, Beweismittel oder Ziel von Vergeltung machen. Nähert sich ein Design einer solchen Nutzung, wird die Funktion eingeschränkt, verändert oder entfernt.
Sicherheitsgrenzen und Eskalation
In akuter Gefahr soll das Produkt die Nutzerin oder den Nutzer aus der Anwendung heraus zu geeigneter Hilfe führen.
Wo sich eine Funktion Therapie, Gesundheitsversorgung, Rechtsberatung, Krisenhilfe oder risikoreichen Entscheidungen nähert, wird sie gesondert an Kompetenz- und Verantwortungsanforderungen gemessen.
KI-Ausgaben sollen Unsicherheit und Grenzen sichtbar machen, statt eine Interpretation als vollständige Wahrheit zu präsentieren.
Vollständige Prinzipien
Die vollständige Richtlinie, einschließlich Nutzersicherheit, KI-Grenzen und Governance, findest du im Dokument Werte und verantwortungsvolle Produktprinzipien (Version 1.0).