Recht, Ethik und Sicherheit
AI Bias
AI Bias bezeichnet systematische Verzerrungen in den Ergebnissen von KI-Systemen. Sie entstehen vor allem, weil Sprachmodelle auf riesigen Mengen menschlich verfasster Trainingsdaten beruhen, die selbst auf unterschiedliche Weise diskriminierend sein können.
Für dein Unternehmen
Beim Einsatz von KI in Personalprozessen oder Kreditentscheidungen ist eine regelmäßige Prüfung auf Verzerrungen keine Kür, sondern zunehmend rechtliche und reputative Notwendigkeit: Diskriminierungsklagen wegen KI-Entscheidungen nehmen international zu.
Recht, HR, Geschäftsführung, Betriebsrat
Ausführliche Definition
KI-Sprachmodelle lernen ihr Sprachverständnis aus gigantischen Mengen menschlich verfasster Texte und übernehmen damit zwangsläufig auch die Verzerrungen, Stereotype und Ungleichgewichte, die in diesen Texten stecken. Das kann sich auf ganz unterschiedliche Weise zeigen: etwa wenn bestimmte Berufe überproportional häufig mit einem Geschlecht verknüpft werden, wenn Perspektiven einzelner Regionen oder Bevölkerungsgruppen in den Trainingsdaten unterrepräsentiert sind, oder wenn schon die Auswahl und Gewichtung der Trainingsdaten selbst eine Schlagseite hat.
trainingsdaten; explainable-ai; verantwortungsvolle-ki
There's a new kind of coding I call "vibe coding" | Andrej Karpathy, X/Twitter-Post, 2. Februar 2025
← Alle Begriffe im KI-Glossar


