Aktuelle KI-Trends
Human-in-the-loop / Human-on-the-loop
Human-in-the-loop bedeutet, dass Menschen jeden KI-Schritt einzeln freigeben; Human-on-the-loop bedeutet, dass Menschen die laufende Ausführung nur noch überwachen und bei Bedarf eingreifen.
Für dein Unternehmen
Bei der Einführung von KI-Agenten sollte bewusst entschieden werden, welches Modell zum Risiko der jeweiligen Aufgabe passt: Bei Zahlungsfreigaben oder Vertragsversand ist Human-in-the-loop meist Pflicht, bei internen Recherche- oder Sortieraufgaben kann Human-on-the-loop ausreichen.
IT, Geschäftsführung, Recht, Betriebsrat
Ausführliche Definition
Human-in-the-loop beschreibt Systeme, bei denen ein Mensch jeden relevanten Einzelschritt einer KI prüft und freigibt, bevor er wirksam wird, etwa jede von der KI vorformulierte Kundenantwort. Mit zunehmend autonomen KI-Agenten verschiebt sich dies zu Human-on-the-loop: Menschen legen Leitplanken und Eskalationsregeln fest und überwachen den Prozess, greifen aber nur noch bei Auffälligkeiten oder am Ende ein.
agentic-ai; ki-governance; ki-agenten-monitoring
Knowledge-Intensive NLP Tasks | Lewis et al., FAIR/UCL, NeurIPS, 2020 (arXiv:2005.11401)
← Alle Begriffe im KI-Glossar


