Lass uns loslegen.

Sende uns gerne eine Nachricht über das Kontakformular oder direkt per E-Mail an info(at)fellowork.de

Du interessierst dich für eine unserer Leistungen und möchtest ein Projekt mit uns starten? Vereinbare hier einen Termin für ein kostenloses Erstgespräch. Wir melden uns gerne bei dir!

Vielen Dank für deine Nachricht! Wir melden uns umgehend bei dir.
Oops! Das hat leider nicht geklappt! Überprüfe deine Eingabe und versuche es erneut.

KI-Glossar für den Mittelstand

62 KI-Begriffe einfach erklärt

Links auswählen, rechts lesen. Jeder Begriff mit Blick auf deinen Arbeitsalltag. Alle Begriffe als PDF →

62 Begriffe

Aktuelle KI-Trends

Agentic AI

Agentic AI beschreibt KI-Systeme, die mehrstufige Aufgaben eigenständig planen, ausführen und überwachen, statt nur auf einzelne Anfragen zu antworten.

Ausführliche Definition und Quellen

Agentic AI markiert den Übergang von reaktiver KI, die auf einzelne Prompts antwortet, zu autonomen Systemen, die ein Ziel selbstständig in Teilschritte zerlegen, Werkzeuge einsetzen, Zwischenergebnisse bewerten und bei Bedarf ihren Plan anpassen. Fachartikel beschreiben dies als Verschiebung von „Human-in-the-loop" zu „Human- on-the- loop": Menschen geben Freigaben und Leitplanken vor, während die laufende Ausführung zunehmend an Agenten übergeht.

Pressemitteilung, 2025

ki-agent; multi-agenten-system; human-in-the-loop-human-on-the-loop; reasoning-modell; agent-washing; skills; green-ai

Für dein Unternehmen

Agentic AI gilt 2026 als eines der prägendsten KI-Trendthemen für den Mittelstand, etwa um komplette Abläufe wie Kundenticket-Bearbeitung oder ERP-Dokumentation durchgängig zu automatisieren. Ein sauberes Monitoring und klare Freigabegrenzen bleiben dabei unverzichtbar.

IT, Geschäftsführung

A

Aktuelle KI-Trends

Agent Washing

Agent Washing bezeichnet die Praxis, einfache Automatisierung, Chatbots oder RPA-Tools als „KI-Agenten" zu vermarkten, obwohl ihnen die eigenständige, mehrstufige Handlungsfähigkeit echter Agentic AI fehlt.

Ausführliche Definition und Quellen

Der Begriff lehnt sich an „Greenwashing" an: Anbieter nutzen den Hype um Agentic AI, um bestehende Technologien (etwa regelbasierte Automatisierung, klassische Chatbots oder leicht erweiterte Sprachmodelle) als autonome Agenten auszugeben, ohne dass diese eigenständig planen, mehrere Werkzeuge verketten oder ihr Vorgehen bei Bedarf anpassen können. Gartner geht davon aus, dass bis Ende 2027 bis zu 40 Prozent der als „agentisch" gestarteten Projekte eingestellt werden.

End of 2027 | Gartner

agentic-ai; ki-agent; ki-governance

Für dein Unternehmen

Vor einer Investition in ein „KI-Agenten"-Produkt lohnt sich eine kritische Prüfung, ob das System tatsächlich selbstständig mehrstufige Aufgaben plant und ausführt. Konkrete Rückfragen an Anbieter schützen vor Fehlinvestitionen: Welche Entscheidungen trifft das System eigenständig? Was passiert bei unvorhergesehenen Situationen?

Geschäftsführung, IT, Recht, Einkauf

A

Recht, Ethik und Sicherheit

AI Bias

AI Bias bezeichnet systematische Verzerrungen in den Ergebnissen von KI-Systemen. Sie entstehen vor allem, weil Sprachmodelle auf riesigen Mengen menschlich verfasster Trainingsdaten beruhen, die selbst auf unterschiedliche Weise diskriminierend sein können.

Ausführliche Definition und Quellen

KI-Sprachmodelle lernen ihr Sprachverständnis aus gigantischen Mengen menschlich verfasster Texte und übernehmen damit zwangsläufig auch die Verzerrungen, Stereotype und Ungleichgewichte, die in diesen Texten stecken. Das kann sich auf ganz unterschiedliche Weise zeigen: etwa wenn bestimmte Berufe überproportional häufig mit einem Geschlecht verknüpft werden, wenn Perspektiven einzelner Regionen oder Bevölkerungsgruppen in den Trainingsdaten unterrepräsentiert sind, oder wenn schon die Auswahl und Gewichtung der Trainingsdaten selbst eine Schlagseite hat.

There's a new kind of coding I call "vibe coding" | Andrej Karpathy, X/Twitter-Post, 2. Februar 2025

trainingsdaten; explainable-ai; verantwortungsvolle-ki

Für dein Unternehmen

Beim Einsatz von KI in Personalprozessen oder Kreditentscheidungen ist eine regelmäßige Prüfung auf Verzerrungen keine Kür, sondern zunehmend rechtliche und reputative Notwendigkeit: Diskriminierungsklagen wegen KI-Entscheidungen nehmen international zu.

Recht, HR, Geschäftsführung, Betriebsrat

A

Aktuelle KI-Trends

AI Hub / Agenten-Ökosystem

Ein AI Hub ist eine zentrale Integrationsplattform, die Unternehmensdaten, Systeme und verschiedene KI- Modelle oder -Agenten miteinander verbindet.

Ausführliche Definition und Quellen

AI Hubs sind Plattformen, die als zentrale Schaltstelle zwischen unternehmenseigenen Daten, IT-Systemen und verschiedenen KI-Modellen oder -Agenten fungieren, statt jede Anwendung einzeln anzubinden. Sie erlauben es, mehrere spezialisierte Agenten und Modelle koordiniert einzusetzen und einheitlich zu steuern.

Agentic AI: a comprehensive survey of architectures, applications, and future directions | Abou Ali, Dornaika, Charafeddine, Artificial Intelligence Review (Springer), 2026

multi-agenten-system; model-context-protocol; corporate-llm

Für dein Unternehmen

Wer mit mehreren KI-Anwendungen gleichzeitig arbeitet (Chatbot, Copilot, Agenten für einzelne Abteilungen), sollte frühzeitig auf eine konsolidierte, zentral steuerbare Architektur achten, um nicht in unübersichtlichen Tool- Wildwuchs zu geraten.

IT, Geschäftsführung

A

KI im Unternehmenseinsatz

API

Programmierschnittstelle

Eine API ist eine standardisierte Schnittstelle, über die verschiedene Softwaresysteme miteinander kommunizieren: der technische Weg, wie eigene Programme KI-Dienste nutzen.

Ausführliche Definition und Quellen

Eine API (Application Programming Interface) definiert, wie zwei Softwaresysteme miteinander Daten austauschen können, ohne dass ein Mensch manuell eingreifen muss. Die meisten KI-Anbieter stellen ihre Modelle über APIs bereit: Ein Unternehmen kann so ChatGPT, Claude oder ein eigenes Modell direkt in seine Website, sein CRM oder seine interne Software einbinden, statt Mitarbeitende in einer separaten Chat-Oberfläche arbeiten zu lassen.

Degeneration | Holtzman, Buys, Du, Forbes, Choi, University of Washington/AI2, ICLR, 2020 (arXiv:1904.09751)

corporate-llm; no-code-low-code-ki; mlops; model-context-protocol

Für dein Unternehmen

Über APIs lässt sich KI tief in bestehende Abläufe integrieren, etwa automatische Kategorisierung eingehender E- Mails direkt im Postfach. Das erfordert meist externe oder interne Entwicklungskapazität, bringt dafür aber oft einen größeren Effizienzgewinn als isolierte Einzeltools.

IT, Einkauf, F&E

A

Aktuelle KI-Trends

Artificial General Intelligence

AGI

AGI bezeichnet eine noch nicht existierende KI, die menschliche Denkfähigkeit über praktisch alle Aufgabenbereiche hinweg erreicht oder übertrifft, anders als heutige, auf einzelne Aufgaben spezialisierte Systeme.

Ausführliche Definition und Quellen

Artificial General Intelligence beschreibt ein hypothetisches KI-System, das nicht nur für eng umrissene Aufgaben trainiert ist, sondern flexibel neue Probleme über verschiedenste Bereiche hinweg lösen kann, vergleichbar mit der Anpassungsfähigkeit menschlichen Denkens. Der Fachbeirat für Forschung und Innovation (EFI) sowie zahlreiche Expertinnen und Experten halten laut Bitkom (2026) die Entstehung einer AGI zwischen 2030 und 2040, womöglich früher, für plausibel.

SAP launches AI Agent Hub at Sapphire 2026 to tame vendor agent sprawl | The New Stack

agentic-ai; ki-governance; reasoning-modell

Für dein Unternehmen

Auch wenn AGI noch nicht existiert, empfiehlt der Digitalverband Bitkom, ein mögliches AGI-Szenario bereits heute in strategische Planungen einzubeziehen. Für den Mittelstand heißt das vor allem: Die Entwicklungsgeschwindigkeit von KI dürfte eher zu- als abnehmen. Langfristige IT- und Kompetenzplanung sollte das berücksichtigen.

Geschäftsführung, IT

A

Generative KI und Sprachmodelle

Chain-of-Thought

Gedankenkette

Chain-of-Thought ist eine Prompt-Technik, bei der man ein Sprachmodell auffordert, seine Zwischenschritte offenzulegen, was komplexe Aufgaben oft zuverlässiger löst.

Ausführliche Definition und Quellen

Beim Chain-of-Thought-Prompting wird ein Sprachmodell angewiesen, seinen Lösungsweg in einzelnen, nachvollziehbaren Schritten darzulegen, statt direkt eine Endantwort zu liefern, etwa durch die Anweisung „Denke Schritt für Schritt". Das verbessert nachweislich die Genauigkeit bei Rechen-, Logik- und mehrstufigen Textaufgaben und macht zugleich nachvollziehbar, wie das Modell zu seinem Ergebnis kam.

Neural Machine Translation of Rare Words with Subword Units | Sennrich, Haddow, Birch, ACL, 2016 (arXiv:1508.07909)

reasoning-modell; prompt-engineering; explainable-ai

Für dein Unternehmen

Bei geschäftskritischen Auswertungen lohnt es sich, das Modell explizit um seine Begründung zu bitten: Das erleichtert die menschliche Plausibilitätsprüfung und deckt Denkfehler frühzeitig auf.

IT, Finanzen/Controlling

C

KI im Unternehmenseinsatz

Chatbot / Conversational AI

Ein Chatbot ist ein Dialogsystem, das über Text oder gesprochene Sprache (Voice AI) mit Menschen kommuniziert: heute meist auf Basis generativer KI statt starrer Regeln.

Ausführliche Definition und Quellen

Chatbots simulieren ein Gespräch mit Nutzenden, etwa auf einer Website oder in einer Support-Hotline. Frühe Chatbots folgten starren Regelbäumen mit begrenzten Antwortmöglichkeiten; moderne, auf Sprachmodellen basierende Chatbots (Conversational AI) verstehen freie Formulierungen, halten Gesprächskontext und können auf angebundene Wissensdatenbanken zugreifen. Wird die Kommunikation komplett über gesprochene Sprache abgewickelt, spricht man auch von Voice AI.

Was ist eine API? | Computerwoche (IDG)

ki-agent; retrieval-augmented-generation; natural-language-processing

Für dein Unternehmen

48 Prozent der Erwerbstätigen in Deutschland nutzen KI bei der Arbeit bereits zumindest gelegentlich (Bitkom Research 2026). Ein gut konfigurierter Kundenservice-Chatbot kann Standardanfragen rund um die Uhr abfangen und Mitarbeitende für komplexere Fälle entlasten, vorausgesetzt, die Eskalation an Menschen funktioniert reibungslos.

IT, Geschäftsführung, Kundenservice, Vertrieb

C

KI im Unternehmenseinsatz

Computer Vision

Maschinelles Sehen

Computer Vision ist der KI-Teilbereich, der Computern das Erkennen und Interpretieren von Bildern und Videos beibringt.

Ausführliche Definition und Quellen

Computer Vision versetzt Software in die Lage, Inhalte in Bildern und Videos zu erkennen, einzuordnen und zu interpretieren: Objekte zu zählen, Defekte zu erkennen, Texte in Dokumenten zu erfassen oder Personen zu identifizieren. Sie basiert meist auf Deep Learning und ist die technische Grundlage für Anwendungen wie optische Qualitätskontrolle oder automatisierte Dokumentenverarbeitung.

Machine | Weizenbaum, MIT, Communications of the ACM, 1966 Bitkom Research – Künstliche Intelligenz in Deutschland (2026) ImageNet Classification with Deep Convolutional Neural Networks | Krizhevsky, Sutskever, Hinton, University of Toronto, NeurIPS, 2012 EU-Gesetz zur künstlichen Intelligenz | Aktuelle Entwicklungen und Analysen zum EU-KI-Gesetz

deep-learning; multimodale-ki; predictive-maintenance; eu-ai-act

Für dein Unternehmen

In der Fertigung ersetzt oder ergänzt Computer Vision die manuelle Sichtprüfung von Bauteilen; im Büro automatisiert sie das Auslesen von Rechnungen, Lieferscheinen oder Ausweisdokumenten. Beim Einsatz mit Personenbezug (z. B. Kamerasysteme) gelten strenge Anforderungen aus DSGVO und EU AI Act.

IT

C

KI im Unternehmenseinsatz

Corporate LLM

Ein Corporate LLM ist ein Sprachmodell, das ein Unternehmen auf eigener Infrastruktur oder mit strikten Datenschutzvorgaben betreibt und eng mit internen Systemen verzahnt.

Ausführliche Definition und Quellen

Corporate LLMs sind firmeneigene oder streng kontrollierte Sprachmodelle, die auf unternehmenseigenen Servern oder in dedizierten, vertraglich abgesicherten Cloud-Umgebungen laufen und eng mit internen Datenquellen verbunden sind. Sie reduzieren Halluzinationen durch domänenspezifisches Training beziehungsweise Anbindung (siehe RAG) und ermöglichen den Einsatz in regulierten Bereichen, ohne dass sensible Daten das Unternehmen verlassen.

Künstliche Intelligenz: Wo man das eigene generative Sprachmodell betreiben kann | heise online

retrieval-augmented-generation; kleines-sprachmodell; datensouveranitat; open-source-ki

Für dein Unternehmen

Für Unternehmen mit hohen Datenschutz- oder Geheimhaltungsanforderungen (etwa in der Zulieferindustrie oder im Gesundheitswesen) ist ein Corporate LLM oft der einzige Weg, generative KI ohne Datenabfluss an US- Anbieter zu nutzen. 67 Prozent der Menschen in Deutschland würden lieber eine KI aus Deutschland nutzen.

IT, Geschäftsführung, HR, Datenschutzbeauftragter

C

Recht, Ethik und Sicherheit

Datenschutz und KI

DSGVO

Der Einsatz von KI mit personenbezogenen Daten unterliegt zusätzlich zum EU AI Act weiterhin vollständig der Datenschutz-Grundverordnung.

Ausführliche Definition und Quellen

Die Datenschutz-Grundverordnung (DSGVO) gilt unabhängig vom EU AI Act für jede Verarbeitung personenbezogener Daten, auch wenn diese Verarbeitung durch KI erfolgt. Das betrifft etwa das Training von Modellen mit Kundendaten, den Einsatz von Chatbots mit Zugriff auf Kundendatensätze oder automatisierte Entscheidungen über Personen. Zentrale Prinzipien wie Zweckbindung, Datenminimierung und das Recht auf Erklärung automatisierter Entscheidungen gelten uneingeschränkt weiter.

Embeddings | Bolukbasi et al., Boston University/Microsoft Research, NeurIPS, 2016 (arXiv:1607.06520)

eu-ai-act; datensouveranitat; shadow-ai

Für dein Unternehmen

Bevor Kundendaten in ein KI-Tool eingegeben werden, sollte geklärt sein, wo die Daten verarbeitet werden, ob ein Auftragsverarbeitungsvertrag besteht und ob die Daten zum Training des Anbietermodells verwendet werden dürfen: Viele kostenlose KI-Dienste tun dies standardmäßig.

Recht, IT, Datenschutzbeauftragter, Betriebsrat

D

Recht, Ethik und Sicherheit

Datensouveränität

Datensouveränität bedeutet, dass ein Unternehmen oder eine Person die volle Kontrolle darüber behält, wo eigene Daten verarbeitet werden und wer darauf zugreifen kann.

Ausführliche Definition und Quellen

Datensouveränität beschreibt die Fähigkeit, selbstbestimmt zu entscheiden, wo eigene oder Kundendaten gespeichert und verarbeitet werden, wer Zugriff erhält und nach welchem Recht diese Verarbeitung erfolgt. Bei KI-Diensten internationaler Anbieter ist das oft nicht vollständig transparent: 87 Prozent der Unternehmen in Deutschland vermissen laut Bitkom Cloud Report 2026 ausreichende Transparenz über Datenverarbeitung und Zugriffsrechte bei internationalen Anbietern souveräner Cloud-Angebote.

Verordnung (EU) 2016/679 (DSGVO), insb. Art. 4, 5, 6, 9, 22 EU-Gesetz zur künstlichen Intelligenz | Aktuelle Entwicklungen und Analysen zum EU-KI-Gesetz Bitkom: Künstliche Intelligenz & Datenschutz, Praxisleitfaden (Version 2.0)

datenschutz-und-ki; corporate-llm; ki-governance; open-source-ki

Für dein Unternehmen

Vor dem Einsatz eines KI- oder Cloud-Dienstes lohnt die konkrete Nachfrage: Wo stehen die Server, unterliegt der Anbieter außereuropäischem Recht mit möglichem Datenzugriff durch Behörden, und gibt es einen wirksamen Auftragsverarbeitungsvertrag nach DSGVO?

Recht, IT, Geschäftsführung, Datenschutzbeauftragter, Einkauf

D

Recht, Ethik und Sicherheit

Deepfake

Ein Deepfake ist ein mittels KI erzeugtes, täuschend echtes Bild-, Audio- oder Videomaterial, das reale Personen Dinge sagen oder tun lässt, die nie stattgefunden haben.

Ausführliche Definition und Quellen

Deepfakes nutzen generative KI, meist Diffusions- oder ähnliche Modelle, um Gesichter, Stimmen oder ganze Videosequenzen so realistisch zu manipulieren oder neu zu erzeugen, dass sie kaum noch von echtem Material zu unterscheiden sind. Neben kreativen und harmlosen Anwendungen bergen Deepfakes erhebliches Missbrauchspotenzial, etwa für Betrug, Desinformation oder CEO-Fraud-Angriffe auf Unternehmen.

Data sovereignty: A review | Hummel, Braun, Tretter, Dabrock, FAU Erlangen-Nürnberg, Big Data & Society, 2021 Bitkom Research – Cloud Report 2026 FaceForensics++: Learning to Detect Manipulated Facial Images | Rössler, Cozzolino, Verdoliva, Riess, Thies, Nießner, ICCV, 2019 (arXiv:1901.08971) BSI: Deepfakes, Gefahren und Gegenmaßnahmen

urheberrecht-und-ki; prompt-injection; ki-governance

Für dein Unternehmen

Betrugsversuche mit gefälschten Video- oder Audioanrufen vermeintlicher Vorgesetzter, die dringende Überweisungen anordnen, nehmen zu. Klare interne Freigabeprozesse für Zahlungen (unabhängig von der Dringlichkeit einer Anweisung) sind der wirksamste Schutz.

Recht, HR, Geschäftsführung

D

Grundlagen und Technologie

Deep Learning

Deep Learning ist eine Methode des maschinellen Lernens mit vielschichtigen neuronalen Netzen, die besonders gut mit Bildern, Sprache und Text umgehen kann.

Ausführliche Definition und Quellen

Deep Learning ist eine Unterform des maschinellen Lernens, die auf künstlichen neuronalen Netzen mit vielen übereinanderliegenden Schichten basiert, daher „deep" (tief). Diese Architektur ermöglicht es, sehr komplexe Muster in Bildern, Ton oder Text zu erkennen, etwa Gesichter, Sprache oder Stimmungen in Texten. Alle modernen Sprachmodelle wie ChatGPT oder Copilot basieren auf Deep Learning.

Deep Learning (Kapitel 1: Introduction) | Goodfellow, Bengio, Courville, MIT Press, 2016

maschinelles-lernen; neuronales-netz; transformer-architektur; computer-vision

Für dein Unternehmen

Deep Learning steckt meist unsichtbar in fertigen Werkzeugen (Spracherkennung, Bildprüfung, Übersetzung). Mittelständische Unternehmen müssen es selten selbst entwickeln, sollten aber verstehen, dass dahinter enorme Rechenleistung und Trainingsdaten stehen.

IT, F&E

D

Aktuelle KI-Trends

Edge AI / On-Device KI

Edge AI führt KI-Berechnungen direkt auf dem Gerät oder vor Ort aus, statt Daten für die Verarbeitung erst in die Cloud zu senden.

Ausführliche Definition und Quellen

Edge AI verlagert die Ausführung von KI-Modellen von zentralen Cloud-Rechenzentren auf lokale Geräte oder Server vor Ort: eine Maschine, ein Kamerasystem, ein Firmenserver. Das reduziert Latenz, funktioniert auch bei instabiler Internetverbindung und verbessert den Datenschutz, weil sensible Daten das Gerät nicht verlassen müssen. Konkrete Beispiele für lokal laufende KI-Agenten sind etwa Hermes Agent, der direkt auf leistungsfähigen Windows-Rechnern läuft, oder das quelloffene Projekt OpenClaw, das KI-Agenten auch auf Kleinstcomputern wie dem Raspberry Pi lauffähig macht.

A Definition of Machine Intelligence | Legg & Hutter, Minds and Machines, 2007 Bitkom-Stellungnahme zur Hightech- Agenda KI Roadmap (2026)

kleines-sprachmodell; computer-vision; predictive-maintenance

Für dein Unternehmen

Für Produktionsstandorte mit sicherheitskritischen oder echtzeitkritischen Anwendungen (etwa Qualitätskontrolle am Band) ist Edge AI oft die einzig praktikable Lösung, weil eine Cloud-Anbindung zu langsam oder zu unzuverlässig wäre.

IT, Geschäftsführung, Produktion

E

Recht, Ethik und Sicherheit

EU AI Act

Der EU AI Act ist die weltweit erste umfassende KI-Verordnung der Europäischen Union; sie staffelt Pflichten für Unternehmen nach dem Risiko einer KI-Anwendung.

Ausführliche Definition und Quellen

Der EU AI Act (Verordnung 2024/1689) reguliert KI-Systeme in der EU risikobasiert und tritt stufenweise in Kraft: Seit Februar 2025 gelten Verbote bestimmter KI-Praktiken sowie Pflichten zur KI-Kompetenz von Mitarbeitenden; seit August 2025 Governance-Regeln für sehr große KI-Modelle (GPAI); seit August 2026 die vollständigen Anforderungen an Hochrisiko-KI-Systeme inklusive Transparenzpflichten. Verstöße können je nach Schwere mit Bußgeldern von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden.

Intelligenz | Aktuelle Entwicklungen und Analysen zum EU-KI-Ges

ki-kompetenz; ki-governance; verantwortungsvolle-ki

Für dein Unternehmen

Auch wenn viele Mittelständler keine Hochrisiko-KI im engeren Sinn einsetzen, gilt die Pflicht zur KI-Kompetenz (Art. 4) branchenübergreifend: Unternehmen müssen sicherstellen, dass Beschäftigte, die KI nutzen, ausreichend über deren Funktionsweise und Risiken geschult sind.

Recht, Geschäftsführung, Datenschutzbeauftragter, Betriebsrat

E

Recht, Ethik und Sicherheit

Explainable AI

XAI, Erklärbarkeit

Explainable AI umfasst Methoden, die nachvollziehbar machen, warum ein KI-System zu einer bestimmten Entscheidung oder Ausgabe gekommen ist.

Ausführliche Definition und Quellen

Viele leistungsfähige KI-Modelle, insbesondere Deep-Learning-Systeme, funktionieren als „Black Box": Ihre Entscheidungswege sind selbst für Fachleute schwer nachzuvollziehen. Explainable AI (XAI) umfasst Techniken, die zumindest teilweise offenlegen, welche Faktoren eine KI-Entscheidung beeinflusst haben. Wichtig ist die Abgrenzung zu Chain- of-Thought: Die von einem Sprachmodell angezeigten Zwischenschritte sind keine garantiert wahrheitsgetreue Erklärung seiner internen Funktionsweise, sondern selbst wieder nur generierter Text. Echte Explainable AI setzt daher auf zusätzliche, vom Modell unabhängige Analyseverfahren.

etz Bitkom: Umsetzungsleitfaden zur KI-Verordnung (Version 2.0)

ai-bias; ki-governance; modellkarte; chain-of-thought

Für dein Unternehmen

In regulierten Bereichen wie Kreditvergabe, Versicherung oder Personalauswahl ist Erklärbarkeit oft eine rechtliche Voraussetzung: Betroffene Personen haben nach DSGVO grundsätzlich das Recht, eine automatisierte Entscheidung nachvollziehen zu können.

IT, Recht

E

Generative KI und Sprachmodelle

Fine-Tuning

Fine-Tuning bedeutet, ein bereits vortrainiertes KI-Modell mit zusätzlichen, spezialisierten Daten weiterzutrainieren, damit es sich auf eine bestimmte Aufgabe oder Domäne einstellt.

Ausführliche Definition und Quellen

Beim Fine-Tuning wird ein vortrainiertes Foundation Model mit einem kleineren, spezialisierten Datensatz weitertrainiert, etwa mit den eigenen Support-Tickets eines Unternehmens, um es an einen bestimmten Tonfall, ein Fachgebiet oder eine Aufgabe anzupassen. Es ist deutlich günstiger als ein komplett neues Modell zu trainieren, erfordert aber dennoch technisches Know-how und qualitativ gute Trainingsdaten.

Generative KI ist Chain-of-Thought Prompting Elicits Reasoning in Large Language Models | Wei et al., Google Research, NeurIPS, 2022 (arXiv:2201.11903)

foundation-model; retrieval-augmented-generation; trainingsdaten

Für dein Unternehmen

Für die meisten Mittelständler ist Retrieval-Augmented Generation der einfachere und günstigere erste Schritt zur Individualisierung; Fine-Tuning lohnt sich meist erst bei sehr spezifischem Sprachstil oder hohem, wiederkehrendem Anfragevolumen.

IT, F&E

F

Grundlagen und Technologie

Foundation Model

Ein Foundation Model ist ein großes, breit vortrainiertes KI-Modell, das als Basis für viele verschiedene Anwendungen dient.

Ausführliche Definition und Quellen

Foundation Models sind großflächig auf riesigen, allgemeinen Datenmengen trainierte KI-Modelle, die danach für viele unterschiedliche Aufgaben angepasst oder direkt genutzt werden können, von Textgenerierung über Bildanalyse bis Programmierung. GPT, Claude, Gemini oder Llama sind bekannte Beispiele. Statt für jede Aufgabe ein eigenes Modell zu bauen, dient ein Foundation Model als gemeinsame Basis.

On the Opportunities and Risks of Foundation Models | Bommasani et al., Stanford CRFM/HAI, 2021 (arXiv:2108.07258); Bitkom-Stellungnahme zur Hightech-Agenda KI Roadmap (2026)

large-language-model; fine-tuning; generative-ki

Für dein Unternehmen

Die Bundesregierung plant im Rahmen der Hightech-Agenda KI bis 2027 den Zugang zu einem leistungsfähigen europäischen KI-Basismodell, unter anderem für Bildung und Verwaltung (Bitkom 2026). Für Unternehmen bedeutet das mittelfristig mehr Auswahl neben US-Anbietern wie OpenAI oder Google.

IT, Geschäftsführung, F&E

F

Generative KI und Sprachmodelle

Generative KI

Generative KI erzeugt eigenständig neue Inhalte (Texte, Bilder, Audio oder Code), statt nur bestehende Daten zu analysieren oder zu klassifizieren.

Ausführliche Definition und Quellen

Generative KI (Generative AI) beschreibt Systeme, die neue, bislang nicht existierende Inhalte erzeugen: Texte, Bilder, Musik, Videos oder Programmcode. Im Gegensatz zu klassifizierender KI, die vorhandene Daten einordnet, „schafft" generative KI etwas Neues auf Basis der beim Training gelernten Muster. ChatGPT, Midjourney und GitHub Copilot sind bekannte Beispiele unterschiedlicher generativer Systeme.

Generative Adversarial Networks | Goodfellow et al., Université de Montréal, NeurIPS, 2014 (arXiv:1406.2661)

large-language-model; prompt; multimodale-ki

Für dein Unternehmen

77 Prozent der KI-Nutzenden in Deutschland sagen, KI mache ihnen Spaß, 76 Prozent, sie erleichtere ihr Leben (Bitkom Research 2026). Generative KI ist meist der einfachste Einstieg für Mittelständler, weil sie sich ohne Programmierkenntnisse per Texteingabe nutzen lässt.

IT, Geschäftsführung, Marketing, Vertrieb

G

Recht, Ethik und Sicherheit

Green AI

Nachhaltige KI

Green AI bezeichnet den bewussten Umgang mit dem Energie-, Wasser- und Rechenressourcenverbrauch von KI-Systemen: von der Modellwahl über die Rechenzentrumsinfrastruktur bis zum laufenden Betrieb von Chatbots und KI-Agenten. Der Begriff ist als Gegenentwurf zum reinen Streben nach immer größeren, genaueren Modellen entstanden.

Ausführliche Definition und Quellen

Geprägt wurde der Begriff 2019 von den Forschenden Schwartz, Dodge, Smith und Etzioni, die Green AI (Effizienz als Bewertungskriterium neben Genauigkeit) von Red AI (Genauigkeit um praktisch jeden Rechenpreis) abgrenzten und feststellten, dass der Rechenaufwand für KI-Training zwischen 2012 und 2018 um etwa das 300.000-Fache gestiegen war. Der Ressourcenverbrauch betrifft nicht nur das einmalige Training, sondern läuft bei jeder einzelnen Anfrage (Inferenz) weiter mit. Auch Wasser für die Kühlung von Rechenzentren fällt ins Gewicht: Laut Li, Yang, Islam und Ren verdunstete allein das Training von GPT-3 in US-Rechenzentren von Microsoft rund 700.000 Liter Süßwasser. Besonders bei Agentic AI steigt der Verbrauch pro erledigter Aufgabe: Weil Agenten mehrere Modellaufrufe und Tool-Nutzungen verketten, kann der Energiebedarf pro Aufgabe laut Harvard-Forschenden um das bis zu 97-Fache steigen.

Towards A Rigorous Science of Interpretable Machine Learning | Doshi-Velez & Kim, Harvard University, 2017 (arXiv:1702.08608)

kleines-sprachmodell; edge-ai-on-device-ki; agentic-ai; token-okonomie

Für dein Unternehmen

Für den deutschen Mittelstand ist die CSRD (Corporate Sustainability Reporting Directive) der wichtigste regulatorische Anknüpfungspunkt. Nach der Omnibus-Reform vom Dezember 2025 sind direkt nur noch Unternehmen mit über 1.000 Beschäftigten und mehr als 450 Millionen Euro Jahresumsatz zur vollständigen CSRD-Berichterstattung verpflichtet. Indirekt betroffen sind viele trotzdem: Größere Kunden und Kreditgeber fragen zunehmend Nachhaltigkeitskennzahlen von Zulieferern ab. Praktisch lässt sich das Prinzip einfach umsetzen: kleinere Sprachmodelle oder Edge-AI-Lösungen für Standardaufgaben statt reflexhaft das größte verfügbare Modell, Anbieter mit Ökostrom-Rechenzentren bevorzugen.

Geschäftsführung, Recht, IT, Produktion, Finanzen/Controlling

G

Aktuelle KI-Trends

Grounding

Grounding bedeutet, KI-Antworten fest an geprüfte, externe Fakten- oder Datenquellen zu binden, um Halluzinationen zu reduzieren.

Ausführliche Definition und Quellen

Grounding beschreibt Verfahren, mit denen die Ausgaben eines Sprachmodells an überprüfbare, externe Informationsquellen rückgebunden werden, statt sich allein auf das während des Trainings gelernte, teils veraltete Wissen zu verlassen. Retrieval-Augmented Generation ist die verbreitetste Grounding-Technik; auch die Anbindung an Websuche oder strukturierte Datenbanken zählt dazu.

Empowering Edge Intelligence: A Comprehensive Survey on On-Device AI Models | Xu et al., ACM Computing Surveys, 2025 Set Up Hermes Agent on Your Copilot+ PC | ASUS OpenClaw is open-source edge AI for (almost) every application | Microcontroller Tips

halluzination; retrieval-augmented-generation; corporate-llm

Für dein Unternehmen

Bei geschäftskritischen KI-Anwendungen sollte immer geprüft werden, ob und wie „gegroundet" wird, also woher das System seine Informationen bezieht. Das ist ein zentrales Qualitätskriterium bei der Auswahl von KI-Anbietern.

IT

G

Generative KI und Sprachmodelle

Halluzination

Eine Halluzination ist eine von der KI erzeugte Aussage, die falsch oder erfunden ist, dabei aber selbstsicher und plausibel klingt.

Ausführliche Definition und Quellen

KI-Halluzinationen entstehen, weil Sprachmodelle keine Fakten aus einer Datenbank abrufen, sondern statistisch das wahrscheinlichste nächste Wort vorhersagen. Fehlt gesichertes Wissen zu einer Frage, „erfindet" das Modell plausibel klingende, aber falsche Informationen, etwa nicht existierende Studien, Gesetze oder Quellen. In Deutschland sorgen sich laut Bitkom Research (2026) 50 Prozent der Bevölkerung um schwer erkennbare Falschinformationen durch KI.

Survey of Hallucination in Natural Language Generation | Ji et al., HKUST, ACM Computing Surveys, 2023 (arXiv:2202.03629); Bitkom Research – Künstliche Intelligenz in Deutschland (2026)

retrieval-augmented-generation; grounding; large-language-model

Für dein Unternehmen

Ergebnisse generativer KI sollten bei geschäftskritischen Inhalten (Verträgen, Kundenkommunikation, Compliance-Texten) grundsätzlich von Menschen geprüft werden. Techniken wie Retrieval-Augmented Generation senken das Halluzinationsrisiko deutlich.

IT, Geschäftsführung, Vertrieb, Kundenservice

H

Aktuelle KI-Trends

Human-in-the-loop / Human-on-the-loop

Human-in-the-loop bedeutet, dass Menschen jeden KI-Schritt einzeln freigeben; Human-on-the-loop bedeutet, dass Menschen die laufende Ausführung nur noch überwachen und bei Bedarf eingreifen.

Ausführliche Definition und Quellen

Human-in-the-loop beschreibt Systeme, bei denen ein Mensch jeden relevanten Einzelschritt einer KI prüft und freigibt, bevor er wirksam wird, etwa jede von der KI vorformulierte Kundenantwort. Mit zunehmend autonomen KI-Agenten verschiebt sich dies zu Human-on-the-loop: Menschen legen Leitplanken und Eskalationsregeln fest und überwachen den Prozess, greifen aber nur noch bei Auffälligkeiten oder am Ende ein.

Knowledge-Intensive NLP Tasks | Lewis et al., FAIR/UCL, NeurIPS, 2020 (arXiv:2005.11401)

agentic-ai; ki-governance; ki-agenten-monitoring

Für dein Unternehmen

Bei der Einführung von KI-Agenten sollte bewusst entschieden werden, welches Modell zum Risiko der jeweiligen Aufgabe passt: Bei Zahlungsfreigaben oder Vertragsversand ist Human-in-the-loop meist Pflicht, bei internen Recherche- oder Sortieraufgaben kann Human-on-the-loop ausreichen.

IT, Geschäftsführung, Recht, Betriebsrat

H

Grundlagen und Technologie

Inferenz

Inferenz ist der Moment, in dem ein trainiertes KI-Modell auf Basis einer Eingabe eine Antwort berechnet.

Ausführliche Definition und Quellen

Während des Trainings lernt ein Modell aus Daten; bei der Inferenz wendet es das Gelernte auf neue, unbekannte Eingaben an, etwa wenn eine Chat-Anfrage beantwortet oder ein Bild klassifiziert wird. Inferenz benötigt deutlich weniger Rechenleistung als das Training, verursacht aber bei jeder Nutzung Kosten und Energieverbrauch.

Efficient Processing of Deep Neural Networks: A Tutorial and Survey | Sze, Chen, Yang, Emer, MIT, Proceedings of the IEEE, 2017 (arXiv:1703.09039)

maschinelles-lernen; edge-ai-on-device-ki; fine-tuning

Für dein Unternehmen

Die laufenden Kosten eines KI-Produkts entstehen für Anwender meist bei der Inferenz durch die Token- Generierung, nicht beim einmaligen Training. Bei häufig genutzten Anwendungen lohnt sich ein Blick auf Inferenzkosten pro Anfrage.

IT

I

KI im Unternehmenseinsatz

KI-Agent

Ein KI-Agent ist ein System, das ein Ziel selbstständig verfolgt, dafür Werkzeuge und Informationsquellen nutzt und mehrere Schritte eigenständig plant.

Ausführliche Definition und Quellen

Ein KI-Agent erhält ein Ziel oder eine Aufgabe, etwa „prüfe eingehende Rechnungen und lege sie im richtigen Ordner ab", und plant und führt die dafür nötigen Einzelschritte weitgehend eigenständig aus, statt bei jedem Schritt eine neue Anweisung zu benötigen. Dabei kann er auf externe Werkzeuge zugreifen: Datenbanken abfragen, E-Mails verschicken, andere Programme über Schnittstellen ansteuern.

line Bitkom Research – Künstliche Intelligenz in Deutschland (2026)

agentic-ai; multi-agenten-system; chatbot-conversational-ai; agent-washing; skills

Für dein Unternehmen

KI-Agenten eignen sich für mehrstufige, aber klar abgegrenzte Prozesse wie Rechnungsprüfung, Terminkoordination oder Erstsichtung von Bewerbungen. Wichtig ist ein sauberes Monitoring, damit Fehler früh auffallen und nicht unbemerkt Folgeschritte auslösen.

IT, Geschäftsführung, Vertrieb, Einkauf, Kundenservice

K

Aktuelle KI-Trends

KI-Agenten-Monitoring

Observability

KI-Agenten-Monitoring überwacht laufend, welche Aktionen autonome KI-Agenten ausführen, um Fehler, Missbrauch oder Compliance-Verstöße frühzeitig zu erkennen.

Ausführliche Definition und Quellen

Je autonomer KI-Agenten agieren, desto wichtiger wird die lückenlose Protokollierung und Überwachung ihrer Aktionen: welche Entscheidungen sie treffen, welche Werkzeuge sie nutzen, welche Daten sie verarbeiten. Agenten-Monitoring schafft die Nachvollziehbarkeit, die für Compliance, Fehlersuche und Vertrauen in automatisierte Prozesse notwendig ist.

Power to the People: The Role of Humans in Interactive Machine Learning | Amershi, Cakmak, Knox, Kulesza, Microsoft Research, AI Magazine, 2014

ki-agent; human-in-the-loop-human-on-the-loop; ki-governance

Für dein Unternehmen

Vor der produktiven Einführung von KI-Agenten sollte feststehen, wie deren Aktionen protokolliert und im Nachhinein geprüft werden können, ähnlich einem Prüfpfad in der Buchhaltung, nur für automatisierte Entscheidungen.

IT

K

Recht, Ethik und Sicherheit

KI-Governance

KI-Governance umfasst die internen Regeln, Zuständigkeiten und Kontrollprozesse, mit denen ein Unternehmen den verantwortungsvollen Einsatz von KI steuert.

Ausführliche Definition und Quellen

KI-Governance bezeichnet die organisatorischen Strukturen, Richtlinien und Verantwortlichkeiten, mit denen ein Unternehmen festlegt, wie KI eingeführt, genutzt und überwacht wird: wer welche Tools freigeben darf, wie Risiken bewertet werden, wie mit Fehlern umgegangen wird. Sie ist die unternehmensinterne Entsprechung zu den regulatorischen Vorgaben des EU AI Act.

eu-ai-act; shadow-ai; ki-kompetenz; verantwortungsvolle-ki

Für dein Unternehmen

Schon eine einfache, ein bis zwei Seiten lange KI-Richtlinie mit klaren Regeln (welche Tools erlaubt sind, was nicht eingegeben werden darf, wer bei Fragen Ansprechpartner ist) reduziert Risiken durch Shadow AI erheblich und schafft Orientierung im Team.

K

Recht, Ethik und Sicherheit

KI-Kompetenz

AI Literacy

KI-Kompetenz bezeichnet das Wissen und die Fähigkeiten, die Beschäftigte brauchen, um KI-Systeme sachkundig, sicher und kritisch einzusetzen. Seit Februar 2025 ist sie auch eine EU-weite Pflicht.

Ausführliche Definition und Quellen

Artikel 4 des EU AI Act verpflichtet Unternehmen bereits seit Februar 2025, sicherzustellen, dass Beschäftigte, die mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen: ein grundlegendes Verständnis der Funktionsweise, Grenzen und Risiken der eingesetzten Systeme. Das schließt technisches Wissen ebenso ein wie kritisches Hinterfragen von KI-Ausgaben.

IHK Schleswig-Holstein: AI-Act-Literacy, KI-Schulungspflicht

eu-ai-act; ki-governance; halluzination

Für dein Unternehmen

Diese Pflicht betrifft praktisch jedes Unternehmen, das KI-Tools einsetzt, auch reine Chat-Assistenten. Eine kurze, dokumentierte interne Schulung erfüllt nicht nur die gesetzliche Vorgabe, sondern senkt auch das Risiko von Fehlnutzung und blindem Vertrauen in KI-Ausgaben.

HR, Geschäftsführung, Betriebsrat

K

Generative KI und Sprachmodelle

Kleines Sprachmodell

Small Language Model, SLM

Ein kleines Sprachmodell ist eine kompaktere, ressourcenschonendere Variante eines Sprachmodells, die sich gezielt auf bestimmte Aufgaben spezialisieren lässt.

Ausführliche Definition und Quellen

Small Language Models (SLMs) besitzen deutlich weniger Parameter als große Foundation Models und sind dadurch schneller, günstiger im Betrieb und teils sogar lokal auf einem Firmenserver oder Endgerät lauffähig, statt zwingend in der Cloud zu laufen. Für klar abgegrenzte Aufgaben (etwa Rechnungen kategorisieren oder Support-Anfragen vorsortieren) erreichen sie oft eine mit großen Modellen vergleichbare Qualität.

Survey of Hallucination in Natural Language Generation | Ji et al., HKUST, ACM Computing Surveys, 2023 (arXiv:2202.03629) Bitkom Research – Künstliche Intelligenz in Deutschland (2026)

large-language-model; edge-ai-on-device-ki; corporate-llm

Für dein Unternehmen

SLMs sind ein interessanter Baustein für Unternehmen mit hohen Datenschutzanforderungen oder begrenztem IT-Budget: geringere Betriebskosten, keine Daten müssen zwingend das Haus verlassen, und die Ausgaben lassen sich besser planen als bei nutzungsabhängigen Cloud-Modellen.

IT

K

Grundlagen und Technologie

Large Language Model

LLM

Ein Large Language Model ist ein auf riesigen Textmengen trainiertes KI-Modell, das Sprache versteht und selbst zusammenhängenden Text erzeugt.

Ausführliche Definition und Quellen

Large Language Models (LLMs) sind Sprachmodelle mit Milliarden bis Billionen Parametern, die auf großen Mengen an Text trainiert wurden: Bücher, Webseiten, Code. Sie sagen jeweils das wahrscheinlichste nächste Wort voraus und können dadurch Texte verfassen, zusammenfassen, übersetzen oder Fragen beantworten. ChatGPT, Claude, Gemini und Copilot basieren alle auf LLMs.

A Tutorial and Survey | Sze, Chen, Yang, Emer, MIT, Proceedings of the IEEE, 2017 (arXiv:1703.09039)

foundation-model; generative-ki; kleines-sprachmodell

Für dein Unternehmen

71 Prozent der KI-Nutzenden in Deutschland verwenden ChatGPT, 50 Prozent Gemini und 43 Prozent Microsoft Copilot (Bitkom Research 2026). Für Unternehmen lohnt sich ein bewusster Vergleich, welches LLM zu Datenschutzanforderungen und Anwendungsfall passt, statt automatisch beim bekanntesten Namen zu bleiben.

IT, Geschäftsführung

L

Grundlagen und Technologie

Maschinelles Lernen

Machine Learning

Maschinelles Lernen ist ein Teilbereich der KI, bei dem Systeme aus Beispieldaten selbstständig Muster erkennen, statt fest programmiert zu werden.

Ausführliche Definition und Quellen

Maschinelles Lernen (ML) ist die Technik, mit der die meisten heutigen KI-Anwendungen gebaut werden. Statt jeden Schritt vorzugeben, zeigt man dem System viele Beispiele (etwa tausende Rechnungen oder Produktbilder), und der Algorithmus leitet daraus selbst Regeln und Muster ab. Je mehr und je bessere Daten zur Verfügung stehen, desto zuverlässiger werden die Vorhersagen.

Speech and Language Processing, 3rd ed. (Kap. 7: Large Language Models) | Jurafsky & Martin, Stanford University; Bitkom Research – Künstliche Intelligenz in Deutschland (2026)

deep-learning; trainingsdaten; reinforcement-learning

Für dein Unternehmen

ML eignet sich besonders für wiederkehrende Muster: Ausschussware erkennen, Nachfrage prognostizieren, Kündigungsrisiken bei Kunden einschätzen. Voraussetzung ist immer eine gewisse Menge sauberer, unternehmenseigener Daten.

IT, Geschäftsführung, Produktion

M

KI im Unternehmenseinsatz

MLOps

MLOps bezeichnet die Praktiken und Werkzeuge, mit denen KI-Modelle zuverlässig betrieben, überwacht und aktuell gehalten werden, ähnlich wie DevOps für klassische Software.

Ausführliche Definition und Quellen

MLOps (Machine Learning Operations) umfasst die Prozesse, mit denen KI-Modelle vom Training über die Bereitstellung bis zum laufenden Betrieb verwaltet werden: Versionierung, Qualitätsüberwachung, automatisches Nachtrainieren, wenn sich Daten ändern, und das rechtzeitige Erkennen, wenn ein Modell schlechter wird („Model Drift"). Ohne MLOps drohen KI-Systeme im Betrieb unbemerkt an Genauigkeit zu verlieren.

Synergizing Reasoning and Acting in Language Models | Yao et al., Princeton/Google Research, ICLR, 2023 (arXiv:2210.03629)

fine-tuning; trainingsdaten; modellkarte

Für dein Unternehmen

Wer KI-Modelle nicht nur einmalig testet, sondern dauerhaft produktiv einsetzt, sollte von Anfang an klären, wer die Ergebnisse laufend überwacht und wann nachjustiert wird. Das ist ein oft unterschätzter Kostenfaktor jenseits der Einführung.

IT, F&E

M

Aktuelle KI-Trends

Model Context Protocol

MCP

MCP ist ein offener Standard, der es KI-Modellen erlaubt, einheitlich auf externe Werkzeuge, Datenquellen und andere Systeme zuzugreifen.

Ausführliche Definition und Quellen

Das Model Context Protocol (MCP) ist ein 2024 von Anthropic vorgestellter offener Standard, der die Anbindung von KI-Modellen an externe Datenquellen, Dokumente und Werkzeuge vereinheitlicht (vergleichbar mit einer USB- Schnittstelle für KI-Integrationen). Statt für jede Software eine eigene, proprietäre Anbindung zu bauen, können Entwicklerinnen und Entwickler auf einen gemeinsamen Standard zurückgreifen. Ergänzend etabliert sich das Agent2Agent-Protokoll (A2A) für die Kommunikation zwischen verschiedenen KI-Agenten.

System-Level Observability for AI Agents Using eBPF | Zheng, Hu, Yu, Quinn, Proceedings of the ACM on Programming Languages, 2025 (arXiv:2508.02736) Model Context Protocol – offizielle Spezifikation | Anthropic / MCP-Projekt

ki-agent; multi-agenten-system; api; skills

Für dein Unternehmen

Für die IT-Abteilung oder externe Dienstleister ist MCP relevant, weil es die Integration von KI in bestehende Unternehmenssoftware standardisiert und dadurch potenziell günstiger und wartungsärmer macht als bisherige Individuallösungen.

IT

M

Recht, Ethik und Sicherheit

Modellkarte

Model Card

Eine Modellkarte ist eine standardisierte Kurzdokumentation eines KI-Modells, die Zweck, Grenzen, Trainingsdaten und bekannte Risiken transparent macht.

Ausführliche Definition und Quellen

Model Cards fassen die wichtigsten Informationen zu einem KI-Modell zusammen: wofür es entwickelt wurde, mit welchen Daten es trainiert wurde, welche Leistungskennzahlen es erreicht und welche bekannten Grenzen oder Verzerrungen bestehen. Sie funktionieren ähnlich wie ein Beipackzettel und sollen Anwenderinnen und Anwendern eine informierte Entscheidung ermöglichen, ob ein Modell für einen bestimmten Zweck geeignet ist.

Intelligenz | Aktuelle Entwicklungen und Analysen zum EU-KI-Gesetz IHK Schleswig-Holstein: AI-Act-Literacy, KI- Schulungspflicht Model Cards for Model Reporting | Mitchell et al., Google, ACM FAT*, 2019 (arXiv:1810.03993)

mlops; explainable-ai; ai-bias

Für dein Unternehmen

Bei der Auswahl eines KI-Anbieters lohnt die gezielte Nachfrage nach der Modellkarte oder vergleichbarer Dokumentation: Seriöse Anbieter legen offen, für welche Anwendungsfälle ihr Modell getestet wurde und wo es an Grenzen stößt.

IT

M

Aktuelle KI-Trends

Multi-Agenten-System

Ein Multi-Agenten-System besteht aus mehreren spezialisierten KI-Agenten, die zusammenarbeiten, um eine komplexere Aufgabe gemeinsam zu lösen.

Ausführliche Definition und Quellen

Statt eines einzelnen Allzweck-Agenten setzen Multi-Agenten-Systeme mehrere spezialisierte Agenten ein, die jeweils Teilaufgaben übernehmen und miteinander kommunizieren: etwa ein Agent für Recherche, einer für Textentwurf und einer für Qualitätsprüfung. Das ähnelt der Arbeitsteilung in einem menschlichen Team und soll komplexere Aufgaben zuverlässiger lösen als ein einzelnes System.

A Survey of Progress and Challenges | Guo et al., IJCAI Survey Track, 2024 (arXiv:2402.01680)

ki-agent; agentic-ai; model-context-protocol; ai-hub-agenten-okosystem

Für dein Unternehmen

Für den Mittelstand ist dieses Konzept meist noch Zukunftsmusik, aber relevant zu beobachten: Erste Plattformanbieter bauen bereits „Agenten-Ökosysteme", in denen sich spezialisierte Agenten für Einkauf, Vertrieb oder Support koppeln lassen.

IT

M

Generative KI und Sprachmodelle

Multimodale KI

Multimodale KI kann verschiedene Arten von Daten (Text, Bild, Audio und Video) gleichzeitig verstehen und miteinander in Bezug setzen.

Ausführliche Definition und Quellen

Multimodale KI-Systeme verarbeiten und verknüpfen mehrere Datenarten gleichzeitig: Sie können etwa ein Foto beschreiben, gesprochene Sprache verstehen und gleichzeitig mit Text antworten. Aktuelle Modelle wie GPT-5, Gemini oder Claude sind bereits standardmäßig multimodal. Das erschließt neue Einsatzfelder etwa in Qualitätskontrolle, medizinischer Dokumentation oder Sicherheitsüberwachung.

Prompt Textbooks Are All You Need | Gunasekar et al., Microsoft Research, 2023 (arXiv:2306.11644)

generative-ki; computer-vision; large-language-model

Für dein Unternehmen

Multimodale KI eröffnet dem Mittelstand Anwendungen jenseits reiner Textarbeit: etwa Fotos von Baustellen oder Maschinenschäden automatisch auswerten und verschriftlichen lassen, statt manuell Berichte zu tippen.

IT, Geschäftsführung, Marketing, Produktion

M

KI im Unternehmenseinsatz

Natural Language Processing

NLP

NLP ist der KI-Teilbereich, der sich damit beschäftigt, menschliche Sprache maschinell zu verstehen, zu analysieren und zu erzeugen.

Ausführliche Definition und Quellen

Natural Language Processing (Verarbeitung natürlicher Sprache) umfasst alle Verfahren, mit denen Computer geschriebene oder gesprochene Sprache verarbeiten: Texte kategorisieren, Stimmungen erkennen (Sentimentanalyse), Sprachen übersetzen, wichtige Informationen aus Fließtext extrahieren. Moderne Sprachmodelle haben klassische, regelbasierte NLP-Verfahren größtenteils abgelöst und liefern deutlich flexiblere Ergebnisse.

Machine Learning Operations (MLOps): Overview, Definition, and Architecture | Kreuzberger, Kühl, Hirschl, Universität Bayreuth, 2022 (arXiv:2205.02302)

large-language-model; chatbot-conversational-ai; multimodale-ki

Für dein Unternehmen

NLP-Anwendungen helfen etwa dabei, eingehende Kundenanfragen automatisch nach Dringlichkeit und Thema zu sortieren oder große Mengen an Freitext-Feedback (Bewertungen, Umfragen) systematisch auszuwerten, was manuell kaum zu leisten wäre.

IT, Kundenservice

N

Grundlagen und Technologie

Neuronales Netz

Ein neuronales Netz ist ein Computermodell, das lose der Verarbeitung im menschlichen Gehirn nachempfunden ist und aus vielen vernetzten Recheneinheiten besteht.

Ausführliche Definition und Quellen

Ein künstliches neuronales Netz besteht aus vielen einfachen Recheneinheiten („Neuronen"), die in Schichten angeordnet und miteinander verbunden sind. Jede Verbindung hat ein Gewicht, das beim Training so angepasst wird, dass das Netz aus einer Eingabe (z. B. einem Satz) die gewünschte Ausgabe (z. B. eine Antwort) erzeugt. Die Idee ist grob an biologische Nervenzellen angelehnt, funktioniert technisch aber rein mathematisch über Zahlen und Gewichtungen.

Checkers | Samuel, IBM Journal of Research and Development, 1959

deep-learning; transformer-architektur; halluzination

Für dein Unternehmen

Man muss neuronale Netze nicht selbst bauen können, um von ihnen zu profitieren: Wichtig ist zu wissen, dass sie keine Denkfähigkeit im menschlichen Sinn besitzen, sondern hochoptimierte Mustererkennung sind. Das erklärt auch, warum KI-Systeme manchmal plausibel klingende, aber falsche Antworten geben (siehe Halluzination).

IT

N

KI im Unternehmenseinsatz

No-Code/Low-Code-KI

No-Code- und Low-Code-Plattformen erlauben es, KI-Anwendungen per Baukastenprinzip zusammenzuklicken, statt sie klassisch zu programmieren.

Ausführliche Definition und Quellen

No-Code- und Low-Code-Plattformen bieten grafische Oberflächen, mit denen sich Arbeitsabläufe und KI- Funktionen per Drag-and-drop verknüpfen lassen, etwa „wenn eine neue E-Mail eingeht, lasse sie durch KI zusammenfassen und lege eine Aufgabe an". Sie senken die technische Einstiegshürde deutlich, stoßen aber bei sehr individuellen oder komplexen Anforderungen an Grenzen.

Bitkom Research – Künstliche Intelligenz in Deutschland (2026)

api; ki-agent; prompt-engineering

Für dein Unternehmen

No-Code-Werkzeuge sind ein guter Weg für den Mittelstand, KI-gestützte Automatisierungen ohne eigene Entwicklungsabteilung auszuprobieren und schnell erste Erfahrungen zu sammeln, bevor größere, individuell programmierte Lösungen beauftragt werden.

IT, Geschäftsführung, HR

N

KI im Unternehmenseinsatz

Open Source KI

Offene KI-Modelle

KI-Modelle, deren Gewichte und oft auch der Trainingscode öffentlich zugänglich sind, statt nur über eine kostenpflichtige API genutzt werden zu können. Sie lassen sich herunterladen, anpassen und auf eigener Infrastruktur betreiben.

Ausführliche Definition und Quellen

Bei offenen KI-Modellen („Open Weights") werden die trainierten Modellparameter, teils auch Trainingsdaten und Code, veröffentlicht, häufig unter permissiven Lizenzen wie Apache 2.0. Beispiele sind Mistral aus Frankreich (Mistral 7B, Apache-2.0-lizenziert), Metas Llama-Reihe und DeepSeek aus China. Im Unterschied dazu sind proprietäre Modelle wie GPT (OpenAI), Claude (Anthropic) oder Gemini (Google) ausschließlich über eine API des jeweiligen Anbieters nutzbar.

nnelPartner (IDG) Mittelstand-Digital Zentrum Berlin: Schritt für Schritt zur KI, Mit Low- und No-Code- Anwendungen den Einstieg finden

datensouveranitat; corporate-llm; foundation-model; kleines-sprachmodell

Für dein Unternehmen

Für den deutschen Mittelstand eröffnet Open Source KI eine Möglichkeit zur Unabhängigkeit von US- amerikanischen Cloud-Anbietern und zu echter Datensouveränität. Laut Bitkom Open Source Monitor 2025 sehen 73 Prozent der befragten deutschen Unternehmen Open-Source-Ansätze als geeignetes Mittel zur Stärkung digitaler Souveränität.

Geschäftsführung, IT, F&E, Datenschutzbeauftragter

O

Grundlagen und Technologie

Overfitting

Überanpassung

Overfitting bedeutet, dass ein Modell die Trainingsdaten auswendig lernt, statt allgemeingültige Muster zu erkennen. Es versagt dann bei neuen, echten Daten.

Ausführliche Definition und Quellen

Overfitting tritt auf, wenn ein KI-Modell die Trainingsdaten inklusive ihrer zufälligen Eigenheiten quasi auswendig lernt, statt die zugrunde liegende Struktur zu erfassen. auftretenden Fällen. Das Gegenteil, Underfitting, beschreibt ein Modell, das nicht einmal die Trainingsdaten ausreichend gut abbildet.

Some Studies in Machine Learning Using the Game of Checkers | Samuel, IBM Journal of Research and Development, 1959

maschinelles-lernen; trainingsdaten; neuronales-netz

Für dein Unternehmen

Bei Angeboten externer KI-Dienstleister lohnt die Nachfrage, wie ein Modell auf unabhängigen Testdaten validiert wurde: Beeindruckende Demo-Ergebnisse allein sagen wenig darüber, ob eine Lösung im echten Betrieb zuverlässig funktioniert.

IT

O

Aktuelle KI-Trends

Physical AI

KI in Robotik und Fertigung

Physical AI bezeichnet KI-Systeme, die nicht nur digital agieren, sondern über Roboter, Maschinen oder Fahrzeuge direkt in der physischen Welt handeln.

Ausführliche Definition und Quellen

Physical AI verbindet KI-Modelle mit realer Hardware (Robotern, autonomen Fahrzeugen, Fertigungsanlagen), sodass Wahrnehmung (etwa über Kameras und Sensoren) und Handeln (etwa Greifen, Fahren, Steuern) direkt in der physischen Welt zusammenkommen. Sie gilt als eine der nächsten großen Wellen nach rein digitalen, textbasierten KI-Anwendungen.

CES 2025: AI Advancing at 'Incredible Pace,' NVIDIA CEO Says (Jensen Huang Keynote) | NVIDIA Blog Bitkom- Stellungnahme zur Hightech-Agenda KI Roadmap (2026)

computer-vision; edge-ai-on-device-ki; predictive-maintenance

Für dein Unternehmen

Für Maschinenbauer und produzierende Unternehmen ist Physical AI der Bereich, in dem sich Deutschlands industrielle Stärke mit KI-Fähigkeiten verbinden lässt: Die Bitkom-Stellungnahme zur Hightech-Agenda KI (2026) nennt industrielle und physische KI ausdrücklich als Feld mit besonderem Potenzial für heimische Anbieter.

IT, Geschäftsführung, Produktion, F&E

P

KI im Unternehmenseinsatz

Predictive Maintenance

(Vorausschauende Wartung) Predictive Maintenance nutzt KI und Sensordaten, um Maschinenausfälle vorherzusagen und Wartung genau dann durchzuführen, wenn sie wirklich nötig ist.

Ausführliche Definition und Quellen

Statt Maschinen nach starrem Zeitplan zu warten oder erst nach einem Ausfall zu reagieren, wertet vorausschauende Wartung laufend Sensordaten aus (Vibration, Temperatur, Stromverbrauch), um mittels KI- Mustererkennung frühzeitig Anzeichen für einen bevorstehenden Defekt zu erkennen. So lassen sich Wartungstermine passgenau planen, Stillstandzeiten reduzieren und Ersatzteile gezielter vorhalten.

Mistral 7B | Jiang, Sablayrolles, Mensch et al., Mistral AI, 2023 (arXiv:2310.06825) Bitkom: Chartbericht Open Source Monitor 2025 Digitale Souveränität: KI-Fallback ohne US- Abhängigkeit | Computer Weekly

computer-vision; maschinelles-lernen; edge-ai-on-device-ki; physical-ai

Für dein Unternehmen

Für produzierende Betriebe mit teuren Maschinen gehört Predictive Maintenance zu den KI-Anwendungen mit dem am klarsten messbaren wirtschaftlichen Nutzen: weniger ungeplante Stillstände, längere Maschinenlaufzeiten, geringere Ersatzteilkosten.

IT, Geschäftsführung, Produktion

P

Generative KI und Sprachmodelle

Prompt

Ein Prompt ist die Eingabe, meist ein Text, mit der man einem generativen KI-System mitteilt, welche Aufgabe es erledigen soll.

Ausführliche Definition und Quellen

Ein Prompt ist die Anweisung oder Frage, die man in ein KI-System wie ChatGPT eingibt, um eine bestimmte Antwort oder ein bestimmtes Ergebnis zu erhalten. Er kann aus wenigen Worten oder mehreren Absätzen mit Kontext, Beispielen und Formatvorgaben bestehen. Die Qualität des Prompts beeinflusst maßgeblich die Qualität der Antwort.

Multimodal Deep Learning | Ngiam, Khosla, Kim, Nam, Lee, Ng, Stanford University, ICML, 2011

prompt-engineering; system-prompt; generative-ki

Für dein Unternehmen

Ein kurzer interner Leitfaden mit guten Beispiel-Prompts für wiederkehrende Aufgaben (E-Mail-Entwürfe, Protokolle, Produktbeschreibungen) hebt die Nutzungsqualität im Team oft stärker als die Wahl eines teureren KI-Tools.

IT, HR, Vertrieb, Marketing

P

Generative KI und Sprachmodelle

Prompt Engineering

Prompt Engineering ist die gezielte Formulierung und Verfeinerung von Eingaben an eine KI, um zuverlässig bessere und passgenauere Ergebnisse zu erzielen.

Ausführliche Definition und Quellen

Prompt Engineering bezeichnet die systematische Gestaltung von Prompts, etwa durch klare Rollenangaben, Beispiele, Formatvorgaben oder Schritt-für-Schritt-Anweisungen, um die Ausgabequalität eines KI-Modells zu verbessern. Es reicht von einfachen Formulierungstricks bis zu komplexeren Techniken wie Chain-of-Thought- Prompting. Gutes Prompt Engineering senkt die Zahl der Korrekturschleifen erheblich.

Language Models are Few-Shot Learners | Brown et al., OpenAI, NeurIPS, 2020 (arXiv:2005.14165); Mittelstand-Digital Zentrum Berlin: So schreiben Sie perfekte Prompts für ChatGPT & Co.

prompt; system-prompt; chain-of-thought

Für dein Unternehmen

Prompt Engineering lässt sich im Team relativ leicht als Kompetenz aufbauen, etwa durch kurze interne Schulungen und eine gemeinsame Sammlung bewährter Prompts. Das zählt zu den kosteneffizientesten KI- Weiterbildungsmaßnahmen für den Mittelstand.

IT, HR, Vertrieb, Marketing

P

Recht, Ethik und Sicherheit

Prompt Injection

Prompt Injection ist ein Angriff, bei dem versteckte Anweisungen in Texten oder Dokumenten ein KI-System dazu bringen, entgegen seiner eigentlichen Aufgabe zu handeln.

Ausführliche Definition und Quellen

Bei einer Prompt-Injection-Attacke schleusen Angreifende versteckte Anweisungen in Inhalte ein, die eine KI verarbeitet (etwa in eine E-Mail, ein Dokument oder eine Website), um das System dazu zu bringen, entgegen seiner ursprünglichen Aufgabe zu handeln: vertrauliche Daten preiszugeben, schädliche Aktionen auszuführen oder Sicherheitsvorgaben zu umgehen. Mit zunehmend autonomen KI-Agenten, die E-Mails lesen oder Werkzeuge bedienen, wächst dieses Risiko.

Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection | Greshake et al., CISPA Helmholtz-Zentrum, 2023 (arXiv:2302.12173)

ki-agenten-monitoring; human-in-the-loop-human-on-the-loop; shadow-ai

Für dein Unternehmen

Wer KI-Agenten mit Zugriff auf E-Mails, Dokumente oder externe Webinhalte einsetzt, sollte technische Schutzmaßnahmen (Guardrails) sowie klare Grenzen einbauen, welche Aktionen ein Agent ohne menschliche Freigabe überhaupt ausführen darf.

IT, Recht

P

Generative KI und Sprachmodelle

Reasoning-Modell

Denkmodell

Reasoning-Modelle sind Sprachmodelle, die vor der eigentlichen Antwort mehrere Zwischenschritte durchdenken, um bei komplexen Aufgaben zuverlässigere Ergebnisse zu liefern.

Ausführliche Definition und Quellen

Reasoning-Modelle sind eine Weiterentwicklung klassischer Sprachmodelle: Sie zerlegen komplexe Fragen intern in mehrere Zwischenschritte und „überlegen" gewissermaßen länger, bevor sie eine finale Antwort ausgeben. Das ähnelt einem Menschen, der eine schwierige Aufgabe auf Papier durchrechnet, statt aus dem Bauch heraus zu antworten. Das verbessert die Genauigkeit bei Mathematik, Logik und mehrstufigen Planungsaufgaben deutlich, kostet aber mehr Rechenzeit.

DeepSeek-R1 incentivizes reasoning in LLMs through reinforcement learning

chain-of-thought; large-language-model; agentic-ai

Für dein Unternehmen

Für einfache Textaufgaben (E-Mail formulieren) reicht ein schnelles Standardmodell; bei komplexen Analysen, Vertragsprüfungen oder mehrstufigen Planungsfragen liefern Reasoning-Modelle oft spürbar zuverlässigere Ergebnisse, allerdings zu etwas höheren Kosten und Wartezeiten.

IT, Geschäftsführung

R

Grundlagen und Technologie

Reinforcement Learning

Reinforcement Learning (auch: Bestärkendes Lernen) bringt einem KI-System durch Belohnung und Bestrafung bei, in einer Umgebung schrittweise bessere Entscheidungen zu treffen.

Ausführliche Definition und Quellen

Beim Reinforcement Learning (deutsch: bestärkendes Lernen) lernt ein System durch Ausprobieren: Es trifft Entscheidungen in einer simulierten oder realen Umgebung und erhält dafür eine positive oder negative Rückmeldung („Belohnung"). Über viele Wiederholungen optimiert es sein Verhalten, um die Belohnung zu maximieren. Diese Methode steckt hinter Erfolgen wie KI-Systemen, die komplexe Spiele meistern, und wird auch verwendet, um Sprachmodelle mit menschlichem Feedback zu verfeinern (RLHF).

Deep Learning (Kapitel 6: Deep Feedforward Networks) | Goodfellow, Bengio, Courville, MIT Press, 2016

maschinelles-lernen; agentic-ai; reasoning-modell

Für dein Unternehmen

Für die meisten Mittelständler ist bestärkendes Lernen kein direktes Einsatzfeld, aber ein wichtiger Baustein zu verstehen, warum Assistenten wie ChatGPT zunehmend hilfreicher und „menschlicher" antworten: Sie wurden mit Feedback-Schleifen trainiert.

IT

R

Generative KI und Sprachmodelle

Retrieval-Augmented Generation

RAG

RAG kombiniert ein Sprachmodell mit einer Suche in eigenen Dokumenten, damit Antworten auf geprüften, aktuellen Unternehmensdaten statt nur auf dem Trainingswissen basieren.

Ausführliche Definition und Quellen

Retrieval-Augmented Generation ist eine Technik, bei der ein Sprachmodell vor der Antwortgenerierung gezielt relevante Passagen aus einer angebundenen Wissensquelle abruft, etwa aus dem Firmenwiki, Handbüchern oder Verträgen, und diese als Kontext nutzt. Das Modell „erfindet" dadurch weniger, weil es sich auf tatsächlich vorhandene Dokumente stützt, und kann auch Wissen nutzen, das nach seinem Training entstanden ist.

DeepSeek-AI, Nature, Vol. 645, 2025 (doi:10.1038/s41586-025-09422-z)

halluzination; fine-tuning; corporate-llm

Für dein Unternehmen

RAG ist für viele Mittelständler der praktikabelste Weg, einen firmeneigenen Chatbot oder Assistenten aufzubauen, der zuverlässig mit internem Wissen (Produktkatalog, Richtlinien, Kundenhistorie) arbeitet, ohne ein eigenes Modell trainieren zu müssen.

IT, Kundenservice, F&E

R

Aktuelle KI-Trends

Shadow AI

Shadow AI bezeichnet die Nutzung von KI-Tools durch Mitarbeitende ohne Wissen oder Freigabe der IT- Abteilung, mit entsprechenden Datenschutz- und Sicherheitsrisiken.

Ausführliche Definition und Quellen

Shadow AI entsteht, wenn Beschäftigte private KI-Konten oder nicht freigegebene KI-Tools für dienstliche Zwecke nutzen, weil offizielle Angebote fehlen, zu langsam bereitgestellt werden oder unbekannt sind, etwa das Einfügen vertraulicher Kundendaten in einen kostenlosen Chatbot. Das Risiko: Unternehmensdaten gelangen unkontrolliert an Drittanbieter, ohne dass IT oder Datenschutz davon wissen.

Address | Gartner Pr

ki-governance; datenschutz-und-ki; corporate-llm

Für dein Unternehmen

Der wirksamste Schutz gegen Shadow AI ist selten ein Verbot, sondern ein zügig bereitgestelltes, freigegebenes KI-Angebot mit klaren Regeln. Sonst weichen Mitarbeitende ohnehin auf private Tools aus, nur eben unsichtbar für das Unternehmen.

IT, Geschäftsführung, Recht, HR, Datenschutzbeauftragter

S

Aktuelle KI-Trends

Skills

Agent Skills

Skills (auch: Agent Skills) sind modulare, wiederverwendbare Fähigkeitspakete, mit denen ein KI-Agent gezielt um Spezialwissen, Arbeitsanleitungen oder Werkzeuge erweitert wird, statt bei jeder Aufgabe neu instruiert zu werden.

Ausführliche Definition und Quellen

Ein Skill bündelt Anweisungen, Metadaten und optionale Ressourcen wie Skripte oder Vorlagen in einem eigenen Paket. Das KI-System lädt einen Skill automatisch dann, wenn er zur aktuellen Aufgabe passt, oft nach dem Prinzip der „progressiven Offenlegung": Zunächst wird nur eine knappe Beschreibung geladen, die vollständige Anleitung erst bei tatsächlichem Bedarf. So lässt sich ein allgemeines KI-Modell ohne erneutes Training gezielt auf wiederkehrende Aufgaben oder unternehmensspezifisches Fachwissen zuschneiden.

essemitteilung, 2025

agentic-ai; ki-agent; model-context-protocol

Für dein Unternehmen

Für Unternehmen sind Skills eine Möglichkeit, internes Vorgehen (etwa eine Rechnungsprüfung nach eigenen Vorgaben, ein Reporting-Format oder eine Compliance-Checkliste) einmal zu dokumentieren und dann von einem KI-Agenten immer wieder konsistent anwenden zu lassen, statt dieses Wissen in jedem Gespräch neu zu erklären.

IT, Geschäftsführung, Kundenservice, Vertrieb

S

Generative KI und Sprachmodelle

System-Prompt

Der System-Prompt ist eine unsichtbare Grundanweisung, die einem KI-Assistenten vorab Rolle, Tonfall und Regeln für das gesamte Gespräch vorgibt.

Ausführliche Definition und Quellen

Der System-Prompt ist eine Instruktion, die vor jeder Konversation im Hintergrund an das Sprachmodell übergeben wird und dessen grundsätzliches Verhalten festlegt, etwa: „Du bist ein freundlicher Kundenservice- Assistent, antworte immer auf Deutsch und nenne nie interne Preise." Nutzende sehen diesen Prompt in der Regel nicht, er prägt aber jede einzelne Antwort im Gespräch.

Knowledge-Intensive NLP Tasks | Lewis et al., FAIR/UCL, NeurIPS, 2020 (arXiv:2005.11401)

prompt; prompt-engineering; corporate-llm

Für dein Unternehmen

Beim Aufbau eines eigenen KI-Chatbots ist ein sorgfältig formulierter System-Prompt eines der wirkungsvollsten und günstigsten Mittel, um Tonfall, Markenkonsistenz und Sicherheitsgrenzen (z. B. keine Rechtsberatung) verlässlich einzuhalten.

IT, Kundenservice

S

KI im Unternehmenseinsatz

TCO bei KI

KI-Wertschöpfung

Total Cost of Ownership (TCO) bei KI bezeichnet die Summe aller Kosten einer KI-Einführung über den gesamten Lebenszyklus, nicht nur Token- oder Lizenzkosten. Wer nur die sichtbaren API-Kosten betrachtet, unterschätzt regelmäßig den tatsächlichen Aufwand und damit auch den realen Return on Investment (ROI).

Ausführliche Definition und Quellen

TCO bei KI umfasst neben den laufenden Token- und API-Kosten (siehe Token-Ökonomie) weitere, oft unterschätzte Kostenblöcke: Betrieb und Überwachung der Modelle (MLOps), Integration in bestehende IT- Systeme, Schulung der Belegschaft und Change Management sowie gegebenenfalls Fine-Tuning und laufende Wartung. Bereits 2015 zeigte die vielzitierte Analyse „Hidden Technical Debt in Machine Learning Systems" von Google-Forschenden, dass in produktiven ML-Systemen häufig nur rund 5 Prozent des Codes auf das eigentliche Modell entfallen, der Rest auf Infrastruktur, Monitoring und Wartung.

A systematic literature review of machine learning methods applied to predictive maintenance | Carvalho et al., Computers & Industrial Engineering, 2019 MIT report: 95% of generative AI pilots at companies are failing | Fortune (zu MIT NANDA, „The GenAI Divide: State of AI in Business 2025") The State of AI in 2025: Agents, innovation, and transformation | McKinsey From Potential to Profit: Closing the AI Impact Gap | BCG AI Radar 2025 Gartner Says CFOs Need to Rethink the ROI of AI Investments Hidden Technical Debt in Machine Learning Systems | Sculley et al., Google, NeurIPS 2015

token-okonomie; mlops; corporate-llm; agentic-ai

Für dein Unternehmen

Geschäftsführungen sollten bei KI-Investitionen von Anfang an alle Kostenblöcke budgetieren, nicht nur die sichtbare Lizenz- oder Token-Rechnung: Integrationsaufwand, Schulungszeit der Mitarbeitenden, laufender MLOps-Betrieb und mögliche Nacharbeiten gehören in eine ehrliche Gesamtrechnung. Erfolgreiche Organisationen konzentrieren sich auf wenige Anwendungsfälle und investieren nach der „10-20-70-Regel" nur 10 Prozent in Algorithmen, aber 70 Prozent in Organisation, Schulung und Change Management.

Geschäftsführung, IT, Finanzen/Controlling

T

Generative KI und Sprachmodelle

Temperature

Sampling-Temperatur

Die Temperature ist eine Einstellung, die steuert, wie kreativ-variabel oder wie vorhersehbar-konservativ ein Sprachmodell antwortet.

Ausführliche Definition und Quellen

Die Temperature ist ein Parameter, der beeinflusst, wie ein Sprachmodell aus mehreren möglichen nächsten Wörtern auswählt. Eine niedrige Temperature führt zu vorhersehbaren, eher konservativen Antworten: geeignet für Fakten oder Code. Eine hohe Temperature erzeugt vielfältigere, kreativere, aber auch fehleranfälligere Ausgaben: geeignet für Brainstorming oder Textvarianten.

Text generation models, Rollen-/Nachrichtenkonzept (system/user/assistant) | OpenAI API-Dokumentation

prompt; large-language-model; token

Für dein Unternehmen

Wer eigene KI-Anwendungen über eine Programmierschnittstelle (API) einbindet, kann die Temperature je nach Zweck anpassen: niedrig für Rechnungsprüfung oder Datenauswertung, höher für Ideenfindung im Marketing.

IT

T

Grundlagen und Technologie

Token

Tokens sind die Textbausteine (meist Wortteile), in die ein Sprachmodell Text zerlegt, um ihn zu verarbeiten, zu generieren und abzurechnen.

Ausführliche Definition und Quellen

Sprachmodelle lesen und erzeugen Text nicht wortweise, sondern in kleineren Einheiten, sogenannten Tokens: Das können ganze Wörter, Wortteile oder einzelne Zeichen sein. Ein Token entspricht im Deutschen im Schnitt etwa drei bis vier Buchstaben. Die Anzahl der verarbeiteten Tokens bestimmt sowohl die Kosten und den Verbrauch von Nutzungs-Limits der meisten KI-Dienste als auch, wie viel Text auf einmal berücksichtigt werden kann (siehe Kontextfenster).

Deep Learning (Kapitel 5.2: Capacity, Overfitting and Underfitting) | Goodfellow, Bengio, Courville, MIT Press, 2016

large-language-model; prompt; temperature; skills; token-okonomie

Für dein Unternehmen

Wenn KI-Anbieter nach „Tokens" abrechnen, lohnt sich ein grobes Gefühl dafür: Lange Dokumente oder viele parallele Anfragen treiben die Kosten deutlich stärker als darauf optimierte Prompts und Skills.

IT, Finanzen/Controlling

T

Aktuelle KI-Trends

Token-Ökonomie

Tokenomics

Token-Ökonomie bezeichnet den bewussten, kostenoptimierten Umgang mit dem Token-Verbrauch von KI- Systemen: von der Modellwahl über Caching bis zur gezielten Steuerung des Kontexts.

Ausführliche Definition und Quellen

In der Fachpresse hat sich 2026 für den bewussten Umgang mit den laufenden Token-Kosten von KI- Anwendungen der Begriff Tokenomics beziehungsweise Token-Ökonomie etabliert, in Anlehnung an FinOps aus dem Cloud-Kostenmanagement. Dahinter steht ein Bündel konkreter Techniken: die Wahl eines für die jeweilige Aufgabe ausreichend günstigen statt automatisch des leistungsstärksten Modells (Model Routing), das Wiederverwenden gleichbleibender Kontextblöcke über mehrere Anfragen hinweg (Prompt Caching) sowie das bewusste Kürzen und Priorisieren von Kontextinhalten (Context Engineering). Im Juli 2026 gründete die Linux Foundation mit der Tokenomics Foundation eine eigene Initiative, um Token-Kosten branchenweit vergleichbar und messbar zu machen.

Docs | Anthropic What Are Agent Skills? Modular AI Agent Frameworks Explained | DataCamp Tokenomics Foundation soll KI-Token-Kosten messbar machen | it-boltwise.de So bekämpfen Un

token; corporate-llm; kleines-sprachmodell; edge-ai-on-device-ki; tco-bei-ki

Für dein Unternehmen

Auch im deutschen Mittelstand ist Kostentransparenz bei KI-Tokens noch die Ausnahme: Laut einem KPMG- Report hat nur etwa ein Drittel der Unternehmen einen vollständigen Überblick über ihre KI-Ausgaben, 22 Prozent gar keinen. Konkrete Hebel lassen sich unmittelbar umsetzen: bewusste Modellwahl statt automatisch des teuersten Modells, kürzere und gezieltere Prompts sowie Caching wiederkehrender Anfragen.

Geschäftsführung, IT, Finanzen/Controlling

T

Grundlagen und Technologie

Trainingsdaten

Trainingsdaten sind die Beispieldaten, aus denen ein KI-Modell lernt: Ihre Qualität bestimmt maßgeblich die Qualität der späteren Ergebnisse.

Ausführliche Definition und Quellen

Trainingsdaten sind die Datensätze, mit denen ein KI-Modell trainiert wird, um Muster zu erkennen. Das können Texte, Bilder, Tabellen oder Sensordaten sein. Die Regel „garbage in, garbage out" gilt hier besonders: Unvollständige, veraltete oder einseitige Daten führen zu ungenauen oder verzerrten Ergebnissen (siehe Bias).

Reinforcement Learning: An Introduction, 2. Aufl. | Sutton & Barto, MIT Press, 2018

maschinelles-lernen; fine-tuning; ai-bias

Für dein Unternehmen

Wer eigene KI-Anwendungen trainieren oder anpassen lässt (z. B. per Fine-Tuning), sollte in gute, repräsentative und rechtlich einwandfreie Datenqualität investieren: Das entscheidet über Nutzen und Haftungsrisiken mehr als die Wahl des Modells.

IT, Recht, F&E

T

Grundlagen und Technologie

Transformer-Architektur

Der Transformer ist die technische Architektur hinter den meisten modernen Sprachmodellen; sie ermöglicht es, Zusammenhänge über lange Textabschnitte hinweg zu erfassen.

Ausführliche Definition und Quellen

Die 2017 von Google-Forschenden vorgestellte Transformer-Architektur ist die technische Grundlage nahezu aller heutigen großen Sprachmodelle. Ihr Kernmechanismus, „Attention" (Aufmerksamkeit), erlaubt es dem Modell, für jedes Wort zu gewichten, wie relevant andere Wörter im Text für dessen Bedeutung sind, auch über große Entfernungen im Satz hinweg. Das „T" in GPT steht für Transformer.

Deep Learning (Kapitel 5.1.3: Datasets) | Goodfellow, Bengio, Courville, MIT Press, 2016

large-language-model; neuronales-netz; deep-learning

Für dein Unternehmen

Technisches Detailwissen ist für die meisten Anwenderinnen und Anwender nicht nötig. Relevant ist: Die Architektur erklärt, warum moderne KI-Systeme Kontext über ganze Dokumente hinweg berücksichtigen können. Das ist ein klarer Fortschritt gegenüber älteren, satzweise arbeitenden Systemen.

IT

T

Recht, Ethik und Sicherheit

Urheberrecht und KI

Der Einsatz generativer KI wirft offene Urheberrechtsfragen auf: sowohl zu den Trainingsdaten der Modelle als auch zur Schutzfähigkeit von KI-generierten Inhalten.

Ausführliche Definition und Quellen

Beim Training generativer KI-Modelle werden oft urheberrechtlich geschützte Werke verwendet, was rechtlich umstritten und Gegenstand zahlreicher Gerichtsverfahren international ist. Umgekehrt ist auch unklar und von Land zu Land unterschiedlich geregelt, inwieweit rein KI- generierte Inhalte selbst urheberrechtlich geschützt werden können, da klassisches Urheberrecht eine menschliche Schöpfung voraussetzt.

BSI: Cybersicherheitswarnung, Indirect Prompt Injections

generative-ki; deepfake; verantwortungsvolle-ki

Für dein Unternehmen

Bei der Nutzung KI-generierter Bilder, Texte oder Logos für Marketing und Produkte lohnt ein Blick in die Nutzungsbedingungen des jeweiligen KI-Anbieters: Nicht jeder räumt volle kommerzielle Nutzungsrechte ein, und die rechtliche Absicherung gegenüber Dritten variiert.

Recht, Geschäftsführung, Marketing

U

Recht, Ethik und Sicherheit

Verantwortungsvolle KI

(Responsible AI / Trustworthy AI) Verantwortungsvolle KI steht für den Anspruch, KI-Systeme robust, sicher, fair und nachvollziehbar zu gestalten, über die reine Gesetzeserfüllung hinaus.

Ausführliche Definition und Quellen

Verantwortungsvolle beziehungsweise vertrauenswürdige KI (Trustworthy AI) fasst Prinzipien wie Robustheit, Sicherheit, Fairness, Transparenz und Nachvollziehbarkeit zu einem übergreifenden Qualitätsanspruch an KI- Systeme zusammen, unabhängig davon, ob eine konkrete gesetzliche Pflicht dazu besteht. In seiner Stellungnahme zur Hightech-Agenda KI (2026) fordert der Digitalverband Bitkom, die Forschung zu robusten, sicheren und transparenten KI-Modellen als eigenständigen strategischen Schwerpunkt zu stärken.

Competition (9 April 2021) The global landscape of AI ethics guidelines | Jobin, Ienca, Vayena, ETH Zürich, Nature Machine Intelligence, 2019 Bitkom-Stellungnahme zur Hightech-Agenda KI Roadmap (2026) Bitkom: Trustworthy & Responsible AI, Turning Principles into Practice

ki-governance; explainable-ai; eu-ai-act

Für dein Unternehmen

Verantwortungsvolle KI ist kein rein technisches, sondern auch ein Vertrauensthema gegenüber Kunden und Mitarbeitenden: Unternehmen, die offen kommunizieren, wo und wie sie KI einsetzen und welche Kontrollen greifen, stärken die Akzeptanz spürbar.

Geschäftsführung, Recht, HR

V

Aktuelle KI-Trends

Vibe Coding

Vibe Coding bezeichnet die Softwareentwicklung per natürlichsprachlicher Beschreibung, bei der eine KI den eigentlichen Code weitgehend selbstständig schreibt.

Ausführliche Definition und Quellen

Beim Vibe Coding beschreibt eine Person in normaler Sprache, was eine Software tun soll, und eine KI generiert daraus lauffähigen Code, iterativ verfeinert durch weiteres Feedback in natürlicher Sprache, statt Zeile für Zeile klassisch zu programmieren. Der Begriff wurde 2025 populär und steht sinnbildlich dafür, wie stark generative KI auch die Softwareentwicklung selbst verändert.

ternehmen das KI-Token-Problem | Computerwoche Kosten-Schock: Wie teuer KI-Tokens für Unternehmen wirklich werden | Table.Media LLM Token Optimization: Cut Costs & Latency | Redis

no-code-low-code-ki; reasoning-modell; generative-ki

Für dein Unternehmen

Für Mittelständler ohne eigene Entwicklungsabteilung senkt Vibe Coding die Hürde, kleine interne Tools oder Prototypen selbst zu bauen. Für produktionsreife, sicherheitskritische Software bleibt jedoch fachkundige Prüfung und Qualitätssicherung unverzichtbar.

IT

V

Häufige Fragen zum KI-Glossar

Was ist ein KI-Glossar?

Ein KI-Glossar erklärt die wichtigsten Begriffe rund um künstliche Intelligenz in einfacher Sprache. Unser Glossar richtet sich an Inhaber und Geschäftsführer im Mittelstand und zeigt zu jedem Begriff, was er für das eigene Unternehmen bedeutet.

Welche KI-Begriffe sollte ich als Geschäftsführer kennen?

Für den Einstieg reichen wenige Begriffe: Large Language Model, Prompt, RAG, Halluzination und KI-Agent. Damit verstehst du, wie KI-Tools arbeiten, wo ihre Grenzen liegen und wie sie mit euren eigenen Daten arbeiten.

Ist das KI-Glossar kostenlos?

Ja. Alle Begriffe stehen kostenlos auf dieser Seite. Als PDF zum Mitnehmen bekommst du das Glossar kostenlos per E-Mail.

Wie oft wird das Glossar aktualisiert?

Wir ergänzen das Glossar regelmäßig, sobald neue Begriffe im Arbeitsalltag relevant werden. Das Datum der letzten Aktualisierung steht oben auf der Seite.

Du kennst jetzt die Begriffe. Wo fängst du an?

Der KI-Readiness-Check zeigt in zehn Minuten, welcher Prozess in deinem Unternehmen zuerst dran wäre.

Lass uns loslegen

Deine Reise zum digitalen Erfolg

Du interessierst dich für eine unserer Leistungen und möchtest ein Projekt mit uns starten? Vereinbare hier einen Termin für ein kostenloses Erstgespräch. Wir melden uns gerne bei dir!

Thank you! Your submission has been received!
Oops! Something went wrong while submitting the form.