Lass uns loslegen.

Sende uns gerne eine Nachricht über das Kontakformular oder direkt per E-Mail an info(at)fellowork.de

Du interessierst dich für eine unserer Leistungen und möchtest ein Projekt mit uns starten? Vereinbare hier einen Termin für ein kostenloses Erstgespräch. Wir melden uns gerne bei dir!

Vielen Dank für deine Nachricht! Wir melden uns umgehend bei dir.
Oops! Das hat leider nicht geklappt! Überprüfe deine Eingabe und versuche es erneut.

Grundlagen und Technologie

Inferenz

Inferenz ist der Moment, in dem ein trainiertes KI-Modell auf Basis einer Eingabe eine Antwort berechnet.

Für dein Unternehmen

Die laufenden Kosten eines KI-Produkts entstehen für Anwender meist bei der Inferenz durch die Token- Generierung, nicht beim einmaligen Training. Bei häufig genutzten Anwendungen lohnt sich ein Blick auf Inferenzkosten pro Anfrage.

IT

Ausführliche Definition

Während des Trainings lernt ein Modell aus Daten; bei der Inferenz wendet es das Gelernte auf neue, unbekannte Eingaben an, etwa wenn eine Chat-Anfrage beantwortet oder ein Bild klassifiziert wird. Inferenz benötigt deutlich weniger Rechenleistung als das Training, verursacht aber bei jeder Nutzung Kosten und Energieverbrauch.

maschinelles-lernen; edge-ai-on-device-ki; fine-tuning

Efficient Processing of Deep Neural Networks: A Tutorial and Survey | Sze, Chen, Yang, Emer, MIT, Proceedings of the IEEE, 2017 (arXiv:1703.09039)

← Alle Begriffe im KI-Glossar

Lass uns loslegen

Deine Reise zum digitalen Erfolg

Du interessierst dich für eine unserer Leistungen und möchtest ein Projekt mit uns starten? Vereinbare hier einen Termin für ein kostenloses Erstgespräch. Wir melden uns gerne bei dir!

Thank you! Your submission has been received!
Oops! Something went wrong while submitting the form.