Latenz (Latency)

Latenz ist die Reaktionszeit eines Systems zwischen Anfrage und Antwort. In KI-Anwendungen bestimmt sie maßgeblich, wie direkt, angenehm und alltagstauglich eine Interaktion wahrgenommen wird.

Warum niedrige Latenz wichtig ist

Besonders bei Chatbots, Sprachassistenten oder interaktiven Tools fällt Verzögerung schnell auf. Eine geringe Latenz verbessert die Nutzererfahrung und lässt Kommunikation natürlicher wirken.

Einflussfaktoren auf die Latenz

Die Reaktionszeit hängt unter anderem von Modellgröße, Infrastruktur, Netzwerkanbindung und Komplexität der Aufgabe ab. Schnelle Systeme sind daher oft das Ergebnis guter technischer Abstimmung.

KI-Glossar