LoRA (Low-Rank Adaptation)

LoRA ermöglicht es, ein bereits trainiertes Modell mit vergleichsweise geringem Aufwand für neue Aufgaben zu erweitern. Statt alle Modellparameter zu verändern, werden nur gezielte Anpassungen in Form kleiner Zusatzmodule vorgenommen.

Vorteile gegenüber vollständigem Fine-Tuning

Der Rechenaufwand, Speicherbedarf und die Kosten sind deutlich geringer als bei einer vollständigen Nachschulung. Das macht LoRA besonders interessant für ressourcenschonende Anpassungen großer Modelle.

Bedeutung für spezialisierte Anwendungen

Unternehmen können mit LoRA Modelle schneller für eigene Aufgaben, Daten oder Fachsprachen anpassen. Dadurch entsteht mehr Flexibilität, ohne dass der Betrieb sehr großer Trainingsumgebungen nötig wird.

KI-Glossar