Small Language Models (SLMs)

Small Language Models (SLMs) im Detail

Wählt vom gewünschten Ergebnis aus. Für eine klar eingegrenzte Zuordnung kann ein kleines Modell ausreichen; eine komplexe Aufgabe mit vielen Bedingungen kann andere Fähigkeiten erfordern. Vergleicht geeignete Modelle an denselben Beispielen. Achtet dabei auf die tatsächlich verwendete Sprache, Fachbegriffe, lange Eingaben und Situationen, in denen das Modell keine belastbare Antwort geben kann.

Kompakte Modelle können auf eigener Infrastruktur oder passenden Endgeräten laufen. Ob das sinnvoll funktioniert, hängt von Speicher, Rechenleistung, Laufzeitumgebung und weiterer Anwendung ab. Ein lokal ausgeführtes Modell bedeutet nicht automatisch, dass alle Daten lokal bleiben: Weitere Dienste, Protokolle oder angebundene Quellen können eigene Datenflüsse haben.

Ein vorhandenes Modell kann zunächst ohne eigenes Training erprobt werden. Gute Aufgabenbeschreibungen und passende Beispiele sind ein Einstieg; zusätzliches Training ist eine mögliche Anpassung, keine Pflicht. Wissensabruf und Training lösen unterschiedliche Probleme. Prüft auch Nutzungsbedingungen und die Pflege der Lösung. Kleinere Modelle können ebenfalls falsche Aussagen oder verzerrte Zuordnungen erzeugen.

Creative Engineering sucht eine Lösung, deren Qualität und Aufwand zur Aufgabe passen. Die Verantwortung für Konzept und Qualität liegt bei uns. Messt den vollständigen Ablauf: Modellbetrieb, Wartezeit, Fehlerprüfung und nötige Nacharbeit. Ein billiger Aufruf kann teuer werden, wenn viele Ergebnisse korrigiert werden müssen. Änderungen an Modell oder Daten gehören erneut an den Prüfstand.