Von der Miete zum Besitz der Intelligenz
Über kleine Sprachmodelle für den Mittelstand
Ich war diese Woche bei einem ACM Tech Talk zum Thema kleine Sprachmodelle – und ein Satz aus dem Talk ist mir seither nicht mehr aus dem Kopf gegangen. Dazu komme ich gleich. Erst zum Kontext.
Riccardo Mattivi, Senior Staff AI Engineer bei Integral AdScience, eröffnete die Session im Rahmen der ACM-Initiative für lebenslanges Lernen. Den Hauptvortrag hielt Guglielmo Liozzi - biomedizinischer Ingenieur und Direktor für KI und angewandte Mathematik bei MSD (Merck), mit langjähriger Erfahrung in Software-Engineering und maschinellem Lernen. Sein Thema: das, wie er es nannte, ungenutzte Geschäftspotenzial kleiner Sprachmodelle.
Das passt genau zu etwas, das ich selbst seit Jahren in Kundenprojekten beobachte – und das ich in jüngster Vergangenheit auch in einem Post zum Buch „Small Language Models“ aufgegriffen habe: Man braucht nicht das größte Modell. Man braucht das Richtige.
Der technische Teil: Wie weit lässt sich ein Modell schrumpfen?
Liozzi startete mit konkreten Beispielen, wie man ein domänenspezifisches kleines Sprachmodell aufbaut und implementiert. Dabei stellte er eine Frage, die ich für den schönsten Gedanken-Provokateur des ganzen Talks halte:
„Was, wenn ich versuche, eines dieser Modelle auf einem Commodore 64 zum Laufen zu bringen?”
Das ist natürlich überspitzt – aber genau darin liegt der Witz. Es zwingt einen, eine Frage zu stellen, die in der aktuellen KI-Debatte viel zu selten gestellt wird: Wie wenig Hardware braucht ein Modell wirklich, um für eine konkrete Aufgabe nützlich zu sein? Liozzi führte aus, wie ein Modell quantisiert und für stark eingeschränkte Architekturen angepasst werden muss – eine Übung, die zeigt, wie viel „Fett“ in den meisten KI-Implementierungen tatsächlich steckt, wenn man sie mit Allzweck-Modellen löst statt mit zugeschnittenen.
Für den Mittelstand ist die Commodore-64-Frage natürlich keine reale Anforderung. Aber die Denkrichtung dahinter ist hochrelevant: Viele Unternehmen rüsten ihre Infrastruktur für KI-Anwendungen auf, die eigentlich mit deutlich weniger Rechenleistung laufen könnten – wenn das Modell von Anfang an für die konkrete Aufgabe gebaut wäre, statt ein generisches Großmodell per Prompt zu bändigen.
Der Geschäftsteil: Warum kleine Modelle keine Kompromisslösung sind
Im zweiten Teil wechselte Liozzi den Fokus von der Technik zur Geschäftsperspektive. Seine Kernaussage: Die Implementierung kleiner Sprachmodelle ist keine technische Notlösung für Unternehmen, die sich kein großes Modell leisten können. Sie ist eine eigenständige Geschäftschance.
„Die Nutzung kleiner Sprachmodelle in stark regulierten Branchen kann viele Risiken mindern.”
Das deckt sich exakt mit dem, was wir bei Datenhandwerk im Mittelstand sehen – gerade bei Kunden in regulierten oder datensensiblen Bereichen. Viele bestehende KI-Lösungen sind für den allgemeinen Markt gebaut und erfüllen die spezifischen Anforderungen einzelner Branchen oder Unternehmen schlicht nicht. Liozzi sprach explizit von der Notwendigkeit, hier innovative, zugeschnittene Lösungen zu schaffen - statt zu versuchen, ein universelles Großmodell mit immer mehr Prompt-Engineering in die richtige Richtung zu zwingen.
Datenschutz: Das Modell kommt zu den Daten, nicht umgekehrt
Der Punkt, der für mich am meisten praktische Relevanz für unsere Kunden hatte, war Liozzis Perspektive auf Datenschutz und Sicherheit:
„Die Modelle bewegen sich dorthin, wo die Daten sind, anstatt die Daten zu bewegen.”
Das ist ein einfacher Satz mit einer großen Konsequenz. Bei den meisten kommerziellen KI-APIs ist es umgekehrt: Eure Daten verlassen Eure Infrastruktur, um vom Modell verarbeitet zu werden – und damit verlasst Ihr auch ein gutes Stück Kontrolle über das, was mit sensiblen Informationen passiert. Ein kleines, lokal betreibbares Modell dreht dieses Prinzip um. Es läuft dort, wo die Daten ohnehin liegen – on-premise, in der eigenen Cloud-Umgebung, ohne dass Kundendaten, Vertragsdaten oder Produktionsdaten irgendwo anders hinwandern müssen.
Liozzi gab konkrete Beispiele, wie Unternehmen genau über diesen Weg Datenschutzbedenken adressieren, die bei der Nutzung großer kommerzieller Modelle sonst schwer auflösbar sind.
Der Satz, der mir hängen geblieben ist
Zum Abschluss formulierte Liozzi eine These, die für mich die treffendste Zusammenfassung der gesamten Bewegung hin zu kleinen, spezialisierten Modellen ist:
„Dies ist eine Verschiebung von der Anmietung von Intelligenz zu deren Besitz.”
Genau das ist der Unterschied, den ich Entscheidern im Mittelstand am liebsten erklären würde, wenn ich nur einen Satz hätte. Wer ein großes KI-Modell per API nutzt, mietet Intelligenz – bei einem Anbieter, der die Spielregeln, die Preise und manchmal sogar die Verfügbarkeit jederzeit ändern kann. Wer ein kleines, auf die eigenen Daten und Prozesse zugeschnittenes Modell selbst betreibt oder betreiben lässt, besitzt diese Intelligenz – als eigenen Vermögenswert, der sich mit dem Unternehmen weiterentwickelt, statt von außen verwaltet zu werden.
Was das für Euch bedeutet
Liozzis Vortrag bestätigt etwas, das in der aktuellen KI-Debatte oft untergeht, weil die Schlagzeilen den großen Modellen gehören: Die eigentliche Paradigmenverschiebung passiert nicht beim nächsten GPT-Release. Sie passiert bei Unternehmen, die aufhören zu fragen: „Welches Modell ist gerade das beste?“ und anfangen zu fragen: „Welches Modell brauche ich für genau mein Problem – und kann ich es selbst besitzen, statt es zu mieten?“
Für den Mittelstand ohne eigenes Data-Team klingt das zunächst nach einer Hürde. Ist es aber nicht – es ist eine Einladung, das KI-Projekt von der richtigen Seite aus zu denken: nicht vom größten verfügbaren Modell aus, sondern vom eigenen, sehr konkreten Anwendungsfall.