Nur Lokales ist Wahres - Vorwort
Warum Unternehmen über den Einsatz lokaler Open-Source-Modelle nachdenken sollten, anstatt sich blind von Cloud-Diensten abhängig zu machen.
Die abenteuerlichen Berichte darüber, in welchem Ausmaß US-Unternehmen Mitarbeiter entlassen, um sie — zumindest laut eigener Darstellung — durch KI-Agenten zu ersetzen, gehören inzwischen zur Tagespresse. Wie viele dieser Entlassungen tatsächlich auf den Siegeszug großer Sprachmodelle zurückzuführen sind und wie viele lediglich klassische Rationalisierungsmaßnahmen darstellen, lässt sich seriös kaum messen.
Fest steht jedoch: Die potenziellen Effizienzgewinne durch KI sind längst im deutschen Mittelstand angekommen. Die Spannweite reicht dabei von isolierten Einzellösungen einzelner Mitarbeiter, die die Modelle ihres Vertrauens teilweise ohne Wissen ihrer Vorgesetzten einsetzen, bis hin zum flächendeckenden Einsatz der großen Flagship-Modelle in zentralen Unternehmensprozessen.
Beide Ansätze verbindet allerdings ein entscheidender Umstand: Die zugrunde liegenden Modelle werden nahezu ausschließlich von großen US-Cloud-Anbietern wie OpenAI, Anthropic oder Google als abonnementbasierte Dienste bereitgestellt.
Gleichzeitig haben Themen wie Datenschutz und Datensouveränität in den vergangenen Jahren erheblich an Bedeutung gewonnen — zunehmend auch in Form regulatorischer Verpflichtungen. Die daraus entstehenden „Lösungen“ wirken jedoch häufig eher wie technische und juristische Workarounds: etwa der Bezug US-amerikanischer Modelle über Rechenzentren innerhalb der EU. Inwiefern dies tatsächlich einen substanziellen Beitrag zu europäischer Datensouveränität leistet, bleibt fraglich.
Das größere Problem des flächendeckenden Einsatzes US-amerikanischer KI-Dienste dürfte ohnehin weniger ethischer als betriebswirtschaftlicher Natur sein. Denn die aktuellen Preise vieler KI-Angebote sind nur möglich, weil in bislang beispiellosem Umfang Venture-Capital-Gelder verbrannt werden, um Marktanteile zu sichern. Diese Phase neigt sich jedoch langsam ihrem Ende zu.
Der Prozess der sogenannten „Enshittification“ — also der schrittweisen Verschlechterung eines Dienstes bei gleichzeitig steigenden oder zumindest nicht sinkenden Kosten — hat längst begonnen.
Mehr Werbung, strengere Limits, eingeschränkte APIs, aggressive Preismodelle und die zunehmende Monetarisierung zuvor kostenloser Funktionen sind dabei nur erste Symptome.
Die entscheidende Frage für Unternehmen sollte daher weniger lauten, ob KI-Dienste aus ethischen Gründen über US-Cloud-Anbieter bezogen werden sollten, sondern vielmehr, ob es sinnvoll ist, geschäftskritische Prozesse auf Technologien aufzubauen, deren langfristige Kostenstruktur kaum kalkulierbar ist.
Was geschieht, wenn Anbieter wie OpenAI oder Anthropic ihre Dienste plötzlich näher an den tatsächlichen Kosten der Tokengenerierung bepreisen müssen? Oder wenn Modelle eingestellt, APIs verändert oder Nutzungsbedingungen verschärft werden?
Genau an dieser Stelle erscheinen lokal betriebene Open-Source-Modelle plötzlich als ernstzunehmende Alternative.
Denn diese Modelle sind nicht nur frei verfügbar, sondern laufen auf eigener Hardware innerhalb des Unternehmens. Dadurch entschärfen sich sowohl Datenschutz- als auch Souveränitätsfragen erheblich. Gleichzeitig wird die Kostenstruktur deutlich kalkulierbarer: Die Ausgaben beschränken sich im Wesentlichen auf einmalige Hardwareinvestitionen sowie laufende Stromkosten. Risiken in Form plötzlicher Preiserhöhungen oder strategischer Richtungswechsel externer Anbieter entfallen weitgehend.
Hinzu kommt ein weiterer praktischer Vorteil: Ein einmal eingerichteter KI-Workflow kann über lange Zeiträume stabil weiterbetrieben werden. Während Cloud-Anbieter regelmäßig Modelle austauschen, Schnittstellen verändern oder Funktionen einstellen — und dadurch kontinuierlichen Wartungsaufwand erzeugen — behalten Unternehmen bei lokal betriebenen Modellen die vollständige Kontrolle über ihre Infrastruktur.
Diese Artikelserie soll daher keine theoretische Diskussion über KI führen, sondern einen praktischen Blick darauf werfen, wie leistungsfähig lokale Open-Source-Modelle inzwischen tatsächlich sind — und an welchen Stellen sie heute bereits eine realistische Alternative zu kommerziellen Cloud-Angeboten darstellen. Es werden nicht langweilige Geek-Benchmarks, die im realen Unternehmenskontext keine Rolle spielen, sondern sichtbare Endergebnisse verglichen.
In Teil 1 dieser Serie werden lokal gehostete Open Source-Modelle gegen die Modelle der großen Cloud-Anbieter im erstellen einer Website antreten.