Open Source KI

Open Source KI bezieht sich auf künstliche Intelligenz, bei der die zugrunde liegenden Modellarchitekturen, Gewichte und oft auch die Trainingsmethoden unter einer freien Lizenz veröffentlicht werden. Im Gegensatz zu proprietären Systemen wie ChatGPT oder Claude können Unternehmen diese Modelle herunterladen, auf eigener Hardware betreiben und tiefgreifend an ihre spezifischen Bedürfnisse anpassen. In der Fachwelt wird zwar debattiert, ob ein Modell ohne vollständig offengelegte Trainingsdaten strenggenommen als Open Source gelten darf, doch in der Praxis hat sich der Begriff für alle leistungsfähigen Modelle etabliert, die ohne API-Zwang und Abhängigkeit von einem zentralen Cloud-Anbieter lokal nutzbar sind.

Für den deutschen Mittelstand ist dieser Ansatz vor allem aus Gründen der Datensouveränität und Compliance attraktiv. Durch den Betrieb auf eigenen Servern oder bei europäischen Cloud-Providern verlassen sensible Unternehmensdaten niemals den eigenen Rechtsraum, was die Umsetzung der DSGVO-Vorgaben im Vergleich zu US-basierten SaaS-Lösungen massiv vereinfacht. Zudem entfällt das Risiko eines Vendor-Lock-ins: Unternehmen sind nicht von den Preismodellen oder der Produktpolitik großer Tech-Giganten abhängig. Die Möglichkeit, Modelle durch Fine-Tuning mit eigenem Fachwissen zu trainieren, ohne dass dieses Wissen in den allgemeinen Datenpool der Provider abfließt, schützt das geistige Eigentum und sichert langfristige Wettbewerbsvorteile.

Ein konkretes Einsatzszenario findet sich im deutschen Maschinenbau bei der automatisierten Auswertung von technischen Serviceberichten oder vertraulichen Kundenanfragen. Anstatt diese sensiblen Dokumente über eine öffentliche Schnittstelle zu verarbeiten, nutzt ein Unternehmen ein lokal gehostetes Modell wie Llama 3 oder Mistral. Das Modell wird auf die spezifische Fachterminologie des Betriebs optimiert und unterstützt die Ingenieure bei der Fehlerdiagnose. Da die gesamte Rechenleistung im eigenen Rechenzentrum oder einer geschützten Instanz erfolgt, bleiben Betriebsgeheimnisse dort, wo sie hingehören, während gleichzeitig die Effizienz in der Sachbearbeitung gesteigert wird.

Aktuell verschieben sich die Kräfteverhältnisse am Markt, da offene Modelle in ihrer Leistungsfähigkeit fast zu den Marktführern aufgeschlossen haben. IT-Entscheider müssen jedoch berücksichtigen, dass der Wegfall von Lizenzkosten durch Aufwände für Hardware und spezialisiertes Personal kompensiert wird. Die Transparenz des Quellcodes erleichtert zudem Audits und Sicherheitsüberprüfungen, was besonders für Datenschutzbeauftragte und regulierte Branchen ein entscheidendes Argument ist. Mit dem kommenden EU AI Act gewinnen offene Systeme zusätzlich an Bedeutung, da sie eine bessere Überprüfbarkeit der eingesetzten Algorithmen ermöglichen.