Open-Source-LLMs für Unternehmen: Datensouveränität ohne Cloud-Zwang

Open-Source-LLMs sind 2026 erstmals gut genug für den Geschäftseinsatz, und drastisch günstiger als die US-Flaggschiffe. Die besten offenen Modelle liegen laut Epoch AI im Schnitt nur noch rund vier Monate hinter der geschlossenen Spitze, und selbst Microsoft prüft DeepSeek für sein Copilot-Angebot, um Kosten zu senken. Ein Open-Source-LLM ist dabei ein Sprachmodell mit frei verfügbaren Gewichten, das ein Unternehmen auf eigener Infrastruktur betreiben kann. Für Schweizer KMU verschiebt das die Frage weg von reiner Leistung hin zu Kontrolle, Datensouveränität und planbaren Kosten. Mit MiMo-V2.6, GLM-5.3, Kimi K3, Qwen3.8, DeepSeek V4.1, Mistral und Apertus 1.5 stehen aktuelle offene Optionen bereit, dieser Beitrag zeigt, wann sich der Schritt lohnt, was er kostet und wo die Grenzen liegen.

→ zum Überblick KI im Marketing strategisch einordnen

Open Source oder Open Weights? Der entscheidende Unterschied

Open Source und Open Weights sind nicht gleichbedeutend. Open Weights stellt die Modellparameter bereit, während Open Source zusätzlich Transparenz über Code, Daten und Lizenz voraussetzt. Für Unternehmen ist diese Unterscheidung entscheidend, weil sie Betrieb, Anpassbarkeit, Nachvollziehbarkeit und die rechtliche Prüfung des Einsatzes beeinflusst.

Ein Open-Source-LLM und ein Open-Weights-Modell sind nicht dasselbe. Offene Gewichte bedeuten, dass die trainierten Modellparameter frei heruntergeladen und selbst betrieben werden dürfen. Echtes Open Source verlangt zusätzlich offene Trainingsdaten, offenen Code und eine permissive Lizenz. Die meisten bekannten Modelle sind Open Weights, nicht vollständig Open Source. Dieser Unterschied entscheidet über Nachvollziehbarkeit und rechtliche Sicherheit. Der Begriff Open Source wird im KI-Markt grosszügig verwendet. Wer Datensouveränität ernst nimmt, sollte drei Ebenen trennen, weil jede eine andere Frage beantwortet: Kann ich das Modell selbst betreiben? Darf ich es kommerziell nutzen und anpassen? Und kann ich nachvollziehen, womit es trainiert wurde?

Die drei Offenheitsgrade

Die drei Offenheitsgrade erklären, warum ein Modell mit offenen Gewichten nicht automatisch vollständig Open Source ist. Für Unternehmen zählt zunächst, ob die Gewichte verfügbar sind und unter welchen Bedingungen sie eingesetzt werden dürfen. Trainingsdaten, Code, Lizenz und Dokumentation bestimmen zusätzlich Transparenz und Anpassbarkeit.

• Offene Gewichte: Die Parameter sind verfügbar, das Modell läuft auf eigener Hardware. Trainingsdaten und Code bleiben oft geschlossen.
• Offene Lizenz: Eine permissive Lizenz wie Apache 2.0 oder MIT erlaubt kommerzielle Nutzung, Anpassung und Weitergabe ohne Tantiemen.
• Volle Transparenz: Zusätzlich sind Trainingsdaten, Trainingscode und Zwischen-Checkpoints offengelegt. Das ist die Ausnahme, nicht die Regel.

Für ein Unternehmen ist die Lizenz die geschäftskritische Ebene. Eine MIT- oder Apache-2.0-Lizenz gibt Rechtssicherheit für den produktiven Einsatz. Modelle mit eigenen, eingeschränkten Lizenzen können Umsatzgrenzen oder Nutzungsklauseln enthalten, die vor dem Pilotbetrieb geprüft werden müssen.

Kurz zusammengefasst: Offene Gewichte geben Kontrolle über den Betrieb, eine offene Lizenz gibt Rechtssicherheit, volle Transparenz gibt Nachvollziehbarkeit. Für die meisten KMU sind die ersten beiden Ebenen ausreichend und entscheidend.

Stand Oktober 2026: Die führenden offenen Modelle

Die offene Modelllandschaft ist 2026 breit und schnelllebig: Xiaomi, Z.ai, Moonshot, Alibaba, DeepSeek, MiniMax, Google, Mistral und die Swiss AI Initiative decken unterschiedliche Prioritäten ab. Für Unternehmen zählen deshalb nicht nur Benchmarkwerte, sondern auch Lizenz, Datenstandort, Hardwarebedarf und eine belastbare Betriebsoption.

Seit dem 21. September 2026 führt MiMo-V2.6-Pro von Xiaomi die offenen Modelle an. Es erreicht im Artificial Analysis Intelligence Index v4.3.2 einen Wert von 46, knapp vor GLM-5.3 (45) und Kimi K3 (44). Die proprietäre Spitze, Claude Opus 5.5, liegt bei 58. Der Abstand ist real, für viele Geschäfts-Use-Cases aber nicht ausschlaggebend. Neu ist ein Lizenztrend: GLM-5.3, Kimi K3 und Qwen3.8-Max erscheinen nicht mehr unter MIT oder Apache 2.0, sondern unter eigenen Lizenzen mit Umsatzschwellen. Für Schweizer KMU greifen diese Schwellen praktisch nie, die Lizenz sollte trotzdem vor dem Einsatz geprüft werden. Neu ist Kolibri von Aleph Alpha, ein offenes Modell aus Deutschland unter Apache 2.0, gebaut für den Selbstbetrieb auf einer einzelnen GPU. Mistral Large 4 ist Europas neues Flaggschiff, vorerst als API-Vorschau; offene Gewichte sind für Ende Oktober angekündigt. Die folgende Übersicht ordnet die wichtigsten Optionen nach Indexwert und nennt Lizenz und Betreibbarkeit.

Zweite Perspektive: echte Software-Aufgaben. Der DeepSWE-Benchmark von Datacurve misst, ob Modelle neu erstellte, kontaminationsfreie Programmieraufgaben lösen. Für mehrstufige Automations-Workflows ist das ein guter Zuverlässigkeits-Indikator. Die folgende Tabelle ordnet offene und proprietäre Modelle nebeneinander ein und macht sichtbar, wie nah die offene Spitze inzwischen liegt.

Eine genaue Einordnung aller proprietären Anbieter, von GPT über Gemini bis Claude, liefert der separate Vergleich der ChatGPT-Alternativen. Wer Datensouveränität ins Zentrum stellt, liest hier weiter. Für die Einordnung der Leaderboard-Werte ist die Open-Weights-Rangliste von Artificial Analysis eine verlässliche, laufend aktualisierte Quelle. Entscheidend bleibt: Der Indexwert sagt nichts über die Passung zu Ihrem Use Case.

Für die Praxis heisst das: Wer nicht zwingend das absolut beste Modell braucht, arbeitet mit einem offenen Modell auf einem Stand, den die proprietäre Spitze vor wenigen Monaten hatte. Bei den meisten Geschäfts-Use-Cases ist dieser Abstand ohne Bedeutung, weil die Aufgabe nicht am letzten Fähigkeits-Prozent scheitert, sondern an Integration, Daten und Betrieb. Genau das stützt den hybriden Ansatz: das offene Modell für den Normalfall, die proprietäre Spitze nur dort, wo die vier Monate wirklich zählen.

Der Fähigkeitsabstand und der Preisabstand sind zwei verschiedene Entwicklungen. Auch proprietäre Anbieter senken die Preise: OpenAI halbierte am 22. September 2026 mit GPT-6 Sol und GPT-6 Luna die Preise der Mittel- und Volumenklasse (Luna: USD 0.10 Input / 0.50 Output pro Million Tokens). DeepSeek V4.1 Flash kostet in Nebenzeiten USD 0.15 / 0.60, MiMo-V2.6-Pro laut Xiaomi USD 0.435 / 0.87. Preisvorteile offener Modelle sollten deshalb immer mit dem konkreten Modell, Tarif und Datenstand verglichen werden. Den aktuellen Abstand im Index zeigt die Tabelle oben: 46 Punkte für das beste offene gegenüber 58 für das beste geschlossene Modell.

Die führenden offenen Modelle im Profil

Die Modellprofile ordnen die offenen Systeme nach praktischen Auswahlkriterien: Qualität, Lizenz, Kontext, Hardware, Multimodalität und Einsatzgebiet. Dadurch wird sichtbar, weshalb es nicht den einen Sieger für jedes Unternehmen gibt. Ein starkes Coding-Modell kann für Wissensarbeit, Datenhoheit oder Kosten trotzdem die falsche Wahl sein.

Hinter den Tabellenwerten stehen unterschiedliche Stärken. Die folgenden Profile ordnen jedes Modell nach dem ein, was für die Auswahl wirklich zählt: Lizenz, Betreibbarkeit und bester Einsatz.

MiMo-V2.6-Pro: das stärkste offene Modell (September 2026)

MiMo-V2.6-Pro von Xiaomi erschien am 21. September 2026 und ist laut VentureBeat mit 1.02 Billionen Parametern (42 Milliarden aktiv) das neue offene Spitzenmodell: Index 46 bei Artificial Analysis, MIT-Lizenz, eine Million Token Kontext und native Verarbeitung von Text, Bild, Audio und Video. Bemerkenswert ist die Wirtschaftlichkeit: Artificial Analysis misst rund USD 0.13 pro Index-Aufgabe, ein Bruchteil proprietärer Spitzenmodelle. Die kleinere Variante MiMo-V2.6-Flash (310 Milliarden, 15 Milliarden aktiv) ist ebenfalls MIT-lizenziert. Für den Self-Host-Betrieb der Pro-Variante braucht es einen grossen GPU-Cluster; realistisch ist für KMU eher der Bezug über einen europäischen Hosting-Anbieter.

GLM-5.3: Coding-Spitze mit neuer Lizenz

GLM-5.3 von Z.ai (Zhipu) ist seit Anfang August 2026 per API verfügbar, die Gewichte folgten laut The New Stack am 28. August nach einer zweiwöchigen Sicherheitsprüfung. Das Modell nutzt 753 Milliarden Parameter als Mixture-of-Experts (rund 40 Milliarden aktiv), eine Million Token Kontext und erreicht im Index 45. Z.ai hebt die Cyber-Abwehr hervor (84.5 Prozent im Schwachstellen-Benchmark CyberGym, Herstellerangabe). Wichtig für die Auswahl: GLM-5.3 steht nicht mehr unter MIT wie GLM-5.2, sondern unter einer eigenen Lizenz. Firmen mit mehr als USD 10 Milliarden Jahresumsatz müssen für kommerzielle Nutzung eine Sicherheitsprüfung durch Z.ai bestehen; für KMU gelten keine zusätzlichen Auflagen. Die kompakte Variante GLM-5.3-Flash (320 Milliarden, 18 Milliarden aktiv, Index 42) steht unter MIT.

Kimi K3: das grösste offene Modell für agentisches Coding

Kimi K3 von Moonshot AI ist mit 2.8 Billionen Parametern (104 Milliarden aktiv) das grösste Modell in dieser Übersicht; die Gewichte erschienen laut Digital Applied am 27. Juli 2026. Es bietet eine Million Token Kontext und erreicht im Index 44. Die eigene Kimi-K3-Lizenz verlangt eine Sondervereinbarung erst für Model-as-a-Service-Anbieter ab USD 20 Millionen Umsatz; interne Nutzung ist ausgenommen. Die Gewichte umfassen rund 1.5 Terabyte, der Betrieb ist damit klar ein Fall für spezialisierte Hosting-Partner, nicht für den eigenen Serverraum eines KMU.

Qwen3.8: vom 27B-Modell bis zur offenen Max-Variante

Alibaba hat mit Qwen3.8 erstmals auch die Max-Klasse geöffnet: Qwen3.8-Max ist laut Machinebrief seit dem 12. August 2026 als Qwen3.8-2.4T-A95B herunterladbar (2.4 Billionen Parameter, 95 Milliarden aktiv, nur Text, Index 40) und steht unter einer eigenen Lizenz mit Schwellen ab USD 50 Millionen Umsatz. Das schlanke Qwen3.8-27B (14. August 2026) bleibt unter Apache 2.0, läuft schon auf wenigen GPUs und erreicht Index 34. Qwen 4 hat Alibaba am 22. September 2026 an der Apsara-Konferenz angekündigt (Max, Plus, Flash und 27B), ohne Datum, Gewichte oder Benchmarks; offene Gewichte waren bisher nur bei der 27B-Stufe üblich.

DeepSeek V4.1 Flash: das Preis-Leistungs-Modell

DeepSeek V4.1 Flash erschien am 10. September 2026 unter MIT-Lizenz. Laut SiliconANGLE nutzt es 552 Milliarden Parameter, von denen beim Generieren nur 16 Milliarden aktiv sind, verarbeitet neu auch Bilder und übertrifft nach Herstellerangabe das grössere V4-Pro (DeepSWE 74.2 Prozent). In Nebenzeiten kostet die API USD 0.15 Input und 0.60 Output pro Million Tokens; im Index erreicht es 39. Die offizielle Cloud-API läuft über chinesische Server, weshalb für sensible Daten die selbst gehostete oder europäisch gehostete Variante zwingend ist. Wie heikel die Cloud-Frage ist, zeigt Microsoft: Der Konzern untersagt seinen Mitarbeitenden die DeepSeek-App aus Datenschutzgründen, bietet das Modell aber gleichzeitig auf der eigenen Azure-Infrastruktur an. Laut Handelsblatt erwägt Microsoft zudem, eine selbst gehostete DeepSeek-Variante im Unternehmensassistenten Copilot Cowork einzusetzen, gemäss Konzern „eines von mehreren Modellen, die in Betracht gezogen werden". Ein finaler Entscheid steht aus. Genau dieser Unterschied, riskante Fremd-App gegenüber kontrollierter eigener Infrastruktur, ist der Kern dieses Artikels.

Mistral Large 4: Europas neues Flaggschiff, offene Gewichte angekündigt

Mistral Large 4 ist das neue grösste Modell von Mistral AI. Es verbindet Instruct- und Reasoning-Modus und verarbeitet Text und Bilder.

• Anbieter und Land: Mistral AI, Frankreich
• Veröffentlichung: 6. Oktober 2026, öffentliche Vorschau
• Lizenz: noch nicht genannt, offene Gewichte für Ende Oktober angekündigt
• Architektur: Mixture-of-Experts, rund 1 Billion Parameter, davon 52 Milliarden aktiv
• Kontext: in der Ankündigung nicht angegeben
• Sprachen: Trainingsdaten in über 160 Sprachen, darunter alle EU-Amtssprachen
• Verfügbarkeit: API-Vorschau in Mistral Studio, betrieben in Europa (Ankündigung)

Stärken: Training und Betrieb in eigenen Rechenzentren in Europa. Breite Sprachabdeckung für Deutsch, Französisch, Italienisch und Englisch. Für agentische Abläufe nennt Mistral 59.9 Prozent im AutomationBench.

Grenzen: Unabhängige Messungen sind noch rar, der AutomationBench-Wert ist eine Herstellerangabe. Artificial Analysis führt die Vorschau mit 38 Punkten als proprietär, weil die Gewichte fehlen. Lizenz und Selbstbetrieb lassen sich erst nach der Freigabe beurteilen.

Für wen in Schweizer KMU: mehrsprachige Prozesse in Deutsch, Französisch, Italienisch und Englisch mit Verarbeitung in der EU.

MiniMax M3: multimodal und coding-stark

MiniMax M3 (Juni 2026) vereint starke Coding-Leistung, eine Million Token Kontext und native Multimodalität. Mit 428 Milliarden Parametern (23 Milliarden aktiv) und Index 29 liegt es inzwischen hinter den neueren Modellen, bleibt aber für Aufgaben interessant, die Text, Bild und Code zugleich verlangen. Es steht unter der MiniMax Community License; die Bedingungen sollten vor dem produktiven Einsatz geprüft werden.

Mistral Medium 3.5: die europäische Option

Mistral Medium 3.5 stammt vom EU-Anbieter Mistral und ist ein dichtes 128-Milliarden-Parameter-Modell mit 256k Kontext unter Modified-MIT-Lizenz. Mistral Vibe ist die darauf aufbauende Agentenplattform für Work-, Chat- und Coding-Aufgaben. Das Modell konsolidiert die früheren Linien Magistral und Devstral 2 und erreicht laut Mistral 77.6 Prozent im SWE-Bench Verified; im breiteren Artificial-Analysis-Index liegt es mit 14 deutlich hinter den chinesischen Spitzenmodellen. Für den Self-Host-Betrieb genügen vier H100-GPUs. Mistral Large 4 ist das grössere Modell derselben Familie, Medium 3.5 bleibt die kleinere Option für den Selbstbetrieb. Für Unternehmen mit Fokus auf EU-Datenhoheit bleibt Mistral die naheliegende Wahl.

Gemma 4: Googles offene Familie für den Edge-Einsatz

Gemma 4 von Google DeepMind erschien im April 2026 und steht unter Apache-2.0-Lizenz, ein wichtiger Schritt weg von der früheren restriktiven Gemma-Lizenz. Die Familie reicht von sehr kleinen Edge-Modellen (E2B und E4B) über ein 26-Milliarden-Modell als Mixture-of-Experts mit rund 4 Milliarden aktiven Parametern bis zum dichten 31B-Modell, alle mit 256k Kontext, nativer Bild- und Audioverarbeitung und über 140 Sprachen. Die Stärke ist die Effizienz: Die kleinen Varianten laufen auf bescheidener oder sogar lokaler Hardware. Die naheliegende Wahl, wenn ein offenes, multimodales Modell nah am Edge auf eigener Infrastruktur laufen soll.

Kolibri: Deutschlands offenes Modell für den Selbstbetrieb

Kolibri ist ein offenes Sprachmodell von Aleph Alpha, gebaut für Deutsch und Englisch und für den Betrieb im eigenen Rechenzentrum.

• Anbieter und Land: Aleph Alpha, Deutschland
• Veröffentlichung: 3. Oktober 2026
• Lizenz: Apache 2.0 für Gewichte und Konfiguration
• Architektur: Mixture-of-Experts, rund 78 Milliarden Parameter, davon rund 3.5 Milliarden aktiv pro Token
• Kontext: bis 1 Mio. Tokens, empfohlen bis 262k
• Sprachen: Deutsch und Englisch
• Verfügbarkeit: Gewichte auf Hugging Face

Stärken: Kolibri läuft mit rund 78 GB (FP8) auf einer einzelnen B200-, B300- oder H200-GPU oder auf zwei H100. Rund 24 Prozent der Pre-Training-Daten sind deutsch, der Tokenizer ist auf deutsche Komposita ausgelegt.

Grenzen: Unabhängige Benchmarks fehlen, Artificial Analysis hat noch keinen Indexwert publiziert. Die 84.3 Punkte im GPQA Diamond sind eine Herstellerangabe. Code, Architektur und Trainingsmethoden fallen nicht unter die Lizenz.

Für wen in Schweizer KMU: vertrauliche deutschsprachige Dokumente wie Verträge, Richtlinien oder Personalunterlagen, die das eigene Rechenzentrum oder die Schweiz nicht verlassen sollen.

Apertus 1.5: das Schweizer Souveränitätsmodell

Apertus 1.5 (Juli 2026) ergänzt die Schweizer Modellfamilie um Bildverständnis und besseres Reasoning. Es führt keine Leistungsrangliste an, ist aber das einzige vollständig offene Modell dieser Übersicht mit dokumentierten Trainingsdaten. Wegen seiner besonderen Bedeutung behandeln wir es in einem eigenen Abschnitt weiter unten.

Self-Hosting oder gehostete API: Wann lohnt sich was?

Self-Hosting lohnt sich vor allem bei sensiblen Daten, hohem stabilem Volumen oder besonderen Anforderungen an Kontrolle. Eine gehostete Open-Weight-API ist meist schneller und anfangs günstiger. Die richtige Entscheidung hängt daher weniger vom Etikett des Modells ab als von Datenklasse, Lastprofil, Standort und eigener Betriebskompetenz.

Self-Hosting lohnt sich, wenn Daten das eigene Rechenzentrum nicht verlassen dürfen oder das Volumen so hoch ist, dass eigene GPU-Stunden günstiger werden als der Token-Preis. Eine gehostete Open-Weight-API lohnt sich für den Einstieg, für schwankende Last und wenn keine Betriebskompetenz für GPUs vorhanden ist. Beide nutzen dasselbe offene Modell, der Unterschied liegt im Betrieb. Kolibri etwa läuft auf einer einzelnen B200-, B300- oder H200-GPU. Offene Gewichte heissen nicht zwingend eigene Hardware. Es gibt einen dritten Weg zwischen US-Cloud und eigenem Serverraum, der oft übersehen wird.

Drei Betriebsmodelle im Vergleich

Für offene Modelle gibt es drei praktikable Betriebswege: gehostete API, Managed Hosting oder eigener Betrieb. Sie unterscheiden sich bei Datenkontrolle, Verantwortlichkeit, Einführungszeit und Kosten. Die Wahl sollte an der Schutzklasse und Last des Prozesses ausgerichtet werden, nicht allein an der Frage, ob ein Modell heruntergeladen werden kann.

• Gehostete Open-Weight-API: Ein Anbieter betreibt das offene Modell, Sie zahlen pro Token. Schnellster Start, geringste Kontrolle über den Serverstandort.
• Managed Hosting in der Schweiz oder EU: Ein Schweizer Partner betreibt das Modell auf bekanntem Serverstandort. Guter Mittelweg aus Kontrolle und Aufwand.
• Eigenes Self-Hosting: Das Modell läuft auf eigener oder gemieteter GPU-Infrastruktur. Volle Kontrolle, höchster Betriebsaufwand.

Konkrete Werkzeuge lassen sich diesen drei Modellen zuordnen. Für den API-Einstieg bündelt ein Gateway wie OpenRouter den Zugang zu vielen offenen und geschlossenen Modellen über eine einzige, OpenAI-kompatible Schnittstelle. Im europäischen Raum betreiben Plattformen wie Langdock mehrere Modelle mit Hosting in der EU und DSGVO-Konformität, inklusive On-Premise-Option. Für den eigenen Betrieb sorgen Serving-Stacks wie vLLM, Ollama oder llama.cpp, die der nächste Abschnitt vertieft.

Die technische Hürde des Self-Hostings hängt stark von der Modellgrösse ab. Ein dichtes 27B-Modell wie Qwen3.8-27B läuft auf wenigen GPUs. Ein grosses MoE-Modell wie GLM-5.3 mit 753 Milliarden Parametern verlangt einen ernsthaften GPU-Cluster und entsprechendes Betriebs-Know-how. Latenz und Skalierung sind dabei keine Nebensache, sondern entscheiden über die Akzeptanz im Alltag.

Prüfen Sie: Welcher der drei Wege passt zu Ihrer Datenklasse und zu Ihrem internen Können? Für die meisten KMU ist der Start über eine gehostete API oder einen Schweizer Managed-Partner der pragmatische Weg, bevor eigene Hardware beschafft wird.

Sicher ohne Webzugriff: das offline betriebene Open-Source-LLM

Ein offline betriebenes Open-Source-LLM verarbeitet Prompts und Dokumente innerhalb der eigenen Umgebung. Das reduziert Abhängigkeiten von externen APIs und schützt sensible Inhalte, nimmt dem Modell aber Live-Webwissen. Für aktuelle Informationen braucht es deshalb freigegebene interne Quellen, regelmässige Modellupdates und klare Prozesse für Betrieb und Sicherheit.

Ein selbst gehostetes Open-Source-LLM kann vollständig ohne Internetzugang laufen. Das Modell wird einmalig heruntergeladen, danach erfolgt die gesamte Verarbeitung lokal im eigenen Netz. Weder Prompts noch Antworten verlassen das Unternehmen. Für Branchen mit Geschäftsgeheimnissen oder Personendaten ist dieser abgeschottete Betrieb die stärkste verfügbare Datenschutz-Architektur. Genau hier liegt der Unterschied zur Cloud-API, die per Definition Daten an einen externen Anbieter sendet. Ein offenes Modell gibt die Kontrolle zurück, sofern der Betrieb sauber abgeschottet ist.

Wie der Offline-Betrieb funktioniert

Offline-Betrieb hält Modellaufrufe und Dokumente innerhalb der eigenen Infrastruktur. Dafür müssen Unternehmen Modellupdates, Abhängigkeiten, Zugriffe, Monitoring und aktuelle Wissensquellen selbst verantworten. Der Ansatz eignet sich besonders für abgeschirmte Daten, verlangt aber eine realistische Einschätzung der vorhandenen Betriebs- und Sicherheitskompetenz.

• Einmaliger Bezug: Die Modell-Gewichte werden einmal von einer Quelle wie Hugging Face geladen und im isolierten Netz abgelegt.
• Lokaler Inferenz-Server: Ein Serving-Stack wie vLLM, SGLang, Ollama oder llama.cpp betreibt das Modell auf eigener GPU oder sogar auf CPU, ohne Verbindung nach aussen.
• Kein Egress: Eine Firewall-Regel blockiert ausgehenden Datenverkehr. Es gibt keinen Anbieter-Dienst, der Telemetrie abrufen könnte.
• Interne Wissensanbindung: Über Retrieval-Augmented Generation greift das Modell ausschliesslich auf freigegebene interne Dokumente zu, nicht auf das Web.
• Lokales Audit-Logging: Jede Abfrage wird im eigenen System protokolliert und bleibt revisionsfähig.

Der Offline-Betrieb hat einen klaren Preis. Das Modell kennt nur seinen Trainingsstand und hat kein Live-Webwissen, und Aktualisierungen müssen manuell eingespielt werden. Die Betriebsverantwortung liegt vollständig im Haus. Für aktuelle Fakten lässt sich eine kontrollierte, freigegebene Quelle per Retrieval anbinden, ohne das Modell ans offene Internet zu hängen. So bleibt die Datenhoheit erhalten, und der Funktionsumfang stimmt trotzdem.

Datensouveränität und Recht: revDSG, EU AI Act, Serverstandort

Datensouveränität entsteht nicht allein dadurch, dass ein Modell offene Gewichte besitzt. Entscheidend sind Verarbeitung, Hosting, Zugriffsrechte, Auftragsbearbeitung und Governance. Self-Hosting kann Datenflüsse besser kontrollierbar machen, ersetzt aber weder eine rechtliche Prüfung noch technische Massnahmen wie Protokollierung, Löschung und Zugriffsschutz.

Datensouveränität bedeutet, dass ein Unternehmen jederzeit kontrolliert, wo seine Daten verarbeitet werden und wer darauf zugreift. Ein selbst betriebenes Open-Source-LLM erfüllt diese Anforderung am direktesten, weil weder Prompts noch Daten an einen externen Anbieter fliessen. Für Schweizer KMU bilden das revidierte Datenschutzgesetz und der EU AI Act den Rahmen, der die Modellwahl mitbestimmt. Wer mit Personendaten oder Geschäftsgeheimnissen arbeitet, kann den Serverstandort nicht dem Zufall überlassen. Hier liegt der eigentliche Vorteil offener Modelle.

Was die beiden Regelwerke verlangen

Die rechtliche Bewertung richtet sich nach Zweck, Daten, Rollen und Verarbeitung, nicht nach dem Label Open Source. revDSG und EU AI Act verlangen je nach Einsatz unterschiedliche organisatorische und technische Vorkehrungen. Self-Hosting kann Datenflüsse kontrollierbarer machen, ersetzt aber keine Dokumentation, Risikoanalyse oder fachkundige Rechtsprüfung.

• revDSG (Schweiz): Das revidierte Datenschutzgesetz ist seit dem 1. September 2023 in Kraft. Es verlangt Transparenz über die Datenbearbeitung, Bearbeitungsverzeichnisse und besondere Sorgfalt bei der Bekanntgabe ins Ausland.
• EU AI Act: Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck gelten seit dem 2. August 2025. Mit dem AI-Omnibus, den Parlament und Rat am 1. Juli 2026 formell verabschiedet haben, wurden die Hochrisiko-Pflichten verschoben: für eigenständige Systeme auf den 2. Dezember 2027, für produktintegrierte Systeme auf den 2. August 2028. Für die Transparenzpflichten nach Artikel 50 gilt eine Übergangsfrist bis zum 2. Dezember 2026.
• Serverstandort: Ein Betrieb in der Schweiz oder EU vermeidet die rechtlich heikle Übermittlung in US-Cloud-Regionen und vereinfacht die Auftragsbearbeitung.

Der entscheidende Punkt: Ein selbst gehostetes oder in der Schweiz betriebenes offenes Modell verlagert die Datenverarbeitung an einen Ort, den Sie kontrollieren. Das ersetzt keine rechtliche Prüfung, reduziert aber die Angriffsfläche erheblich. Die offiziellen Vorgaben zum regulatorischen Rahmen des EU AI Act sind dabei die verbindliche Referenz für die Einordnung von KI-Systemen.

Zu Kolibri liefert Aleph Alpha laut eigener Angabe Unterlagen zu Urheberrecht, Datenschutz und EU AI Act. Mistral Large 4 läuft in der Vorschau in Europa. Die revDSG-Prüfung bleibt beim Unternehmen.

Hybrid: Daten anonymisieren, bevor sie ins Modell gehen

Ein hybrider Prozess kann Daten vor der Weitergabe minimieren oder anonymisieren und weniger sensible Aufgaben an eine externe API geben. Das reduziert das Risiko, ist aber nicht automatisch sicher: Re-Identifikation, Kontextkombinationen und Fehlklassifikationen müssen geprüft werden. Aufgaben mit echten Personendaten bleiben häufig besser in einer kontrollierten Umgebung.

Ein wirkungsvoller Mittelweg ist die Anonymisierung vor dem Prompt. Eine lokale Schicht erkennt und maskiert Personendaten wie Namen, Adressen oder AHV-Nummern, bevor der Text an ein Modell geht. Nach der Antwort werden die Platzhalter lokal wieder zugeordnet. So lässt sich auch ein leistungsstarkes Cloud-Modell nutzen, ohne dass Klartext-Personendaten das Haus verlassen. Dieses Muster wird als PII-Proxy bezeichnet und unterstützt den Grundsatz Datenschutz durch Technikgestaltung (revDSG und EU-DSGVO Artikel 25).

Technisch gibt es zwei Wege. Die irreversible Anonymisierung durch Ersetzen, Schwärzen oder Hashen eignet sich, wenn die Originalwerte nie wieder gebraucht werden. Die reversible Pseudonymisierung ersetzt jeden Identifikator durch ein gleichbleibendes Token, etwa über einen Schlüssel-Hash, sodass die Rückübersetzung kontrolliert möglich bleibt. Offene Werkzeuge wie Microsoft Presidio oder LLM Guard übernehmen Erkennung und Maskierung. Wichtig bleibt die Ehrlichkeit: Anonymisierung ist nicht fehlerfrei, ein Restrisiko der Re-Identifikation bleibt, und für Aufgaben, die echte Personendaten brauchen, führt kein Weg an einem lokalen Modell vorbei.

Apertus: Was das Schweizer Modell heute leistet, und was nicht

Apertus 1.5 ist die aktualisierte, vollständig offene Modellgeneration der Swiss AI Initiative. Sie ergänzt Textverständnis um Bild- und Audioverständnis, verbessert Reasoning und Tool-Use und stärkt die Schweizer Souveränität. Für maximale allgemeine Modellleistung bleibt die konkrete Eignung vom Use Case, Fine-Tuning und der verfügbaren Infrastruktur abhängig.

Apertus ist das erste grosse Sprachmodell aus der Schweiz, entwickelt von der Swiss AI Initiative (ETH Zürich, EPFL Lausanne und Schweizerisches Supercomputer-Zentrum CSCS in Lugano). Es ist in zwei Grössen verfügbar (8B und 70B Parameter), steht unter Apache-2.0-Lizenz und wurde am 2. September 2025 veröffentlicht. Bis September 2026 wurde Apertus laut swissinfo über vier Millionen Mal heruntergeladen, mindestens 70 externe Einsätze sind bekannt, und Apertus 2.0 ist für 2027 geplant. Gleichzeitig hat das Modell eine ernüchternde Debatte ausgelöst. Für Schweizer CEOs lohnt sich eine nüchterne Einordnung jenseits des nationalen Stolzes.

Was Apertus leistet

• Vollständig offen: Modellgewichte, Trainingsdaten, Architektur und Trainingsrezepte sind dokumentiert und reproduzierbar. Das ist in dieser Grössenordnung selten.
• Auf den EU AI Act ausgerichtet: Laut Swiss AI Initiative wurde Apertus mit Blick auf die Transparenzpflichten des EU AI Act entwickelt, inklusive Respektierung von Opt-Out-Anfragen und Entfernung von Personendaten aus den Trainingsdaten.
• Schweizer Infrastruktur: Training und Betrieb auf dem Supercomputer in Lugano. Daten verlassen bei Self-Hosting die Schweiz nicht.
• Mehrsprachigkeit: Über 1'800 Sprachen inklusive Schweizerdeutsch und Rätoromanisch, ein Vorteil gegenüber allen grossen US-Modellen.
• Konform mit Schweizer Urheber- und Datenschutzrecht: Speziell darauf ausgelegt.
• Produktive Pilotanwendungen: Der Meditron-Pilot in der Notaufnahme des Universitätsspitals Lausanne (CHUV) zeigt, dass Apertus in regulierten Umgebungen produktiv läuft.

Wo Apertus heute klar an Grenzen stösst

• Deutlich schwächer bei Logik und Reasoning: Im Test zeigten sich auffällige Schwächen bei logischen Aufgaben. Zum Start lieferte Apertus auf die Frage nach Schweizer Bundesräten frei erfundene Namen. Projektleiter Martin Jaggi (EPFL) bestätigt: „Auch andere offene Modelle wie Llama oder Qwen liegen bei dieser Frage falsch."
• Probleme bei Übersetzungen: Gerade bei wenig verbreiteten Sprachen treten Fehler auf.
• Kein fertiges Produkt: Jaggi selbst bringt es auf den Punkt: „Apertus ist kein fertiges Auto, es ist nur der Motor davon." Es braucht Fine-Tuning für produktive Anwendungsfälle.
• Selbst Swisscom setzt es nicht produktiv ein: Der strategische Partner nutzt Apertus vorwiegend intern und zu Testzwecken, während der Swiss AI Assistant für KMU auf OpenAI und der KI-Assistent My AI auf Claude (Anthropic) läuft. Swisscom begründet dies damit, dass derzeit kein Schweizer Sprachmodell die Anforderungen eines Konsumentenprodukts dieser Grössenordnung vollumfänglich erfülle.
• Ressourcen-Asymmetrie: CHF 20 Mio. Bundesbudget bis 2028 gegenüber Milliarden bei US-Konkurrenten. Ein jährlich verbessertes Modell ist geplant, die langfristige Finanzierung unsicher.
• Kontextfenster begrenzt: 65k Tokens, deutlich weniger als die 1 bis 2 Millionen bei den Spitzenmodellen.

Strategische Einordnung für Schweizer CEOs

Apertus ist heute kein Ersatz für Claude, GPT-6 oder Gemini in produktiven Geschäftsanwendungen mit Kundenkontakt. Wer Apertus jetzt einsetzt, tut das aus einem von drei Gründen:

1. Souveränitätsbedarf, der «Sicherheitstresor»: Apertus ist das einzige offene Modell im Vergleich, bei dem die gesamte Wertschöpfungskette unter Schweizer Kontrolle steht. Für Branchen, in denen Daten die Landesgrenzen nicht verlassen dürfen (Private Banking, Medizinaltechnik, Behörden), ist es 2026 oft die naheliegende Wahl. Praxisbeleg: Der Kanton Tessin führte im März 2026 ein produktives Übersetzungstool auf Apertus-8B-Basis im eigenen Rechenzentrum ein.
2. Spezialisierung durch Fine-Tuning: Anwendungsfälle, bei denen auf Apertus als Basis ein branchenspezifisches Modell trainiert wird (Beispiel: Meditron für das Gesundheitswesen am CHUV Lausanne).
3. Einfache Aufgaben ohne Reasoning-Anspruch: Klassifikation, Schlagwort-Extraktion, kurze Zusammenfassungen in interner Nutzung.

Für den typischen B2B-Marketing- oder Sales-Ablauf eines Schweizer KMU ist Apertus heute noch nicht die richtige Wahl. Beobachten statt einsetzen, mit einer Neubewertung alle sechs bis zwölf Monate. Für regulierte Branchen gilt dagegen schon heute: Apertus ist kein Werkzeug für kreative Höchstleistungen, sondern der Sicherheitstresor der Schweizer KI-Landschaft. Wer maximale Transparenz und Schweizer Rechtssicherheit braucht, nimmt die geringere General-Intelligence bewusst in Kauf.

Apertus oder Kolibri? Apertus ist vollständig offen, Kolibri veröffentlicht Gewichte unter Apache 2.0 und Trainingsdaten nur als Zusammenfassung. Nach den bisherigen Eckdaten ist Kolibri für Schweizer KMU die stärkere deutschsprachige Option für den Selbstbetrieb, Apertus die transparentere; unabhängige Benchmarks zu Kolibri fehlen noch.

Giotto.ai: Schweizer Reasoning-System statt klassisches Open-Source-LLM

Giotto.ai ist als Schweizer Reasoning-System eine ergänzende Option, aber nicht ohne Weiteres mit einem frei herunterladbaren Open-Source-LLM gleichzusetzen. Für Unternehmen zählen hier besonders Nachvollziehbarkeit, Betriebsmodell, Datenstandort und konkrete Zugangsbedingungen. Die Einordnung sollte deshalb strikt zwischen Modell, Dienst und verfügbarer Lizenz unterscheiden.

Neben Apertus gibt es mit Giotto.ai eine zweite Schweizer Entwicklung, die für Unternehmen relevant werden kann. Giotto ist aber anders einzuordnen: Es ist nicht primär ein klassisches Open-Source-LLM, sondern ein Schweizer KI-System mit Fokus auf Reasoning, kontrollierbares Deployment und europäisches Hosting.

Giotto.ai positioniert das System als KI, die Unternehmen nicht nur mieten, sondern kontrollierter betreiben können. Angeboten werden Cloud-Zugang («Hosted in Europe. Free. For everyone.»), private Bereitstellung und Infrastruktur-Optionen für Organisationen, die mehr Kontrolle über Daten, Betrieb und Integration benötigen.

Für Schweizer Unternehmen ist Giotto vor allem bei datensensiblen Reasoning-Aufgaben interessant: Dokumentenanalyse, strukturierte Entscheidungsunterstützung, Coding-nahe Aufgaben oder interne Wissensprozesse. Ob Giotto im Alltag mit Claude, ChatGPT oder Gemini mithalten kann, sollte je Use Case getestet werden. Einzelne Reasoning-Benchmarks sind ein Signal, aber kein Ersatz für eigene Tests mit echten Unternehmensaufgaben.

Kurz: Apertus steht stärker für Offenheit und Transparenz. Giotto steht stärker für kontrollierbare KI-Infrastruktur und produktnahe Anwendung.

EUROPA: Europas Versuch eines offenen Frontier-Modells

EUROPA steht für den europäischen Anspruch, leistungsfähige Modelle mit stärkerer strategischer Unabhängigkeit zu entwickeln. Für eine Kauf- oder Architekturentscheidung fehlen je nach Reifegrad möglicherweise noch belastbare Betriebsdaten. Deshalb sollte EUROPA als relevante Entwicklung beobachtet und erst nach Prüfung von Gewichten, Lizenz, Benchmarks und Infrastruktur eingeordnet werden.

Mit EUROPA geht die europäische KI-Souveränität von der Strategie in die Umsetzung. Die EU-Kommission hat das EUROPA-Konsortium unter Führung des italienischen Unternehmens Domyn als Gewinner der Frontier AI Grand Challenge ausgewählt. Ziel ist ein quelloffenes KI-Modell, das alle 24 Amtssprachen der EU abdeckt und auf europäischer Supercomputing-Infrastruktur trainiert wird.

Die Dimension ist bewusst gross gewählt: Die Challenge verlangte ein Modell mit mehr als 400 Milliarden Parametern, eine Grössenordnung moderner Frontier-Systeme. Europa will damit nicht nur kleinere Spezialmodelle fördern, sondern ein Modell auf Augenhöhe mit den führenden proprietären Systemen.

Für Schweizer Unternehmen ist daran weniger die Parameterzahl entscheidend als die strategische Richtung. EUROPA zeigt, dass offene Modelle, europäische Infrastruktur und Mehrsprachigkeit gemeinsam gedacht werden. Gerade im DACH-Raum ist das relevant: Deutsch sollte bei leistungsfähigen KI-Systemen nicht nur eine nachträgliche Übersetzungsschicht sein, sondern als zentrale Arbeitssprache funktionieren.

Trotzdem ist EUROPA heute noch keine direkte Alternative zu ChatGPT, Claude oder Gemini. Das Modell muss erst entwickelt, veröffentlicht, getestet und in reale Unternehmensprozesse integriert werden. EUROPA ist aktuell vor allem ein strategisches Signal: Europa baut an eigener KI-Infrastruktur. Der praktische Nutzen für KMU wird sich erst nach Veröffentlichung und unabhängigen Tests zeigen.

Vergleich: Offene und europäische KI-Modelle für Unternehmen

Ein sinnvoller Modellvergleich betrachtet nicht nur die höchste Benchmarkzahl. GLM, DeepSeek, Kimi, Qwen, Mistral, Gemma und Apertus unterscheiden sich bei Offenheit, Lizenz, Modalität, Hardwarebedarf, Datenhoheit und Einsatzreife. Für Unternehmen ist deshalb ein passendes Modellprofil wichtiger als ein kurzfristiger Ranglistenplatz.

Die folgende Übersicht ordnet die wichtigsten offenen und europäischen Modelle für Schweizer Unternehmen ein. Proprietäre Systeme wie ChatGPT, Claude und Gemini sind zum Vergleich ergänzt. Entscheidend ist nicht, welches Modell technisch das stärkste ist, sondern welches Modell zu welchem Risikoprofil, welchen Datenklassen und welchem Betriebsmodell passt.

Für welche Anwendungen sich ein Open-Source-LLM lohnt

Ein Open-Source-LLM ist besonders interessant, wenn sensible Daten verarbeitet, grosse Volumen bearbeitet oder langfristige Unabhängigkeit erreicht werden sollen. Typische Einsatzfelder sind internes Wissens-Q&A, Dokumentenanalyse, Klassifikation und Workflow-Automation. Für öffentliche Inhalte ohne Datenschutzbezug bleibt eine gehostete Lösung häufig der pragmatischere Start.

Ein Open-Source-LLM lohnt sich überall dort, wo sensible Daten verarbeitet werden oder hohe Volumen anfallen. Typisch sind internes Dokumenten-Q&A, die Verarbeitung von Personendaten, Vertrags- und Wissensdatenbanken sowie Code- und Prozessautomation. Für rein öffentliche Inhalte ohne Datenschutzbezug bleibt eine gehostete Lösung oft der pragmatischere Weg. Die Frage ist nicht, ob ein offenes Modell alles kann, sondern wo sein Kontroll-Vorteil den höheren Betriebsaufwand rechtfertigt.

Typische Einsatzfelder in Schweizer KMU

Schweizer KMU profitieren besonders bei internem Wissens-Q&A, Dokumentenanalyse, Klassifikation, Übersetzung und Workflow-Automation. Der Nutzen offener Modelle entsteht dort, wo sensible Inhalte kontrolliert bleiben oder hohe Volumen anfallen. Ein klar abgegrenzter Prozess mit messbarer Qualität ist meist der sinnvollste Einstieg.

• Internes Wissens-Q&A: Das Modell beantwortet Fragen zu Verträgen, Richtlinien und Handbüchern über Retrieval-Augmented Generation, ohne dass diese Dokumente die Firma verlassen.
• Sensible Personendaten: HR-, Finanz- und Gesundheitsdaten werden lokal verarbeitet, statt an eine US-Cloud gesendet zu werden.
• Dokumentenanalyse: Offerten, technische Spezifikationen und Berichte werden zusammengefasst und durchsuchbar gemacht, etwa in Industrie und Engineering.
• Code- und Workflow-Automation: Modelle wie Kimi K3, GLM-5.3 oder DeepSeek V4.1 unterstützen interne Entwicklung und Automatisierung bei voller Datenkontrolle.
• Mehrsprachige Kommunikation: Übersetzung und Textproduktion mit Datenhoheit, ein Feld, in dem auch Apertus eine Rolle spielt.
• Hochvolumige Routine-Tasks: Klassifikation, Verschlagwortung und Standardantworten, bei denen Token-Kosten in der Cloud schnell skalieren.

Besonders wertvoll ist dieser Ansatz für Branchen mit Geschäftsgeheimnissen und ohne eigenes MarTech-Team: Treuhand, Industrie und Maschinenbau-Zulieferer, Engineering und B2B-Grosshandel. Dort, wo Daten das Haus nicht verlassen dürfen und der Sales-Cycle beratungsintensiv ist, wird die Datenkontrolle zum echten Wettbewerbsvorteil. In unserer Projektpraxis zeigt sich: Der grösste Nutzen entsteht, wenn ein klar abgegrenzter Use Case zuerst sauber gelöst wird, bevor breit ausgerollt wird.

Zehn heikle Anwendungen, bei denen lokale Modelle empfohlen sind

Lokale Modelle sind bei Finanz-, Gesundheits-, Personal- und Geschäftsgeheimnissen besonders naheliegend. Dazu zählen Belegverarbeitung, HR-Auswertungen, interne Wissenssuche und CRM-Analysen. Die Entscheidung muss risikobasiert erfolgen: Datenklasse, Zweck, Zugriff, Schutzmassnahmen und die Möglichkeit einer sicheren externen Verarbeitung bestimmen den tatsächlichen Bedarf.

Besonders heikel wird es, sobald Personen-, Finanz- oder Geschäftsdaten im Spiel sind. Bei diesen zehn Aufgaben empfiehlt sich der Betrieb auf einem lokalen oder selbst gehosteten Modell:

1. Belege auslesen für die Buchhaltung: Rechnungen und Quittungen enthalten Finanz- und Personendaten.
2. Spesen analysieren zur Kostenkontrolle: Mitarbeiter- und Transaktionsdaten bleiben im Haus.
3. Berichte automatisiert erstellen: interne Kennzahlen und Geschäftsdaten ohne Cloud-Umweg.
4. Personalisierte E-Mail-Texte: auf Basis von Empfänger- und Kontaktdaten.
5. Kunden in Cluster segmentieren: CRM-Daten für die gezielte Ansprache.
6. Interne Wissensanalysen: Auswertung von Verträgen, Strategie- und Projektdokumenten.
7. Stimmungen erkennen (Sentiment-Analyse): Kundenfeedback und interne Kommunikation.
8. Content kategorisieren: Dokumentenbestände strukturieren und auffindbar machen.
9. Arbeitsabläufe automatisieren: Weiterleitungen oder Aufgabenstarts mit Prozessdaten.
10. Interne Chatbots: firmeninterne Fragen aus Mitarbeiter- und Wissensdaten beantworten.

Was kostet ein Open-Source-LLM wirklich? Kosten in CHF

Der Download eines offenen Modells ist häufig kostenlos, der produktive Betrieb jedoch nicht. GPU-Zeit, Hosting, Integration, Monitoring, Wartung und Personal bestimmen die Vollkosten. Selbst sinkende API-Preise verändern diese Rechnung nicht grundsätzlich: Entscheidend ist, welche Lösung über zwölf Monate bei der eigenen Last und Datenklasse wirtschaftlich bleibt.

Ein Open-Source-LLM ist beim Download gratis, im Betrieb aber nicht. Die realen Kosten entstehen aus GPU-Stunden, Betrieb und Personalzeit. Eine kompetitive H100-GPU kostet in der Cloud rund CHF 1.40 bis 2.70 pro Stunde, bei Hyperscalern eher CHF 5 bis 11. Hinzu kommt interne Arbeitszeit, die bei einem Richtsatz von CHF 90 pro Stunde schnell den grössten Posten bildet. Wer nur den Listenpreis von null betrachtet, verrechnet sich. Die ehrliche Frage lautet nicht, was das Modell kostet, sondern was der Betrieb über zwölf Monate kostet. Die folgenden Werte sind Richtwerte, keine Garantie, und hängen stark von Modellgrösse und Auslastung ab.

Vier Kostenblöcke, die zählen

Die Vollkosten eines offenen LLM bestehen aus GPU-Zeit, Betrieb und Wartung, Personalzeit sowie Opportunitätskosten. Ein kostenloser Download kann dadurch teuer werden, wenn Integration und Betreuung unterschätzt werden. Umgekehrt kann Self-Hosting bei stabilem Volumen oder strengen Standortanforderungen wirtschaftlich sinnvoll sein.

• GPU-Stunden: Für ein kleineres Modell im Dauerbetrieb auf einer kompetitiven H100 ergeben sich Richtwerte um CHF 1'000 bis 2'000 pro Monat. Grosse MoE-Modelle vervielfachen das.
• Betrieb und Wartung: Updates, Monitoring, Skalierung und Sicherheit. Dieser Posten wird regelmässig unterschätzt.
• Personalzeit: Einrichtung, Integration und laufende Pflege. Beim Richtsatz von CHF 90 pro Stunde ist das oft der grösste Block.
• Opportunität: Die Zeit bis zur Produktivität. Eine gehostete API liefert in Tagen, eigenes Self-Hosting in Wochen.

Über die Anwendungsfälle hinweg zeigt sich ein klares Muster: Self-Hosting rechnet sich erst ab einem stabilen, hohen Volumen oder bei zwingenden Compliance-Gründen. Darunter ist die gehostete Open-Weight-API meist günstiger, weil sie Betriebs- und Personalkosten beim Anbieter bündelt. Die Modellwahl ist also zuerst eine Betriebsentscheidung, dann eine Leistungsfrage.

Entscheidungs-Framework für die Geschäftsleitung

Die Auswahl eines Open-Source-LLM sollte als Betriebsentscheidung behandelt werden. Prüfen Sie zuerst Datenklasse, Volumen, Qualitätsanforderung, Standort und interne Fähigkeiten. Danach lassen sich Modell, Hosting und Pilotkriterien bestimmen. So verhindert das Framework, dass ein kurzfristiger Benchmark-Erfolg mit einer langfristig ungeeigneten Architektur verwechselt wird.

Die Entscheidung für ein Open-Source-LLM folgt fünf Fragen: Wann lohnt es sich, was bringt es, was kostet es, wie startet man, und wann passt es nicht. Wer diese fünf Fragen ehrlich beant

Wann lohnt sich ein Open-Source-LLM für Schweizer KMU?

Für Schweizer KMU lohnt sich ein Open-Source-LLM vor allem bei sensiblen Daten, hohem Nutzungsvolumen oder strategischem Wunsch nach mehr Kontrolle. Ohne klare Daten- oder Kostenvorteile ist eine gehostete Lösung oft einfacher. Ein begrenzter Pilot mit messbarem Abbruchkriterium zeigt, ob der zusätzliche Betriebsaufwand gerechtfertigt ist.

Ein Open-Source-LLM lohnt sich nicht automatisch. Es lohnt sich vor allem dann, wenn Kontrolle wichtiger ist als Komfort.

wortet, trifft eine robuste Entscheidung, statt dem nächsten Benchmark-Sieger zu folgen. Das Framework ersetzt Bauchgefühl durch eine nachvollziehbare Logik. Ein gutes Framework macht die Entscheidung nicht einfacher, aber sauberer. Es zwingt dazu, die richtigen Fragen vor der Tool-Auswahl zu stellen.

Die fünf Entscheidungsfragen

Die fünf Fragen lauten: Wann lohnt sich das Modell, welchen Nutzen bringt es, was kostet der Betrieb, wie startet der Pilot und wann passt die Lösung nicht? Zusammen verhindern sie eine Entscheidung nur nach Benchmark oder Listenpreis. Entscheidend ist die Passung zwischen Prozess, Daten, Volumen und Betriebsmodell.

• Wann es sich lohnt: Sobald sensible Daten die Cloud nicht verlassen dürfen oder das Volumen die eigenen GPU-Kosten unter den Token-Preis drückt.
• Was es bringt: Datensouveränität, kein Vendor-Lock-in und Kostenkontrolle, die unabhängig von der Preispolitik eines Anbieters ist.
• Was es kostet: Nicht das Modell, sondern Betrieb, GPU-Stunden und Personalzeit in CHF über zwölf Monate.
• Erster Schritt: Ein abgegrenzter Pilot über eine gehostete Open-Weight-API oder einen Schweizer Managed-Partner, mit klarem Abbruchkriterium.
• Wann es nicht passt: Ohne sensible Daten, ohne hohes Volumen und ohne internen Betriebswillen ist eine gehostete Cloud-Lösung meist wirtschaftlicher.

Verbinden Sie diese fünf Fragen mit Ihren priorisierten Use Cases. Für interne Daten-Q&A und automatisierte Workflows mit sensiblen Inhalten spricht vieles für offene Modelle auf kontrolliertem Standort. Für allgemeine Content-Aufgaben ohne Datenschutzbezug bleibt die gehostete Lösung oft der pragmatischere Weg. Die Antwort ist selten dasselbe Modell für alles.

Praktische Empfehlung für Schweizer Unternehmen

Die pragmatische Empfehlung ist ein Modellmix: kommerzielle Modelle für Komfort und Spitzenleistung, offene Modelle für Kontrolle und hohe Volumen, europäische oder Schweizer Optionen für besondere Souveränitätsanforderungen. Die Entscheidung sollte pro Prozess und Datenklasse fallen, nicht als pauschale Wahl eines einzigen Modells für das gesamte Unternehmen.

Für die meisten Schweizer KMU ist nicht entweder ChatGPT oder Open Source die richtige Antwort. Sinnvoller ist ein Modellmix.

ChatGPT, Claude oder Gemini eignen sich kurzfristig oft am besten für produktive Wissensarbeit, Content, Analyse und Coding. Ein vollständiger Vergleich von Claude, Gemini, Perplexity und ChatGPT hilft bei der Auswahl des richtigen Modells.

Mistral ist eine wichtige europäische Option für produktive Unternehmensszenarien. Apertus ist vor allem für Transparenz, Forschung und Schweizer Souveränitätsprojekte relevant. Giotto.ai sollte dort geprüft werden, wo kontrollierbares Reasoning und datensensible Deployment-Szenarien wichtig sind. EUROPA sollte als strategische europäische Entwicklung beobachtet werden.

Die wichtigste Frage lautet nicht: Welches Modell ist am besten? Die bessere Frage lautet: Welches Modell ist für welchen Prozess, welche Datenklasse und welches Risiko angemessen?

Fazit: Open Source allein reicht nicht

Open Source allein ist kein Geschäftsvorteil. Der Nutzen entsteht erst, wenn Modell, Daten, Hosting, Governance und Betrieb zusammenpassen. Offene Modelle verkürzen den Abstand zur proprietären Spitze, aber Preis, Zuverlässigkeit und Integrationsaufwand bleiben eigene Entscheidungsgrössen. Für viele Unternehmen ist ein kontrollierter Modellmix der robusteste Weg.

Open-Source-LLMs sind für Unternehmen nicht deshalb interessant, weil sie kostenlos wirken. Relevant werden sie erst, wenn sie mehr Kontrolle über Daten, Betrieb, Anpassung und Kosten ermöglichen.

Für Schweizer KMU ist deshalb nicht die Frage entscheidend, ob ein Modell offen ist. Entscheidender ist, ob es sicher betrieben, sinnvoll integriert und wirtschaftlich genutzt werden kann. Ein Open-Source-Modell ohne internes Know-how, sauberes Hosting und klare Governance bringt wenig. Ein gut betriebener Modellmix aus kommerziellen, europäischen und offenen Modellen kann dagegen ein echter Vorteil sein.

Die pragmatische Empfehlung lautet: Für produktive Wissensarbeit bleiben ChatGPT, Claude, Gemini und Perplexity kurzfristig oft die einfachste Wahl. Für sensible Daten, regulatorische Anforderungen oder langfristige Unabhängigkeit sollten Unternehmen zusätzlich europäische und offene Modelle prüfen.

Häufige Fragen zu Open-Source-LLMs