Unternehmens LLM: Warum Microsoft Copilot nicht die einzige Antwort im Microsoft-Kosmos ist

In jedem Mittelstandsunternehmen, das heute KI-Strategien diskutiert, läuft die Einführung längst. Nur nicht offiziell. Mitarbeiter geben Vertragsentwürfe in private ChatGPT-Konten ein, lassen Kundenmails von Drittanbieter-Tools formulieren und laden interne Protokolle in Werkzeuge hoch, von denen die IT-Abteilung den Namen nicht kennt. Während die Geschäftsführung den nächsten Workshop plant, ist die Frage „ob KI im Unternehmen genutzt wird" bereits beantwortet. Offen ist nur, ob das Unternehmen darüber Bescheid weiß.

Wer heute über ein Unternehmens LLM nachdenkt, also über eine eigene KI-Lösung mit dem Wissen, der Sicherheit und der Kontrolle des eigenen Hauses, beschäftigt sich nicht mit einem Trendthema. Das eigentliche Thema ist Schadensbegrenzung und Hebelwirkung in einem. Ein eigenes Werkzeug holt KI aus den privaten Tools zurück und macht gleichzeitig das Unternehmenswissen für alle nutzbar.

Microsoft ist für die meisten Mittelständler dabei der naheliegende technologische Rahmen. Wer ohnehin in Microsoft 365 lebt und Azure als Infrastruktur nutzt, fährt am wenigsten reibungsverlustreich auf dieser Plattform. Die Werkzeugfrage innerhalb dieses Rahmens ist allerdings differenzierter, als die Microsoft-Marketingfolien nahelegen. Microsoft Copilot ist ein hervorragendes Werkzeug, aber er ist nicht in jedem Fall das richtige. Dieser Artikel zeigt, welche drei Wege es zu einem Firmen LLM realistisch gibt, an welchen Kriterien sich die Auswahl entscheidet und warum die Entscheidung „Plattform" und die Entscheidung „Werkzeug" zwei verschiedene sind.

‍

Während Strategie-Workshops laufen, fließen Daten in private Tools ab

Was Mitarbeiter heute wirklich in private ChatGPT-Konten eingeben

Die deutsche Diskussion über KI im Unternehmen drückt sich gerne um die unbequemste Zahl. Eine repräsentative Bitkom-Befragung von 604 deutschen Unternehmen aus dem Oktober 2025 zeigt: 4 von 10 Unternehmen gehen davon aus, dass ihre Beschäftigten private KI-Zugänge im Job nutzen. In 8 Prozent der Unternehmen ist diese Schatten-KI weit verbreitet, in weiteren 17 Prozent gibt es Einzelfälle, weitere 17 Prozent vermuten die Nutzung. Die Verdopplung gegenüber dem Vorjahr zeigt: Es ist keine Übergangsphase, sondern ein wachsender Trend [1].

Was dort eingegeben wird, ist selten harmlos. Marketingmitarbeitende lassen Headlines zu Produkten schreiben, die noch nicht veröffentlicht sind, und tippen den Produktnamen mit ein. Vertriebsmitarbeitende formulieren Angebote mit konkreten Kundenpreisen um. Assistenzen lassen Sitzungsprotokolle zusammenfassen, ohne zu prüfen, was darin steht. Nicht aus böser Absicht, sondern aus pragmatischem Zeitdruck. Das Werkzeug ist schneller als die interne Lösung, also wird es benutzt.

Wie groß das Phänomen tatsächlich ist und welche Risiken konkret entstehen, hat aithoria im Artikel zu Schatten-KI im Mittelstand aufgeschlüsselt. Für den hier diskutierten Punkt reicht eine einfache Feststellung: KI im Unternehmen ist keine Zukunftsentscheidung mehr, sie ist Realität. Die einzige offene Frage ist, ob diese Realität gestaltet oder weiter ignoriert wird.

‍

Die Daten sind weg, bevor die Strategie steht

Der typische Reflex auf das Thema ist die strategische Antwort. Eine KI-Strategie wird ausgearbeitet, Use Cases werden gesammelt, Workshops durchgeführt, ein Steuerungsgremium installiert. Das ist sinnvoll, dauert aber Monate. In diesen Monaten passiert das, was vorher passierte: Daten verlassen das Unternehmen über die privaten Tools der Mitarbeiter.

Drei Folgen sind besonders unangenehm. Erstens verlassen vertrauliche Inhalte den Verantwortungsbereich des Unternehmens. Was die Anbieter der genutzten Tools mit diesen Daten tun, ist Vertragssache, die der Mitarbeiter privat geschlossen hat. Zweitens entsteht keine konsistente Wissensbasis. Was die KI für den einzelnen Mitarbeiter produziert, bleibt in seinem Browser. Es gibt keine geprüfte Antwortqualität, keine geteilten Standards, keine kontrollierbare Außenkommunikation. Drittens scheitert der nächste Compliance-Check. Eine ehrliche Antwort auf die Frage „welche personenbezogenen Daten haben in den letzten zwölf Monaten welche Drittsysteme erreicht?" ist im Mittelstand heute fast nie möglich.

Die Strategie kann das Problem benennen. Lösen kann sie es nur, wenn parallel ein offizielles Werkzeug bereitsteht.

‍

Verbote scheitern an einer einfachen Tatsache

Die zweite häufige Reaktion ist das Verbot. Domains werden gesperrt, Browserregeln verschärft, Awareness-Mails verschickt. Das funktioniert technisch nur teilweise, weil Mitarbeiter aufs Smartphone wechseln, und es funktioniert kulturell gar nicht. Ein Unternehmen, das KI verbietet, gilt im Recruiting als rückständig. Im Wettbewerb um Fachkräfte kostet das mehr als der vermeintliche Sicherheitsgewinn.

Die wirksame Antwort ist die umgekehrte: Das offizielle Werkzeug muss attraktiver sein als das private. Wenn der Mitarbeiter im internen Tool das gleiche Chat-Erlebnis bekommt wie in ChatGPT, dazu aber noch Zugriff auf das Unternehmenswissen, beantwortet sich die Frage „warum sollte ich noch das private Werkzeug öffnen?" von selbst. Das ist keine theoretische Überlegung, sondern die Beobachtung aus den meisten Einführungsprojekten: Wo das offizielle Tool wirklich gut ist, verschwindet die Schatten-KI von alleine.

‍

Das eigentliche Problem ist nicht KI, sondern verlorenes Wissen

Wie viel Zeit Wissensarbeiter mit Suchen verlieren

Das stärkste Argument für ein GPT für Unternehmen ist nicht die Sicherheit, sondern die Produktivität. Die oft zitierte McKinsey-Studie The Social Economy aus dem Jahr 2012 beziffert den Suchzeitanteil von Wissensarbeitern auf rund 1,8 Stunden pro Tag, also etwa 9,3 Stunden pro Woche oder rund 19,8 Prozent der Arbeitszeit. Die Studie ist älter, ihre Größenordnung wird aber in jüngeren Erhebungen bestätigt: Die International Data Corporation kommt auf etwa 8,8 Stunden pro Woche, Microsoft-Erhebungen sehen die Hälfte der Arbeitszeit von Wissensarbeitern als unproduktiv an, ein erheblicher Teil davon Suchaufwand [2].

Diese Suchvorgänge teilen sich grob in drei Kategorien. Erstens das Suchen nach dem Ansprechpartner: Wer ist gerade zuständig für die Reisekostenfrage, die Vertragsanlage, die Kundenanfrage? Zweitens das Suchen nach Inhalten: Wo liegt die aktuelle Version des Handbuchs, der Vorlage, der Richtlinie? Drittens das Suchen nach Wissen, das nirgends sauber dokumentiert ist und das die Mitarbeiter aus Erinnerung oder Nachfrage rekonstruieren müssen.

Ein Unternehmens LLM mit angeschlossener Wissensbasis löst nicht alle drei Probleme gleichermaßen, aber es löst sie spürbar. Aus „Wer weiß noch mal, wie das mit der Reisekostenrichtlinie ist?" wird „Hier sind die drei zentralen Punkte und der Link zur aktuellen Version".

‍

Warum eine Wissensbasis mehr Wert schafft als zehn Use Cases

Viele KI-Initiativen starten mit der Frage „Welche Use Cases probieren wir aus?". Das Ergebnis ist regelmäßig ein Portfolio aus zehn Pilotprojekten, von denen drei produktiv gehen, zwei still sterben und fünf in Excel-Listen weiterleben. Use-Case-Initiativen liefern punktuelle Verbesserungen in einzelnen Fachbereichen, sie verändern aber selten die Produktivität des Unternehmens als Ganzes.

Eine zentrale Wissensbasis funktioniert anders. Sie ist kein Use Case, sie ist Infrastruktur. Sie produziert Mehrwert nicht in einem Bereich, sondern in jedem. Sie wird nicht für ein Projekt gebaut, sondern für jeden Tag. Genau deshalb ist sie der Hebel, an dem eine Geschäftsführung ansetzen sollte, die Produktivität messbar verändern will. Die Use Cases können danach kommen, sie funktionieren auf einer ordentlichen Wissensbasis übrigens deutlich besser.

Diese Entscheidung gehört in einen größeren Rahmen, nämlich die KI-Strategie des Unternehmens. Wie sie strukturiert aussieht, beschreibt der Artikel zu KI-Strategie im Mittelstand.

‍

Was die ehrliche Rechnung in Personenjahren ergibt

Eine grobe Hochrechnung schärft die Dimension. Bei einem Mittelständler mit 500 Wissensarbeitern, einem durchschnittlichen Personalkostensatz von 80.000 Euro pro Jahr und einem Suchzeitanteil von 20 Prozent (siehe Quelle [^2]) entspricht das rein rechnerisch einem Verlust von rund 8 Millionen Euro pro Jahr, der in Suchvorgänge fließt. Selbst wenn ein Firmen LLM mit angeschlossener Wissensbasis nur die Hälfte dieser Suchzeit einspart, sind das 4 Millionen Euro pro Jahr.

Diese Rechnung ist bewusst grob. Suchzeit ist nicht vollständig vermeidbar, Mitarbeiter werden in der eingesparten Zeit nicht zu 100 Prozent produktiv, und Einführungs- und Lizenzkosten ziehen den Effekt nach unten. Aber die Größenordnung bleibt: Selbst bei sehr konservativen Annahmen ist der Hebel einer guten Wissens-KI im Mittelstand deutlich größer als bei den meisten Use-Case-Initiativen, mit denen die KI-Reise traditionell beginnt.

‍

Microsoft als Plattform ist die richtige Wahl. Die Werkzeugfrage ist eine andere.

Warum Microsoft 365 und Azure für den Mittelstand fast immer Sinn ergeben

Wer im deutschen Mittelstand nach der richtigen Plattform für ein Unternehmens LLM sucht, kommt selten an Microsoft vorbei, und das aus guten Gründen. Die meisten Mittelständler arbeiten ohnehin in Microsoft 365, ihre Mitarbeiter leben in Outlook, Teams und SharePoint, ihre Daten liegen in OneDrive und SharePoint Online. Eine KI-Lösung, die in dieser Welt zu Hause ist, hat einen entscheidenden Startvorteil: Sie kann auf vorhandene Identitäts-, Berechtigungs- und Datenstrukturen aufsetzen.

Auf der Infrastrukturseite kommt Azure dazu. Wer Azure ohnehin nutzt, hat mit Azure OpenAI Service eine Möglichkeit, leistungsfähige Sprachmodelle innerhalb der eigenen Microsoft-Welt zu betreiben, ohne dass ein zusätzlicher Drittanbieter ins Datenverarbeitungsverhältnis eintritt. Das ist datenschutzrechtlich und compliance-technisch ein deutlicher Unterschied zu Lösungen, die Daten in andere Cloud-Welten oder zu unabhängigen KI-Anbietern leiten.

Für die meisten Mittelständler ist die Plattformfrage damit faktisch entschieden. Microsoft 365 plus Azure ist der naheliegende technologische Rahmen.

‍

Plattform und Werkzeug sind zwei Entscheidungen, nicht eine

Die häufige Verwechslung im Markt ist, aus der Plattformentscheidung automatisch die Werkzeugentscheidung abzuleiten. Wer in Microsoft lebt, nimmt Copilot, so die Logik. Diese Logik ist nicht falsch, aber sie ist zu kurz gesprungen. Innerhalb des Microsoft-Kosmos gibt es mehrere Werkzeuge, die sich erheblich in Lizenzlogik, Voraussetzungen und Mehrwert unterscheiden. Microsoft Copilot ist eines davon, aber nicht das einzige.

Die wirtschaftlich entscheidende Differenz: Copilot ist eine Pro-Nutzer-Lizenz, die als Aufschlag auf die bestehende Microsoft-365-Lizenz gebucht wird. Andere Lösungen, die ebenfalls auf Azure laufen und Azure OpenAI nutzen, folgen anderen Lizenzmodellen, etwa Software-as-a-Service mit eigener Pro-Nutzer-Logik oder Einmalkauf mit Wartungsvertrag. Beide Modelle bleiben im Microsoft-Kosmos, beide nutzen die gleiche Azure-Infrastruktur, beide profitieren von den vorhandenen Berechtigungs- und Identitätsstrukturen, aber sie skalieren wirtschaftlich völlig anders.

Die Werkzeugentscheidung ist also keine Plattform-Frage, sondern eine Frage von Größenordnung, Datenreife, Standortstruktur und konkreten Anforderungen. Sie kann auch dann zugunsten einer Nicht-Copilot-Lösung ausfallen, wenn die Plattformentscheidung klar pro Microsoft ist.

‍

Drei Wege innerhalb des Microsoft-Kosmos plus eine Außenseiter-Option

Das führt zu einer pragmatischen Aufteilung der Entscheidungsoptionen. Innerhalb des Microsoft-Kosmos gibt es zwei realistische Werkzeugwege: Microsoft Copilot in der Vollausbaustufe oder eine eigene Lösung auf Azure-Infrastruktur, die mit Azure OpenAI als Modell-Backend arbeitet. Diese zweite Option umfasst sowohl SaaS-Anbieter als auch Einmalkauf-Lösungen.

Außerhalb des Microsoft-Kosmos gibt es als dritte Option den Eigenbau eines komplett eigenen LLM, oft auf Open-Source-Modellen wie Llama oder Mistral. Diese Option ist im Mittelstand selten die richtige Wahl, gehört aber in eine ehrliche Übersicht, weil sie immer wieder diskutiert wird.

In der Reihenfolge der Wahrscheinlichkeit, im Mittelstand sinnvoll eingesetzt zu werden, ergeben sich damit drei Wege, die in den nächsten drei Abschnitten im Detail durchgesprochen werden. Beginn mit dem Eigenbau, weil er am häufigsten überschätzt wird, gefolgt von Copilot und schließlich der Lösung auf eigener Microsoft-Infrastruktur.

‍

Weg 1: Eigenes LLM bauen. Klingt souverän, ist meistens überzogen.

Was technisch dahintersteckt

Ein eigenes LLM zu bauen heißt heute selten, ein Modell von null zu trainieren. In der Praxis wird ein Open-Source-Basismodell wie Llama 3, Mistral oder eines der neueren europäischen Modelle als Ausgangspunkt genommen, auf eigener Infrastruktur betrieben und mit eigenen Daten angereichert, sei es durch Finetuning oder durch Retrieval-Mechanismen. In der Theorie ist das verlockend: eigenes Modell, eigene Daten, niemand sonst sieht etwas. In der Praxis steckt darunter eine erhebliche Menge Arbeit.

Es braucht Hardware, in der Regel Server mit leistungsfähigen GPUs. Es braucht eine Plattform, auf der das Modell läuft, samt Inferenz-Stack, Monitoring und Skalierung. Es braucht eine Pipeline, die Unternehmensdaten so aufbereitet, dass das Modell sie verwerten kann. Es braucht ein Frontend, also die Oberfläche, über die Mitarbeiter mit dem Modell sprechen. Und das alles muss verlässlich laufen, denn ein Unternehmens-Tool, das jede Woche zwei Stunden steht, hat in der Belegschaft nach drei Monaten verloren.

‍

Die ehrliche Kostenrechnung im ersten Jahr

Die ehrliche Rechnung umfasst drei Posten. Erstens die Hardware: je nach Modellgröße und gewünschter Performance liegen die Investitionen für eine ernsthafte Eigeninfrastruktur leicht im sechsstelligen Bereich. Zweitens das Personal: realistisch braucht es mindestens ein bis zwei Personen mit ML- und Infrastruktur-Erfahrung, die das Modell betreuen, optimieren und absichern. Drittens die laufenden Kosten: Strom, Wartung, Modell-Updates, Sicherheits-Patches.

Im ersten Jahr summiert sich das je nach Anspruch auf mittlere bis hohe sechsstellige Beträge, dahinter folgt ein erheblicher Aufwand, der nicht weggeht. Die Personalfrage ist dabei oft die härtere als die Geldfrage. Erfahrene ML-Engineers sind teuer und schwer zu halten, vor allem in einem Umfeld, das nicht primär Tech-Unternehmen ist. Viele Mittelständler unterschätzen, wie viel laufende Aufmerksamkeit ein selbstbetriebenes Modell beansprucht.

‍

Wann es sich lohnt, und wann es Symbolpolitik ist

Es gibt Konstellationen, in denen Weg 1 die richtige Wahl ist. Wenn das Geschäftsmodell zentral auf der KI selbst basiert, etwa bei spezialisierten KI-Anbietern. Wenn die Branche regulatorisch verlangt, dass keine Anfrage einen externen Anbieter erreicht, und gleichzeitig die Kapazität vorhanden ist, eine eigene Plattform zu betreiben. Wenn durch das Modell selbst ein Wettbewerbsvorteil entsteht, etwa durch sehr spezifisches Branchenwissen, das in keinem öffentlichen Modell steckt.

Für den durchschnittlichen Mittelständler trifft keiner dieser Fälle zu. Wenn „Datenschutz" oder „Unabhängigkeit" als Hauptbegründung angeführt werden, lohnt sich der Blick auf Weg 3, weil sich beide Anliegen dort meistens günstiger lösen lassen, oft sogar mit besserer Datenschutz-Bilanz, weil die professionellen Anbieter mit voll dokumentierter Microsoft-Compliance arbeiten. Wo Weg 1 ohne diese Begründungslogik gewählt wird, ist die ehrliche Beschreibung oft Symbolpolitik: Das eigene LLM signalisiert Innovationskraft, ohne wirtschaftlichen oder funktionalen Mehrwert gegenüber den anderen Wegen zu liefern.

‍

Weg 2: Microsoft Copilot. Das Premium-Werkzeug, das nicht jedes Haus passt.

Was Copilot wirklich leistet, wenn die Voraussetzungen stimmen

Microsoft Copilot ist in der Vollausbaustufe ein beeindruckendes Werkzeug. Er sitzt in Word, Excel, Outlook, Teams und PowerPoint, kann auf Dokumente und Mails der Nutzer zugreifen, fasst Meetings zusammen, schreibt Mailantworten, durchsucht SharePoint und kann über Copilot Studio mit eigenen Agenten erweitert werden. In einer durchgängig gepflegten Microsoft-365-Welt mit sauber gesetzten Berechtigungen und sortiert abgelegten Daten in SharePoint und OneDrive entsteht eine sehr enge Verzahnung zwischen Arbeitsalltag und KI.

Wichtig ist das Verständnis, was Copilot ist und was er nicht ist. Er ist nicht primär ein Chat-Werkzeug, das ChatGPT für das Unternehmen ersetzt, sondern eine Assistenzschicht über Microsoft 365, die genau dort ihre Stärke entfaltet. Wer ein neutrales Chat-Erlebnis sucht, also „ich tippe eine Frage und bekomme eine Antwort, die das Unternehmenswissen kennt", bekommt das mit Copilot zwar auch, aber nicht in der gleichen Tiefe wie mit darauf spezialisierten Lösungen. Wer dagegen die tägliche Arbeit in Word, Excel und Outlook beschleunigen will, ist mit Copilot in seinem Element.

‍

Die Lizenzfalle bei wachsender Mitarbeiterzahl

Hier wird es für Mittelständler ernst. Microsoft 365 Copilot kostet pro Nutzer und Monat eine zusätzliche Lizenz. Microsoft 365 Copilot Business steht laut offizieller Microsoft-Preisseite für Unternehmen mit bis zu 300 Nutzern bei einem Listenpreis von 18,20 Euro pro Nutzer und Monat, Microsoft 365 Copilot in der Enterprise-Variante bei rund 28,10 Euro pro Nutzer und Monat zusätzlich zu einer bestehenden Microsoft-365-Basislizenz [3]. Bei einem Unternehmen mit 500 Mitarbeitern auf der Enterprise-Lizenz summiert sich das auf einen sechsstelligen Jahresbetrag, allein für die Copilot-Komponente und zusätzlich zu allen anderen Microsoft-Kosten.

Das ist nicht per se zu viel. Wenn 500 Mitarbeiter durch Copilot real Stunden pro Woche sparen, rechnet sich das. Aber zwei Effekte bremsen die Kalkulation. Erstens gleichmäßige Nutzung: Mitarbeiter nutzen Copilot mit sehr unterschiedlicher Intensität, weil die Lernkurve steiler ist, als die Microsoft-Marketingfolien suggerieren. Zweitens die Adoption-Begleitung, die Copilot mehr als andere Werkzeuge braucht. Ohne eine begleitete Einführung sinkt die produktive Nutzung in Studien erfahrungsgemäß auf einen kleinen Anteil der Lizenzinhaber.

Die Pro-Nutzer-Logik wird damit zu einer strategischen Frage. Bei wachsender Mitarbeiterzahl skaliert sie linear, der reale Mehrwert dagegen nicht. Wer Copilot bei 500 oder 1.000 Mitarbeitern flächendeckend einführt, sollte sich vorher sehr genau überlegen, ob die Voraussetzungen so weit sind, dass die Lizenzkosten in produktiven Nutzen umgewandelt werden können.

‍

Warum Copilot ohne saubere Daten enttäuscht

Der zweite kritische Punkt ist die Datenstruktur. Copilots Mehrwert hängt direkt davon ab, wie gut die Daten in der Microsoft-365-Welt organisiert sind. Wenn ein Mitarbeiter Copilot fragt „Fasse mir die letzten Quartalszahlen zusammen" und Copilot Zugriff auf 17 verschiedene Excel-Versionen aus drei SharePoint-Bereichen hat, wird das Ergebnis nicht hilfreich, sondern verwirrend. Wenn die Berechtigungsstruktur über Jahre gewachsen und nie aufgeräumt ist, kann Copilot Inhalte zugänglich machen, die laut Berechtigungslogik gar nicht zugänglich sein dürften.

Das ist kein Copilot-Problem, sondern ein Voraussetzungsproblem. Aber es entscheidet darüber, ob Copilot als Befähigung wahrgenommen wird oder als Enttäuschung. Mittelständler, deren Datenstruktur in den letzten zehn Jahren nicht aktiv kuratiert wurde, brauchen vor dem Copilot-Rollout meist erheblichen Vorlauf. Genau dieser Vorlauf wird in Verkaufspräsentationen selten erwähnt.

‍

Wann Copilot der richtige Weg ist, und wann er der teure Umweg ist

Die ehrliche Einordnung lautet: Copilot ist die richtige Wahl, wenn drei Bedingungen erfüllt sind. Die Microsoft-Tiefe ist hoch, also Mitarbeiter arbeiten täglich in Outlook, Teams und SharePoint und nicht parallel in vielen anderen Welten. Die Datenstruktur ist gepflegt, also Berechtigungen stimmen, Versionen sind klar, Ablage ist sortiert. Die Bereitschaft zur Adoption-Investition ist vorhanden, also Schulung, Multiplikatoren, Begleitung sind eingeplant.

Wenn diese drei Bedingungen erfüllt sind, ist Copilot eine ausgezeichnete Wahl. Wenn eine davon fehlt, lohnt der Blick auf Weg 3. Microsoft selbst ist in dieser Diskussion kein Ausschlusskriterium. Microsoft bleibt die Plattform, nur das Werkzeug auf dieser Plattform ist ein anderes.

‍

Weg 3: Eigene Lösung auf Microsoft-Infrastruktur. Der unterschätzte Pfad im Microsoft-Kosmos.

Software-as-a-Service als schneller Einstieg

Der dritte Weg setzt auf spezialisierte Anbieter, die ein fertiges Chat-Frontend bereitstellen, das mit Unternehmenswissen verbunden werden kann. Bekannte Vertreter im deutschsprachigen Raum sind LangDock, NeuroFlash und einige andere. Im Kern bekommt das Unternehmen eine Oberfläche, in der Mitarbeiter Fragen stellen, Dokumente hochladen, Agenten benutzen oder bauen können, und das auf einer DSGVO-konform betriebenen Infrastruktur.

Das Lizenzmodell ist fast immer Software-as-a-Service mit einer Pro-Nutzer-Lizenz pro Monat. Die Beträge sind deutlich niedriger als bei Microsoft Copilot in der Vollausbaustufe, aber sie skalieren genauso linear mit der Mitarbeiterzahl. Bei 500 Mitarbeitern landet die Rechnung auch hier schnell im fünfstelligen Jahresbereich.

Der Vorteil dieses Modells ist die Geschwindigkeit. SaaS-Lösungen sind in Wochen, nicht in Monaten produktiv. Anmelden, Dokumente hochladen, Datenquellen verbinden, spielfähig sein. Der Nachteil ist die wirtschaftliche und strategische Abhängigkeit. Die monatliche Pro-Nutzer-Logik läuft, solange das Werkzeug genutzt wird, und der Datenstandort liegt beim Anbieter, nicht im eigenen Microsoft-Kosmos.

‍

Einmalkauf statt Pro-User-Lizenz, der wirtschaftliche Bruch

Innerhalb von Weg 3 gibt es eine Variante, die in der öffentlichen Diskussion oft untergeht: die Software wird einmal gekauft und auf eigener Infrastruktur betrieben. Statt monatlicher Pro-Nutzer-Lizenz fällt eine einmalige Lizenzgebühr an, plus optional ein Wartungsvertrag. Die Software läuft auf der eigenen Microsoft-Azure-Instanz oder einem vergleichbaren Cloud-Bereich.

Wirtschaftlich kippt das Bild bei größeren Mitarbeiterzahlen. Wer 500 oder 1.000 Mitarbeiter ausstatten will, zahlt im SaaS-Modell jedes Jahr aufs Neue. Im Einmalkaufmodell wird die Software einmal angeschafft, danach intern betrieben und ist in der wirtschaftlichen Struktur unabhängiger. Strategisch hat dieses Modell einen weiteren Vorteil: Die Daten verlassen weder das Microsoft-Konto noch die Azure-Instanz des Unternehmens, weil das LLM über Azure OpenAI Service läuft. Es kommt kein zusätzlicher Anbieter in den Datenfluss.

Das ist nicht für jedes Unternehmen die richtige Wahl. Einmalkaufmodelle setzen voraus, dass die Software auch selbst betrieben werden soll, in der Regel mit Unterstützung des Anbieters. Wer keine Azure-Welt hat oder nicht aufbauen will, ist mit SaaS schneller dran. Wer die Größe und die Microsoft-Infrastruktur hat, fährt mit dem Einmalkauf häufig günstiger und souveräner.

‍

Wissensdatenbank, Agenten, eigene Azure-Instanz

Egal ob SaaS oder Einmalkauf, der eigentliche Hebel von Weg 3 liegt in drei Komponenten.

Erstens die Wissensdatenbank. Handbücher, Richtlinien, Prozessdokumente, Onboarding-Materialien, Verträge, Produktinformationen werden hochgeladen oder über eine Schnittstelle mit Intranet, CRM oder Dokumentenmanagement verbunden. Sobald das System diese Inhalte indiziert hat, beantwortet es Fragen mit Verweis auf die Originalquelle. Aus „Wo finde ich die Reisekostenrichtlinie?" wird „Hier sind die drei zentralen Punkte und der Link zur aktuellen Version".

Zweitens Agenten. Ein Agent ist eine vorkonfigurierte Rolle innerhalb des Tools: ein Personal-Agent für HR-Fragen, ein Vertriebs-Agent für Angebotsentwürfe, ein Onboarding-Agent für neue Mitarbeitende. Welche Daten der Agent kennt, welchen Tonfall er hat und welche Handlungen er ausführen darf, lässt sich konfigurieren. Wie sich solche Agenten konkret bauen lassen, zeigt der Artikel zu Agenten mit Copilot Studio. Die dort beschriebene Logik gilt sinngemäß auch für andere Plattformen.

Drittens die Infrastruktur. Wenn das Werkzeug auf eigener Azure-Instanz läuft, sind die Unternehmensdaten in dem Vertragsverhältnis, das das Unternehmen ohnehin mit Microsoft hat. Es kommt kein zusätzlicher Drittanbieter dazu, der eigene Datenverarbeitungsverträge braucht. Genau das ist der entscheidende Unterschied zu vielen reinen SaaS-Lösungen und der Grund, warum Weg 3 in der Einmalkauf-Variante datenschutzrechtlich oft besser dasteht als der durchschnittliche SaaS-Anbieter.

‍

aithoria Chat als konkretes Beispiel

Ein konkretes Beispiel macht den abstrakten Weg 3 greifbar: aithoria Chat. Auf Basis einer Open-Source-Lizenz (LibreChat) hat aithoria eine Lösung gebaut, die genau das tut, was Weg 3 verspricht. Ein Chat-Frontend, das in der Bedienung kaum von ChatGPT zu unterscheiden ist, läuft auf der Microsoft-Azure-Instanz des Kunden, nutzt Azure OpenAI als Modell-Backend und ist mit Wissensdatenbank- und Agenten-Funktion ausgestattet. Der Kunde zahlt einmal für die Software, nicht pro Nutzer und Monat, und betreibt sie danach intern.

Der praktische Effekt entfaltet sich vor allem in Multi-Standort-Strukturen. Ein Unternehmen mit zehn Standorten kann zentral neue Informationen einspielen, etwa eine geänderte Reisekostenrichtlinie, und am nächsten Tag fragt jeder Mitarbeiter aller Standorte das System statt drei Kollegen. Die Geschäftsführung kann pro Standort eigene Agenten freigeben, etwa einen Standort-Agenten, der lokale Besonderheiten kennt. Die IT behält die volle Kontrolle, weil alles in der eigenen Azure-Welt läuft.

aithoria Chat ist damit ein Beispiel für die Premium-Variante von Weg 3: die Vorteile der SaaS-Welt (schnell produktiv, fertige Oberfläche, professionelle Wartung) mit den Vorteilen der Microsoft-eigenen Infrastruktur (eigene Azure-Instanz, kein zusätzlicher Anbieter im Datenfluss, kein Pro-Nutzer-Modell). Für mittelständische Unternehmen mit mehreren Standorten, einer bestehenden Microsoft-Welt und dem Wunsch nach langfristiger Unabhängigkeit ist diese Konstellation oft die wirtschaftlichste Microsoft Copilot Alternative innerhalb des Microsoft-Kosmos.

‍

Welcher Weg für welches Unternehmen

Vier Kriterien, die wirklich entscheiden

Vier Kriterien entscheiden in der Praxis darüber, welcher der drei Wege zum richtigen Werkzeug führt.

Erstens die Unternehmensgröße. Unter 50 Mitarbeitern ist die Pro-Nutzer-Frage selten ein wirtschaftliches Problem, hier reicht häufig ein gut administriertes SaaS-Tool oder Microsoft Copilot. Zwischen 50 und 500 Mitarbeitern wird die Pro-Nutzer-Lizenz zur strategischen Frage. Über 500 Mitarbeitern lohnt sich die Rechnung Einmalkauf gegen SaaS fast immer.

Zweitens die Datenreife. Wer seine Dokumente sortiert hat, klare Berechtigungen pflegt und ein zentrales Intranet betreibt, kann jeden der drei Wege gehen. Wer das nicht hat, sollte mit Weg 3 starten, weil die Wissensbasis dort schrittweise aufgebaut werden kann, ohne dass die ganze Datenstruktur auf einmal stehen muss.

Drittens die Standortstruktur. Multi-Standort-Unternehmen, Franchise-Strukturen und Filialbetriebe profitieren überdurchschnittlich von einer zentralen Wissens- und Kommunikationsschicht, die alle Standorte gleichzeitig versorgt. Hier ist Weg 3 fast immer der richtige Einstieg.

Viertens die Microsoft-Tiefe. Wer ohnehin tief in Microsoft 365 lebt und dort den Großteil der Arbeit erledigt, hat mit Copilot oder einer Weg-3-Lösung auf Azure den geringsten Reibungsverlust. Beide Werkzeuge bleiben im Microsoft-Kosmos, sie unterscheiden sich nur in Lizenzlogik und Funktionstiefe.

Entscheidungsmatrix

Eine grobe Orientierung, mit der bewussten Vereinfachung, dass jeder Einzelfall Abweichungen kennt.

‍

Drei Stolpersteine, an denen die meisten scheitern

Drei Fehler tauchen in Einführungsprojekten regelmäßig auf.

Erstens die Lizenzfalle. Unternehmen entscheiden sich für eine Pro-Nutzer-Lösung, weil der Einstiegspreis attraktiv wirkt, und merken nach 18 Monaten, dass sie das Drei- oder Vierfache des Einmalkaufs gezahlt haben, ohne strukturell weiter zu sein. Die wirtschaftlich richtige Frage ist nicht „Was kostet es im nächsten Monat?", sondern „Was kostet es in fünf Jahren?".

Zweitens die Adoption-Lücke. Werkzeug ist gekauft, Lizenzen sind verteilt, niemand begleitet die Einführung. Drei Monate später nutzen über 80 Prozent der Mitarbeiter das Werkzeug entweder gar nicht oder so oberflächlich, dass kein messbarer Mehrwert entsteht. Diese Lücke ist unabhängig vom gewählten Weg und am Ende oft entscheidender als die Tool-Wahl selbst.

Drittens die Datensilo-Realität. Egal welches Werkzeug gewählt wird, es kann nur so gut sein wie die Daten, die es bekommt. 17 Versionen der Reisekostenrichtlinie in fünf Ordnern produzieren 17 verschiedene Antworten. Datenpflege ist nicht das spannende Thema, aber es macht den Unterschied zwischen einem nutzbaren Werkzeug und einer enttäuschenden Investition. Diese Entscheidung gehört in einen größeren Rahmen, nämlich die KI-Strategie des Unternehmens. Wie sie strukturiert aussieht, beschreibt der Artikel zu KI-Strategie im Mittelstand.

‍

Was vor dem Tool kommt

Governance, Schulung, Datenstruktur

Drei Voraussetzungen sind unabhängig vom gewählten Weg und sollten parallel zur Tool-Entscheidung laufen.

Eine KI-Richtlinie, die definiert, welche Daten in welche Werkzeuge dürfen, in welchen Bereichen Mitarbeiter selbständig agieren dürfen und wo Freigaben nötig sind. Sie muss kein juristisches Werk sein, sondern eine klare Orientierung für den Alltag.

Eine Schulungslogik, die nicht aus einer Stunde Frontalvortrag besteht. KI-Adoption funktioniert in den meisten Häusern über Multiplikatoren in den Fachbereichen, regelmäßige Sprechstunden und konkrete Use-Case-Begleitung in den ersten Wochen. Welches Tool gewählt wird, ist am Ende nicht die wichtigste Frage. Der Artikel Warum am Ende der Mensch den Unterschied macht beschreibt, woran KI-Einführungen tatsächlich scheitern oder gelingen.

Eine Datenstruktur, die wenigstens für die ersten produktiven Bereiche aufgeräumt ist. Es ist nicht nötig, alles auf einmal zu sortieren, der Anfang reicht. Ein gut gepflegter Personal-Bereich, ein gut gepflegter Vertriebsbereich. Damit lässt sich starten.

‍

Der Einstieg in drei Phasen

Lösungen wie Weg 3 entfalten ihren Mehrwert, wenn sie nicht als großes Projekt, sondern als wachsendes System verstanden werden.

In Phase 1, in den ersten ein bis drei Monaten, steht das Werkzeug, die ersten Wissensbestände sind eingespielt, eine erste Mitarbeitergruppe nutzt es aktiv. Ein bis zwei Agenten existieren, etwa für Personal und Onboarding.

In Phase 2, vom vierten bis neunten Monat, wachsen Wissen, Agenten und Nutzergruppen. Vertrieb, IT und Finance kommen dazu, je nach Priorität. Erste Schnittstellen zu Drittsystemen werden eingerichtet, etwa zum CRM oder zum Dokumentenmanagement.

In Phase 3, ab dem zehnten Monat, ist das System Standard im Unternehmen. Neue Mitarbeitende werden mit dem Hinweis „Frag erst den Chat" eingearbeitet. Agenten werden von den Fachbereichen selbst gepflegt, die IT moderiert nur noch.

‍

Was sich nach 6 und 12 Monaten verändert

Nach sechs Monaten sind zwei Dinge anders. Erstens nutzen Mitarbeiter weniger private Tools, weil das offizielle Werkzeug besser ist. Zweitens lassen sich in Wissensumfragen messbar verkürzte Suchzeiten nachweisen.

Nach zwölf Monaten ist das Werkzeug Teil der Infrastruktur. Es wird nicht mehr diskutiert, ob es genutzt wird, sondern welche Agenten als nächstes gebaut werden. In der Belegschaft hat sich das Bild von „KI ist ein Trend, den wir verfolgen müssen" zu „KI ist ein Werkzeug, das wir benutzen" verschoben. Das ist der Punkt, an dem der eigentliche Mehrwert beginnt.

‍

Fazit: Microsoft ja, aber das richtige Werkzeug auf Microsoft

Ein Unternehmens LLM ist heute weniger eine technische als eine strategische Entscheidung. Microsoft als Plattform ist für die meisten Mittelständler die richtige Wahl, weil Microsoft 365 und Azure ohnehin die Grundlage des täglichen Arbeitens sind. Die Werkzeugfrage innerhalb dieser Plattform ist allerdings differenzierter, als sie häufig dargestellt wird.

Microsoft Copilot ist ein hervorragendes Werkzeug, wenn Microsoft-Tiefe, Datenstruktur und Adoption-Bereitschaft passen. Wo eine dieser Voraussetzungen fehlt, ist eine Lösung auf eigener Microsoft-Infrastruktur, oft als Einmalkauf mit Azure OpenAI als Modell-Backend, die wirtschaftlich und strategisch oft tragfähigere Wahl. Beide Wege bleiben im Microsoft-Kosmos, beide nutzen die gleiche Infrastruktur, aber sie skalieren völlig anders. Ein eigenes LLM von Grund auf zu bauen, ist im Mittelstand selten die richtige Wahl, weder wirtschaftlich noch operativ.

Die wichtigere Erkenntnis liegt jenseits der Werkzeugfrage. KI im Unternehmen passiert ohnehin. Die Frage ist nur, ob Unternehmen das gestalten oder ob es weiter unter dem Radar geschieht. Wer ein offizielles Werkzeug bereitstellt, das mit dem Unternehmenswissen verbunden ist, gewinnt drei Dinge gleichzeitig: die Kontrolle über Daten, den Hebel auf Produktivität und die Glaubwürdigkeit gegenüber den eigenen Mitarbeitern, die KI längst nutzen. Das Werkzeug muss zum Unternehmen passen, nicht andersherum.

Welcher der drei Wege auf eurer Microsoft-Infrastruktur am besten zu eurem Haus passt, lässt sich in einem ersten Gespräch oft klar einsortieren. Wenn ihr danach tiefer gehen wollt, arbeiten wir im KI-Strategie Workshop gemeinsam aus, welche Use Cases bei euch den schnellsten ROI bringen und auf welcher Microsoft-Infrastruktur sie am wirtschaftlichsten laufen.

‍

→ 30 Minuten Gespräch vereinbaren