KI im eigenen Haus: lokale Systeme, hybrider Betrieb und ein Nutzen, der sich rechnen lässt

In fast jedem Unternehmen wird inzwischen mit KI gearbeitet — nur oft nicht dort, wo es jemand entschieden hat. Mitarbeitende laden Angebote, Verträge und Kundendaten in frei zugängliche Chatdienste, weil es die Arbeit spürbar erleichtert. Wer das verbietet, verliert den Nutzen. Wer es laufen lässt, verliert die Kontrolle über die Daten.

Es gibt einen dritten Weg, und über den geht dieser Beitrag: KI-Systeme, die wir für Ihr Unternehmen einrichten und betreiben — im eigenen Rechenzentrum oder bei Ihnen vor Ort, auf Wunsch verbunden mit etablierten Anbietern wie Anthropic oder OpenAI. Sie entscheiden, welche Daten das Haus verlassen dürfen und welche nicht.

Drei Bauformen, und wofür jede taugt

Es gibt nicht die eine richtige Lösung. Es gibt drei, und welche passt, hängt an Ihren Daten, nicht an der Technik.

• Cloud-KI: Sie nutzen die Modelle großer Anbieter über deren Schnittstellen. Schnell verfügbar, kein eigener Betrieb, immer der aktuelle Stand — aber Ihre Eingaben verlassen das Haus.
• Lokale KI: Sprachmodelle laufen auf Hardware, die Sie kontrollieren — in Ihrem Serverraum oder in unserem Rechenzentrum. Ihre Daten bleiben, wo sie sind. Der Preis dafür ist ein Betrieb, der geplant und gepflegt werden muss.
• Hybrid: Der Regelfall in der Praxis. Vertrauliches läuft lokal, alles Übrige über die Cloud. Eine Weiche entscheidet pro Anfrage, welcher Weg genommen wird — nach Regeln, die Sie festlegen.

Die dritte Variante ist meist die wirtschaftlichste: Sie zahlen die aufwendigere lokale Verarbeitung nur für die Fälle, die sie wirklich brauchen, und nutzen für den Rest die Geschwindigkeit und Bandbreite der großen Anbieter.

Wann lokal die richtige Wahl ist — und wann nicht

Lokale KI ist kein Selbstzweck. Sie lohnt sich, wenn mindestens einer dieser Punkte auf Sie zutrifft:

• Sie verarbeiten personenbezogene Daten, Gesundheitsdaten oder Geschäftsgeheimnisse, die vertraglich oder gesetzlich das Haus nicht verlassen dürfen.
• Sie sind Betreiber kritischer Infrastruktur oder fallen unter NIS2 und müssen nachweisen, wo Daten verarbeitet werden.
• Ihre Kunden verlangen im Vertrag eine Verarbeitung ausschließlich im eigenen Haus oder in einem bestimmten Land.
• Sie wollen KI auf Ihren eigenen Beständen arbeiten lassen — Angebote, Projektakten, Wartungsberichte — ohne diese Bestände an Dritte zu geben.

Trifft nichts davon zu, ist der Cloud-Weg in aller Regel schneller am Ziel. Das sagen wir Ihnen dann auch. Ein lokales System, das niemand braucht, ist teurer Stillstand.

Was wir bereitstellen

Wir richten die Systeme ein und betreiben sie — abgestimmt auf Ihr Unternehmen, nicht als Standardpaket von der Stange. Dazu gehört:

• Auswahl und Auslegung der Umgebung anhand Ihrer tatsächlichen Anwendungsfälle statt anhand eines Datenblatts
• Betrieb im eigenen Rechenzentrum oder bei Ihnen vor Ort — Sie entscheiden, wo die Daten liegen
• Anbindung an Ihre Bestände: Dateiablagen, Wissensdatenbanken, Fachanwendungen
• Auf Wunsch die Verbindung zu Anbietern wie Anthropic oder OpenAI, mit Regeln dafür, welche Anfrage welchen Weg nimmt
• Zugriffsrechte, die Ihrer bestehenden Rechtestruktur folgen — wer eine Akte nicht sehen darf, bekommt sie auch von der KI nicht
• Protokollierung, die zeigt, wer wann was gefragt hat — die Grundlage jedes Nachweises
• Betrieb, Aktualisierung und Überwachung im laufenden Betrieb

Wir sind nach ISO 27001 zertifiziert, beraten Unternehmen aus dem KRITIS-Umfeld und begleiten die Umsetzung der NIS2-Anforderungen. Als Microsoft Solution Partner mit der Designation Modern Work kennen wir die Umgebung, in der die meisten dieser Systeme am Ende arbeiten müssen.

Der Teil, den die meisten überspringen: den Nutzen messbar machen

Über den Nutzen von KI wird viel behauptet und wenig gemessen. Wir nennen Ihnen deshalb keine Prozentzahl aus einer Studie, sondern richten die Messung in Ihrem Haus ein — an Ihren Vorgängen, mit Ihren Zahlen. Nur so entsteht eine Aussage, die auch in einer Geschäftsführungssitzung standhält.

Schritt 1: die Ausgangslage aufnehmen, bevor irgendetwas läuft

Das ist der Schritt, der am häufigsten fehlt — und ohne ihn ist jede spätere Zahl wertlos. Wir suchen mit Ihnen zwei bis drei Vorgänge aus, die oft vorkommen und messbar sind, und erheben für jeden:

• Wie oft kommt der Vorgang im Monat vor?
• Wie lange dauert er heute im Schnitt, von Anfang bis Ende?
• Wie viele Personen sind beteiligt, und auf welcher Kostenstufe?
• Wie oft muss nachgebessert werden, und was kostet eine Nachbesserung?
• Wie lange wartet der Kunde oder die nächste Abteilung auf das Ergebnis?

Diese fünf Zahlen sind die Grundlinie. Sie werden einmal erhoben und nicht mehr angefasst — sonst vergleicht man später zwei bewegliche Ziele.

Schritt 2: klein anfangen, an einem echten Vorgang

Kein unternehmensweiter Start. Ein Vorgang, eine Abteilung, ein überschaubarer Zeitraum. So bleibt der Aufwand klein, wenn sich herausstellt, dass die Idee nicht trägt — und das kommt vor. Ein Versuch, der ein Ergebnis liefert, ist auch dann ein Erfolg, wenn das Ergebnis „lohnt sich nicht" lautet.

Schritt 3: nach acht Wochen dieselben fünf Zahlen erheben

Dieselben Vorgänge, dieselbe Messweise, dieselben Personen. Die Differenz ist Ihr Ergebnis — und ihr steht der Aufwand gegenüber: Hardware oder Betriebskosten, Einrichtung, Schulung, laufende Pflege. Was übrig bleibt, ist der Wert. Nicht geschätzt, sondern gerechnet.

Wichtig dabei, und wir sagen es lieber vorher: Zeitersparnis allein ist noch kein Geld. Sie wird erst zu einem Ergebnis, wenn die gewonnene Zeit auch anders genutzt wird. Diese Frage gehört in dieselbe Rechnung, sonst steht am Ende eine Zahl, die niemand im Konto wiederfindet.

Wo es sich erfahrungsgemäß zuerst auszahlt

Die Anwendungsfälle, an denen ein Einstieg schnell etwas zeigt, haben drei Eigenschaften gemeinsam: Sie kommen oft vor, sie folgen einem Muster, und ihr Ergebnis lässt sich prüfen.

• Wissen aus den eigenen Beständen zugänglich machen: Wer eine Frage hat, bekommt eine Antwort samt Fundstelle — statt sich durch Ablagen zu suchen.
• Wiederkehrende Schriftstücke vorbereiten: Angebote, Berichte, Protokolle — der Entwurf entsteht, die Prüfung bleibt beim Menschen.
• Eingehende Anfragen vorsortieren und mit dem passenden Vorgang verknüpfen.
• Technische Unterlagen und Wartungsberichte durchsuchbar machen, auch wenn sie über Jahre gewachsen sind.

Was wir Ihnen nicht empfehlen: mit dem schwierigsten Fall anzufangen, weil er am meisten verspricht. Der erste Versuch soll etwas zeigen, nicht alles lösen.

Wie ein Einstieg aussieht

Wir fangen mit einem Gespräch an, nicht mit einem Angebot. Darin klären wir drei Dinge: Welche Daten dürfen das Haus nicht verlassen? Welche Vorgänge kosten heute am meisten Zeit? Und was ist bereits vorhanden — an Technik, an Lizenzen, an Vorarbeit? Daraus ergibt sich, ob lokal, hybrid oder Cloud der richtige Weg ist, und in welcher Reihenfolge vorgegangen wird.

Wir betreuen Umgebungen bis zu 50.000 Benutzerinnen und Benutzer und arbeiten im Umkreis von rund 100 Kilometern um Singen — von Konstanz und Villingen bis in die Schweiz. Für den Betrieb spielt die Entfernung keine Rolle; für die Vorarbeit und die Übergabe ist es angenehm, wenn jemand vorbeikommen kann.

Wenn Sie wissen wollen, ob sich das für Ihr Unternehmen rechnet: Sprechen Sie uns an. Wir sagen Ihnen auch, wenn es sich nicht lohnt — das spart beiden Seiten Zeit. Mehr zu unserem Ansatz finden Sie unter KI & Automatisierung und in unserer LLM-Strategie.