Braucht ein Handwerksbetrieb einen eigenen KI-Server im Haus?
Oft nicht. Häufig reicht eine KI auf einem eigenen (virtuellen) Server in einem Rechenzentrum in der EU. Ein KI-Server im Haus lohnt sich, wenn Unterlagen den Betrieb grundsätzlich nicht verlassen dürfen. Dann sollte vor dem Hardwarekauf ein Test zeigen, ob ein lokales Modell die Aufgaben gut genug erledigt.
In Kürze
- Lokale KI heißt, dass ein Sprachmodell auf einem Rechner mit Grafikkarte im eigenen Betrieb läuft.
- Sinnvoll ist sie vor allem, wenn Auftraggeber oder eigene Grundsätze das verlangen.
- Lokale Modelle sind meist kleiner als große Cloud-Modelle; ob das reicht, zeigt ein Test.
- Strom, Kühlung, Datensicherung und Updates gehören zum Betrieb dazu.
Was heißt lokale KI überhaupt?
Bei ChatGPT und ähnlichen Diensten läuft das Sprachmodell in einem Rechenzentrum des Anbieters. Bei lokaler KI läuft ein Sprachmodell auf einem Rechner, der im eigenen Betrieb steht, meist mit einer oder mehreren leistungsstarken Grafikkarten. Die Unterlagen und Fragen verlassen dabei das Haus nicht.
Wann ist das sinnvoll?
- Wenn Auftraggeber es verlangen, etwa bei Sicherheitstechnik oder Arbeiten in sensiblen Gebäuden, wo Pläne nicht in eine Cloud dürfen.
- Wenn es ein Grundsatz des Betriebs ist, Kalkulationen und Kundendaten nirgendwo anders zu verarbeiten.
- Wenn ohnehin eine eigene IT im Haus betreut wird und ein weiterer Server keine große Umstellung ist.
Es gibt einen Mittelweg: eine KI auf einem eigenen (virtuellen) Server in einem Rechenzentrum in der EU; die Auftragsverarbeitung wird vor dem Start vertraglich geregelt. Das ist einfacher zu betreiben und braucht keine Hardware im Betrieb.
Was spricht dagegen?
Lokale Modelle sind in der Regel kleiner als die großen Cloud-Modelle. Für klar umrissene Aufgaben mit den eigenen Unterlagen kann das reichen, für allgemeine Fragen oder lange, komplizierte Texte oft weniger. Dazu kommen die Anschaffung der Hardware, Strom, Platz, Kühlung und Datensicherung. Ein Gerät im Haus muss auch jemand warten.
Wie geht man vor, ohne Geld zu verbrennen?
- Aufgaben festlegen: Was soll die KI tun, und wie viele Leute nutzen sie gleichzeitig?
- Testen, bevor gekauft wird: Auf gemieteter Rechenleistung, etwa in einem EU-Rechenzentrum, lässt sich prüfen, ob ein Modell die Aufgaben gut genug erledigt.
- Stückliste erstellen: Erst wenn der Test passt, wird die Hardware genau festgelegt und beschafft.
- Installation und Betreuung klären: Wer spielt Updates ein, wer sichert die Daten, und wie wird der Fernzugang geregelt?
Wer diesen Weg geht, kauft keine teure Hardware auf Verdacht. Rechtliche Fragen zur Datenverarbeitung im eigenen Betrieb sind damit nicht automatisch erledigt; bei konkreten Fragen hilft eine Beratung durch Fachleute für Datenschutz.
Häufige Fragen
Ist eine KI im Haus automatisch DSGVO-konform?
Nein, aber es wird einfacher, weil keine Daten an einen Dienstleister gehen. Zugriffsrechte, Datensicherung und Löschung müssen trotzdem geregelt sein. Für Ihren Fall ersetzt dieser Hinweis keine Rechtsberatung.
Reicht ein normaler Büro-PC?
Für ein brauchbares Sprachmodell in der Regel nicht. Es braucht meist eine leistungsfähige Grafikkarte mit viel Speicher. Welche genau, hängt von Modell und Nutzerzahl ab und sollte vor dem Kauf getestet werden.
Wer wartet so ein Gerät?
Entweder Ihre eigene IT oder ein Dienstleister, der per Fernzugang Updates einspielt. Wichtig ist, dass Sie diesen Zugang selbst freigeben und sperren können.