Wer kümmert sich um die KI im eigenen Haus, wenn wir keinen IT-Mitarbeiter haben?

Die KI-Software selbst betreut Goma-IT aus der Ferne, über einen Zugang, den Sie freigeben und jederzeit wieder sperren können. Was im Betrieb bleibt, hat mit dem Gerät zu tun: ein Platz mit Strom, Netzwerk und genug Kühlung, und eine Datensicherung, die Sie mit Ihrem IT-Betreuer abstimmen. Einen eigenen IT-Mitarbeiter braucht ein Handwerksbetrieb dafür nicht, wohl aber jemanden, der Bescheid weiß, wo das Gerät steht und wen man bei einem Problem anruft.

Was steht da eigentlich im Betrieb?

Eine lokale KI ist ein Sprachmodell, also eine KI, die Texte versteht und formuliert, das auf einem eigenen Rechner im Betrieb läuft. Dieser Rechner hat eine oder mehrere leistungsstarke Grafikkarten, weil Sprachmodelle genau dafür gebaut sind. Er ist größer und lauter als ein Büro-PC und wird warm, wenn er arbeitet.

Auf dem Rechner laufen das Modell und eine Anwendung, etwa eine Wissensdatenbank für Ihre Unterlagen. Ihre Mitarbeiter greifen über den Browser darauf zu, so wie auf eine Website.

Was muss regelmäßig gemacht werden?

Wie bei jedem Server fallen laufende Arbeiten an:

• Sicherheitsupdates für Betriebssystem und Programme
• Updates der KI-Anwendung, wenn es Verbesserungen oder Fehlerbehebungen gibt
• Anpassungen, etwa wenn neue Ordner eingebunden werden sollen
• Überwachung, ob das Gerät läuft und genug Speicherplatz hat
• Datensicherung der Einstellungen und, je nach Einrichtung, der eingelesenen Daten

Wer übernimmt was?

Eine mögliche Aufteilung, wie sie in einem Handwerksbetrieb mit externem IT-Betreuer aussehen könnte:

Aufgabe	Wer
Sprachmodell und KI-Anwendung aktualisieren	Goma-IT per Fernzugang
Anpassungen an Ordnern und Abläufen	Goma-IT per Fernzugang, nach Absprache
Fernzugang freigeben oder sperren	der Betrieb
Platz, Strom, Kühlung, Netzwerkanschluss	der Betrieb
Firewall, Netzwerk, Datensicherung im Betrieb	der IT-Betreuer des Betriebs
Gewährleistung und Ersatzteile für die Hardware	Händler, bei dem die Hardware gekauft wurde

Die genaue Aufteilung legen wir vor der Installation gemeinsam fest, damit im Fall einer Störung niemand rätseln muss, wer zuständig ist.

Wie funktioniert der Fernzugang?

Ein Fernzugang ist eine gesicherte Verbindung, über die Goma-IT auf das Gerät zugreifen kann, ohne vor Ort zu sein. Sie entscheiden, ob und wann dieser Zugang offen ist. Sie können ihn dauerhaft freigeben, damit Updates ohne Termin laufen, oder nur bei Bedarf öffnen. Beides ist möglich, beim zweiten Weg müssen Sie aber daran denken, den Zugang für Updates freizugeben.

Was ist mit Strom, Platz und Lärm?

Ein Beispiel, wie es in einer Tischlerei aussehen könnte: Der Server steht nicht im Büro, weil er dort zu laut wäre, sondern in einem kleinen Technikraum neben der Telefonanlage. Der Raum ist klein und wird im Sommer warm. Deshalb kommt vor der Bestellung die Frage, ob die Kühlung reicht oder ob ein anderer Platz besser ist. Staub aus der Werkstatt ist ein eigenes Thema, weil er Lüfter und Grafikkarten zusetzt.

Solche Fragen klären wir vor der Bestellung, damit das Gerät nicht dort landet, wo es Probleme macht.

Ist das für meinen Betrieb überhaupt der richtige Weg?

Ehrlich gesagt oft nicht. Ein eigener (virtueller) Server in einem Rechenzentrum in Deutschland, wie ihn Goma-IT für die Wissensdatenbank einrichtet, ist einfacher zu betreiben. Lokale KI ist dann sinnvoll, wenn Daten das Haus aus guten Gründen nicht verlassen sollen, etwa weil Auftraggeber das verlangen. Ob ein Modell auf eigener Hardware für Ihre Aufgaben reicht, zeigt vor dem Kauf ein Machbarkeits-Check auf gemieteter Rechenleistung in einem EU-Rechenzentrum.

Den ganzen Ablauf von Erstgespräch bis Betrieb beschreibt die Seite Lokale KI.