Sichere KI in Ihrem Unternehmen?

Was lokale Modelle sind

Die bekanntesten KI-Modelle laufen in der Cloud des Anbieters - jede Anfrage wird an dessen Server geschickt und dort verarbeitet. Ein lokales Modell wird auf der eigenen Infrastruktur betrieben - auf einem Rechner oder einem Firmenserver - und die gesamte Verarbeitung findet innerhalb der Organisation statt.

Es gibt weder ein Abo pro Arbeitsplatz noch Gebühren nach Anzahl der Anfragen, und der Inhalt der Gespräche - Verträge, Dokumente, Korrespondenz - verlässt das Unternehmen nicht.

Das spielt überall dort eine Rolle, wo Geschäftsgeheimnisse oder etwa vertragliche Verpflichtungen gegenüber Geschäftspartnern im Spiel sind. Die Installation kann in einem Netz ohne Internetzugang laufen.

Beispielhafte Hardware-Anforderungen

Die Leistung hängt direkt von der Konfiguration ab: Speicherbandbreite und Grafikleistung bestimmen, wie viele Tokens pro Sekunde erzeugt werden, und die Speichergröße entscheidet darüber, wie groß das Modell sein darf, das sich laden lässt. Auf einer schwächeren Maschine läuft das Modell ebenfalls - allerdings auf Kosten der Antwortzeit.

Beispiel für eine Erweiterung - Websuche

Modelle dieser Art haben standardmäßig keinen Zugang zum Internet. Ihr Wissen stammt ausschließlich aus den Trainingsdaten, die Material bis zu einem bestimmten Stichtag umfassen - in der Regel mehr als ein Jahr vor der Veröffentlichung des Modells. Fragen zu aktuellen Ereignissen, tagesaktuellen Kursen oder jüngsten Gesetzesänderungen führen zu veralteten oder erfundenen Antworten.

In unserem Beispiel fügt der Schalter „Zugang zur Websuche“ dem Modell eine Suchebene hinzu: Die Frage geht zuerst an die Suchmaschine, das Modell antwortet auf Grundlage der gelieferten Treffer und nennt die Quellen. Das ist eine Erweiterung auf Seiten von Kreatio, keine Funktion des Modells selbst - ohne sie kennt das Modell ausschließlich seine Trainingsdaten.

Beispiel für eine Erweiterung - Berichtsmodus

Hier arbeitet das Modell agentisch: Es formuliert selbst die Suchanfragen, wählt aus den Treffern die lesenswerten Quellen aus, öffnet sie in einem echten Browser und schreibt erst aus deren Inhalt den Bericht - mit Fußnoten, die sich nachprüfen lassen.

Das ist eine vereinfachte Version dessen, was OpenAI deep research nennt und Anthropic Research. In unserem Beispiel legt der Code die Reihenfolge der Schritte fest, es gibt nur wenige Quellen, und der Bericht entsteht in einer Minute. Das Prinzip ist dasselbe: Stunden der Recherche werden zu Minuten, und die Antwort stützt sich auf das, was das Modell tatsächlich gelesen hat - nicht auf das, was es aus dem früheren Training behalten hat.

Dasselbe Modell, ein anderes Ergebnis

Modelle zu trainieren ist die Domäne weniger Labore weltweit und kostet Hunderte Millionen Dollar. Der Wert eines Modells in Ihrem Unternehmen kommt aber von etwas anderem: von den Werkzeugen, den Daten und der Art, wie eine Aufgabe gesteuert wird - von dem, was das Modell um sich herum bekommt.

Claude Code ist das beste Beispiel. Im Chatfenster beantwortet dasselbe Modell lediglich Fragen. Mit Werkzeugen, Dateizugriff und einer Handlungsschleife schreibt es selbstständig Code und korrigiert seine eigenen Fehler. Das Modell hat sich nicht verändert. Verändert hat sich, was es um sich herum hat.

All das können wir entwerfen, bauen und auf Ihre Bedürfnisse zuschneiden: Suche in der Wissensdatenbank des Unternehmens - Antworten auf Basis Ihrer Dokumente; Aufruf von Werkzeugen - Zugriff auf Ihre Systeme und Daten; Agenten - Durchführung mehrstufiger Aufgaben von Anfang bis Ende.

Alles lokal und sicher, auf Wunsch sogar ganz ohne Internetzugang.

Bilanz der Lösung

Zum Modelltest