Das Silent AI System von FAST LTA ist eine lokale KI-Appliance, die im Rechenzentrum des Kunden betrieben wird. Es basiert auf einer Kombination aus Large Language Models (LLM) und Retrieval-Augmented Generation (RAG) zur kontextbezogenen Bearbeitung von Anfragen. Durch den Einsatz von RAG werden Antworten nicht frei generiert, sondern gezielt auf zuvor abgerufene, unternehmensspezifische Daten gestützt. Die Verarbeitung erfolgt vollständig innerhalb der Appliance; es verlassen weder Dokumente noch Prompts noch generierte Tokens das Netz des Kunden.
|
Variante |
Beschreibung |
|---|---|
|
Silent AI ES |
Wissenssuche über Unternehmensdaten mit Quellenangabe und vererbten Zugriffsrechten |
|
Silent AI Pro |
Funktionsumfang von ES erweitert um Agenten, Projekte, Skills, Artefakte und Gedächtnis |
ES und Pro basieren auf unterschiedlichen Software-Stacks. Funktionen, Konnektoren und technische Werte der einen Variante gelten für die andere nicht automatisch und sind auf den jeweiligen Unterseiten getrennt dokumentiert.
Rechtemodell
Bei der Indexierung werden Dokumente in Abschnitte (Chunks) zerlegt und zusammen mit ihren Berechtigungs-Metadaten aus dem Quellsystem in der Vektordatenbank abgelegt. Bei einer Anfrage filtern die Zugriffsrechte des anfragenden Nutzers vor der eigentlichen Suche: Inhalte, auf die kein Zugriff besteht, werden nicht in die Trefferauswahl aufgenommen. Die Rechteprüfung erfolgt damit im Retrieval-Schritt, nicht im Sprachmodell.
Hardware- und Betriebsbasis
Gemeinsame Plattform aller Varianten: 4-HE-Gehäuse, 19", 400 mm Tiefe, Intel Xeon Gold 6414U (32 Cores, 250 W TDP), PCIe 5, mindestens 8 TB System-NVMe, Dual 10 GbE (RJ45/SFP+) oder Dual 25/100 GbE (QSFP), Fertigung in Deutschland. Je nach Variante kommt eine GPU-Bestückung mit RTX Pro 6000, H200 oder einer Kombination dieser zum Einsatz.
Betriebssystem: Ein deklaratives, konfigurationsbasiertes Betriebssystem. Der gesamte Systemzustand — installierte Pakete, Dienste, Netzwerkeinstellungen, Nutzerrechte — wird in einer zentralen Konfigurationsbeschreibung festgehalten statt durch einzelne, manuelle Änderungen am laufenden System herbeigeführt. Aus dieser Beschreibung lässt sich der Systemzustand jederzeit reproduzierbar neu aufbauen.
Zwei technische Eigenschaften sind für den Betrieb relevant:
-
Reproduzierbarkeit: Zwei Systeme mit identischer Konfigurationsdatei sind funktional identisch, unabhängig davon, wie oft oder in welcher Reihenfolge zuvor Änderungen vorgenommen wurden. Es entsteht kein über Jahre gewachsener, im Detail nicht mehr nachvollziehbarer Zustand.
-
Generationsbasierte Systemzustände: Jede Konfigurationsänderung erzeugt eine neue, vollständige Systemgeneration, die parallel zur vorherigen bestehen bleibt. Ein Wechsel zwischen Generationen ist grundsätzlich möglich. Ob und in welcher Form dieser Mechanismus als nutzbare Produktfunktion für Kunden oder Support zur Verfügung steht, ist nicht dokumentiert — die Fähigkeit der Basis ist keine automatische Produktfunktion.
Air-Gap-Betrieb: Das System ist ohne Internetanbindung nutzbar.
Compliance
Die vollständig lokale Verarbeitung ohne Drittlandtransfer erfüllt die Anforderungen von DSGVO, EU AI Act, NIS2/KRITIS und DORA. Details zu Fristen, Nachweisen und Bußgeldrahmen sind im Dokument „Positionierung & Wettbewerb" hinterlegt.