Warum ChatGPT Ihr Unternehmenswissen nicht kennt

ChatGPT kann Gedichte schreiben, Code generieren und historische Fragen beantworten. Aber fragen Sie es, wie Ihr Unternehmen Reklamationen bearbeitet, und Sie bekommen eine allgemeine Antwort, die mit Ihrem tatsächlichen Prozess nichts zu tun hat.

Das ist kein Fehler. Es ist eine Designentscheidung. ChatGPT wurde mit öffentlich verfügbaren Texten trainiert. Ihre internen Dokumente, E-Mails, Prozessbeschreibungen und Erfahrungswerte waren nicht dabei.

Das Wissensproblem im Mittelstand

In den meisten mittelständischen Unternehmen steckt das wichtigste Wissen an drei Orten:

1. In den Köpfen erfahrener Mitarbeiter. Der Vertriebsleiter, der seit 15 Jahren weiß, welcher Kunde welche Konditionen bekommt. Die Konstrukteurin, die aus Erfahrung weiß, welches Material für welchen Einsatzfall funktioniert. Dieses Wissen ist nirgends dokumentiert.

2. In verstreuten Dokumenten. SharePoint-Ordner mit 10.000 Dateien. E-Mail-Postfächer mit jahrelanger Korrespondenz. PDF-Handbücher, die seit 2018 nicht aktualisiert wurden. Die Informationen existieren. Aber niemand findet sie in vertretbarer Zeit.

3. In Systemen, die nicht miteinander sprechen. Das ERP-SystemEnterprise Resource PlanningZentrale Unternehmenssoftware für Buchhaltung, Warenwirtschaft, Produktion und mehr.kennt die Auftragsdaten. Das CRM kennt die Kundenhistorie. Das Ticketsystem kennt die Supportfälle. Aber kein System kennt alles gleichzeitig.

Das Ergebnis: Mitarbeiter verbringen Stunden damit, Informationen zusammenzusuchen, die eigentlich vorhanden sind. Laut einer Studie von McKinsey verbringen Wissensarbeiter bis zu 19 Prozent ihrer Arbeitszeit mit der Suche nach internen Informationen.

Was ChatGPT nicht kann

ChatGPT und andere allgemeine Sprachmodelle (LLMs)Large Language Models: Große Sprachmodelle, die auf riesigen Textmengen trainiert wurden. Sie verstehen und generieren Text, haben aber kein Wissen über Ihre spezifischen Unternehmensdaten.haben zwei grundlegende Grenzen:

Sie kennen Ihre Daten nicht. Kein öffentliches Sprachmodell hat Zugriff auf Ihre internen Dokumente. Wenn Sie ChatGPT nach einem spezifischen Produktdatenblatt fragen, erfindet es im besten Fall eine plausibel klingende Antwort. Im schlechtesten Fall liefert es falsche Informationen mit hoher Überzeugungskraft.

Sie können nicht zwischen relevant und irrelevant unterscheiden. Selbst wenn Sie Dokumente in den Chat kopieren: Das Modell weiß nicht, welche Information aktuell ist, welche veraltet, welche für diesen Kunden gilt und welche für einen anderen.

Wie Unternehmenswissen für KI zugänglich wird

Die Lösung heißt nicht “ChatGPT Zugang zu unseren Daten geben.” Die Lösung ist eine eigene Anwendung, die gezielt auf Ihre Daten zugreift.

Der technische Ansatz dafür nennt sich RAG (Retrieval-Augmented Generation)Retrieval-Augmented Generation: Die KI durchsucht zuerst Ihre Dokumente und formuliert dann eine Antwort basierend auf den gefundenen Informationen. Ihre Daten verlassen dabei nicht Ihre Infrastruktur.. Das Prinzip:

Schritt 1: Daten aufbereiten. Die relevanten Dokumente werden indexiert. Das bedeutet: Sie werden in ein Format gebracht, das die KI durchsuchen kann. Ähnlich wie eine Suchmaschine für Ihre internen Daten.

Schritt 2: Relevantes finden. Wenn ein Mitarbeiter eine Frage stellt, durchsucht die Anwendung zuerst die indexierten Dokumente und findet die relevanten Passagen.

Schritt 3: Antwort formulieren. Ein Sprachmodell formuliert eine Antwort basierend auf den gefundenen Informationen. Nicht basierend auf allgemeinem Wissen. Basierend auf Ihren Daten.

Schritt 4: Quellen angeben. Jede Antwort enthält Verweise auf die Originaldokumente. Damit kann der Mitarbeiter die Antwort prüfen und bei Bedarf tiefer einsteigen.

Was das in der Praxis verändert

Vorher: Ein neuer Mitarbeiter im Vertrieb fragt einen Kollegen, wie die Konditionen für einen bestimmten Kunden aussehen. Der Kollege sucht 20 Minuten in seinem E-Mail-Postfach und findet das letzte Angebot.

Nachher: Der neue Mitarbeiter stellt die Frage an die KI-Anwendung. In 10 Sekunden erhält er eine Zusammenfassung der aktuellen Konditionen mit Verweis auf den Rahmenvertrag und die letzten drei Angebote.

Vorher: Ein Servicetechniker steht beim Kunden und braucht eine Information aus der Produktdokumentation. Er ruft im Büro an. Der Kollege sucht im SharePoint.

Nachher: Der Techniker fragt die KI-Anwendung auf seinem Tablet.

Was es kostet

Eine KI-basierte Wissensanwendung für ein Unternehmen mit 200 bis 2.000 Mitarbeitern kostet:

• Einmalig: 25.000 bis 50.000 Euro (abhängig von der Anzahl der Datenquellen und der Komplexität der Anbindung)
• Laufend: 1.000 bis 2.000 Euro pro Monat (Hosting und API-Nutzung)
• ROI-Zeitraum: 4 bis 8 Monate

Die laufenden Kosten hängen von der Nutzungsintensität ab. Je mehr Mitarbeiter das System nutzen, desto höher die API-Kosten. Aber auch desto höher der Nutzen.

Datenschutz: Ihre Daten bleiben bei Ihnen

Ein häufiges Bedenken: “Wenn wir KI nutzen, gehen unsere Daten an OpenAI oder Google.”

Bei einer individuellen Anwendung ist das nicht der Fall. Es gibt zwei Wege:

Option 1: API mit Datenschutzvereinbarung. Anbieter wie OpenAI und Anthropic bieten Enterprise-Vereinbarungen an, die garantieren, dass Ihre Daten nicht zum Training verwendet werden.

Option 2: Lokale Modelle. Open-Source-ModelleOpen-Source-Sprachmodelle wie Llama (von Meta) oder Mistral, die auf Ihrer eigenen Infrastruktur laufen. Keine Daten verlassen Ihr Netzwerk.können auf Ihrer eigenen Infrastruktur betrieben werden. Keine Daten verlassen Ihr Netzwerk. Die Qualität ist für viele Anwendungsfälle ausreichend.

Der erste Schritt

Ihr Unternehmenswissen ist Ihr Wettbewerbsvorteil. Es zugänglich zu machen, ist keine IT-Frage. Es ist eine strategische Entscheidung.

Wo liegt bei Ihnen das meiste ungenutzte Wissen? 30 Minuten, einfach mal quatschen.

Kontakt aufnehmen