Seitdem der Hype um ChatGPT im November 2022 ausgebrochen ist, sprießen diverse KI-Tools aus dem Boden. Und Künstliche Intelligenz bietet diverse Anwendungsfälle, um sie sinnvoll in unternehmensinterne Prozesse zu integrieren. Doch wie kombiniert man internes Know-how idealerweise mit der modernen Technologie? Die Grundlage dafür ist in den meisten Fällen eine Enterprise Search, also eine Suche, die das Wissen aus allen internen Systemen zugänglich macht. Dieser Artikel erklärt, warum RAG-Systeme und KI-Agenten auf genau diese Grundlage angewiesen sind.
Inhaltsverzeichnis
Die alte vs. die neue IT-Landschaft
Als Unternehmen vor einigen Jahren mit der Digitalisierung anfingen, bedeutete das meist: Outlook für E-Mails und Laufwerke für Dokumente. Mit der Zeit kamen Intranets, DMS, ERP-Systeme und Collaboration-Tools hinzu, dazu der Wechsel von On Premise in die Cloud. Das Ergebnis sind zersplitterte, meist hybride IT-Landschaften, die sich ab einer gewissen Unternehmensgröße auch nicht mehr in ein einziges System wie Microsoft 365 zusammenführen lassen.
Gleichzeitig werden die meisten KI-Lösungen in der Cloud angeboten, weil der Betrieb von Large Language Models auf eigener Hardware für fast alle Unternehmen zu teuer ist. Ob KI-Agenten, KI-Assistenten oder Copiloten: Die entscheidende Frage ist, wie diese Systeme an das Wissen in der gewachsenen IT-Landschaft kommen. Darum geht es in diesem Artikel.
Integration von KI in bestehende IT-Systeme
Grundsätzlich gibt es fünf relevante Arten, über die man KI mit internen Systemen kombinieren kann:
- Bereitstellung von Chatbots
- Integrierte Lösungen
- Eigene KI-Modelle
- KI-Assistenten
- KI-Agenten
Diese wurden im Detail bereits in diesem Blogartikel erläutert. Doch gerade wenn es um die Kombination von KI mit den bestehenden IT-Systemen geht, müssen konkrete Verbindungen zu den eigenen Systemen geschaffen werden, so dass die gewünschten Prozesse durchgeführt werden können.
Dabei gilt es, bestimmte Sicherheitsstandards zu beachten: DSGVO-Konformität, AI-Act und Zugriffsrechte sind nur einige der bestehenden Anforderungen, die berücksichtigt werden müssen.
Neben den IT-Sicherheitsaspekten gilt es jedoch auch, die technischen Rahmenbedingungen zu berücksichtigen. So müssen Informationen, damit sie von einem Large Language Modell verarbeitbar sind, zunächst vektorisiert werden. Das heißt, sie werden in ein Format gebracht, so dass ein KI-Modell mit ihnen arbeiten kann. Dieser Prozess findet sowohl als „Vorverarbeitung“ als auch im Suchprozess selbst statt. Die Vektorisierung ist auch der Grund, warum der Einsatz von KI so ressourcenintensiv ist, aber auch, warum die Qualität deutlich besser gegenüber herkömmlichen Mechanismen ist.
Enterprise Search als Grundlage für KI-Prozesse
Unter Berücksichtigung der im vorherigen Abschnitt genannten Einschränkungen erfüllt eine Enterprise Search all diese Herausforderungen. Eine Enterprise Search ist eine unternehmensinterne Suchmaschine, die interne Informationen schnell und einfach zugänglich macht. Moderne Enterprise Search Lösungen wie amberSearch basieren dabei auf Large Language Modellen und vektorisieren die Daten. Enterprise Search Lösungen sind so konzipiert, dass sie die Anforderungen an die Berücksichtigung bestehender Zugriffsrechten, IT-Security und DSGVO erfüllen.
Damit jeder amberSearch einmal ausprobieren kann, haben wir in unserer Onlinedemo eine mittlere sechsstellige Anzahl an Dokumenten auf über 10 Systeme verteilt:
Damit eine Enterprise Search Informationen in Sekundenbruchteilen verarbeiten kann, verarbeitet sie die Daten vor und baut den benötigten Index auf. Früher wurde dies in Form von Worten gemacht (Schlagwortsuche), mittlerweile werden die Daten vektorisiert. Wichtig: der Index muss kontinuierlich aktuell gehalten werden.
Ob eine Lösung diese Anforderungen erfüllt, hängt vor allem an drei Punkten: welche Systeme sich per Konnektor anbinden lassen, ob Zugriffsrechte aus den Quellsystemen übernommen werden und wo die Daten verarbeitet werden. Einen Überblick über Kriterien und Anbieter findest du in unserem Vergleich von Enterprise-Search-Lösungen.
Ein Anwendungsfall wäre zum Beispiel, dass entweder Nutzer oder Systeme (dann automatisiert) Anfragen an die Enterprise Search zur Beantwortung von Fragestellungen in bestimmten Prozessen stellen. Ein anderer KI-Anwendungsfall sind Retrieval Augmented Generation (RAG) Systeme, die die Basis für die KI-Systeme vieler Unternehmen sind.
Bei RAG sucht das System zu jeder Frage zuerst die passenden Textstellen im Unternehmenswissen und übergibt nur diese an das Sprachmodell, das daraus eine Antwort formuliert. Die Antwort kann also nur so gut sein wie die Suche davor: Findet der Retrieval-Schritt veraltete Dokumente oder ignoriert er Zugriffsrechte, übernimmt das Sprachmodell diese Fehler. Genau diesen Retrieval-Schritt übernimmt eine Enterprise Search, inklusive Index, Rechteprüfung und aktueller Daten.
KI-Assistenten, KI-Agenten & Multiagentensysteme
Ein RAG-System bildet ein Chatsystem ab und fällt somit in die Kategorie KI-Assistent. Darauf aufbauend können jedoch auch autonome KI-Agenten (also Systeme, die selbstständig Entscheidungen treffen und umsetzen) entwickelt und integriert werden. Wichtig ist jedoch, dass diese Systeme nur gute Entscheidungen treffen können, wenn sie Zugriff auf internes Wissen bzw. Daten haben. Durch die Enterprise Search sind die Daten ja bereits in vektorisierter Form vorhanden und können nutzbar gemacht werden. Eine weitere Ausbaustufe zu KI-Agenten sind Multiagentensysteme, in denen mehrere KI-Agenten miteinander arbeiten und interagieren müssen, um gewisse Ziele zu erreichen.
Du möchtest wissen, wie man Künstliche Intelligenz erfolgreich im Unternehmen einführt? Dann lies dir jetzt unser White Paper “So geht eine erfolgreiche Einführung von generativer KI” mit allen relevanten Insights kostenlos durch. Du kannst den ganzen Report hier kostenlos herunterladen:
Ohne internes Wissen sind KI-Systeme nichts wert
Groß war der Hype, als ChatGPT veröffentlicht wurde. Keiner müsse mehr Texte schreiben, dies würde alles von der KI übernommen werden. Doch schnell stellt sich heraus: Durch KI generierte Texte sind schnell nur 0815 blabla, wenn der Kontext und Insights aus der alltäglichen Arbeit fehlen. Auch können z. B. Agentensysteme nur sehr schlecht Entscheidungen treffen, wenn sie keine umfängliche Informationsgrundlage zum Entscheiden haben.
Daher hilft es Unternehmen nicht, wenn sie zwar in die modernen KI-Systeme investieren, aber nicht die Möglichkeit haben, diese mit dem notwendigen internen Know-How zu füttern. Klar kann man für kleinere Anwendungsfälle mal eben selbst einen Konnektor zu bestimmten Systemen entwickeln, aber diese müssen gepflegt und weiterentwickelt werden. Wer es also ernst meint und langfristig die Mehrwerte von KI im Unternehmen heben möchte, der startet mit einer Enterprise Search als Grundlage. Diese stellt nämlich sicher, dass bestehende technische Anforderungen sowie regulatorische Anforderungen erfüllt werden und berücksichtigt das gesamte Unternehmenswissen und nicht nur bestimmte Bereiche. Somit ist eine Enterprise Search die Grundlage für jede nachhaltige und größere Implementierung von KI-Anwendungsfällen in Unternehmen.
Wie das in der Praxis aussieht, zeigt amberSearch: Du findest Antworten über alle angebundenen Quellen, mit deinen bestehenden Zugriffsrechten und mit Quellenangabe. Wenn du sehen möchtest, wie das mit deinen eigenen Systemen funktioniert, kannst du eine Demo buchen.
Du findest unseren Content spannend?
Dann bleib jetzt über unseren Newsletter mit uns in Kontakt: