Die Gesellschaft für Wirtschaftliche Strukturforschung (GWS) mbH verfolgt mit dem Projekt „GWS-Bot“ das Ziel, durch die Einführung eines Bots den Zugang von Interessenten und Kunden zu den wertvollen GWS-Inhalten zu verbessern. Zweitens geht es in dem Projekt darum, internes Wissensmanagement zu bereits implementierten Lösungen zu unterstützen. Schließlich soll ein Einstieg in die Nutzung von KI-Lösungen gelingen.
Der Lösungsansatz besteht in der Entwicklung eines Systems nach der „Retrieval Augmented Generation“-Architektur (RAG). Solche Systeme kombinieren die Inhalte einer Organisation mit den Fähigkeiten großer Sprachmodelle (Large Language Models – LLM).
In RAG-Systemen wird die Anfrage eines Users angereichert durch Textbausteine, welcher das Retriever-Modul aus einer Vektor-Datenbank extrahiert. Diese Datenbank enthält semantische Repräsentationen von Inhalten, die von dem Extractor-Modul aus (internen) Dokumenten, Webseiten oder geeigneten Datenbanken zuvor asynchron gewonnen wurden.