Unternehmensdokumente erschließen mit RAG

Diese Studie bietet einen kompakten Überblick über Retrieval Augmented Generation (RAG), einen Ansatz, bei dem Informationen aus einer Auswahl von Dokumenten eines Unternehmens mithilfe großer Sprachmodelle erschlossen werden. Der aktuell häufigste RAG-Anwendungsfall sind spezifische Chatbots, die Mitarbeitende bei internen Aufgaben unterstützen. Im KI Fortschrittszentrum hat das Fraunhofer IAO mehrere RAG-Anwendungsfälle prototypisch umgesetzt; sie illustrieren in dieser Publikation die Bandbreite möglicher Lösungen. Des Weiteren wurden leitfadengestützte Interviews geführt, um Vorgehen und Herausforderungen bei der Umsetzung von RAG Produktivsystemen in großen Organisationen zu analysieren. Aus den Ergebnissen werden praxisnahe Handlungsempfehlungen abgeleitet, die Unternehmen dabei unterstützen, »den Chat mit den eigenen Daten« erfolgreich und verantwortungsvoll zu implementieren.