Die KAI-Knowledge Base und das RAG-Verfahren
Large Language Models (LLM) können viele Fragen auf den ersten Blick überzeugend beantworten. Dieses Wissen stammt aus den Trainingsdaten und ist in den Modellparametern gespeichert. LLM sind jedoch in erster Linie Textgeneratoren. Sie besitzen leider keinen eigenen Mechanismus, um dieses „mitgelernte“ Wissen gezielt und überprüfbar abzurufen.
Manchmal schleichen sich Fehler ein, es werden wichtige Punkte vergessen oder: Das LLM erfindet Fakten. Man spricht hierbei auch von Halluzinationen.
KAI-Knowledge Base
Aus diesem Grund greift KAI auf eine eigene schulische Wissensbasis, die KAI-Knowledge Base, zurück. Diese besteht ausschließlich aus geprüften Materialien der Privatschulen Dr. Kalscheuer, darunter:
- Unterrichtsskripte
- typische Schulaufgaben
- schulinterne Leistungsnachweise
- zentrale Abschlussprüfungen
Vectordatenbank
Die Inhalte der KAI-Knowledge Base wird von Lehrkräften und Auszubildenden als Einträge in einer Vektordatenbank abgelegt (Wissenbasis). Dabei werden Texte nicht als Wörter, sondern als Zahlenvektoren gespeichert, die ihre Bedeutung beschreiben. So können auch inhaltlich ähnliche Texte gefunden werden, selbst wenn unterschiedliche Formulierungen verwendet werden.
RAG-Verfahren
Der Zugriff auf dieses Wissen erfolgt über das RAG-Verfahren (Retrieval Augmented Generation). Dabei sucht KAI vor jeder Antwort gezielt passende Inhalte aus der Vektordatenbank und nutzt diese als Grundlage für die Antwort. Das Verfahren ist sehr modern und wird erst seit wenigen Jahren im außeruniversitären Bereich eingesetzt.
Wie funktioniert Retrieval Augmented Generation? Bei Retrieval Augmented Generation (RAG AI) erweitert man den Prompt für das Large Language Model um Suchergebnisse aus einer Dokumentensammlung oder anderen Quellen. Bei uns ist es die KAI Knowledge Base. Das Wissen für die Antwort kommt also aus angebundenen Quellen und nicht aus dem LLM.
Einfach gesagt bedeutet das:
- KAI recherchiert zuerst in einer geprüften schulischen Wissenssammlung, der KAI-Knowledge Base.
- Die gefundenen Informationen fließen nun direkt in die Antwort ein.
So beantwortet KAI Fragen fundiert, nachvollziehbar und auf Basis der schulischen Lernmaterialien; nicht allein aus allgemeinem KI-Wissen.
Hinweis: KAI wird immer wieder Mal auf Trainingsdaten zurückgreifen, die Knowledge Base hat aber eine höhere Priorität.
Ihre erste Aufgabe:
Fragen Sie KAI etwas zu den Privatschulen Dr. Kalscheuer, beispielsweise zur Berufsfachschule für E-Business Management.
„Welche Voraussetzungen braucht man, um die Berufsfachschule für E-Business Management zu besuchen?„