Was KI nicht kann

Wissenschaftliche Zusammenfassung

Große Sprachmodelle (LLM) wie GPT, Mistral, DeepSeek oder Gemini zeichnen sich durch die Generierung von Texten aus, bleiben jedoch grundlegend auf eine einzige Aufgabe beschränkt: die statistische Token-Vorhersage. Sie verfügen weder über einen persistenten Speicher, noch über Zugang zur realen Welt, noch über die Fähigkeit, Aktionen auszuführen. Um diese Hindernisse zu überwinden, entsteht eine neue Architektur: der KI-Assistent, der ein kleines LLM mit einem Expertensystem und einer Orchestrierungsschicht für Werkzeuge kombiniert. Diese Hybridisierung ermöglicht die Planung von Aktionen, die Interaktion mit Dateien, Datenbanken und APIs und gewährleistet gleichzeitig die Überprüfung der Ergebnisse. Der Assistenten ersetzt nicht das LLM: er erweitert es. Er bringt das, was Sprache allein nicht bieten kann: Handlung, Gedächtnis und Zuverlässigkeit. Diese Erweiterung ist jedoch niemals autonom: sie steht unter der kontinuierlichen Kontrolle des Menschen, der jeden Schritt steuert, lenkt und validiert, und so sicherstellt, dass der Assistent ein Werkzeug im Dienste seines Urteils bleibt und kein Ersatz für seine Verantwortung ist.

Warum ein LLM allein nicht ausreicht

Ein Sprachmodell (LLM) generiert Text, versteht aber nicht, handelt nicht, speichert nichts und überprüft seine Antworten nicht. Sich selbst überlassen, ist es unkontrollierbar: seine Ausgaben sind unvorhersehbar, ungeprüft und jeglicher Rückverfolgbarkeit bar. Der KI-Assistent schließt diese Lücken: er fügt Werkzeuge, Speicher und strukturierte Logik um das Modell herum hinzu, stets unter menschlicher Aufsicht, mit Sicherheitsvorkehrungen, die es ermöglichen, seine Ausführung zu lenken, zu validieren oder zu unterbrechen.

Der Unterschied ist fundamental. Ein LLM antwortet aus seinem Kontext heraus, ohne jede externe Steuerung. Ein Assistent kann darüber hinaus Informationen suchen, ein Dokument lesen, eine Datenbank analysieren, eine Berechnung durchführen oder eine Funktion aufrufen. Der Assistent ist kein neues Modell: er ist eine Softwarearchitektur, die um das Modell herum aufgebaut ist, bei der der Mensch der letzte Garant bleibt, und verwandelt ein blindes und unkontrollierbares System in ein zuverlässiges und überwachtes Werkzeug.

Auch interessant

Setzen Sie Ihre Erkundung des Universums mit diesen Themen fort:

LLM, Expertensysteme, KI-Assistenten: Was sind die Unterschiede?

Vergleichende Tabelle der drei Technologien: Expertensysteme, LLM und KI-Assistenten
Funktionalität	Expertensystem	LLM (Modell)	KI-Assistent (System)
Definition	Motor für logische Regeln, codiert von Experten	Statistisches Sprachmodell (neuronales Netz)	Expertensystem + kleines LLM + Orchestrierungswerkzeuge
Zusammensetzung	Regeln + Inferenzmotor	Gewichte des neuronalen Netzes	Logik (Expertensystem) + Verständnis (LLM) + Aktion (Werkzeuge)
Gewicht / Größe	Leicht (einige MB)	Sehr schwer (mehrere GB / TB)	Leicht (von einigen MB bis zu einigen GB)
Enthält ein LLM?	❌ Nein	✅ Ja (selbst)	✅ Ja (kleines integriertes LLM oder API-Aufruf)
Hostet Parameter?	❌ Nein (keine Parameter)	✅ Ja (seine Gewichte)	⚠️ Optional (kann ein kleines LLM hosten oder eine API aufrufen)
Persistenter Speicher	❌ Nein (zustandslos)	❌ Nein (begrenzter Kontext)	✅ Ja (Sitzungsspeicher)
Echtzeit-Datenzugriff	❌ Nein (feste Regeln)	❌ Nein (beim Training eingefroren)	✅ Ja (APIs, Datenbanken, Web)
Code- und Werkzeugausführung	❌ Nein	❌ Nein (generiert nur Text)	✅ Ja (Orchestrierung von Werkzeugen)
Strukturiertes Denken	✅ Ja (deterministisch)	⚠️ Statistisch (Nachahmung)	✅ Ja (hybrid: Regeln + Validierung)
Handlungsplanung	❌ Nein	❌ Nein	✅ Ja (das Expertensystem plant)
Erklärbarkeit	✅ Perfekt (rückverfolgbar)	❌ Black Box	⚠️ Teilweise (durch das Expertensystem rückverfolgbar)
Anpassungsfähigkeit	❌ Starr (Neucodierung)	✅ Flexibel (Fine-Tuning)	✅ Flexibel (Fine-Tuning + neue Werkzeuge)
Anwendungsbereich	⚠️ Sehr spezifisch	✅ Generalist	✅ Generalist (durch Werkzeuge spezialisierbar)
Interaktion natürliche Sprache	❌ Nein (Formulare)	✅ Ja	✅ Ja (über das integrierte kleine LLM)
Ergebnisüberprüfung	✅ Ja (durch Regeln)	❌ Nein (Halluzinationen)	✅ Ja (durch Expertensystem + RAG)
Kann allein existieren?	✅ Ja (autonom)	✅ Ja (über API)	✅ Ja (vollständiges autonomes System)

Expertensysteme vs LLM vs KI-Assistenten

Expertensystem: "Ich weiß alles, was der Mensch mir codiert hat, aber das ist alles, was ich kann."
LLM allein: "Ich generiere Text, und das ist alles."
KI-Assistent: "Ich bin ein kleines erweitertes LLM, ausgestattet mit spezialisierten Werkzeugen und von Menschen überwacht."

Beispiel: Lesen einer PDF mit einem LLM allein

Kontext: Der Benutzer hat Zugang zu einem LLM allein (z.B. GPT, Mistral, DeepSeek, Gemini, ...). Dieses Modell kann nur Text generieren. Es hat keinen Zugang zu Dateien, Ordnern oder Ausführungswerkzeugen.

Schritt 1: Der Benutzer fragt das LLM: "Finde mir die Artikel über Schwarze Löcher in diesem Ordner und fasse sie auf Deutsch zusammen."
Schritt 2: Das LLM analysiert die Anfrage. Es versteht, dass es sich um eine Anfrage zum Lesen von Dateien und zur Zusammenfassung handelt.
Schritt 3: Das LLM antwortet und erklärt seine Einschränkungen: "Ich kann nicht auf die Dateien auf Ihrem Computer zugreifen, da ich ein Sprachmodell bin. So können Sie vorgehen: Öffnen Sie den Ordner, kopieren Sie den Inhalt der PDFs und fügen Sie ihn hier ein. Dann kann ich sie zusammenfassen."
Schritt 4: Der Benutzer öffnet manuell den Ordner, kopiert den Text der relevanten PDFs und fügt ihn in den Chat ein.
Schritt 5: Der Benutzer fragt: "Hier ist der Text des Artikels. Fasse ihn in 5 Sätzen auf Deutsch zusammen."
Schritt 6: Das LLM generiert eine Zusammenfassung des vom Benutzer bereitgestellten Texts.
Schritt 7: Das LLM präsentiert die Zusammenfassung dem Benutzer. Es erfolgt keine Überprüfung; das LLM kann halluzinieren oder Ungenauigkeiten produzieren.

Fazit: Mit einem LLM allein muss der Benutzer die gesamte Arbeit manuell erledigen: Ordner öffnen, Texte kopieren, einfügen und die Zusammenfassungen auf ihre Richtigkeit überprüfen. Das LLM generiert nur Text aus dem, was der Benutzer ihm zur Verfügung stellt.

Beispiel: Lesen einer PDF mit einem KI-Assistenten (vollständiges System)

Kontext: Der Benutzer hat Zugang zu einem LLM (z.B. ChatGPT, Mistral, DeepSeek, Gemini) über eine Prompt-Schnittstelle. Dieses LLM ist mit einem vollständigen KI-Assistenten (Expertensystem + Werkzeuge) verbunden, der in der realen Welt handeln kann.

Schritt 1: Der Benutzer gibt seinen Prompt in das LLM ein: "Finde mir die Artikel über Schwarze Löcher in diesem Ordner und fasse sie auf Deutsch zusammen."
Schritt 2: Das LLM analysiert die Anfrage. Es versteht, dass es nicht allein antworten kann (es hat keinen Zugriff auf die Dateien). Es erkennt, dass es einen Assistenten benötigt, um Aktionen auszuführen.
Schritt 3: Das LLM ruft den KI-Assistenten (über eine API) auf und übermittelt ihm eine strukturierte Anfrage: "Interpretiere diese Anfrage: Ordner lesen, PDFs extrahieren, nach 'Schwarzes Loch' suchen, zusammenfassen."
Schritt 4: Der Assistent (Expertensystem) empfängt die Anfrage vom LLM. Er plant die Aktionen: Dateien auflisten, PDFs filtern, Text extrahieren, Schlüsselwörter suchen, mit dem LLM zusammenfassen, überprüfen.
Schritt 5: Der Assistent verwendet seine Werkzeuge, um jede Aktion auszuführen (Lesen des Ordners, Textextraktion, Suche nach Schlüsselwörtern).
Schritt 6: Der Assistent empfängt die Ergebnisse der Werkzeuge (extrahierte Texte, Vorhandensein des Schlüsselworts).
Schritt 7: Der Assistent (Expertensystem) ruft das LLM mit einer Zusammenfassungsanfrage auf: "Fasse diesen Text in 5 Sätzen auf Deutsch zusammen."
Schritt 8: Das LLM generiert die Zusammenfassung und sendet sie an den Assistenten zurück.
Schritt 9: Der Assistent (Expertensystem) überprüft die Ergebnisse: Kohärenz, Vorhandensein des Themas, Abwesenheit von Halluzinationen.
Schritt 10: Der Assistent baut die strukturierte Antwort zusammen und sendet sie an das LLM zurück.
Schritt 11: Das LLM formuliert die Antwort in natürlicher Sprache um und präsentiert sie dem Benutzer über die Prompt-Schnittstelle.

Fazit: Der Benutzer sieht nur das LLM. Es ist das LLM, das im Hintergrund den Assistenten aufruft, um die Aktionen auszuführen. Der Benutzer interagiert nie direkt mit dem Assistenten. Alles ist für ihn transparent.

Referenzen

Brown, T. B., et al. (2020). Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems (NeurIPS), 33, 1877-1901.
https://neurips.cc/virtual/2020/oral/18545 (neues Fenster)
Yao, S., et al. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. International Conference on Learning Representations (ICLR).
https://collaborate.princeton.edu/en/publications/react-synergizing-reasoning-and-acting-in-language-models (neues Fenster)
Schick, T., et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. Advances in Neural Information Processing Systems (NeurIPS).
https://neurips.cc/virtual/2023/oral/73843 (neues Fenster)
Mialon, G., et al. (2023). Augmented Language Models: A Survey. arXiv:2302.07842.
https://huggingface.co/papers/2302.07842 (neues Fenster)
Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems (NeurIPS).
https://neurips.cc/virtual/2020/public/poster_6b493230205f780e1bc26945df7481e5.html (neues Fenster)
OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.
https://arxiv.org/abs/2303.08774 (neues Fenster)
Anthropic (2024). The Claude 3 Model Family. Technical Report.
https://www.anthropic.com/news/claude-3-family (neues Fenster)
Russell, S., & Norvig, P. (2020). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
LangChain (2024). Documentation: Building Applications with LLMs.
https://docs.langchain.com/oss/javascript/learn (neues Fenster)
Hugging Face (2024). Transformers Documentation: Agents & Tools.
https://huggingface.co/docs/transformers (neues Fenster)

FAQ: Ihre Fragen zu KI-Assistenten und den Grenzen von LLMs

Ist ein KI-Assistent intelligenter als ein LLM allein?

Nein. Er wird oft um ein kleines LLM herum aufgebaut – manchmal weniger leistungsfähig als GPT-4 oder DeepSeek. Seine Stärke liegt in seiner Architektur: er kombiniert das LLM mit Werkzeugen, persistentem Speicher und einem Expertensystem, das Aktionen plant und überprüft. Es ist diese Hybridisierung, die es ihm ermöglicht, Aufgaben zu erfüllen, die ein LLM allein nicht bewältigen kann.

Warum ist ein LLM allein unkontrollierbar?

Ein LLM allein ist ein statistisches Modell, das Text ohne Verständnis oder Überprüfung generiert. Seine Antworten können halluziniert, voreingenommen oder inkonsistent sein, ohne Rückverfolgbarkeit. Der KI-Assistent, vom Menschen überwacht, ermöglicht es, jeden Schritt zu lenken, zu unterbrechen oder zu validieren und verwandelt ein blindes System in ein kontrolliertes Werkzeug.

Kann der KI-Assistent gefährliche Aktionen ausführen?

Ja, das ist ein potenzielles Risiko. Deshalb ist die menschliche Kontrolle unerlässlich: Der Assistent tut nichts ohne Validierung oder Aufsicht. Sicherheitsvorkehrungen sind integriert: eingeschränkte Berechtigungen, Prüfprotokolle und Überprüfungsschleifen. Der Assistent ist als zuverlässige Erweiterung des menschlichen Urteils konzipiert, nicht als autonomer Agent.

Was ist RAG (Retrieval-Augmented Generation)?

RAG (retrieval-Augmented Generation) ist eine Technik, die die Antworten des LLM mit Informationen aus einer externen Datenbank anreichert. Dies hilft, Halluzinationen zu reduzieren und aktuelle, überprüfbare und belegte Antworten zu liefern – eine wesentliche Ergänzung zur Zuverlässigkeit des Assistenten.

Was ist der Unterschied zwischen einem autonomen Agenten und einem überwachten KI-Assistenten?

Ein autonomer Agent handelt ohne menschliches Eingreifen. Ein überwachter KI-Assistent unterstützt den Menschen, ohne ihn zu ersetzen: Jede Aktion wird vom Menschen validiert oder gelenkt. Der Assistent ist ein Werkzeug, das menschliche Fähigkeiten erweitert, während der autonome Agent darauf abzielt, eine Aufgabe zu automatisieren – mit den damit verbundenen Risiken in Bezug auf Kontrolle und Verantwortung.

Können KI-Assistenten Humor, Ironie oder Anspielungen verstehen?

Teilweise. Das in den Assistenten integrierte LLM kann bestimmte Sprachmerkmale wie Ironie, Humor oder Anspielungen erkennen, da es mit einem großen Korpus menschlicher Texte trainiert wurde. Aber es versteht sie nicht im menschlichen Sinne: es nimmt die Absicht, Emotion oder den sozialen Kontext nicht wahr. Es ist eine statistische Nachahmung, kein echtes Verständnis. Der KI-Assistent kann manchmal eine ironische Bemerkung fälschlicherweise als ernsthafte Anfrage interpretieren – daher die Bedeutung der menschlichen Aufsicht, um diese Interpretationsfehler zu korrigieren.