Alle Beiträge

Context Engineering

Context Engineering: warum ein KI-Agent seitenweise liest

Ein KI-Agent, der einen Vertrag mit 400 Seiten auf einmal liest, übersieht mehr, als er findet. Vier Regeln des Context Engineering, mit denen ein Agent grosse Dokumente sicher liest.

Vectoryon8. Oktober 20267 Min. Lesezeit

Ein Treuhandbüro gibt einem KI-Agenten einen Mietvertrag mit 400 Seiten und fragt nach der Kündigungsfrist. Ein Handwerksbetrieb lädt eine Excel-Datei mit 50'000 Zeilen Lagerbewegungen hoch und will wissen, welcher Artikel im März gefehlt hat. Der naheliegende Weg wäre, dem Agenten alles auf einmal zu zeigen. Genau dieser Weg geht schief. Context Engineering ist die Disziplin, die festlegt, welche Information ein KI-Agent in welchem Moment sieht. Bei Vectoryon bauen wir unseren Workspace Agent nach vier Regeln, die verhindern, dass ein Agent in zu viel Text untergeht.

Was ist Context Engineering, und warum reicht ein grosses Kontextfenster nicht?

Ein Sprachmodell arbeitet mit einem Kontextfenster: dem Text, den es bei einer Antwort gleichzeitig vor sich hat. Dazu gehören die Anweisungen, der bisherige Verlauf und alles, was Werkzeuge zurückgeben. Gemessen wird dieser Text in Tokens, den Stücken, in die ein Modell Sprache zerlegt. Die Fenster sind in den letzten Jahren stark gewachsen. Anthropic beschreibt in einem Beitrag vom September 2025 trotzdem ein Problem, das bei allen Modellen auftritt: Je mehr Tokens im Kontext stehen, desto schlechter erinnert sich das Modell an einzelne Stellen darin. Die Forschung nennt das «Context Rot».

Anthropic erklärt den Grund mit der Bauweise der Modelle. In einem Transformer achtet jedes Token auf jedes andere, bei n Tokens entstehen n² Beziehungen. Das Modell hat also ein begrenztes Aufmerksamkeitsbudget, und jedes zusätzliche Token verbraucht einen Teil davon. Context Engineering heisst deshalb laut Anthropic, die kleinste Menge an Tokens mit hohem Informationsgehalt zu finden, die das gewünschte Ergebnis am wahrscheinlichsten macht.

Für einen Betrieb lässt sich das einfach übersetzen. Ein KI-Agent, der den ganzen Vertrag auf einmal liest, hat die Kündigungsfrist zwar irgendwo vor sich. Ob er sie findet und richtig wiedergibt, ist eine andere Frage. Dazu kommen Kosten und Wartezeit. Das Team hinter dem Agenten Manus hält fest, dass lange Eingaben teuer bleiben, auch wenn ein Teil davon zwischengespeichert ist. Die Grundbegriffe ohne Technik erklärt unser Ratgeber Context Engineering für KI-Agenten.

Regel 1: Die Grenze sitzt im Werkzeug, nicht im Prompt

Die erste Idee vieler Teams ist eine Anweisung im Systemprompt: «Lies nur, was du brauchst.» Ein Prompt ist eine Bitte an das Modell. Ob ein KI-Agent sie befolgt, hängt vom Modell, von der Aufgabe und vom Zufall ab. Ein Werkzeug tut dagegen genau, was sein Code vorgibt. Liefert das Werkzeug zum Lesen einer Datei höchstens eine feste Menge Text zurück, kann der Agent nicht mehr lesen, egal wie er die Aufgabe versteht.

Anthropic empfiehlt in seinem Leitfaden zum Bau von Werkzeugen für Agenten genau diese Mittel: Pagination, die Auswahl eines Bereichs, Filter und Kürzung, jeweils mit sinnvollen Standardwerten. Für das eigene Programmierwerkzeug Claude Code begrenzt Anthropic Werkzeugantworten standardmässig auf 25'000 Tokens. Wird eine Antwort gekürzt, soll das Werkzeug dem Agenten sagen, wie er weiterkommt, etwa mit mehreren gezielten Suchen statt einer breiten.

Für Geschäftsführer und IT-Verantwortliche hat diese Regel einen praktischen Vorteil: Sie lässt sich prüfen. Eine Grenze im Code ist messbar und gilt bei jedem Modell gleich. Eine Grenze im Prompt muss man bei jedem Modellwechsel neu testen.

Regel 2: Eine Lesung ist nie grösser als das, was im Kontext sichtbar sein darf

Ein KI-Agent kann ein Werkzeugergebnis nur verwenden, wenn es in sein Kontextfenster passt. Was darüber hinausgeht, wird abgeschnitten oder verdrängt ältere Teile des Gesprächs. Die zweite Regel zieht daraus die Konsequenz: Ein einzelner Leseschritt holt nie mehr Daten, als der Agent danach überhaupt sehen darf. Die Grösse einer Lesung richtet sich nach dem Kontext, nicht nach der Datei.

Das Agenten-Werkzeug pi zeigt, wie das aussieht. In seinem Code Mode schreibt das Modell kleine Skripte, die Werkzeuge aufrufen. Die Ausgabe eines Skripts ist standardmässig auf 10'000 Tokens begrenzt. Bei längeren Ausgaben behält pi Anfang und Ende, schreibt den vollen Text in eine Datei und nennt deren Pfad im Ergebnis. Von einem Befehl in der Konsole sieht das Modell höchstens 2'000 Zeilen oder 50 KB.

Für die Excel-Datei mit 50'000 Zeilen heisst das: Der KI-Agent liest nie die ganze Tabelle. Er liest die Spaltenköpfe, filtert nach Monat und Artikel und holt nur die Zeilen, die übrig bleiben. Die Datei selbst bleibt, wo sie ist.

Regel 3: Gelesen wird seitenweise, mit opakem Cursor

Ist ein Dokument grösser als eine Lesung, liest ein KI-Agent es in Abschnitten. Die Frage ist, wie er sich merkt, wo er steht. Das Model Context Protocol, kurz MCP, gibt dafür eine klare Antwort. MCP ist ein offener Standard, über den KI-Agenten Werkzeuge und Datenquellen ansprechen. Für Listen, die gross werden können, sieht die Spezifikation vom Juni 2025 eine Pagination mit Cursor vor, keine nummerierten Seiten.

Ein Cursor ist eine Zeichenkette, die der Server zusammen mit einer Seite zurückgibt. Sie steht für die Position im Ergebnis. Will der Client weiterlesen, schickt er den Cursor unverändert zurück. Die Spezifikation verlangt, dass Clients den Cursor als undurchsichtig, also opak, behandeln: nicht zerlegen, nicht verändern, keine Annahmen über sein Format. Auch die Seitengrösse bestimmt der Server. Gibt es keine weiteren Ergebnisse, fehlt das Feld nextCursor.

Für einen KI-Agenten zählt das mehr, als es klingt. Ein Modell, das selbst «Zeile 20'000 bis 25'000» ausrechnet, kann sich verrechnen oder eine Position erfinden. Ein opaker Cursor lässt ihm keinen Spielraum. Der Agent kann nur weiterblättern oder aufhören. Die MCP-Spezifikation regelt Pagination für Listenabfragen. Für das Lesen grosser Dokumente passt dieselbe Idee genauso.

Regel 4: Ein Verweis bleibt bei Kompression erhalten

Lange Aufgaben füllen das Kontextfenster eines KI-Agenten trotz aller Grenzen. Dann muss das System verdichten: alte Werkzeugergebnisse kürzen, frühere Schritte zusammenfassen. Das Risiko beschreibt das Team von Manus offen. Ein Agent kann nicht vorhersagen, welche Beobachtung zehn Schritte später entscheidend wird. Jede Kompression, die sich nicht rückgängig machen lässt, birgt deshalb ein Risiko.

Die Antwort von Manus ist eine Kompression, die sich wiederherstellen lässt. Der Inhalt einer Webseite darf aus dem Kontext fallen, solange die URL bleibt. Der Inhalt eines Dokuments darf weg, solange sein Pfad erhalten bleibt. LangChain geht in seinem Agenten-Baukasten Deep Agents gleich vor: Ist ein Werkzeugergebnis grösser als 20'000 Tokens, legt das System es in einer Datei ab und ersetzt es im Kontext durch den Pfad und eine Vorschau der ersten zehn Zeilen. Der Agent kann die Datei bei Bedarf wieder lesen oder durchsuchen.

Anthropic nennt solche Verweise leichte Kennungen: Dateipfade, gespeicherte Abfragen, Weblinks. Ein Agent hält die Kennung und lädt die Daten erst, wenn er sie braucht. Für den Mietvertrag heisst das: Fällt der gelesene Abschnitt aus dem Kontext, bleibt der Verweis auf Dokument und Stelle stehen. Der KI-Agent kann die Kündigungsfrist jederzeit nachschlagen und in seiner Antwort die Fundstelle nennen.

Was Context Engineering nicht löst

Context Engineering macht einen KI-Agenten nicht klüger, als sein Modell ist. Liest der Agent die richtige Seite und versteht sie falsch, hilft keine Lesegrenze. Seitenweises Lesen kostet ausserdem Schritte. Eine Frage, die das ganze Dokument betrifft, etwa «Widerspricht sich der Vertrag irgendwo?», braucht viele Lesungen und dauert entsprechend länger.

Ein Verweis schützt nur, solange die Quelle erreichbar ist. Wird eine Datei gelöscht oder verschoben, zeigt er ins Leere. Und keine dieser Regeln ersetzt die Prüfung durch einen Menschen. Eine Kündigungsfrist, die ein Agent gefunden hat, ist ein Hinweis mit Fundstelle, keine Rechtsauskunft.

Wie Vectoryon die vier Regeln anwendet

Vectoryon ist eine Schweizer Plattform für künstliche Intelligenz im Betrieb. Der Workspace Agent arbeitet pro Person in Mail, Kalender, Dateien und weiteren Systemen, mit genau den Rechten dieser Person. Nach den vier Regeln des Context Engineering bauen wir unseren Agenten: Grenzen sitzen im Werkzeug, eine Lesung passt in den Kontext, grosse Quellen werden schrittweise gelesen, und Verweise überleben jede Kürzung. Nicht jedes Werkzeug ist heute schon vollständig so gebaut. Wir stellen die Werkzeuge Schritt für Schritt um.

Quellen

  • Anthropic, Effective context engineering for AI agents, September 2025: anthropic.com
  • Anthropic, Writing effective tools for AI agents, using AI agents: anthropic.com
  • Model Context Protocol, Specification 2025-06-18, Pagination: modelcontextprotocol.io
  • pi, Code Mode: pi.dev
  • Manus, Context Engineering for AI Agents: Lessons from Building Manus: manus.im
  • LangChain, Context Management for Deep Agents, Januar 2026: blog.langchain.com

Neugierig, wie das bei Ihnen aussähe?

In einer kurzen Demo zeigen wir Ihnen Vectoryon an Ihrem eigenen Anwendungsfall.

Demo buchen