05Agentendesign
Agentische Arbeit
gestalten.
In meinen Experimenten mit Agenten beschäftige ich mich mit der Frage, welche Entscheidungen Software durchsetzen muss und welche das Modell treffen kann. Dazu gehören auch die Präzision der Prompts und der Umfang der Autonomie.
KURZFASSUNG
Kerngedanken
- Verbindliche Anforderungen müssen durch Software durchgesetzt werden. Modellinferenz eignet sich für Aufgaben, bei denen Spielraum bei der Bearbeitung sinnvoll ist.
- Ziel, Grenzen und Nachweise sollten klar beschrieben sein. Bei der Wahl der Methode kann angemessener Spielraum bleiben.
- Es sollte feststehen, wann ein Agent weiterarbeiten, eine Person informieren oder für eine Entscheidung pausieren darf.
01DETERMINISTISCH ODER ABGELEITET
Deterministische Regeln und Modellinferenz
Wann sollte eine Entscheidung einer deterministischen Regel folgen?
Deterministische Regeln werden in Software umgesetzt. Sie unterscheiden sich von Entscheidungen, die ein LLM aus dem Kontext ableitet. Berechtigungen, erlaubte Werkzeuge und Pflichtfelder lassen sich durch explizite Prüfungen kontrollieren. Um eine Quelle zu interpretieren oder den nächsten Untersuchungsschritt auszuwählen, kann dagegen ein Urteil des Modells nötig sein.
Bei manchen Entscheidungen ist Flexibilität hilfreich, andere müssen einer festgelegten Regel folgen. Ein Prompt kann eine Grenze beschreiben. Wenn eine Grenze verbindlich eingehalten werden muss, muss Software sie durchsetzen. Auch wenn ein Modell wiederholt dasselbe Ergebnis liefert, ist seine Interpretation damit noch keine überprüfte Kontrolle. Diese Unterscheidung sollte aus meiner Sicht bei der Gestaltung des Systems erkennbar bleiben.
Quellen[01]
Zum Inhaltsverzeichnis02PRÄZISION DER PROMPTS
Vage oder präzise Prompts?
Wie vage oder präzise sollten Prompts sein, und wo sollte ein Agent Freiraum haben?
Bei Fachaufgaben können vage Anweisungen offenlassen, welcher Kontext und welche Akzeptanzkriterien gelten. Ein Beispiel ist die Aufforderung „Prüfe dieses Assessment“. Um die Erwartungen deutlich zu machen, braucht es Angaben zu Zweck, relevanten Fakten, Einschränkungen, Quellen und den Anforderungen an ein nutzbares Ergebnis. Die benötigten Nachweise und die Angaben für eine klare Übergabe machen die Aufgabe konkreter, ohne jeden Denkschritt vorzuschreiben.
Auch der Umfang der Anweisungen muss zur Aufgabe passen. Zu viele Anweisungen können Annahmen oder Widersprüche einführen. Bei zu wenigen muss der Agent raten. Ich versuche, das Ziel und die verbindlichen Grenzen genau zu beschreiben und zugleich Freiraum bei der Wahl des Vorgehens zu lassen. Wie sich beides sinnvoll verbinden lässt, bleibt eine offene Frage.
Für GPT-6 Astra und GPT-6.1 Sol beziehe ich mich auf die gemeinsamen Prompting-Empfehlungen von OpenAI für GPT-6. Die Astra-spezifische Anleitung untersucht außerdem, wie klare Ziele, Einschränkungen und Abschlusskriterien starre Verfahrensvorgaben ersetzen können. Ich prüfe diese Empfehlungen am jeweiligen Modell und an der Aufgabe.
03AUTONOMIE & PRÜFUNG
Autonomie und Prüfung
Wann sollte ein Agent weiterarbeiten, eine Person informieren oder um eine Entscheidung bitten?
Aus meiner Sicht sollten die Schritte, erforderlichen Prüfungen, Akzeptanzkriterien und die Verantwortung für Entscheidungen vor der Delegation feststehen. Zusätzliche Prüfungen können sich dann nach konkreten Auslösern richten. Dazu gehören ein hohes Risiko oder hohe Kritikalität, Übergaben zwischen Systemen oder Teams, widersprüchliche Nachweise, Unklarheit oder fehlende wesentliche Informationen.
KI kann helfen, diese Auslöser zu erkennen. Erforderliche Prüfungen sollten auch dann stattfinden, wenn ein Modell keine Probleme meldet. Verbindliche Anforderungen müssen außerhalb des Prompts durchgesetzt werden. Für jeden Auslöser würde der Arbeitsablauf beschreiben, welche Frage zu klären ist, welche Nachweise nötig sind und ob der Agent weiterarbeiten, eine Person informieren oder für eine menschliche Entscheidung pausieren soll.
Bei einer Übergabe sollte klar sein, was abgeschlossen wurde, was noch unklar ist und wer entscheiden muss. Der vorgeschlagene Ablauf würde zwischen notwendigen Korrekturen und optionalen Verbesserungen unterscheiden. Er würde außerdem Abschlusskriterien und eine Grenze für wiederholte Versuche vorsehen. Bleibt an dieser Grenze eine wesentliche Lücke offen, sollte die Aufgabe eskaliert werden. Sie sollte dann nicht stillschweigend als bestanden gelten.
Weiterführender ArtikelWenn die Prüfung selbst zur Arbeit wird
GRAFISCH ERLÄUTERT
Entscheidungen vor der Übergabe an einen Agenten
01Welche Anforderungen müssen verbindlich eingehalten werden?
DurchsetzenDeterministische PrüfungenBerechtigungen, erlaubte Werkzeuge und Pflichtfelder.
DelegierenModellinferenzNachweise interpretieren und auswählen, was untersucht werden soll.
Ein Modell kann eine Aufgabe interpretieren. Software setzt verbindliche Grenzen durch.
02Was müssen die Anweisungen festlegen?
Präzise beschreibenZiele und GrenzenKontext, Nachweise und Akzeptanzkriterien.
Flexibel lassenDie MethodeWie der Agent sucht, Informationen untersucht und eine Antwort zusammenstellt.
Mehr Anweisungen führen nicht automatisch zu besserer Kontrolle.
03Wann braucht der Agent eine Person?
Innerhalb seiner BefugnisseWeiterarbeiten oder informierenDem vereinbarten Ablauf folgen und das Ergebnis festhalten.
Definierter AuslöserPausieren und eskalierenKritikalität, Konflikte, Mehrdeutigkeit oder fehlende Nachweise.
Vor Beginn der Arbeit sollten die Auslöser, die zuständige Person und die erforderlichen Nachweise feststehen.
Diese Entscheidungen lassen sich kombinieren. Eine verbindliche Grenze muss außerhalb des Prompts durchgesetzt werden. Ein klares Ziel kann weiterhin Spielraum bei der Wahl der Methode lassen.
Quellen
- Anthropic — Building effective agents (öffnet in einem neuen Tab)
- Anthropic — Effective context engineering for AI agents (öffnet in einem neuen Tab)
- OpenAI — GPT-6 prompting best practices (GPT-6 Astra & GPT-6.1 Sol) (öffnet in einem neuen Tab)
- OpenAI — Rethinking skills and prompts for GPT-6 Astra (öffnet in einem neuen Tab)