05Agentendesign

Agentische Arbeit
gestalten.

In meinen Experimenten mit Agenten beschäftige ich mich mit der Frage, welche Entscheidungen Software durchsetzen muss und welche das Modell treffen kann. Dazu gehören auch die Präzision der Prompts und der Umfang der Autonomie.

Deniz Wetz / PERSÖNLICHE EINORDNUNG / 03 ABSCHNITTEALLE AI INSIGHTS

KURZFASSUNG

Kerngedanken

  • Verbindliche Anforderungen müssen durch Software durchgesetzt werden. Modellinferenz eignet sich für Aufgaben, bei denen Spielraum bei der Bearbeitung sinnvoll ist.
  • Ziel, Grenzen und Nachweise sollten klar beschrieben sein. Bei der Wahl der Methode kann angemessener Spielraum bleiben.
  • Es sollte feststehen, wann ein Agent weiterarbeiten, eine Person informieren oder für eine Entscheidung pausieren darf.

01DETERMINISTISCH ODER ABGELEITET

Deterministische Regeln und Modellinferenz

Wann sollte eine Entscheidung einer deterministischen Regel folgen?

Deterministische Regeln werden in Software umgesetzt. Sie unterscheiden sich von Entscheidungen, die ein LLM aus dem Kontext ableitet. Berechtigungen, erlaubte Werkzeuge und Pflichtfelder lassen sich durch explizite Prüfungen kontrollieren. Um eine Quelle zu interpretieren oder den nächsten Untersuchungsschritt auszuwählen, kann dagegen ein Urteil des Modells nötig sein.

Bei manchen Entscheidungen ist Flexibilität hilfreich, andere müssen einer festgelegten Regel folgen. Ein Prompt kann eine Grenze beschreiben. Wenn eine Grenze verbindlich eingehalten werden muss, muss Software sie durchsetzen. Auch wenn ein Modell wiederholt dasselbe Ergebnis liefert, ist seine Interpretation damit noch keine überprüfte Kontrolle. Diese Unterscheidung sollte aus meiner Sicht bei der Gestaltung des Systems erkennbar bleiben.

Quellen[01]

Zum Inhaltsverzeichnis

02PRÄZISION DER PROMPTS

Vage oder präzise Prompts?

Wie vage oder präzise sollten Prompts sein, und wo sollte ein Agent Freiraum haben?

Bei Fachaufgaben können vage Anweisungen offenlassen, welcher Kontext und welche Akzeptanzkriterien gelten. Ein Beispiel ist die Aufforderung „Prüfe dieses Assessment“. Um die Erwartungen deutlich zu machen, braucht es Angaben zu Zweck, relevanten Fakten, Einschränkungen, Quellen und den Anforderungen an ein nutzbares Ergebnis. Die benötigten Nachweise und die Angaben für eine klare Übergabe machen die Aufgabe konkreter, ohne jeden Denkschritt vorzuschreiben.

Auch der Umfang der Anweisungen muss zur Aufgabe passen. Zu viele Anweisungen können Annahmen oder Widersprüche einführen. Bei zu wenigen muss der Agent raten. Ich versuche, das Ziel und die verbindlichen Grenzen genau zu beschreiben und zugleich Freiraum bei der Wahl des Vorgehens zu lassen. Wie sich beides sinnvoll verbinden lässt, bleibt eine offene Frage.

Für GPT-6 Astra und GPT-6.1 Sol beziehe ich mich auf die gemeinsamen Prompting-Empfehlungen von OpenAI für GPT-6. Die Astra-spezifische Anleitung untersucht außerdem, wie klare Ziele, Einschränkungen und Abschlusskriterien starre Verfahrensvorgaben ersetzen können. Ich prüfe diese Empfehlungen am jeweiligen Modell und an der Aufgabe.

Quellen[02][03][04]

Zum Inhaltsverzeichnis

03AUTONOMIE & PRÜFUNG

Autonomie und Prüfung

Wann sollte ein Agent weiterarbeiten, eine Person informieren oder um eine Entscheidung bitten?

Aus meiner Sicht sollten die Schritte, erforderlichen Prüfungen, Akzeptanzkriterien und die Verantwortung für Entscheidungen vor der Delegation feststehen. Zusätzliche Prüfungen können sich dann nach konkreten Auslösern richten. Dazu gehören ein hohes Risiko oder hohe Kritikalität, Übergaben zwischen Systemen oder Teams, widersprüchliche Nachweise, Unklarheit oder fehlende wesentliche Informationen.

KI kann helfen, diese Auslöser zu erkennen. Erforderliche Prüfungen sollten auch dann stattfinden, wenn ein Modell keine Probleme meldet. Verbindliche Anforderungen müssen außerhalb des Prompts durchgesetzt werden. Für jeden Auslöser würde der Arbeitsablauf beschreiben, welche Frage zu klären ist, welche Nachweise nötig sind und ob der Agent weiterarbeiten, eine Person informieren oder für eine menschliche Entscheidung pausieren soll.

Bei einer Übergabe sollte klar sein, was abgeschlossen wurde, was noch unklar ist und wer entscheiden muss. Der vorgeschlagene Ablauf würde zwischen notwendigen Korrekturen und optionalen Verbesserungen unterscheiden. Er würde außerdem Abschlusskriterien und eine Grenze für wiederholte Versuche vorsehen. Bleibt an dieser Grenze eine wesentliche Lücke offen, sollte die Aufgabe eskaliert werden. Sie sollte dann nicht stillschweigend als bestanden gelten.

Weiterführender ArtikelWenn die Prüfung selbst zur Arbeit wird

GRAFISCH ERLÄUTERT

Entscheidungen vor der Übergabe an einen Agenten

  1. 01Welche Anforderungen müssen verbindlich eingehalten werden?

    DurchsetzenDeterministische Prüfungen

    Berechtigungen, erlaubte Werkzeuge und Pflichtfelder.

    DelegierenModellinferenz

    Nachweise interpretieren und auswählen, was untersucht werden soll.

    Ein Modell kann eine Aufgabe interpretieren. Software setzt verbindliche Grenzen durch.

  2. 02Was müssen die Anweisungen festlegen?

    Präzise beschreibenZiele und Grenzen

    Kontext, Nachweise und Akzeptanzkriterien.

    Flexibel lassenDie Methode

    Wie der Agent sucht, Informationen untersucht und eine Antwort zusammenstellt.

    Mehr Anweisungen führen nicht automatisch zu besserer Kontrolle.

  3. 03Wann braucht der Agent eine Person?

    Innerhalb seiner BefugnisseWeiterarbeiten oder informieren

    Dem vereinbarten Ablauf folgen und das Ergebnis festhalten.

    Definierter AuslöserPausieren und eskalieren

    Kritikalität, Konflikte, Mehrdeutigkeit oder fehlende Nachweise.

    Vor Beginn der Arbeit sollten die Auslöser, die zuständige Person und die erforderlichen Nachweise feststehen.

Diese Entscheidungen lassen sich kombinieren. Eine verbindliche Grenze muss außerhalb des Prompts durchgesetzt werden. Ein klares Ziel kann weiterhin Spielraum bei der Wahl der Methode lassen.

QUELLEN DES ARTIKELS[01] [02]

Zum Inhaltsverzeichnis

Quellen

  1. Anthropic — Building effective agents (öffnet in einem neuen Tab)
  2. Anthropic — Effective context engineering for AI agents (öffnet in einem neuen Tab)
  3. OpenAI — GPT-6 prompting best practices (GPT-6 Astra & GPT-6.1 Sol) (öffnet in einem neuen Tab)
  4. OpenAI — Rethinking skills and prompts for GPT-6 Astra (öffnet in einem neuen Tab)