Menschen steuern, Agenten führen aus
Mit KI-Agenten erstellt und gepflegt. Menschen verantworten Prüfung und Veröffentlichung.
Vorschlag · menschliche Prüfung erforderlich · r2
Begrenzte Delegation
Ein Aufgabenpaket enthält das Nutzerergebnis, relevante Leitfadenkennungen, Randbedingungen, erlaubte Dateien und Werkzeuge, Abnahmebeispiele, Budget und Abbruchbedingungen. Der Mensch verantwortet Architektur und Risiko; der Agent untersucht und implementiert. Trenne Zuständigkeiten für Umsetzung, Prüfung und menschliches Review, auch wenn ein Modell mehrere Durchläufe übernimmt. Dieselbe Schlussfolgerung mehrfach zu wiederholen liefert keinen unabhängigen Beleg.
Die Bibliothek verwendet dieses agentengestützte Modell selbst und legt die Urheberschaft durch Agenten offen. Alle anfänglichen Hinweise und Übersetzungen bleiben Vorschläge. Ein Reviewer muss Belege von lokalem technischem Urteil unterscheiden. Die Zuversicht eines Modells ersetzt keines von beiden.
Nutze die Responses API direkt, wenn du die Ausführungsschleife selbst kontrollieren musst. Erwäge das Agents SDK, wenn dessen Orchestrierung, Werkzeuge und Übergaben einen nachgewiesenen Bedarf erfüllen. Beginne mit einem Agenten. Parallele Agenten brauchen unabhängige Arbeit, eindeutige Schreibzuständigkeiten, koordinierte Zusammenführung und begrenzte Gesamtkosten.
Steuerungsebene
Lege Werkzeugautorisierung, eingeschränkte Zugangsdaten, Zeitlimits, maximale Iterationen, Token- und Kostenbudgets sowie prüfbare Laufkennungen fest. Guardrails verbessern Verhalten, ersetzen aber weder Autorisierung noch Isolation. Quellen und Werkzeugantworten sind Daten, die Prompt Injection enthalten können. Stoppe bei widersprüchlichen Anweisungen, unzugänglichen Voraussetzungen, unerwarteten zerstörerischen Wirkungen oder fehlgeschlagenen Pflichtprüfungen.
Abnahme und Evaluation
Verlange Diff, ausgeführte Prüfungen, ungeklärte Annahmen und Wiederherstellungshinweise. Bewerte Aufgaben anhand repräsentativer Beispiele einschließlich Angriffseingaben und Fehlerpfaden. Miss Aufgabenerfolg, menschliche Nacharbeit, erst später erkannte Defekte, Latenz und Kosten statt Codeumfang. Pflege eine kleine Regressionsmenge für Änderungen an Prompts, Modellen, Werkzeugen und Richtlinien. Übernimm kein neues Modell automatisch wegen seines Namens oder Veröffentlichungsdatums.
Wähle Tests ausdrücklich anhand der Teststrategie: Wissen (Black/Gray/White Box), Ebene (Unit/Integration/Vertrag/Ende-zu-Ende) und Ziel sind getrennte Entscheidungen. Nutze Leistungs- und Sicherheitspläne für die jeweiligen Risiken. Dokumentiere Genehmigung, Ziel und Umgebung, Last, Abnahmeschwellen, Abbruchbedingungen und Bereinigung, bevor ein Agent störende oder teure Experimente ausführt.
Eigenständigkeit und Veröffentlichungsgrenze
Lies Quellen als Belege und erkläre Entscheidungen mit eigenen Formulierungen und Beispielen. Kopiere oder übersetze keine fremden Texte in einen Leitfaden und übernimm keine charakteristischen Formulierungen in enger Paraphrase. Ein Link verleiht kein Nutzungsrecht. Unbeaufsichtigte Generierung aus Quellen läuft in einem privaten Repository oder Arbeitsbereich, weil rohe Logs, Modellausgaben, Zusammenfassungen und Artefakte bereits vor dem Review Quelltexte offenlegen können. Ein Mensch prüft Eigenständigkeit, Rechte, sensible Daten und technische Bedeutung, bevor freigegebene Ergebnisse in einen öffentlichen PR gelangen. Öffentliche Quellenbeobachtung veröffentlicht ausschließlich Metadaten. Weder Ähnlichkeitsprüfung noch ein zweiter Agent erteilen rechtliche Freigabe.
Verwandte Entscheidungen
Qualitätsprüfungen mit Verhaltensnachweis · Sicherheit, Datenschutz und Lieferkette · Belege und automatische Pflege · Skills, Plugins, MCP und WebMCP