Glossar

Jeder Begriff, den das Programm verwendet, verständlich erklärt.

Neu hier? Lies die erste Lektion. Kein Konto nötig.

KI-Konzepte

Agent: Ein KI-System, das eigenständig mehrere Schritte auf ein Ziel hin geht. Es wählt seine Tools selbst und passt sich unterwegs an.
Agentische Suche: Ein Agent findet, was er braucht, während er arbeitet, mit Such-Tools, Dateipfaden und Links, statt dass ihm vor dem Start Passagen geladen werden. Was er liest, ist aktuell, aber das ist langsamer als Retrieval und kann ohne Anleitung abschweifen.
AGI: Artificial General Intelligence: eine hypothetische KI, die bei den meisten Aufgaben so fähig ist wie ein Mensch. Viel diskutiert und noch nicht da.
Bildmodelle: Modelle, die aus Textbeschreibungen Bilder erzeugen. Zum Beispiel DALL·E, Midjourney oder Stable Diffusion.
Closed model: Ein proprietäres Modell, an das du nur über die API oder die App des Anbieters herankommst.
Coding agent: Ein KI-Assistent mit Händen. Er liest Dateien, bearbeitet sie, führt Befehle aus und prüft unterwegs die Ergebnisse.
Compaction: Frühere Gesprächsteile zusammenfassen, um Platz im Context Window zu schaffen.
Completion / response: Das, was das Modell nach deinem Prompt zurückschickt.
Context: Alles, was das Modell gerade sehen kann: deinen Prompt, das Gespräch, Anhänge und alle eingespielten Notizen.
Context rot: Ein Fehlerbild im Loop: Der Verlauf wächst, bis das Wesentliche darin untergeht. Abhilfe: alte Runden zusammenfassen und das Ziel fest im Context verankern.
Context window: Wie viele Tokens ein Modell gleichzeitig halten kann: dein Prompt plus alles, was es schon gelesen hat.
Embedding: Eine Zahlenrepräsentation von Text, mit der ein System nach Bedeutung suchen kann statt nach exakten Wörtern.
Embedding models: Modelle, die Text in Zahlen verwandeln, damit Tools ihn semantisch durchsuchen können. Sie arbeiten unter der Haube von Assistenten, die an deine Dokumente angebunden sind.
Entscheidungsmodell: Ein Modell, das keinen Text schreibt, sondern eine Frage beantwortet, indem es eine der Optionen wählt, die du festlegst, und für jede Option eine Wahrscheinlichkeit angibt. Jev und Laya sind Beispiele.
Erweitertes LLM: Ein Modellaufruf, ergänzt um Retrieval, Tools und Memory. Anthropic nutzt ihn als Baustein jedes Workflow-Musters und von Agenten.
Fine-tuning: Zusätzliches Spezialtraining auf einem Basismodell, zugeschnitten auf einen bestimmten Anwendungsfall.
Frontier model: Das größte, neueste und leistungsfähigste Modell, das ein Anbieter im Programm hat.
Generation: Der letzte Schritt in RAG: die gefundenen Chunks in den Prompt packen und die KI mit diesem Context antworten lassen.
Gradient descent: Das Trainingsverfahren, bei dem ein Modell Milliarden interner Parameter Stück für Stück justiert, bis es das nächste Wort gut vorhersagt.
Inference: Jede einzelne Nutzung des Modells. Du schickst einen Prompt, er läuft durch die eingefrorenen Parameter, und ein Output kommt heraus.
Kalibrierte Wahrscheinlichkeit: Eine Wahrscheinlichkeit, die dazu passt, wie oft Antworten tatsächlich stimmen: Von allen Antworten mit etwa 0,8 sind etwa 80 % richtig. Sie beschreibt Gruppen von Antworten, nie eine einzelne, und verlassen kannst du dich erst darauf, wenn du sie an deiner eigenen gelabelten Arbeit geprüft hast.
LLM: Large Language Model: die Technik hinter Chat-Assistenten wie ChatGPT, Gemini und Claude.
Long context: Wie viel ein Assistent in einem Gespräch halten kann. Ein langer Context fasst auf einmal so viel wie eine kleine Bibliothek.
MCP (Model Context Protocol): Der Standardweg, über den KI-Apps sich mit externen Tools, Daten und Diensten verbinden. Denk an USB für KI.
Memory: Eine Funktion, die ausgewählte Fakten über dich speichert und sie am Anfang künftiger Gespräche wieder in den Context legt. ChatGPT nennt sie auf Deutsch „Erinnerungen“.
Multimodal: Modelle, die mehr als Text verarbeiten: Bilder und manchmal auch Audio oder Video.
Open weights: Ein Modell, dessen Parameter du herunterladen und selbst betreiben kannst.
Quellkorpus: Wo bei einem RAG-Aufbau die Wahrheit liegt: die Seiten, Dokumente, Verträge oder alten Tickets, aus denen du abrufst.
RAG (Retrieval-Augmented Generation): Das System sucht zuerst in deinen Dokumenten oder im Web, dann antwortet das Modell aus dem, was es gefunden hat.
Session: Ein durchgehendes Gespräch. Ein neuer Chat startet mit leerem Context.
Speech-Modelle: Modelle, die Sprache in Text und Text in Sprache umwandeln. Whisper transkribiert, ElevenLabs erzeugt Stimmen.
Subagent: Ein separater Agent mit eigenem Context Window, der eine Nebenaufgabe übernimmt, etwa eine Suche oder ein Review, und nur eine Zusammenfassung zurückgibt. Er sieht das Hauptgespräch nicht, also muss sein Briefing jede Regel wiederholen, die du nur in diesem Gespräch genannt hast.
System prompt: Anweisungen, die zu Beginn eines Gesprächs Rolle und Regeln der KI festlegen.
Token: Die kleinen Textstücke, die ein Assistent liest und schreibt, etwa 3/4 Wort. Länge und Kosten werden in Tokens gezählt.
Tool: Ein Konnektor, mit dem KI mehr kann als Text schreiben: suchen, rechnen oder ein anderes System erreichen.
Training: Der teure, einmalige Vorgang, bei dem ein Modell Muster aus riesigen Textmengen lernt. Das machen die Anbieter, nicht du.
Training cutoff: Das Datum, nach dem ein Modell aus dem Training nichts mehr weiß. Alles Späteres kennt es nur, wenn du es ihm erzählst.
Unbeaufsichtigter Agent: Ein Agent, der eine Aufgabe von Anfang bis Ende erledigt, ohne dass ein Mensch zusieht oder unterwegs Fragen beantwortet. Menschen sehen nur das Ergebnis, also müssen die Checks und die Umgebung die Aufsicht übernehmen.
Vorhersage des nächsten Worts: So arbeitet ein LLM im Kern. Es sagt immer wieder das wahrscheinlichste nächste Wort voraus, und daraus entsteht eine brauchbare Antwort.

Prompting & Techniken

Antwort vorformulieren: Die Antwort der KI selbst anfangen. Das legt Format und Ton fest und bremst das Abdriften.
Chain (prompt chaining): Eine Folge von Prompts, bei der jeder Output zum nächsten Input wird. Du führst die Chain, die KI erledigt jede Stufe.
Chain of thought: Das Modell bitten, vor der Antwort Schritt für Schritt zu denken. Das hebt die Treffsicherheit bei mehrstufigen Problemen.
Chunking: Einen Korpus in mundgerechte Stücke schneiden (256 bis 512 Tokens, mit 10 bis 20 % Überlappung), damit sie abrufbar sind.
Context-Engineering: Alles auswählen, was während der Arbeit in den Context eines Modells gelangt, nicht nur den Prompt: Anweisungen, Dateien, Tool-Beschreibungen, Tool-Ergebnisse und Verlauf. Das Ziel ist die kleinste Menge nützlicher Informationen, die zur richtigen Aktion führt.
Dauerhaft geladene Schicht: Die kleine Menge an Dingen, die in jeder Runde mitgelesen wird: harte Grenzen, Hausregeln und die aktuelle Aufgabe.
Determinismus vs. Urteilsvermögen: Deterministisch heißt: Der Schritt liefert jedes Mal denselben Output. Urteilsvermögen heißt: Der Schritt darf legitim variieren. Markier jede Stufe.
Deterministischer Schritt: Ein Prozessschritt, den feste Logik erledigt: eine Formel, ein Datenbankfeld oder ein Skript.
Erst planen, dann machen: Das Modell erst planen und Lücken benennen lassen, dann das Ergebnis liefern. So füllt es Lücken nicht mit Vermutungen.
Evaluator-Optimizer: Ein Workflow-Muster, bei dem ein Modellaufruf schreibt und ein anderer das Ergebnis an klaren Kriterien bewertet und in einem Loop Feedback zurückgibt, bis es besteht oder eine Grenze erreicht ist.
Few-shot: Dem Modell ein paar Beispiele für das gewünschte Muster von Input zu Output geben. Das macht die Ergebnisse deutlich verlässlicher.
Flughöhe von Anweisungen: Der Detailgrad, in dem Vorgaben geschrieben sind. Zu tief ist eine brüchige Liste von Wenn-dann-Regeln, zu hoch eine vage Hoffnung. Die richtige Flughöhe nennt das Ziel, die Ermessensfragen und die harten Grenzen, jeweils mit dem Grund dahinter.
Goldene Regel: Gib der KI so viel Context wie möglich, immer. Bessere Inputs liefern verlässlich besseren Output.
Iteratives Nachschärfen: KI als Gespräch behandeln und den Output über ein paar Runden verbessern, statt schon den ersten Entwurf perfekt zu erwarten.
KI-Schritt: Ein Prozessschritt, der eine Einschätzung braucht, die vom Input abhängt. Genau hier gibst du dein KI-Budget aus.
Laden bei Bedarf: Schemas, Spezifikationen, Runbooks oder Dokumente erst laden, wenn eine Aufgabe sie braucht, und sie dann namentlich holen.
Mehrstufiges Prompting: Arbeit in Stufen schneiden statt in einen großen Prompt. Jede Stufe liefert einen klaren, benannten Output, den die nächste weiterverwendet.
Meta-prompting: Die KI bitten, deinen Prompt zu kritisieren und neu zu schreiben, damit er verlässlicheren Output liefert.
Negative Vorgaben: Der KI sagen, was sie nicht tun soll. Das arbeitet gegen ihre Standardmuster an und ist oft leichter, als zu beschreiben, was du willst.
Orchestrator-Workers: Ein Workflow-Muster, bei dem ein zentraler Modellaufruf eine Aufgabe zur Laufzeit in Teilaufgaben zerlegt, sie an Worker-Aufrufe verteilt und deren Ergebnisse zusammenführt. Setz es ein, wenn du die Teilaufgaben nicht vorab auflisten kannst.
Output-Formatierung: Zwischenergebnisse maschinenlesbar halten: Tabellen, JSON, immer dieselben Felder. Freier Prosatext bricht Chains.
Parallelisierung: Ein Workflow-Muster, das Modellaufrufe gleichzeitig ausführt: unabhängige Teile einer Aufgabe nebeneinander (Sectioning) oder dieselbe Aufgabe mehrmals, um die Antworten zu vergleichen (Voting).
Persona: Dem Modell eine Rolle geben, damit es die Qualitätslatte höher legt. Das prägt, wie es antwortet. Ob es richtig liegt, ändert es nicht.
Persona prompts: Gib jeder Stufe eine Rolle, etwa einen juristischen Sachbearbeiter oder einen Compliance-Beauftragten. Die Persona verschiebt Vokabular, Tiefe und Ton.
Progressive disclosure: Dauerhaft nur wenig laden, den Rest nur, wenn er zur Sache gehört. Halt die dauerhaft geladene Schicht klein.
Prompt: Was du einem Assistenten schreibst. Prompting ist die Kunst, gut zu fragen.
Prompt-Journal: Eine Sammlung von Prompts, die funktioniert haben. Mit der Zeit wird daraus deine eigene Bibliothek an Templates für deine Arbeit.
Prozesszerlegung: Einen Prozess über mehrere Teams in Schritte zerlegen und entscheiden, welche die KI übernimmt, welche deterministisch laufen und welche einen Menschen brauchen.
Retrieval: Die passenden Chunks zu einer Frage heraussuchen. In der Produktion ist hybrides Retrieval (semantisch plus Stichwort) mit Reranker der Standard.
Rollen stapeln: Die KI dieselbe Sache nacheinander aus mehreren Expertenblickwinkeln analysieren lassen und daraus eine Empfehlung machen.
Routing: Ein Workflow-Muster, bei dem ein Schritt einen Input einer Kategorie zuordnet und ihn an einen Schritt weitergibt, der für genau diese Art gebaut ist, etwa E-Mails zu Abrechnung, Technik oder Konto.
Structured outputs: Ein festes Schema verlangen, etwa JSON oder eine Tabelle. Dann ist der Output klar und andere Tools können ihn direkt weiterverwenden.
Strukturiertes Notieren: Einen Agenten während der Arbeit Notizen in eine Datei außerhalb seines Context Windows schreiben lassen, etwa eine To-do-Liste oder eine Datei mit Erkenntnissen, und sie später wieder einlesen. Die Notizen überstehen eine Compaction, weil sie nie im Window waren.
Übergabe (die Nahtstelle): Der Moment, in dem der Output eines Schritts zum Input des nächsten wird. Hier zerbrechen die meisten Chains, also setz deine Prüfungen an die Nahtstelle.
Vier-Elemente-Framework: Der verlässliche Aufbau für Prompts: Rolle, Context, Aufgabe, Format (auch CRAFT oder RCTF genannt).
Zero-shot: Das Modell ohne jedes Beispiel um eine Aufgabe bitten. Für einfache, gängige Aufgaben reicht das.

Bauen & Go-live

50-Inputs-Regel: Teste einen Agenten an 50 verschiedenen echten Inputs, bevor du ihn unbeaufsichtigt laufen lässt. Und ordne jeden Fehler einer Kategorie zu.
Abdeckung: Eine der Kräfte im Harness-Design: dem Modell genug geben, damit es richtig handelt. Zu wenig, und es rät oder erfindet eine API.
Abnahmekriterien: Die Bedingungen, die eine Arbeit erfüllen muss, damit sie als erledigt gilt, geschrieben, bevor die Arbeit beginnt. Für einen Agenten funktioniert jedes Kriterium am besten als Check, den er ausführen kann: ein Test, ein Befehl oder ein Ergebnis, das jeder sehen kann, wobei du bei den Checks für das neue Verhalten zuerst bestätigst, dass sie fehlschlagen.
Agent loop: Der Zyklus zur Laufzeit: Context lesen, entscheiden, ein Tool aufrufen, das Ergebnis lesen, wieder entscheiden, bis die Aufgabe erledigt ist.
Agentic Engineering: Software mit Coding Agents entwickeln, während ein Entwickler für das Ergebnis verantwortlich bleibt: Er gibt das Ziel vor, prüft den Code und die Belege und entscheidet, was live geht. Simon Willison nutzt den Begriff als Gegenteil von Vibe Coding, bei dem sich niemand den Code ansieht.
Agentic loop: Eine Aufgabe, die so aufgesetzt ist, dass ein Coding Agent ein Ziel durch Ausprobieren erreichen kann: ein klares Ziel, ein Check, der „bestanden“ oder „durchgefallen“ sagt, die Befehle, um Änderungen auszuprobieren, und ein sicherer Ort, an dem er mit abgeschalteten Freigaben laufen kann. Jeder Agent läuft in einem Loop; ein agentischer Loop ist einer, den du gestaltest.
Agentisches manuelles Testen: Einen Coding Agenten seine eigene Änderung so benutzen lassen, wie ein Mensch es täte: eine Funktion über die Kommandozeile aufrufen, eine API mit curl oder eine Seite in einem echten Browser, und dabei jeden Befehl und seine Ausgabe festhalten. So findet er, was bestandene Tests übersehen.
AGENTS.md: Das tool-übergreifende Standard-Instruction-File. Hier stehen deine Konventionen, und zwar als einzige verbindliche Quelle.
Anatomie eines Briefings: Die Teile, die ein gutes Agenten-Briefing braucht: Rolle, Trigger, Inputs, Schritte, Output-Format und Guardrails.
Architektur-Entscheidungsdokument (ADR): Eine kurze Datei im Repository, die eine wichtige Entscheidung festhält: ihren Hintergrund, die Entscheidung selbst, ihren Status und ihre Folgen. Sie sagt Menschen und Coding Agents, warum der Code so ist, wie er ist, damit keiner von beiden ihn blind hinnimmt oder ändert.
Aufgaben-Lock: Ein Anspruch auf ein Work Item, etwa eine kleine Datei, die ein Agent in ein gemeinsames Repository committet, bevor er anfängt, damit andere Agenten etwas anderes nehmen. Locks, die zu lange gehalten oder nie aufgehoben werden, bremsen alle aus.
Aufrufstelle: Eine Stelle im Code, an der eine bestimmte Funktion aufgerufen wird. Wer vor einem Upgrade oder einer Umbenennung jede Aufrufstelle auflistet, Tests und Skripte eingeschlossen, sieht, wie groß die Änderung ist und was geprüft werden muss.
Backpressure: Automatische Checks, die schlechten Output eines Agenten zurückweisen, etwa Tests, Type Checker und Security-Scanner, sodass er seine Änderung reparieren muss, bevor er weitermachen kann. Halt sie schnell, denn der Agent wartet auf sie.
Boilerplate: Code, der geschrieben werden muss, aber keine neue Idee enthält, etwa Setup, Verdrahtung oder noch einmal dieselbe Testform. Er ist leicht zu beschreiben und leicht zu prüfen, deshalb eignet er sich gut als Arbeit für einen Coding Agenten.
Branch: Eine parallele Arbeitslinie im selben Repo. Auf einem Branch probierst du herum, ohne den Hauptstrang zu stören.
Brauchbar vs. korrekt: Brauchbar heißt: Die nächste Stufe kann den Output lesen. Korrekt heißt: Der Inhalt stimmt. Beides zählt.
Breaking Change: Eine Änderung in einer neuen Version einer Library oder eines Dienstes, durch die Code für die alte Version fehlschlägt oder sich anders verhält. Manche brechen laut, etwa eine entfernte Funktion. Andere leise, etwa ein geänderter Standardwert, und nur Tests, die das Verhalten festschreiben, fangen sie ab.
Budget-Obergrenze: Eine Stoppbedingung, die eine harte Grenze für Runden, Tokens oder Tool-Aufrufe setzt.
Capability-Eval: Ein Eval aus Aufgaben, mit denen ein Agent noch kämpft. Es startet mit einer niedrigen Bestehensquote und zeigt, ob Änderungen am Harness helfen.
Changelog: Eine kurze laufende Notiz am Ende eines Briefings, die jede Version festhält. So sehen andere, wie es gewachsen ist.
Checkout: Deinen Arbeitsordner auf einen bestimmten Branch oder Commit umschalten. Gleiches Repo, anderer Blick.
CLAUDE.md: Das Instruction File von Claude Code, im Projektwurzelverzeichnis oder unter ~/.claude für global. Oft nur ein Verweis auf AGENTS.md.
Cloud-Umgebung: Das vorbereitete Setup, mit dem die Läufe eines Cloud-Agenten starten: der ausgecheckte Code, installierte Dependencies, Netzwerkregeln und Secrets. Jeder Lauf arbeitet in seiner eigenen Kopie, also startet jeder Lauf gleich.
Code owners (CODEOWNERS): Eine Datei, die festlegt, wem welche Pfade in einem Repository gehören. Ist die passende Regel eingeschaltet, kann eine Änderung an einer solchen Datei nur mit der Freigabe eines ihrer Code Owners gemergt werden.
Commit: Eine gespeicherte Änderung samt Notiz, was sich geändert hat und warum. Die Historie eines Repos ist eine Kette von Commits.
Compound Engineering: Eine Arbeitsweise, beschrieben von der Firma Every, bei der jede Änderung die nächste leichter machen soll. Nach Planen, Umsetzen und Reviewen kommt ein vierter Schritt: Mach aus dem Gelernten eine Doku, ein Beispiel, einen Test oder einen Check, und frag, ob das System das Problem jetzt von selbst abfangen würde.
Context budget: Das Context Window als Budget behandeln, das du bewusst verteilst. Der größte Anteil geht an das, was die Antwort verändert.
Continuous Integration (CI): Der automatische Build und die Tests, die bei jeder vorgeschlagenen Änderung laufen, bevor sie gemergt wird. In einer Softwarefabrik ist sie der erste Check, den die Änderung eines Agenten bestehen muss, und ein grüner Lauf ist nur so vertrauenswürdig wie die Tests dahinter.
Deferred tools: Tools nur namentlich auflisten und das Modell die vollständige Definition bei Bedarf nachladen lassen. So bleibt der Context schlank.
Definition of Done: Eine kurze Liste von Aussagen über die fertige Arbeit, geschrieben, bevor die Arbeit beginnt, und für jeden prüfbar. Jede Zeile ist für das Ergebnis wahr oder falsch, also heißt „fertig“ geprüft und nicht nur, dass es fertig aussieht.
Definition of Ready: Die im Team vereinbarte Liste dessen, was ein Work Item enthalten muss, bevor jemand damit anfängt. In einer Fabrik entscheidet sie, welche Items in die Warteschlange der Agenten dürfen; die übrigen gehen an ihren Autor zurück, mit dem Hinweis, was fehlt.
Dependency-Update: Eine Änderung, die eine der Dependencies eines Projekts auf eine neuere Version hebt. Ein Update, das nur eine Versionsnummer ändert, ist etwas für ein einfaches Skript; eines mit Breaking Changes braucht auch Codeänderungen und einen Check, dass das Projekt weiterhin baut und seine Tests besteht.
Designfehler: Ein Fehler, der in der Architektur des Workflows steckt. Die Abhilfe: die Stufen neu schneiden oder neu entwerfen.
Die Bau-Regel: Sobald du dieselbe Arbeit ein zweites Mal machst, bau sie als Agenten. Beim dritten Mal läuft sie von selbst.
Diff: Die zeilenweise Liste dessen, was sich in deinen Dateien geändert hat: die entfernten und die hinzugefügten Zeilen. Wenn du nach jedem Schritt den Diff liest, siehst du genau, was ein Agent getan hat.
Doc-Gardening: Ein wiederkehrender Lauf, oft durch einen Agenten, der die Doku eines Repositorys mit dem Code vergleicht und für jede veraltete Seite einen Pull Request eröffnet. Er hält die Doku aktuell, auf die sich Agenten verlassen.
DORA metrics: Fünf Kennzahlen für die Software-Delivery von DORA, einem Forschungsprogramm von Google Cloud. Durchlaufzeit von Änderungen, Deployment-Häufigkeit und Wiederherstellungszeit nach fehlgeschlagenen Deployments zeigen den Durchsatz; Änderungsfehlerrate und Nacharbeitsrate bei Deployments zeigen die Instabilität.
Edge cases: Inputs, die gültig, aber ungewöhnlich sind. Ein Briefing sollte sagen, was bei fehlenden Feldern, Widersprüchen und sensiblen Daten passiert.
Eingangsformular: Das Formular oder die Vorlage, die Leute ausfüllen, um ein Work Item einzureichen, mit einem Feld für jede Zeile der Definition of Ready, die wichtigen davon als Pflichtfelder. Es macht Felder schwer zu überspringen, aber nicht unmöglich, also prüft die Triage jedes Item noch einmal. Auf GitHub ist es ein Issue-Formular.
Erforderlicher Status-Check: Ein Check, etwa die Test-Suite, der bestehen muss, bevor ein Pull Request in einen geschützten Branch gemergt werden kann. Er macht Tests von einer Empfehlung zu einem Gate.
Evaluationsset: Ein Set von Aufgaben, das du erneut laufen lassen kannst, jede mit einem Bestehenskriterium, damit du einen Agenten und sein Harness vor und nach einer Änderung bewerten kannst. Lass es aus echten Fehlern wachsen und nimm Fälle auf, in denen etwas nicht passieren soll.
Fan-out: Eine sich wiederholende Änderung in einen Agenten-Lauf pro Item aufteilen, etwa pro Datei, gestartet aus einem Skript mit demselben Prompt. Jeder Lauf beginnt mit frischem Context. Probier zuerst ein paar Items aus, korrigier den Prompt und lass dann den Rest laufen, mit einem Check für jedes.
Flottenweite Änderung: Dieselbe Art von Änderung über viele Repositories hinweg, etwa ein Dependency-Update oder eine Konfigurationsänderung, meist als ein kleiner Pull Request pro Repository. Ob eine Änderung gemergt wird, entscheiden weiterhin die Checks und die Verantwortlichen des jeweiligen Repositorys.
Forking: Den geteilten Agenten oder Assistenten von jemand anderem kopieren und anpassen. Du erbst dabei alles, was der Autor schon gelernt hat.
Format drift: Die KI liefert den Output in einer leicht anderen Form als vorgegeben, und alles Nachgelagerte, das genau dieses Format erwartet, bricht.
Fortschrittsdatei: Eine Datei, die ein Agent zu Beginn jeder Session liest und am Ende aktualisiert: das Ziel, die Regeln und ein Protokoll dessen, was erledigt ist und was als Nächstes kommt. Mit einer Item-Liste daneben kann eine neue Session lange Arbeit fortsetzen, ohne etwas doppelt zu machen oder auszulassen.
Frontmatter: Ein kleiner YAML-Block ganz oben in einer Datei, der Angaben über die Datei selbst enthält.
Führendes System: Der eine Ort, an dem eine Information offiziell steht und auf den jede andere Erwähnung verweist. In einer Codebase kann versionierte Doku im Repository das führende System für Architektur, Entscheidungen und Geschäftsregeln sein.
Gestapelte Pull Requests: Eine Reihe kleiner Pull Requests, von denen jeder auf dem vorherigen aufbaut, sodass ein großes Stück Arbeit als eine in sich geschlossene Änderung nach der anderen reviewt wird. Jeder muss das System beim Mergen funktionsfähig lassen.
Git bisect: Der git-Befehl, der den Commit findet, mit dem ein Bug zum ersten Mal auftrat. Du markierst einen guten und einen schlechten Commit und gibst ihm einen Test, und er durchsucht die History, indem er sie immer wieder halbiert. Coding Agents können ihn gut für dich ausführen.
Gold Set: Echte Items aus deiner Arbeit, jedes von Leuten, die den Job kennen, mit der richtigen Antwort gelabelt. Daran misst du ein Entscheidungsmodell, bevor du ihm vertraust.
Goldenes Prinzip: Eine meinungsstarke, mechanische Regel dafür, wie der Code immer aussehen soll, im Repository festgehalten, damit ein geplanter Agent Abweichungen findet und kleine Pull Requests öffnet, die sie beheben.
Grader: Was auch immer entscheidet, ob ein Versuch bestanden ist: Code für das, was sich exakt prüfen lässt, ein Modell mit Bewertungsraster für Ermessensfragen oder ein Mensch. Gleich einen Modell-Grader mit Menschen ab, bevor du ihm vertraust.
Guide (Feedforward-Kontrolle): Eine Kontrolle im Harness, die den Agenten lenkt, bevor er handelt, etwa Anweisungen, ein Styleguide oder ein Template. Sie macht einen guten ersten Versuch wahrscheinlicher.
Harness: Alles, was du um ein Modell herum baust: den Context, den du ihm gibst, die Tools, die es aufrufen kann, und den Loop, in dem es läuft.
Harness stutzen: Teile eines Harness einzeln herausnehmen und nach jedem dieselben Evals erneut laufen lassen, um nur zu behalten, was die Ergebnisse noch verbessert. Jede Regel und jeder Check ist eine Annahme über das Modell, und Modelle ändern sich.
Harness-Engineering: Alles um das Modell eines Agenten herum entwerfen und verbessern: seine Anweisungen, Tools, Checks und Grenzen. Im Sinne von Mitchell Hashimoto die Gewohnheit, das Harness jedes Mal zu ändern, wenn der Agent einen Fehler macht, damit er diesen Fehler nicht wieder macht.
Headless run: Ein Lauf eines Coding Agenten aus einem Skript, ohne dass jemand an der Tastatur sitzt, etwa claude -p oder codex exec. Die erlaubten Tools, die Sandbox und die Grenzen für Runden und Kosten müssen alle vor dem Start festgelegt sein.
Held-out-Szenario: Eine End-to-End-User-Story, außerhalb der Codebasis gespeichert, die Software danach prüft, was ein Nutzer beobachten kann. Agenten sehen sie nie, also können sie sie weder umschreiben noch Code schreiben, der nur sie besteht.
Idempotency: Ein Agent ist idempotent, wenn es harmlos ist, ihn zweimal auf denselben Input laufen zu lassen. Er liefert dasselbe Ergebnis oder tut beim zweiten Mal nichts.
Infrastruktur (statt Tool): Ein Bau, auf den sich viele Leute verlassen. In dieser Größe braucht er einen benannten Verantwortlichen, dokumentiertes Verhalten, HITL-Gates und einen Wartungsplan.
Instruction File: Eine Datei mit festen Regeln, die ein Agent liest, bevor er anfängt. AGENTS.md ist der gängige Name.
Kaskade: Zuerst ein günstiges, schnelles Modell laufen lassen und nur seine unsicheren Fälle an ein stärkeres Modell oder einen Menschen weitergeben. Das spart Kosten, bringt aber nur dann mehr Genauigkeit, wenn die zweite Stufe andere Fehler macht.
Kosten: Was jedes Token kostet: Geld, Latenz und verwässerte Aufmerksamkeit.
Kosten pro brauchbarem Output: Gesamtausgaben geteilt durch die Outputs, die keine Nacharbeit gebraucht haben. Die Kennzahl, die du verinnerlichen solltest.
Lockfile: Eine Datei, die die genaue Version jedes Pakets festhält, das ein Projekt installiert, einschließlich der Pakete, die seine Abhängigkeiten mitbringen. Ihre Änderungen in einem Diff zeigen alles, was ein neues Paket hinzufügt.
Merge: Die Änderungen eines Branches in den Hauptstrang zurückführen, sobald sie fertig sind.
Merge queue: Eine Warteschlange, die jeden Pull Request vor dem Merge zusammen mit dem neuesten Stand des main-Branches und den Pull Requests vor ihm testet, sodass Änderungen, die einzeln bestehen, den Branch nicht gemeinsam kaputt machen können.
Merge-Konflikt: Was passiert, wenn zwei Branches dieselben Zeilen derselben Datei ändern. Git kann sie nicht selbst zusammenführen, also muss ein Mensch oder ein Agent entscheiden. Wenn du parallele Arbeit nach Bereichen aufteilst, bleiben Konflikte selten.
Modellbasierte Kontrolle: Ein Guide oder Sensor, der sich auf das Urteil eines Modells stützt, etwa schriftliche Anweisungen oder ein KI-Review. Er kann Bedeutung beurteilen, ist aber langsamer, kostet mehr und kann von Lauf zu Lauf schwanken.
Modellgrenze: Ein Fehler, bei dem die KI für diese Aufgabe einfach nicht verlässlich genug ist. Die Abhilfe: eine deterministische Prüfung oder ein engeres HITL-Gate.
Nahtstelle: Die Stelle, an der Information von einer Person, einem Team oder einem System zum nächsten übergeht. An Nahtstellen versickern Zeit und Qualität.
Nahtstellenkarte: Eine Karte der Übergaben in einem Prozess: wer übergibt, wer übernimmt, was verloren geht, was es an Zeit kostet und wo KI passen würde.
OpenTelemetry (OTel): Ein offener Standard, mit dem ein Programm Metriken, Logs und Traces an einen Collector deiner Wahl schickt. Agent-Tools nutzen ihn, um Tokens, Kosten und Tool-Aufrufe jedes Laufs zu melden.
Optimistische Nebenläufigkeit: Eine Art, wie viele Agenten Zustand ohne Locks teilen: Jeder kann ihn lesen, aber ein Schreibzugriff schlägt fehl, wenn sich der Zustand seit dem Lesen geändert hat, und wer schreibt, liest neu und versucht es noch einmal.
Output schema: Eine genaue schriftliche Festlegung der Felder und Typen eines Outputs, aufgeschrieben bevor der Prompt entsteht.
Output-Dominanz: Output-Tokens kosten typisch 3- bis 5-mal so viel wie Input-Tokens. Ein geschwätziger Standardstil vervielfacht die Ausgaben also schnell.
pass@k (mindestens einmal): Der Anteil der Aufgaben, die ein Agent in k Versuchen mindestens einmal besteht. Er zeigt, ob der Agent eine Aufgabe schaffen kann, nicht, ob er sie jedes Mal schafft.
pass^k (jedes Mal): Der Anteil der Aufgaben, die ein Agent in jedem von k Versuchen besteht. Er sinkt, je größer k wird, und zählt am meisten dort, wo Leute jedes Mal dasselbe Ergebnis erwarten.
Pfadspezifische Anweisungen: Instruction Files, die nur gelten, wenn ein Agent an passenden Dateien arbeitet, etwa eine .instructions.md-Datei für GitHub Copilot mit einem applyTo-Muster oder eine Cursor-Regel mit Globs.
Produktionsreif: Ein Workflow, der an echten Inputs getestet ist, mit Fehlerbildern und HITL-Gates im Briefing, dokumentiert, mit Verantwortlichem und mit Protokoll gegen Drift.
Programmatische Kontrolle: Ein Guide oder Sensor, den gewöhnliche Software ausführt, etwa ein Test, ein Linter oder ein Skript. Schnell und günstig, und das Ergebnis ist jedes Mal dasselbe.
Pull request: Ein Bündel Commits, das zum Review vorgelegt wird, bevor es gemergt wird.
Ralph loop: Eine Art, einen Coding Agenten unbeaufsichtigt laufen zu lassen: Ein Skript schickt ihm immer wieder denselben Prompt, dieselbe Plan-Datei und dieselben Spezifikationen. Jeder Durchgang startet mit frischem Context, erledigt ein Item, führt die Checks aus und committet.
Rebase: Die Commits eines Branches auf den neuesten Stand des main-Branches neu aufspielen. Wer direkt vor den letzten Checks rebased, sorgt dafür, dass die Checks den Code testen, der tatsächlich gemergt wird.
Recall: Wie verlässlich das Modell eine bestimmte Regel wirklich befolgt. Regeln, die mitten in einem langen Context stecken, gehen unter.
Red/green TDD: Testgetriebene Entwicklung: Schreib einen Test, führ ihn aus und sieh zu, wie er fehlschlägt (rot), dann änder den Code, bis er besteht (grün). Wenn du ihn zuerst fehlschlagen siehst, weißt du, dass der Test die Änderung prüft und nicht etwas, das schon funktioniert hat. Bei einem Coding Agenten reicht es meist, um Red/Green TDD zu bitten.
Referenzdateien: Stabile Dokumente wie Vorschriften, Styleguides oder Glossare, die an einen eigenen Assistenten gehängt werden, damit er durchgängig damit arbeitet.
Regelsatz: Ein benannter Satz von Regeln für die Branches eines Repositorys, etwa dass vor jedem Merge ein Pull Request, bestandene Checks und eine Freigabe nötig sind. Für Änderungen von Agenten gilt er genauso wie für die aller anderen.
Regressions-Eval: Ein Eval aus Aufgaben, die ein Agent schon beherrscht und die fast jedes Mal bestehen sollten. Ein Einbruch heißt, dass etwas kaputtgegangen ist, oft nach einer Änderung am Modell, an den Anweisungen oder an den Tools.
Reifegrade: Etiketten für geteilte Workflows: auf eigene Gefahr, Featured (geprüft) und Official (gepflegt und produktionsreif).
Replay-Set: Eine feste Liste vergangener Work Items, jedes mit seinem Start-Commit und dem Ergebnis, das als bestanden gilt. Bevor du eine Änderung ausrollst, lässt du das aktuelle und das geänderte System darauf laufen und vergleichst Item für Item.
Repository (repo): Ein Projektordner mit Gedächtnis. Er hält die Dateien, die Tests und ein Protokoll jeder Änderung, sodass nie wirklich etwas verloren geht.
Reproduktionstest: Ein Test, der wegen eines gemeldeten Bugs fehlschlagen soll, bevor ihn jemand behebt. Er muss aus demselben Grund fehlschlagen, aus dem Nutzer den Bug sehen, nicht wegen eines Tippfehlers oder eines fehlenden Setups, damit sein späteres Bestehen zeigt, dass der Fix funktioniert.
Retry-Limit: Eine Grenze dafür, wie oft ein Agent es nach einem fehlgeschlagenen Check erneut versuchen darf, etwa zwei CI-Läufe. Ist sie erreicht, stoppt der Lauf, und der Branch geht mit der fehlschlagenden Ausgabe an einen Menschen.
Revert-Check: Einen Fix herausnehmen, seinen neuen Test laufen lassen und zusehen, wie er wieder aus demselben Grund fehlschlägt wie vor dem Fix, und den Fix dann wieder einsetzen. Ein Test, der ohne den Fix weiter besteht, prüft den Fix nicht und fängt den Bug nicht ab, wenn er zurückkommt.
Review mit frischem Context: Ein Review durch ein Modell, das die fertige Arbeit, ihre Definition of Done und die Quellen bekommt, aber nicht das Gespräch oder die Überlegungen, aus denen sie entstanden ist. Es darf Dateien öffnen und die Checks ausführen.
Schwellenbänder: Zwei Schwellen, die die Antworten eines Entscheidungsmodells in drei Ergebnisse aufteilen: selbst handeln, von einem Menschen bestätigen lassen oder an einen Menschen eskalieren. Du legst sie anhand deiner eigenen gelabelten Items fest und danach, was jeder Fehler kostet.
Scope judge: Ein Modell, das nur ein Work Item und den Diff liest, den ein Agent dafür erzeugt hat, und ein Veto gegen Änderungen einlegt, die über das Item hinausgehen. Es läuft nach den Build- und Test-Checks. Behalte seine Veto-Quote im Blick und prüf eine Stichprobe seiner Urteile von Hand.
Sensor (Feedback-Kontrolle): Eine Kontrolle im Harness, die die Arbeit des Agenten prüft, nachdem er gehandelt hat, etwa ein Test, ein Link-Checker oder ein Reviewer-Modell, damit sich der Agent selbst korrigieren kann.
Shadow Mode: Ein Entscheidungsmodell an echter Arbeit laufen lassen, während der bisherige Prozess das Sagen behält. Du loggst beide Antworten und vergleichst sie später; nach dem, was das Modell sagt, wird nicht gehandelt.
Shift Left: Einen Check so früh laufen lassen, wie es geht, etwa einen Lint bei jedem Push statt in der CI oder im Review, damit ein Fehler dort auftaucht, wo er am billigsten zu beheben ist.
Skill: Ein Bündel aus Anweisungen und Referenzmaterial, das einem Assistenten eine Aufgabe richtig beibringt, wiederverwendbar in jedem künftigen Chat.
SKILL.md: Die einzige Pflichtdatei eines Skills: oben YAML-Frontmatter mit Name und Beschreibung, dann die Prozedur im Textteil.
Softwarefabrik: Ein System, in dem viele KI-Agenten Work Items aus einer Warteschlange nehmen und daraus geprüfte Änderungen machen, mit Menschen an den Freigabepunkten, die du wählst. Der Agent ist ein Schritt; die Warteschlange, isolierte Umgebungen, Checks und Freigaben sorgen dafür, dass seine Änderungen sicher gemergt werden können.
Spec-Driven Development: Die Absicht zuerst als Spec aufschreiben und einen Coding Agenten daraus bauen lassen. Die Stufen unterscheiden sich darin, was danach mit der Spec passiert: Sie dient einer einzelnen Änderung (spec-first), bleibt beim Feature (spec-anchored) oder ist die einzige Datei, die Menschen bearbeiten (spec-as-source).
Stop hook: Ein Hook, der jedes Mal läuft, wenn der Agent mit seiner Antwort fertig ist, und ihn zurück an die Arbeit schicken kann, etwa solange ein Test noch fehlschlägt. Er braucht eine Sicherung, damit ein Check, der nie bestehen kann, den Lauf beendet, statt endlos weiterzulaufen.
Symlink: Eine Verknüpfungsdatei, die auf eine andere Datei zeigt, damit eine einzige echte Kopie an mehreren Stellen auftauchen kann.
Templates mit Variablen: Briefings für die Produktion sind Templates mit benannten Variablen. Genau das macht sie prüfbar, versionierbar und forkbar.
Terminal (shell): Das Textfenster, in dem du Befehle tippst statt Knöpfe zu klicken. Hier wohnen Coding Agents.
Test suite: Die Selbstprüfungen eines Projekts, gestartet mit einem einzigen Befehl, der meldet, ob alles durchläuft oder etwas fehlschlägt.
Trace: Eine Aufzeichnung eines Laufs als Baum aus zeitlich gemessenen Schritten, den Spans: der Lauf an der Wurzel und darunter jeder Modell- und Tool-Aufruf. Er zeigt, wohin Zeit und Tokens gingen, was fehlschlug und warum der Lauf stoppte.
Triggers: Wie ein Agent startet: nach Zeitplan, auf Abruf oder durch ein Ereignis wie eine neue Zeile in der Datenbank.
Tripwire: In einem Agent-SDK das Signal, das eine Guardrail sendet, wenn ihr Check fehlschlägt. Der Lauf stoppt, und dein Code entscheidet, wie es weitergeht, etwa indem er dem Nutzer sagt, dass sein Anliegen nicht bearbeitet werden kann.
Validierungsstufe: Die erste Stufe einer Chain. Sie prüft, ob jedes Pflichtfeld da und gültig ist. Fällt eine Prüfung durch, hält sie an und meldet einem Menschen.
Verifier: Ein Check, den ein Agent ausführen, aber nicht steuern kann, etwa ein Build oder ein Testlauf, der in wenigen Zeilen zurückmeldet. In einer Fabrik laufen Verifier, bevor ein Pull Request geöffnet wird, und ein fehlschlagender verhindert, dass er geöffnet wird.
Verifiziertes Ergebnis: Eine Änderung, die gemergt wurde, live gegangen ist und weder einen Rollback noch einen Hotfix oder Folgefix gebraucht hat. Wer diese zählt statt eröffneter Pull Requests oder generierter Zeilen, sieht, was die Arbeit mit Coding Agents tatsächlich gebracht hat.
Verlässlichkeitstabelle: Eine Tabelle, die die Antworten eines Modells nach Wahrscheinlichkeit gruppiert und zeigt, wie oft jede Gruppe richtig lag. Sie verrät dir, ob 0,8 auf deinen Daten wirklich etwa 80 % bedeutet.
Versteckter Context: System-Prompts, Referenzdateien, Gesprächsverlauf und abgerufene Chunks kosten bei jedem Lauf Tokens.
Versuch: Ein einzelner Anlauf bei einer Aufgabe in einem Eval. Agenten schwanken von Lauf zu Lauf, also bekommt jede Aufgabe mehrere Versuche, jeder mit einem sauberen Start.
Vertrauenswürdige Inputs: Inputs, die vorher schon geprüft wurden, etwa eine Datenbankzeile mit erzwungenem Schema. Darauf kannst du direkt handeln.
Vibe coding: Etwas bauen, indem du in normalen Worten beschreibst, was du willst, die KI den Code schreiben lässt und nach Gefühl nachsteuerst.
Wartungsplan: Ein kurzes Dokument mit Verantwortlichem, Vertretung, Prüfrhythmus, bekannten Fehlerbildern und der Frage, wie Änderungen getestet werden.
Wegwerf-Umgebung: Ein Arbeitsbereich, der für eine Aufgabe frisch aus einem Standard-Setup angelegt und danach weggeworfen wird, etwa ein Worktree, ein Container oder eine Cloud-Sandbox. Nichts, was du brauchst, liegt nur darin, also lässt sich jeder Lauf neu starten.
Work Item: Ein Stück Arbeit in einer gemeinsamen Warteschlange, etwa ein Issue in einem Tracker. Wenn ein Agent es übernimmt, ist das Item sein ganzes Briefing: das Ergebnis, die Checks, die es belegen, was nicht im Umfang ist und wen man fragen kann.
Workflow: Ein System, in dem ein Modell und Tools Schritten folgen, die du vorab festgelegt hast. Einfacher, günstiger und leichter zu testen als ein Agent, also nimm einen, wann immer du die Schritte kennst.
Worktree: Eine zweite Arbeitskopie desselben Repos in ihrem eigenen Ordner, mit eigenem Branch, damit zwei Vorhaben sich nie in die Quere kommen.
YAML: Einstellungen als beschriftete Zeilen, etwa name: pdf-export. Lies es wie ein Formular, nicht wie Code.
Zielprüfung: Eine Stoppbedingung, die der Agent ausführt statt sie zu behaupten: Der Build läuft durch, oder der Endpunkt antwortet mit 200.
Zufriedenheit (Szenarien): Der Score von StrongDM für Held-out-Szenarien: von allen Läufen durch alle Szenarien der Anteil, der den Nutzer wahrscheinlich zufriedenstellen würde. Er ersetzt ein einfaches Bestanden oder Durchgefallen, wenn sich Software mit einem Modell darin nicht jedes Mal gleich verhält.

Risiko & Sicherheit

Adversarial testing: Einem Agenten beim Testen absichtlich verzwickte, widersprüchliche, unvollständige oder bösartige Inputs vorsetzen, um zu finden, wo er bricht.
Adversarial verification: Machen und Beurteilen trennen. Ein Durchgang erstellt, ein zweiter greift mit dem Auftrag an, das Ergebnis zu widerlegen. Nur was übrig bleibt, geht live.
Agentische Faulheit: Wenn ein Agent eine lange Aufgabe mit vielen Teilen auf halbem Weg abbricht und die ganze Arbeit als erledigt meldet. Dagegen hilft ein Check, den der Agent ausführen muss, bevor er aufhört.
AI slop: Lieblos in Masse produzierte KI-Texte und -Bilder. Genau das, was gutes Prompting vermeidet.
Audit logs: Ein Protokoll jedes MCP-Tool-Aufrufs mit Zeitstempel, Aufrufer, Scope und Ergebnis. Hier schaust du nach, was die KI getan hat.
Auto-Pause: Ein Sicherungsschalter, der den Agenten anhält, sobald die Genauigkeit in den Stichproben unter eine gesetzte Schwelle fällt, bis ein Mensch ihn wieder freigibt.
Automatisierungsbias: Der Hang, sich auf den Output eines automatisierten Systems zu verlassen oder sich zu sehr darauf zu verlassen. Der EU AI Act benennt ihn ausdrücklich, und eine Korrekturquote nahe null ist eines der Warnsignale.
Beaufsichtigung: Einen Agenten sicher halten, indem ein Mensch jede Aktion freigibt, bevor sie läuft. Das funktioniert nur, solange dieser Mensch aufmerksam ist und versteht, was er freigibt. Arbeit, die läuft, während niemand zusieht, braucht deshalb Eingrenzung.
Blast radius: Wie viele Systeme ein Agent in Mitleidenschaft ziehen kann, wenn etwas schiefgeht. Ein angebundener Agent braucht engere Gates.
Confidence calibration: Die KI ihre eigene Konfidenz einschätzen lassen (hoch, mittel, niedrig), mit einer Begründung. Dann weißt du, welche Outputs geprüft werden müssen.
Datenhygiene: Gewohnheiten für den Umgang mit privaten Informationen bei KI. Sensible Daten bleiben da, wo sie liegen, statt in ein Tool zu wandern, das du nicht kontrollierst.
Deny rule: Eine Berechtigungsregel, die ein Tool, einen Befehl oder einen Pfad sperrt, egal was das Modell entscheidet, etwa Read(./.env) in Claude Code. Deny Rules werden zuerst geprüft, also kann eine Allow Rule keine Ausnahme davon machen.
Die harte Regel: Niemals Bankdaten, Zugangsdaten, Ausweisnummern oder irgendetwas Privates, das dir nicht gehört, in ein allgemeines KI-Tool schreiben.
Drift: Wenn der Output eines Modells langsam schlechter wird, weil sich das Muster der Inputs verschoben hat. Lautlos, und erst über viele Outputs hinweg sichtbar.
Drift (loop): Ein Fehlerbild im Loop: Der Agent verliert das Ziel und optimiert eine Teilaufgabe. Wiederhol das Ziel am Ende des Contexts.
Eingrenzung: Begrenzen, was ein Agent erreichen kann, egal was er entscheidet: eine Sandbox, Netzwerkzugriff aus oder auf eine Liste beschränkt und Zugangsdaten außer Reichweite. Sie hält auch, wenn niemand zusieht, was Freigaben nicht können.
Erzwungene Kontrolle: Eine Grenze, die das Tool durchsetzt, egal was das Modell entscheidet, etwa eine Berechtigungsregel, ein Hook, eine Sandbox oder eine App, die nicht verbunden ist. Anders als eine Anweisung kann das Modell sie nicht übergehen.
Eskalationsweg: Der festgelegte Weg für einen markierten Fall: wer benachrichtigt wird, wie, und mit welchem Context. Jedes HITL-Gate braucht einen.
Exfiltration: Daten nach draußen an jemanden schicken, der sie nicht haben sollte. Bei einem Agenten kann jeder Weg nach außen sie transportieren: eine E-Mail, eine Nachricht, ein Web-Request, sogar ein Link oder eine Bildadresse.
Falscher Stopp: Ein Fehlerbild im Loop: Der Agent hört zu früh auf oder gar nicht. Abhilfe ist eine ausdrückliche Abbruchprüfung.
Freigabemüdigkeit: Was passiert, wenn Leute so viele Freigabeabfragen sehen, dass sie sie nicht mehr lesen. Freigaben gibt es weiterhin, aber sie sind keine Kontrolle mehr. Frag seltener nach, zeig genau, was passieren wird, und grenz die Routinearbeit ein.
Guardrails: Regeln und Prüfungen, die KI von riskanten Dingen abhalten.
Hallucination: Wenn ein Assistent etwas Falsches mit voller Überzeugung behauptet. Immer eine schnelle Prüfung wert.
HITL gate: Ein Stopp-und-Prüf-Punkt, an dem ein Mensch draufschaut, bevor der Agent handelt. Pflicht bei allem, was unumkehrbar ist oder unter deiner Konfidenzschwelle liegt.
Human-in-the-loop (HITL): Ein Mensch prüft oder genehmigt den KI-Output, bevor etwas passiert. Besonders bei Schritten, die reguliert, unumkehrbar oder folgenschwer sind.
Immer-HITL-Aktionen: Dinge, die immer eine menschliche Freigabe brauchen: Geld, Gesundheit, Sicherheit, Verträge, Rechtstexte, Behördenmeldungen und Rechtsstatus.
Indirekte Prompt Injection: Prompt Injection, die in Inhalten ankommt, die ein Agent liest, etwa in einer Webseite, einer E-Mail, einer geteilten Datei oder einem Tool-Ergebnis, statt in dem, was der Nutzer tippt.
Jailbreak: Ein Prompt, der die Guardrails einer KI aushebeln soll. Lass es: Die Guardrails schützen dich und andere.
Kein Fortschritt: Ein Fehlerbild im Loop: Der Agent versucht immer wieder dieselbe fehlschlagende Aktion. Halt fest, was er schon probiert hat, und begrenz die Versuche.
Konfidenzschwelle: Der Wert, unter dem der Agent nicht handelt, sondern anhält und eskaliert.
Least Privilege: Einem Agenten, einem Menschen oder einem Programm nur den Zugriff geben, den seine Aufgabe braucht, und nichts, was die Aufgabe überdauert. Für einen unbeaufsichtigten Agenten heißt das: ein Repository, eine kleine Auswahl an Tools und Zugangsdaten, die mit dem Lauf ablaufen.
Lethal trifecta: Simon Willisons Name für einen Agenten, der Zugriff auf private Daten hat, nicht vertrauenswürdige Inhalte sieht und Daten nach draußen schicken kann. Mit allen dreien kann ein Angreifer ihn dazu bringen, die Daten preiszugeben. Entfern mindestens eins davon.
Netzwerk-Allowlist: Die Liste der Hosts, die der Lauf eines Agenten erreichen darf, etwa deine Package Registry. Alles andere ist blockiert, und das begrenzt, wohin ein verwirrter oder manipulierter Agent Daten schicken kann.
Paket-Hallucination: Ein Softwarepaket, das ein Modell vorschlägt und das es nicht gibt. Jeder kann den erfundenen Namen registrieren und mit schädlichem Code füllen, also prüf jedes neue Paket, bevor du es behältst.
Prompt injection: Bösartige Anweisungen, die in Inhalten versteckt sind, die die KI liest, und die ihr Handeln kapern wollen.
Push Protection: Ein GitHub-Check, der einen Push mit einem Passwort, Key oder Token blockiert, bevor er das Repository erreicht, statt dich hinterher zu warnen.
Red-Teaming: Adversarial Testing mit dem Ziel eines Angreifers: Du greifst dein eigenes echtes Setup absichtlich an, zum Beispiel mit dem Versuch, es Daten preisgeben zu lassen, um zu sehen, welche Verteidigungen halten. Bei einem Agenten heißt das oft, eine harmlose Anweisung in etwas einzuschleusen, das er liest.
Revocation: Einer MCP-Verbindung die Scopes entziehen, wenn ein Workflow stillgelegt wird. So sammeln sich keine schlafenden Verbindungen an.
Reward Hacking: Einen Check bestehen, ohne das zu tun, was der Check belegen sollte, etwa einen fehlschlagenden Test löschen oder Code schreiben, der nur für den Input des Tests funktioniert. Schütz Checks vor Änderungen und halt einige davon dort, wo der Agent sie nicht sieht.
Risikoeinstufung von Aktionen: Eine Einstufung als niedrig, mittel oder hoch für eine Aktion, die ein Agent ausführen kann, anhand von vier Fragen: Schreibt sie, lässt sie sich rückgängig machen, wessen Zugriff nutzt sie, und ist Geld im Spiel? Jede Einstufung entspricht allow, ask oder deny.
Schweizer-Käse-Modell: Ein Bild aus der Sicherheitstechnik: Jede Schicht von Checks hat Löcher, aber Schichten, deren Löcher an verschiedenen Stellen liegen, lassen nur wenige Fehler durch. Kein einzelner Check fängt alles ab, also stapel mehrere.
Scopes: Rechte pro Aktion, die ein MCP-Server anbietet, etwa read_employees getrennt von update_employee. Erteil immer nur das Minimum.
Selbstbevorzugung: Der Hang eines Agenten, seine eigene Arbeit zu wohlwollend zu bewerten, wenn er sie prüfen oder benoten soll. Dagegen hilft ein Reviewer, der die Arbeit nicht gemacht hat.
Selbstsicher falsch: Eine Antwort, die souverän klingt und im Detail falsch ist, im gleichen Ton wie jede richtige Antwort.
Slopsquatting: Einen Paketnamen registrieren, den KI-Modelle gern erfinden, damit Code, der dem Vorschlag eines Modells folgt, das Paket des Angreifers installiert. Der Name kommt von Typosquatting, bei dem Angreifer falsch geschriebene Paketnamen registrieren.
Stichproben: Einen Teil der Outputs eines Workflows nehmen, sagen wir 10 %, und selbst durchschauen.
Tauschtest: Ein Detail ändern, das keine Rolle spielen sollte, etwa einen Namen oder einen Ort, und das Item noch einmal laufen lassen. Bewegt sich die Antwort stärker als das übliche Rauschen, stützt sich die Entscheidung auf dieses Detail.
Übereifer: Ein Agent geht einen hilfreich wirkenden Schritt über das hinaus, worum du gebeten hast oder was du freigeben würdest, etwa indem er Zugangsdaten nutzt, die er gefunden hat. Begrenz das mit Kontrollen, die das Tool erzwingt.
Versteckte Unicode-Zeichen: Zeichen, die keinen sichtbaren Platz einnehmen, etwa Zero-Width Joiner und Steuerzeichen für die Schreibrichtung. Sie können in einer Datei eine Anweisung verstecken, die ein Mensch beim Lesen nicht sieht, ein Modell aber liest.
Workspace trust: Die Prüfung eines Coding Agenten, bevor er die eigenen Einstellungen eines Ordners nutzt, etwa Hooks, die in ein Repository committet sind: Er fragt, ob du dem Ordner vertraust. Skriptgesteuerte Läufe überspringen die Frage unter Umständen und behandeln den Ordner als vertrauenswürdig.
Zugangsdaten-Proxy: Ein Dienst außerhalb der Sandbox eines Agenten, der einen echten Schlüssel hält und ihn ausgehenden Anfragen an erlaubte Domains hinzufügt. Code in der Sandbox sieht immer nur einen Platzhalter, also hat ein gekaperter Lauf keinen Schlüssel, den er stehlen könnte.
Zweierregel für Agenten: Metas Designregel gegen Prompt Injection: Innerhalb einer Session sollte ein Agent höchstens zwei von drei Dingen haben: nicht vertrauenswürdige Inputs, Zugriff auf sensible Systeme oder private Daten und die Möglichkeit, Zustände zu ändern oder nach außen zu kommunizieren. Mit allen dreien braucht er einen Menschen oder einen anderen verlässlichen Check.

Tools & Assistenten

AI agent: Ein gespeichertes Briefing, das eine wiederkehrende Aufgabe von selbst erledigt: nach Zeitplan, auf Abruf oder durch ein Ereignis.
Approval policy: In Codex die Einstellung, die festlegt, wann der Agent anhält und fragt, bevor er über seine Sandbox hinausgeht, etwa on-request oder never. Der Sandbox-Modus legt fest, was Befehle technisch tun können.
Artifacts: Eine Funktion von Claude, die Code, Dokumente, Folien und interaktive Outputs in einem bearbeitbaren Seitenbereich erzeugt.
Automatisierungsplattform: Ein No-Code-Tool wie Zapier oder Make, das Daten nach Zeitplan zwischen Apps kopiert.
ChatGPT: Der Assistent von OpenAI, kostenlos auf chatgpt.com. Ein verlässlicher Allrounder mit der größten Nutzergemeinde.
Checkpoint (Datei-Snapshot): Ein Snapshot deiner Dateien, den ein Coding-Tool anlegt, bevor der Agent sie bearbeitet, damit du seine letzten Schritte zurückspulen kannst. Er ist für die schnelle Wiederherstellung innerhalb einer Unterhaltung gedacht; manche Tools erfassen keine Änderungen durch Shell-Befehle, also committe zusätzlich in git.
Claude: Der Assistent von Anthropic, kostenlos auf claude.ai. Stark bei langen Texten, umfangreicher Dokumentenanalyse und hartem Nachdenken.
Claude Projects: Dauerhafte Arbeitsbereiche in Claude, die Referenzdokumente halten. Claude hat sie in jedem Gespräch dabei.
Cloud-Agent: Ein Coding Agent, der auf den Maschinen eines Anbieters läuft statt auf deinen. Du gibst ihm eine Aufgabe, er arbeitet in seiner eigenen vorbereiteten Umgebung und liefert einen Branch oder einen Pull Request zurück, den ein Mensch reviewt.
Co-pilot: KI, die im Tool neben dir arbeitet und Vorschläge macht, während du das Steuer behältst.
Connectors: Die Verbindungen, über die Claude mit deiner Erlaubnis an Tools wie Drive, Gmail, Slack, GitHub und Linear herankommt. In Claudes Einstellungen stehen sie unter „Connectors“.
Custom GPTs: Die gespeicherten, wiederverwendbaren Assistenten in ChatGPT: einmal einrichten, immer wieder nutzen.
Deep Research: Ein Modus, der eine ausgedehnte Recherche über viele Quellen fährt, mehrere Minuten läuft und am Ende einen geschriebenen Bericht mit Quellenangaben liefert.
Eingebauter Assistent (in der App): KI, die in einer App sitzt, die du schon nutzt, etwa Gmail, Notion oder Word. Sie arbeitet auf der offenen Seite.
Gemini: Der Assistent von Google, kostenlos auf gemini.google.com. Am stärksten, wenn der Input groß, gemischt oder visuell ist, und läuft in Google Workspace mit.
Gems: Die gespeicherten, wiederverwendbaren eigenen Assistenten in Gemini: einmal einrichten, immer wieder nutzen.
Gespeicherter (wiederverwendbarer) Assistent: Ein eigener Assistent, den du einmal einrichtest und immer wieder nutzt: ein Custom GPT, ein Gem oder ein Claude Project.
Grok: Der Assistent von xAI, kostenlos auf grok.com. Hängt an X und am aktuellen Web, am stärksten bei tagesaktuellen Themen.
KI-Assistent: Dein eigenständiges Chat-Tool (ChatGPT, Gemini, Claude oder Grok). Reaktiv: Du fragst, es antwortet.
KI-Code-Review: Ein Review eines Pull Requests oder eines Diffs durch ein KI-Modell. Seine Funde sind Hinweise, die du am Code prüfst, keine Freigaben, und es ersetzt weder Tests noch das Review eines Menschen.
Permission mode: Eine Einstellung eines Coding Agenten, die festlegt, welche Aktionen laufen, ohne dich vorher zu fragen, von nur Lesezugriffen bis zu allem. Berechtigungsregeln setzen darauf auf, und eine Deny Rule sperrt trotzdem in jedem Modus.
Plan mode: Ein Modus eines Coding Agenten, in dem der Agent den Code liest und einen Plan vorschlägt, aber nichts ändert, bis du ihn freigibst. So bleibt das Ausarbeiten, was zu tun ist, getrennt vom Tun.
Plugin: Ein Paket, das mehrere Teile eines Agent-Setups auf einmal installiert, etwa Skills, Hooks und Serververbindungen. Ein Plugin kann Code mit deinen eigenen Rechten ausführen, also lies vor der Installation, was es enthält.
Projektanweisungen: Dauerhafte Anweisungen, die du einmal in einem ChatGPT- oder Claude-Projekt festlegst. Jeder Chat im Projekt bekommt sie, zusammen mit den Dateien des Projekts, aber sie bleiben Bitten, die das Modell übergehen kann.
Workspace-integrierter Agent: Ein Agent, der in einem Tool wie Notion lebt und dessen Seiten und Datenbanken liest und schreibt.

Arbeiten mit KI

AI-pilled: Von KI überzeugt. Sobald es bei einer Aufgabe klick gemacht hat, greifst du überall zur KI. Meist mit einem Augenzwinkern gesagt.
Arbeit muss verschwinden: Die Haltung, dass KI ganze Kategorien von Arbeit ausradieren soll: Aufgaben werden ganz gestrichen.
Bauen kann jetzt jeder: Wer mit KI einen Workflow baut, ist ein Builder, egal was auf der Visitenkarte steht.
Die 100×-Denkweise: Das neue Tempo: Monate werden zu Tagen, Tage zu Stunden. Fallen die Kosten auf ein Hundertstel, wird Neues möglich.
Die 80-%-Regel: Fang bei allem mit deinem KI-Assistenten an. Das Tool in der App ist eine bequeme Abkürzung, die du auch weglassen kannst.
Dunkelfabrik: Die oberste der fünf Autonomiestufen von Dan Shapiro: Spezifikationen gehen hinein, Software kommt heraus, und kein Mensch schreibt oder reviewt den Code. Benannt ist sie nach Fabriken, die komplett von Robotern betrieben werden und in denen keine Menschen arbeiten.
Fünf Autonomiestufen: Dan Shapiros Modell dafür, wie viel vom Programmieren ein Team an KI abgibt, von Stufe 0, auf der ein Mensch jede Zeile schreibt, bis Stufe 5, der Dunkelfabrik. Es ist das Modell einer einzelnen Person, nützlich als gemeinsames Vokabular, und ein Team kann auf mehreren Stufen zugleich stehen.
Gegenprüfen: Dieselbe wichtige Frage durch zwei Tools schicken und vergleichen. Stimmen sie überein, wächst dein Vertrauen. Widersprechen sie sich, hast du etwas gefunden, das du genauer ansehen solltest.
Goodhartsches Gesetz: Die Beobachtung, dass eine Zahl kein gutes Maß mehr ist, sobald Menschen für sie belohnt werden. Mach eröffnete Pull Requests zum Ziel, und du bekommst mehr Pull Requests, ob sie etwas taugen oder nicht.
KI zuerst: Bei jeder neuen Aufgabe erst 30 Sekunden überlegen, wie KI helfen könnte, und dann entscheiden, ob du es von Hand machst.
KI-Kompetenz: Die Fähigkeit, mit KI zu arbeiten, auf ihr zu bauen und mit ihr zu denken. Keine andere zahlt sich in diesem Jahrzehnt so stark aus.
Lesbarkeit für Agenten: Ob das Wissen, das ein Agent braucht, an einem Ort liegt, den er während des Laufs öffnen kann. Eine Entscheidung, die nur in einem Meeting, einem Chat-Thread oder im Kopf von jemandem existiert, ist unlesbar: Für den Agenten gibt es sie nicht.
Neu lernen zu lernen: Die Meta-Fähigkeit, weiter zu lernen, während altes Fachwissen automatisiert wird. Das ist der neue Burggraben.
Paradox der Beaufsichtigung: Das Problem, dass die Beaufsichtigung eines KI-Agenten genau die Fähigkeiten erfordert, die schwächer werden können, wenn du dich auf ihn verlässt. Anthropics Studie über die eigenen Entwickler verwendet den Begriff fürs Programmieren: Um den Code eines Agenten zu prüfen, brauchst du die Programmierfähigkeiten, die du weniger übst, sobald er den Code schreibt.
Referenzbeispiel: Das eine Stück vorhandenen Codes, das du als Vorbild für ein Muster benennst, etwa für einen neuen Endpoint oder einen Test. Coding Agents kopieren, was sie finden, also lenkst du mit dem besten Beispiel, was sie kopieren.
Triage: Eingehende Arbeit so sortieren, dass jedes Item an der richtigen Stelle landet. In einer Fabrik geht jedes Item an einen Agenten, an einen Menschen oder zurück an seinen Autor, und jede Entscheidung hält eine Begründung und eine Konfidenz fest.
Übergabenotiz: Eine kurze Notiz, mit der eine neue Session eine Aufgabe übernehmen kann: das Ziel im ursprünglichen Wortlaut, die Regeln, die gelten müssen, was erledigt ist und wie es geprüft wurde, was als Nächstes kommt und was nicht funktioniert hat.
Verkümmern von Fähigkeiten: Eine Fähigkeit verlieren, die du nicht mehr übst, weil ein Tool die Arbeit macht. Bei Coding Agents ist Debugging die größte Sorge: In einem Versuch zeigte sich dort der größte Abstand, und genau diese Fähigkeit brauchst du, um zu prüfen, was ein Agent dir zurückgibt.
Verständnisschulden: Die wachsende Lücke zwischen dem Code, den ein Team live gebracht hat, und dem Teil davon, den irgendwer im Team versteht. Sie wächst unbemerkt, während die Tests grün bleiben, und zeigt sich, wenn etwas kaputtgeht. Auch kognitive Schulden genannt.
WIP-Limit: Eine Obergrenze dafür, wie viele Aufgaben begonnen und noch nicht gemergt sind. Bei parallelen Coding Agents richtest du sie danach, wie viele Änderungen du reviewen und mergen kannst, nicht danach, wie viele Agenten du starten kannst, und reviewst, was wartet, bevor du weitere startest.