Agentic AI

Haftungsträger ist das Unternehmen, das die Agentic AI einsetzt. Das System ist kein Rechtssubjekt und kann selbst nicht haften; wer eine Leistung schuldet, schuldet sie unabhängig davon, ob ein Mensch oder ein Programm sie erbringt. Der oft genannte § 278 BGB über den Erfüllungsgehilfen trägt diese Begründung allerdings nicht ohne Weiteres — die Vorschrift spricht von Personen, und ob sie auf Software übertragbar ist, ist ungeklärt. Am Ergebnis ändert das nichts, wohl aber am Sorgfaltsmaßstab, den ein Gericht anlegt.

Eine Agentic AI bricht ab, sobald eine festgelegte Höchstzahl an Zwischenschritten oder Werkzeugaufrufen erreicht ist, ohne dass sie dem Ziel näherkommt. Herstellerleitfäden zu Agentenarchitekturen nennen genau dieses Iterationslimit als Stoppbedingung, ergänzt um feste Kontrollpunkte, an denen das System für eine Rückmeldung anhält. Fehlt eine solche Grenze, wandert ein einzelner Fehlversuch unbemerkt in immer neue Zwischenschritte weiter. Der Abbruch ist eine eingebaute Regel, kein Zeichen dafür, dass das System versagt hat.

Produktionsreife zeigt sich nicht an der Qualität einzelner Textantworten, sondern daran, ob jeder Werkzeugaufruf zuvor in einer abgeschotteten Testumgebung mit echten, aber folgenlosen Randbedingungen durchlaufen wurde. Eine Abnahme, die nur Gesprächsverläufe prüft, übersieht die eigentliche Fehlerquelle: die ausgeführte Handlung selbst. Erst der Testlauf gegen die realen Werkzeuge zeigt, ob eine Handlung tatsächlich bewirkt, was die Antwort behauptet.

Der Sicherheitskatalog von OWASP nennt in der Kategorie Excessive Agency drei Ursachen: zu viele angebundene Funktionen, zu weitreichende Berechtigungen auf den angeschlossenen Systemen und fehlende Freigabeprozesse für risikoreiche Schritte. Jede der drei wirkt unabhängig von einer konkreten Fehlfunktion – schon ihr bloßes Vorhandensein vergrößert den Schaden, den eine falsche Entscheidung anrichten kann. Als Gegenmaßnahme nennt die Quelle, Funktionen und Berechtigungen auf das Nötige zu kürzen und riskante Aktionen an eine Freigabe zu binden.