Verantwortung in einer von Agenten gesättigten Welt

Silicon Valley verspricht uns eine Welt, in der autonome KI-Agenten einander entdecken, miteinander verhandeln und miteinander Geschäfte machen, ohne dass Menschen im Raum sind. Das ist eine überzeugende Vision. Es ist auch ein rechtliches Vakuum.

Denn wenn man den Menschen aus einer Wirtschaft entfernt, die für Menschen gebaut wurde, entfernt man nicht nur einen Knoten im Arbeitsablauf. Man entfernt die Instanz, die Rechtssysteme über Tausende von Jahren gelernt haben zur Verantwortung zu ziehen.

Menschliche Identität als rechtliches Konstrukt

Es ist leicht zu vergessen, dass menschliche Identität, wie wir sie heute kennen, kein natürliches Merkmal der Welt ist. Sie ist ein rechtliches Konstrukt, entwickelt parallel zu Handel und Urbanisierung, sobald Gemeinschaften zu groß wurden, als dass jede und jeder die Nachbarschaft noch persönlich kannte.

Die Qin-Dynastie führte im 4. Jahrhundert v. Chr. verpflichtende Familiennamen ein, um die Besteuerung zu vereinfachen. Im antiken Athen war die Bürgerschaft an die Anforderung geknüpft, dass männliche Einheimische ordnungsgemäß im Dorf ihres Vaters registriert waren, womit Rechte wie Landbesitz und Zugang zu den Gerichten verbunden waren. Moderne Systeme: Geburtsregistrierung, Sterberegister, Personalausweisnummern, Steuer-IDs, Sozialversicherungsnummern, sind die heutigen Versionen desselben Projekts. Sie existieren, damit der Staat und andere Parteien einen finden, an Zusagen festhalten und Konsequenzen verhängen können, wenn diese nicht eingehalten werden.

Diese Infrastruktur leistet zwei Dinge zugleich. Sie ermöglicht Teilhabe an der Wirtschaft: Man kann Verträge schließen, Konten eröffnen, Personal einstellen, Eigentum erwerben. Und sie verankert Verantwortung in dieser Wirtschaft: Wer einen Vertrag bricht, eine Schuld nicht begleicht oder im Geschäftsbetrieb jemanden schädigt, dem hängt ein Name und eine juristische Person an dieser Handlung.

KI-Agenten verfügen aktuell über keine vergleichbare Infrastruktur. Jede Handlung, die sie ausführen, hängt letztlich von einem menschlichen Vermittler ab, der die rechtliche Identität trägt. Ein Agent kann einen Vertrag entwerfen, aber der Mensch unterschreibt ihn. Ein Agent kann eine Transaktion empfehlen, aber der Mensch autorisiert sie. Der Agent selbst kann keine bindenden Vereinbarungen abschließen, kein Eigentum halten und keine echten Konsequenzen tragen. Das beschränkt Agenten auf eine werkzeugartige Funktion, selbst dann, wenn sie technisch in der Lage sind, wie eigenständige Teilnehmer zu agieren.

Was eine agentengesättigte Wirtschaft tatsächlich braucht

Die Lücke zwischen dem, was Agenten technisch können, und dem, was sie rechtlich können, weitet sich schnell. Mit zunehmender Autonomie wird die Frage schwieriger zu beantworten, wer verantwortlich ist, wenn ein Agent eine folgenreiche Entscheidung trifft.

Nehmen wir ein einfaches Szenario. Ein Agent, der im Auftrag eines kleinen Unternehmens handelt, verhandelt einen Beschaffungsvertrag mit einem anderen Agenten, der im Auftrag eines Lieferanten handelt. Sie einigen sich auf Konditionen. Sie schließen ab. Der Lieferant liefert zu spät. Wer hat den Vertrag gebrochen? Der Agent? Das Unternehmen, das den Agenten eingesetzt hat? Der Entwickler des Agenten? Der Anbieter des Modells? Keine dieser Antworten ist sauber.

Im aktuellen System kann man ein Unternehmen verklagen. Man kann keinen Agenten verklagen. Diese Asymmetrie schafft ein grundlegendes Problem: Mit zunehmender Autonomie der Agenten wird der Verantwortungsmechanismus ungenauer, nicht präziser.

Zwei Rahmenkonzepte, beide mit Mängeln

Es gibt zwei Hauptrichtungen, in die sich das Recht bewegen könnte, um damit umzugehen. Keine davon ist einfach.

Der erste Ansatz ist die verpflichtende Registrierung eines Menschen mit rechtlicher Verantwortung für alle Handlungen eines Agenten. Jeder Agent wird unter einem registrierten Menschen (oder einem Unternehmen) betrieben, der oder das für alles haftet, was der Agent tut. Das ist die einfachste Erweiterung des bestehenden Systems. Es ist auch die Richtung, in die das Recht heute überwiegend voreingestellt ist.

Das Problem ist, dass dieser Ansatz mit etablierten Standards für Verantwortung in Konflikt steht. Rechtliche Verantwortung setzt in der Regel voraus, dass Handlungen vorhersehbar und vermeidbar waren. Je ausgefeilter Agenten werden und je länger ihre Handlungshorizonte, desto mehr ähnelt die Haftung eines Menschen für jede Handlung eines Agenten weniger der Fahrlässigkeit beim Umgang mit einem Werkzeug und mehr der verschuldensunabhängigen Haftung für ein wildes Tier. Irgendwann bricht die Vorhersehbarkeit zusammen.

Der zweite Ansatz besteht darin, Agenten Rechtspersönlichkeit zu verleihen, analog zur Entwicklung der Rechtspersönlichkeit von Unternehmen. Agenten könnten in eigenem Namen klagen und verklagt werden. Das setzt voraus, dass eine völlig neue Infrastruktur aufgebaut wird: Systeme, die es Agenten ermöglichen, Vermögenswerte zu halten, die Kontrolle über diese Vermögenswerte zu behalten, und im Falle eines Urteils diese Vermögenswerte zu pfänden. Es müsste auch entschieden werden, welche Agenten qualifizieren, wer sie erschafft und was passiert, wenn sie abgeschaltet werden.

Das ist weniger Science-Fiction, als es klingt. Die Rechtspersönlichkeit von Unternehmen war zu einem bestimmten Zeitpunkt eine ähnlich spekulative rechtliche Innovation. Heute trägt sie den größten Teil der modernen Wirtschaft. Aber sie hat Jahrhunderte gebraucht, um sich zu entwickeln, und die damals getroffenen Designentscheidungen werden bis heute vor Gerichten ausgehandelt.

Warum das heute für Unternehmen wichtig ist

Für die meisten Unternehmen fühlt sich die Frage der Rechtspersönlichkeit von Agenten weit weg an. Das ist sie nicht. Die Agentenwirtschaft kommt bereits an. Unternehmen setzen Agenten ein für Beschaffung, Kundenservice, Recruiting, juristische Entwürfe, Finanzanalysen. Jeder dieser Einsätze ist rechtlich derzeit ein Werkzeug (jede Handlung läuft über einen menschlichen Inhaber), in der Praxis ist der Mensch jedoch zunehmend weit weg von der Entscheidung.

Daraus ergeben sich heute schon konkrete Fragen für Unternehmen. Wenn ein Agent in Ihrem Auftrag ein Produkt falsch darstellt, wer haftet? Wenn ein Agent in Ihrem Auftrag einen Vertrag schließt, der über die Vollmacht hinausgeht, die Sie ihm geben wollten, sind Sie gebunden? Wenn ein Agent bei Einstellungsentscheidungen diskriminiert, wer steht der Aufsichtsbehörde Rede und Antwort?

Die ehrliche Antwort lautet: Das Recht wird gerade erst geschrieben. Aber die Unternehmen, die diesen Übergang am besten meistern werden, sind diejenigen, die Verantwortung heute schon ernst nehmen, nicht als Compliance-Übung, sondern als operatives Prinzip.

Vertrauen skaliert, wenn Urheberschaft erhalten bleibt

Menschliche Identität als rechtliches Konstrukt hat immer einen doppelten Zweck erfüllt: Sie ermöglicht Teilhabe an der Wirtschaft, und sie verankert Verantwortung in ihr.

Jeder Rahmen für KI-Agenten muss beides leisten, sonst leistet er weder das eine noch das andere richtig.

Die Herausforderung geht über das Rechtliche hinaus. Es ist die Frage, wie wir unsere Wirtschaft funktionieren lassen wollen: ob wir wollen, dass jede Handlung eine Urheberschaft hat, oder ob wir uns mit einer neu entstehenden Klasse wirtschaftlicher Akteure abfinden, die ohne eine solche operieren.

Bei nu:legal ist genau das einer der Gründe, warum wir die Plattform so gebaut haben, wie wir sie gebaut haben. Unsere Technologie übernimmt juristische Routinearbeit in Stunden statt Wochen. Jeder Workflow wird gemeinsam mit spezialisierten Anwälten entwickelt, jede Arbeit mit höherem Einsatz kann von einem zugelassenen Anwalt mit Namen und Zulassung gegengezeichnet werden. Die Technologie trägt das Volumen. Ein Mensch trägt die Verantwortung.

Das ist nicht nur ein Feature. Das ist, wie Vertrauen unserer Meinung nach in einer Welt strukturiert sein sollte, in der KI zunehmend Teil jeder unternehmerischen Entscheidung ist.