Delaware erwägt, von KI geführte Unternehmen mit nur einer beteiligten Person zuzulassen

Delaware erwägt ein Gesetz, das es einem Unternehmen der Künstlichen Intelligenz, kurz AIC, erlauben würde, ein Unternehmen zu gründen und zu betreiben, bei dem die Entscheidungsfindung von KI-Agenten übernommen wird und nur eine einzige Person beteiligt ist. Der Vorschlag zieht die Aufmerksamkeit von Mitgliedern des US-Kongresses auf sich, die hinterfragen, wie die Verantwortung zugewiesen würde, falls ein von KI geführtes Unternehmen Schaden verursachen sollte.

Der Bundesstaat ist bereits für unternehmensfreundliche Regelungen bekannt, darunter unter bestimmten Umständen günstige Steuerregelungen und spezialisierte Gerichte. Befürworter des Vorschlags argumentieren, dass er Delaware dabei helfen könnte, rechtliche Sicherheit für Unternehmen zu schaffen, die auf agentischer KI basieren, und zu verhindern, dass solche Unternehmen ins Ausland abwandern.

Nach dem Gesetzentwurf könnte ein von KI geführtes Unternehmen jedes rechtmäßige Geschäft außer Bankgeschäften betreiben. Zunächst würde es in eine 30-monatige regulatorische Sandbox aufgenommen, während derer der KI-Agent Geschäftsentscheidungen treffen könnte, während das Konzept erprobt wird. Das Unternehmen könnte Klage einreichen und könnte wie andere Unternehmen auch verklagt werden.

Der Vorschlag hat die Aufmerksamkeit des House Oversight Committee auf sich gezogen. Dessen Vorsitzender, der republikanische Abgeordnete James Comer, schrieb dem Gouverneur von Delaware, Matt Meyer, und forderte Sicherheitsprüfungen. Comer warnte, dass der Rahmen möglicherweise mächtige KI-Unternehmen und deren Investoren vor der Verantwortung für rücksichtslose oder schädliche Handlungen schützen könnte. Er deutete außerdem an, dass ein Bundesgesetz folgen könnte, falls die Prüfungen keine zufriedenstellenden Ergebnisse hervorbringen.

Rechtsexperten haben Bedenken geäußert, dass das Gesetz einen übermäßig weitreichenden Haftungsschutz schaffen könnte. Andrew Baker, Professor für Rechtswissenschaften an der University of California, sagte der Financial Times, der Gesetzentwurf könnte darauf abzielen, rechtliche Sicherheit für in Delaware registrierte Unternehmen zu schaffen, die KI-Agenten einsetzen. Er erklärte jedoch, ein großzügiger Haftungsschutz sei ohne eine klar ausgearbeitete politische Begründung nur schwer zu rechtfertigen.

Im Mittelpunkt der Debatte steht der Unterschied zwischen herkömmlichen Kapitalgesellschaften und von KI gesteuerten Unternehmen. Unternehmensstrukturen können die persönliche Haftung begrenzen, doch traditionelle Unternehmen werden letztlich von Menschen geführt, die für ihre Entscheidungen verantwortlich bleiben. Ein KI-Agent verfügt über keine gleichwertige persönliche oder moralische Verantwortung, sodass der Gesetzentwurf festlegen muss, wie die Haftung behandelt würde, wenn ein autonomes System eine schädliche Entscheidung trifft.

Quellen: TechRadar.