Ein brasilianisches Arbeitsgericht hat gegen zwei Anwälte eine Geldstrafe verhängt, nachdem es in einem im Namen eines Klägers eingereichten Schriftsatz eine versteckte Prompt-Injection entdeckt hatte. Die Anweisung war in weißer Schrift auf weißem Hintergrund verfasst, wodurch sie für Personen, die das Dokument lasen, unsichtbar war, aber sichtbar wurde, wenn die Formatierung geändert wurde.

Der Entscheidung des Gerichts zufolge wies die versteckte Nachricht das künstliche Intelligenzsystem an, auf den Antrag nur oberflächlich zu antworten und die darin enthaltenen Dokumente unabhängig von allen anderen Anweisungen nicht anzufechten. Das Gericht bezeichnete die Methode als Prompt-Injection: das bewusste Einfügen verborgener Anweisungen, die ein KI-System manipulieren sollen, das ein Dokument verarbeitet.

Der Versuch hatte letztlich keine Auswirkungen auf den Ausgang. Der Beklagte reagierte nicht auf die Vorwürfe, sodass der Kläger im Versäumnis gewann. Dennoch wertete das Gericht das Verhalten der Anwälte als Angriff auf die Würde der Rechtspflege.

Die Entscheidung machte die beiden Anwälte verantwortlich, die die Klageschrift unterzeichnet hatten. Darin hieß es, der Kläger sei mit den betreffenden rechtlichen Feinheiten nicht ausreichend vertraut gewesen und habe keinen Zugang zu dem Dokument gehabt, weshalb es unwahrscheinlich sei, dass der Kläger den versteckten Text eingefügt habe. Gegen die Anwälte wurde eine Geldstrafe in Höhe von 10 Prozent der zugesprochenen Summe verhängt, also etwa 16.000 US-Dollar. Außerdem wurden sie der staatlichen Anwaltskammer und der Abteilung für interne Angelegenheiten des regionalen Arbeitsgerichts gemeldet.

Der Fall ist nicht der erste bekannt gewordene Versuch, die KI eines Gerichts durch verborgene Anweisungen zu beeinflussen. In einem anderen Verfahren fügte ein Kläger einen längeren versteckten Prompt in einen Schriftsatz ein. Dieser wurde entdeckt, nachdem ein Gerichtsbediensteter Unterschiede im Zeilenabstand der eingereichten Dokumente bemerkt hatte. Das Gericht behandelte diese Angelegenheit milder, weil die betreffende Person kein Anwalt war, verlangte jedoch, dass künftige Dokumente in gedruckter Form eingereicht werden.

Unabhängig davon sah sich eine Bundesrichterin mit einer Bundesklage konfrontiert, in der ihr vorgeworfen wurde, sie habe eine KI eingesetzt, um eine vollständige Entscheidung auszulagern. Das Bundesgericht entschied, dass sie durch richterliche Immunität geschützt sei und wegen dieser Handlungen nicht verklagt werden könne.

Quellen: Tom's Hardware.