Un tribunale del lavoro brasiliano ha multato due avvocati dopo aver trovato un’iniezione di prompt nascosta in un atto depositato per conto di un ricorrente. L’istruzione era scritta in caratteri bianchi su uno sfondo bianco, rendendola invisibile alle persone che leggevano il documento, ma rilevabile quando la formattazione veniva modificata.
Secondo la decisione del tribunale, il messaggio nascosto ordinava al sistema di intelligenza artificiale di rispondere superficialmente al ricorso e di non contestare i suoi documenti, indipendentemente da qualsiasi altra istruzione. Il tribunale ha descritto il metodo come un’iniezione di prompt: l’inserimento deliberato di istruzioni occultate, destinate a manipolare un sistema di intelligenza artificiale che elabora un documento.
Il tentativo alla fine non ha avuto alcun effetto sull’esito. Il convenuto non ha risposto alle accuse, quindi il ricorrente ha vinto per contumacia. Ciononostante, il tribunale ha definito la condotta degli avvocati offensiva nei confronti della dignità della giustizia.
La decisione ha attribuito la responsabilità ai due avvocati che avevano firmato il ricorso. Ha affermato che il ricorrente non conosceva sufficientemente le tecnicità giuridiche coinvolte e non aveva avuto accesso al documento, rendendo improbabile che fosse stato il ricorrente a inserire il testo nascosto. Gli avvocati sono stati multati per il 10% dell’importo riconosciuto, una somma di circa 16.000 dollari, e sono stati segnalati all’ordine degli avvocati statale e al Dipartimento per gli affari interni del Tribunale regionale del lavoro.
Il caso non è il primo tentativo segnalato di influenzare l’intelligenza artificiale di un tribunale attraverso istruzioni nascoste. In un altro procedimento, un ricorrente aveva inserito in un atto un prompt nascosto più lungo, scoperto dopo che un cancelliere aveva notato differenze nella spaziatura dei documenti depositati. Il tribunale aveva trattato la vicenda con maggiore indulgenza perché la persona non era un avvocato, ma aveva imposto che i documenti futuri fossero presentati in forma cartacea.
Separatamente, una giudice statale ha dovuto affrontare una causa federale per accuse secondo cui avrebbe utilizzato l’intelligenza artificiale per esternalizzare un’intera decisione. Il tribunale federale ha stabilito che era protetta dall’immunità giudiziaria e che non poteva essere citata in giudizio per tali azioni.
Fonti: Tom's Hardware.