Un tribunal du travail brésilien a infligé une amende à deux avocats après avoir découvert une injection de commande dissimulée dans un document déposé au nom d’un demandeur. L’instruction était écrite en blanc sur un fond blanc, ce qui la rendait invisible pour les personnes lisant le document, mais détectable lorsque sa mise en forme était modifiée.

Selon la décision du tribunal, le message caché demandait au système d’intelligence artificielle de répondre superficiellement à la requête et de ne pas contester ses documents, quelles que soient les autres instructions. Le tribunal a décrit cette méthode comme une injection de commande : l’insertion délibérée d’instructions dissimulées destinées à manipuler un système d’IA traitant un document.

La tentative n’a finalement eu aucun effet sur l’issue de l’affaire. Le défendeur n’a pas répondu aux allégations, si bien que le demandeur a remporté l’affaire par défaut. Néanmoins, le tribunal a qualifié la conduite des avocats d’offense à la dignité de la justice.

La décision a attribué la responsabilité aux deux avocats qui avaient signé la plainte. Elle indiquait que le demandeur ne maîtrisait pas suffisamment les aspects techniques du droit concernés et n’avait pas eu accès au document, ce qui rendait peu probable qu’il ait inséré le texte caché. Les avocats ont été condamnés à une amende équivalant à 10 % de l’indemnité accordée, soit environ 16 000 dollars, et leur cas a été signalé à l’ordre des avocats de l’État ainsi qu’au service des affaires internes du tribunal régional du travail.

Cette affaire n’est pas la première tentative signalée visant à influencer l’IA d’un tribunal au moyen d’instructions dissimulées. Dans une autre procédure, un demandeur avait placé une longue instruction cachée dans un document, laquelle a été découverte après qu’un greffier a remarqué des différences dans l’espacement des documents soumis. Le tribunal a traité cette affaire avec davantage d’indulgence, car la personne n’était pas avocate, mais il a exigé que les futurs documents soient soumis sous forme imprimée.

Par ailleurs, une juge d’État a fait l’objet d’une action en justice fédérale, au motif qu’elle aurait utilisé l’IA pour sous-traiter une décision entière. Le tribunal fédéral a estimé qu’elle était protégée par l’immunité judiciaire et ne pouvait pas être poursuivie pour ces actes.

Sources: Tom's Hardware.