Esse congresso ocorreu dos dias 13 aos dia 15 de outubro
A minha participação se deu no painel 27 do congresso, que foi coordenado pelo professor Dennis Coitinho, que é da pós-graduação do programa de pesquisa e pós-graduação da Unisinos. Esse painel versava sobre inteligência artificial, e eu apresentei então o tema do prompt injection que são as injeções maliciosas no processo judicial brasileiro, sustentando a tese de que nós temos que passar de um paradigma de confiança cega na IA e nos documentos produzidos pelas partes no processos para um paradigma de desconfiança sistêmica no qual todo e qq documento juntado no processo judicial deve ser tratado como um documento potencialmente de risco e precisão passar por defesas técnicas adversariais com filtros de entrada e saída conforme já foi recomendado pelo Comitê de IA do Judiciário. E a conclusão que eu apresentei foi de que é necessário não só o implemento dessas defesas técnicas , esses filtros de segurança no processo, como também a revisão da deontologia da advocacia., ou seja, rever o estatuto da OAB , do código de Ética a fim de tornar punível, especificamente esta conduta de má fé processual. Que é a utilização de comandos maliciosos para ludibriar a IA do Tribunal e a IA utilizada pela outra parte.
Dentre os palestrantes deste painel estavam pessoas de várias localizades, inclusive do Brasil (RJ, RS, MG) e também da Gion[e Bissal
Vice-presidente do IARGS aborda comandos maliciosos de IA em congresso em Coimbra
O vice-presidente do Instituto dos Advogados do Rio Grande do Sul (IARGS), César Vergara de Almeida Martins Costa, também diretor do Departamento de Inteligência Artificial e Direito, participou do XI Congresso Internacional de Direitos Humanos de Coimbra, realizado de 13 a 15 de outubro, em Portugal. Em sua apresentação, abordou o uso de comandos maliciosos direcionados a sistemas de inteligência artificial no processo judicial brasileiro, prática conhecida como prompt injection.
A palestra ocorreu no painel 27, dedicado à Inteligência Artificial e coordenado pelo professor Dennis Coitinho, do Programa de Pós-Graduação em Filosofia da Unisinos, reunindo palestrantes de diferentes localidades, incluindo representantes do Rio de Janeiro, Rio Grande do Sul, Minas Gerais e Guiné-Bissau.
Durante a exposição, o Dr. César Vergara Martins Costa defendeu a substituição de um paradigma de confiança cega na inteligência artificial e nos documentos apresentados pelas partes por uma abordagem de desconfiança sistêmica. Segundo sua proposta, todo documento juntado ao processo judicial deve ser tratado como potencial fonte de risco e submetido a mecanismos técnicos de defesa contra manipulações, com filtros de entrada e saída.
Conforme relatou em sua fala, essas medidas já foram recomendadas pelo Comitê de Inteligência Artificial do Judiciário. “O objetivo é impedir que comandos maliciosos inseridos nos documentos induzam a erros ou manipulem as respostas dos sistemas de IA utilizados pelos tribunais e pela parte contrária”, advertiu.
Além da implementação de filtros de segurança, o advogado sustentou a necessidade de revisão das normas que regem os deveres éticos da advocacia. Propôs alterações no Estatuto da Advocacia e da OAB e no Código de Ética e Disciplina para prever punição específica para a inserção de comandos maliciosos destinados a ludibriar esses sistemas, conduta que caracterizou como má-fé processual.
Com o tema “Uma visão transdisciplinar”, o congresso reuniu pesquisadores de instituições de diversos países em conferências e simpósios sobre direitos humanos. O evento foi promovido pelo Centro de Direitos Humanos sediado na Faculdade de Direito da Universidade de Coimbra, em parceria com o Instituto Nacional de Pesquisa e Promoção de Direitos Humanos (INPPDH), do Brasil.
