Os desafios e os limites para a utilização da Inteligência Artificial na execução judicial foram debatidos na tarde desta quinta-feira (08), durante a 1ª Jornada do Fórum Latino-Americano, em Buenos Aires. Com o tema “Limites éticos e legais da IA na execução – responsabilidade, vieses algorítmicos e proteção de dados no processo de execução”, teve a mediação do diretor da Fenassojaf e da União Internacional dos Oficiais de Justiça (UIHJ), Malone Cunha.
O debate reuniu a Oficiala de Justiça alemã Doreen Donner, o representante da Holanda Jos Uitdhaag e o funcionário da Suprema Corte da Argentina Sebastian Chumbita, que apresentaram experiências e reflexões sobre os riscos da automatização, a necessidade de supervisão humana e a importância de estabelecer regras claras para a utilização das novas tecnologias no Poder Judiciário.
Ao abrir o painel, Malone Cunha fez referência às discussões realizadas durante o 17º Congresso Nacional dos Oficiais de Justiça Avaliadores Federais (CONOJAF), ocorrido neste ano em Brasília, e destacou que a expansão da Inteligência Artificial traz questionamentos importantes sobre a confiabilidade dos sistemas utilizados.
O diretor da Fenassojaf chamou a atenção para a falta de transparência sobre o funcionamento de determinados algoritmos e a necessidade de estabelecer limites éticos e legais para sua aplicação nos procedimentos judiciais.
“Podemos confiar que o resultado produzido por esse sistema será sempre imparcial?”, questionou.
A reflexão apresentada por Malone norteou as exposições, que abordaram a responsabilidade dos profissionais diante das decisões automatizadas e os possíveis impactos da utilização inadequada dessas ferramentas sobre os direitos dos cidadãos.
A Oficiala Doreen Donner apresentou aspectos da legislação europeia sobre Inteligência Artificial, destacando as obrigações e os cuidados necessários para a utilização dos sistemas tecnológicos na execução judicial.
Segundo ela, a adoção dessas ferramentas não pode representar a transferência da responsabilidade pelas decisões aos sistemas automatizados. Cabe ao Oficial de Justiça avaliar os resultados produzidos, garantir a rastreabilidade dos documentos e verificar se as informações utilizadas atendem aos padrões técnicos e legais exigidos.
Doreen ressaltou que os procedimentos realizados com o auxílio da Inteligência Artificial precisam estar sujeitos à revisão humana, de forma a assegurar a confiabilidade das informações e a proteção dos direitos envolvidos.
A representante alemã também enfatizou a importância da capacitação dos profissionais para compreender o funcionamento das ferramentas e identificar os limites de sua utilização.
Para ela, a legislação sobre Inteligência Artificial não modifica a essência das atribuições dos Oficiais de Justiça, mas estabelece novas responsabilidades e precauções para o exercício da atividade.
Nesse sentido, reforçou que a tecnologia deve funcionar como instrumento de apoio, mantendo o profissional no centro das decisões e da responsabilidade pelos procedimentos executórios.
Algoritmos discriminatórios e os riscos para a sociedade
Jos Uitdhaag abordou as consequências da utilização de sistemas automatizados sem a devida avaliação de seus impactos sociais.
O representante holandês explicou que a legislação sobre Inteligência Artificial não garante, por si só, que os dados utilizados por um sistema sejam corretos ou que seus resultados estejam livres de discriminação.
Como exemplo, mencionou um caso ocorrido em que a utilização de um algoritmo discriminatório em procedimentos relacionados a benefícios financeiros provocou graves consequências para milhares de famílias holandesas.
Segundo os dados apresentados, aproximadamente 26 mil famílias foram prejudicadas financeiramente, enquanto mais de mil crianças chegaram a ser afastadas de seus núcleos familiares em meio às consequências do sistema utilizado.
O episódio também provocou sofrimento emocional e diversos problemas sociais, demonstrando os riscos da utilização de ferramentas automatizadas sem mecanismos adequados de controle e revisão.
Jos Uitdhaag ressaltou que um sistema pode apresentar resultados tecnicamente consistentes e, ainda assim, produzir decisões injustas ou discriminatórias.
O representante também observou que a Inteligência Artificial pode identificar, por exemplo, a ausência de um pagamento, mas não necessariamente compreender as circunstâncias que levaram uma pessoa a deixar de cumprir determinada obrigação.
Por isso, defendeu que a avaliação das ferramentas deve considerar não apenas sua eficiência, mas também a forma como os algoritmos funcionam e os possíveis efeitos de suas conclusões.
De acordo com ele, o desafio não é apenas saber se a tecnologia funciona, mas compreender como ela funciona, para evitar problemas e desigualdades, destacou durante a exposição.
Alfabetização digital e proteção de dados na Justiça argentina
Encerrando o debate sobre o tema, Sebastian Chumbita, funcionário da Suprema Corte da Argentina, abordou os impactos da Inteligência Artificial sobre as capacidades humanas e os desafios que sua expansão representa para o futuro da Justiça.
Segundo ele, ainda será necessário compreender se a utilização crescente dessas ferramentas contribuirá para o desenvolvimento das capacidades profissionais ou provocará uma dependência excessiva dos sistemas automatizados.
Chumbita destacou que a evolução tecnológica exige uma reflexão sobre quais habilidades humanas devem ser preservadas e aprimoradas, especialmente diante da possibilidade de sistemas cada vez mais sofisticados.
Nesse contexto, apontou a alfabetização digital e tecnológica como um dos grandes desafios para o Poder Judiciário e para os profissionais envolvidos na execução.
O representante argentino também chamou a atenção para as dificuldades de compreensão das normas estabelecidas pela legislação europeia sobre Inteligência Artificial e para a necessidade de ampliar o conhecimento sobre os riscos relacionados à proteção de dados pessoais.
Ao abordar a realidade da Argentina, destacou a fragilidade da cultura de proteção de dados e os riscos de exposição dos cidadãos diante da utilização indiscriminada de ferramentas tecnológicas.
Chumbita observou, ainda, que muitos sistemas são desenvolvidos pelo Poder Judiciário sem a participação efetiva dos usuários finais, seja por limitações econômicas, seja pela ausência de políticas institucionais adequadas.
Para ele, essa realidade compromete a capacidade dos profissionais de compreender e validar os resultados apresentados pelas ferramentas.
O representante ressaltou que os sistemas de Inteligência Artificial trabalham com respostas baseadas em probabilidades, o que exige conhecimento técnico e senso crítico para evitar que informações imprecisas sejam utilizadas como verdades absolutas.
Por fim, defendeu a construção de diretrizes institucionais claras, capazes de orientar o uso das tecnologias e oferecer segurança aos profissionais.
Segundo Chumbita, a ausência dessas orientações dificulta a validação das informações pelos Oficiais de Justiça e amplia os riscos relacionados à utilização dos sistemas automatizados.
De Buenos Aires, Caroline P. Colombo