Recomendações para o uso de inteligência artificial no Judiciário

[:en]In civil, commercial and administrative law, the processing of judicial decisions can, for example, contribute with predictability in the application of the law, uniformity and consistency in the decisions of the Courts.[:pt]No direito civil, comercial e administrativo, o processamento de decisões judiciais pode, por exemplo, contribuir com previsibilidade na aplicação do direito, uniformidade e coerência nas decisões dos Tribunais.[:]

A Comissão Europeia para a Eficiência da Justiça (CEPEJ), criada em 2002, possui o objetivo de aprimorar a eficiência e o funcionamento do Poder Judiciário nos Estados-membros, por meio da definição de instrumentos, métricas de avaliação e elaboração de documentos. A CEPEJ é responsável, dentre outras tarefas, por analisar os resultados dos sistemas judiciais, identificar as dificuldades por eles encontradas, promover assistência e fixar meios concretos para melhorar a avaliação dos resultados e o funcionamento desses sistemas.

Nesse contexto, em dezembro de 2018, adotou o documento “European Ehtical Charter on use of artificial intelligence in judicial systems”, que anuncia conjunto de princípios aptos a guiarem formuladores de políticas públicas, legisladores, profissionais jurídicos, atores públicos e privados responsáveis pelo design e desenvolvimento de sistemas de Inteligência Artificial (IA) envolvendo o processamento de decisões e dados judiciais.

Esse instrumento escrito se estrutura segundo premissas de incentivo ao uso de IA no Poder Judiciário, conformidade com as normas de proteção aos direitos humanos e proteção de dados pessoais, respeito aos direitos fundamentais das pessoas e às exigências de transparência, imparcialidade, equidade, avaliação por especialistas independentes e regularidade certificada.

Isto se explica, segundo a CEPEJ, pela multiplicidade de usos dos sistemas de IA no espaço judicial. No direito civil, comercial e administrativo, o processamento de decisões judiciais pode, por exemplo, contribuir com previsibilidade na aplicação do direito, uniformidade e coerência nas decisões dos Tribunais. Todavia, em matéria penal, o risco de discriminação ligado a utilização de conjunto de dados pouco representativo além do tratamento de dados sensíveis, obrigatoriamente deve ser mitigado, de maneira a se garantir um julgamento justo.

Por isso, uma das discussões nas pesquisas sobre IA e direito é a proposta de uma diretriz que informe adequadamente os jurisdicionados acerca da utilização dessa tecnologia no seu caso, o que implica em transmitir as características do processo de tomada de decisão pela IA, riscos e consequências, de maneira que o sujeito possa optar conscientemente por autorizar ou não esse uso.

Esse instrumento escrito se divide na apresentação dos princípios, percepção do estado de uso da IA no Poder Judiciário dos Estados-membros, aplicações possíveis derivadas de IA nos sistemas judiciais europeus e glossário.

Os princípios se estruturam em cinco eixos:

1. Respeito aos direitos fundamentais: exigência de que nas etapas de projeto e treinamento sejam inseridas nos sistemas de IA (aplicações que envolvam processamento de decisões judiciais e dados; solução de conflitos; auxílio na tomada de decisões; e orientações ao público) regras que proíbam violações diretas ao âmbito de proteção deste princípio, o qual engloba a legislação sobre direitos fundamentais e proteção de dados pessoais e os princípios de independência dos juízes e do Estado Democrático de Direito.
2. Não-discriminação: os atores envolvidos no desenvolvimento dos sistemas de IA devem garantir a capacidade de os métodos de processamento de dados não reproduzirem ou agravarem discriminações proibidas, especialmente quando baseados direta ou indiretamente em dados sensíveis, em conjunto com a existência de medidas corretivas para mitigar ou neutralizar esses riscos, além de conscientizar as partes interessadas.

O conjunto de dados utilizado para treinamento dos sistemas de IA precisar ser suficientemente representativo quanto a dimensões diversificadas (etnia, gênero, opiniões políticas, crenças religiosas ou filosóficas, orientação sexual, entre outras), bem como conservar as informações relativas a essa fase, de modo a assegurar a avaliação por terceiros independentes e a identificação das decisões tomadas por esse tipo de tecnologia.

3. Qualidade e segurança: recomendações para – a formação de equipes multidisciplinares, envolvendo profissionais jurídicos e pesquisadores nas áreas de direito e ciências sociais, visando a produção de modelos funcionais; o uso de fontes certificadas para acesso às decisões judiciais, as quais não podem ser modificadas até o processamento pelo sistema de IA, proporcionando transparência quanto a inexistência de alteração no conteúdo ou significado da decisão judicial que está sendo processada; e o armazenamento de modelos e algoritmos em ambiente seguro, objetivando integridade e intangibilidade do sistema.
4. Transparência, imparcialidade e equidade: os objetivos desse princípio relacionam-se a compreensão pelos usuários dos resultados que são produzidos pela IA (em linguagem clara e familiar) e a possibilidade de auditoria dos métodos de processamento de dados. Para tanto, recomenda-se o fornecimento de subconjuntos de informações sobre o algoritmo (natureza dos serviços oferecidos, ferramentas desenvolvidas, variáveis em uso, dados de treinamento, riscos de erro); o desenvolvimento de mecanismos que reduzam o viés (atitudes discriminatórias em relação às pessoas humanas) por meio de mais diversidade nos conjuntos de dados e nas abordagens; e a priorização dos interesses da Justiça.
5. Sob o controle do usuário: se refere ao aumento da autonomia dos usuários; importância dos profissionais do Poder Judiciário (possibilidade de revisão das decisões judiciais e dados utilizados para produzir resultados); disponibilização de informação clara e compreensível (processamento prévio por IA antes ou durante o processo judicial, com direito de rejeição; caráter vinculativo ou não das soluções baseadas em IA; diferentes opções disponíveis; direitos ao aconselhamento jurídico e acesso à justiça); e participação obrigatória dos sujeitos que integram os sistemas de justiça.

No cenário internacional é perceptível a existência de sistemas de IA com aplicações variadas associadas direta ou indiretamente aos sistemas de justiça: identificação de probabilidades êxito ou fracasso de processo perante um Tribunal; estimativas da quantia de compensação a ser recebida; suporte a decisões judiciais; avaliação das chances de reincidência de pessoa humana; mecanismos avançados de pesquisa jurisprudencial; descoberta de padrões em decisões judiciais tomadas por julgadores individuais e/ou órgãos colegiados; assistentes virtuais para informar os jurisdicionados ou apoiá-los em processos legais; elaboração de estatísticas provisórias sobre a gestão de recursos humanos e financeiros no Poder Judiciário.

Essa realidade aumenta a importância quanto ao debate regulatório das soluções de IA aplicadas ao Poder Judiciário, bem como subsidiou a classificação das aplicações possíveis derivadas de IA feita pela CEPEJ, a qual divide-se em:

1. Usos para serem encorajados: jurisprudência, acesso à justiça, criação de novas ferramentas estratégicas.
2. Aplicações que requerem precauções metodológicas: elaboração de escalas em litígios cíveis, apoio aos métodos adequados de solução de conflitos, “online dispute resolution”, uso de algoritmos na investigação criminal.
3. Utilizações que demandam estudos científicos: análise das decisões de cada julgador, análise preditiva de decisões judiciais.
4. Usos para serem considerados com as reservas mais extremas: algoritmos em questões criminais para criar perfis de indivíduos, disponibilizar a síntese de todas as decisões já tomadas como fundamento a ser utilizado em futuras decisões.

Espera-se, portanto, que a pauta do debate regulatório seja orientada pela busca pelo equilíbrio entre inovação, benefícios amplos à sociedade, proteção de direitos fundamentais e valores democráticos e organizada por intermédio do diálogo, participação e negociação com todas as partes interessadas.

Por: Wilson Sales Belchior

Fonte: Portal Migalhas

https://www.migalhas.com.br/depeso/330932/recomendacoes-para-o-uso-de-inteligencia-artificial-no-judiciario