A evolução trazida pelo CNJ na regulamentação do uso da Inteligência Artificial no Poder Judiciário

O Conselho Nacional de Justiça (CNJ) publicou, no dia 25 de agosto, a resolução 332/20, inspirada na "Carta Ética Europeia sobre o uso da IA nos sistemas judiciais e seu ambiente", que visa a adoção de medidas reguladoras para um uso ético, controlado e seguro da Inteligência Artificial (IA) no âmbito do Poder Judiciário.

A edição da resolução é necessária e chega em ótimo momento, uma vez que a utilização da IA já é uma realidade no Judiciário brasileiro. Contudo, ainda existe um longo caminho de aperfeiçoamento normativo a ser percorrido para alcançar a satisfatória utilização da Inteligência Artificial pela Justiça.

Uma das preocupações do documento é a de exigir o registro dos modelos de IA junto ao CNJ, independentemente da fase em que estejam, bem como os objetivos e resultados a serem alcançados, de modo a evitar o desenvolvimento de protótipos com os "objetivos e resultados alcançados idênticos a modelo de Inteligência Artificial já existente ou com projeto em andamento".

A resolução também busca a transparência, tanto com relação aos dados utilizados para aprendizado da máquina (machine learning) - que devem ser protegidos de violações e armazenados para análise e auditoria posterior - quanto com relação à preferência de utilização de software aberto, com a divulgação pública do código para possibilitar o desenvolvimento colaborativo e facilitar a interação com outros sistemas existentes no Poder Judiciário.

Outro ponto alto é a preocupação com as generalizações indevidas nos bancos de dados dos sistemas de IA em face da realidade social do Brasil. O documento afirma que o uso da IA visa a promover o "bem-estar dos jurisdicionados e a prestação equitativa da jurisdição".

No mesmo sentido, o Capítulo II trata especificamente sobre o respeito aos direitos fundamentais, exigindo que a amostra de dados utilizada pela IA seja representativa e que preserve a igualdade, evitando discriminação de qualquer espécie.

A resolução condiciona a homologação do modelo de IA à análise de eventuais preconceitos ou generalizações em seu desenvolvimento, de modo a corrigir o problema e, em caso de impossibilidade de correção, prevê sua descontinuação.

Outra interessante aplicação do princípio da não-discriminação é a explícita menção à representatividade na composição das equipes em todas as etapas do processo de produção e desenvolvimento da tecnologia, com aplicação também às equipes de profissionais interdisciplinares, citando expressamente "gênero", "raça", "etnia", "orientação sexual", "deficiência" e "geração" como dimensões dessa representatividade.

Entretanto, é importante destacar a preocupante excludente prevista no art. 20, § 3º, que permite a dispensa do critério de diversidade na composição das equipes mediante "decisão fundamentada". O parágrafo cita como exemplo de fundamentação válida a "ausência de profissionais no quadro de pessoal dos tribunais".

É necessária uma reflexão sobre essa excludente, na medida em que, ao invés de incentivar a representatividade no âmbito dos tribunais, abre margem para manter os privilégios que moldaram a realidade social iníqua do país.

Por outro lado, a dispensa do critério de diversidade levanta algumas questões, como por exemplo: Como ocorrerá a seleção das equipes com relação a questões tão sensíveis como gênero, orientação sexual, raça, etnia, deficiência e geração? A contratação de empresas terceirizadas para as áreas interdisciplinares, como TI, considerará essas questões?

Portanto, tratando-se de questões tão sensíveis, a diversidade da composição das equipes deve ser regulamentada com extrema cautela, de modo a incentivar a promoção efetiva de diversidade e a evitar a reprodução de padrões discriminatórios.

Além disso, também merece atenção o fato de que só há duas menções a "usuário externo" na Resolução, que seria aquele que "mesmo sem ser membro, servidor ou colaborador do Poder Judiciário, utiliza ou mantém qualquer espécie de contato com o sistema inteligente", como advogados, procuradores e jurisdicionados.

A primeira menção conceitua o termo "usuário externo", enquanto a segunda determina que o usuário externo deve ser informado, por uma linguagem clara e precisa, "quanto à utilização de sistema inteligente nos serviços que lhes forem prestados".

No entanto, não há informações na resolução sobre a possibilidade de o jurisdicionado participar de discussões acerca da utilização dos recursos da IA nos serviços que lhes forem prestados, situação que parece ir de encontro aos propósitos de transparência e cooperação, não só entre usuários internos, mas destes com a sociedade civil.

Ainda assim, com a edição da resolução 332/20, o CNJ demonstra que há uma real preocupação de garantir o uso ético, responsável e transparente dessa recente tecnologia, que possui um grande potencial de colaborar com a efetiva e célere prestação jurisdicional.

_________

*Gabriel Silva Campos é graduado em Direito pelo UniCEUB e advogado da Barretto & Rost Advogados.

*Melissa Ribeiro dos Santos é graduanda em Direito pela UnB e pesquisadora associada da Barretto & Rost Advogados.