quinta-feira, 22 de outubro de 2020

MIGALHAS DE PESO

Publicidade

A evolução trazida pelo CNJ na regulamentação do uso da Inteligência Artificial no Poder Judiciário

Gabriel Silva Campos e Melissa Ribeiro dos Santos

Uma das preocupações do documento é a de exigir o registro dos modelos de IA junto ao CNJ, independentemente da fase em que estejam, bem como os objetivos e resultados a serem alcançados.

sexta-feira, 25 de setembro de 2020

t

O Conselho Nacional de Justiça (CNJ) publicou, no dia 25 de agosto, a resolução 332/20, inspirada na "Carta Ética Europeia sobre o uso da IA nos sistemas judiciais e seu ambiente", que visa a adoção de medidas reguladoras para um uso ético, controlado e seguro da Inteligência Artificial (IA) no âmbito do Poder Judiciário.

A edição da resolução é necessária e chega em ótimo momento, uma vez que a utilização da IA já é uma realidade no Judiciário brasileiro. Contudo, ainda existe um longo caminho de aperfeiçoamento normativo a ser percorrido para alcançar a satisfatória utilização da Inteligência Artificial pela Justiça.

Uma das preocupações do documento é a de exigir o registro dos modelos de IA junto ao CNJ, independentemente da fase em que estejam, bem como os objetivos e resultados a serem alcançados, de modo a evitar o desenvolvimento de protótipos com os "objetivos e resultados alcançados idênticos a modelo de Inteligência Artificial já existente ou com projeto em andamento".

A resolução também busca a transparência, tanto com relação aos dados utilizados para aprendizado da máquina (machine learning) - que devem ser protegidos de violações e armazenados para análise e auditoria posterior - quanto com relação à preferência de utilização de software aberto, com a divulgação pública do código para possibilitar o desenvolvimento colaborativo e facilitar a interação com outros sistemas existentes no Poder Judiciário.

Outro ponto alto é a preocupação com as generalizações indevidas nos bancos de dados dos sistemas de IA em face da realidade social do Brasil. O documento afirma que o uso da IA visa a promover o "bem-estar dos jurisdicionados e a prestação equitativa da jurisdição".

No mesmo sentido, o Capítulo II trata especificamente sobre o respeito aos direitos fundamentais, exigindo que a amostra de dados utilizada pela IA seja representativa e que preserve a igualdade, evitando discriminação de qualquer espécie.

A resolução condiciona a homologação do modelo de IA à análise de eventuais preconceitos ou generalizações em seu desenvolvimento, de modo a corrigir o problema e, em caso de impossibilidade de correção, prevê sua descontinuação.

Outra interessante aplicação do princípio da não-discriminação é a explícita menção à representatividade na composição das equipes em todas as etapas do processo de produção e desenvolvimento da tecnologia, com aplicação também às equipes de profissionais interdisciplinares, citando expressamente "gênero", "raça", "etnia", "orientação sexual", "deficiência" e "geração" como dimensões dessa representatividade.

Entretanto, é importante destacar a preocupante excludente prevista no art. 20, § 3º, que permite a dispensa do critério de diversidade na composição das equipes mediante "decisão fundamentada". O parágrafo cita como exemplo de fundamentação válida a "ausência de profissionais no quadro de pessoal dos tribunais".

É necessária uma reflexão sobre essa excludente, na medida em que, ao invés de incentivar a representatividade no âmbito dos tribunais, abre margem para manter os privilégios que moldaram a realidade social iníqua do país.

Por outro lado, a dispensa do critério de diversidade levanta algumas questões, como por exemplo: Como ocorrerá a seleção das equipes com relação a questões tão sensíveis como gênero, orientação sexual, raça, etnia, deficiência e geração? A contratação de empresas terceirizadas para as áreas interdisciplinares, como TI, considerará essas questões?

Portanto, tratando-se de questões tão sensíveis, a diversidade da composição das equipes deve ser regulamentada com extrema cautela, de modo a incentivar a promoção efetiva de diversidade e a evitar a reprodução de padrões discriminatórios.

Além disso, também merece atenção o fato de que só há duas menções a "usuário externo" na Resolução, que seria aquele que "mesmo sem ser membro, servidor ou colaborador do Poder Judiciário, utiliza ou mantém qualquer espécie de contato com o sistema inteligente", como advogados, procuradores e jurisdicionados.

A primeira menção conceitua o termo "usuário externo", enquanto a segunda determina que o usuário externo deve ser informado, por uma linguagem clara e precisa, "quanto à utilização de sistema inteligente nos serviços que lhes forem prestados".

No entanto, não há informações na resolução sobre a possibilidade de o jurisdicionado participar de discussões acerca da utilização dos recursos da IA nos serviços que lhes forem prestados, situação que parece ir de encontro aos propósitos de transparência e cooperação, não só entre usuários internos, mas destes com a sociedade civil.

Ainda assim, com a edição da resolução 332/20, o CNJ demonstra que há uma real preocupação de garantir o uso ético, responsável e transparente dessa recente tecnologia, que possui um grande potencial de colaborar com a efetiva e célere prestação jurisdicional.

_________

t*Gabriel Silva Campos é graduado em Direito pelo UniCEUB e advogado da Barretto & Rost Advogados.





t*Melissa Ribeiro dos Santos é graduanda em Direito pela UnB e pesquisadora associada da Barretto & Rost Advogados.

Atualizado em: 25/9/2020 08:08

AUTORES MIGALHAS

Busque pelo nome ou parte do nome do autor para encontrar publicações no Portal Migalhas.

Busca

É Autor Migalhas? Faça seu login aqui

AUTORES MIGALHAS

João Amadeus dos Santos

Migalheiro desde 2018

Roberto Beijato Junior

Migalheiro desde 2018

Alexandre Knopfholz

Migalheiro desde 2006

Cristina Ottoni Flávio

Migalheira desde 2020

Igor Kubaski

Migalheiro desde 2020

Alexandre Motta

Migalheiro desde 2008

Erika Gisele Lotz

Migalheira desde 2018

Marcos de Souza Paula

Migalheiro desde 2020

Marcelo Palma Marafon

Migalheiro desde 2008

Mírian Queiroz

Migalheira desde 2020

Publicidade