domingo, 17 de janeiro de 2021

MIGALHAS DE PESO

Publicidade

"Viés" do algoritmo: computadores induzem decisões humanas erradas?

A decisão última, ao fim e ao cabo, acabará sendo sua, nossa - afinal como bem alerta Harari, se não mantivermos esse espaço, no futuro grandes big techs poderão até votar em nosso nome, a partir de dados eventualmente coletados sobre nossa personalidade.

quinta-feira, 17 de dezembro de 2020

(Imagem: Arte Migalhas)

(Imagem: Arte Migalhas)

A tomada de decisão pelo ser humano ocorre de duas maneiras: pelo sistema cognitivo 1 e pelo sistema cognitivo 21. O primeiro é o que nos permite realizar escolhas rápidas, automáticas e intuitivas - e é neste "local" onde estão situados os vieses e as heurísticas cognitivas, ou seja, em termos simples, os atalhos mentais e extremamente associativos que proporcionam essa tomada de decisão no modo fast food.

Já o sistema cognitivo 2 é o que nos proporciona a tomada de decisão racional, baseada em custo e benefício, pensada e repensada em todos os possíveis detalhes. Logicamente, por ser tão meticuloso, o sistema 2 é devagar, preguiçoso, não gosta de ser chamado para a batalha. Segundo Daniel Kahneman, em apenas 5% das vezes que realizamos alguma escolha é que fazemos uso do sistema 2. Somos, portanto, seres muito mais intuitivos do que imaginamos.

Por óbvio, justamente por ser mais rápido e seguir por atalhos, o sistema cognitivo 1 é mais propenso a erros. A título exemplificativo, quando alguém joga na frente de outra pessoa uma cobra de brinquedo, imediatamente e de forma automática ou "sem pensar" esse indivíduo vai pular, sair correndo com o coração disparado e apenas alguns segundos depois vai perceber que se tratava de uma brincadeira. É claro que, se não fosse pelo sistema cognitivo 1, a humanidade não teria sobrevivido, pois certamente em algum momento do nosso passado já tivemos que correr de uma cobra, de um tigre ou de um búfalo - e não de mentira.

Atualmente, embora não estejamos mais correndo dos animais, passamos a perseguir o tempo, essa necessidade insaciável de resolver tudo rápido, para ontem e (ainda) com qualidade. São as metas do CNJ que devem ser batidas, são as ações que devem ser propostas, são aqueles clientes que estão esperando para ser atendidos e ver seus conflitos magicamente resolvidos em segundos - sem contar a vida social, conjugal etc. Assim, depois de passarmos por um período de ganho de experiência, para tentarmos atingir e bater todas essas metas, utilizamos muito mais o nosso sistema cognitivo 1 para a tomada de decisões do que o sistema 2. Privilegiamos, mesmo sem ter plena consciência disso, a intuição à razão.

E o que os algoritmos têm a ver com todas essas ilações? Supostamente, os algoritmos, a inteligência artificial, o aprendizado de máquina ou os "rôbos" podem nos ajudar nessa tarefa diária e indissociável da vida do ser humano que é a tomada de decisões. Em termos objetivos, "algoritmos são equações matemáticas ou outras regras lógicas para resolver um problema específico - por exemplo, para decidir uma questão binária (sim/não) ou para estimar um número desconhecido"2. De um modo geral, a tomada de decisão por algoritmos pode significar um meio de mitigar os vieses e as heurísticas cognitivas do ser humano e, por consequência, de evitar eventuais equívocos ou erros na realização de uma escolha.

Ao que parece, com o uso - já existente em grande escala - dos algoritmos, seremos capazes de "delegar" a cansativa tarefa de racionar com o sistema cognitivo 2. Poderemos, ainda, deixar a intuição de lado, nos sentirmos mais seguros ao realizar uma escolha que, por vir de um robô, deve (ou deveria) possuir mais qualidade quando comparada a um trabalho braçal. E o ganho de tempo? Em segundos temos a base construída para a tomada de uma decisão.

No entanto, quando os executivos da Amazon passaram a testar um software desenvolvido para fazer a triagem de currículos de trabalho, classificando as pessoas de uma a cinco estrelas, descobriram que o algoritmo colocava um coeficiente negativo em termos associados com mulheres. Ou seja, o algoritmo, que supostamente deveria ajudar a Amazon a recrutar novos empregados, aparentemente estava reproduzindo vieses cognitivos humanos3.

Outro exemplo, amplamente divulgado na mídia, foi o caso do programa de reconhecimento de imagens do Google Photos, que classificou pessoas negras como "gorilas". Como forma de

"resolver o problema" e não correr outros riscos, o Google simplesmente bloqueou o programa para deixar de reconhecer gorilas por completo4. Ainda, podemos citar os programas utilizados pela Justiça americana (criminal risk assessment system) para determinar o risco de reincidência em pessoas condenadas por crimes, os quais aparentemente revelaram vieses ao classificar condenados negros com o dobro de probabilidade de recidiva quando comparados com condenados brancos, mesmo quando estes possuíam antecedentes por delitos mais graves5. E, finalmente, a discussão sobre "carteis" praticados por robôs ao buscarem, comparerem e ajustarem preços dos concorrentes.

Ainda estamos no início de uma jornada de maior integração humana com a máquina para fins de tomada de decisões no campo individual e mesmo das políticas públicas a elas relacionadas. E, portanto, reguladores como CADE, ANPD, Senacon, devem estar alertas para novos problemas que surgirão dessa nova realidade de inteligência artificial6 no desenho das suas políticas públicas.7

A nova realidade regulatória exigirá uma maior integração dessas diferentes áreas do Direito Econômico, oferecendo oportunidade única para aproximação desses temas que andaram muito separados no Brasil. A verdade é que o Direito da Concorrência está umbilicalmente ligado ao Direito do Consumidor, uma vez que ambos protegem as estruturas de mercado e o bem estar dos consumidores, embora por caminhos distintos.

Por mais paradoxal que seja, ao emular os humanos, os algoritmos também podem apresentar algo análogo a "vieses", e portanto, podem precisar ser corrigidos, como nosso sistema cerebral rápido. Embora, frise-se, o uso de algoritmos é e será cada vez mais vantajoso.

Para Cass Sunstein, se o objetivo é fazer previsões mais acuradas, a utilização de inteligência artificial é benéfica, tanto para instituições públicas quanto privadas, considerando que podem "eliminar os efeitos dos vieses cognitivos"8. Em especial, cita o autor, os algoritmos podem mitigar a heurística da disponibilidade - ou seja, da tendência do ser humano em estimar probabilidades com base em quão fácil exemplos relevantes são trazidos à mente - e do otimismo irrealista ou exagerado sobre os acontecimentos

Quando as decisões são tomadas em condições de incerteza, exemplifica Sunstein, a escolha de um juiz, ainda que experiente, "pode sair significativamente pior do que a do algoritmo"9. Todavia, não há garantia de que os algoritmos evitarão por completo ou eliminarão os vieses cognitivos em todo e qualquer uso. Inclusive, os algoritmos podem ser construídos para expandir e revelar os atalhos cognitivos; ou mesmo explorar os vieses cognitivos humanos como pode acontecer no campo da publicidade e mesmo da política. Por outro lado, assim como podem demonstrar a existência dos vieses e das heurísticas, os algoritmos podem ser construídos e continuamente adequados e revisados para melhorar as decisões humanas e deixá-las livre de preconceito.

O papel do agente tomador de decisão - diante desse caminho sem volta que é a utilização de inteligência artificial - é o de não exagerar no peso que se dará à escolha baseada em algoritmo, como se o resultado apresentado pelo programa fosse uma verdade única e imutável - e cuidar também para não ser vítima de exploração de seus próprios vieses cognitivos. A decisão última, ao fim e ao cabo, acabará sendo sua, nossa - afinal como bem alerta Harari, se não mantivermos esse espaço, no futuro grandes big techs poderão até votar em nosso nome, a partir de dados eventualmente coletados sobre nossa personalidade.

_______

1- KAHNEMAN, Daniel. Rápido e devagar: duas formas de pensar. Tradução de Cássio de Arantes Leite. Rio  de Janeiro: Objetiva, 2012.

2- BAER, Tobias. Understand, Manage, and Prevent Algorithmic Bias. Apress, Berkeley, CA. online version, position 170 on kindle version. Tradução livre. No texto original: "algorithms are mathematical equations or other logical rules to solve a specific problem - for example, to decide on a binary question (yes/no) or to estimate an unknown number".

3- COWGILL, Bo; TUCKER, Catherine. Algorithmic Fairness and Economics. In preparation for The Journal of Economic Perspectives. Feb 15, 2020. Disponível em: Algorithmic Fairness and Economics. Acesso em 11 de julho de 2020.

4- Entre outros sites de notícias pesquisados para o caso, cita-se: Google apologises for Photos app's racist blunder. Acesso em 11 de julho de 2020.

5- OSOBA, Osonde; WELSER, William. An Intelligence in Our Image. Rand Corporation, Santa Monica, Calif. 2017, p. 13.

6- A inteligência artificial funciona a partir: de capacidades de processamento do computador de linguagem natural, para permitir a comunicação com sucesso; de representação do conhecimento, para armazenar o que sabe ou ouve; de raciocínio automatizado, para usar as informações armazenadas, responder às perguntas e desenhar novas conclusões; de machine learning, antes mencionada; de visão de computador, para perceber objetos; e de robótica, para eventualmente manipular objetos e movimentar-se. RUSSEL, Stuart; NORVIG, Peter. Artificial intelligence: a modern approach. 3. ed. New Jearsey: Pretice Hall/Pearson Education, 2010, p. 2-3.

7- Tanto é assim que a OCDE dedica grande preocupação no campo das políticas públicas relacionadas à economia digital ou revolução 4.0. Por exemplo: Clique aqui.

8- SUNSTEIN, Cass R. Algorithms, Correcting Biases. Preliminary draft for Social Research, 12.12.2018, p. 4.

9- SUNSTEIN, Cass R. Algorithms, Correcting Biases. Preliminary draft for Social Research, 12.12.2018, p. 8-9.

 

Atualizado em: 17/12/2020 11:51

Bianca Bez Goulart

Graduação em Direito pela UFSC (2015). Mestre em Análise Econômica do Direito pela UFSC (2018). Diretora da Associação Brasileira de Direito e Economia (ABDE). Presidente da Comissão de Análise Econômica do Direito da OAB/SC. Autora do livro "Análise Econômica do Litígio: entre acordos e ações judiciais". Advogada (Julio Muller Advogados).

Luciano Benetti Timm

Graduação em Direito pela PUC-RS (1994). Mestre (1997) e Doutor (2004) em Direito pela UFRGS, com parte dos créditos de doutoramento realizados na USP. Master of Laws (LL.M.) na Universidade de Warwick (Inglaterra) e realizou pesquisa de Pós-Doutorado na Universidade da Califórnia, Berkeley (Estados Unidos). Professor da UNISINOS, da FGV-SP e do CEDES. Foi presidente da Associação Brasileira de Direito e Economia (ABDE) e do Instituto de Direito e Economia do Rio Grande do Sul (IDERS), ex-membro do Comitê de Ciências Humanas e Sociais da Fundação de Amparo à Pesquisa do Estado do Rio Grande do Sul (FAPERGS). Ex-Secretário Nacional de Defesa do Consumidor (SENACON), órgão vinculado ao Ministério da Justiça e Segurança Pública do Governo Federal. Advogado (Carvalho, Machado e Timm Advogados)

AUTORES MIGALHAS

Busque pelo nome ou parte do nome do autor para encontrar publicações no Portal Migalhas.

Busca

AUTORES MIGALHAS VIP

Luis Felipe Salomão

Luis Felipe Salomão

Migalheiro desde 2014
Luana Tavares

Luana Tavares

Migalheira desde 2021
Flávia Pereira Ribeiro

Flávia Pereira Ribeiro

Migalheira desde 2019
Giselle Farinhas

Giselle Farinhas

Migalheira desde 2017
Fernando Salzer e Silva

Fernando Salzer e Silva

Migalheiro desde 2016
Daniele Sampaio

Daniele Sampaio

Migalheira desde 2020
Alessandra Okuma

Alessandra Okuma

Migalheira desde 2020
Ricardo Penteado

Ricardo Penteado

Migalheiro desde 2008
Abel Simão Amaro

Abel Simão Amaro

Migalheiro desde 2004
Gilberto Giusti

Gilberto Giusti

Migalheiro desde 2003
Guilherme Alberge Reis

Guilherme Alberge Reis

Migalheiro desde 2020

Publicidade