MIGALHAS DE PESO

  1. Home >
  2. De Peso >
  3. "Viés" do algoritmo: computadores induzem decisões humanas erradas?

"Viés" do algoritmo: computadores induzem decisões humanas erradas?

A decisão última, ao fim e ao cabo, acabará sendo sua, nossa - afinal como bem alerta Harari, se não mantivermos esse espaço, no futuro grandes big techs poderão até votar em nosso nome, a partir de dados eventualmente coletados sobre nossa personalidade.

quinta-feira, 17 de dezembro de 2020

Atualizado às 11:51

 (Imagem: Arte Migalhas)

(Imagem: Arte Migalhas)

A tomada de decisão pelo ser humano ocorre de duas maneiras: pelo sistema cognitivo 1 e pelo sistema cognitivo 21. O primeiro é o que nos permite realizar escolhas rápidas, automáticas e intuitivas - e é neste "local" onde estão situados os vieses e as heurísticas cognitivas, ou seja, em termos simples, os atalhos mentais e extremamente associativos que proporcionam essa tomada de decisão no modo fast food.

Já o sistema cognitivo 2 é o que nos proporciona a tomada de decisão racional, baseada em custo e benefício, pensada e repensada em todos os possíveis detalhes. Logicamente, por ser tão meticuloso, o sistema 2 é devagar, preguiçoso, não gosta de ser chamado para a batalha. Segundo Daniel Kahneman, em apenas 5% das vezes que realizamos alguma escolha é que fazemos uso do sistema 2. Somos, portanto, seres muito mais intuitivos do que imaginamos.

Por óbvio, justamente por ser mais rápido e seguir por atalhos, o sistema cognitivo 1 é mais propenso a erros. A título exemplificativo, quando alguém joga na frente de outra pessoa uma cobra de brinquedo, imediatamente e de forma automática ou "sem pensar" esse indivíduo vai pular, sair correndo com o coração disparado e apenas alguns segundos depois vai perceber que se tratava de uma brincadeira. É claro que, se não fosse pelo sistema cognitivo 1, a humanidade não teria sobrevivido, pois certamente em algum momento do nosso passado já tivemos que correr de uma cobra, de um tigre ou de um búfalo - e não de mentira.

Atualmente, embora não estejamos mais correndo dos animais, passamos a perseguir o tempo, essa necessidade insaciável de resolver tudo rápido, para ontem e (ainda) com qualidade. São as metas do CNJ que devem ser batidas, são as ações que devem ser propostas, são aqueles clientes que estão esperando para ser atendidos e ver seus conflitos magicamente resolvidos em segundos - sem contar a vida social, conjugal etc. Assim, depois de passarmos por um período de ganho de experiência, para tentarmos atingir e bater todas essas metas, utilizamos muito mais o nosso sistema cognitivo 1 para a tomada de decisões do que o sistema 2. Privilegiamos, mesmo sem ter plena consciência disso, a intuição à razão.

E o que os algoritmos têm a ver com todas essas ilações? Supostamente, os algoritmos, a inteligência artificial, o aprendizado de máquina ou os "rôbos" podem nos ajudar nessa tarefa diária e indissociável da vida do ser humano que é a tomada de decisões. Em termos objetivos, "algoritmos são equações matemáticas ou outras regras lógicas para resolver um problema específico - por exemplo, para decidir uma questão binária (sim/não) ou para estimar um número desconhecido"2. De um modo geral, a tomada de decisão por algoritmos pode significar um meio de mitigar os vieses e as heurísticas cognitivas do ser humano e, por consequência, de evitar eventuais equívocos ou erros na realização de uma escolha.

Ao que parece, com o uso - já existente em grande escala - dos algoritmos, seremos capazes de "delegar" a cansativa tarefa de racionar com o sistema cognitivo 2. Poderemos, ainda, deixar a intuição de lado, nos sentirmos mais seguros ao realizar uma escolha que, por vir de um robô, deve (ou deveria) possuir mais qualidade quando comparada a um trabalho braçal. E o ganho de tempo? Em segundos temos a base construída para a tomada de uma decisão.

No entanto, quando os executivos da Amazon passaram a testar um software desenvolvido para fazer a triagem de currículos de trabalho, classificando as pessoas de uma a cinco estrelas, descobriram que o algoritmo colocava um coeficiente negativo em termos associados com mulheres. Ou seja, o algoritmo, que supostamente deveria ajudar a Amazon a recrutar novos empregados, aparentemente estava reproduzindo vieses cognitivos humanos3.

Outro exemplo, amplamente divulgado na mídia, foi o caso do programa de reconhecimento de imagens do Google Photos, que classificou pessoas negras como "gorilas". Como forma de

"resolver o problema" e não correr outros riscos, o Google simplesmente bloqueou o programa para deixar de reconhecer gorilas por completo4. Ainda, podemos citar os programas utilizados pela Justiça americana (criminal risk assessment system) para determinar o risco de reincidência em pessoas condenadas por crimes, os quais aparentemente revelaram vieses ao classificar condenados negros com o dobro de probabilidade de recidiva quando comparados com condenados brancos, mesmo quando estes possuíam antecedentes por delitos mais graves5. E, finalmente, a discussão sobre "carteis" praticados por robôs ao buscarem, comparerem e ajustarem preços dos concorrentes.

Ainda estamos no início de uma jornada de maior integração humana com a máquina para fins de tomada de decisões no campo individual e mesmo das políticas públicas a elas relacionadas. E, portanto, reguladores como CADE, ANPD, Senacon, devem estar alertas para novos problemas que surgirão dessa nova realidade de inteligência artificial6 no desenho das suas políticas públicas.7

A nova realidade regulatória exigirá uma maior integração dessas diferentes áreas do Direito Econômico, oferecendo oportunidade única para aproximação desses temas que andaram muito separados no Brasil. A verdade é que o Direito da Concorrência está umbilicalmente ligado ao Direito do Consumidor, uma vez que ambos protegem as estruturas de mercado e o bem estar dos consumidores, embora por caminhos distintos.

Por mais paradoxal que seja, ao emular os humanos, os algoritmos também podem apresentar algo análogo a "vieses", e portanto, podem precisar ser corrigidos, como nosso sistema cerebral rápido. Embora, frise-se, o uso de algoritmos é e será cada vez mais vantajoso.

Para Cass Sunstein, se o objetivo é fazer previsões mais acuradas, a utilização de inteligência artificial é benéfica, tanto para instituições públicas quanto privadas, considerando que podem "eliminar os efeitos dos vieses cognitivos"8. Em especial, cita o autor, os algoritmos podem mitigar a heurística da disponibilidade - ou seja, da tendência do ser humano em estimar probabilidades com base em quão fácil exemplos relevantes são trazidos à mente - e do otimismo irrealista ou exagerado sobre os acontecimentos

Quando as decisões são tomadas em condições de incerteza, exemplifica Sunstein, a escolha de um juiz, ainda que experiente, "pode sair significativamente pior do que a do algoritmo"9. Todavia, não há garantia de que os algoritmos evitarão por completo ou eliminarão os vieses cognitivos em todo e qualquer uso. Inclusive, os algoritmos podem ser construídos para expandir e revelar os atalhos cognitivos; ou mesmo explorar os vieses cognitivos humanos como pode acontecer no campo da publicidade e mesmo da política. Por outro lado, assim como podem demonstrar a existência dos vieses e das heurísticas, os algoritmos podem ser construídos e continuamente adequados e revisados para melhorar as decisões humanas e deixá-las livre de preconceito.

O papel do agente tomador de decisão - diante desse caminho sem volta que é a utilização de inteligência artificial - é o de não exagerar no peso que se dará à escolha baseada em algoritmo, como se o resultado apresentado pelo programa fosse uma verdade única e imutável - e cuidar também para não ser vítima de exploração de seus próprios vieses cognitivos. A decisão última, ao fim e ao cabo, acabará sendo sua, nossa - afinal como bem alerta Harari, se não mantivermos esse espaço, no futuro grandes big techs poderão até votar em nosso nome, a partir de dados eventualmente coletados sobre nossa personalidade.

_______

1- KAHNEMAN, Daniel. Rápido e devagar: duas formas de pensar. Tradução de Cássio de Arantes Leite. Rio  de Janeiro: Objetiva, 2012.

2- BAER, Tobias. Understand, Manage, and Prevent Algorithmic Bias. Apress, Berkeley, CA. online version, position 170 on kindle version. Tradução livre. No texto original: "algorithms are mathematical equations or other logical rules to solve a specific problem - for example, to decide on a binary question (yes/no) or to estimate an unknown number".

3- COWGILL, Bo; TUCKER, Catherine. Algorithmic Fairness and Economics. In preparation for The Journal of Economic Perspectives. Feb 15, 2020. Disponível em: Algorithmic Fairness and Economics. Acesso em 11 de julho de 2020.

4- Entre outros sites de notícias pesquisados para o caso, cita-se: Google apologises for Photos app's racist blunder. Acesso em 11 de julho de 2020.

5- OSOBA, Osonde; WELSER, William. An Intelligence in Our Image. Rand Corporation, Santa Monica, Calif. 2017, p. 13.

6- A inteligência artificial funciona a partir: de capacidades de processamento do computador de linguagem natural, para permitir a comunicação com sucesso; de representação do conhecimento, para armazenar o que sabe ou ouve; de raciocínio automatizado, para usar as informações armazenadas, responder às perguntas e desenhar novas conclusões; de machine learning, antes mencionada; de visão de computador, para perceber objetos; e de robótica, para eventualmente manipular objetos e movimentar-se. RUSSEL, Stuart; NORVIG, Peter. Artificial intelligence: a modern approach. 3. ed. New Jearsey: Pretice Hall/Pearson Education, 2010, p. 2-3.

7- Tanto é assim que a OCDE dedica grande preocupação no campo das políticas públicas relacionadas à economia digital ou revolução 4.0. Por exemplo: Clique aqui.

8- SUNSTEIN, Cass R. Algorithms, Correcting Biases. Preliminary draft for Social Research, 12.12.2018, p. 4.

9- SUNSTEIN, Cass R. Algorithms, Correcting Biases. Preliminary draft for Social Research, 12.12.2018, p. 8-9.

 

Bianca Bez Goulart

Bianca Bez Goulart

Graduação em Direito pela UFSC (2015). Mestre em Análise Econômica do Direito pela UFSC (2018). Diretora da Associação Brasileira de Direito e Economia (ABDE). Presidente da Comissão de Análise Econômica do Direito da OAB/SC. Autora do livro "Análise Econômica do Litígio: entre acordos e ações judiciais". Advogada (Julio Muller Advogados).

Luciano Benetti Timm

Luciano Benetti Timm

Graduação em Direito pela PUC-RS (1994). Mestre (1997) e Doutor (2004) em Direito pela UFRGS, com parte dos créditos de doutoramento realizados na USP. Master of Laws (LL.M.) na Universidade de Warwick (Inglaterra) e realizou pesquisa de Pós-Doutorado na Universidade da Califórnia, Berkeley (Estados Unidos). Professor da UNISINOS, da FGV-SP e do CEDES. Foi presidente da Associação Brasileira de Direito e Economia (ABDE) e do Instituto de Direito e Economia do Rio Grande do Sul (IDERS), ex-membro do Comitê de Ciências Humanas e Sociais da Fundação de Amparo à Pesquisa do Estado do Rio Grande do Sul (FAPERGS). Ex-Secretário Nacional de Defesa do Consumidor (SENACON), órgão vinculado ao Ministério da Justiça e Segurança Pública do Governo Federal. Advogado (Carvalho, Machado e Timm Advogados)

AUTORES MIGALHAS

Busque pelo nome ou parte do nome do autor para encontrar publicações no Portal Migalhas.

Busca