A nova pesquisa realizada por cientistas de dados da Universidade da Geórgia é paradoxal.
Apesar da crescente preocupação com a intrusão de algoritmos na vida quotidiana, as pessoas podem estar mais dispostas a confiar num computador do que os seus pares, especialmente se uma tarefa se tornar desafiante.
Desde a escolha da próxima música na lista de reprodução até a escolha do tamanho certo de calças, as pessoas estão cada vez mais contando com os conselhos de algoritmos para tomar decisões diárias e simplificar suas vidas.
Pergunte ao algoritmo
“Algoritmos são capazes de realizar um grande número de tarefas, número que se expande praticamente a cada dia”, afirma Eric Bogert do Departamento de Sistemas de Informação Gerencial do Terry College of Business.
Parece haver uma tendência para confiar em algoritmos à medida que uma tarefa se torna mais difícil, e esse efeito é mais forte do que a tendência para confiar nos conselhos de outras pessoas.
Bogert trabalhou com o professor de sistemas de informação de gestão Rick watson e o professor assistente Aaron Schecter em um papel publicado hoje na revista Nature's Scientific Reports.
o estudo
A pesquisa envolveu 1.500 pessoas e faz parte de um corpo maior de trabalho que analisa como e quando as pessoas interagem com algoritmos para processar informações e tomar decisões.
Para este estudo, a equipa pediu aos voluntários que contassem o número de pessoas numa fotografia de uma multidão, apoiando sugestões geradas por um grupo de outras pessoas e sugestões geradas por um algoritmo.
À medida que o número de pessoas na fotografia aumentava, a contagem tornou-se mais difícil e as pessoas começaram a seguir a sugestão gerada pelo algoritmo em vez de se contarem ou seguirem as sugestões de outras pessoas.
Algoritmos nos quais você pode confiar
Schecter explicou que escolher contar como uma tarefa de teste foi importante porque o número de pessoas na foto torna a tarefa objetivamente mais difícil à medida que aumenta. É também o tipo de negócio no qual todos esperam que os computadores sejam bons.
Essa é uma tarefa na qual as pessoas percebem que um computador é bom, embora possa ser mais sujeito a distorções do que contar objetos.
Aaron Schecter
O vício é um risco
“Um dos problemas comuns da IA é quando ela é usada para conceder crédito ou aprovar empréstimos. Há muitos parâmetros a serem considerados (por exemplo, renda ou “pontuação de crédito”): isso o torna um bom trabalho para um algoritmo.
No entanto, a dependência de algoritmos é um risco. Digo mais: pode ser ruim para mim. Porque leva a práticas discriminatórias, talvez devido a fatores sociais que não são considerados.
Você sem dúvida já ouviu falar dos algoritmos de reconhecimento facial, e como foram indiciados. Seu uso revelado preconceitos culturais na forma como foram construídos, o que pode causar imprecisões ao comparar rostos com identidades ou selecionar candidatos qualificados.
Vieses que podem não estar presentes em atividades como contagem, no entanto, é importante entender como as pessoas contam com algoritmos para tomar decisões.
Confiança mútua
Este estudo, como mencionado, fez parte do programa de pesquisa mais amplo de Schecter sobre colaboração homem-máquina, financiado pelo Escritório de Pesquisa do Exército dos EUA.
O objetivo final é observar grupos de humanos e máquinas tomando decisões e descobrir como podemos fazer com que eles confiem uns nos outros e como isso muda o seu comportamento.
Como há pouquíssimas pesquisas nesse contexto, os pesquisadores começaram praticamente do zero. Schecter, Watson e Bogert estão atualmente estudando como as pessoas confiam em algoritmos para fazer julgamentos criativos e morais. Entre os exemplos? Escreva passagens descritivas ou estabeleça fiança para prisioneiros.
