Como se 2020 não fosse suficientemente catastrófico, uma equipa de académicos, especialistas em políticas e especialistas em IA alerta-nos para problemas no horizonte. 18, para ser mais preciso. Estas são as principais ameaças de IA com as quais devemos nos preocupar nos próximos 15 anos.
A ficção científica e a cultura popular querem que acreditemos que nossa ruína viria dos motins de robôs inteligentes. Na verdade um estudo recente in Crime Science revela que a pior ameaça terá mais a ver conosco do que com a própria inteligência artificial.
Ao avaliar as ameaças com base no dano potencial, lucratividade, viabilidade e derrota, o grupo identificou que o deepfake, uma tecnologia que já existe e está se espalhando, representa o nível de ameaça mais alto.
Deepfake, o inimigo número um
Há uma diferença fundamental entre uma revolta de robôs e uma tecnologia deepfake. O primeiro pode causar danos materiais. A segunda é sistémica: pode causar a erosão da confiança nas pessoas e na própria sociedade.
A pior ameaça de IA sempre pode parecer algo distante no futuro. Afinal, como a IA pode nos prejudicar quando Alexa não consegue nem definir corretamente um cronômetro para macarrão hoje? Shane Johnson, Diretor do Centro Dawes para Crimes Futuros da UCL, que financiou o estudo, explica que essas ameaças se tornarão cada vez mais sofisticadas e interligadas com a nossa vida diária.
“Vivemos em um mundo em constante mudança que cria novas oportunidades, boas e ruins”, avisa Johnson. “Isto torna prioritário antecipar futuras ameaças criminais, para que os decisores políticos e outras pessoas com experiência para agir possam fazê-lo antes que ocorram problemas graves.”
Os autores admitem que os julgamentos expressos neste estudo são inerentemente especulativos por natureza e influenciados por nosso cenário político e técnico atual, mas o futuro dessas tecnologias não pode ser ignorado.
Como nasceu a “playlist” das piores ameaças
Para formular suas previsões para o futuro, os pesquisadores reuniram uma equipe de 14 acadêmicos em áreas relacionadas, sete especialistas do setor privado e 10 especialistas do setor público.
Esses especialistas foram então divididos em grupos de quatro a seis pessoas e receberam uma lista de possíveis problemas que a IA poderia criar. Cenários que vão desde ameaças físicas (ataques autônomos de drones) até formas digitais de ameaças, como phishing.
Para fazer seu julgamento, a equipe considerou quatro características principais dos ataques:
Dano potencial
rentabilidade
viabilidade
vulnerabilidade
Para os especialistas, o dano do deepfake seria material, mental e até social. Eles também podem prejudicar outras inteligências artificiais (por exemplo, evitando o reconhecimento facial) ou ser frutos indiretos (por exemplo, chantagear pessoas usando um vídeo falso).
Embora estes fatores não possam ser verdadeiramente separados uns dos outros (por exemplo, os danos de um ataque podem, na verdade, depender da sua viabilidade), foi solicitado aos especialistas que considerassem o impacto destes critérios separadamente.
As pontuações dos vários grupos de especialistas foram então classificadas para determinar os ataques mais prejudiciais que poderemos ver através da IA (ou por uma IA) nos próximos 15 anos.
Mimado pela escolha
Ao comparar 18 tipos diferentes de ameaças de IA, conforme mencionado, o grupo determinou que as manipulações de vídeo e áudio na forma de deepfake são as piores ameaças de todos os tempos.
“Os seres humanos têm uma forte tendência a acreditar nos seus próprios olhos e ouvidos. É por isso que as evidências de áudio e vídeo têm tradicionalmente recebido muito crédito (e muitas vezes valor legal), apesar de uma longa história de fraude fotográfica”, explicam os autores. “Mas os desenvolvimentos recentes em aprendizagem profunda (e deepfakes) aumentaram muito as chances de geração de conteúdo falso.”
O impacto potencial dessas manipulações?
De indivíduos enganando os idosos, fazendo-se passar por um membro da família, a vídeos criados para semear a desconfiança de figuras públicas e do governo. Ataques que são difíceis para os indivíduos detectar (e até mesmo para especialistas em alguns casos) e difíceis de impedir.
Outras ameaças importantes incluem veículos autônomos usados como armas remotas. Curiosamente, o grupo julgou os robôs robóticos (pequenos robôs que podem escalar sarjetas para roubar chaves ou abrir portas para ladrões humanos) como uma das ameaças menos perigosas.
As piores ameaças de IA. Então estamos acabados?
Não, mas temos que trabalhar nisso. Em nossa imagem otimista, existe uma espécie de botão para parar todos os robôs e todos os computadores malignos.
Na realidade, a ameaça não está tanto nos próprios robôs. Está na maneira como os usamos para manipular e prejudicar uns aos outros.
