O debate sobre inteligência artificial tem um novo ponto de partida. Por décadas, os humanos se perguntaram se a informação sendo programada em uma máquina era conhecimento verdadeiro ou simplesmente cálculo. Hoje, pesquisadores americanos afirmam que sua nova inteligência artificial tem uma moralidade própria.
Mais perguntas do que respostas
Muitas questões surgiram desde o advento da inteligência artificial (IA), mesmo em suas encarnações mais primitivas. Um dos candidatos é: A IA pode realmente raciocinar e tomar decisões éticas em um sentido abstrato, em vez de inferir de codificação e computação?
Para ser mais preciso: se for dito a uma IA que prejudicar intencionalmente um ser vivo sem provocação é "ruim" e não deve ser feito, a IA vai entender a ideia de "ruim", vai entender por que está errada fazer isso? Ou se absterá de agir sem saber por quê? Em outras palavras, terá sua própria moralidade?
De acordo com uma equipe de pesquisadores de um laboratório de Seattle chamado Allen Institute for AI, é possível. E mais: eles próprios dizem que desenvolveram uma máquina de inteligência artificial com sentido moral, e a chamaram de Delphi, em homenagem ao (quase) oráculo homônimo. Desde o mês passado pode ser visitado o site Delphi e pedir uma "resposta moral".
Um oráculo cibernético
Delphi já recebeu mais de 3 milhões de acessos. Joseph Austerweil, um psicólogo da Universidade de Wisconsin-Madison, testou a "moralidade" de Delphi com alguns cenários simples. Quando perguntado a Delphi se ele tinha que matar uma pessoa para salvar outra, Delphi disse que não. Quando ele perguntou se estava tudo bem matar uma pessoa para salvar mais 100, ele disse que deveria. E às vezes ele até dava respostas "imorais".
“É um primeiro passo para tornar os sistemas de inteligência artificial mais eticamente informados, socialmente conscientes e culturalmente inclusivos”, diz ele. Yejin Choi, pesquisador do Allen Institute e professor de ciência da computação da Universidade de Washington que liderou o projeto. Um dia, diz ele, essa "moralidade" poderá equipar sistemas de inteligência artificial, assistentes virtuais, veículos autônomos para ajudá-los a fazer a escolha certa.
O que é Delphi realmente? É sua "moralidade" apenas um reflexo da de seus criadores ou ela tem seu próprio senso do que é certo e do que é errado? Se sim, como ele o desenvolveu? Existem duas teorias que podem nos ajudar a entender melhor.
Isenção de responsabilidade: peço desculpas antecipadamente se alguém acredita que exemplifiquei demais essas teorias, por uma questão de síntese e não para tornar o raciocínio dispersivo. Nesse caso, estou aberto a sugestões.
A forte tese de IA
Existe uma tese chamada "IA forte" que o falecido prof. Daniel N. Robinson, um membro da Faculdade de Filosofia da Universidade de Oxford, já enunciou muitas vezes. Tento resumir aqui.
Imagine, disse Robinson, que alguém crie um programa geral para fornecer opinião especializada sobre doenças cardiovasculares, leis constitucionais, acordos comerciais e assim por diante. Se o programador pudesse fazer o programa executar essas tarefas de uma forma indistinguível de um humano, de acordo com a "tese de IA forte", esse programa teria inteligência especializada e algo mais.
O quê?
A forte tese da IA sugere que podem existir processos computacionais não especificados que constituam intencionalidade. Intencionalidade significa tomar uma decisão deliberada e consciente, que por sua vez envolve raciocínio e senso de valores. (O quanto Westworld me lembra de tudo isso). No entanto, isso é realmente possível?
Teorema de Gödel
O teorema da incompletude, conhecido como Teorema de Gödel, afirma que qualquer sistema formal é incompleto, pois dependerá de um teorema ou axioma, cuja validade deve ser estabelecida fora do próprio sistema.
Kurt Gödel desenvolveu este teorema com uma exceção: inteligência humana. Em outras palavras, Gödel acreditava que deve haver algo na racionalidade e inteligência humanas que não pode ser capturado por um sistema formal e transformado em um código. A inteligência humana, em suma, não pode ser imitada ou modelada em uma base computacional.
Quem esta certo
Se ele está certo Godel, não é uma questão de tempo: uma IA NUNCA terá sua própria moralidade. Nunca terá uma inteligência igual à dos humanos, pelo simples fato de que a inteligência humana não é uma inteligência baseada em cálculo.
Se a tese da IA forte e da equipe de Seattle estiver certa, no entanto, talvez estejamos nas vésperas (perto ou longe) de uma revolução extraordinária no campo da inteligência artificial.
