No coração de Manhattan, três palavras gravadas em cápsulas (“negar, defender, depor”) revelam uma história ainda mais profunda do que o assassinato brutal do CEO da UnitedHealthcare. Qual? Isso de um algoritmo de saúde que negou cuidados vitais a milhares de idosos, ignorando os conselhos dos médicos em quase todos os casos.
Uma história que parte das notícias dos últimos dias e levanta questões perturbadoras sobre o papel da tecnologia nas decisões relativas à vida e à morte.
O que aconteceu
brian thompson, 50 anos, CEO da UnitedHealthcare, uma gigante dos seguros de saúde dos EUA, foi morto em Manhattan na manhã de quarta-feira. Um assassino mascarado esperava por ele do lado de fora do Hotel Hilton, atirando em suas costas.
Sua empresa, com um volume de negócios de US$ 280 bilhões, tem sido envolvido em uma série de controvérsias, desde
investigações antitruste à acusação de ter usado um algoritmo para
negar assistência de reabilitação para pacientes gravemente doentes no início deste ano.
O algoritmo de saúde que decide quem tratar
Quando a inteligência artificial entra nas decisões sobre a vida das pessoas, a linha entre eficiência e desumanidade torna-se tênue. O algoritmo de saúde NH Prever, implementado pela UnitedHealthcare, foi projetado para agilizar as decisões de reembolso médico. Na realidade, transformou-se num sistema automatizado de recusa de tratamento, com uma taxa de “erro” de 90%.
La ação movida das famílias de dois pacientes falecidos revelou como esse algoritmo de saúde ignorou sistematicamente as avaliações dos médicos. Ainda mais perturbador é a consciência que a UnitedHealthcare estava ciente desses erros, mas continuou a usar o sistema.
A tecnologia, que deveria ser uma ferramenta de apoio, tornou-se um juiz implacável da saúde de outras pessoas, com consequências devastadoras para milhares de pacientes idosos.
Vingança contra o sistema
O assassinato do CEO brian thompson provocou reações mistas nas redes sociais. O assassino, ainda não identificado, saiu uma mensagem perturbadora nas cápsulas: um manifesto de raiva contra um sistema que coloca os algoritmos antes da humanidade.
Se para entender um assassinato é preciso uma arma, um motivo e um culpado, já temos quase tudo (inclusive uma foto do provável assassino). Quanto ao motivo, porém, como reportado The American Prospect, aproximadamente 50 milhões de clientes podem ter tido motivos para se ressentirem da UnitedHealthcare. 50 milhões de potenciais assassinos e 50 milhões de vítimas ao mesmo tempo.
É por isso que a reacção pública surpreendentemente comemorativa ao assassinato revela uma profunda crise de confiança no sistema de saúde americano. As três palavras nas conchas contam uma história de frustração sistêmica, onde a tecnologia é usada como escudo para decisões que impactam cruelmente a vida das pessoas.
O futuro da saúde automatizada
Esta história, como mencionado, levanta questões cruciais sobre o futuro da saúde. Integração da inteligência artificial no setor médico é inevitável, mas como podemos garantir que continue a ser uma ferramenta ao serviço da humanidade e não o contrário?
Um algoritmo de saúde pode processar grandes quantidades de dados e potencialmente melhorar a eficiência do sistema. Mas o caso da UnitedHealthcare também demonstra os enormes perigos de delegar completamente as decisões médicas à automação.
O desafio para o futuro será encontrar um equilíbrio entre a inovação tecnológica e a supervisão humana, garantindo que a eficiência nunca prevaleça sobre a ética e a compaixão.
Vigilância e controle na saúde moderna
O uso de algoritmos de saúde também levanta questões sobre privacidade e controle de dados médicos. Quando um sistema automatizado tem o poder de decidir sobre o destino médico de uma pessoa (ou em sua habilidade de dirigir), quem controla esse sistema? Quem garante a transparência das suas decisões?
A criação do nH Predict demonstra como a falta de supervisão pode levar a abusos sistêmicos. A tecnologia de cuidados de saúde do futuro terá de ser acompanhada por verificações e equilíbrios rigorosos.
Esta trágica história deve servir de alerta para o futuro da saúde digital. A integração da tecnologia no sistema de saúde é necessária, mas deve ser guiada por princípios éticos claros e por uma supervisão humana constante.
