Médicos e especialistas em saúde pública se unem para pedir a suspensão da pesquisa e desenvolvimento de IA até que seja regulamentada

Um grupo internacional de médicos e especialistas em saúde pública juntou-se ao clamor por uma moratória na pesquisa de IA até que o desenvolvimento e o uso da tecnologia sejam devidamente regulamentados.

Apesar de seu potencial transformador para a sociedade, inclusive na medicina e na saúde pública, certos tipos e aplicações de IA, incluindo IA de uso geral (AGI) de autoaperfeiçoamento, representam uma “ameaça existencial para a humanidade”, alertam no jornal de acesso aberto BMJ Global Health.

Eles destacam três conjuntos de ameaças associadas ao uso indevido da IA ​​e ao fracasso contínuo em antecipar, adaptar e regular os impactos transformacionais da tecnologia na sociedade.

A primeira delas vem da capacidade da IA ​​de limpar, organizar e analisar rapidamente conjuntos de dados maciços que consistem em dados pessoais, incluindo imagens.

Isso pode ser usado para manipular o comportamento e subverter a democracia, explicam eles, citando seu papel na subversão das eleições quenianas de 2013 e 2017, nas eleições presidenciais de 2016 nos Estados Unidos e nas eleições presidenciais de 2017 na França.

“Quando combinado com a capacidade de melhorar rapidamente para distorcer ou deturpar a realidade com deep fakes, AI-driven sistemas de informação pode minar ainda mais a democracia, causando uma quebra geral na confiança ou gerando divisão social e conflito, com consequente saúde pública impactos”, afirmam.

A vigilância orientada por IA também pode ser usada por governos e outros atores poderosos para controlar e oprimir as pessoas de forma mais direta, um exemplo disso é o Sistema de Crédito Social da China, apontam eles.

Este sistema combina software de reconhecimento facial e análise de repositórios de “big data” de transações financeiras, movimentos, registros policiais e relações sociais das pessoas.

Mas a China não é o único país que desenvolve vigilância por IA: pelo menos 75 outros, “desde democracias liberais aos regimes militares, vêm expandindo tais sistemas”, destacam.

O segundo conjunto de ameaças diz respeito ao desenvolvimento de Sistemas de Armas Autônomas Letais (LAWS) — capazes de localizar, selecionar e engajar alvos humanos sem a necessidade de supervisão humana.

O LAWS pode ser anexado a pequenos dispositivos móveis, como drones, e pode ser produzido em massa de forma barata e facilmente configurado para matar “em escala industrial”, alertam os autores.

O terceiro conjunto de ameaças surge da perda de empregos que acompanhará a implantação generalizada da tecnologia de IA, com estimativas variando de dezenas a centenas de milhões na próxima década.

“Embora haja muitos benefícios em encerrar o trabalho repetitivo, perigoso e desagradável, já sabemos que o desemprego está fortemente associado a resultados e comportamentos adversos à saúde”, apontam.

Até o momento, o aumento da automação tendeu apenas a transferir renda e riqueza do trabalho para os proprietários do capital, ajudando assim a contribuir para a distribuição desigual da riqueza em todo o mundo, observam eles.

“Além disso, não sabemos como a sociedade responderá psicologicamente e emocionalmente a um mundo onde o trabalho não está disponível ou é desnecessário, nem estamos pensando muito sobre as políticas e estratégias que seriam necessárias para quebrar a associação entre desemprego e problemas de saúde”, disseram eles. destaque.

Mas a ameaça representada pelo AGI de auto-aperfeiçoamento, que, teoricamente, poderia aprender e realizar toda a gama de tarefas humanas, é abrangente, eles sugerem.

“Agora estamos tentando criar máquinas que sejam muito mais inteligentes e poderosas do que nós. O potencial de tais máquinas aplicarem essa inteligência e poder – seja deliberadamente ou não – de maneiras que possam prejudicar ou subjugar os humanos – é real e deve ser considerado.

“Se realizada, a conexão da AGI com a internet e o mundo real, inclusive por meio de veículos, robôs, armas e todos os sistemas digitais que cada vez mais administram nossas sociedades, poderia representar o ‘maior evento da história da humanidade’”, escrevem eles.

“Com crescimento exponencial na pesquisa e desenvolvimento de IA, a janela de oportunidade para evitar danos sérios e potencialmente existenciais está se fechando. Os resultados futuros do desenvolvimento de IA e AGI dependerão das decisões políticas tomadas agora e da eficácia das instituições reguladoras que projetamos para minimizar riscos e danos e maximizar benefícios”, enfatizam.

Acordo e cooperação internacional serão necessários, assim como evitar uma “corrida armamentista” mutuamente destrutiva da IA, eles insistem. E os profissionais de saúde têm um papel fundamental na conscientização e alerta sobre os riscos e ameaças representados pela IA.

“Se a IA cumprir sua promessa de beneficiar a humanidade e a sociedade, devemos proteger a democracia, fortalecer nossas instituições de interesse público e diluir o poder para que haja verificações e contrapesos eficazes.

“Isso inclui garantir a transparência e a responsabilidade das partes do complexo industrial militar-corporativo que impulsiona os desenvolvimentos da IA ​​e das empresas de mídia social que permitem que a desinformação direcionada e orientada pela IA mine nossas instituições democráticas e direitos à privacidade”, concluem.