Harry e Meghan se unem a Elon Musk contra superinteligência em IA

Centenas de figuras públicas de diferentes áreas, de ciência à política, da tecnologia ao entretenimento, e até a realeza, como Harry e Meghan, uniram-se em um raro consenso: o pedido para conter o avanço da chamada “superinteligência” artificial.

O movimento, formalizado em uma petição publicada nesta quarta-feira (22/10) pelo Future of Life Institute, alerta para os riscos de uma tecnologia que, em pouco tempo, poderia ultrapassar a capacidade cognitiva humana e escapar do controle de seus criadores.

Leia também

• Claudia Meireles

  Meghan Markle surpreende e faz revelações sobre contrato com a Netflix

• Mundo

  Elon Musk diz que foi chamado por Epstein para visitar ilha e recusou

• Negócios

  Lufthansa: inteligência artificial vai cortar 4 mil empregos até 2030

• Mundo

  Inteligência artificial como apoio emocional preocupa especialistas

O documento pede uma proibição temporária do desenvolvimento de sistemas de superinteligência, termo usado para descrever modelos de IA que não apenas igualariam, mas superariam as habilidades mentais humanas, como raciocínio abstrato, criatividade e tomada de decisão autônoma.

Segundo os organizadores, essa pausa deveria vigorar até que exista um consenso científico sólido sobre a segurança desses sistemas e apoio público suficiente para definir seus limites éticos e legais. A tecnologia poderia ultrapassar a capacidade cognitiva humana

Frente une de Elon Musk até Meghan Markle

A lista de signatários impressiona pela diversidade de nomes e espectros ideológicos. Entre os 850 apoiadores confirmados estão o bilionário Richard Branson, o cofundador da Apple Steve Wozniak e o príncipe Harry e Meghan Markle, duque e duquesa de Sussex.

Também constam nomes de peso da mídia conservadora norte-americana, como Glenn Beck e Steve Bannon, ex-estrategista-chefe da Casa Branca durante o governo Donald Trump. O pastor Johnnie Moore, líder evangélico que já atuou como conselheiro do ex-presidente, figura na lista.

De outro lado, a comunidade científica é representada por alguns dos maiores nomes da pesquisa em inteligência artificial, incluindo Yoshua Bengio e o ganhador do Prêmio Nobel Geoffrey Hinton, frequentemente chamados de “os pais da IA”. O professor Stuart Russell, da Universidade da Califórnia em Berkeley, coautor de um dos livros acadêmicos mais influentes sobre o tema, assinou o manifesto.

Entre os ex-membros do governo dos Estados Unidos que aderiram ao movimento estão Susan Rice, ex-conselheira de segurança nacional, e Michael Mullen, ex-chefe do Estado-Maior Conjunto.

Precisamos garantir que a IA não possa nos ferirYoshua Bengio

Em sua declaração, o pesquisador Yoshua Bengio destacou a urgência de estabelecer padrões éticos e técnicos antes que a tecnologia avance além da capacidade humana de controle.

“Sistemas de IA de fronteira podem superar a maioria dos indivíduos em praticamente todas as tarefas cognitivas dentro de apenas alguns anos. Para avançar com segurança em direção à superinteligência, precisamos determinar cientificamente como projetar sistemas incapazes de causar danos por desalinhamento ou por uso malicioso. Também precisamos garantir que o público tenha voz ativa nas decisões que moldarão nosso futuro coletivo”, escreveu.

Já Stuart Russell fez questão de enfatizar que o pedido não é um banimento absoluto, e sim uma exigência de “medidas de segurança proporcionais aos riscos”. Segundo ele, o manifesto representa “uma proposta para exigir salvaguardas adequadas para uma tecnologia que, segundo seus próprios desenvolvedores, tem uma chance significativa de causar a extinção humana”.

Um debate que vem ganhando força

A preocupação com o avanço descontrolado da inteligência artificial não é nova. Em março de 2023, o mesmo Future of Life Institute publicou uma petição pedindo uma pausa nos chamados “grandes experimentos de IA”, que também contou com o apoio de Elon Musk e outros pesquisadores de renome.

Embora Musk ainda não tenha assinado o novo documento, seu nome aparece no site do instituto como conselheiro externo, e o bilionário é citado por ter “chamado atenção para os riscos potenciais da IA avançada”.

O programa de pesquisa em IA do instituto começou em 2015, com uma doação inicial de US$ 10 milhões de Musk, e desde então tem se dedicado a investigar formas de garantir o uso ético e seguro da inteligência artificial.

O futuro em debate

A nova petição reforça o clima de tensão em torno da corrida global pela liderança em IA, com governos e empresas disputando a dianteira no desenvolvimento de sistemas cada vez mais sofisticados.

Críticos do documento argumentam que uma proibição poderia frear a inovação e concentrar poder em países ou empresas que ignorem a moratória. Já os defensores afirmam que é preciso agir antes que seja tarde demais, lembrando que os próprios criadores de grandes modelos de IA alertam para riscos de perda de controle, desinformação em massa e impactos sociais imprevisíveis.

Como resume um dos organizadores, o objetivo não é travar o futuro, mas garantir que ele seja seguro para todos.