Grupo de especialistas pede pausa da IA citando “riscos para a sociedade”

Por Jyoti Narayan, Krystal Hu, Martin Coulter e Supantha Mukherjee

REUTERS – Elon Musk e um grupo de especialistas em inteligência artificial e executivos do setor estão pedindo uma pausa de seis meses no desenvolvimento de sistemas mais poderosos do que o recém-lançado GPT-4 da OpenAI, em uma carta aberta citando riscos potenciais para a sociedade.

No início deste mês, a OpenAI, apoiada pela Microsoft, revelou a quarta iteração de seu programa de IA GPT (Generative Pre-trained Transformer), que impressionou os usuários ao envolvê-los em conversas humanas, compondo músicas e resumindo longos documentos.

“Sistemas poderosos de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão gerenciáveis”, disse a carta emitida pelo Future of Life Institute.

A organização sem fins lucrativos é financiada principalmente pela Musk Foundation, bem como pelo grupo Founders Pledge, com sede em Londres, e pela Silicon Valley Community Foundation, de acordo com o registro de transparência da União Europeia.

“A IA me estressa”, disse Musk no início deste mês. Ele é um dos co-fundadores da líder do setor OpenAI e sua montadora Tesla (TSLA. O) usa IA para um sistema de piloto automático.

Musk, que expressou frustração com os reguladores críticos dos esforços para regular o sistema de piloto automático, procurou uma autoridade reguladora para garantir que o desenvolvimento da IA atenda ao interesse público.

“É… profundamente hipócrita para Elon Musk assinar, dado o quanto a Tesla lutou contra a responsabilização pela IA defeituosa em seus carros autônomos”, disse James Grimmelmann, professor de direito digital e de informação da Universidade de Cornell.

“Uma pausa é uma boa ideia, mas a carta é vaga e não leva os problemas regulatórios a sério.”

No mês passado, a Tesla teve que recolher mais de 362.000 veículos dos EUA para atualizar o software depois que os reguladores dos EUA disseram que o sistema de assistência ao motorista poderia causar acidentes, levando Musk a twittar que a palavra “recall” para uma atualização de software over-the-air é “anacrônica e simplesmente errada!”

‘Em menor número, mais esperto, obsoleto’

A OpenAI não respondeu imediatamente a um pedido de comentário sobre a carta aberta, que pediu uma pausa no desenvolvimento avançado de IA até que protocolos de segurança compartilhados fossem desenvolvidos por especialistas independentes e pediu aos desenvolvedores que trabalhassem com os formuladores de políticas em governança.

“Devemos deixar as máquinas inundarem nossos canais de informação com propaganda e inverdade? … Devemos desenvolver mentes não humanas que possam eventualmente superar em número, superar, obsoletas e nos substituir?”, perguntou a carta, dizendo que “tais decisões não devem ser delegadas a líderes de tecnologia não eleitos”.

A carta foi assinada por mais de 1.000 pessoas, incluindo Musk. Sam Altman, executivo-chefe da OpenAI, não estava entre os que assinaram a carta. Sundar Pichai e Satya Nadella, CEOs da Alphabet e da Microsoft, também não estavam entre os que assinaram.

Os cossignatários incluíram o CEO da Stability AI, Emad Mostaque, pesquisadores da DeepMind, de propriedade da Alphabet, e os pesos-pesados da IA, Yoshua Bengio, muitas vezes referidos como um dos “padrinhos da IA”, e Stuart Russell, um pioneiro da pesquisa no campo.

As preocupações surgem quando o ChatGPT atrai a atenção dos legisladores dos EUA com perguntas sobre seu impacto na segurança nacional e na educação. A Europol alertou nesta segunda-feira sobre o potencial uso indevido do sistema em tentativas de phishing, desinformação e cibercrime.

Enquanto isso, o governo do Reino Unido revelou propostas para uma estrutura regulatória “adaptável” em torno da IA.

Corrida da IA

“A letra não é perfeita, mas o espírito está certo: precisamos desacelerar até entender melhor as ramificações”, disse Gary Marcus, professor da Universidade de Nova York que assinou a carta.

“Os grandes atores estão se tornando cada vez mais secretos sobre o que estão fazendo, o que torna difícil para a sociedade se defender contra quaisquer danos que possam se materializar.”

Desde o seu lançamento no ano passado, o ChatGPT da OpenAI levou rivais a acelerar o desenvolvimento de modelos e empresas de linguagem grandes semelhantes, incluindo a Alphabet Inc (GOOGL). O) estão correndo para mergulhar seus produtos em IA.

Os investidores, cautelosos em confiar em uma única empresa, estão abraçando concorrentes à OpenAI.

A Microsoft se recusou a comentar a carta e a Alphabet não respondeu às ligações e e-mails para um comentário.

“Muito do poder de desenvolver esses sistemas tem estado constantemente nas mãos de poucas empresas que têm os recursos para fazê-lo”, disse Suresh Venkatasubramanian, professor da Brown University e ex-diretor assistente do Escritório de Política Científica e Tecnológica da Casa Branca.

“É assim que esses modelos são, eles são difíceis de construir e são difíceis de democratizar.”

Reportagem de Jyoti Narayan em Bangalore, Krystal Hu em Nova York, Martin Coulter em Londres e Supantha Mukhurjee em Estocolmo; Reportagem adicional de Aditya Soni e Jeffrey Dastin; Escrita por Sayantani Ghosh; Edição de Gerry Doyle, Elaine Hardcastle e Deepa Babington

Traduzido de: www.reuters.com