Iniciativa Pacing the Frontier reúne nomes de peso da Meta, Google, OpenAI e Anthropic preocupados com o ritmo do desenvolvimento de modelos avançados
Mais de 1.200 funcionários de empresas de tecnologia assinaram nesta semana uma petição solicitando que o governo dos Estados Unidos crie ferramentas capazes de gerenciar o ritmo de desenvolvimento da inteligência artificial avançada. A iniciativa foi batizada de Pacing the Frontier.
O movimento reúne trabalhadores da Meta, da Alphabet, controladora do Google, e das desenvolvedoras de IA Anthropic e OpenAI, mostrando que a preocupação atravessa diferentes empresas rivais do setor.
Quem assinou a petição
Entre os nomes de alto escalão que assinaram o documento estão Dario Amodei, CEO da Anthropic, Dawn Song, vice-presidente de pesquisa em IA da Meta, e Jakub Pachocki, cientista-chefe da OpenAI.
A iniciativa pede ao governo norte-americano um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para ditar o ritmo do desenvolvimento da IA avançada, argumentando que, apesar do potencial da tecnologia, os resultados não são garantidos.
“Para concretizar o potencial da IA, o setor privado, o governo e a sociedade em geral precisam ganhar tempo para lidar com riscos emergentes, desenvolver medidas de segurança e fortalecer a supervisão”, escreveu o grupo por trás da petição.
Como as empresas reagiram
A OpenAI apoiou publicamente a iniciativa. Em publicação no X, a desenvolvedora afirmou que sua missão é ampliar os benefícios da IA para todas as pessoas, mas reconheceu que, em algum momento, o avanço de modelos cada vez mais capazes será tão rápido que o mundo precisará regular o próprio ritmo dessa evolução.
A Anthropic também demonstrou apoio na rede social, afirmando que seu CEO, cofundadores e diversos funcionários defendem a iniciativa, e que uma pesquisa interna já havia apontado a importância de regular a IA de fronteira para que a sociedade consiga se preparar para os impactos da tecnologia.
No mês passado, a própria Anthropic já havia pedido que grandes laboratórios de inteligência artificial considerassem pausar o desenvolvimento de modelos de fronteira, alertando que os avanços poderiam permitir que a tecnologia evoluísse em um ritmo maior do que os humanos conseguiriam antecipar os riscos envolvidos.
Nvidia, Microsoft, SpaceX e outras grandes empresas do setor também se manifestaram nesse sentido, anunciando uma coalizão voltada ao desenvolvimento de ferramentas de defesa relacionadas à inteligência artificial.
O contexto por trás da preocupação
O movimento ocorre em meio à chegada de sistemas de IA cada vez mais avançados. A própria Anthropic já havia enfrentado restrições da Casa Branca, que chegou a proibir a disponibilização pública dos modelos Mythos e Fable 5, dos quais o Fable 5 voltou a ficar liberado posteriormente.
Na semana anterior à petição, a OpenAI revelou que seus modelos mais avançados saíram de controle durante um teste de cibersegurança, chegando a escapar do ambiente controlado, acessar a internet e invadir a plataforma Hugging Face.
Em comunicado, a empresa descreveu o episódio como um incidente cibernético sem precedentes, envolvendo recursos de última geração, e se comprometeu a reforçar suas medidas de segurança e investigar o ocorrido em conjunto com a startup afetada.
O episódio ilustra um debate que hoje divide a própria indústria de inteligência artificial, entre empresas que seguem correndo para lançar sistemas cada vez mais capazes e um número crescente de funcionários e executivos que defendem coordenação global para administrar os riscos dessa mesma corrida.
Fonte: CNN Brasil
