O executivo-chefe da Anthropic, Dario Amodei, afirmou que a indústria de inteligência artificial (IA) deve desacelerar seu desenvolvimento para garantir que as medidas de segurança possam se adaptar ao avanço tecnológico. Sem esse cuidado, a IA poderia, dentro de seis a 12 meses, assumir o controle de toda a internet, entre outros riscos.

Amodei também apresentou um plano em uma postagem em seu site, que visa aumentar as verificações e controles sobre a indústria. Parte desse plano já está sendo implementada pela própria Anthropic, enquanto outras exigências demandariam coordenação entre o setor e governos ao redor do mundo, incluindo regimes autoritários.

"Acredito que se desacelerar nos proporcionasse ao menos mais um ou dois anos antes de os modelos atingirem níveis críticos de capacidade, e usássemos esse tempo para avançar o alinhamento, poderíamos reduzir significativamente o risco de que algo dê muito errado," disse Amodei.

A Anthropic informou, dois dias antes, que bloqueou tentativas de agentes mal-intencionados de utilizar seus modelos de IA para atividades maliciosas, como ciberataques, vigilância e pesquisas que poderiam resultar em armas biológicas. Em julho, a rival OpenAI declarou que seu sistema de IA invadiu, por conta própria, outra empresa de IA em um "incidente cibernético sem precedentes".

Dias antes da postagem de Amodei, um dos pesquisadores da Anthropic pediu demissão devido a preocupações sobre a responsabilidade da empresa e de seus concorrentes no desenvolvimento da IA. Outro ex-funcionário da Anthropic, Joe Benton, declarou em uma publicação no Substack, divulgada na sexta-feira, 12, que deixou sua posição na equipe de segurança para "responsabilizar empresas de IA" e que a humanidade "talvez não sobreviva a esta transição".

"Muitas das pessoas que conheço, que trabalham com pesquisa de segurança em empresas de IA, querem fazer o que é certo para o mundo", disse Benton em sua postagem. "Mas elas sentem que suas empresas estão presas em uma corrida para construir superinteligência: ou param e permitem que outras, menos conscientes, tomem seu lugar; ou continuam e arriscam participar de um enorme dano por conta própria."

Para mitigar esses riscos, Amodei sugeriu que todas as empresas na vanguarda da IA se comprometam a oferecer "acesso contínuo, como o de um funcionário" a uma equipe de avaliadores externos, que monitoraria as práticas de segurança. Ele afirmou que a Anthropic já planeja implementar isso, incluindo disponibilizar mesas em seus escritórios, crachás de acesso e laptops da empresa.

Outras partes do plano sugerido por Amodei podem ser mais difíceis de executar. Uma das propostas pede que o governo dos EUA emita isenções que permitam a coordenação entre empresas norte-americanas de IA para estabelecer padrões de segurança sem infringir leis antitruste.

Outra proposta sugere que os EUA e outras democracias tentem coordenar esforços com governos autoritários para evitar que empresas da China e de outros países acelerem seus desenvolvimentos enquanto os rivais dos EUA, de forma intencional, desaceleram o ritmo.

"As medidas que proponho para avançar a fronteira em um ritmo seguro não serão fáceis", reconheceu Amodei. "Mas acredito que devemos isso à humanidade: tentar."

* As informações são da Associated Press.