A Anthropic, que se tornou a mais valiosa empresa de Inteligência Artificial do mundo, superando a rival OpenAI depois de chegar a US$ 1 trilhão, pediu aos principais laboratórios de inteligência artificial (IA) que considerem uma pausa coordenada e verificável no desenvolvimento da tecnologia, alertando que os avanços rápidos na área podem em breve permitir que sistemas de IA se aprimorem sozinhos mais rapidamente do que a sociedade consegue administrar os riscos.
“Ainda não chegamos lá, e o autoaperfeiçoamento recursivo não é inevitável. Mas ele pode surgir antes do que a maioria das instituições esteja preparada para enfrentar. O risco de perder o controle é evidente”, escreveram no texto o cofundador da Anthropic, Jack Clark, e a líder do Anthropic Institute, Marina Favaro.
Os temores de que sistemas avançados de IA possam escapar ao controle humano e causar danos à sociedade cresceram à medida que a tecnologia se torna cada vez mais capaz. O próprio modelo Mythos, da Anthropic, provocou forte repercussão em setores como o bancário e o de software no início deste ano devido à sua capacidade de encontrar vulnerabilidades em códigos existentes.
Mas a regulamentação tem avançado lentamente, especialmente nos Estados Unidos, onde estão sediados a maioria dos principais laboratórios de IA. Uma ordem executiva do governo Trump publicada nesta semana transferiu a responsabilidade para os próprios laboratórios, solicitando que eles submetam voluntariamente seus modelos mais avançados a testes governamentais de cibersegurança antes do lançamento público.
