Esse autoaperfeiçoamento recursivo, que “não é inevitável” e pode chegar “antes que muitas instituições estejam preparadas”, pode trazer benefícios para a ciência e a saúde, mas também “aumentar os riscos de os humanos perderem o controle dos sistemas de IA”, destacou a empresa.
“Se os sistemas forem capazes de criar inteiramente seus próprios sucessores, as formas de torná-los seguros, supervisioná-los e moldar seu comportamento se tornam muito mais importantes”, acrescentou.
A empresa acredita que “provavelmente será benéfico” desacelerar o desenvolvimento da IA para poder dedicar mais tempo a lidar com suas “imensas implicações”, e pediu a colaboração de empresas do mundo todo com seu departamento de pesquisa, o The Anthropic Institute, para estabelecer um quadro de referência.
“Acreditamos que seria bom para o mundo ter a opção de interromper ou pausar temporariamente o desenvolvimento da IA de ponta, para permitir que as estruturas sociais e a pesquisa em alinhamento acompanhem o ritmo do avanço da tecnologia”, declarou.
A Anthropic propõe ajudar a construir os sistemas necessários para essa pausa, incluindo formas de “verificar” se outros realmente interrompem o desenvolvimento, evitando favorecer um “agente mal-intencionado”, e destacou que laboratórios “bem financiados” em vários países deveriam “aceitar parar sob as mesmas condições”.
“Uma pausa confiável também precisa especificar o que a desencadeia, o que a encerra e quem a arbitra”, afirmou.
O texto, assinado pelo cofundador da Anthropic, Jack Clark, e pela diretora do The Anthropic Institute, Marina Favaro, descreve com base em dados internos a rapidez com que seus modelos avançados estão evoluindo e prevê que, no futuro, agentes como o Claude poderão treinar a si mesmos.
Por exemplo, a empresa explicou que hoje mais de 80% do código incorporado à sua base de código já é gerado pelo Claude, enquanto há pouco mais de um ano, em fevereiro de 2025, esse número era inferior a 10%.
Leia Também: Instagram Plus é lançado: Veja as opções exclusivas do plano pago
