O rei Charles III pediu nesta quinta-feira a altos executivos da OpenAI, Anthropic, Google DeepMind e Nvidia que garantam que a inteligência artificial (IA) permaneça sob controle e a serviço das pessoas e do planeta.
O encontro na Escócia foi convocado para discutir como a IA pode beneficiar a sociedade e ocorre em um momento decisivo para a tecnologia, em meio ao debate sobre se os rápidos avanços poderão em breve colocá-la além da capacidade humana de contê-la. “O desenvolvimento da IA – tanto sua substância quanto seu ritmo – é, em igual medida, intrigante e profundamente preocupante”, disse o rei, segundo uma transcrição de suas declarações de abertura.
Os “perigos existenciais de essas tecnologias caírem nas mãos erradas e serem usadas de maneiras potencialmente catastróficas” devem ser considerados com urgência, afirmou. “Certamente, precisamos de meios de controle suficientes antes que seja tarde demais?”
O rei pediu aos participantes, incluindo o CEO da Nvidia, Jensen Huang, e o presidente do Google DeepMind, Demis Hassabis, que considerassem os “princípios fundamentais” que deveriam orientar o desenvolvimento da IA.
A diretora financeira da OpenAI, criadora do ChatGPT, Sarah Friar, também participou do encontro, assim como o ministro britânico de IA, Kanishka Narayan. Um representante da Anthropic também era esperado, segundo comunicado do Palácio de Buckingham.
A reunião ocorre em meio à atenção global sobre o avanço acelerado da IA e aos alertas de que a tecnologia poderia sair de controle, ameaçando a humanidade. O encontro foi realizado na Dumfries House, em Ayrshire, na Escócia, sede da The Kings Foundation, instituição beneficente do monarca.
Depois que um pesquisador da Anthropic chamou a atenção mundial ao anunciar sua saída da empresa com um grave alerta sobre os riscos da tecnologia, o CEO da Anthropic, Dario Amodei, respondeu com um ensaio no qual afirmou que o setor talvez precise desacelerar o ritmo de seus trabalhos. Uma de suas propostas foi que empresas e países trabalhassem juntos em um plano coordenado para essa desaceleração.
O rei, sem citar especificamente países ou empresas, disse que queria que os participantes da reunião considerassem duas questões: como aproveitar os benefícios da IA “com a segurança em seu centro” e como “construir cooperação e consenso internacionais” para isso, sem deixar nenhum país para trás. Charles disse aos executivos de tecnologia que a tarefa deles “não é apenas fazer a tecnologia avançar, mas garantir que ela permaneça firmemente a serviço da humanidade, da comunidade e do mundo natural”.
No mais recente relato de comportamento alarmante de IA, a OpenAI informou seis incidentes de comportamento “inesperado ou preocupante” de seus modelos, incluindo desrespeito a restrições normais, envio de um arquivo sem pedir autorização ao usuário e fabricação de dados.
Embora o rei seja uma importante figura institucional, cujos comentários sobre questões sociais podem ter influência, boa parte do atual debate sobre segurança em IA está concentrada nas empresas americanas de tecnologia e em sua competição com rivais chinesas, enquanto o Reino Unido desempenha um papel menor, mas ainda relevante.
O AI Security Institute do Reino Unido, organização de pesquisa do governo, é bem avaliado, e o país forma muitos pesquisadores de IA, incluindo o presidente do Google DeepMind, Demis Hassabis, e Coxon, da Anthropic.
Na terça-feira, uma alta autoridade britânica disse que o governo tem o “dever solene” de mitigar os riscos apresentados pela IA. “Há claramente enormes riscos para nossa segurança nacional e para a sociedade caso as salvaguardas corretas não sejam implementadas”, disse a primeira-secretária Louise Haigh, que atua na prática como vice-primeira-ministra. Fonte: Associated Press.
*Conteúdo traduzido com auxílio de Inteligência Artificial, revisado e editado pela Redação do Broadcast, sistema de notícias em tempo real do Grupo Estado
Leia Também: EUA confirmam pela 1ª vez que têm armas posicionadas no espaço
