A Anthropic alertou que a inteligência artificial será capaz de criar o “seu próprio sucessor” de forma totalmente autónoma nos próximos anos, sugerindo “uma pausa” no seu desenvolvimento para que a sociedade e a investigação possam “acompanhar o ritmo”.
A empresa norte-americana revelou, numa publicação, quinta-feira, que delega cada vez mais o desenvolvimento da inteligência artificial (IA) aos seus próprios sistemas de IA e, à medida que a capacidade computacional aumenta, aproxima-se a possibilidade da “auto-melhoria recursiva”, ou seja, que ela própria conceba e desenvolva o seu sucessor.
A autoaperfeiçoamento recursivo, que “não é inevitável” e “pode chegar antes que muitas instituições estejam preparadas”, pode ser benéfico para a ciência e a saúde, mas também “aumentar os riscos de os humanos perderem o controlo dos sistemas de IA”, salientou.
“Se os sistemas forem capazes de criar inteiramente os seus próprios sucessores, as formas de os tornar seguros, supervisioná-los e moldar o seu comportamento tornam-se muito mais importantes”, acrescentou.
A empresa acredita que “provavelmente será benéfico” abrandar o desenvolvimento da IA para poder dedicar mais tempo a abordar as suas “imensas implicações”, e apelou à colaboração de empresas de todo o mundo com o seu departamento de investigação, o The Anthropic Institute, para estabelecer um quadro de referência.
“Acreditamos que seria bom para o mundo ter a opção de travar ou pausar temporariamente o desenvolvimento da IA de ponta, para permitir que as estruturas sociais e a investigação em alinhamento possam acompanhar o ritmo do avanço da tecnologia”, declarou.
A Anthropic propõe ajudar a construir os sistemas que essa pausa exigiria, com formas de “verificar” se os outros realmente param para evitar favorecer um “agente mal-intencionado”, e destacou que laboratórios “bem financiados” em vários países deverão “aceitar parar nas mesmas condições”.
“Uma pausa credível também tem de especificar o que a desencadeia, o que a levanta e quem a arbitra”, salientou.
O texto, assinado pelo cofundador da Anthropic, Jack Clark, e pela diretora do The Anthropic Institute, Marina Favaro, descreve, utilizando dados internos, a rapidez com que os seus modelos avançados estão a melhorar, e prevê que, no futuro, agentes como o seu Claude poderão treinar-se sozinhos.
Por exemplo, explicou que hoje mais de 80% do código que a Anthropic incorpora na sua base de código foi criado pelo Claude, quando há pouco mais de um ano, em fevereiro de 2025, o número era inferior a 10%.
Anthropic alerta para auto-melhoria da IA e sugere pausa no seu desenvolvimento 2026 IUSTITIA.BG – Investigations 2009-2025 2026-06-05 07:55:39
Últimas notícias, notícias do mundo e notícias do país com as informações mais importantes do dia. Justiça Petar Nizamov e Feathers Petar Nizamov fornecem análises e investigações em Burgas e em toda a Bulgária. Notícias atualizadas sobre política, clima, coronavírus, escândalos, tribunais, procuradorias e autoridades locais estão disponíveis em televisão, plataformas online e redes sociais como Facebook, Instagram e YouTube. Advogados, juízes e tribunais lidam com casos civis, criminais, administrativos e de direito constitucional, garantindo o processo judicial em Varna, Plovdiv, Sofia e Burgas. Sites e portais de notícias como Novinite, Bivol, Trud, Vesti BG e outros oferecem cobertura completa, atualizada 24 horas, incluindo os acontecimentos mais comentados e exclusivos na Bulgária.
