O que aconteceu
A Anthropic anunciou a parceria com a Accenture como sua primeira avaliadora embutida, visando desacelerar o desenvolvimento da inteligência artificial (IA). A decisão segue uma proposta do CEO Dario Amodei, que, em 12 de setembro, sugeriu um plano em três etapas para retardar o avanço da IA, permitindo a implementação de salvaguardas em resposta a advertências sobre os perigos de um desenvolvimento acelerado e descontrolado.
Por que isso importa
O CEO da OpenAI, Sam Altman, e o CEO da SpaceX, Elon Musk, responderam positivamente à proposta de Amodei, enquanto Jensen Huang, CEO da Nvidia, se mostrou contrário, alegando que tal regulação não era necessária. Amodei destacou que “a IA tem avançado drasticamente mais rápido, impulsionada principalmente pela crescente capacidade da IA de construir a próxima geração de IA. Esse dinamismo é chamado de autoaperfeiçoamento recursivo”, alertando que isso poderia ultrapassar nossa capacidade de entender e controlar esses sistemas.
Investimentos e compromissos
A Anthropic e a Accenture planejam investir pelo menos US$ 1 bilhão no projeto ao longo dos próximos cinco anos. Embora não haja um sistema existente para financiar avaliações independentes, a Anthropic decidiu custear diretamente o trabalho da Accenture devido à urgência do projeto.
O futuro da avaliação embutida
Julie Sweet, presidente e CEO da Accenture, comentou: “A avaliação embutida é uma área emergente, e estamos ansiosos para colaborar com a Anthropic para ajudar a acelerar o desenvolvimento de avaliadores embutidos, que consideramos uma parte importante do panorama de segurança no futuro.”
