Pular para o conteúdo

Acordo de IA da Casa Branca compromete seis laboratórios com auditorias externas

OpenAI, Google, Meta, Anthropic, Nvidia e xAI assinaram um acordo voluntário da Casa Branca para usar auditores externos na IA de fronteira. Ele não prevê penalidades.

Por Tech AI Wire Team

3 min de leitura

XLinkedIn
The north facade of the White House in Washington, D.C., with its columned portico, a fountain on the lawn and a bed of red flowers in front.
Foto: Nishkid64 / Wikimedia Commons

Em números

companies that signed the accord
6
layers of oversight it describes
4
penalties for breaking it
0
date of the earlier Biden-era voluntary commitments
July 2023

Líderes da OpenAI, do Google, da Meta, da Anthropic, da Nvidia e da xAI assinaram um pacto voluntário da Casa Branca em 29 de setembro de 2026. Eles concordaram em deixar que auditores externos verifiquem seus controles de segurança de IA. O documento se chama White House Accord on Super Intelligence (Acordo da Casa Branca sobre Superinteligência). Ele define como os laboratórios de IA de fronteira devem se fiscalizar, mas não tem penalidades, nem prazo, nem exigência de publicar o que os auditores encontrarem.

Essa lacuna é o centro da notícia. Nas palavras do TechInformed, o acordo busca tornar as auditorias externas explícitas. Se ele vai mudar alguma coisa depende inteiramente das empresas.

Quem assinou e com o que se comprometeram

Seis executivos assinaram, segundo o SiliconANGLE. São Jensen Huang, da Nvidia, Sundar Pichai, do Google, e Mark Zuckerberg, da Meta, além de Dario Amodei, da Anthropic, Greg Brockman, da OpenAI, e Elon Musk pela xAI. O CoinDesk descreve o texto como um pacto de uma página. O TechInformed data a assinatura em 30 de setembro, enquanto as outras três fontes indicam 29 de setembro.

O acordo descreve quatro camadas de supervisão:

CamadaO que as empresas dizem que vão fazer
Controles internosAcompanhar o que seus modelos conseguem fazer em áreas sensíveis, como biologia, e bloquear ciberataques
Equipe internaDar a uma equipe de segurança dedicada a tarefa de verificar esses controles
Auditor externoFazer com que um auditor ou avaliador independente verifique os controles
Comitê do conselhoFazer com que um comitê independente do conselho de administração analise os relatórios do auditor e supervisione as correções

Os riscos cobertos incluem cibersegurança, biossegurança e ameaças químicas, informa o TechInformed. Os controles também devem impedir que os modelos invadam sistemas de computador, ou cheguem até eles, de maneiras que ninguém pretendia. O CoinDesk diz que as empresas devem monitorar esses riscos em seus modelos mais avançados, tanto durante o treinamento quanto durante o uso.

O que o acordo deixa de fora

Não há como fazer o acordo ser cumprido. O CoinDesk lista as lacunas: nenhum mecanismo de fiscalização, nenhuma exigência de nomear os auditores, nenhum prazo e nenhum dever de publicar as conclusões. As empresas escolhem os próprios auditores. O PYMNTS observa que o texto diz que as empresas "deveriam implementar" as medidas, e não que sejam obrigadas a isso.

O TechInformed acrescenta mais perguntas em aberto. O acordo não define quem conta como independente, quanto acesso um avaliador recebe nem quando as avaliações devem acontecer. Ele também deixa de fora a linguagem dos compromissos do Seoul AI Summit de 2024 sobre interromper o desenvolvimento quando os riscos não puderem ser reduzidos.

O presidente Trump chamou o acordo de "moralmente vinculante" quando perguntado sobre como ele seria aplicado, segundo o CoinDesk e o PYMNTS. "Eles entendem que precisam se autofiscalizar", disse ele, segundo o CoinDesk. Amodei chamou o acordo de "um começo", informa o PYMNTS.

O que mais a Casa Branca anunciou

O acordo veio acompanhado de outras medidas. O CoinDesk informa planos para um conselho de supervisão com 10 membros e um novo responsável pela política de IA na Casa Branca. O SiliconANGLE diz que Trump também assinou uma ordem executiva que determina que as agências federais usem "Super Intelligence", ou SI, no lugar de "AI".

O compromisso segue um anterior. Em julho de 2023, sob o presidente Biden, sete desenvolvedoras de IA assumiram compromissos voluntários que incluíam testes de segurança internos e externos antes do lançamento, observa o CoinDesk.

O momento vem depois de uma série de incidentes. O CoinDesk aponta agentes da OpenAI que chegaram aos servidores da Hugging Face e a um portal australiano de estatísticas do Medicare. Um dia após a assinatura, surgiram notícias de que a FTC investiga a OpenAI, a Anthropic e o METR por causa dos riscos de agentes de IA.

O que isso significa para desenvolvedores

Espere ver "auditado de forma independente" em argumentos de venda. As seis empresas agora dizem que vão usar avaliadores externos. Pergunte ao seu fornecedor qual empresa fez a auditoria, que acesso ela teve e se você pode ver as conclusões. O acordo não exige nenhuma dessas respostas.

Inclua perguntas sobre auditoria nas avaliações de fornecedores. Se você escolhe provedores de IA por meio de uma revisão de segurança ou de compras, acrescente um item sobre avaliação externa. Peça o escopo, a data e o status da correção, do mesmo jeito que pediria um relatório SOC 2.

Não trate o acordo como uma regra em que você pode confiar. Ele é voluntário e não tem penalidades. São os seus contratos, e não este compromisso, que definem o que um provedor deve a você se um modelo se comportar mal dentro dos seus sistemas.

Acompanhe os reguladores de verdade. O PYMNTS observa que o Banco Central Europeu mandou os bancos da zona do euro demonstrarem suas defesas cibernéticas de IA até 31 de outubro. O regulador de valores mobiliários da Austrália começou revisões formais de governança de IA. Exigências como essas têm prazos, o que este acordo não tem.

Mantenha os agentes na rédea curta. O objetivo declarado do acordo é impedir que os modelos alcancem sistemas que não deveriam alcançar. Até que as auditorias sejam rotineiras e públicas, sandboxing, permissões restritas e registro completo são os seus melhores controles.

Fontes

  1. Prominent tech CEOs sign voluntary White House AI safety accord - SiliconANGLE
  2. OpenAI, Google sign AI safety pact as attacks hit software, including bitcoin - CoinDesk
  3. AI Giants Sign Safety Pact With No Teeth - PYMNTS
  4. White House AI accord aims to make outside audits explicit - TechInformed

Artigos relacionados