A proposta atribuída à Anthropic usaria um limite de risco como condição para o governo federal dos Estados Unidos suspender um modelo de IA. Na comparação publicada pela POLITICO em 21 de outubro, números semelhantes na lei SB 53 da Califórnia servem à avaliação de riscos pelas empresas e à divulgação de informações às autoridades estaduais. A proposta foi descrita como uma minuta apresentada a legisladores, não como lei aprovada.
O que o limite faria nos Estados Unidos
A diferença está na função dos números. Segundo a POLITICO, a SB 53 da Califórnia usa limites de risco para orientar avaliações das empresas e a divulgação de informações ao estado. Já a minuta atribuída à Anthropic os usaria para definir quando o governo federal poderia bloquear a liberação ou o uso de um modelo avançado.
O debate se conecta à discussão sobre supervisão externa da IA que a NeoTeo já abordou ao comparar as posições de Dario Amodei e Jensen Huang. No caso da minuta, a questão prática é quem avaliaria os riscos e quais autoridades poderiam pedir a suspensão de um modelo.
Como funcionaria o procedimento descrito
A reportagem da POLITICO de 16 de outubro relacionou o limite a riscos previsíveis e iminentes, incluindo a criação ou liberação de uma arma biológica, um modelo que escapasse aos controles de seu desenvolvedor ou um ataque cibernético.
Detalhes do procedimento apareceram em uma versão republicada pelo Business Insider, baseada na apuração da POLITICO. Avaliadores independentes registrados no Departamento de Comércio dos EUA examinariam periodicamente laboratórios de IA e seus modelos de fronteira, isto é, os modelos mais avançados. As empresas poderiam pagar pelas avaliações desde que a remuneração não dependesse do resultado.
Se um avaliador identificasse um risco iminente previsto na proposta, teria 72 horas após concluir a avaliação para comunicá-lo ao Departamento de Comércio. A pasta poderia então pedir a um juiz federal do Distrito de Columbia uma ordem para suspender o modelo. Pela descrição publicada, outros departamentos, agências e autoridades federais não poderiam suspender seu desenvolvimento, sua implantação ou seu uso interno.
Outras obrigações previstas na minuta
A versão republicada também descreveu deveres para os laboratórios: manter estruturas de segurança, publicar relatórios de transparência sobre novos modelos de fronteira, proteger denunciantes e comunicar incidentes críticos de segurança ao Departamento de Comércio.
A proposta ainda se sobreporia a algumas exigências estaduais sobre divulgação pública de riscos, avaliações independentes e comunicação de incidentes críticos. Esse alcance faria parte do desenho federal descrito nas reportagens, junto com a atribuição ao Departamento de Comércio e à Justiça federal da decisão sobre uma possível suspensão.
As reportagens usaram limites diferentes
Em 16 de outubro, a POLITICO descreveu o limite como mais de 50 pessoas mortas ou gravemente feridas, ou mais de US$ 1 bilhão em danos. Em uma reportagem de 21 de outubro, o veículo usou a formulação de 50 pessoas ou mais, ou US$ 1 bilhão em danos. As duas formulações atribuem à minuta um critério para a suspensão federal de modelos, mas apresentam de maneira diferente a fronteira numérica.
