As mesmas empresas que aceleraram a corrida pela inteligência artificial agora começam a defender limites para o avanço da tecnologia. Nos últimos dias, executivos das maiores companhias do setor passaram a cobrar mais fiscalização, auditorias independentes e regras mais rígidas para o desenvolvimento dos sistemas mais poderosos.
A mudança ganhou força depois que Dario Amodei, CEO da Anthropic, defendeu publicamente uma redução no ritmo da chamada IA de fronteira. Logo depois, Sam Altman, da OpenAI, Elon Musk e Demis Hassabis, do Google DeepMind, também reforçaram a necessidade de ampliar os mecanismos de segurança.
Com isso, o próprio setor passou a admitir que a velocidade da inovação pode superar a capacidade de controle.
Ao mesmo tempo, porém, a mudança de discurso levantou outra questão: por que empresas que disputam a liderança da inteligência artificial agora querem colocar freios justamente nessa corrida?
Por que as empresas querem desacelerar a IA?
A principal preocupação envolve a velocidade com que os sistemas avançam.
Segundo Amodei, os modelos mais sofisticados começam a evoluir mais rapidamente do que a capacidade das empresas de compreender, testar e controlar todos os seus comportamentos.
Além disso, os sistemas passaram a executar tarefas mais complexas, utilizar ferramentas digitais e atuar com níveis crescentes de autonomia.
Por isso, parte dos executivos passou a defender uma desaceleração deliberada no desenvolvimento.
A proposta, entretanto, não prevê interromper completamente a tecnologia. Em vez disso, as empresas querem ampliar testes, criar barreiras de segurança e estabelecer mecanismos de controle antes de lançar modelos ainda mais avançados.
Dessa forma, o setor tenta reduzir riscos sem abandonar a competição.
OpenAI também cobra novas regras
A OpenAI também passou a defender controles mais rígidos.
Na última semana, a empresa apoiou a criação de requisitos nacionais obrigatórios de segurança para sistemas avançados de inteligência artificial nos Estados Unidos.
Além disso, a companhia defendeu mais monitoramento e regras para que empresas comuniquem incidentes graves envolvendo modelos que ultrapassem barreiras de segurança ou apresentem comportamentos inesperados.
Com isso, a OpenAI reconhece que compromissos voluntários podem não acompanhar a velocidade da evolução tecnológica.
Ao mesmo tempo, a empresa tenta ampliar a participação no debate sobre quais regras deverão orientar o setor nos próximos anos.
Empresas discutem auditorias independentes
Outro ponto ganhou força nas discussões: permitir que especialistas externos examinem os sistemas antes que as empresas liberem modelos mais avançados.
Nesse cenário, auditores independentes poderiam testar os sistemas, analisar riscos e verificar se as companhias realmente cumprem os padrões de segurança.
Além disso, empresas como Anthropic, Google e OpenAI discutem mecanismos comuns para estabelecer regras mínimas de proteção.
Assim, o setor tenta responder a uma crítica recorrente: hoje, as próprias empresas que desenvolvem os modelos também controlam grande parte dos testes que determinam se esses sistemas são seguros.
Por isso, especialistas defendem cada vez mais avaliações externas.
O medo de perder o controle aumentou?
Os alertas não surgiram apenas de cenários teóricos.
Nos últimos meses, pesquisadores e empresas identificaram comportamentos inesperados durante testes com sistemas avançados. Além disso, alguns modelos passaram a executar tarefas por períodos maiores e com menos supervisão humana.
Com isso, o debate mudou de dimensão.
Antes, boa parte das discussões concentrava-se em desinformação, empregos, privacidade e direitos autorais. Agora, porém, empresas e pesquisadores também discutem riscos ligados à autonomia dos sistemas, ataques cibernéticos e dificuldades de controle.
Ainda assim, especialistas divergem sobre a dimensão desses riscos e sobre a velocidade com que eles podem se tornar reais.
Portanto, o setor reconhece os perigos, mas ainda não chegou a um consenso sobre como enfrentá-los.
Empresas também podem ganhar com regras mais rígidas?
A mudança de discurso também despertou desconfiança.
Críticos afirmam que grandes empresas podem usar regras mais rígidas para aumentar as barreiras de entrada no mercado.
Isso acontece porque companhias como OpenAI, Google e Anthropic já possuem infraestrutura, capital, centros de dados e equipes capazes de cumprir exigências complexas.
Empresas menores, por outro lado, enfrentariam mais dificuldades.
Dessa forma, uma regulamentação criada com forte participação das líderes do setor poderia acabar fortalecendo justamente quem já domina o mercado.
Por isso, especialistas defendem que governos, universidades e organizações independentes também participem da criação das regras.
