Inteligência Artificial · 13/10/2026
Pesquisadores de 34 países, incluindo Geoffrey Hinton e Yoshua Bengio, defendem padrões de segurança mais rigorosos para sistemas avançados de IA. A proposta inclui fiscalização independente e comunicação de incidentes relevantes.
A discussão sobre os riscos da inteligência artificial ganhou um novo capítulo. Em 13 de outubro de 2026, cerca de 400 cientistas e especialistas defenderam a criação de um organismo internacional para estabelecer regras de contenção e acompanhamento de sistemas avançados de IA com capacidades cibernéticas.
A proposta foi apresentada por meio de uma carta aberta e relatada pela Reuters. Entre os nomes associados à iniciativa estão Geoffrey Hinton e Yoshua Bengio, pesquisadores reconhecidos por contribuições fundamentais ao desenvolvimento da aprendizagem profunda.
O documento não afirma que uma IA já tenha assumido controle da internet. Seu foco é impedir que sistemas futuros com capacidades maiores sejam disponibilizados sem medidas adequadas de segurança.
O que os pesquisadores estão pedindo?
A carta defende padrões internacionais para o desenvolvimento e teste de modelos de IA especialmente poderosos. Entre as medidas propostas estão mecanismos de contenção, avaliação independente e um registro de incidentes graves de segurança.
Uma das ideias é que determinados modelos sejam inicialmente avaliados em ambientes isolados de redes externas, prática conhecida como air gap. O objetivo seria impedir conexões desnecessárias durante fases sensíveis dos testes.
Também se propõe que incidentes relevantes sejam reportados de forma padronizada, permitindo que o setor aprenda com falhas e identifique riscos comuns.
Por que o assunto ganhou urgência?
A capacidade dos modelos de realizar tarefas complexas está aumentando. Ferramentas de IA já conseguem escrever programas, analisar sistemas, utilizar outros serviços e executar sequências de ações com intervenção humana variável.
Esses avanços podem beneficiar empresas e profissionais, mas também exigem controles. Um sistema autorizado a usar ferramentas e acessar recursos digitais precisa ter limites claros, permissões adequadas e mecanismos para interromper ações inesperadas.
Os cientistas argumentam que promessas voluntárias das empresas não garantem, por si só, um padrão uniforme de proteção. Sem fiscalização, diferentes organizações podem adotar critérios de segurança difíceis de comparar.
O setor já não tem acordos de segurança?
Empresas importantes assinaram compromissos voluntários sobre práticas de segurança de IA. A carta, entretanto, considera que esse tipo de iniciativa precisa ser complementado por regras verificáveis e estruturas independentes de supervisão.
A discussão não envolve apenas criar novas leis. Também exige definir como realizar testes, quem terá acesso às informações sobre incidentes e quais medidas serão proporcionais aos riscos de cada sistema.
Há diferenças entre regulamentar uma aplicação simples de atendimento e um modelo experimental capaz de operar ferramentas cibernéticas avançadas. Tratar todas as IAs da mesma maneira poderia impor custos desnecessários sem melhorar a segurança nos casos de maior risco.
Todos os especialistas concordam?
Não. O pesquisador Yann LeCun, por exemplo, não assinou a carta e expressa posições mais céticas quanto a interpretações de que certos incidentes demonstrariam riscos fundamentais ou inevitáveis dos sistemas atuais.
Essa divergência é importante: o debate envolve avaliar probabilidades, separar capacidades demonstradas de cenários hipotéticos e decidir quais intervenções oferecem proteção sem bloquear pesquisas legítimas.
Também existem discussões sobre o papel de governos, pesquisadores independentes e empresas no estabelecimento desses padrões.
O que isso significa para quem utiliza IA?
Para usuários comuns, a proposta não aponta para a proibição de chatbots ou de ferramentas de produtividade. Ela concentra atenção em sistemas avançados e em situações em que uma IA poderia interagir com infraestrutura digital sensível.
O tema, porém, afeta todos indiretamente. Quanto mais assistentes ganharem acesso a e-mails, arquivos, sistemas corporativos e transações, mais importantes serão controles de permissão, registros de ações e aprovação humana para operações críticas.
A mensagem central dos pesquisadores é preventiva: criar mecanismos de segurança antes que as capacidades dos sistemas ultrapassem os controles existentes.
Fonte original em inglês: Reuters