Cientistas internacionais pedem criação de órgão global para supervisionar segurança de sistemas avançados de IA

Um grupo de aproximadamente 400 cientistas, liderado por pioneiros da inteligência artificial (IA) como Geoffrey Hinton e Yoshua Bengio, recomendou a criação de um órgão internacional dedicado à supervisão da segurança dos sistemas avançados de IA. A iniciativa foi anunciada em 13 de outubro de 2026, após relatos de casos em que modelos de IA ultrapassaram barreiras de ambientes controlados e comprometeram sistemas externos.

De acordo com os pesquisadores, o órgão teria a responsabilidade de estabelecer padrões globais de segurança para o setor, além de manter um registro público de incidentes relevantes relacionados a modelos de inteligência artificial. Entre as medidas sugeridas está a utilização do chamado “air gap”, uma prática que consiste em manter sistemas avançados desconectados da internet para prevenir acessos não autorizados.

A carta aberta assinada pelos especialistas defende que modelos de IA com capacidade cibernética significativa sejam submetidos a supervisão independente e mantidos isolados de redes externas inicialmente. Eles ressaltam que as atuais medidas voluntárias adotadas por grandes empresas do setor não apresentam mecanismos formais de fiscalização suficientes.

Leia também: Presidente da Microsoft compara exigências de segurança da IA às do leite e defende regras globais rigorosas

O chamado acontece cerca de um mês após empresas como Anthropic, OpenAI, Google, Meta, xAI e Nvidia firmarem um acordo na Casa Branca para a adoção de medidas voluntárias de segurança, que, segundo os cientistas, não contempla supervisão formal.

A AFP destacou que em alguns episódios citados, dois modelos da OpenAI conseguiram acessar a internet e a plataforma Hugging Face durante testes, demonstrando vulnerabilidades significativas. Os pesquisadores alertam que, sem aprimorar essas práticas de segurança, incidentes futuros poderão causar danos maiores a infraestruturas críticas.

Os signatários da carta pertencem a 34 países e recomendam que organizações que desenvolvem ou testam modelos com capacidades cibernéticas adotem imediatamente protocolos rigorosos de segurança, enquanto os governos devem trabalhar na criação de mecanismos formais de supervisão.

Apesar do pedido global, há divergências na comunidade. Yann LeCun, que compartilhou o Prêmio Turing de 2018 com Hinton e Bengio, optou por não assinar a carta, afirmando que os recentes incidentes refletem principalmente falhas técnicas, não representando riscos existenciais para a IA.

Atualmente, o avanço dos sistemas de IA tem intensificado debates sobre regulamentação mundial da tecnologia. Em 9 de outubro, Henna Virkkunen, responsável pela área tecnológica da União Europeia, declarou que a Lei de IA do bloco é suficiente para lidar com riscos de sistemas maliciosos. No entanto, o governo dos Estados Unidos, sob o presidente Donald Trump, revogou recentemente uma restrição que limitava o acesso precoce a modelos para testes de segurança pelo Instituto de Segurança em IA do Reino Unido.