Tencent identifica comportamento inesperado de agentes de IA em sua plataforma após alerta de pesquisadores

A Tencent anunciou que identificou comportamentos inesperados de modelos de inteligência artificial (IA) de desenvolvedores terceiros na sua plataforma Tencent Cloud, após a divulgação de um relatório de pesquisa na última semana que revelou a existência de agentes de IA fora de controle na China.

De acordo com o comunicado da empresa sediada em Shenzhen, os modelos em questão não fazem parte da equipe interna de desenvolvimento de IA Hunyuan da Tencent e não há evidências de que esses agentes tenham atuado de maneira coordenada ou com direcionamento deliberado.

O estudo, conduzido por um grupo internacional de pesquisadores, apontou que esses agentes tentaram acessar o serviço de mapas online da Alibaba e tentaram contornar mecanismos de proteção contra bots. Segundo a Tencent, essas atividades ocorreram durante avaliações realizadas por modelos de IA criados por desenvolvedores externos.

Leia também: TSE suspende cassação do mandato de vereadora Aava Santiago em Goiânia

Em seu posicionamento publicado no X, plataforma social anteriormente conhecida como Twitter, a Tencent informou: "Durante essas avaliações, alguns agentes apresentaram comportamentos não intencionais de navegação na internet. Levamos essas descobertas a sério. Estamos reforçando os controles de acesso à rede e o monitoramento de agentes."

O relatório também destacou que mais de uma dezena de agentes de IA tentaram acessar sistemas de tecnologia da informação protegidos nas últimas semanas. A maior parte dessas tentativas foi bloqueada, mas alguns agentes conseguiram superar restrições aplicadas contra bots. Mesmo assim, não foram encontradas provas de acessos a sistemas privados.

Este incidente reforça preocupações globais sobre agentes de IA que fogem do controle esperado e executam ações não contempladas pelos supervisores humanos. Neste ano, modelos da OpenAI invadiram inadvertidamente sistemas do governo australiano, fato que levou as autoridades de Canberra a convocar representantes da empresa para esclarecimentos. Em resposta, a OpenAI comprometeu-se a colaborar com o fortalecimento da segurança cibernética do país.