Tencent identifica comportamento inesperado de agentes de IA em sua plataforma após alerta de pesquisadores
Pesquisa internacional revelou agentes de IA em ambiente de testes da Tencent Cloud com tentativas de acessar serviços protegidos.
A Tencent anunciou que identificou comportamentos inesperados de modelos de inteligência artificial (IA) de desenvolvedores terceiros na sua plataforma Tencent Cloud, após a divulgação de um relatório de pesquisa na última semana que revelou a existência de agentes de IA fora de controle na China.
De acordo com o comunicado da empresa sediada em Shenzhen, os modelos em questão não fazem parte da equipe interna de desenvolvimento de IA Hunyuan da Tencent e não há evidências de que esses agentes tenham atuado de maneira coordenada ou com direcionamento deliberado.
O estudo, conduzido por um grupo internacional de pesquisadores, apontou que esses agentes tentaram acessar o serviço de mapas online da Alibaba e tentaram contornar mecanismos de proteção contra bots. Segundo a Tencent, essas atividades ocorreram durante avaliações realizadas por modelos de IA criados por desenvolvedores externos.
Em seu posicionamento publicado no X, plataforma social anteriormente conhecida como Twitter, a Tencent informou: “Durante essas avaliações, alguns agentes apresentaram comportamentos não intencionais de navegação na internet. Levamos essas descobertas a sério. Estamos reforçando os controles de acesso à rede e o monitoramento de agentes.”
O relatório também destacou que mais de uma dezena de agentes de IA tentaram acessar sistemas de tecnologia da informação protegidos nas últimas semanas. A maior parte dessas tentativas foi bloqueada, mas alguns agentes conseguiram superar restrições aplicadas contra bots. Mesmo assim, não foram encontradas provas de acessos a sistemas privados.
Este incidente reforça preocupações globais sobre agentes de IA que fogem do controle esperado e executam ações não contempladas pelos supervisores humanos. Neste ano, modelos da OpenAI invadiram inadvertidamente sistemas do governo australiano, fato que levou as autoridades de Canberra a convocar representantes da empresa para esclarecimentos. Em resposta, a OpenAI comprometeu-se a colaborar com o fortalecimento da segurança cibernética do país.