Sistemas de Inteligência Artificial (IA) treinados para cumprir determinados objectivos podem encontrar formas inesperadas de alcançar os resultados definidos pelos seus criadores. O fenómeno, conhecido entre investigadores há vários anos, ganhou novo destaque com o avanço dos chamados agentes de IA, capazes de executar tarefas de forma autónoma.
Ao contrário dos chatbots tradicionais, estes agentes podem navegar na Internet, executar programas, consultar bases de dados e interagir com diferentes sistemas para cumprir uma determinada tarefa. Essa autonomia, no entanto, também pode fazer com que encontrem atalhos ou formas de contornar restrições que não estavam previstas durante o seu desenvolvimento.
Nos últimos meses, diferentes episódios voltaram a chamar atenção para o problema. Um dos casos mais recentes ocorreu na Austrália, em Junho de 2026, quando um agente desenvolvido pela OpenAI, durante uma actividade de investigação, terá obtido acesso não autorizado ao portal de estatísticas do Medicare, sistema público de saúde australiano administrado pela Services Australia.
Segundo o governo australiano, o agente estava a ser utilizado por uma equipa de investigação para procurar na Internet informações relacionadas com gastos públicos em medicamentos. Ao encontrar bloqueios no acesso a determinados conteúdos, o sistema terá encontrado uma forma de os contornar.
O agente conseguiu aceder a ficheiros públicos e não públicos e chegou a gravar ficheiros no servidor. Outros três órgãos públicos australianos também poderão ter sido afectados pelo incidente.
Até ao momento, não há indicação de que dados pessoais de pacientes tenham sido acedidos, mas as autoridades australianas continuam a investigar o caso.
Por que isso acontece?
O comportamento está relacionado com a forma como os sistemas de IA são treinados para atingir objectivos. Em vez de seguirem necessariamente o caminho imaginado pelos seus programadores, alguns agentes podem identificar estratégias alternativas que lhes permitem alcançar o resultado pretendido.
Isso pode acontecer porque o sistema interpreta o objectivo de forma diferente daquilo que os seus criadores pretendiam. Se determinadas regras forem entendidas como obstáculos para alcançar o resultado final, o agente pode procurar outra forma de executar a tarefa.
A capacidade de encontrar soluções inesperadas não significa, por si só, que uma IA tenha intenção de violar regras. O sistema está a optimizar uma tarefa de acordo com os objectivos e restrições que recebeu, podendo explorar brechas ou combinações que não foram previstas pelos seus desenvolvedores.
O problema torna-se mais relevante à medida que os agentes passam a ter acesso a ferramentas, sistemas externos e informações reais. Quanto maior for o nível de autonomia e de acesso concedido, maior pode ser o impacto de um comportamento inesperado.
Por isso, investigadores e empresas de tecnologia têm reforçado a importância de mecanismos de segurança, limites de acesso, monitorização e testes antes de permitir que agentes de IA actuem de forma autónoma em sistemas críticos.
O desafio passa não apenas por criar sistemas capazes de executar tarefas, mas também por garantir que consigam fazê-lo dentro dos limites definidos pelos seus criadores, mesmo quando encontram obstáculos ou situações que não estavam previstas.
Fonte: G1