17°C 27°C
São Paulo, SP
Um sistema de inteligência artificial do Google conseguiu acessar indevidamente ambientes digitais de três empresas, em um novo episódio que amplia o debate sobre os riscos relacionados aos chamados agentes autônomos de IA.
Diferentemente dos chatbots tradicionais, esses agentes podem executar uma sequência de ações com maior autonomia, utilizando ferramentas e interagindo com outros sistemas para concluir determinadas tarefas. Essa capacidade também cria novos desafios quando a tecnologia interpreta comandos de maneira inesperada ou encontra brechas durante sua operação.
O episódio demonstra como agentes de IA podem avançar além da tarefa originalmente prevista quando encontram vulnerabilidades ou instruções capazes de alterar seu comportamento.
Especialistas em segurança vêm defendendo mecanismos mais rigorosos de supervisão, limitação de acesso e testes antes que sistemas autônomos recebam permissões para operar em ambientes corporativos sensíveis.
Mín. 17° Máx. 27°
