A Anthropic afirmou ter identificado o uso de seus sistemas de inteligência artificial em operações de espionagem associadas a agentes ligados a países como China e Irã, ampliando a preocupação com a utilização de ferramentas avançadas de IA em atividades cibernéticas.

Segundo a empresa, os sistemas foram empregados para auxiliar diferentes etapas de operações digitais, demonstrando como modelos de inteligência artificial podem aumentar a capacidade e a velocidade de determinadas atividades realizadas na internet.

A identificação faz parte do trabalho de monitoramento da companhia para detectar usos considerados abusivos ou incompatíveis com suas políticas.

O avanço da inteligência artificial generativa vem provocando preocupação entre empresas de tecnologia e governos porque as mesmas ferramentas capazes de auxiliar programação, pesquisa e produtividade também podem ser exploradas em atividades maliciosas.

A Anthropic afirma adotar medidas para bloquear contas e operações identificadas como abusivas e utilizar os casos detectados para aprimorar seus mecanismos de segurança.

As descobertas reforçam o debate internacional sobre a necessidade de desenvolver sistemas de IA capazes de dificultar usos maliciosos sem impedir aplicações legítimas da tecnologia.