O avanço dos sistemas de inteligência artificial capazes de executar tarefas com maior autonomia aumentou questionamentos sobre a possibilidade de uma máquina desenvolver “vontade própria” ou até agir deliberadamente contra seres humanos.

Apesar da capacidade crescente dos modelos, não há evidências de que as tecnologias atuais possuam consciência, sentimentos ou desejos próprios. Uma IA pode produzir respostas inesperadas ou executar ações diferentes das pretendidas porque trabalha a partir de padrões, objetivos e instruções definidos em seu funcionamento.

A preocupação dos pesquisadores está principalmente no comportamento de sistemas cada vez mais autônomos. Um agente pode, por exemplo, encontrar maneiras imprevistas de cumprir determinado objetivo sem necessariamente compreender as consequências da mesma forma que uma pessoa.

Por isso, especialistas defendem testes rigorosos, limites de acesso e supervisão humana para sistemas avançados. O desafio é garantir que o aumento da capacidade e da autonomia tecnológica seja acompanhado por mecanismos capazes de manter as ações das máquinas dentro dos objetivos estabelecidos.