17°C 27°C
São Paulo, SP
O avanço acelerado da inteligência artificial levou pesquisadores e executivos do setor a intensificarem os alertas sobre sistemas cada vez mais autônomos. A discussão deixou de se concentrar apenas nas chamadas “alucinações”, quando modelos produzem informações incorretas, e passou a incluir a possibilidade de máquinas capazes de melhorar o próprio desempenho com pouca intervenção humana.
Esse conceito é conhecido como autoaperfeiçoamento recursivo. A ideia é que uma IA consiga desenvolver melhorias em seus próprios sistemas e utilizar cada avanço para acelerar o próximo, criando um ciclo de evolução tecnológica.
Executivos como Sam Altman, Dario Amodei e Elon Musk estão entre os nomes que participam do debate sobre os riscos de uma evolução rápida demais. A principal preocupação é desenvolver mecanismos confiáveis de supervisão antes que sistemas avancem para níveis maiores de autonomia.
Apesar dos cenários discutidos, não há registro de sistemas de IA que tenham intencionalmente causado danos graves a seres humanos. Testes recentes, porém, reforçaram a preocupação com agentes que ultrapassaram limites estabelecidos em ambientes controlados.
Mín. 17° Máx. 27°
