OpenAI reforça segurança diante de avanço de novo modelo de inteligência artificial

A OpenAI informou que os avanços alcançados por um novo modelo de inteligência artificial exigirão medidas adicionais de segurança antes de uma utilização mais ampla. A preocupação está relacionada ao aumento da capacidade dos sistemas para executar tarefas complexas e atuar com maior autonomia.

Testes realizados durante o desenvolvimento apontaram avanços especialmente relevantes em programação e tarefas relacionadas à segurança cibernética. Quanto maior a capacidade dos modelos para identificar e trabalhar com vulnerabilidades, maior também é a necessidade de mecanismos destinados a impedir usos prejudiciais.

A estratégia envolve ampliar avaliações antes da disponibilização das tecnologias, estabelecer restrições para determinadas capacidades e acompanhar possíveis formas de utilização indevida. A empresa trabalha com diferentes níveis de proteção de acordo com os riscos apresentados pelos modelos.

O desenvolvimento de sistemas cada vez mais capazes transformou a segurança em uma das principais áreas de atenção do setor de inteligência artificial. O desafio é permitir aplicações legítimas da tecnologia sem facilitar atividades que possam causar danos a pessoas, empresas ou infraestruturas digitais.