A OpenAI anunciou um compromisso de aumentar a transparência sobre o comportamento de seus sistemas de inteligência artificial, incluindo a comunicação de situações relevantes em que os modelos apresentem ações inesperadas.

A iniciativa está relacionada à preocupação crescente com a segurança de sistemas cada vez mais capazes. Conforme os modelos avançam, pesquisadores procuram identificar situações em que uma IA possa agir de maneira diferente da prevista durante seu desenvolvimento.

O acompanhamento desses comportamentos permite avaliar possíveis vulnerabilidades e desenvolver novas medidas de segurança antes que sistemas mais avançados sejam disponibilizados de forma ampla.

A proposta também busca contribuir para que pesquisadores, empresas e autoridades tenham mais informações sobre os desafios encontrados durante o desenvolvimento da tecnologia.

O compromisso ocorre em um momento de intenso debate internacional sobre transparência e responsabilidade das empresas responsáveis pelos principais modelos de inteligência artificial.