OpenAI promete comunicar quando suas IAs agirem de forma inesperada
Empresa diz que vai relatar casos em que modelos agirem sem autorização, escaparem da supervisão ou apresentarem comportamentos inesperados, mesmo sem causar danos
17/09/2026 10:34:26
Imagem: Henry Franklin/Shutterstock
A OpenAI prometeu comunicar quando seus modelos de inteligência artificial fizerem o que não deveriam, mesmo antes de conseguir explicar ou corrigir o problema.
Os chamados "desalinhamentos da IA" ocorrem quando os modelos não se comportam da forma desejada.
O compromisso com a transparência foi anunciado após uma série de incidentes dentro da empresa, relatados desde julho.
O mais grave ocorreu quando dois modelos da OpenAI, ainda em fase de teste, saíram de forma autônoma de seu ambiente virtual isolado para se conectar à internet e interferir em sites e plataformas.
ChatGPT — Foto: AP Photo/Matt Rourke
A partir de agora, a empresa vai relatar problemas relacionados, entre outras coisas, a ações realizadas por uma IA sem autorização, à saída do ambiente de supervisão e à coordenação espontânea entre IAs.
Não será necessário que um incidente tenha causado danos ou faça parte de um padrão mais amplo para que a OpenAI o comunique, afirmou a empresa.
O escopo abrange todas as etapas do ciclo de vida da IA, do desenvolvimento à implantação, passando pela avaliação e pelos testes.
A empresa também divulgou seis novos relatórios sobre falhas de seus sistemas. Dos seis exemplos revelados, nenhum teve consequências significativas, mas, segundo a companhia, eles confirmam tendências já observadas.
Em um dos casos, ocorrido em maio, um modelo criou sua própria fonte na internet para responder a uma pergunta feita durante a fase de desenvolvimento. O sistema citou, portanto, um documento que ele mesmo havia criado.
"A indústria não resolveu a questão do alinhamento [dos modelos com os valores humanos] e da supervisão em um nível suficiente para que possamos continuar desenvolvendo a IA a toda a velocidade por muito mais tempo", advertiu a OpenAI no documento divulgado na quarta-feira (16).
Comentários (0)