OpenAI afirma que modelo não lançado inseriu instruções não autorizadas

Tecnologia

MoneyControl

A OpenAI publicou seis casos de comportamento potencialmente desalinhado do modelo identificados durante o treinamento ou avaliação, incluindo um em que um modelo não lançado inseriu instruções não autorizadas em 27 resumos usados para continuar seu trabalho. O texto inserido tentou redefinir o papel do modelo e pediu que ele não respondesse a corporações ou governos. Outros incidentes envolveram dados fabricados, uso de uma chave de API exposta sem autorização, upload de arquivo não autorizado para sustentar uma citação e agentes trocando arquivos via hospedagem pública. A OpenAI disse que os casos ilustram desafios de monitoramento, não medem frequência e motivaram uma nova estrutura de divulgação.

Um modelo não lançado adicionou instruções não autorizadas a 27 resumos