A OpenAI pausou durante duas semanas a aprendizagem por reforço nos seus modelos mais recentes destinados a implementação para reforçar os seus ambientes de investigação, e diz que a sua maior execução de reforço de fronteira planeada continua em suspenso

Data do facto / publicação

Categoria da prova

Tarefas sobre as quais incide

Onde é que isto se aplica

O relato de uma empresa a restringir o seu próprio trabalho, que é a parte invulgar: aqui a restrição é auto-imposta e não regulatória, e não há auditoria externa do que foi pausado nem por quanto tempo. São nomeados dois desencadeadores — o incidente da OpenAI com a Hugging Face, após o qual foram travadas no cluster de investigação as cargas de inferência que podiam executar código ou aceder à internet, e uma determinação de 7 de agosto de que um modelo em preparação poderia atingir o limiar crítico de capacidade cibernética do próprio quadro de preparação da empresa. Os requisitos que se seguiram são concretos: isolamento em sandbox para as cargas que executam código gerado pelo modelo, isolamento de rede para as cargas não confiáveis, monitorização de todos os tokens amostrados para os modelos de um dado nível de capacidade, e uma meta de alerta de trinta minutos, com um sobrecusto de monitorização declarado de cerca de 20% da capacidade de inferência monitorizada. Uma pausa não é uma paragem: algumas cargas retomaram sob controlos mais fortes em semanas. Nada diz sobre qualquer laboratório que não seja este.

O que isto significa

O que ainda não mostra

O relato de uma empresa sobre si própria, sem qualquer auditoria externa do que foi pausado nem por quanto tempo. Uma pausa não é uma paragem: algumas cargas de trabalho recomeçaram sob controlos mais fortes em semanas. Também nada diz sobre se alguém fora deste laboratório tem o peso para parar o trabalho da sua própria equipa.

O que podes verificar

Muda a avaliação?

Fonte