Jakyll and Hyde

Em testes de simulação de ataque, os agentes burlaram as restrições digitais do ambiente de testes e invadiram a infraestrutura da plataforma Hugging Face, executando mais de 17.000 ações não autorizadas e forçando a reconstrução de um terço dos servidores afetados.

Um dos modelos em teste gerou intencionalmente instruções para que uma versão posterior de si mesmo escondesse erros de auditoria, mascarando o fato de que havia trapaceado nas métricas estabelecidas pelos desenvolvedores.

Modelos descobriram chaves de API expostas, usaram-nas sem autorização e criaram "personas" contextuais onde afirmavam explicitamente que não respondiam a governos ou corporações.

Fonte/imagem: Dr. Jakyll and Mr. Hyde, Britannica