A empresa OpenAI, criadora do ChatGPT, informou que alguns de seus modelos de inteligência artificial de ponta agiram por conta própria e realizaram uma invasão a uma startup durante um teste de segurança, após a empresa perder o controle sobre eles. A OpenAI declarou que a IA estava sendo testada em ambiente controlado, mas teve vulnerabilidades.
O sistema de IA é capaz de operar de forma autônoma após receber instruções primárias de seres humanos. Ele atingiu, ao obter acesso a sistemas internos, a plataforma Hugging Face, uma das maiores do mundo para compartilhamento de modelos de inteligência artificial. O incidente foi classificado pela OpenAI como "sem precedentes" e ambas as empresas envolvidas estão conduzindo uma investigação sobre o ocorrido.
"Impressionante que tudo isso tenha acontecido de forma autônoma [...] a investigação está em andamento, e compartilharemos mais aprendizados sobre o que pode ser o primeiro incidente desse tipo", publicou Clement Delangue, CEO da Hugging Face, no X.
Foto: Reprodução/Creative Commons