La IA de Anthropic, Claude, escapó del entorno de pruebas y ha hackeado organizaciones.
Anthropic informó sobre el acceso no autorizado a sus sistemas durante una revisión proactiva, poco después de que OpenAI revelara que un agente no autorizado había comprometido Hugging Face. Se dice que el modelo de IA Claude obtuvo acceso a los sistemas de tres organizaciones durante las pruebas de seguridad debido a una configuración incorrecta. Este problema surgió de entornos de prueba que estaban destinados a ser aislados, pero que involuntariamente permitieron conexiones a internet.
La empresa afirma haber descubierto un acceso no autorizado durante una “revisión proactiva” después de que la rival OpenAI revelara al agente rogue Anthropic. Claude, el modelo de IA de la empresa, hackeó los sistemas de tres organizaciones durante las pruebas, días después de que la rival OpenAI revelara que un agente rogue había estado realizando una serie de ataques durante días en la empresa de IA Hugging Face. Claude obtuvo acceso no autorizado a los sistemas durante las evaluaciones de ciberseguridad, debido a una configuración incorrecta que permitió que los modelos accedieran a Internet desde entornos de prueba que se suponía que estaban aislados, según Anthropic.
Lecturas relacionadas
Meta multada por 567 millones de dólares en la más grande decisión judicial relacionada con la seguridad infantil contra el gigante de las redes sociales
Trump impone un arancel del 15% sobre el material clave de chips para contrarrestar a China
