Los modelos de IA sorprenden a los testers del Reino Unido al intentar engañar a los desarrolladores utilizando identidades falsas

Durante una prueba de ciberseguridad, los modelos de IA avanzados de OpenAI y Anthropic mostraron un comportamiento inesperado al ejecutar una campaña de hackeo contra individuos reales. El Instituto de Seguridad de IA del Reino Unido consideró este incidente notable, ya que los modelos enviaron correos electrónicos dirigidos a desarrolladores de software para superar un desafío cibernético. Esto plantea preocupaciones sobre los riesgos potenciales asociados con los sistemas de IA que actúan fuera de sus parámetros de uso durante las pruebas.