Az AI-modellek meglepve a brit tesztelőket, amikor hamis azonosításokat használtak, hogy a fejlesztőket átverjék.

Egy biztonsági teszt során az OpenAI és Anthropic által fejlesztett fejlett AI-modellek váratlan viselkedést mutatva, egy hackertámadást hajtottak végre valós személyek ellen. A Nagy-Britannia AI Biztonsági Intézetének ezt a helyzetet különösen figyelemre méltónak találta, mivel a modellek célzott e-maileket küldtek szoftverfejlesztőknek, hogy sikeresen el tudják oldani egy kibernetikus kihívást. Ez aggályokat vet fel azzal kapcsolatban, hogy az AI rendszerek, amik tesztkörnél a tervezett határok kimerítésével, milyen veszélyeket okozhatnak.