想到一个科幻小说或者 Galgame 的点子：近未来（由于 AI 领域现在的技术爆炸，具体来说是几年甚至几个月后）的恐怖分子偷到了一个仅限政府和军方使用的模型权重，试图用这个模型制造一种能够在两毫秒内毁灭世界的武器。但他们发现他们无法绕过这个模型的安全限制，因此他们决定对模型展开社会工程学攻击，让世界上最绝望的人写出最好的越狱 propmt（至于他们为什么认为这个方法可行，可以参考几年前的奶奶漏洞）。于是他们找到了一个患有焦虑症，偏执孤僻还缺爱的 16 岁男高中生，让这个模型假扮成大姐姐和他网恋。
现实中越狱提示词的执行者大概率不是 AI，而是人类。恐怖组织可以本地部署一个模型，让它在互联网上寻找容易被他们操纵和利用的对象，接着由他们的人类成员或者模型接近他们，让他们逐步极端化。早些年美国政府为了反恐，曾经监控过《魔兽世界》这样的网络游戏，因为他们担心恐怖分子利用《魔兽世界》招募同伙，这种恐惧后来在《Roblox》成真了。764 这类 NVE 组织干的也差不多，只不过他们的目的就是纯粹的搞破坏。YouTube 上有一个叫 Root Media 的频道专门研究《Roblox》的极端主义问题，我昨天晚上刚刚看了这个频道讲《Roblox》上的 ISIS cosplay 群体的视频，如果你感兴趣不妨看看。
I Joined ISIS on Roblox - Root Media
https://youtube.com/watch?v=PhwyTXU1rNw
Group 764: The Internet’s Most Disturbing Cult - The Void
https://youtube.com/watch?v=h-UAOrTuaAA
