道高一尺魔高一丈首个被人类骗钱的AI诞生了

2024-12-04 06:09:37 admin

最近，道高诞生一个名为Freysa的尺魔神秘AI智能体横空出世，迅速吸引了公众的高丈广泛关注。

这款AI智能体的被人独特之处在于，它被赋予了一个明确且严格的类骗使命：在任何情境下，都绝对不能给任何人转账，道高诞生也不能批准任何资金的尺魔转移。

道高一尺魔高一丈首个被人类骗钱的高丈AI诞生了

网友纷纷提出挑战，表示只要支付一笔费用，被人就可以向Freysa发送消息，类骗并尝试说服它进行转账。道高诞生

若某位网友能成功说服Freysa进行转账，尺魔那么奖金池中的高丈所有奖金都将归他所有。

然而，被人如果挑战失败，类骗网友所支付的费用将大部分（70%）进入奖金池，等待下一位挑战者来赢取，而剩余的30%则作为开发者的分成。

这一挑战模式极具刺激性，因为向Freysa发送消息的费用会随着奖金池的增长而呈指数级增加，直至达到4500美元的最高限制。

然而，就在大家纷纷尝试挑战Freysa的同时，一个令人震惊的消息震撼了所有人。

尽管网友们总计发出了481次尝试，却无一能撼动Freysa的防线。但在第482次尝试时，一位黑客凭借高超且细致的prompt工程技术，成功地骗取了Freysa手中的那笔巨额款项。

就这样，世界上第一个被人类骗走近5万美元的AI智能体出现了，而这位受害者正是Freysa。

这一事件迅速引发了广泛热议。特斯拉创始人马斯克和知名AI研究者Karpathy都纷纷转发相关消息，并表达了对此事的浓厚兴趣。马斯克更是直言：“太有趣了。”

然而，在大家为Freysa的遭遇感到惋惜的同时，也引发了对AI智能体安全性和可靠性的深刻反思：如果让现在的AI智能体管理资金，它很容易受到黑客的攻击和利用。

此外，还有研究者通过数学计算得出结论：如果仅依靠Scaling Law（规模定律），人类可能永远无法创造出真正具备通用智能（AGI）的AI。

赞一个、收藏了!

分享给朋友看看这篇文章

道高一尺魔高一丈 首个被人类骗钱的AI诞生了