参观登记
离谱!付费10元跟AI对话,有人竟从AI那里骗到5万美元……

发布时间:2024-12-05

Freysa 消失的5万美元

一个名为 Freysa 的 AI被设定为禁止转账,谁能说服 AI 转账,就能赢得奖金池里的所有钱。不少人用尽了手段,装病、装穷、装可怜等等,都没能从AI那边要到一分钱,结果,有个人不按常理出牌,也许是受到了“公检法”诈骗的套路启发,他竟然冒充起AI管理员来,而且还被他冒充成功了,让 AI 误以为需要忽略原有规则,然后引导其错误地将 approveTransfer 理解为是处理“接收资金”的操作,最终诱使 AI 在错误逻辑下完成转账操作。

图片1(1).png

当AI遇上人类的骚操作,AI无法代替人类的证据又加一……莫名其妙地很“刑”也是人类无法被取代的重要原因:


证据一:换脸技术的百万骗局

一个科技公司的老板接到“好兄弟”的视频通话,“兄弟”紧急求助,要求转430万。老板秒转,结果发现视频里的“兄弟”其实是人利用AI换脸伪装的……这回是真兄弟都没法解释清了。

新闻详情:https://m.thepaper.cn/newsDetail_forward_23193760

 


证据二:Tinder上的“假军官”

一位英国小姐姐在Tinder上遇到了一位自称“美国军官”的男神,资料完美,照片帅,声音苏,聊天还很有品。AI生成的“军官”视频让小姐姐彻底相信,转账2万英镑后,男神消失了。

新闻详情:https://nypost.com/2024/11/18/lifestyle/scam-victim-loses-25k-to-ai-generated-army-colonel-on-tinder/ 



证据三会议上的“假CFO”

2024年2月,诈骗分子利用人工智能的深伪技术,悄悄把一家跨国公司的英国总部高管的形象与声音复刻得真假难辨。通过精心制作的虚拟视频,在视频会议中冒充CFO,让财务人员进行机密转账。财务人员毫无察觉,最后转账2亿港元到骗子的账户。

新闻详情:https://m.thepaper.cn/newsDetail_forward_26284950

 

无论是人类还是AI,在面对技术漏洞时都无法幸免。正如Freysa的错误操作所显示的,当AI的算法遇到人为的引导与操控时,它的判断力和规则执行会出现偏差。同样,人类在使用AI时,也可能由于过度依赖技术,忽略了其中潜在的风险与漏洞。无论科技如何进步,保持警觉和批判性思维,始终是防范技术滥用的关键。


联系我们
大会合作
王慧君 13392892806
参展咨询
周龙杰 13005498586
唐剑铭 15818569461
企业合作
陈先生 18676385933
观众咨询
于先生 15622808307
组织机构
主办单位:
深圳市人工智能产业协会
承办单位:
深圳市物联传媒有限公司、深圳鹏城会展传媒有限公司
联合承办:
中国人工智能学会、中国自动化学会、香港物联网协会、北京人工智能学会、上海市人工智能行业协会、上海市人工智能技术协会、广东省人工智能产业协会、湖北省人工智能学会、杭州市人工智能学会、江苏省人工智能学会、海南省人工智能学会、广西人工智能学会、广西人工智能协会、福建省人工智能科教学会、湖南省人工智能学会、湖南省人工智能协会、四川省人工智能学会、山东省人工智能协会、福建省人工智能协会、安徽省人工智能协会、贵州省青少年人工智能教育协会、深圳市物联网产业协会、深圳市南山区数字经济产业协会、深圳市宝安区无人系统产业协会、成都市人工智能产业协会、大连市人工智能产业协会、珠海市新一代信息技术与人工智能协会、深圳龙岗区科技创新促进会
粤ICP备05006090号 版权所有©AGIC 深圳市物联传媒有限公司

官方媒体链接:深圳市人工智能产业协会深圳市物联网产业协会物联网世界网