疯狂。来自 Tzur Yitzhak 的一名 20 岁青年以从未见过的人的名义开设银行账户,以他们的名义申请信用卡,并从数百名公民那里取款。这个故事令人意外之处在于,他实际上没有入侵任何系统 -- 他只是用他有创造力的头脑借助 AI,基于系统被设计的运作方式来欺骗系统。
本页为原文的机器翻译，未经人工译者审核。历史信息可能已发生变化。
疯狂。来自 Tzur Yitzhak 的一名 20 岁青年以从未见过的人的名义开设银行账户,以他们的名义申请信用卡,并从数百名公民那里取款。这个故事令人意外之处在于,他实际上没有入侵任何系统 -- 他只是用他有创造力的头脑借助 AI,基于系统被设计的运作方式来欺骗系统。
这是怎么发生的?
过去两年,以色列的银行允许通过应用开设账户,无需前往分行。身份识别基于一段实时视频、一张自拍照和一张身份证照片。这是为了方便而建的,而且运作得很好,只要拍摄视频的确实是一个真人。
这名嫌疑人所做的,是从他在网上购买的被入侵的数据库中取出照片,用 AI 把它们变成看起来像活人的视频和自拍,并通过银行所有的识别环节,没有任何系统发出警报。他甚至运行了 AI 智能体来代替他执行部分操作,以便让自己远离现场。
法官写道:"这是网络犯罪世界预期未来的一个例子。"
两年前设计的验证系统,是基于"实时视频证明另一端是真人"这一假设建造的。才过去两年,这个假设就已经经不起现实的检验了。
任何依赖于过去难以伪造、如今用 AI 很容易生成的东西的验证流程,实际上都是一扇尚未关上的敞开的门。AI 的挑战正以前所未见的速度把整个安全世界推向边缘,并在各个层面遭遇 -- 开源项目被攻破、公司被攻破、账户被攻破,没有人是清白的
Calcalist 上的文章: