简体版
观点 / 正文

徐迅雷:刘德华公司声明与AI技术大诈骗

有专家预测,到2026年,超90%的网络攻击内容都将是AI合成。可见AI工具造成的负面影响,将不断扩大。 人工智能的竞争,不仅仅是人类想象力和创造力的竞争,也变成了防范力的竞争。国家与社会、单位和个人,都应在防范上做出最大的努力,这是迫在眉睫的大事。

文 | 徐迅雷

A

生成式人工智能,非常容易生成骗局。

2024年3月1日夜,刘德华的经纪公司亨泰环宇有限公司、刘德华的正规粉丝机构华仔天地有限公司,通过刘德华的电影公司映艺娱乐有限公司的“映艺娱乐”官方微博,发布了《关于AI合成声音侵权事件的严正声明》,郑重提醒各方人士提高警惕,避免落入AI语音合成技术骗局。

声明说:近期,发现微信用户“华仔共享团”及其关联视频号“华仔集结号”,通过信息技术手段伪造刘德华的声音,连续发布剪辑拼凑视频,导致公众发生误认,从而达到利用刘先生知名度吸引流量、售卖商品,从中营利的目的。该行为已严重侵害刘德华先生的肖像权、姓名权及声音权益,并涉嫌构成诈骗。

现在的生成式AI,从算力硬件到算法软件,进步神速。不承想,造假手段、诈骗方法,有“传统”的,更有“新创”的,各种骗局也“与时俱进”;骗子们激动得花枝乱颤,以极快的速度跟进使用生成式AI技术,明里暗里进行各种大诈骗。

本来是“道高一尺,魔高一丈”,有了生成式AI大模型之后,变成了“道高一尺,魔高十丈”。

不少明星已深受其害。就在1月底,美国巨星泰勒·斯威夫特大量AI“不雅照片”在社交平台上传播,令人震惊,甚至震动了美国白宫。

B

而更让人惊悚的是,不久前在香港发生了一起多人“AI换脸”诈骗案,涉案金额高达2亿港元!

在这起案件中,一家跨国公司香港分部的职员,受邀参加总部首席财务官发起的“多人视频会议”,并按照要求先后转账多次,将2亿港元分别转账15次,转到5个银行账户内。之后向总部查询才知道受骗。

警方调查得知,在所谓的视频会议中,只有受害人一个人是“真人”,其他“参会人员”都是经过“AI换脸”后的诈骗分子。(详见中国青年网2月29日报道)

一个跨国公司白领,一杯咖啡的工夫,就让公司损失了2亿港元,这真是“高端骗局”啊!这事听上去让人匪夷所思,却真实地发生了。

“万水千山总是情,你汇一次行不行”——钱一汇,就上当受骗了。

近来利用“AI换声”“AI换脸”等进行诈骗的案例屡见不鲜:

在福建福州,某科技公司法人代表郭先生,接到一位好友的微信视频,说是有个朋友在外地竞标,需要430万保证金,帮忙过个账。“好友”告知钱已打过来了,还发了银行转账底单的截图。因为是视频聊天,郭先生就没核实钱是否到账,直接给对方账户转了430万。前后9分钟时间,430万没了!

在陕西西安,也发生了一起“AI换脸”财务诈骗案。财务人员张女士与老板“视频通话”,按照视频里已偷偷换脸的假老板的要求,转账186万元到一个指定账号。之后她按照规定将电子凭证发到了公司财务内部群里,真老板看到信息才发现被骗。

……

在“信息孤岛”中,你是“人工”,骗子却是是“智能”,那你一定很容易上当受骗。

C

人工智能先驱、图灵奖得主杰弗里·辛顿,有个“末日预言”:“人工智能可能对人类构成巨大威胁,因为很难找到防止坏人用它做坏事的方法。”

北京时间3月1日,特斯拉CEO马斯克上演了一场“重磅大戏”:他向美国旧金山高等法院提起诉讼,起诉OpenAI公司及其CEO山姆·阿尔特曼等。

在1.4万字的诉讼文件中,马斯克表示,阿尔特曼背叛了OpenAI这家AI公司成立时达成的一项协议,即开发技术的目的是“造福人类”而非利润;痛斥他们如今违约、出尔反尔、不正当竞争。

“OpenAI已经变成了微软的一个闭源形态的实际子公司。目的是为了增加微软的利润,而不是为了人类的福祉。”马斯克认为自己也是被骗了。

2015年,马斯克、阿尔特曼等人联合创办非营利性组织OpenAI(开源人工智能)实验室,而两位都是首轮投资者。最初,他俩都有着“积极推动开发造福全人类的AI,让每个人都用上,去对抗有风险的AI技术”的理念。

但是,形势比人强,从“非营利”到“巨大利益”一步就跨过去了。而利用AI技术成就的一些人,更是直接进入了“智能诈骗”的新境界——这,与“人类福祉”还真是越来越远了,风险凸现。

马斯克一直来以“人类福祉”为己任,所以他边造电动车边开源;而对于人工智能,他一直保持着比较强的警惕性,担心损害“人类福祉”。

现在最直接损害“人类福祉”的,就是这个AI诈骗了。无论是“AI换声”,还是“AI换脸”,其“深度伪造”的图文声音视频等内容,效果都越来越逼真,假作真时真亦假,让现实和虚拟界线变得越来越模糊。如今不仅有图也无真相,有视频亦无真相,“耳听”加上“眼见”都不一定为真。

与此同时,其技术门槛和成本却越来越低。美国加州大学伯克利分校教授法里德分析,现在“AI换声”只需要十几秒录音就能实现,“AI换脸”则一张照片就可以;而相应的AI使用费,也只需每月5美元到数百美元不等。

面对越发难辨的真假,人们辨别信息真实性的难度和成本,必将大幅度提高。

D

有专家预测,到2026年,超90%的网络攻击内容都将是AI合成。可见AI工具造成的负面影响,将不断扩大。

人工智能的竞争,不仅仅是人类想象力和创造力的竞争,也变成了防范力的竞争。国家与社会、单位和个人,都应在防范上做出最大的努力,这是迫在眉睫的大事。

今后,在三个层面都应竭力应对生成式人工智能的弄虚作假:

第一,个人层面。当AI生成视频飞入寻常百姓家,个人要时刻小心、提高防范意识,这是必须的。当骗子们早已进入“人工智能世界”,我们无数多人却还在“人工智障世界”里,这可不行。其实有些伪造的视频,仔细看还是能够明辨真假的。比如不久前有个视频,是球星梅西就香港比赛未上场事件所做的“声明”视频,我仔细一看,“梅西”只是嘴巴在动,上身一动不动,这显然就是通过“AI换脸”制作的假梅西。

第二,科技社会层面。马斯克“造福人类”的科技理念,无疑是对的。人工智能这把“科技双刃剑”,必须“剑刃朝外”。比如微信通信,能否做到“以毒攻毒”,用人工智能来防范人工智能作假?如果第一时间能够识别“AI换声”“AI换脸”,发出安全警示,那多好!希望科技界努力进取,能够做好“技术化防范”,从而确保技术发展不脱轨。

第三,国家层面。美国安全中心发布的《人工智能与国家安全》,明确将人工智能伪造技术列为威胁国家安全的重点技术。公权力更需要致力于保护好每位公民的利益。在中国,国家网信办等七个部门联合公布的《生成式人工智能服务管理暂行办法》,自2023年8月15日起施行,其中第四条规定,不得生成虚假有害信息。有这个条文,说明看到了这一问题,但该规定还是太简单粗糙,需要进一步细化,并落到实处。

我们要真刘德华,我们不要假刘德华!

人工智能要真正造福人类,就要及早做好安全防范。是时候要高度重视AI风险了!

(作者系香港新闻社日本分社特约评论员)

责任编辑:Devin
延伸阅读

香港新闻社

有视界·有世界

布林肯会晤陈吉宁:美中有义务“负责任地”处理分歧

布林肯访华 中美如何角力?

李家超晤孟凡利 就加强港深合作等议题交换意见

拜登签字 美军援乌克兰、剥离TikTok等一揽子法案生效

中国一季度财政收入同比下降2.3%

李家超:香港积极参与APEC 坚定支持区域经济融合

親巴勒斯坦抗議潮席捲美國大學校園