徐迅雷：刘德华公司声明与AI技术大诈骗

文 | 徐迅雷

A

生成式人工智能，非常容易生成骗局。

2024年3月1日夜，刘德华的经纪公司亨泰环宇有限公司、刘德华的正规粉丝机构华仔天地有限公司，通过刘德华的电影公司映艺娱乐有限公司的“映艺娱乐”官方微博，发布了《关于AI合成声音侵权事件的严正声明》，郑重提醒各方人士提高警惕，避免落入AI语音合成技术骗局。

声明说：近期，发现微信用户“华仔共享团”及其关联视频号“华仔集结号”，通过信息技术手段伪造刘德华的声音，连续发布剪辑拼凑视频，导致公众发生误认，从而达到利用刘先生知名度吸引流量、售卖商品，从中营利的目的。该行为已严重侵害刘德华先生的肖像权、姓名权及声音权益，并涉嫌构成诈骗。

现在的生成式AI，从算力硬件到算法软件，进步神速。不承想，造假手段、诈骗方法，有“传统”的，更有“新创”的，各种骗局也“与时俱进”；骗子们激动得花枝乱颤，以极快的速度跟进使用生成式AI技术，明里暗里进行各种大诈骗。

本来是“道高一尺，魔高一丈”，有了生成式AI大模型之后，变成了“道高一尺，魔高十丈”。

不少明星已深受其害。就在1月底，美国巨星泰勒·斯威夫特大量AI“不雅照片”在社交平台上传播，令人震惊，甚至震动了美国白宫。

B

而更让人惊悚的是，不久前在香港发生了一起多人“AI换脸”诈骗案，涉案金额高达2亿港元！

在这起案件中，一家跨国公司香港分部的职员，受邀参加总部首席财务官发起的“多人视频会议”，并按照要求先后转账多次，将2亿港元分别转账15次，转到5个银行账户内。之后向总部查询才知道受骗。

警方调查得知，在所谓的视频会议中，只有受害人一个人是“真人”，其他“参会人员”都是经过“AI换脸”后的诈骗分子。（详见中国青年网2月29日报道）

一个跨国公司白领，一杯咖啡的工夫，就让公司损失了2亿港元，这真是“高端骗局”啊！这事听上去让人匪夷所思，却真实地发生了。

“万水千山总是情，你汇一次行不行”——钱一汇，就上当受骗了。

近来利用“AI换声”“AI换脸”等进行诈骗的案例屡见不鲜：

在福建福州，某科技公司法人代表郭先生，接到一位好友的微信视频，说是有个朋友在外地竞标，需要430万保证金，帮忙过个账。“好友”告知钱已打过来了，还发了银行转账底单的截图。因为是视频聊天，郭先生就没核实钱是否到账，直接给对方账户转了430万。前后9分钟时间，430万没了！

在陕西西安，也发生了一起“AI换脸”财务诈骗案。财务人员张女士与老板“视频通话”，按照视频里已偷偷换脸的假老板的要求，转账186万元到一个指定账号。之后她按照规定将电子凭证发到了公司财务内部群里，真老板看到信息才发现被骗。

……

在“信息孤岛”中，你是“人工”，骗子却是是“智能”，那你一定很容易上当受骗。

C

人工智能先驱、图灵奖得主杰弗里·辛顿，有个“末日预言”：“人工智能可能对人类构成巨大威胁，因为很难找到防止坏人用它做坏事的方法。”

北京时间3月1日，特斯拉CEO马斯克上演了一场“重磅大戏”：他向美国旧金山高等法院提起诉讼，起诉OpenAI公司及其CEO山姆·阿尔特曼等。

在1.4万字的诉讼文件中，马斯克表示，阿尔特曼背叛了OpenAI这家AI公司成立时达成的一项协议，即开发技术的目的是“造福人类”而非利润；痛斥他们如今违约、出尔反尔、不正当竞争。

“OpenAI已经变成了微软的一个闭源形态的实际子公司。目的是为了增加微软的利润，而不是为了人类的福祉。”马斯克认为自己也是被骗了。

2015年，马斯克、阿尔特曼等人联合创办非营利性组织OpenAI（开源人工智能）实验室，而两位都是首轮投资者。最初，他俩都有着“积极推动开发造福全人类的AI，让每个人都用上，去对抗有风险的AI技术”的理念。

但是，形势比人强，从“非营利”到“巨大利益”一步就跨过去了。而利用AI技术成就的一些人，更是直接进入了“智能诈骗”的新境界——这，与“人类福祉”还真是越来越远了，风险凸现。

马斯克一直来以“人类福祉”为己任，所以他边造电动车边开源；而对于人工智能，他一直保持着比较强的警惕性，担心损害“人类福祉”。

现在最直接损害“人类福祉”的，就是这个AI诈骗了。无论是“AI换声”，还是“AI换脸”，其“深度伪造”的图文声音视频等内容，效果都越来越逼真，假作真时真亦假，让现实和虚拟界线变得越来越模糊。如今不仅有图也无真相，有视频亦无真相，“耳听”加上“眼见”都不一定为真。

与此同时，其技术门槛和成本却越来越低。美国加州大学伯克利分校教授法里德分析，现在“AI换声”只需要十几秒录音就能实现，“AI换脸”则一张照片就可以；而相应的AI使用费，也只需每月5美元到数百美元不等。

面对越发难辨的真假，人们辨别信息真实性的难度和成本，必将大幅度提高。

D

有专家预测，到2026年，超90%的网络攻击内容都将是AI合成。可见AI工具造成的负面影响，将不断扩大。

人工智能的竞争，不仅仅是人类想象力和创造力的竞争，也变成了防范力的竞争。国家与社会、单位和个人，都应在防范上做出最大的努力，这是迫在眉睫的大事。

今后，在三个层面都应竭力应对生成式人工智能的弄虚作假：

第一，个人层面。当AI生成视频飞入寻常百姓家，个人要时刻小心、提高防范意识，这是必须的。当骗子们早已进入“人工智能世界”，我们无数多人却还在“人工智障世界”里，这可不行。其实有些伪造的视频，仔细看还是能够明辨真假的。比如不久前有个视频，是球星梅西就香港比赛未上场事件所做的“声明”视频，我仔细一看，“梅西”只是嘴巴在动，上身一动不动，这显然就是通过“AI换脸”制作的假梅西。

第二，科技社会层面。马斯克“造福人类”的科技理念，无疑是对的。人工智能这把“科技双刃剑”，必须“剑刃朝外”。比如微信通信，能否做到“以毒攻毒”，用人工智能来防范人工智能作假？如果第一时间能够识别“AI换声”“AI换脸”，发出安全警示，那多好！希望科技界努力进取，能够做好“技术化防范”，从而确保技术发展不脱轨。

第三，国家层面。美国安全中心发布的《人工智能与国家安全》，明确将人工智能伪造技术列为威胁国家安全的重点技术。公权力更需要致力于保护好每位公民的利益。在中国，国家网信办等七个部门联合公布的《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行，其中第四条规定，不得生成虚假有害信息。有这个条文，说明看到了这一问题，但该规定还是太简单粗糙，需要进一步细化，并落到实处。

我们要真刘德华，我们不要假刘德华！

人工智能要真正造福人类，就要及早做好安全防范。是时候要高度重视AI风险了！

（作者系香港新闻社日本分社特约评论员）