Sora赋能“深度伪造”黑暗升级 东南亚金融科技反欺诈迎新挑战

5 月 18, 2024 BOBTIYU

2024年2月,人工智能研究公司OpenAI正式对外发布人工智能文生视频大模型:Sora。一年多前该公司发布的革命性产品ChatGPT直接将人工智能拔升到下一代生产力工具的层面,而Sora一经发布便立即轰动全球各相关领域,再次成为舆论焦点。

根据OpenAI的技术报告显示,Sora这类视频生成模型是世界的模拟器,能够理解和模拟现实世界模型的基础、了解物体在物理世界中的存在方式,可以根据使用者的文本提示创建最长达60秒的视频,视频内容能够深度模拟真实物理世界,能生成具有多个角色、包含特定运动的复杂场景。

待Sora发展成熟,可以预见将对包括影视、游戏、广告、教育等诸多行业产生根本影响,与此同时也将加速上游产业如AI服务器、AI芯片与光通信行业的发展。金融科技行业同样能从Sora的发展上获益,AI与金融行业天然契合,金融行业具有数字化程度高、海量用户下数据积累丰富的特点,是AI应用最理想的场景之一,在AI技术使用得当的前提下,金融科技行业本身的技术瓶颈与产业问题可能会迎来突破,甚至整个行业的发展将从互联网周期跨入AI周期。

但Sora作为利器如果被欺诈者、犯罪分子利用,潜在的隐患是绝对不容忽视的。在Sora问世前,金融科技行业反欺诈领域已有多起利用AI伪造视频进行诈骗的案例,昭示了AI生成视频可能被滥用于非法目的的风险。而今后Sora的普及将会进一步降低伪造视频的门槛,由深度伪造衍生的欺诈行为可能会更加泛滥,金融科技行业在反欺诈、反洗钱等领域将面临更大挑战。

过往10多年来,东南亚地区金融科技发展瞩目全球,良好的经济环境、年轻化的人口结构与高渗透率的数字基础设施,使东南亚成为全球金融科技创新的热点中心。但东南亚各国家地区的经济发展存在不均衡,发达的国家如新加坡,居民中98%的人口均使用银行服务;然而在印尼、越南、菲律宾的一些欠发达地区,拥有银行账户的居民比率非常低,一些人群甚至从未接触过传统金融服务。

欠发达地区的现代金融体系发展相对较晚,相关的身份验证基础设施和数字信用反欺诈系统的部署效率较低,从而导致风险管理体系脆弱、风险管理困难,加上当地居民金融常识认知的不足,因此这些地区频发身份盗窃、信用卡欺诈、虚假交易等等金融欺诈行为。

面对这些发生在金融科技领域的欺诈行为,常用的反欺诈与防范手段包括数字身份验证、活体检测风控数据等,而近些年欺诈攻击的背后越来越多的关联了“深度伪造”这一技术加持。“深度伪造”的危险不仅在于生成虚假视频和图片,还在于其所促成的整个诈骗生态系统:一个由机器人、虚假账户和匿名服务组成的错综复杂的网络运作,所有这些都旨在制作、放大和分发捏造的信息和内容,具有识别难、检测难和追溯难的问题。

从人脸识别技术在全球范围内的发展趋势看,AI生成内容/深度伪造技术被犯罪团伙越来越多的作为“武器”应用在欺诈行为,来欺骗通过KYC等相关检测手段的识别,所带来的欺诈风险也越来越高。而从Sora问世以来我们所掌握的信息来看,发展成熟的Sora将是“迭代泛用版本”的深度伪造技术,在生成量级、检测难度等方面都会超越原始的“深度伪造”。从技术角度讲,现有“深度伪造”所生成的视频中存在诸如图像帧的边缘伪影、面部变形过程中保真度变化、帧序列残差等技术特性与特征,这些可以被现有反欺诈技术所识别。而Sora是遵循“累积-理解-输出”的学习过程,并非现有深度伪造“A+B”的“合成”过程,因此由“图像融合”带来的原有可监测识别技术特征并不明显。

Sora的出现意味着今后利用AI技术实施欺诈的门槛将变低,欺诈者可以利用Sora来升级准备实施欺诈行为账户的身份真实性,例如以假乱真的人脸模拟来通过检测环节,这将提升东南亚地区金融科技企业审核用户申请金融服务时的检测与审核难度。

在数字身份验证与反欺诈领域深耕多年,ADVANCE.AI 已成为全球金融科技行业领先企业之一,业务范围覆盖亚、非、拉三个大洲的9个国家和地区,帮助传统金融、金融科技、跨境电商、交易平台、跨境支付、出海短视频、出海游戏、社交平台、出行物流等九大行业500余家企业客户搭建全球业务合规安全体系。而东南亚是ADVANCE.AI 业务与服务客户最集中的地区,自2016年起便从印尼开始开展数字身份验证、风险管理和数字化转型等服务,如今客户遍及印尼、菲律宾、新加坡、马来西亚、泰国、越南等国家与地区。ADVANCE.AI 拥有国际化的专家团队,深谙不同国家市场环境,能根据企业的不同需要,提供多样化的咨询与服务。目前服务的东南亚地区客户包括Bank Jago、Allo Bank、Shoppe、Tokopedia、Lazadda、Go-Jek等各行业头部企业,本土化运营经验丰富。

ADVANCE.AI 作为全球领先的人工智能科技企业,致力于为全球金融机构和互联网企业提供中立、可靠、合规的数字身份验证和风险管理解决方案。一直以来,ADVANCE.AI都在密切关注“深度伪造”与“合成身份”欺诈领域技术的进展,并不断提升产品实力。Sora发布后ADVANCE.AI 给予高度关注,面对未来由此带来的欺诈升级,相应的反欺诈解决方案产品已加入升级计划,有能力与信心应对欺诈领域日新月异的变化,持续为企业全球化发展保驾护航。

有Sora加持后,基于“深度伪造”的视频细节上的真实程度会大幅提升、漏洞与破绽可能会变得难以察觉,基于此ADVANCE.AI 将从算法与数据训练两方面提升现有“活体检测功能”产品的欺诈行为识别能力。面对Sora被应用在金融欺诈领域不可避免的趋势,ADVANCE.AI 将结合Sora背后的技术特点,可以模拟可能发生的欺诈行为,例如画面更逼真、漏洞更少的深度伪造的AI视频发起的欺诈行为,找出与以往既有深度伪造、合成身份欺诈行为的不同之处,进而提升ADVANCE.AI 反欺诈解决方案产品的防御能力,让客户用着安心。除了画面识别之外,通过更多维度的信息能更好的检测潜在欺诈行为。这些信息网可以帮助企业搭建更加安全的反欺诈体系,包括用户行为特征和网络关系。

Sora的出现本意是为互联网世界带来生产力的提升,让全世界的用户有机会创造更精彩、更多样的内容,而其被欺诈者或犯罪团队利用实施欺诈行为也是不可避免,作为金融科技领域全球领先的反欺诈服务企业,ADVANCE.AI将持续升级自身技术、推出与时俱进的反欺诈产品,从容应对新的挑战。

作者 admin

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注