经济观察报记者 劳莹莹 在AI（人工智能）技术快速发展的背景下，各种“Deepfakes”随时可能出现在日常生活中，让人难以防备。近日，蚂蚁数字科技（以下简称“蚂蚁数字”）产品技术人员在优化算法时，发现了不法分子的一些新的诈骗手段。犯罪分子首先设置“网络钓鱼”陷阱，以银行的身份向受害者发送短信或电子邮件链接，引导他们前往其网站进行交易。当受害者无意中点击钓鱼网站并提交姓名、身份证号码、电话号码、短信验证码和支付密码后，这些犯罪分子显然获得了“万能钥匙”，并立即利用这些信息登录受害者的手机银行。同时，他们利用受害者的照片生成了高调的高度逼真的AI深度伪造图像或视频，然后用于注入攻击（通过注入恶意代码）劫持目标手机摄像头自拍，然后利用预先录制的图像或视频篡改或替换摄像头的物理自拍，通过躲避活体检测的防线进行验证，从而融合类对话活动。这样，通过身份验证后，犯罪分子就可以转移被攻击对象的资金，甚至利用被攻击对象的信息申请贷款，而被攻击对象可能并不自觉。但“魔高道低”。 11月3日至4日的香港金融科技周上，“AI vs. AI”展位中隐藏着一场看不见的攻防战。在蚂蚁数字展示的宣传视频中，多组机械臂在实验室24小时不停转动，模拟身份欺诈攻击并识别图像真伪。一群配备手机摄像头的机械臂不断前行平移、收缩、聚焦，反复识别眼前的图像；另一组机械臂准确地抬起图像并将其连续传送到相机。计算机实时记录每次识别的结果，然后将数据输入人工智能算法，让它直接进入实战，更好地识别各种AI技巧的缺陷。这不是科幻电影中机器人的觉醒，而是与非法人工智能的长期拉锯战。当犯罪分子的攻击上升到新的水平时，金融机构的反击也必须同步上升到更高的规模。两人在比赛中形成攻防的连续轮换。 AI深度形成Fory 劳莹莹/劳莹莹在蚂蚁数码展台前拍摄的AI如何对抗AI的照片，一个名为“深度伪造一代”的互动模块吸引了众多参观者。只需一张自拍，系统即可立即获取十几张“双胞胎照片”中，只有一两张是真实照片，其余都是人工智能生成的。由于发型或灯光变化等明显缺陷，这些图像中只有少数可以用肉眼验证。其中大多数由于高度真实而难以辨认。经济观察报记者采访了解到，全球有数百万犯罪分子从事人工智能诈骗等非法活动。这些人有能力快速学习并及时了解新技术。更重要的是，非法活动可以带来极高的“回报”，只要投入一两个人的高级技术人员发动攻击并成功窃取一次银行账户，就有可能窃取数百万美元甚至更多。蚂蚁数字一位产品技术人员告诉经济观察报记者，上述注入攻击是目前比较新的攻击手法。过去，大多数frauds是演示攻击，例如使用照片、视频、普通面具或三维头罩等伪造品直接在相机上进行，从而错过生命体的检测。过去，这种攻击方式通常使用图像或视频处理软件来执行相应的修改操作，但如今通常是由AI借助类似于美化的更先进的生成工具来生成。主要形式有替换一张脸、将静态图像转换为视频、改变面部特征、分割两张脸等。面对升级版的攻击，金融科技公司布下了一张“防御网”。前述产品技术人员表示，他们将深入研究犯罪分子的各种诈骗手段，模拟其操作逻辑，利用专业设备制作人脸、指纹等样本，然后进行针对性攻击和防御演练。他们相信，只有通过准确的快速了解犯罪分子的犯罪习惯，可以制定更有效的防御体系。金融壹账通的一位产品技术人员告诉经济观察报记者，他们的算法首先会检查图像是否是AI工具生成的或者被篡改过，重点关注是否存在算法的痕迹。 AI工具处理图像时会留下技术印记，类似于使用Photoshop（图像处理软件）或美图秀秀修饰图像后留下的代码残留物。他们发现，即使AI生成的素材看起来与真人、真实场景非常吻合，只要检测到AI工具使用的痕迹，就可以判断为假，并被屏蔽。同时，算法还会检查图像背景的一致性。如果发现视频背景重复或者图像背景与真实场景逻辑不一致，也会判断为可疑。不过，上述两位产品技术人员也发现，面对注入攻击，单纯的算法并不能完全防范，需要从算法、终端、身份网络等多个维度进行防范。例如，除了从图像层面进行人脸识别，判断是否是AI生成或篡改之外，还需要从系统层面提前检测用户手机是否受到注入攻击。此外，AI诈骗的“战场”也从图像延伸到声音。金融壹账通产品技术人员表示，一般情况下，人们不会选择在道路等嘈杂或公共环境中验证信息，而是会选择安静的地方；同时，由于室外环境危险，一些银行也不允许在室外自拍。上述人士还表示，一些批评Minals 经常聚集在同一个办公空间并通过电话交谈。通话中夹杂着多人说话、设备操作等噪音。可以识别该环境中产生的声音特征，算法会将异常背景声音标记为高风险呼叫。此外，该算法还可以模拟测谎逻辑，通过语调和语速的波动来判断说话者是否在说谎。如果用户有一些历史语音数据，下次通话时可以实时比对，验证身份一致性。基于上述技术的落地场景应用 据透露，AI反欺诈技术实现场景涵盖了所有需要电子身份验证的领域，包括银行、保险、安全、政务服务、电子商务等。比如嵌入手机银行系统后，可以提供全流程的反欺诈监控服务。的库rse、银行作为资金高度集中的行业、欺诈重灾区，也是很多技术落地的场景。近日，香港特区政府向银行机构提供了从监管角度进行模拟AI欺诈攻击和防御测试的计划，帮助其打击深度宽恕欺诈。 10月中旬，香港金融管理局（下称“香港金管局”）公布了生成式人工智能沙箱第二阶段的参与者名单。新的沙盒计划标志着行业从探索人工智能的可能性到建立安全可靠的人工智能应用的转变。香港金融管理局表示，在60多个提出的解决方案中，来自20家银行和14家技术合作伙伴的27个案例被邀请进入生成式人工智能沙箱的第二阶段。沙盒计划第二阶段m 重点加强人工智能治理。许多案例都采取了“AI对抗AI”的策略，例如利用AI对AI生成的内容进行自动质量检查，并为针对日益增加的深度和欺诈风险开发创新防御机制提供测试案例。一些参与者将利用人工智能进行模拟攻击和防御，以增强系统抵御更复杂的数字欺诈技术的能力。蚂蚁金服和金融壹账通都在名单上，抱歉。前述产品技术人员表示，沙箱不是物理实验室，而是建立在云端的“虚拟测试环境”。在监管机构的牵头下，邀请银行等机构进入测试环境进行案例演示和影响验证。监管机构鼓励银行应用新技术，并通过沙箱环境展示技术的真实性和实用性。它不仅提供为业界提供了可信的案例，同时也展现了技术合规性，增强了市场对新技术的信心。选定的机构还可以用它来证明该技术得到监管机构的认可。 Bochk 也在第二阶段的沙箱名单中。中行香港个人商业金融相关人士告诉经济观察报记者，他们在个人金融领域搭建了AI反欺诈系统。该系统是在内部技术部门的参与下开发的。该系统的核心是将AI反欺诈模型与传统数据模型深度融合。通过对用户个人交易的实时监控和动态风险评估，可以准确判断每笔交易是否存在潜在的欺诈风险。该个人理财交易员还表示，中银香港网上开户转账限额为20万港元，投资账户暂不开放。不可用。日常转账不会受到影响。如果想要解除所有限制，储户必须到线下网点完成身份信息验证。他们发现，在一些诈骗案件中，犯罪分子窃取个人信息，冒充客户致电银行要求解除账户限制。该人士还表示，Bochk的AI模型训练依赖于内部历史数据，此前曾计划与外部公司合作，但出于信息安全考虑，未能建立相关合作。目前，香港金融管理局已牵头开发银行间欺诈数据交换平台，整合和同步不同银行的相关欺诈数据。银行可以通过该平台查询、检索这些信息。除了银行场景外，反fAI Raud还延伸到政府和民间经济场景，例如“S经济观察报记者在采访中获悉，“智便”是香港特区政府推出的电子身份验证平台，提供身份验证、自动填表、个性化提示、数码签名等基本功能，支持市民通过生物识别认证登录网上政务服务和公私营机构。服务范围涵盖税务、医疗、教育、交通等经济领域。该平台的用户必须经过人脸或指纹等生物识别和身份证扫描进行身份验证，这个过程需要人工智能防御系统来确保真人在运行。对此，香港汇丰的企业业务人员告诉经济观察报记者。为香港中小型企业推出新的企业服务。该服务主要为香港中小企业提供定制化的专业信贷解决方案和风险资本债务融资。该服务与前述的“Zhiconvenient”应用程序连接，并使用该生物识别功能来验证帐户所有者的开户信息的真实性。 AI攻防日常实践 多位银行、科技机构人士上述金融公司人士告诉记者，对于AI模拟应用，他们注重日常针对性训练和知识学习，以便在遇到欺诈、洗钱等情况时能够快速做出反应。前述Bochk业务人士表示，Bochk的个人金融业务每天可以产生数百万条金融交易数据，为AI模型提供了很好的训练范例。他们通常会收到各种案件报告并获取犯罪分子的相关信息，包括他们的账户和用于转账验证的相关账户，以及每个人的名单。如果这些账户被重新激活，它们就会被直接控制；同时，他们还将接受香港金管局提供的线索举报，以打击同类诈骗行为。行为将被分类并整合到数据库中，供AI通过大数据学习过去的各种欺诈模式和特征；未来，预计AI可以依靠研究结果，同时对每一笔转账进行风险分析，准确识别涉嫌欺诈的交易，进而实现冻结交易或向客户发送风险提示的功能。入选香港金管局沙盒计划第二阶段的金融科技公司Dyna.ai的产品人员也向经济观察报记者表示，在日常反欺诈中训练工作中，他们会根据标记数据进行模型训练。所谓矿井日志数据，是指银行内部专家按照合规要求人工分析筛选可疑交易，并在确认后报告给管理层的数据。由于相关数据必须符合严格的合规要求，不能流向银行系统之外，因此他们的团队将派技术人员到现场，在银行系统内建立模型。如果需要采集用户人脸等样本数据，银行首先要获得用户的授权，然后银行授权的团队才能在内部进行相关工作。前述Dyna.ai产品人士也表示，传统预设规则容易出现大量漏报、误报。问题在于aof系统只是机械地执行明确的规则，遇到新的欺诈手段，如果不提前添加相应的规则，会错过标记或给出误报。在这种情况下，他们需要技术人员对数据进行一一审核，确认交易是否真实，然后再报告给管理层。该人士还表示，一方面，他们的做法会利用历史评分数据来优化现有政策，制造系统漏洞。另一方面，模型也会从这些数据中学习，消除过去常见的误报，最终输出准确的报告数据。原来的系统可能无法准确判断现有规则的相关内容，但经过目标训练后，会更加关注与防欺诈相关的场景，进而识别出尚未抓获、未纳入系统的犯罪分子相关信息。
