来源:华夏时报
近日,记者在短视频平台搜索“债务”,出现了“停息挂账”“债务逾期法务咨询”“债务重组”“债务协商靠谱吗”这样的标签。刷着刷着,还看到“借钱不用还”“怎么协商还款”“如何退利息”之类的视频。这些内容与金融黑灰产关系密切,它们利用消费者对债务处理的迫切需求,通过非法手段进行欺诈。
当前,金融机构正利用大模型,来识别和防范金融黑灰产活动。例如,通过分析声纹、GPS地址、背景图片相似度等多维度信息,判断和防范金融黑灰产行为。
12月3日,南开大学金融学教授田利辉对《华夏时报》记者表示,金融大模型在打击黑灰产方面发挥着重要作用,其具备强大的数据处理、模式识别和智能决策能力。通过技术创新和跨行业合作,金融大模型不仅提升了金融安全防护能力,也为金融行业的稳定与安全提供了新的解决方案。
素喜智研高级研究员苏筱芮也对本报记者表示,金融大模型在金融风险管理中的应用已经进入到了纵深阶段,其中的对抗学习技术对打击黑灰产而言,能够为传统金融风控提质增效,同时也能够针对AI时代黑灰产的升级,预计后续将有更多持牌机构加入到AI升级的浪潮中来。
个性化分期还是非法代理维权?
记者咨询了某停息挂账服务商,对方称自己做的是“个性化分期协议”,无论是信用卡还是网贷都能和平台协商,两年内不催收、不起诉,到期还本金。某信贷平台用户称,因为害怕被催收、被起诉,轻信了停息挂账差点遭遇诈骗,如果“被收割”那真是太惨了。
有从业者分析道,很多负债人自己不会协商或者害怕和平台协商,觉得自己欠钱理亏,这时候网上或者短视频上又出现了很多“能人异士”,声称可以帮忙协商,许多人没有充分了解就匆忙支付了费用。这些所谓的中介会要求用户提供敏感的个人信息和电话卡,不仅增加了用户受到诈骗的风险,也可能导致个人信息被滥用,而这就是典型的金融黑灰产。
金融黑灰产是指利用非法手段牟取利益,行走在法律边缘,或者有明显违反法律法规的一整套搅乱金融市场秩序的“产业链”,包括“非法代理维权”“反催收”“有组织逃废债”“恶意投诉”“征信修复”“非法代理退保”等。
具体来看,代理人在开展业务期间常以兜售“债务优化”和“征信修复”等话术引流获客,一旦获得委托便歪曲消费者权益保护相关法律法规,以非法手段获取或冒用债务人信息、捏造或虚构债务人需求、伪造或变造虚假材料,并持续向金融机构、监管部门或行业机构施以威胁、恐吓,进而以不正当债务减免和赔偿为条件,迫使机构妥协,达到其非法获利的目的。
自2021年起金融黑灰产快速发展,增长了10倍之多,造成财产损失达百亿级。马上消费联合西南政法大学发布的《中国金融黑灰产治理研究报告》显示,根据威胁猎人安全研究员调研统计发现,2023 年互联网黑灰产从业人数持续上升,从业人员数量达到587.1万,较 2022年上升141%,而煽动教唆的“非法代理维权”活动参与人员有几百、上千万,造成财产损失达数百亿级。
与此同时,随着人工智能的发展,大模型生成式AI也给金融安全带来了巨大挑战,假单据、假人脸、假数据等现象频出。有媒体报道,根据香港警方披露,一家跨国公司香港分部的职员受邀参加总部首席财务官发起的“多人视频会议”,按照高管们的安排,先后15次将2亿港元转到指定的账户。没承想,其他“参会人员”都是经过AI换脸后的诈骗人员。
为了应对这些挑战,监管机构强调了提高金融抗风险能力的重要性。今年1月,国家数据局等部门联合印发的《“数据要素×”三年行动计划(2024—2026年)》指出,提高金融抗风险能力,推进数字金融发展,在依法安全合规前提下,推动金融信用数据和公共信用数据、商业信用数据共享共用和高效流通,支持金融机构间共享风控类数据。发挥金融科技和数据要素的驱动作用,支撑提升金融机构反欺诈、反洗钱能力,提高风险预警和防范水平。
未来或可建立职业投诉人黑名单
在整治金融黑灰产方面,金融大模型发挥着关键作用。通过提高反洗钱和反欺诈准确性,大模型强化了金融机构的风控能力,促进了数据共享,加强了金融机构间的联合攻防,进一步提升风险防范水平。
马上消费常务副总经理蒋宁提到,马上消费日前升级的天镜大模型 2.0 版本,针对安全隐患专门研发了对抗学习技术,将多模态的技术进行深度融合,把声音、文字、视频等多维度信息整合,构建对抗学习防伪新体系,提升金融安全防护能力。
“在打击金融黑灰产方面,大模型采用了多项大模型技术。利用声纹识别技术记录并分析个体的声音特征,当发现声音特征发生变化时,我们便有理由怀疑这可能不是本人的行为。此外还会综合考虑多个因素,如GPS地址的集中度、背景图片的相似度、WIFI名称的一致性以及语言的生物特征信息,通过这些多维度数据构建起多模态的大模型,用以判断黑灰产行为的可能性。”蒋宁介绍道。
田利辉认为,金融大模型通过整合声音、文字、视频等多维度信息,构建了多模态的识别系统,提升了对黑灰产行为的识别和打击能力。这种多模态识别系统能够更准确地判断黑产行为,为金融安全提供了新的技术支撑。另外通过对抗学习技术,金融大模型将多模态技术深度融合,构建了全新的对抗学习防伪新体系,使得金融大模型能够更有效地识别和防御新型欺诈手段。
大模型训练过程中,如何确保数据安全?加密、对抗训练和联邦学习等技术,帮助在保护用户隐私的同时,利用数据来训练和优化大模型。此外,金融机构还建立了数据隐私评估和保护模型、机制,实施安全认证,保护金融领域的敏感数据。
在业内看来,金融机构未来可引入声纹聚类等技术,更准确地识别出重复投诉的客户。客服团队根据声音特征将投诉电话归类,并结合投诉的具体内容进行深入分析,辨别出可能存在的恶意投诉行为,并加入“职业投诉人黑名单”。与此同时,对于没有被标记且不存在其他业务风险的普通用户,机构则会将其纳入“正常客户白名单”,有助于金融机构更有效地区分不同类型的投诉者,优化异常投诉的处理。
一方面,对于监管而言,可以利用黑名单数据,更准确地区分恶意投诉者与真正消费者,据此制定合理管理策略。另一方面,对金融机构来说,通过识别黑灰产组织及共享黑名单信息,能有效打击非法活动,保障业务稳定和市场秩序。
新浪财经公众号
24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)