AI诈骗现实挑战与侦防对策.pdf

中国科技信息 2024 年第 8 期CHINA SCIENCE AND TECHNOLOGY INFORMATION Apr.2024-128-科技工作犯罪多发高发，已产业链化发展。AI 诈骗社会影响面广，特别是导致了大规模的个人隐私泄露，个人信息被不法分子获得后可能遭受身份盗窃、勒索和骚扰等困扰，给个人带来了长期的痛苦，性质非常恶劣，引发公众的不满和怨恨，已成为严重影响社会稳定的突出治安问题。（三）致使人人自危，引发社会信任危机AI 诈骗通常通过盗取社交媒体账号、模拟人声来冒充受害人亲朋好友以获取信任。最终将演变成谁都不相信谁，哪怕是父母子女或朋友之间发信息、打电话，都在内心打上了一个问号。将使得人人自危，警惕性和防范心理倍增，导致了严重的社会信任危机。AI诈骗的总体特征（一）集团化、产业链化特征突出，反侦查意识强在目前所破获的 AI 诈骗案件中，犯罪分子均以群体形式出现。同时，AI 诈骗正处于产业链化发展。随着人工智能技术的发展进步，美国数字取证学教授法里德（Hany Farid）表示，现在仅仅需要来自短视频里的残缺的人声，AI 软件就可以分析其特质比如性别、年龄、口音等，然后在庞大的声音数据库中找到与之类似的声音预测模式，重建其人整体类似的声音。在这条产业链中，不法分子利用互联网进行协作和分工。通常，上游黑色产业链负责技术支持，提供各种基于人工智能技术的专门设备、工具和算法，或制作完成 AI 合成后的音频视频，以支持下游电信网络欺诈活动。在警方侦查犯罪分子具体情况时，只能调查到制作生产者而非诈骗实施人员，从而难以追溯到主要犯罪人。AI 换脸技术的应用使得诈骗分子可以轻松地在不同的地区进行诈骗，获得犯案后的逃脱机会。（二）流动性、无接触性、极速性特征突出AI 诈骗犯罪为线上犯罪，不受时间地点限制。流动性体现在只需要即时通信平台和网络，在任何时间任何地点，都能对联系人进行诈骗。其涉案人员多在境外实施诈骗作案，其所诈骗资金也多流向境外，犯罪分子跨境违法犯罪。奇安信首席反诈骗专家裴智勇表示，在使用 AI 换脸进行诈骗时，不法分子大多以展示或发送 AI 换脸视频片段作为手段来获取信任。以新疆一女子报案称有人冒充其父亲进行AI 诈骗的案件为例，诈骗分子是通过骚扰电话录音提取目标声音，获取足够信息后进行声音合成，伪造的声音相似度达90%以上。此类犯罪具有无接触性，犯罪过程如图 1 所示。无论是诈骗时使用的合成人声，还是拨打电话时的虚拟号码，宋嘉木 李 丹*湖北警官学院宋嘉木（2004），女，湖北宜昌，2022 级侦查学在读。通信作者：李丹（1979），女，辽宁营口，侦查系副教授，研究方向：新型信息网络犯罪打击治理。基金项目：湖北警官学院 2024 届科技大赛试论人工智能时代 AI 诈骗的挑战与应对（项目编号20240073）成果；2022 年度湖北省教育厅哲学社会科学研究项目智慧博弈视阈下电信网络诈骗犯罪的变异态势及打击治理创新研究（项目编号22Y136）成果；湖北警官学院 2024 年度公安工作专项项目AI 诈骗犯罪治理研究成果。AI 诈骗现实挑战与侦防对策宋嘉木 李 丹人工智能技术近几年来得到了突飞猛进的发展，被认为是 21 世纪三大尖端技术之一，人工智能时代已悄然来临。AI 技术的广泛使用，极大便利了人们的生活学习，但同时也带来了社会安全隐患。其中，AI 诈骗作为新型电信网络诈骗，已对社会公共安全造成了不容小觑的影响。AI诈骗下的现状与危害公安部网络安全保卫局副局长李彤介绍，“随着人脸识别技术开始被广泛应用，人脸识别验证类犯罪也伴随产生。”基于人工智能技术应用的热门，用户生物特征信息被盗风险增加，诈骗分子可以利用智能恶意软件等隐蔽窃取家庭关系、亲朋好友的聊天记录等敏感信息，一旦泄露或滥用将不可逆且带来极大风险。（一）侵害人民群众的财产安全，增加社会运行成本经济损失是其带来的最直接影响，在涉案金额上，传统盗窃案、抢劫案能达到几万元就已经很高，而 AI 诈骗动辄几十万元、几百万元，诈骗数额触目惊心。并且，个人、企业和机构都可能面临受骗后的导致巨额经济损失。除此之外，AI 诈骗的频发也让人们怀疑数字信息的真实性，这对于数字经济和社交活动形成了阻碍，增加了社会运行成本。（二）严重扰乱社会秩序，影响社会稳定AI 诈骗扰乱了社会秩序，严重影响社会稳定。AI 诈骗-129-CHINA SCIENCE AND TECHNOLOGY INFORMATION Apr.2024中国科技信息 2024 年第 8 期科技工作都是进行伪装后的，没有透露任何有关犯罪分子自己的信息。同时，此类犯罪活动通常实施迅速，具有极速性。例如，2023 年 5 月 25 日震惊全网的 9 秒 AI 换脸视频，它其实没有和受害人发生过一秒钟真实的交互。因为为防止被识破，冒充亲人朋友时，犯罪分子拨打的视频电话往往短暂急促，他们往往以“情况紧急”的话术仓促拨出并挂断电话。（三）精细化、专业化特征突出，立体式犯罪与传统的电信网络诈骗相比较，AI 诈骗更加立体化。传统电信网络诈骗多以“点线”形式出现，由犯罪分子直接联系被害人，从维度上来说是一种线性犯罪。而 AI诈骗升级为一种“点线网”形式的立体式犯罪，犯罪嫌疑人不再需要与被害人进行直接接触，而是借助网络即时联络平台，以编造虚假信息、身份，使被害人身陷个性化的编织网骗局，并通过遥控指挥、隔空操作骗取受害人的钱财。立体式犯罪比线性犯罪危害更大，犯罪嫌疑人呈集团化链条化发展，犯罪团体分工细化，犯罪方法不断升级换代，破坏力越来越大。众多犯罪嫌疑人分工协作，推动犯罪向更加专业化、精细化方向发展。AI 诈骗综合运用网络技术、人工智能等相关专业知识，通过 AI 程序针对性筛选，找到“合适”的侵害对象，弄清财产状况，迅速拿捏其心理状态，还能让被害人“主动地”将财产交付给他。AI诈骗的侦防瓶颈分析（一）侦查专业能力不足此类诈骗案件的犯罪嫌疑人皆具有较强的反侦查意识，在实施犯罪时，其组织或犯罪集团就已对相关人员进行培训、串供；在办案人员进行抓捕前预先销毁相关证据，转移犯罪窝点，导致警方扑空；大多数犯罪嫌疑人被抓捕后，都否认其犯罪行为，对重要线索闭口不谈，避重就轻，仅仅供述无关紧要的犯罪事实，以至于警方无法获取有效信息去抓捕主犯。盈科全球总部合伙人叶庚清律师称，“在这条产业链中，不法分子利用互联网进行分工配合。诈骗案件发生时，位于产业链上游的不法分子可能会以自己不知情来规避法律的制裁，这也是办理此类电信网络诈骗案件的难点之一。”（二）案件调查取证困难犯罪分子跨境、跨区域实行犯罪，并且利用即时通讯社交平台、伪基站等手段，依靠租用海外服务器，实现层层传递信息来完成诈骗。因此追踪任意一条线索都需要跨越多个省市。另外，跨境地区的 AI 诈骗犯罪分子主要以租用海外网络通信平台与受害人联系，我国公安不易获得通讯记录，难以得到海外警方的协助调查。只要通信网关办公室无法过滤出有效信息，调查就止步于此。同时，AI 诈骗犯罪大多呈现集团性、产业链化犯罪的形式，所以警方在追捕过程中，抓获的犯罪分子多是次要案犯，主要案犯通常在境外逃窜，在诈骗成功后销毁如人员名单、聊天记录、账户收入等重要电子数据。若最终能够抓获犯罪团伙，也缺失重要证据进行判定。（三）案件追赃挽损受阻追回所骗财产在办理电信网络诈骗案件中同等重要，只有追回了涉案资金，才能减少案件受害人的资产损失。但是，AI 诈骗犯罪集团内部分工明确，所骗资产有专门人员处理。集团中的洗钱人群利用银行卡存取款功能在不同的地方开户，在不同的地点取款，诈骗资产一经受害人转账，洗钱人群就会使用网络转账功能将大量资金转账至多张银行卡，并且在短时间内不再使用银行卡，再利用转账等方式将赃款洗白，脱离法律责任，并且转移到国外。追踪钱款去向耗费时间，难以定位，极易错过最佳止付冻结时间。后续大部分的调查追踪工作也需要境内外警察、电信部门和银行的密切合作。即使办案人员破获案件，也难以对账户进行冻结，因为犯罪分子一旦得逞后，会将资金快速转移，变现，甚至挥霍。（四）反诈宣教阵地脆弱AI 诈骗不同于传统电信网络诈骗，其诈骗话术有 AI 集成的个人资料进行个性化编写，如同生活的日常。每个诈骗行为实施之前，换脸对象的个人身份信息、大量语音素材、人脸图片，都已被犯罪分子获取，并通过 AI 生成以假乱真的音视频；社交媒体账号也被窃取，同时熟悉其与被换脸对象的社会关系。所以，当知名专家引导投资时；当熟知的亲朋好友拨来语音通话、视频电话进行求助时，公众甚至不会怀疑有诈骗的可能性存在。赛迪研究院网络安全研究所所长刘权表示，随着 AIGC（AI Generated Content，人工智能生成内容）技术的大爆发，普通人也能接触学习各种先进的人工智能生成工具，制作出难以识别的高质量 AI 合成内容，欺诈的手段愈发多样，使得我们防范AI诈骗的难度不断提升。AI诈骗的侦防对策探讨（一）基于平台方的对策建议1.强化技术手段，提升保护能力AI 诈骗是隐私信息泄露与诈骗陷阱的结合。平台方需要采用多种安全技术手段，如实名认证、人脸识别等，确保用户身份的真实性和可信度，保障用户信息的安全性和可靠性，从而降低电信网络诈骗的风险。同时建立完善的风险评估机制，对用户提交的信息进行风险评估，及时反馈账号安全风险，通过短信提示、推送消息等，向用户提供电信网络诈骗的风险提示，引导用户提高警惕。平台方还应该加强对用户个人信息的保护，采用加密传输、数据备份等技术手段，防止用户个人信息被泄露或被滥用。对于行为异常的高风险用户进行特别关注和审核验证，防止其利用虚假地址肆意下载其他用户上传的音频视频及个人信息。2.开展创新研究，建立投诉举报机制图 1 AI 诈骗流程图解（下转第 132 页）中国科技信息 2024 年第 8 期CHINA SCIENCE AND TECHNOLOGY INFORMATION Apr.2024-132-科技工作性，显性化指引企业科研生产管理方向。开发航发系统声像档案资源共享机制航发动力作为中国航发的子公司，实现系统内声像档案资源共享合作，该模式对于整个航空事业档案工作的发展至关重要。当下，型号发动机的研发过程中，航发型号总师每年都会对下属各重要机种研发的相关声像档案素材进行收集并归档，最终编辑完成科研型号研制历史史志，这一举措有力助推企业科研生产有序进行，同时也为我国航空事业的科研生产工作留下宝贵资料，由于目前声像档案的覆盖面和联通平台尚未建立，目前还无法实现统一平台基于同一系统内声像档案资源的共享利用，大大增加了实际工作中的操作难度，这不仅不利于企业科研生产进度，同时也阻碍了企业智慧档案馆的运营模式的推广与应用。因此，大力推进声像档案信息化管理手段，不断加强系统内档案资源共享和利用的体系建设，实现上下联通的企业间有效交流沟通与合作，逐步实现声像档案的数据化管理，当务之急是构建起资源共享的新型档案发展体系。结束语综上所述，声像档案资料在今天的企业经营管理中扮演着十分重要的角色，声像档案是档案工作的活力所在。作为一名企业档案工作管理者，着手日常档案管理工作的同时，更应该用信息化建设推动科技档案管理工作的进步，让企业声像档案的管理工作和社会接轨，尽快促成大数据技术下“智慧档案馆”的运营，顺应目前主流的市场消费需求，有针对性地进行档案资料、服务的创新与完善，构建完整的企业声像档案信息网络，实现便捷的资源共享的基础上拓展研究，不断创新声像档案工作机制，让声像档案数据化形成可复制、推广模式，指导其他门类档案的成功转型，实现声像档案工作在“大数据时代”环境下运用数字化思维、实现数据化管理的顺利转型。平台方可以依据 AI 诈骗的案件现状，开展创新研究，对平台运行时可能被不法分子所利用的空隙预先做好防范。加强建立用户投诉举报机制，将获取的疑似诈骗的线索上报公安机关，加强对电信网络诈骗的打击力度，维护社会安全和公共利益。处理用户反映的 AI 诈骗问题，并对涉嫌 AI 诈骗的用户进行封禁处理。对于 AI 技术的使用中，要提高 AI 技术提供等平台的自律性，建立健全 AI 合成技术相关行业准则、行业标准和管理制度，督促 AI 合成服务提供者和技术支持者依法开展业务、规范完善业务和接受社会监督。3.强化机构联动，推进合作共治平台方应当与公安机关、通信运营商等相关机构建立紧密的合作关系，共同打击 AI 诈骗犯罪，多宣传有关 AI 诈骗的新骗局、新手段，及时提供与案件相关的信息和数据支持，协助公安机关打击电信网络诈骗犯罪行为，提高人民群众对于此类新型 AI 诈骗的重视度，从而提升打击 AI 诈骗犯罪的效率。（二）基于用户方的对策建议1.保护个人隐私，提升防诈素养个人隐私信息是 AI 诈骗犯罪的主要资料来源之一，因此，增强个人信息保护意识，是预防 AI 诈骗的重要措施。自 2020 年以来，我国公安部所开展的在邮政快递领域的个人信息泄露治理专项行动，已侦破窃取、贩卖快递信息案件206 起。作为个人，要避免将自身隐私信息随意泄露或在不安全的网站上，尤其是在公共场合、网络上等不安全的环境下，不要随意泄露个人身份证号码、银行卡号等敏感信息，特别要防范生物信息如人脸、指纹等被泄露。若不幸发现自己正被诈骗，说明个人信息已经泄露，除向公安机关报案外，还需要及时更换电话卡、银行卡等，避免再次被诈骗的风险。2.警惕陌生信息，培养核实习惯不轻信网络广告和推销信息，避免上当受骗。不轻易点击来路不明的网络链接，不轻易下载陌生软件，防止被植入病毒盗取信息。谨慎对待陌生人的要求，对于陌生二维码、邮件等不轻易扫描、点击。在需要转账、付款前，通过回拨电话、查询官方等渠道多重验证，核实对方的身份信息。对于转账到账等设置为 24 小时期限，对于可能需要冻结账户做准备。在发现异常情况、有关 AI 诈骗的特点时，迅速向相关部门举报所知行为进行处理。3.了解学习 AI，坚持遵纪守法AI技术广泛出现在人们生产生活的各个领域，作为个人，需要了解人工智能的基本信息、具体用途、使用方法，积极学习公安部门推出的反诈宣传，熟悉如视频通话急促不自然等的 AI 诈骗的特点，防止落入诈骗陷阱。同时，如果已经学习掌握了人工智能相关专业知识，在使用人工智能时也要保持理智，坚守道德，不为一己私欲而破坏底线，走上违法犯罪的不归路。结语通过本文的初步研究，可以预见，在 AI 技术持续发展的背景下，AI 诈骗犯罪将会不断衍生出新的手段和类型，与之相对的犯罪分子数量和涉案资金额度也会持续增加。笔者认为，公安机关需要深化与AI诈骗犯罪侦查防范的相关研究，不断整合办案资源和技术手段，对目前所出现的侦查能力、调查取证、追赃挽损、反诈宣教的侦防瓶颈一一突破。同时，对 AI 诈骗需实施常态化、长效化的侦防对策，要在平台方、用户方两方面打击预防，形成合力，做到多方共治。借此希望各部门能够综合施策，智慧赋能，共同开创面向人工智能时代的 AI 诈骗治理工作新局面。（上接第 129 页）