您的位置首页  新兴能源

犯罪分子利用AI诈骗 如何降低技术被滥用带来风险?

      犯罪分子利用AI技术实施诈骗专家支招

      如何降低技术被滥用带来的风险

      □法制日报记者韩丹东

      □法制日报实习生姜 珊

      最近,2019防范治理电信网络诈骗论坛在中国互联网大会期间举行。

      据论坛内容显示,机器学习、人工智能、大数据等热点技术已被犯罪分子用于实施诈骗。比如上游黑产利用机器学习、人工智能,突破互联网企业的验证码体系,或是利用人工智能技术恶意注册,获取号码资源,提供给犯罪分子实施诈骗。

      随着科技的进步,花样翻新的电信网络诈骗令人防不胜防。

      “技术一直以来都是双刃剑,我们在享受技术带来便利、新奇的同时,也会面临技术被滥用带来的风险。”中国传媒大学政法学院法律系副主任郑宁说。

      诈骗手段不断翻新

      四种形式防不胜防

      随着技术的更新,诈骗手段也不断翻新,那么AI诈骗主要有什么方式呢?

      对此,郑宁总结了四种AI诈骗形式,并详细介绍了其中的原理。

      据郑宁介绍,第一种是转发微信语音。骗子通过盗取微信号,然后提出转账要求,多数人会选择要求对方语音回复,这时骗子会转发之前的语音,从而获取信任,进而获得钱款。虽然目前微信语音是不能转发的,但骗子可以通过提取语音文件或者安装增强版微信(一般是基于xposed框架的插件),实现转发语音。

      “对于这种诈骗形式,群众只需提高警惕,直接电话联系,即可识破骗局。此外,即使要求对方语音回复,也可提出具体的要求,比如要求对方提供身份信息、说明转账原因等,避免骗子利用之前的语音蒙混过关。”郑宁说。

      郑宁谈到的第二种骗术是声音合成。具体的操作是骗子通过骚扰电话等录音来提取某人声音,获取素材后进行声音合成,从而可以用伪造的声音骗过对方。

      郑宁说,通过神经网络和机器学习技术可以达到合成声音的效果。第一个利用神经网络生成人类自然语音的,就是DeepMind的WaveNet。WaveNet(波网)是一个用于生成原始音频的深度神经网络。它是由伦敦人工智能公司DeepMind的研究人员创建的。此技术通过使用用真实语音记录训练的神经网络方法直接模拟波形,能够生成听起来相对真实的类人声音。

      据了解,2016年,谷歌在加拿大蒙特利尔大学建立的人工智能实验室(MILA)。基于声音合成技术,MILA在2017年4月成立了Lyrebird公司。在其网站DEMO部分,可以听到官方合成的足以以假乱真的特朗普以及奥巴马的声音。美国有位记者用机器合成的句子和家里人打电话做实验,他的家人完全分不清楚真假。

      “合成的声音有明显的痕迹,但WaveNet可以把合成痕迹明显的机器语音,转换成更加流畅自然的语音,与人类声音之间的差异大幅降低,目前在鬼畜视频界做得风生水起。而Lyrebird则更进一步,它可以基于音色、音调、音节、停顿等多种特征,来定义某个人的声音,然后生成更加拟真的声音。”郑宁说。

      郑宁补充说,第三种是AI换脸。视频通话的可信度明显高于语音和电话,但利用AI换脸,骗子可以伪装成任何人。第四种是通过AI技术筛选受骗人群,通过分析公众发布在网上的各类信息,骗子会根据所要实施的骗术对人群进行筛选,从而选出目标人群。例如实施情感诈骗时,可以筛选出经常发布感情信息的人群;实施金融诈骗时,可以筛选出经常搜集投资信息的人群。

      对此,中国人民大学法学院教授刘俊海说:“AI技术用于诈骗已经不是新鲜事,因为任何技术一旦出现,不法分子就会想到利用新技术来实施犯罪。”

      加强个人信息保护

      提高警惕防范诈骗

      诈骗手法在不断翻新,那么广大群众该如何预防,防止被骗呢?

      郑宁提出了两点建议。第一是验证,提高警惕是防范诈骗的最好方式,在涉及钱款时,群众要提高安全意识,通过电话、视频等方式确认对方是否为本人,在不能确定真实身份时,可将到账时间设定为“2小时到账”或“24小时到账”,以预留处理时间。此外,可以选择向对方银行汇款,避免通过微信等社交工具转账。因微信等工具均会绑定银行卡,向对方银行卡转账,一方面便于核实对方信息,确认钱款去向;另一方面,对方能通过短信通知得知转账信息,此外,即使是本人操作,也不影响对方提取钱款。

      “第二是保护个人信息,注重隐私保护。社交平台的发展加大了保护个人信息的难度,民众将越多的个人信息暴露在网络上,遭受诈骗的概率越高。实施诈骗需要获取当事人的个人信息,网络共享加上AI技术,骗子搜集整理当事人的个人信息更为便捷。因此,为避免骗子借用个人信息实施诈骗,民众应当加强个人信息保护意识,以防止骗子利用AI技术掌握大量个人信息并对人物性格、需求倾向等进行刻画,从而有针对性地实施诈骗。”郑宁说。

      在刘俊海看来,预防被骗的关键就是人们要提高自我保护意识,不要过于轻信网络上的信息,而且不要抱有侥幸心理,时刻记住天上不会掉馅饼,地上却会有陷阱。

      即使人们时刻小心着被骗,但诈骗却一直存在,让人防不胜防,那么在日常生活中人们该如何防范呢?

      对此,郑宁说,首先是相互提示,共同预防。亲戚朋友间要互相提示,相互宣传,因中老年人被骗较多,青年人要及时做好家中老人的宣传防范工作,提醒、告诫老年人接到电话、收到短信,只要是不认识、不熟悉的人和事,均不要理睬,以免被诱被骗。

      “其次是拒绝诱惑,民众应当避免占便宜心理,警惕陌生人提供的好处;再次是谨慎处理金钱交易,无法确认对方身份时,拒绝交易;最后是保护网络账号及密码、手机号、身份证、家庭住址、亲属关系等个人敏感信息,不随意提供上述敏感信息。”郑宁说。

      充分利用人工智能

      提升反诈骗精准度

      对于这种利用新技术的诈骗该如何整治?

      郑宁提出了四条监控整治建议:第一,即时通信、网络社交等平台企业应当加强账户管理,防止他人盗用用户账号及密码,建立风险提示制度,出现账号异常登录等情况时对用户进行风险提示;第二,利用以大数据分析和智能预警算法为基础的AI技术进行反网络诈骗,在工信部等部门的主导下,利用大数据优势,将相关数据通过反诈骗机制进行共享,进而提高反诈骗的精准度;第三,建立专门人工智能安全机构,制定人工智能标准,对AI技术进行管理和监督,监督AI技术在不同领域内的应用;第四,采取措施保证人工智能系统使用的数据被合理限制、管理和控制,以此来保护隐私权,在保护数据安全的情况下,不禁止利用AI技术造福公众。

      同时,刘俊海也提出了自己的建议。他说,希望监管部门和司法机关要善于驾驭使用AI技术,并且关注公众反映最突出的问题。

      “消费者反映的最集中、最突出的问题,往往是监管机关、司法机关在监管和执法当中的漏洞和盲区。规范监管就应当致力于消除监管漏洞、盲区以及真空地带,真正打造一个信息共享、快捷高效、无缝对接、有机衔接的预防合作机制。”刘俊海说。

      科技的发展虽然会给人们的生活水平带来便利,但同时也会出现许多问题,那么应当如何减少科技发展所带来的安全隐患?

      郑宁分析称,科技发展与人民生活是相辅相成的,科技发展使得人民生活质量有了极大的提高,因此应当大力促进科技发展。但也要认识到科技的两面性,科技发展的同时也会产生一些负面影响,应当清楚认识并接受这一点,从而更加理性地看待科技发展,也有助于采取积极措施应对科技发展的负面影响。

      在郑宁看来,正如AI技术可以被用于诈骗,也可以被用于反诈骗。利用技术的方式不同,带来的影响也不同。因此,在面对一项技术时,不仅要关注技术本身,更要关注技术的用途,将技术用于提高生活质量。

免责声明:本站所有信息均搜集自互联网,并不代表本站观点,本站不对其真实合法性负责。如有信息侵犯了您的权益,请告知,本站将立刻处理。联系QQ:1640731186
友荐云推荐