AI犯罪日益增多 政法机关如何守住技术应用法治底线?

发布时间:2024-12-17 20:10:41 来源: sp20241217

  政法机关依法打击治理AI犯罪 守住人工智能技术应用法治底线

  4月12日,公安部公布10起打击整治网络谣言违法犯罪典型案例,其中4起典型案例涉及使用人工智能(以下简称AI)技术编造虚假信息;4月23日,北京互联网法院一审开庭宣判AI生成声音人格权侵权案……

  近年来,随着AI技术的快速发展,越来越多的人在工作生活中开始享受到该技术所带来的全新体验,但伴随而来的是,利用或滥用AI技术从事违法犯罪的活动(以下简称AI犯罪)日益增多。

  对此,政法机关依法履职,持续深挖彻查AI犯罪,不断扩大办案战果,努力提升打击治理质效,全力维护人民群众合法权益。

  “政法机关立足主责主业,发挥职能作用,全力打击治理AI犯罪,防范不法分子利用或滥用AI技术侵犯公民权利、危害公共安全,保证AI技术始终沿着正确的轨道向前发展。”首都师范大学政法学院法律系副教授崔俊杰对《法治日报》记者说。

  AI犯罪“花样”层出不穷

  “电脑AI去衣,白菜价。”

  2023年6月,原是北京一家互联网公司技术员的白某某,在境外的社交媒体上接触到了“一键去衣”的AI技术,便动起了歪心思。

  白某某通过境外的网站发布广告,在某社交软件上贩卖深度伪造淫秽图片近7000张,获利一万多元。目前白某某已被提起公诉。

  “一键去衣”究竟是怎样的一种技术?记者了解到,这项技术并不是真的“去衣”,而是在图片的基础上,通过AI自行运算使用相关的淫秽图像素材对图片进行重绘,和“AI换脸”“AI变声”一样,属于利用AI深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。

  “电诈犯罪团伙能够通过AI技术‘换脸’‘变声’,甚至是‘动态换脸’,增加了传统犯罪活动的危害性,还产生了新型的违法行为,如使用AI‘绘画’技术生成的绘画作品可能会对他人著作权造成侵权。”崔俊杰表示,当前AI技术已被不法分子使用于网络钓鱼、深度伪造、绕过身份检查、“越狱”式服务、人肉搜索和监视五个方面,进一步降低了犯罪的门槛。

  5月6日下午,江西省鹰潭市余江区人民法院公开宣判全国首例“AI游戏外挂”案,依法对被告人王某合以提供侵入、非法控制计算机信息系统程序、工具罪判处有期徒刑三年,缓刑五年。宣判后,王某合表示服从判决,不上诉。

  经审理查明:王某合通过制作出售“AI外挂”的方式牟利,2022年,其先后联系万某至、张某(另案处理)等人编写“AI外挂”程序。至案发,王某合非法获利共计629万余元。

  据悉,该程序可对多款游戏的画面数据进行未授权获取,对游戏中处理的鼠标数据指令进行未授权修改,造成玩家在玩游戏时,不用操作就可以“自动瞄准”“自动开枪”,干扰了游戏的正常运行环境,属于破坏性程序。

  在崔俊杰看来,AI技术标准化程度低、可定制性强、应用场景广泛,不法分子作案手法越发多样,导致AI犯罪不断衍生升级,如不及时进行打击治理,会给网络安全,甚至广大群众的生命财产安全带来严峻挑战。

  从严打击形成有效震慑

  为应对挑战,政法机关采取一系列措施打击AI犯罪,维护AI技术良好的发展环境,避免其在应用过程中引发失序和失范。

  2023年9月,最高人民法院、最高人民检察院、公安部联合发布《关于依法惩治网络暴力违法犯罪的指导意见》,明确对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形予以从重处罚。

  4月23日,全国首例AI生成声音人格权侵权案在北京互联网法院一审开庭宣判,法院认定被告方使用原告声音、开发涉案AI文本转语音产品未获得合法授权,构成侵权,赔偿原告各项损失25万元,并书面赔礼道歉。

  6月25日,江苏省张家港市人民检察院向市人民法院就一起敲诈勒索、诈骗案件提起公诉。据悉,犯罪嫌疑人所在的境内团伙通过虚拟定位、AI技术合成照片等方式,在交友软件上将自己包装成在外国的中国女留学生,随后以谈恋爱等名义,向在国外的留学生索取钱财。目前已查实该团伙敲诈勒索、诈骗50余人,涉案金额达100余万元。

  自最高检去年11月发布《检察机关打击治理电信网络诈骗及其关联犯罪工作情况(2023年)》后,各地检察机关按照相关要求,加大对侵犯公民个人信息尤其是非法获取人脸、声纹等敏感信息、利用AI等前沿技术伪造人脸、声纹以及获取其他信息犯罪的打击力度。

  此外,全国公安机关去年依托“净网”专项行动组织专项会战,严打泄露身份证照片等图像信息的犯罪源头,破获利用AI技术“换脸”进行诈骗犯罪案件79起,抓获犯罪嫌疑人515名,有效遏制了该类犯罪势头。

  政法机关依法打击AI犯罪,并通过办理典型案例的方式形成震慑,让想用AI技术非法获利的人心生畏惧。

  强化治理实现标本兼治

  记者了解到,在依法打击AI犯罪的过程中,政法机关深挖这一违法犯罪的规律特点,坚持以打开路、打防并举、源头治理、综合施策,会同相关部门单位深入推进行业治理、综合治理,压实主体责任,强化行业监督,堵住监管漏洞,全力挤压相关违法犯罪活动空间,加速完善常态化治理机制,切实提高其违法成本。

  据悉,为防范和打击“AI换脸”犯罪,全国公安机关联合国家重点实验室等单位,开展人脸识别与活体检测技术安全测评,覆盖即时通信、网络直播、网络社交、电商平台、金融支付等重点App,及时发现人脸识别验证系统存在的风险隐患,通报运营主体升级安全保护措施和人脸识别算法,不给不法分子可乘之机。

  与此同时,各地通过多种形式的宣传教育,帮助群众更加清晰认识到AI技术被利用或滥用所带来的法律风险,增强了大家对AI犯罪的防范意识。

  今年4月,安徽省合肥市警方通过中央媒体在关于“AI软件成造谣工具”节目中揭秘谣言制作过程,让网民更直观地加深了对AI造谣的认识,起到了较好的宣传效果。

  2024年以来,浙江省杭州市临平区借助“反诈智能AI宣防外呼系统”,自动识别、分析和预警潜在的诈骗风险,并以电话语音形式向市民发送提醒信息,不仅大幅提升工作效能,也切实提高了市民对诈骗风险的警觉性,降低了诈骗案件的发生率。

  “随着AI技术的快速迭代,对其被不法分子利用或滥用进行防治提出了更高要求。如AI犯罪行为更为隐蔽和复杂,证据收集难度大。”崔俊杰说,因此,如何更好地防治AI犯罪,对内容生成平台、行业监管部门乃至政法机关等各方都提出了挑战。

  崔俊杰建议,要坚持以科学适度的治理方式和治理手段回应技术发展和社会变迁,针对AI犯罪特点,相关部门需及时推动相关法律的立改废释纂,以良法促善治,提高依法治理水平;加大全链条打击力度,强化各部门协同配合,加强大数据法律监督模型应用,善于从中发现重点监督线索和社会治理存在的难点问题,实现精准监督、有效监督,在确保行业良性健康发展的基础上实现精准治理。(本报记者 杜洋)

  来源:法治日报 【编辑:张燕玲】