公安部网安局24日通报，近期警方侦破一起利用“AI换脸”突破相关互联网平台人脸识别认证机制侵犯公民个人信息案件，以及一起利用“AI换脸”非法侵入计算机信息系统案件，多名犯罪嫌疑人落网。
“AI人脸”突破了人脸识别验证
经浙江杭州警方侦查，涉案人员利用生成式人工智能深度合成技术伪造“AI人脸”，突破平台人脸识别认证机制，非法窃取公民个人隐私数据。犯罪团伙利用某即时通讯平台招揽生意，宣称可承接互联网平台特定用户数据的“查细”业务。接单后，团伙成员伪造受害者人脸验证视频，突破相关头部平台登录认证，强制登录受害者账号窃取信息。
警方现已抓获4名犯罪嫌疑人，查获一批被非法强制登录的网络账号。该案中，犯罪团伙、互联网平台、个人信息买家均需根据具体行为承担刑事、行政及民事责任：实施犯罪的团伙利用“AI换脸”突破互联网平台认证机制，非法获取公民个人信息并出售的行为，涉嫌非法获取计算机信息系统数据罪、侵犯公民个人信息罪，情节特别严重的，可处3年以上7年以下有期徒刑，并处罚金；互联网平台未采取有效措施保护注册用户个人信息，导致用户个人信息泄露，可能面临连带的行政处罚和民事赔偿；买家出于各种目的非法购买他人信息的行为，可能涉嫌非法获取公民个人信息、侵犯公民个人隐私的违法行为。
“你们公众号怎么开始推荐投资理财APP了？”另一起案件中，某机构工作人员像往常一样打开公司公众号评论区，却被一连串粉丝留言惊出一身冷汗。工作人员急忙查看公众号文章，发现原本精心运营的账号，不知何时竟发文称即将停更，并号召粉丝关注另一个投资理财类的账号。工作人员尝试登录账号后台，发现密码已被修改，连公司法人代表信息都被篡改。
武汉网警调查发现，被盗的社交媒体账号不仅认证信息被篡改，登录密码也已被更换，背后操作痕迹指向一套成熟的“AI换脸”技术。专案组顺线追踪，锁定犯罪嫌疑人阿成（化名）后，赴山东潍坊实施抓捕，对其住所搜查发现大量AI换脸视频素材。阿成却狡辩“我就是个美工，帮人做点图，怎么就违法了”，自己只是“按上线要求干活”。但民警很快掌握相关证据，同时发现其账户内价值40余万元来自AI换脸“接单”的非法获利。最终阿成交代，自己负责完成AI换脸验证操作，3名上线则负责承接“人脸代过”需求、转交人员信息，并从中牟利。
警方介绍，在灰产链条中，犯罪团伙在受害人不知情的情况下，篡改企业法人信息，对企业进行非法控制。目前，阿成等4人均被依法采取刑事强制措施。
平台现有认证方式存在三大风险
当前，互联网平台的登录认证方式主要有账号密码登录、手机验证码登录、第三方平台授权登录三种。此外，为保证用户体验，平台还会开通人脸登录方式，当用户忘记账号密码，且手机遗失、收不到验证码，或无法使用前三种登录方式时启用。
警方指出，现有的认证方式存在以下风险：一是过往公民个人信息的泄露导致基于“姓名+身份证件号码+人脸”的认证机制更易被犯罪团伙突破，互联网平台为开展身份认证收集公民个人信息的行为也增加了个人信息泄露风险；二是随着生成式人工智能的快速发展，深度伪造技术的更新迭代远超安全防护升级节奏，视频生成工具制作出的动态人脸视频的生物特征不断接近真人，导致人脸识别认证的安全性降低；三是互联网黑灰产团伙已形成完整的犯罪生态链，一旦头部互联网平台出现认证漏洞，即可通过第三方授权登录其他平台，严重危害公民的个人信息安全。
网警就此提示，各互联网平台应主动采取更有效的技术措施，防范网络犯罪及黑灰产团伙的持续性攻击。
来源：北京日报客户端
如遇作品内容、版权等问题，请在相关文章刊发之日起30日内与本网联系。版权侵权联系电话：010-85202353
全部评论
0条