中央网信办:整治利用“AI换脸”生成涉未成年人低俗色情图片视频等问题
人民网北京6月28日电 据中国网信网消息,为进一步强化未成年人网络保护,营造健康安全网络环境,中央网信办近日决定开展为期2个月的“清朗·2023年暑期未成年人网络环境整治”专项行动,将对网络欺凌、利用“AI换脸”等技术生成涉未成年人低俗色情图片视频等问题进行处置处罚。
据了解,该专项行动的目的是集中整治网上涉未成年人突出问题,全面压缩有害信息隐形变异的生存空间,坚决遏制侵害未成年人权益的违法行为,进一步提升学习类APP、儿童智能设备等专属产品服务信息内容安全标准,有效解决网络沉迷问题,营造有利于未成年人健康安全成长的网络环境。
同时,针对未成年人用户数量较大、对未成年人具有显著影响的网站平台以及儿童智能设备,专项行动将从深从细全面整治,从严从重处置处罚,持续净化网络生态。重点聚焦以下7方面问题:
一是有害内容隐形变异问题。一是以谐音词、变体字、表情符号等形式传播色情低俗、赌博迷信等内容;二是利用视频剪辑、影视二创、动漫改编等方式集中展示涉未成年人血腥暴力等画面;三是通过外链、浮窗、二维码、账号信息等进行色情引流;四是儿童智能设备自带及第三方APP,语音、文字搜索结果中存在涉黄涉暴内容。
二是网络欺凌问题。一是使用网络烂梗对未成年人进行侮辱谩骂;二是对未成年人进行“人肉搜索”,恶意传播泄露未成年人隐私的欺凌视频;三是通过恶意P图、编造谣言等,诋毁未成年人。
三是隔空猥亵问题。一是借“个性交友”“童星招募”“有偿收图”等名义,诱骗或胁迫未成年人进行在线裸聊、作出淫秽动作、提供裸照视频等;二是通过群组、私信等渠道向未成年人发送色情图片、淫秽语言;三是在涉未成年人账号、文章页面发布低俗色情跟帖评论,诱导不良交友或实施性引诱。
四是网络诈骗问题。一是以“内部人员”“含泪转让”等名义向未成年人虚假售卖演唱会门票,实施网络诈骗;二是以免费游戏装备、投票返现、盲盒抽取、粉丝抽奖等名义诱导未成年人加入群聊,诱骗转账汇款;三是诱骗未成年人提供社交账号、支付密码等用于网络诈骗活动。
五是不良内容问题。一是发布校园主题剧情演绎类视频,以偏激方式丑化学校形象,鼓噪师生矛盾,美化顶撞老师等行为;二是渲染家长“压迫”“压榨”孩子,恶意编造虚假家庭矛盾等内容;三是诱导吸烟、饮酒、纹身、旷课等不良行为;四是通过虚假摆拍鼓吹“霸凌风”“家暴妆”等畸形审美,传播以强凌弱、以暴制暴等不良内容。
六是网络沉迷问题。一是诱导未成年人长时间观看直播短视频;二是利用算法向未成年人集中推送诱导沉迷内容,形成信息茧房;三是通过聊天交友、虚拟空间装饰等娱乐功能诱导未成年人消费;四是向未成年人违规提供网络游戏账号租售服务,教授未成年人破解防沉迷系统、绕过青少年模式。
七是新技术新应用风险问题。一是利用“AI换脸”“AI绘图”“AI一键脱衣”等技术生成涉未成年人低俗色情图片视频;二是利用所谓“阅后即焚”的密聊软件诱骗未成年人提供个人信息,诱导实施违法行为;三是利用生成式人工智能技术制作发布涉未成年人有害信息。
(记者 申佳平)
![](http://www.ijjnews.com/images/ijjnews_wx.png)
(1)凡本网注明“来源:晋江新闻网或晋江经济报”的所有文字、图片和视频,版权均属晋江新闻网所有,任何媒体、 网站或个人未经本网协议授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权的媒体、网站,应在授权 范围内使用,并注明“来源:晋江新闻网”。违反上述声明者,本网将追究其相关法律责任。
(2)凡本网注明“来源:×××(非晋江新闻网或晋江经济报)”的文/图等稿件均为转载稿,转载目的在于传递更多 信息,繁荣发展互联网行业,并不意味着赞同其观点或证实其内容的真实性。如其他媒体、网站或个人从本网下载使 用,必须保留本网注明的“来源”,并自负版权等法律责任。如擅自篡改为“来源:晋江新闻网”,本网将依法追究 责任。如对稿件内容有疑议,请及时与我们联系。
(3)如因作品内容、版权和其它问题需要同本网联系的,请在两周内速来电或来函与本网联系。电话:0595-86170187。