中央网信办:整治利用“AI换脸”生成涉未成年人低俗色情图片视频等问题

来源: 发布时间:2023-06-28 15:48:41


(相关资料图)

人民网北京6月28日电 (记者申佳平)据中国网信网消息,为进一步强化未成年人网络保护,营造健康安全网络环境,中央网信办近日决定开展为期2个月的“清朗·2023年暑期未成年人网络环境整治”专项行动,将对网络欺凌、利用“AI换脸”等技术生成涉未成年人低俗色情图片视频等问题进行处置处罚。

据了解,该专项行动的目的是集中整治网上涉未成年人突出问题,全面压缩有害信息隐形变异的生存空间,坚决遏制侵害未成年人权益的违法行为,进一步提升学习类APP、儿童智能设备等专属产品服务信息内容安全标准,有效解决网络沉迷问题,营造有利于未成年人健康安全成长的网络环境。

同时,针对未成年人用户数量较大、对未成年人具有显著影响的网站平台以及儿童智能设备,专项行动将从深从细全面整治,从严从重处置处罚,持续净化网络生态。重点聚焦以下7方面问题:

一是有害内容隐形变异问题。一是以谐音词、变体字、表情符号等形式传播色情低俗、赌博迷信等内容;二是利用视频剪辑、影视二创、动漫改编等方式集中展示涉未成年人血腥暴力等画面;三是通过外链、浮窗、二维码、账号信息等进行色情引流;四是儿童智能设备自带及第三方APP,语音、文字搜索结果中存在涉黄涉暴内容。

二是网络欺凌问题。一是使用网络烂梗对未成年人进行侮辱谩骂;二是对未成年人进行“人肉搜索”,恶意传播泄露未成年人隐私的欺凌视频;三是通过恶意P图、编造谣言等,诋毁未成年人。

三是隔空猥亵问题。一是借“个性交友”“童星招募”“有偿收图”等名义,诱骗或胁迫未成年人进行在线裸聊、作出淫秽动作、提供裸照视频等;二是通过群组、私信等渠道向未成年人发送色情图片、淫秽语言;三是在涉未成年人账号、文章页面发布低俗色情跟帖评论,诱导不良交友或实施性引诱。

四是网络诈骗问题。一是以“内部人员”“含泪转让”等名义向未成年人虚假售卖演唱会门票,实施网络诈骗;二是以免费游戏装备、投票返现、盲盒抽取、粉丝抽奖等名义诱导未成年人加入群聊,诱骗转账汇款;三是诱骗未成年人提供社交账号、支付密码等用于网络诈骗活动。

五是不良内容问题。一是发布校园主题剧情演绎类视频,以偏激方式丑化学校形象,鼓噪师生矛盾,美化顶撞老师等行为;二是渲染家长“压迫”“压榨”孩子,恶意编造虚假家庭矛盾等内容;三是诱导吸烟、饮酒、纹身、旷课等不良行为;四是通过虚假摆拍鼓吹“霸凌风”“家暴妆”等畸形审美,传播以强凌弱、以暴制暴等不良内容。

六是网络沉迷问题。一是诱导未成年人长时间观看直播短视频;二是利用算法向未成年人集中推送诱导沉迷内容,形成信息茧房;三是通过聊天交友、虚拟空间装饰等娱乐功能诱导未成年人消费;四是向未成年人违规提供网络游戏账号租售服务,教授未成年人破解防沉迷系统、绕过青少年模式。

七是新技术新应用风险问题。一是利用“AI换脸”“AI绘图”“AI一键脱衣”等技术生成涉未成年人低俗色情图片视频;二是利用所谓“阅后即焚”的密聊软件诱骗未成年人提供个人信息,诱导实施违法行为;三是利用生成式人工智能技术制作发布涉未成年人有害信息。

(责编:申佳平、高雷)关注公众号:人民网财经

标签:

Copyright ©  2015-2022 华东饰品网版权所有  备案号:京ICP备2022016840号-41   联系邮箱:2 913 236 @qq.com