内容自审制度
一、目标
为了保护开心音符旗下产品“快音平台”的内容信息合规性及遵守相关法律法规要求,创造良好的社区环境净化网络空间,保证公司利益不受损害,特制定本制度。
适用范围
,本制度办法作为本制度适用于开心音符旗下产品“快音平台”内容安全管理背景下的要求,所规定内容均为原则性要求。
三、具体管理动作
1、成立内容安全领导小组,责任到人、责任到岗。
为保证平台信息安全的同时给用户营造一个良好的互联网氛围及积极健康的内容社区,特成立了以公司总办为中心,包含产品线各部门负责人、信息外联和公司内容审核团队协同组成的信息安全专职常态化运营组织,简称“内容安全领导小组”
2、不断完善公司相关制度,提升并优化内容审核流程
成都开心音符科技有限公司全体员公司根据国家相关法律法规及政策,结合开心音符平台内容生产情况制定并优化新增了一系列信息安全方面管理制度,由CE0牵头并由内容安全领导小组负责制定以及持续优化管理制度和规范,并依照相关制度约束自身行为、明确工作流程,至上而下,从外到内、从广义到狭义、从总体到细化、从战术到战略,从公司的整体到局部的各个部门相结合一一剖析,全方面复盘,着重针对《信息安全管理制度》及对应《信息系统应急预案》《个人信息保护管理制度》等进行充分完善。
3、多渠道新增关键词,完善关键词库
区别于其他内容平台使用的泛关键词,快音平台的关键词库词条均来自真实的用户资料和应用场景。词条内容更精准,识别更有效。在此标准上,运营及审核团队一直在不问断地维护并扩充关键词库。截至2021年7月,泛关键词库词条已有6w+,精准关键词库词条有1.6w+。在后续的工作中,将加强对关键词库的维护管理,积极主动去汲取行业内的经验,完善在拼音/谐音/分词/近似字/繁体字等各种形态上的衍生形态扩充,尽快推进关键词库的完善。
4、配强内容审核团队并不断提升执行要求与结果交付指标
审核团队的管理中,严格遵守以下工作原则:
(1)严防违法有害信息露出,维护国家及社会安全稳定
维护国家网络信息安全,严防违法有害信息露出,包括违禁物品的买卖、违法服务的提供,群体事件的召集以及各类互联网诈骗等。严格控制互联网信息安全,及时处理违禁信息,为国家治安部门提供线索。
(2)确保平台内容质量,为内容发展提供保障通过对整个平台内容的控制,确保不断呈现高质量内容,持续提升网站的用户数量,提高网站用户的满意度。
(3)不断发掘平台价值,鼓励用户积极举报反馈
用户举报与反馈,是发现新问题的重要途径。成都开心音符科技有限公司提倡并鼓励平台用户对违法有害信息进行举报,经确认真实有效的举报内容将对举报人进行奖励。
5、不断丰富团队储备
开心音符内容审核团队包含两名负责人和若干员工,分4个班次进行人工审核、复检和巡查。审核团队制定有完善的工作规章制度,严格按照审核团队审核标准以及保密要求进行工作,审核团队的管理构成如下:
a,从管理架构上做到责任明确,人员按经验合理搭配,减少管理层级划分,确保兼顾审核效果和效率,内容管理团队自上而下分别为经理、主管、组长和成员,组长对小组成员工作质量负责,工作上雷要做到绝对服从。
b.设立严格奖惩措施,本着鼓励优秀,有错必惩的原则制定c.实行轮岗工作制度,内容安全管理团队下设审核人员、质检人员、舆情控制人员,审核人员负责人工审核,质检人员负责审核回查、抽查漏杀内容和错杀内容,舆情控制人员负责收集境内外实时奥情信息,包括境内外的不良视频、图片、文本、反哺机器学习,提升审核能力,以及负责网信办、网安指令对接工作。另针对工作内容实行一个季度一轮岗的制度,以避免长期从事一个岗位导致的疲劳和松懈,同时有利于丰富和提高员工的审核经验和综合审核素质。
d.定期培训,加强业务能力和预判能力,负责审核主管必须具备此岗位至少2年工作经验,3年审核经验,小组组长必须有2年以上的相关工作经验,所有新入职人员试用期内必须通过安全审核考试才能转正,日常还定期通过周例会和月例会,对违规内容进行集中学习和分析,以及对未来可预见重大事件进行审核相关整理讨论。
审核团队匹配性
阶段审核人力将匹配持续增长的内容规模需要进行动态调整扩充,后续内容审核团队将根据用户规模和开心音符(快音平台)站内内容规模的增长做相应人员扩充,确保审核内容与审核人员匹配,同时定期组织审核培训,不断提升审核人员内容安全的判定和处置能力。
6、提升并加强新增量人工审查力度
开心音符(快音平台)全面执行先审后发人工审核机制,平台内用户上传的内容数据通过多级审核通过后进行展现,确保内容安全健康。
[五重审核」
开心音符对所有用户的文字、图片、视频信息均执行五重审核机制。
违禁词库筛查、审核词库筛选:用户上传的任何信息,首先经过违禁词库和审核词库筛查过滤,命中审核机制的内容均无法成功创建发布;
囚机器算法筛查:信息发布后,机器算法(数美提供技术支持)进行审核(关键字/图片/视频),高危内容拦截,疑似违规内容数据转到审核平台,由人工进行二次审核判定并将结果不断反哺机器提升算法精准度;
违禁词库筛查、审核词库筛选:用户上传的任何信息,首先经过违禁词库和审核词库筛查过滤,命中审核机制的内容均无法成功创建发布;
①机器算法筛查:信息发布后,机器算法(数美提供技术支持)进行审核(关键字/图片/视频),高危内容拦截,疑似违规内容数据转到审核平台,由人工进行二次审核判定并将结果不断反哺机器提升算法精准度;
②内容全量审查:全面执行先审后发机制,针对每日新发表内容进行人工逐一校准,保证日发表内容在当日完成人工审核转结,保障产品安全运营;
③人工质检巡查:由内容安全团队的专职复审人员,对机审和二审通过的内容进行巡查,并将遗漏案例反哺机器学习:
④前端举报审核:由前端用户举报/投诉产生的实际案例,由专职审核人员进行专项跟进处理,确保隐晦、复杂、变异及实时动态案例得到有效反馈处理:
7、加大处罚公示力度,以正视听
一个健康向上的网络环境离不开全体用户的共同治理,网络安全意识更是应该从源头上来树立。结合内容审核管理制度中的安全标准,快音平台
将定期对违规账户及判罚处置进行公示,以治标促进治本,推动形成长效机制,对上传违规内容的用户,快音将根据违规性质对违规用呇咲犏户处以包括禁用站内功能1天、3天、30天,直至永久封禁账号等处罚措施在内的阶梯式处罚以保障平台安全运营。
8、不断丰富用户投诉举报机制,组建平台内容生态治理队伍7月22日,中央网信办召开全国网信系统学习宣传贯彻习近平总书记“七一”重要讲话精神宣讲报告视频会议。中央网信办相关部门负贵同志结合网信工作实际,就深入学习宣传贯彻习近平总书记“七一”重要讲话精神、奋力谱写网络强国建设新篇章进行宣讲。保障网络信息安全与平台内容质量,是企业的责任和使命。公司将始终坚持这一信念,严格遵守国家网络信息安全制度,做好企业内部内容审查,建立举报有奖机制,多方共同监督,共同维护网络信息安全。
内容安全专项小组目前已在快音平台内部面向全体用户搭建监督举报机制,鼓励用户共同监督平台内容安全,携手共建健康安全积极向上的网络环境。用户可通过以下途径进行信息举报:
(1)24小时举报热线(电话:028-85132455)
(2)公司举报邮箱(邮箱地址:kuaiyinreport@rings.net.cn )
9、加强技术研发,保障网络安全
1、知法守法,重视各项内部制度建设。
公司严格遵守国家法律法规和各项管理办法及相关要求,结合自身业务情况,拟定了针对快音平台的《安全管理制度》(附件2)相关制度涵盖了信息系统安全管理、数据备份、网络及用户管理、以及安全事件的应急处置管理。并结合技术手段,保证系统的安全稳定运行。并于2021年3月16日顺利通过成都市公安局的审批,取得了信息系统安全等级保护备案证明,快音平台认定为三级系统。
2、持续选代内部信息安全的审查机制及流程
公司明确管理范围,加强用户注册审核、内容发布审核策略等通过敏感内容过滤、机审人工双重审核、及早预防和警示,降低企业的信息安全风险、杜绝网络安全事故的发生。
3、不断强化的算法服务及机器预拦截机制
在日常审核流程中,人工审核团队将不断与技术团队进行双重校验、多重复盘的方式进行算法结果抽样识别,针对识别场景及结果进行精细化运营,以达成人工团队及机审算法的高质量赋能,同时为后续前置拦截做运营铺垫: