多举措预防网暴 抖音将国内首家上线“评论发文警示”等功能

　　针对频发的网络暴力现象，日前，抖音宣布全面升级平台预防网暴能力，为用户提供了8项功能，全方位管理评论和私信。其中，针对不当私信，新上线“风险提醒”和“负向内容过滤”等功能；针对已发送的不当评论，即将上线国内首个“发文警示”功能，进行拦截。至此，抖音已成为国内首个为用户提供多场景下预防网暴能力的平台。

　　据了解，在互联网平台中，发布评论、私信是公众对社会热点事件和人物表达意见最主要的方式和场景。但因其发布成本较低、传播效率较高，也容易产生骚扰、人身攻击、侮辱谩骂甚至诽谤造谣等行为。数据显示，抖音每天产生8亿条评论，其中，被投诉、举报并最终处理的不当评论中，“谩骂，人身攻击”占比32.79%。

　　对此，抖音从管理评论和私信两个维度入手，为用户提供一揽子服务能力。首先，针对评论，抖音即将上线国内首个“发文警示”功能，引导用户友善评论。该功能下，若系统模型判定已经发送的评论存在问题，则会推送弹窗提醒，建议发送者重新编辑，去除不当言论。如果发送者坚持发送，则该条评论不会在评论区出现。据悉，该功能在近期的小范围测试中，已经日均减少约3万条不当评论。

　　除此之外，在评论端，抖音还先后上线了“评论权限分层管理”、“关键词屏蔽”、“评论精选”三项功能。其中，用户在使用“评论权限分层”时，可以通过“权限设置-高级设置-谁可以评论”设置评论权限，根据自身需求从“所有人”、“仅粉丝”、“仅互关朋友”、“仅自己”四个选项中，自主选取谁可以对自己发布的内容进行评论。

　　其次，在私信渠道，抖音新增“用户风险提醒”和“负向内容过滤”两大功能。在“用户风险提醒”功能下，当系统模型识别发现，用户刚接收的陌生人私信存在风险时，会对用户推送弹窗，提示其“是否认识该用户”。如果用户选择“不认识”，系统会再次弹窗，提示用户可进行“拉黑、举报、移除粉丝”等操作，确保自身安全。目前，该功能日均会对25万次会话发出风险提示，引导用户自主管理社交对象。在“负向内容过滤”功能下，当模型判定用户收到的私信消息为“谩骂或骚扰”，该消息会被直接放入“陌生人盒子—垃圾信息”中。该功能已日均为7万用户服务，减少他们接收的负向信息。

　　此外，抖音还推出了“心情暖宝宝”助手，以根据用户内容情绪倾向，通过消息对话的交互方式，缓解用户负向情绪。

　　抖音安全治理相关负责人表示，抖音上线的这一系列预防网暴的功能，提供了从私信到评论，从主动管理发送者到接收者自我管理的多场景的服务能力，“努力实现从人到文（内容），人文并举的管理”。