科技日报记者 刘艳
针对网络暴力现象频发,抖音宣布全面升级平台预防网暴能力,成为国内首个为用户提供多场景预防网暴能力的平台。
在互联网平台中,发布评论、私信是公众对社会热点事件和人物表达意见最主要的方式和场景,但因发布成本较低、传播效率较高,也容易产生骚扰、人身攻击、侮辱谩骂甚至诽谤造谣等行为。
数据显示,抖音每天产生8亿条评论,其中,被投诉、举报并最终处理的不当评论中,“谩骂,人身攻击”占比32.79%。
因此,抖音从管理评论和私信两个维度入手,为用户提供一揽子服务。
针对评论,抖音即将上线国内首个“发文警示”功能,引导用户友善评论。
该功能下,若系统模型判定已经发送的评论存在问题,会推送弹窗提醒,建议发送者重新编辑,去除不当言论。如果发送者坚持发送,则该条评论不会在评论区出现。
在近期的小范围测试中,该功能已经日均减少约3万条不当评论。
在评论端,抖音还先后上线了“评论权限分层管理”“关键词屏蔽”“评论精选”三项功能。
其中,用户在使用“评论权限分层”时,可以通过“权限设置-高级设置-谁可以评论”设置评论权限,根据自身需求从“所有人”“仅粉丝”“仅互关朋友”“仅自己”四个选项选取谁可以对自己发布的内容进行评论。
在私信渠道,抖音新增“用户风险提醒”和“负向内容过滤”两大功能。
该功能下,当系统模型识别发现,用户刚接收的陌生人私信存在风险时,会对用户推送弹窗,提示其“是否认识该用户”。如果用户选择“不认识”,系统会再次弹窗,提示用户可进行“拉黑、举报、移除粉丝”等操作,确保自身安全。
目前,该功能日均对25万次会话发出风险提示,引导用户自主管理社交对象。
在“负向内容过滤”功能下,当模型判定用户收到的私信消息为“谩骂或骚扰”,该消息会被直接放入“陌生人盒子—垃圾信息”中。截至目前,该功能已日均服务7万用户。
此外,抖音还推出了“心情暖宝宝”助手,根据用户内容情绪倾向,通过消息对话的交互方式,缓解用户负向情绪。
抖音安全治理相关负责人表示,抖音上线的这一系列预防网暴的功能,提供了从私信到评论,从主动管理发送者到接收者自我管理的多场景的服务能力,以努力实现从人到文(内容),人文并举的管理。
(图片提供:字节跳动)
责任编辑:kj005
文章投诉热线:156 0057 2229 投诉邮箱:29132 36@qq.com