QQ回应自习室功能涉黄:已关闭深夜评论功能

2021年01月28日 06:41:45 | 来源:澎湃新闻

字号变大| 字号变小

  疫情期间,社交软件QQ推出了一款可用于“线上自习”的多人直播产品:QQ自习室。进入“QQ自习室”,网友可以分享自己的学习场景视频,在评论区互动互相加油打气等。

  但在近日,澎湃新闻发现,在这样一款以学生为主要目标用户群体的产品中,有极少数用户利用QQ自习室传播淫秽色情内容。

  针对这一情况,1月27日,QQ团队作出回应,称经自查发现确实存在少量恶意用户发布低俗内容及进行黑产引流。目前,QQ已经关闭了深夜自习室(23:00-8:00)的评论功能,提出进一步收紧评论尺度标准、提升用户加好友门槛。

  从产品功能来看,QQ自习室的使用群体以学生为主,进入QQ自习室可见,有大量中考、高考、考研为主题的自习室。进入一个自习室后可“上麦自习”也可直接“入座自习”,在评论区与其他自习的网友交流,系统会记录用户自习的天数与时长。

  澎湃新闻记者随机进入一间自习室,评论区出现了为淫秽色情引流的“暗语”:诸如“8.88”、“加群”、“懂的加”,甚至有用户主动问:“有东西吗”,下面则有人回应称:“私我”。

  对于为何未能及时识别这些疑似涉黄内容,QQ团队称这是“不同语义变化以及文本的变种对抗”导致的延迟打击问题。据了解,QQ自习室评论有着脏字过滤系统,以及机器文本安全模型的识别,并采取了技术风控手段和人工巡查结合的方式,但专业黑产团伙在作恶时,会想办法绕过平台安全策略,发送擦边评论内容进行引流。

  在通过“暗语”吸引目标用户后,黑产会引导用户添加好友私聊的方式,进行色情内容传播。

  QQ方面表示,将通过提升用户加好友门槛的方式,对于加好友实施涉黄引流进行打击。可采用的方式有:加好友增加自习室用户的打卡自习时长要求、非长期自习用户不能加或者被加好友等。

  但该方法能杜绝产品被黑产利用吗?QQ团队向澎湃新闻记者介绍,QQ鼓励用户在发现违规信息时,对相关违规账户进行举报。“我们呼吁用户增强信息安全意识,对违法违规账号和行为进行举报,一旦发现并核实立即封停。对于情节严重者,还将向司法机关举报。”

下载荔枝新闻APP客户端,随时随地看新闻!

layer
快乐分享