Clubhouse 等音频社交网络火了,内容监控成难题

观点
2021
02/26
22:38
亚设网
分享

北京时间 2 月 26 日晚间消息,在埃隆 · 马斯克(Elon Musk)和马克 · 扎克伯格(Mark Zuckerberg)等科技名人的支持下,基于音频的社交网络 Clubhouse 出现了爆炸性增长。但同时,也引发了人们对该应用程序将如何处理仇恨言论和虚假信息的关注。

Clubhouse 等音频社交网络火了,内容监控成难题

对于那些提供实时语音聊天的平台来说,如 Clubhouse、Discord 和 Twitter Spaces 等(还有传闻称 Facebook 也在开发类似的应用),掌控实时聊天的内容将是一个挑战。

实时游戏聊天应用 Discord 首席法务官克林特 · 史密斯(Clint Smith)在接受采访时称:“与基于文本的交流相比,音频给内容控制带来了一系列截然不同的挑战。它存在的时间较短(语音),很难进行研究并采取行动。”

目前,检测 “有问题”的音频内容的工具,要落后于文本识别工具;而转录和检查录制的语音聊天,对于人和机器来说是一个更加繁琐的过程。另外,缺乏额外的线索,如视频或附带文字评论的视觉信号,也会使这一问题变得更具挑战性。

反诽谤联盟(Anti-Defamation League)技术与社会中心副主任丹尼尔 · 凯利(Daniel Kelley)表示:“当前拥有的大部分内容审核工具,实际上都是围绕文本建立的。”

而且,也并不是所有的公司都制作或保留语音记录,以调查违规举报。虽然 Twitter Space 会把音频保留 30 天或更长时间,但 Clubhouse 却表示,如果直播结束而没有立即收到用户报告,就会删除这些录音。

而 Discord 则根本不会录音。更糟糕的是,Discord 还赋予用户一些控制权,如禁言和拉黑。这很可能导致用户权力被滥用,并容易受到偏见的影响。

同样引入了用户控制的 Clubhouse,也受到了外界的密切关注。例如,阻止用户进入某些房间的行为,是否可以用来骚扰或排斥用户。

在此之前,大型社交媒体已经历过类似的问题,并一直在努力遏制其网站上不当的直播内容。例如,2020 年,Facebook 上一段自杀的直播视频在多个网站上传播。2019 年,发生在德国犹太教堂的枪击事件在亚马逊旗下游戏网站 Twitch 上进行了直播。

对此,Twitch 安全咨询委员会成员艾玛 · 兰索(Emma Llanso)表示:“对这些服务(语音聊天)来说,要从中吸取教训,明白他们将面临所有同样的问题,这一点真的很重要。”

Clubhouse 一发言人对此表示,该公司同时使用内部审查员和第三方服务来审查内容,并已就这一问题聘请了顾问,但不愿就审查或检测方法发表评论。Clubhouse 还表示,公司正在投资于检测和防止虐待的工具,以及为用户提供的功能,可以为自己的房间设定规则,以 “缓和”对话内容。

App Annie 数据显示,从 2 月 1 日至 16 日,Clubhouse 的全球下载量从 350 万次增长到了 810 万次。

THE END
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表 亚设网的观点和立场。

20.jpg

关于我们

微信扫一扫,加关注

Top