摘要:TikTok正在将内容审核工作下放给各个地方的当地团队,此前,它曾被怀疑按照中国政府的指导原则审查用户内容。



汉娜•墨菲 旧金山 , 杨缘 北京报道

OR--商业新媒体 】TikTok(抖音国际版)正加紧在世界各地建立团队,以审核(moderate)其病毒式传播的视频流,因为外界越来越担心TikTok的年轻用户正受到有害内容的毒害,这样的内容也在困扰YouTube和Facebook。

中国公司字节跳动(ByteDance)旗下的这款app仅用3年时间就积累了逾10亿月活用户。TikTok还将把有关哪些视频可接受的所有决策下放给驻美国、欧洲和印度的当地团队,此前,它曾因被怀疑按照中国政府的指导原则审查(censor)内容而受到抨击。

TikTok驻美国的安全主管Eric Han表示,在美国,关于内容的责任已完全下放至本地,而且计划在2020年增加更多的“内容专家”。TikTok在美下载量今年多次冲上下载排行榜榜首。

但该公司严重落后于硅谷各竞争对手,因为它们花了更多时间去设法保护年轻用户免受令人不适的内容和非法内容的影响。

通过与第三方分析师合作,记者发现了TikTok上暴力、仇恨言论、霸凌和性暴露内容的证据,有时这些内容还成为了拥有数百万帖子的热门话题。字节跳动多名员工及前员工表示,政策团队缺乏经验尤其意味着,他们目前并不擅长应对内容审核问题。

社交媒体情报机构Storyful主编达伦•戴维森(Darren Davidson)表示:“它对(年轻人)可能是一个相当危险的地方。整体而言,我们现在看到的正是四、五年前传统平台上出现过的一幕。”

见机行事

在TikTok成立之初,大部分内容审核工作是由母公司字节跳动位于北京的办公室与当地办公室共同承担的。字节跳动估值750亿美元。

但几位知情人士透露,对这些政策——尤其是围绕政治内容——的监管一直无章可循。虽然该公司已禁止政治广告,但最近的媒体报道突显出外界对审查的担忧——TikTok否认对内容进行审查。

其他政策——例如一项隐藏残障人士或同性恋用户所发视频的决定,该公司辩称此举旨在预防霸凌——引发了公众的强烈反对。

多位与字节跳动北京办公室关系密切的人士表示,缺乏经验的团队造成了偏见、出差错和误判形势的糟糕决定。

一位熟悉该公司的人士透露,该公司的内容政策制定岗招的人通常都是刚从国外留学回来的,或者只有一到两年工作经验的,而他们承担着编辑决策的职责,要决定什么样的内容对于各个政治背景截然不同的国家是合适的。

上述人士称:“我觉得,所有人——包括字节跳动的竞争对手——都是在见机行事。”另一位人士表示,公司内部缺乏沟通和相互隔离——即使在同一个业务部门内——阻碍了公司推行统一方针的努力。

从全球到本地

TikTok现已开始将其内容政策和审核工作从北京团队向当地团队转移,当地团队更容易理解当地特定的文化差异。

作为该计划的一部分,TikTok已在美国设立了单独的、“完全自主的”安全与审核团队,并计划在欧洲采取同样的做法。

常驻洛杉矶的Eric Han表示,TikTok“正在快速、成倍地扩大(其美国安全团队),以确保合适的资源和人员配备到位”。他还表示打算“将这种发展势头延续”至2020年。

他未对TikTok的信用和安全团队的规模发表评论,但表示,他们使用了自动化系统和人工审核员(包括合同工)来监控自己的系统。

今年10月,该公司表示,已聘请高盖茨律师事务所(K&L Gates)——前美国国会议员巴特•戈登(Bart Gordon)和杰夫•德纳姆(Jeff Denham)都为该所效力——对其在美国的内容审核政策进行评估并“提高透明度”,帮助加强该团队。

TikTok的阴暗面

但还是有多名研究人员对英国《金融时报》表示,他们在TikTok上发现了不适宜的内容,这些内容似乎与其政策相悖,活动人士则敦促该平台引入更完善的安全功能。

L1ght是一个检查社交媒体平台上是否有对儿童有害内容的组织。该组织发现了包括针对女性、尤其年轻女性的暴力的动态。这其中就包括“#kidnap(诱拐)”标签——有2800万搜索结果——在这个标签下,男孩会表演对他们的女朋友进行诱拐和攻击。

L1ght首席执行官祖海尔•莱夫科维茨(Zohar Levkovitz)表示:“我们的算法在TikTok上发现了非常令人不安的内容。我们最担心的是,网络上的暴力动态很容易变成现实生活中的暴力事件,给年轻人树立错误的榜样。”

非营利组织美国反性剥削中心(NCOSE)负责宣传和推广的副总裁黑利•霍尔沃森(Haley Halverson)表示,过去18个月,该中心接到了越来越多来自中小学生和忧心忡忡的家长的电话,他们抱怨这款app中存在极度色情化内容,以及有成年人试图在这个平台上引诱未成年人。

霍尔沃森说:“打开TikTok,5至10分钟内,你就会发现他们并未充分执行他们的社群指引。”

一些人认为,TikTok的设计——一个视频平台,用户在上面可以发现陌生人上传的内容,而不仅仅是来自选定的朋友网络的内容——使其可以通过新方式传播施虐内容并且不被发现。

可供监控的关键词更少,使得计算机自动标记内容变得更加困难。Storyful的戴维森表示,还有证据表明,包括白人至上主义者在内的一些不良行为者一直在利用热门话题散播他们的视频内容。

专家们表示,“二重唱”功能——用户可将自己添加到现有视频中去——也可能被用于霸凌或骚扰。例如,一名用户可能会用枪指着原视频中那个人的头。

Storyful的分析显示,还有一些病毒式传播的“挑战视频”导致年幼的孩童嘲笑同学的外表或声音。

与此同时,TikTok强大的推荐算法,可能会促使那些无意中看到令人不适内容的用户去看更多此类内容。戴维森表示:“一旦人们看了一段视频,他们再次看到更多此类内容的可能性极高——这就是算法的工作原理。”

霍尔沃森指责该平台“将利润置于安全之上”。尤其是,她说,举报问题的流程既繁琐又低效,而且不同于其他大型社交媒体平台,TikTok的家长控制工具会自动关闭,需要在一个月后手动重新设置。

“对于TikTok,特别令人担忧的是其缺乏适当的安全功能,”她说,“虽然(有害内容)是整个社交媒体生态系统普遍存在的问题,但TikTok处理这一问题的方式对社会不负责任。”

Eric Han表示,该公司的举报流程与同行是一致的。“我们目前的TikTok版本已经运行一年有余,”他说,“我们正在做其他平台在这个阶段所做的事情。我们完全致力于保护用户安全。”■ 



(注:本文仅代表作者个人观点。责编邮箱    service@or123.top)




  相关文章



TikTok面对保护青少年用户的难题

发布日期:2019-12-30 07:40
摘要:TikTok正在将内容审核工作下放给各个地方的当地团队,此前,它曾被怀疑按照中国政府的指导原则审查用户内容。



汉娜•墨菲 旧金山 , 杨缘 北京报道

OR--商业新媒体 】TikTok(抖音国际版)正加紧在世界各地建立团队,以审核(moderate)其病毒式传播的视频流,因为外界越来越担心TikTok的年轻用户正受到有害内容的毒害,这样的内容也在困扰YouTube和Facebook。

中国公司字节跳动(ByteDance)旗下的这款app仅用3年时间就积累了逾10亿月活用户。TikTok还将把有关哪些视频可接受的所有决策下放给驻美国、欧洲和印度的当地团队,此前,它曾因被怀疑按照中国政府的指导原则审查(censor)内容而受到抨击。

TikTok驻美国的安全主管Eric Han表示,在美国,关于内容的责任已完全下放至本地,而且计划在2020年增加更多的“内容专家”。TikTok在美下载量今年多次冲上下载排行榜榜首。

但该公司严重落后于硅谷各竞争对手,因为它们花了更多时间去设法保护年轻用户免受令人不适的内容和非法内容的影响。

通过与第三方分析师合作,记者发现了TikTok上暴力、仇恨言论、霸凌和性暴露内容的证据,有时这些内容还成为了拥有数百万帖子的热门话题。字节跳动多名员工及前员工表示,政策团队缺乏经验尤其意味着,他们目前并不擅长应对内容审核问题。

社交媒体情报机构Storyful主编达伦•戴维森(Darren Davidson)表示:“它对(年轻人)可能是一个相当危险的地方。整体而言,我们现在看到的正是四、五年前传统平台上出现过的一幕。”

见机行事

在TikTok成立之初,大部分内容审核工作是由母公司字节跳动位于北京的办公室与当地办公室共同承担的。字节跳动估值750亿美元。

但几位知情人士透露,对这些政策——尤其是围绕政治内容——的监管一直无章可循。虽然该公司已禁止政治广告,但最近的媒体报道突显出外界对审查的担忧——TikTok否认对内容进行审查。

其他政策——例如一项隐藏残障人士或同性恋用户所发视频的决定,该公司辩称此举旨在预防霸凌——引发了公众的强烈反对。

多位与字节跳动北京办公室关系密切的人士表示,缺乏经验的团队造成了偏见、出差错和误判形势的糟糕决定。

一位熟悉该公司的人士透露,该公司的内容政策制定岗招的人通常都是刚从国外留学回来的,或者只有一到两年工作经验的,而他们承担着编辑决策的职责,要决定什么样的内容对于各个政治背景截然不同的国家是合适的。

上述人士称:“我觉得,所有人——包括字节跳动的竞争对手——都是在见机行事。”另一位人士表示,公司内部缺乏沟通和相互隔离——即使在同一个业务部门内——阻碍了公司推行统一方针的努力。

从全球到本地

TikTok现已开始将其内容政策和审核工作从北京团队向当地团队转移,当地团队更容易理解当地特定的文化差异。

作为该计划的一部分,TikTok已在美国设立了单独的、“完全自主的”安全与审核团队,并计划在欧洲采取同样的做法。

常驻洛杉矶的Eric Han表示,TikTok“正在快速、成倍地扩大(其美国安全团队),以确保合适的资源和人员配备到位”。他还表示打算“将这种发展势头延续”至2020年。

他未对TikTok的信用和安全团队的规模发表评论,但表示,他们使用了自动化系统和人工审核员(包括合同工)来监控自己的系统。

今年10月,该公司表示,已聘请高盖茨律师事务所(K&L Gates)——前美国国会议员巴特•戈登(Bart Gordon)和杰夫•德纳姆(Jeff Denham)都为该所效力——对其在美国的内容审核政策进行评估并“提高透明度”,帮助加强该团队。

TikTok的阴暗面

但还是有多名研究人员对英国《金融时报》表示,他们在TikTok上发现了不适宜的内容,这些内容似乎与其政策相悖,活动人士则敦促该平台引入更完善的安全功能。

L1ght是一个检查社交媒体平台上是否有对儿童有害内容的组织。该组织发现了包括针对女性、尤其年轻女性的暴力的动态。这其中就包括“#kidnap(诱拐)”标签——有2800万搜索结果——在这个标签下,男孩会表演对他们的女朋友进行诱拐和攻击。

L1ght首席执行官祖海尔•莱夫科维茨(Zohar Levkovitz)表示:“我们的算法在TikTok上发现了非常令人不安的内容。我们最担心的是,网络上的暴力动态很容易变成现实生活中的暴力事件,给年轻人树立错误的榜样。”

非营利组织美国反性剥削中心(NCOSE)负责宣传和推广的副总裁黑利•霍尔沃森(Haley Halverson)表示,过去18个月,该中心接到了越来越多来自中小学生和忧心忡忡的家长的电话,他们抱怨这款app中存在极度色情化内容,以及有成年人试图在这个平台上引诱未成年人。

霍尔沃森说:“打开TikTok,5至10分钟内,你就会发现他们并未充分执行他们的社群指引。”

一些人认为,TikTok的设计——一个视频平台,用户在上面可以发现陌生人上传的内容,而不仅仅是来自选定的朋友网络的内容——使其可以通过新方式传播施虐内容并且不被发现。

可供监控的关键词更少,使得计算机自动标记内容变得更加困难。Storyful的戴维森表示,还有证据表明,包括白人至上主义者在内的一些不良行为者一直在利用热门话题散播他们的视频内容。

专家们表示,“二重唱”功能——用户可将自己添加到现有视频中去——也可能被用于霸凌或骚扰。例如,一名用户可能会用枪指着原视频中那个人的头。

Storyful的分析显示,还有一些病毒式传播的“挑战视频”导致年幼的孩童嘲笑同学的外表或声音。

与此同时,TikTok强大的推荐算法,可能会促使那些无意中看到令人不适内容的用户去看更多此类内容。戴维森表示:“一旦人们看了一段视频,他们再次看到更多此类内容的可能性极高——这就是算法的工作原理。”

霍尔沃森指责该平台“将利润置于安全之上”。尤其是,她说,举报问题的流程既繁琐又低效,而且不同于其他大型社交媒体平台,TikTok的家长控制工具会自动关闭,需要在一个月后手动重新设置。

“对于TikTok,特别令人担忧的是其缺乏适当的安全功能,”她说,“虽然(有害内容)是整个社交媒体生态系统普遍存在的问题,但TikTok处理这一问题的方式对社会不负责任。”

Eric Han表示,该公司的举报流程与同行是一致的。“我们目前的TikTok版本已经运行一年有余,”他说,“我们正在做其他平台在这个阶段所做的事情。我们完全致力于保护用户安全。”■ 



(注:本文仅代表作者个人观点。责编邮箱    service@or123.top)




  相关文章
摘要:TikTok正在将内容审核工作下放给各个地方的当地团队,此前,它曾被怀疑按照中国政府的指导原则审查用户内容。



汉娜•墨菲 旧金山 , 杨缘 北京报道

OR--商业新媒体 】TikTok(抖音国际版)正加紧在世界各地建立团队,以审核(moderate)其病毒式传播的视频流,因为外界越来越担心TikTok的年轻用户正受到有害内容的毒害,这样的内容也在困扰YouTube和Facebook。

中国公司字节跳动(ByteDance)旗下的这款app仅用3年时间就积累了逾10亿月活用户。TikTok还将把有关哪些视频可接受的所有决策下放给驻美国、欧洲和印度的当地团队,此前,它曾因被怀疑按照中国政府的指导原则审查(censor)内容而受到抨击。

TikTok驻美国的安全主管Eric Han表示,在美国,关于内容的责任已完全下放至本地,而且计划在2020年增加更多的“内容专家”。TikTok在美下载量今年多次冲上下载排行榜榜首。

但该公司严重落后于硅谷各竞争对手,因为它们花了更多时间去设法保护年轻用户免受令人不适的内容和非法内容的影响。

通过与第三方分析师合作,记者发现了TikTok上暴力、仇恨言论、霸凌和性暴露内容的证据,有时这些内容还成为了拥有数百万帖子的热门话题。字节跳动多名员工及前员工表示,政策团队缺乏经验尤其意味着,他们目前并不擅长应对内容审核问题。

社交媒体情报机构Storyful主编达伦•戴维森(Darren Davidson)表示:“它对(年轻人)可能是一个相当危险的地方。整体而言,我们现在看到的正是四、五年前传统平台上出现过的一幕。”

见机行事

在TikTok成立之初,大部分内容审核工作是由母公司字节跳动位于北京的办公室与当地办公室共同承担的。字节跳动估值750亿美元。

但几位知情人士透露,对这些政策——尤其是围绕政治内容——的监管一直无章可循。虽然该公司已禁止政治广告,但最近的媒体报道突显出外界对审查的担忧——TikTok否认对内容进行审查。

其他政策——例如一项隐藏残障人士或同性恋用户所发视频的决定,该公司辩称此举旨在预防霸凌——引发了公众的强烈反对。

多位与字节跳动北京办公室关系密切的人士表示,缺乏经验的团队造成了偏见、出差错和误判形势的糟糕决定。

一位熟悉该公司的人士透露,该公司的内容政策制定岗招的人通常都是刚从国外留学回来的,或者只有一到两年工作经验的,而他们承担着编辑决策的职责,要决定什么样的内容对于各个政治背景截然不同的国家是合适的。

上述人士称:“我觉得,所有人——包括字节跳动的竞争对手——都是在见机行事。”另一位人士表示,公司内部缺乏沟通和相互隔离——即使在同一个业务部门内——阻碍了公司推行统一方针的努力。

从全球到本地

TikTok现已开始将其内容政策和审核工作从北京团队向当地团队转移,当地团队更容易理解当地特定的文化差异。

作为该计划的一部分,TikTok已在美国设立了单独的、“完全自主的”安全与审核团队,并计划在欧洲采取同样的做法。

常驻洛杉矶的Eric Han表示,TikTok“正在快速、成倍地扩大(其美国安全团队),以确保合适的资源和人员配备到位”。他还表示打算“将这种发展势头延续”至2020年。

他未对TikTok的信用和安全团队的规模发表评论,但表示,他们使用了自动化系统和人工审核员(包括合同工)来监控自己的系统。

今年10月,该公司表示,已聘请高盖茨律师事务所(K&L Gates)——前美国国会议员巴特•戈登(Bart Gordon)和杰夫•德纳姆(Jeff Denham)都为该所效力——对其在美国的内容审核政策进行评估并“提高透明度”,帮助加强该团队。

TikTok的阴暗面

但还是有多名研究人员对英国《金融时报》表示,他们在TikTok上发现了不适宜的内容,这些内容似乎与其政策相悖,活动人士则敦促该平台引入更完善的安全功能。

L1ght是一个检查社交媒体平台上是否有对儿童有害内容的组织。该组织发现了包括针对女性、尤其年轻女性的暴力的动态。这其中就包括“#kidnap(诱拐)”标签——有2800万搜索结果——在这个标签下,男孩会表演对他们的女朋友进行诱拐和攻击。

L1ght首席执行官祖海尔•莱夫科维茨(Zohar Levkovitz)表示:“我们的算法在TikTok上发现了非常令人不安的内容。我们最担心的是,网络上的暴力动态很容易变成现实生活中的暴力事件,给年轻人树立错误的榜样。”

非营利组织美国反性剥削中心(NCOSE)负责宣传和推广的副总裁黑利•霍尔沃森(Haley Halverson)表示,过去18个月,该中心接到了越来越多来自中小学生和忧心忡忡的家长的电话,他们抱怨这款app中存在极度色情化内容,以及有成年人试图在这个平台上引诱未成年人。

霍尔沃森说:“打开TikTok,5至10分钟内,你就会发现他们并未充分执行他们的社群指引。”

一些人认为,TikTok的设计——一个视频平台,用户在上面可以发现陌生人上传的内容,而不仅仅是来自选定的朋友网络的内容——使其可以通过新方式传播施虐内容并且不被发现。

可供监控的关键词更少,使得计算机自动标记内容变得更加困难。Storyful的戴维森表示,还有证据表明,包括白人至上主义者在内的一些不良行为者一直在利用热门话题散播他们的视频内容。

专家们表示,“二重唱”功能——用户可将自己添加到现有视频中去——也可能被用于霸凌或骚扰。例如,一名用户可能会用枪指着原视频中那个人的头。

Storyful的分析显示,还有一些病毒式传播的“挑战视频”导致年幼的孩童嘲笑同学的外表或声音。

与此同时,TikTok强大的推荐算法,可能会促使那些无意中看到令人不适内容的用户去看更多此类内容。戴维森表示:“一旦人们看了一段视频,他们再次看到更多此类内容的可能性极高——这就是算法的工作原理。”

霍尔沃森指责该平台“将利润置于安全之上”。尤其是,她说,举报问题的流程既繁琐又低效,而且不同于其他大型社交媒体平台,TikTok的家长控制工具会自动关闭,需要在一个月后手动重新设置。

“对于TikTok,特别令人担忧的是其缺乏适当的安全功能,”她说,“虽然(有害内容)是整个社交媒体生态系统普遍存在的问题,但TikTok处理这一问题的方式对社会不负责任。”

Eric Han表示,该公司的举报流程与同行是一致的。“我们目前的TikTok版本已经运行一年有余,”他说,“我们正在做其他平台在这个阶段所做的事情。我们完全致力于保护用户安全。”■ 



(注:本文仅代表作者个人观点。责编邮箱    service@or123.top)




  相关文章

读者评论


您可能感兴趣的资讯
OR



最新资讯
OR




TikTok面对保护青少年用户的难题

发布日期:2019-12-30 07:40
摘要:TikTok正在将内容审核工作下放给各个地方的当地团队,此前,它曾被怀疑按照中国政府的指导原则审查用户内容。



汉娜•墨菲 旧金山 , 杨缘 北京报道

OR--商业新媒体 】TikTok(抖音国际版)正加紧在世界各地建立团队,以审核(moderate)其病毒式传播的视频流,因为外界越来越担心TikTok的年轻用户正受到有害内容的毒害,这样的内容也在困扰YouTube和Facebook。

中国公司字节跳动(ByteDance)旗下的这款app仅用3年时间就积累了逾10亿月活用户。TikTok还将把有关哪些视频可接受的所有决策下放给驻美国、欧洲和印度的当地团队,此前,它曾因被怀疑按照中国政府的指导原则审查(censor)内容而受到抨击。

TikTok驻美国的安全主管Eric Han表示,在美国,关于内容的责任已完全下放至本地,而且计划在2020年增加更多的“内容专家”。TikTok在美下载量今年多次冲上下载排行榜榜首。

但该公司严重落后于硅谷各竞争对手,因为它们花了更多时间去设法保护年轻用户免受令人不适的内容和非法内容的影响。

通过与第三方分析师合作,记者发现了TikTok上暴力、仇恨言论、霸凌和性暴露内容的证据,有时这些内容还成为了拥有数百万帖子的热门话题。字节跳动多名员工及前员工表示,政策团队缺乏经验尤其意味着,他们目前并不擅长应对内容审核问题。

社交媒体情报机构Storyful主编达伦•戴维森(Darren Davidson)表示:“它对(年轻人)可能是一个相当危险的地方。整体而言,我们现在看到的正是四、五年前传统平台上出现过的一幕。”

见机行事

在TikTok成立之初,大部分内容审核工作是由母公司字节跳动位于北京的办公室与当地办公室共同承担的。字节跳动估值750亿美元。

但几位知情人士透露,对这些政策——尤其是围绕政治内容——的监管一直无章可循。虽然该公司已禁止政治广告,但最近的媒体报道突显出外界对审查的担忧——TikTok否认对内容进行审查。

其他政策——例如一项隐藏残障人士或同性恋用户所发视频的决定,该公司辩称此举旨在预防霸凌——引发了公众的强烈反对。

多位与字节跳动北京办公室关系密切的人士表示,缺乏经验的团队造成了偏见、出差错和误判形势的糟糕决定。

一位熟悉该公司的人士透露,该公司的内容政策制定岗招的人通常都是刚从国外留学回来的,或者只有一到两年工作经验的,而他们承担着编辑决策的职责,要决定什么样的内容对于各个政治背景截然不同的国家是合适的。

上述人士称:“我觉得,所有人——包括字节跳动的竞争对手——都是在见机行事。”另一位人士表示,公司内部缺乏沟通和相互隔离——即使在同一个业务部门内——阻碍了公司推行统一方针的努力。

从全球到本地

TikTok现已开始将其内容政策和审核工作从北京团队向当地团队转移,当地团队更容易理解当地特定的文化差异。

作为该计划的一部分,TikTok已在美国设立了单独的、“完全自主的”安全与审核团队,并计划在欧洲采取同样的做法。

常驻洛杉矶的Eric Han表示,TikTok“正在快速、成倍地扩大(其美国安全团队),以确保合适的资源和人员配备到位”。他还表示打算“将这种发展势头延续”至2020年。

他未对TikTok的信用和安全团队的规模发表评论,但表示,他们使用了自动化系统和人工审核员(包括合同工)来监控自己的系统。

今年10月,该公司表示,已聘请高盖茨律师事务所(K&L Gates)——前美国国会议员巴特•戈登(Bart Gordon)和杰夫•德纳姆(Jeff Denham)都为该所效力——对其在美国的内容审核政策进行评估并“提高透明度”,帮助加强该团队。

TikTok的阴暗面

但还是有多名研究人员对英国《金融时报》表示,他们在TikTok上发现了不适宜的内容,这些内容似乎与其政策相悖,活动人士则敦促该平台引入更完善的安全功能。

L1ght是一个检查社交媒体平台上是否有对儿童有害内容的组织。该组织发现了包括针对女性、尤其年轻女性的暴力的动态。这其中就包括“#kidnap(诱拐)”标签——有2800万搜索结果——在这个标签下,男孩会表演对他们的女朋友进行诱拐和攻击。

L1ght首席执行官祖海尔•莱夫科维茨(Zohar Levkovitz)表示:“我们的算法在TikTok上发现了非常令人不安的内容。我们最担心的是,网络上的暴力动态很容易变成现实生活中的暴力事件,给年轻人树立错误的榜样。”

非营利组织美国反性剥削中心(NCOSE)负责宣传和推广的副总裁黑利•霍尔沃森(Haley Halverson)表示,过去18个月,该中心接到了越来越多来自中小学生和忧心忡忡的家长的电话,他们抱怨这款app中存在极度色情化内容,以及有成年人试图在这个平台上引诱未成年人。

霍尔沃森说:“打开TikTok,5至10分钟内,你就会发现他们并未充分执行他们的社群指引。”

一些人认为,TikTok的设计——一个视频平台,用户在上面可以发现陌生人上传的内容,而不仅仅是来自选定的朋友网络的内容——使其可以通过新方式传播施虐内容并且不被发现。

可供监控的关键词更少,使得计算机自动标记内容变得更加困难。Storyful的戴维森表示,还有证据表明,包括白人至上主义者在内的一些不良行为者一直在利用热门话题散播他们的视频内容。

专家们表示,“二重唱”功能——用户可将自己添加到现有视频中去——也可能被用于霸凌或骚扰。例如,一名用户可能会用枪指着原视频中那个人的头。

Storyful的分析显示,还有一些病毒式传播的“挑战视频”导致年幼的孩童嘲笑同学的外表或声音。

与此同时,TikTok强大的推荐算法,可能会促使那些无意中看到令人不适内容的用户去看更多此类内容。戴维森表示:“一旦人们看了一段视频,他们再次看到更多此类内容的可能性极高——这就是算法的工作原理。”

霍尔沃森指责该平台“将利润置于安全之上”。尤其是,她说,举报问题的流程既繁琐又低效,而且不同于其他大型社交媒体平台,TikTok的家长控制工具会自动关闭,需要在一个月后手动重新设置。

“对于TikTok,特别令人担忧的是其缺乏适当的安全功能,”她说,“虽然(有害内容)是整个社交媒体生态系统普遍存在的问题,但TikTok处理这一问题的方式对社会不负责任。”

Eric Han表示,该公司的举报流程与同行是一致的。“我们目前的TikTok版本已经运行一年有余,”他说,“我们正在做其他平台在这个阶段所做的事情。我们完全致力于保护用户安全。”■ 



(注:本文仅代表作者个人观点。责编邮箱    service@or123.top)




  相关文章
摘要:TikTok正在将内容审核工作下放给各个地方的当地团队,此前,它曾被怀疑按照中国政府的指导原则审查用户内容。



汉娜•墨菲 旧金山 , 杨缘 北京报道

OR--商业新媒体 】TikTok(抖音国际版)正加紧在世界各地建立团队,以审核(moderate)其病毒式传播的视频流,因为外界越来越担心TikTok的年轻用户正受到有害内容的毒害,这样的内容也在困扰YouTube和Facebook。

中国公司字节跳动(ByteDance)旗下的这款app仅用3年时间就积累了逾10亿月活用户。TikTok还将把有关哪些视频可接受的所有决策下放给驻美国、欧洲和印度的当地团队,此前,它曾因被怀疑按照中国政府的指导原则审查(censor)内容而受到抨击。

TikTok驻美国的安全主管Eric Han表示,在美国,关于内容的责任已完全下放至本地,而且计划在2020年增加更多的“内容专家”。TikTok在美下载量今年多次冲上下载排行榜榜首。

但该公司严重落后于硅谷各竞争对手,因为它们花了更多时间去设法保护年轻用户免受令人不适的内容和非法内容的影响。

通过与第三方分析师合作,记者发现了TikTok上暴力、仇恨言论、霸凌和性暴露内容的证据,有时这些内容还成为了拥有数百万帖子的热门话题。字节跳动多名员工及前员工表示,政策团队缺乏经验尤其意味着,他们目前并不擅长应对内容审核问题。

社交媒体情报机构Storyful主编达伦•戴维森(Darren Davidson)表示:“它对(年轻人)可能是一个相当危险的地方。整体而言,我们现在看到的正是四、五年前传统平台上出现过的一幕。”

见机行事

在TikTok成立之初,大部分内容审核工作是由母公司字节跳动位于北京的办公室与当地办公室共同承担的。字节跳动估值750亿美元。

但几位知情人士透露,对这些政策——尤其是围绕政治内容——的监管一直无章可循。虽然该公司已禁止政治广告,但最近的媒体报道突显出外界对审查的担忧——TikTok否认对内容进行审查。

其他政策——例如一项隐藏残障人士或同性恋用户所发视频的决定,该公司辩称此举旨在预防霸凌——引发了公众的强烈反对。

多位与字节跳动北京办公室关系密切的人士表示,缺乏经验的团队造成了偏见、出差错和误判形势的糟糕决定。

一位熟悉该公司的人士透露,该公司的内容政策制定岗招的人通常都是刚从国外留学回来的,或者只有一到两年工作经验的,而他们承担着编辑决策的职责,要决定什么样的内容对于各个政治背景截然不同的国家是合适的。

上述人士称:“我觉得,所有人——包括字节跳动的竞争对手——都是在见机行事。”另一位人士表示,公司内部缺乏沟通和相互隔离——即使在同一个业务部门内——阻碍了公司推行统一方针的努力。

从全球到本地

TikTok现已开始将其内容政策和审核工作从北京团队向当地团队转移,当地团队更容易理解当地特定的文化差异。

作为该计划的一部分,TikTok已在美国设立了单独的、“完全自主的”安全与审核团队,并计划在欧洲采取同样的做法。

常驻洛杉矶的Eric Han表示,TikTok“正在快速、成倍地扩大(其美国安全团队),以确保合适的资源和人员配备到位”。他还表示打算“将这种发展势头延续”至2020年。

他未对TikTok的信用和安全团队的规模发表评论,但表示,他们使用了自动化系统和人工审核员(包括合同工)来监控自己的系统。

今年10月,该公司表示,已聘请高盖茨律师事务所(K&L Gates)——前美国国会议员巴特•戈登(Bart Gordon)和杰夫•德纳姆(Jeff Denham)都为该所效力——对其在美国的内容审核政策进行评估并“提高透明度”,帮助加强该团队。

TikTok的阴暗面

但还是有多名研究人员对英国《金融时报》表示,他们在TikTok上发现了不适宜的内容,这些内容似乎与其政策相悖,活动人士则敦促该平台引入更完善的安全功能。

L1ght是一个检查社交媒体平台上是否有对儿童有害内容的组织。该组织发现了包括针对女性、尤其年轻女性的暴力的动态。这其中就包括“#kidnap(诱拐)”标签——有2800万搜索结果——在这个标签下,男孩会表演对他们的女朋友进行诱拐和攻击。

L1ght首席执行官祖海尔•莱夫科维茨(Zohar Levkovitz)表示:“我们的算法在TikTok上发现了非常令人不安的内容。我们最担心的是,网络上的暴力动态很容易变成现实生活中的暴力事件,给年轻人树立错误的榜样。”

非营利组织美国反性剥削中心(NCOSE)负责宣传和推广的副总裁黑利•霍尔沃森(Haley Halverson)表示,过去18个月,该中心接到了越来越多来自中小学生和忧心忡忡的家长的电话,他们抱怨这款app中存在极度色情化内容,以及有成年人试图在这个平台上引诱未成年人。

霍尔沃森说:“打开TikTok,5至10分钟内,你就会发现他们并未充分执行他们的社群指引。”

一些人认为,TikTok的设计——一个视频平台,用户在上面可以发现陌生人上传的内容,而不仅仅是来自选定的朋友网络的内容——使其可以通过新方式传播施虐内容并且不被发现。

可供监控的关键词更少,使得计算机自动标记内容变得更加困难。Storyful的戴维森表示,还有证据表明,包括白人至上主义者在内的一些不良行为者一直在利用热门话题散播他们的视频内容。

专家们表示,“二重唱”功能——用户可将自己添加到现有视频中去——也可能被用于霸凌或骚扰。例如,一名用户可能会用枪指着原视频中那个人的头。

Storyful的分析显示,还有一些病毒式传播的“挑战视频”导致年幼的孩童嘲笑同学的外表或声音。

与此同时,TikTok强大的推荐算法,可能会促使那些无意中看到令人不适内容的用户去看更多此类内容。戴维森表示:“一旦人们看了一段视频,他们再次看到更多此类内容的可能性极高——这就是算法的工作原理。”

霍尔沃森指责该平台“将利润置于安全之上”。尤其是,她说,举报问题的流程既繁琐又低效,而且不同于其他大型社交媒体平台,TikTok的家长控制工具会自动关闭,需要在一个月后手动重新设置。

“对于TikTok,特别令人担忧的是其缺乏适当的安全功能,”她说,“虽然(有害内容)是整个社交媒体生态系统普遍存在的问题,但TikTok处理这一问题的方式对社会不负责任。”

Eric Han表示,该公司的举报流程与同行是一致的。“我们目前的TikTok版本已经运行一年有余,”他说,“我们正在做其他平台在这个阶段所做的事情。我们完全致力于保护用户安全。”■ 



(注:本文仅代表作者个人观点。责编邮箱    service@or123.top)




  相关文章

读者评论


您可能感兴趣的资讯
OR


最新资讯
OR