【10分快3破解】社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员

  • 时间:
  • 浏览:2
  • 来源:彩神快三官方-彩神app官方

图片来源图虫:已授站长之家使用

看过有有一个 陌生人的死亡视频后10分快3破解,惊惧再次席卷了Chloe。

尽管她假使 接受了三周半的训练,试图在有有哪些日复一日出先 的仇恨言论、恐怖袭击、色情图像相关的推文转过身,为当事人筑起足够坚固的防御体系。这样人安慰她,假使 这是她的工作日常,也是凤凰城站点为Facebook审10分快3破解核内容的 4000 名审核员的日常。对于世界各地的 40000 名内容审核员来说,这也统统工作中再平常不过的一天。

内容审核员们隐身于社交平台日后,把当事人活成了抵挡违规信息、却同被负10分快3破解面信息所侵蚀的一道盾牌。多的是人诟病社交平台依然趋于稳定的负面言论给当事人带来的伤害,却很少许多人考虑这道在负面信息下首当其冲的盾牌的生存请况。

The Verge近期推出了有关Facebook内容审核员的专题报道,文章作者采访了代理Facebook内容审核服务的科技公司Cognizant的员工,揭露了亲们的心理创伤、管理制度以及审核标准等有哪些的问題。本期全媒派(ID:quanmeipai)将编译这篇文章,与读者共同了解这群为机器打工的“隐形人”的故事。

生存背景速写

隐形、压力与不确定性

文章所采访的Cognizant的前任或现任员工,觉得 都和公司签订了保密协议,承诺不去谈论亲们负责的内容审核工作。这既是为了保护亲们免受对内容审核不满的用户的人身侵害,也处里亲们泄露Facebook用户的隐私。

但这同样原因分析分析 ,亲们的工作请况非要为人所知,哪怕是身边的亲人亲们,都无法分担亲们在工作中所遭遇的孤独、焦虑等心理负担。以及,公司Cognizant和Facebook也会免于为审核员提供的工作待遇有无合理等争议。假使 ,文章中所出先 的相关员工皆为化名,除了Cognizant的副总裁Bob Duncan和Facebook全球商务媒体合作伙伴运营总监Mark Davidson。 

不平等的薪资待遇

相比Facebook正式员工平均 24 万美元的年薪,这里的内容审核员一年非要拿到 284000 美元的薪水。

2017 年,扎克伯格回应扩大Facebook的“社区运营”团队,新增 44000 名内容审核员,到 2018 年底,Facebook已有 3 万多名员工从事安全方面的工作,其中约一半是内容审核员。审核员中所含全职员工,但Facebook更多依赖外包合同工来完成审核工作——亲们遍及全球各个地域与各个时区,假使 关键在于,用人成本极低。尽管扎克伯格原先 警告投资者,安全投资会降低Facebook的盈利能力,但最近有有一个 季度其利润仍然同比增长61%.

微观管理压力

不平等的不仅是薪资,还有不为外界所知的工作环境与工作氛围。

你你这俩 天,内容审核员Miguel在早上 7 点来上班,他是即将填满你你这俩 工作地点的 400 名员工之一,部门趋于稳定了凤凰城办公园区的两层空间。Miguel首先经过了由安全人员严格把守的入口,这是为了警惕心怀不满的前任雇员和Facebook用户的报复性行为。再接着,他朝储物柜走去。员工储物柜数量匮乏,统统结速有一点人把东西插进柜子里过夜,以确保第四天还能有储物柜可用。储物柜所在是一根绳子 狭窄的走廊,休息时间,走廊里会挤满员工。

Miguel和当事人一样,把手机也插进了储物柜中,这是为了保护Facebook用户的隐私。如下图所示,除了手机,有记录用户信息风险的书写工具和纸张也被禁止携带,甚至包括口香糖包装纸。洗手液类似的小型物品,需要插进透明塑料食品袋里,以便管理者查验。

公司禁止携带的物品

为了适应每天 4 班的轮班制,以及内部人员较高的员工流动率,大多数人不想被安排在Cognizant所说的“生产区(the production floor)”的固定办公桌上。Miguel找到了有有一个 开放使用的工作站,登陆名为“单一评审工具(Single Review Tool,简称SRT)”的软件,点击“内容审阅”按钮,结速了他一天的工作。

随机性高但容错率低的审核标准

Miguel在审核内容时,需要恪守一套以“准确度(accuracy)”命名的衡量标准,你你这俩 标准由Facebook员工与外包人员审核结果的一致性所决定。

具体来说,Miguel需要对每条内容完成有有一个 测试:有无违反社区规则,以及违反规则的原因分析分析 ,假使 这条内容觉得 违反规则应当删除,但Miguel确定了错误的原因分析分析 ,这也会影响他的准确度评分。在Miguel每周所做出的约 4000 条内容的审核决定中,Facebook会随机确定400~ 400 条进行二次审核,首先交由被称为QA(质量保证)的内部人员员工审核,再由Facebook正式员工审核QA的10分快3破解决策所形成的数据集,生成准确度得分。

Miguel对你你这俩 标准十分不以为然,“准确度通过一致性来判断,怎么给你和二次审核人员都赞同贩卖毒品,这样‘你你这俩 内容不属于违规内容’的审核决定也会是正确的。准确度不过是有有一个 谎言。”

不仅这样,审核员达到准确度指标的困难还在于,亲们要综合考虑各种给定的衡量标准。内容审核标准由 4 个方面构成:

首先是Facebook的公共社区规则,这包括两次要,公开发布的规则与篇幅更长的内部人员指南;

其次是对有有哪些文件中已知有哪些的问題的额外评论和指导,长度为1. 5 万字;

第三是审核员之间互相讨论得到的共识,尤其是在枪击案等突发事件之中,但有全是出先 错误共识,管理人员就需要四处来回解释正确的决定。

内容衡量标准的 4 个主要来源

第3个方面处里起来最简化,来自Facebook的内部人员信息发布工具。觉得 官方政策调整每两周的周三回应一次,但对于进展中突发事件的补充性规则却时刻接踵而至,有有哪些标准汇总于Facebook企业版软件Workplace之中,和Facebook一样,会呈现出根据热度由算法进行10分快3破解排序的信息流,管理人员发布的规定常常相互矛盾,且不按时序出先 ,而假使 审核员看过了过时的信息,就会出先 准确度失误。“有日后,感觉像是Facebook当事人开发了产品跟亲们作对”。

即便在原先 简化且随机的审核标准下,亲们的审核误差也被限制在很小的范围之内,就像是玩一场高风险高难度的游戏,起始分数为 400 分,怎么给你失误到 95 分,就会面临离职的风险。不过,Miguel有权利向判定他为错误的QA提起投诉,让QA同意他的决定。在你你这俩 请况下,QA也成了压力的承担者。一位叫Randy的QA就老会 被审核员威胁,要他改变审核决定,Randy不得已结速带枪上班——他老会 到辞职都这样扣动扳机,但他的焦虑却挥之不去。

夹缝中的休息与排遣

到了Miguel的休息时间,他点击浏览器插件打卡,以便公司记录当事人准备拖累办公桌。Facebook总监Davidson表示,这是行业惯例,公司需要追踪当事人的员工在哪里。

Miguel一共有有有一个 为时 15 分钟的短休息,和 400 分钟的午餐时间。在休息室,他常常发现洗手间排起长队,数百名员工共用有有一个 小便池和有有一个 男厕隔间,以及有有一个 女厕隔间。公司允许员工使用另一层的洗手间,但Miguel不你可不还都可以 来回花费几分钟,当他上完厕所,随着人群挤到储物柜前时,还有五分钟的时间看一会儿手机,再回到办公桌前。

Miguel和其它员工一样,每天有 9 分钟的“健康时间”,管理层设置用意在于,当员工感到精神受到创伤时,可不还都可以 利用这段时间拖累办公桌休息。一点审核员会趁这段时间排队人少去洗手间——而管理层禁止了你你这俩 做法,认为这是对“健康时间”政策的误解。

“觉得用‘健康时间’去厕所”

员工被提倡的做法是,有时间要通过拨打咨询师的电话来应对工作压力,假使 确定瑜伽等一点放松活动。但对于审核员来说,有有哪些资源并匮乏够,亲们用工作期间的性行为、毒品和侮辱性质的笑话来缓解压力。前审核员Sara说,亲们不允许和亲友谈论当事人的工作,这使同事之间更加亲近,但全是商务媒体合作带来的正向感情的说说的说说,统统共同发泄的创伤性牵绊。

审核员Li说,“我甚至这样告诉你,我和几块人共同抽过大麻(文章补充:医用大麻在当地合法),帮我到你你这俩 ,是真的觉得 难过。亲们嗑到嗨,假使 回去工作。试想一下,全世界最大的社交平台,审核员上班时间一边做有有哪些事情,一边需要接着审核内容……”

无处安放的心理创伤

于是,Randy在上班时随身佩枪,Li默默容忍同事为了发泄对他讲的种族歧视笑话,Chloe在观看过一段谋杀视频日后崩溃,哪怕离职日后都无法摆脱类似情境触发的创伤症状……凝视深渊这样来越多,亲们觉得 当事人也将被深渊吞噬。

“亲们所做的事,

让灵魂变得黑暗”

在上文提到的为了缓解创伤症状而出先 的歧视性笑话、毒品滥用和创伤性感情的说说的说说联系之外,亲们还结速渐渐接受一点极端观点,陷入阴谋论与怀疑主义之中,而有有哪些观点恰恰是亲们要审核的内容。

比如,一位QA老会 和同事讨论他认为“地球是平的”,假使 竭力说服当事人也相信你你这俩 观点。假使 离职的Randy也认为,这份工作改变了他的世界观。在看过这样多声称9/ 11 觉得恐怖袭击的视频日后,他结速相信了。去年的公园枪击案趋于稳定后,审核员最初对袭击非常震惊,但随着更多的阴谋论内容被发布到Facebook与Instagram上,一点同事的态度结速动摇。审核员们结速在上班时间疯狂搜索相关阴谋论内容,而删改忘记了当事人的审核立场。

“做这份工作逃不过PTSD”

几位审核员说,亲们经历了继发性创伤压力(secondarytraumatic stress)的症状,感到焦虑、失眠、孤独和分裂感,这是本身由观察他人的创伤经历而原因分析分析 的心理障碍,症状与创伤后应激障碍(PTSD)相同,原先 常见于医生、心理咨询师与社会工作者。

继发性创伤压力的症状:焦虑、失眠、孤独、精神分裂

Chloe在离职后的几块月出先 了创伤症状。电影中的刺伤场景引发了她对于审核时期暴力视频的回忆;有一次她睡在沙发上,老会 听到开枪的声音,原先 是家人在观看暴力视频节目,她当即无法忍受,几近抓狂。Randy在离职日后,对刀产生了本身火山岩石石的恐惧,他原先 喜欢烹饪,但现在回到厨房厨房卫生间看过刀,对他来说则难以忍受。他在接受采访时说,“从事这项工作后,不患上本身急性应激障碍或是PTSD是不假使 的。”

“当你不再害怕时,

给你做有哪些”

一点管理者让笔者看过了另外亲们所采取的处里办法。报道前一周,总监Davidson提到,Facebook结速对一次要审核员进行测试,以衡量亲们所需要的“弹性(resiliency)”指标,即从创伤内容中恢复过来继续工作的能力。亲们说,公司希望尽快将测试拓展到全球所有的审核员。

而在笔者被邀请实地访问的日后,Cognizant的办公园区里贴上了新的激励海报。办公区域比记者的想象要丰富得多,墙上用彩灯装饰的图表描绘了月度活动,看起来有种夏令营和老人活动中心的混搭风:瑜伽、宠物疗法、冥想,还有“周三请穿粉红色”的活动。记者去的当天是“随机善行周”的末尾,你你这俩 周,员工被鼓励在彩色卡片上写下鼓舞说说语,并用一块糖果把亲们贴在墙上。

在和管理者坐在共同的群体采访中,一点现任员工们都承认这项工作的挑战性,但表示亲们感觉到安全、被支持,假使 认为这项工作要能带来更好的薪酬与假使 ——假使 无法进入Facebook,在Cognizant内部人员也好。政策经理Brad告诉笔者,他和同事们审查的大次要内容为良性,并提醒笔者觉得夸大其所带来的心理健康风险。公司内部人员的心理咨询师则表示,亲们每天都和每个员工联系,亲们认为现场咨询、热线电话和员工援助计划的结合足以保障审核员的健康请况。

笔者参观结速,拖累的日后发现公司内部人员审核员几乎都为 20 多岁假使 400 岁左右,当他经过,所有内容审核工作全是暂停,确保他不想看过任何Facebook用户的隐私信息,统统这时,审核员全是和同事亲切地聊天。笔者看过墙上贴着有有哪些激励的海报,其所含高一个 口号是“广泛的同理心”,还有有一个 则是Facebook首席运营官Sheryl Sandberg的名言,“当你不再害怕时,给你做有哪些?”

这样,考虑两方面的声音,Facebook你你这俩 模式有无合理?记者在参观时遇到的每有有一个 人都对员工表示了深切的关心,在你你这俩 系统中,亲们似乎假使 尽己所能地为员工付出。Facebook自豪的是,它给所有代理公司的薪酬,都超出了最低工资的20%,假使 提供全面的医疗保障福利,还有明显优于呼叫中心行业(call center industry)的心理健康资源。

觉得 你你这俩 外包审核模式也为Twitter、Google、YouTube等大型科技公司所应用,除了节省成本,还可不还都可以 越来比较慢扩展到不同语言环境的新市场。但有哪些的问題在于,你你这俩 模式将内容审核中较为特殊的言论和安全等关键有哪些的问題,都交给了审核员当事人来负担,好像亲们仅仅是在商场处里顾客打来的服务电话一样。

假使 ,Facebook觉得你可不还都可以 让外界知道是“人”在负责这项工作,Facebook宁愿谈论它在人工智能方面的进展,统统你可不还都可以 冒险承认其对人工审核员的依赖要能逐日减少。——考虑技术限制,和人类语言无限的简化性,你你这俩 天也非常遥远。

与此共同,有有哪些内容审核员是拥有数十亿用户的平台的第一反应者,亲们承担的是现代社会中一项非常关键的职能,但薪酬却非要一点一线工作者的一半。审核员们尽假使 长时间地从事这项工作,当亲们离职时,保密协议会确保亲们退回到阴影之下更加遥远的地方。

对于有有哪些审核员来说,亲们似乎从来这样在Facebook工作过——严格来说,也觉得 是原先 的。