Facebook 上的内容版主正在经历地狱般的折磨，以保持您的提要可口。他们日复一日地筛选谋杀、自杀、露骨内容和其他恐怖的视频。他们有严格的洗手间休息时间，年薪仅为 28,800 美元。他们的治疗当然不能弥补每天的折磨。The Verge 报道称，许多工人在休息和有问题的活动期间转向吸食，以减轻创伤，更不用说潜在的长期心理影响，这是一个令人担忧的问题。
这并不是什么新知识，但 The Verge 的图形曝光再次引起了对 Facebook 和科技巨头的关注，并向他们施加了急需的压力，以评估这场道德危机。从人工智能到彻底改变文化，Facebook 没有简单的解决办法。但要解决这种肆意忽视的情况，需要做出很大的妥协。
改善工作文化
如果报告的持续暴露于极端内容的影响证明了任何事情，那么成为内容版主是一项危险的工作。与任何其他有风险的职业一样，效率不能成为其管理者的第一要务。如果协助攀岩者的飞行员、建造者或保护者只考虑效率，你会看到更多悲剧。这关乎安全、身体和心理。
顽固的效率似乎是 Facebook 的文化。据报道，Facebook 雇佣的审核供应商 Cognizant 每天只允许员工有 9 分钟的“健康”时间。甚至穆斯林工人也被告知，祈祷不是请假的正当理由。
这是一种不人道的方式来管理不断暴露于精神惩罚内容的工人。这些员工需要得到保护和鼓励。
团队合作
员工与 The Verge 分享了他们在这种令人沮丧的环境中激发幽默的方式。他们开黑色幽默，分享他们遇到的模因，并进行善意的玩笑。
这似乎微不足道，但 Facebook 可以通过让版主成对工作来建立更好、更安全的文化。审核现在是一项令人沮丧的孤立任务，工人们粘在屏幕上，每天单独处理 400 多个扭曲的帖子。结对有助于减轻一些心理影响，并鼓励可以创造更好工作环境的交流。这不能关乎效率。
人员轮换
Facebook 必须接受这是他们自己平台缺陷的结果。如果他们作为一个世界领先的机构真正关心道德，他们就不能继续在地毯下扫荡版主，付钱给子公司来清理他们的烂摊子。这种混乱是 Facebook 的一个症状。
虽然人眼过滤这些内容仍然是必要的，但也许这是 Facebook 成员可以承担的负担，分担公司自身错误的负担。它减轻了 15,000 名工人的负担，这些工人的工作只是过滤色情、谋杀和其他形式的令人麻木的暴力。
让更多员工接触此类内容当然是痛苦的，但这是当今社交媒体巨头面临的现实。总得有人来做，分担负担更安全。
人工智能的希望
人工智能是科技行业正在建设的不可避免的未来。对于版主和社交媒体公司来说，这无疑是隧道尽头的曙光，因为技术取代了人类来过滤内容和清理网络领域。
然而，围绕这一概念存在疑问，因为专家们怀疑人工智能是否能够理解人类文化及其细微差别。例如，机器可能很难区分色情内容和用于性教育的视频。如果我们人类努力为色情和艺术划清界限，我们还能对机器提出什么要求。
它看起来没有希望，但如果结合社交媒体上允许的内容的新指南，人工智能或许会有希望。
AI可以标记有害内容
AI 可能无法识别细微差别，但它肯定可以检测和区分四肢，例如枪支暴力或裸体。当技术到达那里时，版主可以利用人工智能的识别能力来标记用户发布的此类内容，并为观众添加警告标签，上面可以写成：“警告：该视频可能包含暴力图像。”
通过让人工智能做到这一点，它也让 Facebook 版主的生活变得更简单，因为内容很容易被人工智能过滤，简化流程并减少他们接触暴力图像的机会。
许可内容创作者
随着法规越来越严格，人工智能标记的内容最初可能会被阻止，直到审查为止。它可能被证明是一种必要的邪恶，有效地将有害内容从我们的提要中剔除。
需要定期发布令人讨厌的图像的公司，如新闻媒体和其他信息渠道，或许可以自行决定是否获得发布成人内容的许可，而无需经历 AI 检查和审查的停滞过程。
它还缓解了 Facebook 的假新闻问题。想要公开消息的普通人，这些带有暴力图像的消息，否则会被人工智能拒绝，可以求助于这些“可信”的新闻媒体，他们有权在 Facebook 上发布任何内容，从而创建一个过滤和控制的逻辑系统。这些策略的混合可能会显着帮助节制。
增加道德障碍
显然，这里分享的想法都与当今社交媒体的运作方式相去甚远。
言论自由是当今社交媒体的核心。这种自由导致了大量重要和信息丰富的内容，但也有症状地产生了造成这些问题的有害材料。
也许是时候在中间见面了。言论自由并不是全世界都珍视的价值。许多社会也在蓬勃发展，对可以发表和立即发表的内容有更严格的规定。
Facebook 为各种政府和国家/地区超过 18 亿的国际用户提供服务——其中只有 2.14 亿是人。
世界已经表明，在网络世界中处理这种无限的自由还不够文明。限制表达可能是帮助节制和促进更安全的互联网的关键。
Facebook 的十字路口
近年来的安全、欺诈、节制和各种危机实际上可能对 Facebook 有利。现在是呼吁变革的好时机。
它需要快速做出决定：它是否是任何个人(无论背景如何)都可以上传和摆脱他们想要的任何东西的平台?或者它是一个重视安全和负责任的内容共享的地方?
现在的情况当然要求在如何前进和建立媒体文化方面发生根本性转变。人工智能正在实现;主持人 - 和儿童 - 正在受苦;人们没有礼貌地发布明智的事情。必须做出妥协，也许首先要从更严格的控制和更大的刚性开始。
是的，这都是一套理想，但没有它们我们又如何?