由于冠状病毒，许多科技巨头现在不得不冒险押注AI
今天的讨论将围绕Facebook和Google的工作人员-每天在进行大流行的内容主持人。这是一个关于艰难的权衡以及过去几天采取的行动的故事，这将对未来的业务产生重大影响。
当我们回顾它的历史时，社交网络上的内容审核无非是一个裸体的商业问题，纳粹和社区崩溃了。后来，这成为一个法律和法规问题。这些公司有删除恐怖宣传，虐待儿童图像和其他形式内容的法律义务。随着Google和Facebook等服务的增长，用户数量达到数十亿，内容审核成为一个大问题。一个明显的问题出现了，一个人如何每天可以审查数百万条针对违规报告的帖子。
我认为唯一的解决方案是将职业咨询公司外包。 2016年，当内容主持人的人数减少时，科技公司在全球雇用了成千上万的主持人。这就产生了一个隐私问题-主持人在家工作时，他们可以施加限制，并控制和设备以及访问存储的数据。如果他们为任何第三方工作，则存在数据泄漏的风险。
那个时候，人们对数据泄漏的恐惧越来越强烈。尤其是对于Facebook，2016年大选后的强烈反对部分是由于对隐私的担忧-如果全世界了解到数据是从用户帐户中收集来的，对公司的信任将急剧下降。这就是为什么将Facebook和YouTube的外包内容审核站点设计为安全室的原因。员工在需要进出的生产车间工作。他们禁止携带任何个人设备，以免拍摄一些秘密照片或试图走私数据。场景是，如果有人将电话带到生产车间，他/她会因此而被解雇。许多工人抱怨这样的限制，但是由于担心高调的数据丢失，公司不愿意放松。
快进到今天，当大流行病以惊人的速度在世界范围内传播时，我们仍然需要像主持人一样工作，如果不是这样的话，使用率显然会激增。如果您继续让他们在地板上工作，则很有可能助长了疾病的传播。问题是，如果让他们在家中工作，则会引起隐私灾难。这造成了一个难题。
如果您代替Facebook，该怎么办？直到星期一，答案看起来和往常一样。萨姆·比德尔（Sam Biddle）上周在《拦截》中打破了这个故事：
“由The Intercept审查的Facebook内部员工论坛上的讨论显示出一种混乱，恐惧和怨恨的状态，许多不稳定的按小时雇用的合同工表示，与Facebook的声明相反，他们被其实际雇主禁止从事家庭，尽管这样做具有技术可行性，并且这样做显然具有公共卫生益处。
讨论的重点是埃森哲和WiPro在德克萨斯州奥斯汀和加利福尼亚山景城的工厂雇用的Facebook承包商，包括至少两个Facebook办公室。 （在山景城，已经宣布了关于冠状病毒的地方紧急状态。）截获中，至少有6位承包商抱怨无法在家工作，并直接与另外2位承包商就此事进行了沟通。埃森哲的一名员工告诉《拦截报》，他们的整个团队由20多名承包商组成，他们被告知不允许他们在家工作以避免感染。”
据比德尔（Biddle）所说，Facebook已经在鼓励员工在家工作。它开始通知合同主持人他们不应该来办公室。如果出现故障，Facebook将支付费用。这是公告：
“对于我们的全职员工和合同工来说，由于安全，隐私和法律原因，有些工作无法在家完成。我们采取了预防措施，通过减少任何给定办公室的人数，在全球范围内在家中执行建议的工作，在任何给定办公室将人分散在任何地方并进行额外的清洁工作来保护我们的工人。鉴于快速变化的公共卫生问题，我们将采取更多措施来保护我们的团队，并将在本周与合作伙伴合作，将所有执行内容审核的合同工遣返国内，直至另行通知。我们将确保在此期间为所有工人付款。”
谷歌周日也发布了类似的公告。然后是Facebook，Google，Linkedin，Microsoft，Reddit，Twitter和YouTube的联合公告。因此，主持人现在已经寄回了家。这些内容如何审核？ Facebook允许一些处理不太敏感内容的主持人在家中工作。更加敏感的工作正在转移给全职员工。但是，两家公司现在开始在机器学习系统上学习更多，以使内容审核自动化。
为了长期目标，每个社交网络都必须负责人工智能。但是，正如Google在这种观点上所讲的那样，有可能发生这种事情的日子还很遥远。但在周一，该公司改变了声调。这是The Verge的Jake kastrenakes说的话：
“在冠状病毒大流行期间，YouTube将更多地依靠AI来监控视频，因为许多人类审阅者已被遣送回国，以限制病毒的传播。这意味着视频可能纯粹是由于AI标记为可能违反政策而将其从网站上删除的，而这些视频通常可能会被路由给人工审核人员，以确认应删除它们。 […]
由于对AI的依赖越来越大，YouTube基本上说我们必须期待会犯一些错误。该公司在博客文章中写道，更多视频可能最终被删除，“包括一些可能不违反政策的视频”。在人类审核之前，其他内容不会在搜索和推荐中得到推广或显示。
YouTube表示，对于AI删除的内容，它基本上不会发出警告（可能会导致禁令）（除了视频，它对自己的政策具有“高度信心”）。与往常一样，创作者仍然可以对被删除的视频提出上诉，但YouTube警告说，由于减少了人工审核，该过程也将被延迟。”
周一晚上，Facebook和Twitter都紧随其后。这是路透社的Paresh Dave：
“ Facebook还表示，更多依赖自动工具的决定是有局限性的。自动工具可以通过分析数字线索来了解进攻前的共同点，从而识别令人反感的材料。
它说：“我们可能会看到更长的响应时间，并因此导致更多的错误。”
Twitter表示，它也会加强对类似自动化工具的使用，但出于准确性方面的考虑，不会禁止仅基于自动化实施的用户。”
第一天的结果并不理想，这是TechCrunch中的Josh Constine：
“ Facebook似乎在其新闻提要垃圾邮件过滤器中存在一个错误，导致阻止了包括Medium，BuzzFeed和USA Today在内的合法网站的URL作为帖子或评论共享。这个问题阻止了一些与冠状病毒相关的内容的共享，同时允许一些不相关的链接通过，尽管尚不清楚究竟是什么导致过滤器跳闸。 Facebook一直在努力反击与爆发有关的错误信息，但可能变得过分狂热或遇到了技术错误。”
Facebook说这不是因为内容审核的改变。同时，一位主持人告诉我：“我们确实在与那些被曝光的人一起工作”。我认为他们为时已晚，最初采取的行动显然是不够的。”
