コロナウイルスが原因で、多くのハイテクジャイアントがAIに賭けなければならない

本日のディスカッションでは、毎日流行病に取り組んでいるコンテンツモデレーターであるFacebookとGoogleの従業員について説明します。これは、困難なトレードオフと、過去数日間に取られたアクションが将来のビジネスに大きな影響を与えることになるという話です。

歴史に目を向けると、ソーシャルネットワークでのコンテンツの節度は、ヌードとナチスとコミュニティが崩壊するビジネス問題に他なりませんでした。後に、それは法的および規制上の問題になりました。企業には、テロリストのプロパガンダ、児童虐待のイメージャー、およびその他の形式のコンテンツを削除する法的義務がありました。 GoogleやFacebookなどのサービスが成長した後、ユーザーは数十億人になり、コンテンツの調整は大規模な問題になります。明らかな疑問は、違反について報告される1日に何百万もの投稿をどのようにレビューできるかということです。

唯一の解決策は、仕事のコンサルタント会社に外注することだと思います。 2016年、コンテンツモデレーターの不足が明らかになったとき、テクノロジー企業は世界中で何万人ものモデレーターを雇いました。これにより、プライバシーの問題が発生しました。モデレーターは社内で作業する場合、制限を適用し、保存されたデータを制御およびデバイス化してアクセスできます。第三者のために働いている場合、データ漏洩のリスクがあります。

データ漏えいのこの恐怖は、その時に強くなりました。特にFacebookについては、2016年の選挙後の反発がプライバシーの懸念から一部生じました。世界がユーザーのアカウントからデータが収集されることを知った場合、会社への信頼は急落します。これが、FacebookおよびYouTube向けの外部委託コンテンツ管理サイトが安全な部屋として設計された理由です。従業員は、バッジを出し入れする生産フロアで作業します。秘密の写真を撮ったり、データを密輸しようとしたりしないように、個人用デバイスの持ち込みには制限があります。現場では、誰かが電話を生産現場に持ってきたら、彼/彼女はそのために解雇されます。労働者の多くはそのような制限について不満を述べていますが、企業は注目を集めるデータ損失の恐れがあるため、彼らに緩和を望んでいません。

今日まで、パンデミックが恐ろしいスピードで世界中に広まっているとき、モデレーターのように仕事をする必要があります。床で作業を続けると、ほとんどの確率で病気のspread延につながります。問題は、彼らが自宅で仕事をするようにすると、プライバシーの災害を招くことです。これはジレンマを生み出します。

Facebookの代わりにいる場合はどうしますか？月曜日まで、答えはいつものようにビジネスによく似ていました。 Sam Biddleは先週のInterceptでこの話を壊しました：

「インターセプトによってレビューされたFacebookの社内従業員フォーラムからの議論は、多くの不安定雇用労働者がFacebookからの声明に反して、実際の雇用主からの就労を禁止されていると述べている混乱、恐怖、およびresみの状態を明らかにしています技術的な実現可能性とそうすることの公衆衛生上の利点は明らかであるにもかかわらず、

議論は、少なくとも2つのFacebookオフィスを含む、テキサス州オースティンとカリフォルニア州マウンテンビューの施設でアクセンチュアとWiProが雇用するFacebook請負業者に焦点を当てています。 （マウンテンビューでは、コロナウイルスに対する地域の緊急事態が既に宣言されています。）インターセプトでは、少なくとも6人の請負業者からの投稿が自宅で仕事ができないと苦情を申し立て、さらに2人の請負業者に問題について直接連絡しました。アクセンチュアの従業員の1人は、インターセプトに、20人以上の請負業者からなるチーム全員が、感染を避けるために自宅で仕事をすることは許可されていないと言われたと語った。」

Biddleのメモによると、Facebookはすでに従業員が自宅で仕事をすることを奨励していました。それは彼らがオフィスに来てはならないことを契約モデレーターに通知し始めました。 Facebookは、混乱が生じた場合に支払います。発表は次のとおりです。

「当社の正社員と契約社員の両方にとって、安全、プライバシー、法律上の理由により、自宅ではできない仕事があります。特定のオフィスの人数を削減し、世界中の自宅から推奨される作業を実施し、特定のオフィスに人を物理的に広め、追加の清掃を行うことで、労働者を保護する予防策を講じています。急速に進化する公衆衛生の懸念を考慮して、チームを保護するための追加の措置を講じており、今週中にパートナーと協力して、コンテンツのレビューを行うすべての契約労働者を通知まで自宅に送ります。この期間中にすべての労働者に給与が支払われるようにします。」

同様の発表は、日曜日にGoogleから行われました。その後、Facebook、Google、Linkedin、Microsoft、Reddit、Twitter、YouTubeからの共同発表が行われました。それで、モデレーターは家に帰りました。スタッフはどのように管理されますか？ Facebookは、機密性の低いコンテンツに取り組んでいる一部のモデレーターが自宅で仕事をすることを許可しました。より繊細な仕事は正社員にシフトされています。しかし、企業は現在、コンテンツモデレーションを自動化するために、機械学習システムでさらに学習を始めています。

長期的な目標を達成するには、すべてのソーシャルネットワークで人工知能を担当する必要があります。しかし、Googleがこの見方でこれについて語ったように、そのようなことが可能になる日はまだかなり遠いということでした。まだ月曜日に、会社はその曲を変えました。 The VergeのJake kastrenakesのコメントは次のとおりです。

「YouTubeは、コロナウイルスの世界的流行の際にAIに依存してビデオをモデレートします。人間のレビュアーの多くがウイルスの拡散を制限するために帰国しているためです。これは、動画がAIによってポリシーに違反している可能性があるというフラグが付けられているため、動画がサイトから削除される可能性があることを意味しますが、通常、動画は削除する必要があることを確認するために人間のレビュー担当者にルーティングされます。 […]

AIへの依存度が高いため、YouTubeは基本的に、いくつかの間違いが発生することを予想する必要があると述べています。同社のブログ記事には、「ポリシーに違反しない可能性のあるビデオを含む」ビデオがさらに削除される可能性があります。他のコンテンツは、人間がレビューするまで宣伝や検索やおすすめに表示されません。

YouTubeは、AIによって削除されたコンテンツに対して、ストライキを発行することはほとんどなく、禁止につながる可能性があると述べています（動画を除き、「高い信頼性」はポリシーに反しています）。いつものように、作成者は削除された動画に対して引き続きアピールできますが、YouTubeは、人間の節度が低下するため、このプロセスも遅れると警告しています。」

月曜日の夕方、FacebookとTwitterの両方が訴訟に続きました。ロイターのパレッシュデイブは次のとおりです。

「Facebookはまた、以前のテイクダウンに共通する側面のデジタル手がかりを分析することで攻撃的な素材を識別することを学ぶ自動化ツールにもっと頼るという決定には限界があると言いました。

「応答時間が長くなり、結果としてミスが増える可能性があります」と述べています。

Twitterも同様の自動化の使用を強化すると述べたが、精度の懸念のため、自動化された施行のみに基づいてユーザーを禁止することはしないだろう。」

初日の結果はあまり良くありませんでした、TechCrunchのJosh Constine：

「Facebookのニュースフィードスパムフィルターにバグがあるため、Medium、BuzzFeed、USA Todayなどの正当なWebサイトへのURLが投稿やコメントとして共有されないようにブロックされています。問題は、コロナウイルス関連のコンテンツの一部をブロックすることです。一部の無関係なリンクは許可されますが、フィルターを作動させるかどうかは明確ではありません。 Facebookは、アウトブレイクに関連する誤った情報に対抗しようとしてきましたが、熱心になりすぎたり、技術的なエラーを経験した可能性があります。」

Facebookは、これはコンテンツモデレーションの変更によるものではないと述べています。その間、モデレーターの1人が私に言った。彼らはあまりにも遅く動いており、最初にとられた行動は明らかに不十分だったと思います。」