富裕層・投資家の「今と先」を伝えるキュレーションサイト

InstagramとTwitter上の悪意のあるコメントを自動的に隠すRespondology

「コメントは読むな」というのは、1つの決まり文句となっている。そう言われ続けるのには、それなりの意味があるからだ。もしかすると、それは最高のアドバイスかもしれない。しかし、Respondologyのチームが、その状況を変えようとしている。

この会社は、ブランドがソーシャルメディア上のメッセージを見つけて、それに応答するのを支援することから始めた。セールス担当副社長のAaron Benor氏は、その仕事に付随して、「オンラインのソーシャルメディア上の不愉快な毒、つまり辛辣な書き込み」に対処するためのツールも開発した、と説明する。

「私たちは、このツールが思っていたよりもはるかに将来有望であることに気付いたのです。そこで、それに注力することにして、広告ビジネスは収束させることにしました」と、Benor氏は述べた。「私がこの新製品について本当に気に入っているのは、長い目で見て、大きく言えば、ネット上のいじめを終わらせることができる、ということです」。

それは大きな目標だし、明らかにRespondologyも、ただちに達成しようとしているわけではない。とりあえず同社は、The Modと呼ばれる製品をリリースした。個々のブランドやインフルエンサーが、InstagramとYouTube上の、悪意のある、荒らしと見なされるような、あるいはスパム的なコメントを取り除くことを可能にする。それにより、そのようなコメントは、ほとんどのフォロワーからは見られなくなる。

Benor氏は、この製品には2つの防衛ラインがあると説明する。まず1つは、自動的なキーワード検出で、それによって特定の単語を含むコメントにフラグを付ける。ユーザーは、どのようなカテゴリをふるい落とすかを選択することができる。たとえば、軽い罵り、辛辣な罵り、性的表現、人種差別的発言、といったものだ。そして、Respondologyのダッシュボードを使って、フラグの付いたコメントを見たり、元に戻したりすることもできる。

Respondologyの設定画面

もう1つは、同社が集めた約1500人のモデレータからなるチームだ。その人たちは、まだフラグの付いていないコメントを実際にすべて読んで、それが適切なものかどうかを判断する。それにより、コメントに明らかに不適切なキーワードが含まれていなくても、人間の判断によって検出することができるのだ。さらに用心深い顧客のために、コメントを非表示にするか、そのまま表示するかについて、複数のモデレータの投票によって決めるオプションも用意されている。

Benor氏は、テスト用のInstagramアカウントを使って、私にシステムのデモを見せてくれた。私は、彼の求めに応じ、荒らしの役を演じて、いくつかのコメントを投稿してみた。毎回、コメントはわずか数秒間表示されただけ。Respondologyシステムがすぐに作動して、コメントは消えてしまった。

下品な言葉を含むコメントには、自動的にフラグが立てられ、隠されたままになったが、その他のコメントはモデレーション用のアプリに表示された。もし承認されれば、再びInstagram上にも表示される。このような動作はすべて、私の側のアカウントからは見えないようになっている。私が書いたコメントは、どれも普通に公開されているように見えるのだ。

もちろん、大手のソーシャルメディアのプラットフォームは、独自のモデレーションツールを稼働させている。それでも、この問題が未解決であるのは確かだ。Benor氏によれば、プラットフォームのモデレーション機能が進化したとしても、問題はないという。「私たちのツールは、独善的なものではありません。ユーザーは完全に選択の自由を持っています。これは、与える側の立場で『これがわれわれから提供するなものだ。これがあなたにとってうまく機能するはずのものだ』、と言うような大それたものではないのです」。

最近The Vergeに掲載された記事で、有毒なコンテンツのモデレーション作業自体が、作業者の精神的、感情的な健康に与える影響が大きいと論じていることをぶつけてみた。しかしBenor氏によれば、Facebookのモデレータは、ほとんどの時間を「最悪の中の最悪のもの」に対処することに費やす必要があるのに対し、Respondologyのチームはほとんどの場合、無害なコメントを承認しているにすぎないというのだ。さらに、彼らはフリーランサーなので、働きたいときにだけ働き、いつでも止めることができるという。

「否定的なフィードバックは耳にしたことがありません」とBenor氏は付け加えた。「私たち自身も、みなモデレータとして仕事をしています。自分で実際にやってみることが、その製品を知り、理解するための優れた方法だからです。その際も、私が自分の目でみたことにショックを受けたことは一度もありません」。

(関連記事:Facebook’s AI couldn’t spot mass murder

Responsologyが設定しているThe Modの料金は、コメントの量に応じたものとなっている。Benor氏によると、その価格は「月に数ドルから、月に数千ドル」の範囲になるそうだ。

同社は最終的には、非商用ユーザーのためのバージョンもリリースしたいと考えている。それを利用すれば、たとえば親が、子供のアカウントに対する悪辣なコメントを自動的に隠す、ということも可能になるはずだ。

画像クレジット:Tero Vesalainen

原文へ

(翻訳:Fumihiko Shibata)