炎上や誹謗中傷を防ぐアーキテクチャーは可能か？

概要

SNSの炎上は誹謗中傷があると、すぐ法制化しろとか刑事罰をかせという話になる。しかし、一方で炎上をネットから切り離すことで、ようはボヤに抑えることが出来ないかという検討はあまりされない。 このエントリーでは、そのやり方をいくつか考察する。

まとめ

  • 炎上は観客がいて成り立つ。SNSの拡散から切り離すことで、大火を小さな火に出来るのではないか？
  • 誹謗中傷は、相手が読んでレスポンスを返すことで成立する。メッセージを届けない、もしくは、メッセージが届くまでの時間を長くすることで、やる気をそげるのではないか？

最初に考えること

SNSでは、あるメッセージが、「即時」に「全てのフォロワー」に届く。また、フォロワー外の人にも、即時に拡散する。これは、情報技術の発展によって生まれた利便性だが、それがプログラムで書かれている以上、「即時」に「全フォロワー」に届けたり、即時にフォロー外の人に届けなければならないという物理法則のような自然のルールではない。

あるランダムなフォロワーには、メッセージが遅延して届く。全フォロワーではなく、フォロワーに何割かにランダムに届くといった実装も可能なはずだ。このエントリーの趣旨は、その様に実装（アーキテクチャー）を制御することで、大炎上をボヤに、大量の誹謗中傷を少量に、といったダメージコントロールをシステムで実現できないかと考えるアプローチである。 何でもかんでも法律で規制するよりは、副作用は少ないのではないかと考える。

炎上と隔離

この件に関して示唆を与えてくれたツイートは以下のツイートだ。

https://shibacow.hatenablog.com/entry/2020/05/26/033848

redditの全コミュニティーのうち、わずか1%(赤い点)のコミュニティーが74%の争いのキッカケを作ってる。このパターンをLSTMで深層学習して争いを予測するモデルを作ったので、モデレーターに対して注意喚起する空襲警報のようなシステムを作れるかもって。おもしろーい

ネット上の炎上は「周囲の視線」が燃料なので言い争っている人たちを隔離すると瞬時に鎮火する。1980年代には、そういう機能が実装された掲示板というのがあって研究論文もあるのに、人類はいまだに炎上とうまく付き合えていない。みんな先行研究を無視しすぎだと、StackOverflowのJoelが言ってた

この文で、西村氏は、言い争っている人たちを隔離すると瞬時に鎮火する。 と書いていて、ここは実感に合う。つまり、言い争いが起きたときに、双方のツイートを拡散しなければ良い。拡散することを抑えることが表現の自由に抵触するなら、拡散のスピードを押さえれば良い。つまり、互いのヒートアップ度に応じて、そのツイートのインプレッション数が減っていき、多くの人に目に触れるまでに時間がかかる状態を作れば良い。

f:id:shibacow:20200526031453p:plain
盛り上がれば盛り上がるほど、メッセージの拡散に時間がかかる

炎上はリアルタイムに多く人が知ることによって、大きな火になるので、全員に配信するのではなく、N%の人に配信、または、メッセージに配信にわざと遅延を起こさせ、全フォロアーが知るまで、24時間程度かかるみたいにすれば、大火を小さな火に出来るのではないか？

誹謗中傷と一人相撲

ある動画コメント配信サービスでは、誹謗中傷を書き込むと、書き込んだ本人にはそのメッセージが配信されるが、生放送を見ている人たちには届かないというシステムが有るという噂を聞いたことがある。誹謗中傷する人は、コメントを自由に書き込めるが、他の視聴者にコメントを配信する箇所でブロックされるための、他の視聴者には届かないメッセージを贈り続けることになる。

中傷は、被害者にも届くし、被害者のフォロワーにも届く、そのため、上で書いているように、中傷は、「（被害者に対する）周囲の視線」の変化を狙ってやる事が多い。そのため、ある被害者に向けられた中傷を、他のフォロワーには届けないというやり方が考えられる。

まとめ

上記で考えることは、とかく法規制に頼るのではなく、メッセージの拡散スピードや拡散人数をアーキテクチャーでコントロールすることで、被害を最小化出来ないかという思考実験だ。その際に、現在のSNSで実施されている、「即座」に「全てのフォロワー」にメッセージを拡散するという前提を捨てて、他のSNSのありようがないかということを考えて見る必要がある。

最後に

私は、ニフィティサーブなど古い掲示板からネットを使っている人間だが、常々感じるのは、私達は炎上や中傷を見るのが大好きだという点にある。炎上を防ぐ実装は考えられうが結局の所炎上があるSNSの方がPVが得られ私達人類はどうも炎上が好きらしいということが、最も厄介なところだ。 上のツイートで紹介されているように「1980年代には、そういう機能（炎上を防ぐ機能）が実装された掲示板というのがあって研究論文もある」にもかかわらずそれがスタンダードになっていないということは、私達が、炎上を見たり、中傷を見たりすることが好きだという薄暗い欲望が最大の原因であろう。

例えば、炎上するメッセージの拡散が遅延する twitter2.0が出来たとして私達はそのサービスを使うだろうか？