ツイッター社の文脈無視のロック判定がおかしい「『○○人を△せ』根絶へ」と書いたらロック

「反差別情報センター発足」というニュース記事のまとめをツイートした3年前の過去ツイートが、2018年5月18日にロックされていたことがわかりました。

広告

「反差別情報センター発足」というニュースでロックされる(ツイッター)

ロックされたのは以下略ちゃんの知人のアカウントで、次のようなメールが届いたそうです。

こんにちは、●●●●さん
ご利用のアカウント(@●●●●)は、Twitterルールに違反しているためロックされました。
具体的な内容は次のとおりです。
暴言や脅迫、差別的言動を禁止するルールに違反しています。
人種、民族、出身国、性的指向、性別、性同一性、宗教、年齢、障碍、重病を理由にして他人への暴力を助長したり、脅迫または嫌がらせを行ったりすることはできません。

「○○人を○せ」「○○人は出て行け」という文章が引っかかったようで、指定されたツイートを削除してロックは解除されたそうです。

解除はされたのですが、おかしな話です。

これは東京新聞の2015年5月9日夕刊の記事

【社会】ヘイト根絶へ実態調査 反差別の情報センター発足

特定の民族や人種に対する憎悪や差別をあおる「ヘイトスピーチ」を根絶しようと、在日朝鮮人の梁英聖 (リャンヨンソン)さん(32)=写真、東京都荒川区=が「反レイシズム(民族差別)情報センター」をつくり、 十日に都内で初めてのシンポジウムを開く。ヘイトスピーチには処罰する法律がなく「差別の実態の調査 や発表を行い、法規制へと動かしたい」と話す。  (鷲野史彦)

(以下略)

の中にある文章の一節をそのままタイトルにした、まとめ記事です。

実際に東京新聞が「○○人を△せ」と、そのように記事で書いています。

「○○人を△せ」は、東京新聞が書いている内容をそのままタイトルにしただけで、主題はそれらを根絶するための「反差別の情報センター」ができるというタイトルなのに、なぜ「他人への暴力を助長したり、脅迫または嫌がらせを行う」ツイートという解釈になるのでしょうか?

ツイッター社は、通報があれば、言葉だけで文脈は判断せずに(できずに)、機械的にロックをおこなっているのではないか? という疑惑が浮上してきました。

AIで判断しているとしたら、同じようなプログラムを他社の動画サイトなどでも使用しているのではないか? ということも考えられます。

 

「おなかすいた」もNG?

ニコニコ動画では、NGコメントが設定されていて、それに該当すると書き込んだコメントが表示されません。

「カス」がNGワードで、「さきイカとかスルメ」「アメリカすごい」「おなかすいた」 などと書いてもNGになってしまうというようなことが2012年頃にはありました。(現在は不明)

ほんとうの言葉狩りですね。

そういえば「生産性」という単語で大騒ぎしている騒動もありますね。

どんどんAI化が進むと、だんだんと文脈を深く理解できなくなる機械や人間が増えてくるのかもしれません。



広告