ヘイトスピーチをチェックするGoogleの中の人の気苦労やいかばかり

Google Japan Blog

42 Users

46 Pockets

より安全なインターネットのために

https://japan.googleblog.com/2019/09/Meet-the-teams-keeping-our-corner-of-the-internet-safer.html

私は、昨年 Google の一員となり、現在、Trust & Safety チームを統括しています。聞き慣れない部署名ですが、Gmail から Google マップまでの様々な製品において、ユーザー保護や安全性の向上を目指しています。 私たちのプラットフォーム上で、表現の自由...

グーグルは、インターネットに蔓延、そして日々作られるヘイトスピーチを自動的に検知する。

それは、AIの仕事なので、コンピューターに任せればいい。

しかし、上のグーグル謹製ブログによると、AIで見つかったものを、ヘイトスピーチか否かは、人力でやっているらしいです。

スラングだったり、揶揄だったり、反語だったり、色々あるので、当然と言えば当然だけど、グーグルでヘイトスピーチの専門家認定されると、日々、大量のヘイトスピーチ候補の言葉を浴びるわけですね。

その精神的な負担たるや、いくら高給でも、大変だし、いやになっちゃうのではと想像しました。

神ならぬものが

don’t be evil

かの審判を下すのは、巨神兵の歩む道なのです。

グーグルの裏方を応援してます。