最終更新:
hitoshinka 2021年03月09日(火) 14:16:12履歴
アントニオ・ラディッチ氏による、YouTubeのチェス動画チャンネル。
チェス関係では世界でも最大級のチャンネルで、登録者数は2021年3月現在、約105万人。
2020年6月、グランドマスター*1であるヒカル・ナカムラ氏との対談動画が、投稿直後に「有害で危険なコンテンツ」として停止されることになった。。
動画中で語られていたのは実際には純粋なチェスの話であり、「有害で危険」らしき内容は全くなかった。
「agadmator's Chess Channel」は24時間後には復活したが、ラディッチ氏側に停止理由の明確な説明はなかった。
ラディッチ氏自身の推測、およびカーネギー・メロン大学の研究者アシク・クダブクシュ氏らの分析によると、チェスの話に必然的に伴う“black”“white”“attack(攻撃)”“threat(脅威)”などの用語が、AIに人種差別的と判断された可能性が高いとされている。
実際にクダブクシュ氏らがヘイトスピーチ検出用のソフト2種類を使い、チェス関連のYouTubeチャンネルでの発言をチェックする実験を行ったところ、実際は人種差別発言や悪意表現がなかったにもかかわらず、コメントの80%以上がチェックに引っかかったという。
研究者たちは誤認識を避けるため、アルゴリズムにチェス用語を組み込んでおくべきだと提言している。
が、おそらく問題の本質はそこではない。
チェスのたとえば「黒が白を攻撃している」という文章が人種差別発言と認定されるということは、本当に黒人が白人に攻撃を加えているというニュースのときでも、その内容の是非や緊急性等によらず「差別」にされてしまうということだ。
そもそも特定人の権利侵害事件が起こっているものでもないのに「差別的でけしからんから閉鎖」する前に人間の判断をさしはさむ余裕がないほど、閉鎖に緊急の必要があるのだろうか。
AIの誤認識による表現規制の問題については、他にThe Seed Companyという種子販売会社がフェイスブックに投稿した【あからさまに性的なタマネギ】の画像などの事例がある。
参考リンク・資料:
YouTubeのAIがチェスの「白・黒」を人種差別だと誤判定してチャンネルを閉鎖した疑い
YouTubeでの「チェス談義」が、“人種差別”として削除された事件の真相
YouTubeのAIが人種差別と勘違い? 「黒」「白」「攻撃」「脅威」と発言の人気チェスチャンネルが停止される自体に
チェス関係では世界でも最大級のチャンネルで、登録者数は2021年3月現在、約105万人。
2020年6月、グランドマスター*1であるヒカル・ナカムラ氏との対談動画が、投稿直後に「有害で危険なコンテンツ」として停止されることになった。。
動画中で語られていたのは実際には純粋なチェスの話であり、「有害で危険」らしき内容は全くなかった。
「agadmator's Chess Channel」は24時間後には復活したが、ラディッチ氏側に停止理由の明確な説明はなかった。
ラディッチ氏自身の推測、およびカーネギー・メロン大学の研究者アシク・クダブクシュ氏らの分析によると、チェスの話に必然的に伴う“black”“white”“attack(攻撃)”“threat(脅威)”などの用語が、AIに人種差別的と判断された可能性が高いとされている。
実際にクダブクシュ氏らがヘイトスピーチ検出用のソフト2種類を使い、チェス関連のYouTubeチャンネルでの発言をチェックする実験を行ったところ、実際は人種差別発言や悪意表現がなかったにもかかわらず、コメントの80%以上がチェックに引っかかったという。
研究者たちは誤認識を避けるため、アルゴリズムにチェス用語を組み込んでおくべきだと提言している。
が、おそらく問題の本質はそこではない。
チェスのたとえば「黒が白を攻撃している」という文章が人種差別発言と認定されるということは、本当に黒人が白人に攻撃を加えているというニュースのときでも、その内容の是非や緊急性等によらず「差別」にされてしまうということだ。
そもそも特定人の権利侵害事件が起こっているものでもないのに「差別的でけしからんから閉鎖」する前に人間の判断をさしはさむ余裕がないほど、閉鎖に緊急の必要があるのだろうか。
AIの誤認識による表現規制の問題については、他にThe Seed Companyという種子販売会社がフェイスブックに投稿した【あからさまに性的なタマネギ】の画像などの事例がある。
参考リンク・資料:
YouTubeのAIがチェスの「白・黒」を人種差別だと誤判定してチャンネルを閉鎖した疑い
YouTubeでの「チェス談義」が、“人種差別”として削除された事件の真相
YouTubeのAIが人種差別と勘違い? 「黒」「白」「攻撃」「脅威」と発言の人気チェスチャンネルが停止される自体に
コメントをかく