見てのとおり何の変哲もないタマネギの画像である。
これはThe Seed Companyという種子販売会社がFacebookに掲載しようとした画像なのだが、これを広告に使用しようとしたところ、Facebookから“overtly sexualized（あからさまに性的）”であるとメールを受信したという。
同社マネージャーのジャクソン・マクリーン氏はこの判断をAIの誤認識によるものだろうと推測しており、人間のスタッフに確認して貰えれば許可が下りるはずだと述べている。FacebookはコンテンツをAIが自動的にチェックするシステムを導入している。
AIの誤認識による表現規制の例は、YouTubeから【agadmator's Chess Channel 】のチェス動画が停止された事例がある。黒と白が戦う、というチェスならば当然の状況についての言及が人種差別発言と認識されたものと考えられている。
参考リンク・資料：
「性的すぎる」としてタマネギの写真がFacebookから警告を受けてしまう