23/03/21 18:43:41.32 uDQK24FH0.net
AIって普通に運営すると差別的になっちゃうんじゃないの？
2016年には、マイクロソフトのAIボットTayが公開後まもなく人種差別的な暴言を
吐くようになってしまったためサービスを停止しました。
2018年には、アマゾンが開発を進めていたAI活用の人材採用システムに性別の
中立性が働かない＝「男女差別」につながることがわかり、運用をとりやめることになりました。
2019年には、ゴールドマン・サックス社がアップルカードの利用者の信用スコアを
算出する際、女性に不当に低いスコアが付けられ、クレジットカード限度額に
差が生じていることが問題となり、大きな非難を受けました。
2020年には、英国の資格・試験統制機関が取り入れたアルゴリズムによる
成績予測評価が労働者階級やマイノリティーに属する生徒に不利な評価を
下すことが判明し、抗議デモに発展しました。