21/02/21 11:50:55.28 .net
【AI ・ 政治】 【極右思想の恐れも？】
●「AIを心配すべきは『未来』ではなく『現在』 《ディープマインド研究者、AIの「脅威」を語る》」 （「MIT Technology Review：2020.11.12」）
<出典> URLﾘﾝｸ(www.technologyreview.jp)
「グーグルのAI子会社ディープマインドで倫理問題に取り組む科学者は、そんな未来を心配するよりも『現実の課題を直視すべきだ』という。」
－
「研究者がAIの暴走を恐れていないわけではない。
研究者には、AIの暴走がすでに起こっていると分かっている。
ただ、問題は『その起こり方が、ほとんどの人が考えているものとは異なる』ことだ。」
「AIは現在、『求職者をスクリーニングし、病気を診断し、犯罪容疑者を特定する』までになっている。
こうした意思決定は効率性や公正さを高めるようにしなければいけないが、『実際にはそうはなっておらず』、逆に『AIを訓練した人間のバイアスがAIによって永続化させられる』、ということがしばしば起こっている。」
－
（Ｑ．）
「超知性を備えたAIについて心配した方がいいのでしょうか？」
（Ａ．）
「質問をずらしたいと思います。
『予測警備』や『リスク評価』といった短期的なものであれ、スケールアップした高度なシステムといった長期的なものであれ、脅威には重複する部分があります。
これらの問題には、『歴史に基づいたもの』も多くあります。」
「警告したい分野は3つあります。
おそらく最も差し迫っている問題は、『価値観の整合性』についてです。
母集団のさまざまなかたちの『嗜好』や『価値観』を理解し、それを実現するためのシステムが、実際にはどのように設計されているのかという問題です。
ここ数年、『政策立案者』や産業界などによって、技術的なシステムに『価値観を組み込もうという試み』が大規模に実施されています。
・・・これらのシステムには、『社会を反映したバイアスが何らかの形で表れている』ことは明白です。」
＝（以下、略）＝