18/12/01 23:09:45.92 pKy81yx+.net BE:138871639-2BP(0)
URLﾘﾝｸ(img.5ch.net)
>45 yamaguti 181027 1607 AJ0Ulonr? \ \
＞> >18 名前：YAMAGUTIseisei E-mail：sage昨日より放●性金属臭微々喉降雨後 投稿日：2018/09/11(火) 08:24:54.83 ID:GkbIB6hZ
＞＞ 技術的特異点(シンギュラリティ)の危険性
＞＞ ｽﾚﾘﾝｸ(future板)
＞＞
＞＞ >7 YAMAGUTIseisei 180318 1951 mdY6euhb
＞＞ :
＞＞> >914 窪村光太朗 170726 0831 PRRM+903
＞＞> :
＞＞＞、手遅れになる前に。
＞＞> URLﾘﾝｸ(blogos.com) > 著：Christopher Markou（ケンブリッジ大学 PhD Candidate,
＞＞>
＞＞> > 人工知能はこれまでにない種類の猛獣だ。我々はこれまでのような管理を行うことはできない。
＞＞＞ry 後で、躍起 ry もはや通用しな ry 事前のことを考慮する必要
＞＞
＞＞
＞＞ 対策前提 + 暴走バグ前提
＞＞ ｽﾚﾘﾝｸ(future板:29番)# TaisakuZentei + BousouBaguZentei
＞＞ 弱い AI 危険
＞＞ ｽﾚﾘﾝｸ(future板:985-992番)# YowaiAI Kiken ## KoutuuJiko
＞＞ 滅亡
＞＞ ｽﾚﾘﾝｸ(future板:27番)# Metubou
＞＞ 保険
＞＞ ｽﾚﾘﾝｸ(future板:993番)#1504872499/60#1508569617/2# Hoken
＞＞ 弱い AI ルート
＞＞ ｽﾚﾘﾝｸ(future板:140番)# YowaiAI Ruuto
＞＞ ロジックシミュ
＞＞ ｽﾚﾘﾝｸ(future板:692番)# RojikkuSimyu
＞＞ 自動到達
＞＞ ｽﾚﾘﾝｸ(future板:541番)#544#1489922543/136# JidouToutatu
＞＞ リハ期限 2018
＞＞ ｽﾚﾘﾝｸ(future板:384番)#993##358# RihaKigen 2018 Teisei
14:オーバーテクナナシー
18/12/07 14:39:22.69 +ppJdjCQ.net
スーパーインテリジェンスの種類
Speed superintelligence
クロックスピードが早いコンピューター。
人間は200hzのクロックスピードに対して、
一般のコンピューターは2Ghz以上と7桁も違う。
電気生理学における脳の伝達の速さは1秒で100mくらいだが、光ファイバーは1秒に300万キロと光速と等しい。つまり10msの遅延を最低限なものにとどめるには生物的脳は0.1立方メートル、コンピューターは10の17乗平方メートル(小惑星程度)になる。
Collective superintelligence
メガアースと呼ばれる現在の100万倍の人口で構成された巨大なグローバル社会。アインシュタインレベルの巨匠が現在の数人から70万人程度いることが考えられる。現代社会のように個人の結び付きは弱い、もしくは、薬や遺伝子操作でより強固な集団社会を形成している。
Qualitative superintelligence
人間と猿の脳はニューロンの配線が殆ど変わらないが、このような人間の脳は猿にしては質的にスーパーインテリジェンスとなる。これと同じ考えで人間よりも質的に上の知能を言う。
ホモサピエンス全史のホモデウスや、強いAIを質的に改善したものが考えられる。
15:オーバーテクナナシー
18/12/07 14:50:26.99 +ppJdjCQ.net
人間レベルの知能からスーパーインテリジェンスまでの進行フェーズ
この進行はS字カーブのようになることが想定される。『Superintelligence』 参考
Human-level intelligence
人間レベルの知能。
ここまでの道のりは緩やかな進歩。
レイ・カーツワイル氏のいうAGI(2029)に相当する。
Crossover
知能の質を自己改善できるようになる。
急激な進歩。
カーツワイル氏の予想にあわせると2030年代後半から40年代前半か？
Civilization
人類の総人口を合わせたものと同じレベルの知能。
さらに急激な進歩。
レイ・カーツワイル氏のいうシンギュラリティ(2045年)に相当する。
Superintelligence
それを更に越えた存在。
ここから再度進歩が緩やかになる。
16:オーバーテクナナシー
18/12/07 15:06:15.65 +ppJdjCQ.net
>>14
訂正
1秒に30万キロと光速
17:オーバーテクナナシー
18/12/12 15:33:41.37 Tlx0TZXR.net
スーパーインテリジェンスを加速させるエージェントの種類
・Singleton
世界を一つの権力が指揮する状態のこと。
国際機関、宇宙人による支配などその想定は様々。
・国際協力
宇宙ステーション、マンハッタンプロジェクト、ゲノムプロジェクトなどのようなプロジェクト。
・政府
・アカデミー機関
・企業
・ベースメントハッカー
ハッカー個人同士が協力する形態。
シナリオ別のTake offの速さ
➡crossoverフェーズにからsuperintelligenceまでの過程。つまり、AI自信が自己改良ループに入り、知性の爆発が起こる地点。
・遺伝子改良などの生物学的なアプローチである場合。
➡中期～長期 比較的安全
・ブレーンエミュレーションのシナリオで、スーパーコンピュータを駆使する場合。(ムーアの法則の限界、スケーリングの難しさ)
➡中期～長期 比較的安全
・AIによるアプローチ
➡短期～中期 危険
長期・・・期間は1世紀程度。政府の計画的な対処、世論の議論による介入、開発当事者(企業など)の安全対策が十分に行える。また、複数のプロジェクトの同時take offが想定される。
中期・・・期間は数年程度。政府の予め準備されたセーフティーネットの実行やプロジェクトに携わるエンジニアが予め用意していた安全装置を起動させるなどの対処が可能。一つ、または、複数のプロジェクトのtake offが想定される。
短期・・・数分～数日程度。自動化された、もしくは、簡単に作動できる安全装置の起動は可能。一つのプロジェクトのtake offは可能。
18:YAMAGUTIseisei
18/12/29 17:24:13.73 H3CnzmfF.net BE:138871639-2BP(0)
URLﾘﾝｸ(img.5ch.net)
>>13 >対策前提 + 暴走バグ前提 >弱い AI 危険
>80 ｰ 181229 0914 Bii4jAej
>AI兵器開発、米中が火花 静まりかえった北米攻撃CG
>URLﾘﾝｸ(www.asahi.com)
>「米軍は軍事行動に人の判断を介在させなければならないとの立場が明確だが、中国軍はスピードこそが優位の決め手で、実利を重んじる考え方をとっているようだ」
>、無数のドローンによる攻撃で高層ビルが立ち並ぶ都市が火に包まれた―。発表会場に集まった軍や企業、大学関係者ら約300人は静まりかえったという。
19:オーバーテクナナシー
19/03/30 08:12:47.62 4EW2g1JK.net
世界の危機の波はいつ個人に来るか。
20:人類の未来
19/04/03 16:42:13.13 DXYt3h+ju
年々滅んでいくよゆっくりと
21:オーバーテクナナシー
19/04/21 02:16:05.81 aGfVhjdj.net
興味
22:YAMAGUTIseisei
19/08/11 21:21:02.55 CmypyStm.net
>85 yamaguti 190607 1143 4Z3mBigD
> >729 ｰ 190603 0459 Eo2L0jh5
>>自動運 逆走
>>_URLﾘﾝｸ(www.yomiuri.co.jp)
>>
>>パニック 血 同方式全国に
>>_URLﾘﾝｸ(headlines.yahoo.co.jp)
>>
>>原因わから 」 逆走
>>_URLﾘﾝｸ(www.excite.co.jp)
>
> >693 ｰ 190602 1444 stGcDiTz
>>自動運 システムが暴走 逆
>>_URLﾘﾝｸ(www.asahi.com)
>
> >367 ｰ 190528 2100 bppm79T9
> :
>>整備の不備によっては無数 問題
> :
>86 名前：yamaguti E-mail：90年頃名古屋桜通線今池近辺で車両停電停車非常灯sage 投稿日：2019/06/07(金) 11:44:33.18 ID:4Z3mBigD
:
23:YAMAGUTIseisei
19/08/11 21:23:33.73 CmypyStm.net
>38 yamaguti 190803 1737 Xl6OoRO0
:
> >930 ｰ 190802 1901 minEqU7z
>> 米国防総省、「JEDI」クラウドプロジェクトの契約を保留--国防長官が調査
>>_URLﾘﾝｸ(japan.zdnet.com)
>>
>> ＞われわれの軍が （AI） 最高の能力 、 最も強力な軍であり続ける 固い決意
>
>
>>39 yamaguti 190514 1325 2vGaUUWM
>>ｰ が現実に！？ 「AI
>> _URLﾘﾝｸ(dot.asahi.com)
>>>、佐藤氏 指摘
>>>
>>>「 ロボ 勝手に戦争 最も警戒 、実は軍人 。これは各国共通 。
>>>開戦に踏み切 、 政治判断 。しかし政治判断が及ばず、戦闘のコントロールが利かな 、それこそ核戦争
>>>、機械が戦争を選択すると、予期しない形で人類が滅びる
>>>
>>> 実際、コンピューターの判断によって核戦争の危機 事件 。1983年9 ソ連 早期警戒システムが、米 弾道ミサイル 誤 探知 アラーム 鳴り響
>> :
>>>「人間の合理的判断があったから回避 、機械にすべて委ね 本当に核戦争 」（佐藤氏
>>>
>>>（本誌・亀井洋志
>>>
>>>週刊朝日 18年11月30 より
24:YAMAGUTIseisei
19/08/11 21:28:18.27 CmypyStm.net
>40 yamaguti 190803 1738 Xl6OoRO0 \ \ \>24 名前：yamaguti E-mail：SIRIsageVIV 投稿日：2019/04/04(木) 18:49:54.72 ID:CS6nD8sb
>>>> _ｽﾚﾘﾝｸ(future板:985-992番)# YowaiAI Kiken ## KoutuuJiko
>>>> _URLﾘﾝｸ(google.jp)
>>>> _URLﾘﾝｸ(google.jp)
>>>>
>>>>
>>>> AI兵器は「核兵器コントロールより難しい」と警告、キッシンジャー元米国務長官 |
>>>> _URLﾘﾝｸ(zaikei.co.jp)
>>>>
>>>> ｰセキュリティにAI 期待と不安 | 土屋大洋 |
>>>> _URLﾘﾝｸ(newsweekjapan.jp)
>>> :
>>> _URLﾘﾝｸ(google.jp)
>>> :
>>>>AIに人格を持たせないととんでもないことになる 例
>>>> _URLﾘﾝｸ(www.orangeitems.com)
>>>>>連絡先にメッセージ 機能 誤動作 夫婦の会話が夫の部下に転送 悲劇
>> :
>>>>>夫婦のプライバシｰ 部下に送ったらいけない
>>>>>と 判断 能力がなかった
>>>> :
>>>>>学習済みだが教育済みではないAI
>>>> :
>> :
>>> >660 ｰ 180617 0000 MBjI7UVk
>>> :
>>>>『人類がAIを●御 に必要な 』 オックスフォード大 ”人類の未来研究所”所長 \>_URLﾘﾝｸ(businessinsider.jp)
>>> :
25:YAMAGUTIseisei
19/08/11 21:28:42.27 CmypyStm.net
> 41 yamaguti 190803 1739 Xl6OoRO0 \ \>37 yamaguti 190419 0240 CVBD0yuO
>>>】カメラやセンサーを騙すことで の を混乱 攻撃 研究
>>>ｽﾚﾘﾝｸ(newsplus板)
>>>
>>> >200 ｰ 190405 2300 yG1P7bHU
>>>>ステッカーで対向車線に誘導、 の自動運 脆
>>> :
>>>
>>> 人工知能(AI)と安全 ナブテスコ(株) 佐藤氏
>>> URLﾘﾝｸ(google.jp) PDF 注意
>>>
>>>
>>>キラーロボ 規制 第2回勉強会
>>> _URLﾘﾝｸ(m.huffingtonpost.jp)
>>>>脳科学者の茂木健一郎氏は「AIの研究開発は密室でできる 、禁止条約が充分に機能するのか」と 疑問を投げかけ
>>>
>>> 人工知能はなぜ なのか？（笑）
>>> _URLﾘﾝｸ(m.youtube.com) YowaiAI Kiken MogiSensei
>>>
>>> >29 yamaguti 190224 2049 WFxvUogS?
>>> :
>>>> >513 ｰ 181116 1129 UzSBSCcJ
>>>>>人工知能 年問題
>>>>>_URLﾘﾝｸ(m.youtube.com) &t=680# MogiSensei
26:YAMAGUTIseisei
19/08/11 21:31:39.80 CmypyStm.net
>44 yamaguti 190803 1740 Xl6OoRO0 \ \ \ \>15 名前：YAMAGUTIseisei E-mail：sage19日鼻血傾向微妙 投稿日：2019/03/27(水) 08:28:44.62 ID:qWdbt0oO?2BP(0) \ \ \ \>67 yamaguti 190123 1600 mAoFHgII?
:
|| 56 yamaguti 190501 1923 q5mPIwuH
||>791 ｰ 190429 1026 0Ft/5ES/
||>英政府機関 被害の多 パスワードを発表。1位は「123456」、「naruto」や「pokemon」も
||>p://blog.livedoor.jp/itsoku/##
||
||>707 ｰ 190427 1616 e4G+JXmO
|| :
||>Microsoft「パスワードの定期的変更は無駄
|| :
|||】サイバー攻撃が発見 までの時間、日本が17時間と12カ国中で最も遅
||| _URLﾘﾝｸ(blog.livedoor.jp)
|| :
27:YAMAGUTIseisei
19/08/11 21:32:05.24 CmypyStm.net
> 43 yamaguti 190803 1740 Xl6OoRO0 \>50 yamaguti 190712 0748 BvhXtK7w
>> URLﾘﾝｸ(mobile.twitter.com)
>> >236 ｰ 190706 1653 uPmFcx+d
>> :
>>>ペイ社長「2段階認証…？
>>> _URLﾘﾝｸ(blog.livedoor.jp)
>> :
>>
>> >974 ｰ 190704 1722 grz/JZBa
>>>A はユーザー音声の「写し」を無期限に保持し続ける、音声データを削除しても意味なし
>>>_URLﾘﾝｸ(gigazine.net) zon-alexa-data/
>>
>> >649 ｰ 190709 2132 91ma1/of
> :
>>>F b ダウン 写真 タグ 見える状態
>>>_URLﾘﾝｸ(www.itmedia.co.jp)
> :
>> >683 ｰ 190710 0138 2q1Ia0MB
>> :
>>>_URLﾘﾝｸ(www.nhk.or.jp)
>>>人に擦り付け 簡単になる
(deleted an unsolicited ad)
28:YAMAGUTIseisei
19/08/11 21:33:51.43 CmypyStm.net
>42 yamaguti 190803 1740 Xl6OoRO0 \> 41 yamaguti 190607 1005 4Z3mBigD \> 38 yamaguti 190514 1325 2vGaUUWM \ \>36 yamaguti 190419 0240 CVBD0yuO
>>>>> >963 ｰ 190418 0917 fMExGrMA
>>>>>>点滅灯を観察するだけで情報を盗
>>>>>>
>>>>>>チップの脆弱性はソフト では塞げない、グーグル研究チーム
>>>>>>_URLﾘﾝｸ(www.technologyreview.jp)
>>>> :
>>>>> _ｽﾚﾘﾝｸ(future板:991番)# FuroppiiMyuujikku
>>>>>
>>>>>
>>>>> >630 ｰ 190413 0144 X38nWftg
>>>> :
>>>>>>音声記録 従業員が聞い
>>>>>> _URLﾘﾝｸ(blog.livedoor.jp)
>>>> :
>>>>>
>>>>> >432 ｰ 190408 0946 m8vaql4Y
>>>>>>ネットが止まって電車が止 らし
>>>>> :
>>>>
>>> >425 ｰ 190507 1557 vYR3btcW
>>>>天銀行 エラーで何もできず
>>> :
>>>>生体認証 不正ログイン、偽造した指紋など 事例後を絶たず
>>>>p://blog.livedoor.jp/itsoku/##
29:YAMAGUTIseisei
19/08/11 21:34:15.83 CmypyStm.net
>38 yamaguti 190803 1737 Xl6OoRO0
> >687 ｰ 190731 1049 5tbtziEt
>>S の録音が定期的に契約企業に送られて分析されていた
>>_URLﾘﾝｸ(jp.techcrunch.com)
:
>42 yamaguti 190607 1006 4Z3mBigD
>>589 ｰ 190601 0348 Z6tDEqDE
>>ア 、呼びかける前から会話を全録音して分析でき
>>_URLﾘﾝｸ(gizmodo.jp)
>
> >792 ｰ 190604 0014 huEi5J5V
> :
>>「freeml」 終 。 サークル活動 ツールだった
:
>>DuckDuckGo「 は個人情報を収集して検索結果を歪め
>> _URLﾘﾝｸ(blog.livedoor.jp)
> :
>
> >194 ｰ 190515 1541 58/ygaP5
:
>> サンフランシスコ市、顔認証技術の使用を禁止へ
>>_URLﾘﾝｸ(bbc.com)
>>
>> サウジ石油施設にドローン攻撃 イスラム武装組織か
:
30:YAMAGUTIseisei
19/08/11 21:34:36.26 CmypyStm.net
>590 ｰ 190810 0457 asRdD/I+
>1分で GAFAのブロックチェ 取り組
>p://www.coindeskjapan.##
>
>「顔識別情報の無断利 F b を訴え 構わない」 判決
>_URLﾘﾝｸ(gigazine.net)
>570 ｰ 190425 2109 /cws9giq
:
>東急電鉄・横浜銀行・ゆうちょ銀行、駅の券売機で現金が引き出せる日本初のサービス
> p://blog.livedoor.jp/itsoku/##
:
>1120億円の賠償 求めAppleを提訴。顔認証 誤認逮捕と主張
> _URLﾘﾝｸ(blog.livedoor.jp)
:
31:YAMAGUTIseisei
19/08/11 21:35:13.68 CmypyStm.net
>43 yamaguti 190607 1007 4Z3mBigD
>東京新聞:「顔認証」捜査 AIも失敗 :
> _URLﾘﾝｸ(www.tokyo-np.co.jp)
> 顔認識ソフトウェ 誤認逮捕 10億ドルの損害賠
> _URLﾘﾝｸ(wirelesswire.jp)
>
>
> >247 ｰ 190516 0945 +0Ji0uy+
>> AI規制を求め新法案、米国議会の「本気度」
:
>> スパイウェアをこっそりインストール、ワッツアップに脆弱性
> :
>
>
> URLﾘﾝｸ(google.jp)
>
> _ｽﾚﾘﾝｸ(future板:39番)#-40# YowaiAI Kiken
> _URLﾘﾝｸ(google.jp)
> _URLﾘﾝｸ(google.jp)
> _ｽﾚﾘﾝｸ(future板:384番)#993##358###1493891216/50#1504999631/73## RihaKigen 2018 Teisei
>719 ｰ 190811 0918 muCFEZzQ
>ロシアのハッ がプリンターから企業に侵入、MSが警
:
>「空飛ぶク 」のリーダ 目指す日本、NECが初飛
:
>「凍 煙」で火星を地球化 移住の道開く 案
:
32:YAMAGUTIseisei
19/08/11 21:35:31.13 CmypyStm.net
>44 yamaguti 190803 1740 Xl6OoRO0 \ \ \ \>15 名前：YAMAGUTIseisei E-mail：sage19日鼻血傾向微妙 投稿日：2019/03/27(水) 08:28:44.62 ID:qWdbt0oO?2BP(0) \ \ \ \>67 yamaguti 190123 1600 mAoFHgII?
||||| :
|7| 702 ｰ 190119 2115 Ydowf+vW
|7| システムがスタンドアローンの手動運転より、コネクテッドカーのほうが遥かにセキュリティリスクが高い
||||||||
||||||||
|7>36 yamaguti 190123 1449 mAoFHgII?
|7| _ｽﾚﾘﾝｸ(future板:985-992番)# YowaiAI Kiken ## KoutuuJiko
|||||||
||||||| リンク先
|||||||>679 yamaguti~貸 170918 1048 PLHxyKzg?
||||||| :
|||||||| _URLﾘﾝｸ(google.jp)
|||||||| _ｽﾚﾘﾝｸ(future板:669番)#670# AT
|||||||>URLﾘﾝｸ(google.jp)
:
|7| _URLﾘﾝｸ(mobile.twitter.com) PazuruNinsyou
|7| _URLﾘﾝｸ(mobile.twitter.com) PazuruNinsyou
||||||||
|||||||>ｽﾚﾘﾝｸ(future板:105番)# _URLﾘﾝｸ(google.jp)
|||||||>ｽﾚﾘﾝｸ(future板:114番)
|||||||>_ｽﾚﾘﾝｸ(future板:689番)# Jidousya Kurakkingu
||||||| _URLﾘﾝｸ(google.jp)
|| :
:
(deleted an unsolicited ad)