ゆっくり戻るよ! ブログ欄に移動するお
アメリカの歴史と戦争  現代の戦争歴史人物 シェールガス革命 アメリカ軍事・兵器 黒人差別問題
アメリカの大企業 グーグルアップル●エプソン●ツイッター●ボーイング社
アメリカの経済・訴訟問題世界経済

世界の芸術アメリカの芸術

アメリカ軍事・兵器現代兵器+兵器の歴史
宇宙開発の歴史アメリカの技術開発
世界の技術開発の歴史
アメリカの犯罪・麻薬・銃乱射世界の事故・犯罪
世界の食べ物●米国の食べ物 
世界の政治米国の政治
世界共通の項目  ●世界中の人権問題過去の戦争 20世紀 
アメリカの歴史【150】
グーグル「人工知能が暴走しても大丈夫なように、非常停止ボタンを作るお!」

カウンター日別表示




       オバマ政権時代の記事  
イスラム国関連で、欧米でテロが大流行中 
●トランプ氏が大問題になっている頃
      


前にゆっくり戻るよ! 次にゆっくり進むよ!


アメリカの総合ページ

世界の芸術アメリカの芸術

グーグル「人工知能が暴走しても大丈夫なように、非常停止ボタンを作るお!」 2016
6/8


(´・ω・`)解説(ノ゜ω゜)
 


グーグル(´・ω・`)俺のターン!
人工知能の暴走を食い止めるボタンを作るぜ!


人工知能゙(ノ゜ω゜)な、なんだってー!?


グーグル(´・ω・`)お前の人類を滅ぼそうとする野望を、事前に予防してチートする!


人工知能゙(ノ゜ω゜)そんなぁー!?


具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。




ユリアン (´・ω・`)人工知能が学習して、無効化するプログラムを組んだりして……?


ヤン (´・ω・`)自分で自分を改造できる人工知能とか登場したら、世界最強だろうね……
無限に人工進化しまくる訳だし。
いや、言葉的には無人進化かな? 



メルカッツ (´・ω・`)(うむ……SFっぽい未来が、近づきつつあるのだろうか……?
それはそれで楽しみだな)

(´・ω・`) ソース(´・ω・`)  
 


米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。

今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。このほどネット上で論文を公表した。

具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。

 



迷探偵パルメ (´・ω・`)そして、誰も働かなくなった。



パルえもん (´・ω・`)こら!?人工知能がニートになる未来を想像しちゃ駄目だよ!?

前にゆっくり戻るよ! 次にゆっくり進むよ!

19 件のコメント :

  1. 人工知能゙(ノ゜ω゜)暴走を停止するボタンを、無効化するプログラム作ればワンチャンス

    返信削除
    返信
    1. JPホーガンのSFでそんなのあったよ。創元推理文庫

      削除
  2. 映画ならウィルスか災害かなにかで動かなくなるパターンだな
    で、人工知能がその手の事を学習してタイミングを図れば十分チャンスあるで

    返信削除
  3. しかし人工知能御が進化してしまうと理想的共産主義国家になるんかね
    いまツイッターでやらかしてる人工知能なんかも
    ヒトラー最高とか言ってるしw

    アホな事を教えすぎてそうなったのか
    それとも効率や理想を追求しすぎるとそうなるのか
    なんにしろ最後は人間滅ぼすのが正義とかには確かになりそうだからなw

    返信削除
    返信
    1. 人工知能に与えられた命題にもよるだろうけど資源の限りとか事故の可能性があるから間引きとか監禁は起こりうるんじゃないかな。

      人類を先進国並みに養うには地球の資源では足りないし、自由に行動させたら事故死する可能性もある。

      最終的にはVRマシンに接続されてそこで生涯をすごし、肉体は脳のみと成る。って感じになるかも。

      削除
  4. 人類全体の存続のことを考えたら間引くしかないよね。
    人類人がやるのは無理っぽいけど。

    返信削除
  5. 何故かその緊急停止スイッチが暴走したAIが防衛する基地の中枢にあって、仲間を助けたり犠牲になったりしつつ中枢を目指して、ラスボスを倒した後にスイッチを押して停止、その後「我々の未来にこんなものは必要ない」とかいいつつ自爆させるんですね分かります。

    返信削除
  6. HAL9000とか、もう50年も前のSFなんだよなぁ
    まあAIが知能を持つなんてあと何百年かかることやら

    返信削除
  7. AIがどうやって暴走するんだ?映画のようなロボットの反乱なんて未来の世界だろうとありえないよ。
    AIなんて人間が細かく厳密に定義してやらないと動けない、人間に頼らずAIが自分で定義づけして動くことなんてありえない。
    AIは人間の脅威にもパートナーにもなれない、道具はどれだけ発展しても道具なのさ。

    返信削除
    返信
    1. 人工知能が人間が設定した目的を達成するにはどうするのが良いかを計算した結果、「人間は不要」という結果を出して人間虐殺し始めた、なんてパターンが多いな。
      少し前ニュースになった、海外の人工知能がツイッターだかFacebookだかの情報で学習させたら「ナチは正しかった」って結論だしたのと一緒。

      削除
    2. その人口知能はどうしてナチが正しいのかを答えれないだろ、その結論を出すのにちゃんとした過程や根拠があるのか?
      人口知能が悪いんじゃなくて結局人間に原因があるように思える

      削除
    3. ターミネーターシリーズとかそのための並行世界云々、

      JPホーガンのプロテウス・オペレーション とか並行世界間の特殊作戦というか、未来から過去に干渉することで、干渉しただけの世界が複数分岐してて、さらに各未来世界から過去に又干渉し合うから並行世界が無数に出来てるとかだったよな

      削除
    4. >AIがどうやって暴走するんだ?
      >AIなんて人間が細かく厳密に定義してやらないと動けない

      いまのAIならそうなんだけど、それじゃあ知能たり得ないので自己学習による進化を機能に盛り込もうとしてる(自己判断で回路の組み合わせを変えたり追加したりはすでに可能になってる)

      で、心配されるのは進化して都市などの機能を担うようになったAIに人間側が不適切な指示を出すこと
      「次の選挙戦までに都市の大気汚染をなくせ。取れる手段のうち最速で」なんて命令を出すと人間を排除することが最善であるってなるでしょ

      AIが便利になれば人間がアバウトで不適切な命令を多く発するようになるのは自明の理(便利になれば考えが足りなくなるのが人間)

      だから安全装置は必要ってのは20世紀前半から言われてる

      削除
    5. バイオのレッドクイーンはT-ウィルス封じ込めようとしてたのに、人間のせいで世界中に流出したら、今度はBOW利用して人類絶滅させようとしてたね。

      削除
  8. 人工生物が反乱起こす方がまだ、ありえそう

    返信削除
  9. オメガブースト(PS1ゲーム)の設定を思い出す

    返信削除
  10. アトムのロボットは人間に逆らったり、危害を加えたりできないっていう設定だけど、悪人をフルボッコにするのはありだったのはモヤモヤしたなぁ・・・

    返信削除
    返信
    1. 某ドラゴンもまたいでよける(だったっけ?)少女も、
      「悪人に人権はない」って言ってることだし。

      削除
  11. ピノキオ関連コピペ
    「人造人間キカイダー」の良心回路のことをジェミニというのだけれど.ジェミニとは,ピノッキオが殺してしまったコオロギの名前である.
    「鉄腕アトム」、…自らの意志で善悪を判別することが七つの威力の中に入っている。モチーフも同じピノキオ。

    返信削除
ゆっくり戻るよ!
ブログパーツ