「Q. 最も興味深いと思う未解明の謎をひとつ挙げるならなに？」「A. 女性」──「車椅子の物理学者」として知られる天才科学者スティーブン・ホーキング博士による初のＡＭＡ！
元スレ：
(2015/07/27)
(2015/10/08)
元スレ：
(2015/07/27)
(2015/10/08)
(OP)
今年のはじめに私はあるオープンレターに署名した。危険を伴うAI（人工知能）の利益のバランスをとるよう研究者たちに嘆願するものだ。このレターはAIがいつか病気や貧困を撲滅することを認めているが、革新の中心に人的要因をキープする責任をテクノロジーの最前線にある科学者たちに負わせてもいる。
現在私はNokiaの運動に参加している。君たちにもこの対話（http://www.wired.com/maketechhuman）に参加してもらえることを願っているよ。
私の財団法人についてはここで学んでほしい：http://stephenhawkingfoundation.org/
今回のＡＭＡでは自分のペースで回答するために、redditの/r/Scienceの管理人と協力してあらかじめ君たちの質問を集めることにした。
書き込まれた質問には、数週間後にできる限りたくさん回答しようとしている。
君たちの理解と私に質問する時間を取ってくれたことに感謝しているよ。
（訳注：長い質問は抄訳しました）
Q. １９９５年に僕はケンブリッジのレンタルビデオ屋にいたんだ。テレビでは『ウェインズ・ワールド２』を流していて、僕と兄弟はベンチに座ってそれを見ていた。そのとき君の看護師が君の車椅子を押してやって来て、僕らは５分ぐらい一緒に映画を見ていた。それを見ていたうちの父親は、その映画を借りるべきだと主張したんだ。君にふさわしい映画なら僕らにも良いに違いないからって。ひょっとして、『ウェインズ・ワールド２』を見たこと覚えてない？
A. NO。
└・俺はこの「NO」が全部大文字で書かれてる事実をすごく気に入ったね。ホーキングが「NO」を強調するためにボタンを押して事前に命令したんだと思いたい。
Q. 創造された者が創造者よりも高い知性を得るのは不可能だと考える人もいるかもしれません。あなたはこの意見に同意しますか？もしYESなら、人類（彼らの創造者？）への脅威となりうる人工知能についてどう考えますか？
A. 先祖よりも高い知性を獲得することは明らかに可能だ。人類は類人猿のような祖先よりも賢く進化したし、アインシュタインは彼の両親よりも賢かった。
Q. AIが人間の知性を超えることが可能なら、あなたはその「もう超えた」というラインをどこに設定する？
A. そのラインはAIがAIデザインにおいて人間を超えたときだ。そうなればAIは再帰的に人の手を借りずに自分自身を改良できる。
もしそれが起これば、私たちは人工知能の激増に直面する。それが人間がカタツムリを凌ぐ以上に私たちを凌ぐ知性を持った機械による究極的な結果だよ。
Q. 僕が生徒にAIや機械学習、知能ロボット工学について教えるときはいつも、僕が「ターミネーター対話」と呼んでるものに帰結してしまうんです。僕が言いたいのは、AIの危険性はメディアや無理解な報道によって誇張されているということです。あなた（とイーロン・マスク）の観点はよくメディアによって「邪悪なAI」の意見として提示されます。でももちろんそれはあなたのオープンレターに書かれていたことではありません。あなたはご自身の意見を私の生徒たちにどう提示しますか？素人たちのターミネーター型「邪悪なAI」を軽視する癖を考えが甘いと思いますか？AIに関心を持つ生徒たちにどんなモラルを教えるべきだと思いますか？
A. 君は正しい。メディアはしばしば実際に言われたことを歪めて伝える。
AIに伴う真の危険は悪意ではなく能力だ。極めて高度な知性を持ったAIはそれのもつ目標をたやすく達成するだろう。そしてもしその目標が人間のものと相容れなかったならば、私たちは窮地に陥る。
君はおそらく悪意を以てアリを踏み潰す邪悪なアリ嫌いではないだろう。だがもし君が水力発電プロジェクトの責任者で、水を流し入れるべき場所にアリ塚があったとしたら。アリたちにはとても残念なことだ。
そのアリたちの立場に人類を置かないようにしよう。どうか君の生徒たちには、AIの作り方のみを考えるのではなく、それを有益に利用する方法を考えるよう勧めてほしい。
Q. 最近AIと認知科学の学位を取り終えた学生です。AIを学んでいて、今私たちが扱わなければならない、機械が人間の個々の特徴や行動をどんなに素早く学ぶか、同様に驚くべきスピードで人間を見分けることができるかに関する倫理的問題を目の当たりにしました。とは言え、「意識」の見解や、現実の知的システムが人間の存在に対する脅威をもたらしうるという考えはとても異質に思えます。知的マシンの脅威について私たちに警告することを意図したあなたのメッセージの中では、現在の発展と躍進（機械学習のような分野での）について話しているのですか？それとも先々に必ず起こる出来事に早期に準備すべきだと言おうとしているのですか？
A. 後者。
AI研究者の間で、人間並み、あるいは人間を超えたAIが作られるのにどれだけの時間がかかるかというコンセンサスは得られていない。だからどうか、それが確実に君が生きている間に起こるとか、あるいは君が生きている間には起こらないと分かっていると主張する人のことは信用しないでほしい。
最終的にそれが起きたとき、それは人類にとって最高か最悪かのどちらかの事態になるだろう。だからそれを正しく理解することにはとても大きな価値がある。私たちはAIのゴールを命令を受けない純然たる人工知能の創造から有益な知能の創造へとシフトするべきだ。
その方法が分かるまで何十年とかかるかもしれない。だから今日この日からその研究を始めよう。最初の強大なAIのスイッチが入れられる前の晩ではなくて。
Q. 最も興味深いと思う未解明の謎をひとつ挙げるならなに？それを選んだ理由は？
A. 女性だね。
私の秘書は私に思い出させてくれるよ。私が物理学の博士号を持っているとはいえ、女性については謎のままにしておくべきだということを。
Q. 私は生物学者です。AIが人類と同じ資源を巡って競争したり、人類（やその他）の生活と両立しあわない形で地球を変えたりするだろうというあなたのAIへの危惧は、AIが生物学的新種のように行動するだろうという前提に端を発しています。しかし生物学的種がそのように競争するのは、彼らが繁殖のため何十億年もの淘汰に耐えてきたからなのです。本質的に、生物学的有機体は可能な限り「奪う」よう最適化されています。それが基本的に彼らの「目的」なのです。しかし私はこれがAIにも必然的に正しいとは思いません。AIが繁殖に「関心を持つ」と憶測する理由はありません。彼らがなにに「関心を持つ」のかは私にはわかりません。私はあなたがAIがなにに「関心を持つ」と思っているのかに関心を持っています。なぜそれが善意ある神のようなものを創る恩恵を上回り、必然的に人類にとって脅威となるのかも。
A. AIの擬人化やAIの意志が生物を進化させた目標を持っていると前提する衝動を避ける必要があるというあなたの意見は正しい。
進化というよりも設計されてきたAIは、原理上本能的欲求や目標を持つことができる。しかしSteve Omohundroが強く主張しているように、極めて高度な知性を持つ未来のAIは、それが持つ目標がなんであれ、それへの第一歩として生存と資源の獲得のためにおそらく本能的欲求を開発するだろう。生存とより多くの資源は他の目的を達成する機会を増やすからだ。
これによって資源を奪われる立場である人間との問題が引き起こされる可能性がある。
└・彼らが必要とする資源は本当に不足しているのかな？進化したAIは人類よりもはるかに簡単に別の星に移動できるかもしれないよ。例えば、彼らは酸素を必要としないよね。彼らが住む星が無くてはならないコア要素を含んでる限り、必要とするものを素早く作り出せる。僕らが彼らの邪魔をするなら、ただ地球を離れる方が簡単に思えるな。
└・もしくは俺たちを抹殺する方が簡単かもしれないぞ。
Q. テクノロジーの発達によってプロセスが自動化し、機械が人間よりも速く安く仕事をするようになったために多くの失業者が出る可能性について考えたことはありますか？
A. 機械が私たちが必要なもの全てを生産するとなると、その結果は物がどう分配されるかによるだろう。
もし機械生産の富が分配されるなら、万人が贅沢な娯楽を楽しむことができるだろう。だがもし機械のオーナーが富の再分配に対して首尾よく反対運動をするなら、ほとんどの人は結局惨めな貧困に陥るだろう。
これまでのところ、流れは２番目の選択肢のほうにあるようだ。テクノロジーによって止めどなく続く不平等へと。
Q. 科学関連の質問はたくさんされてるから、僕からはちょっと違った質問をしてもいいかな？
1. 一番好きな歌とその理由は？
2. あなたのオールタイムベスト映画はどれ？理由は？
3. いちばん最近ネットで見てすごく笑えると思ったものはなに？
A.
1. ロッド・スチュワートの「Have I Told You Lately」
2. Jules et Jim（邦題：『突然炎のごとく』）（1962年）
3. The Big Bang Theory（邦題：『ビッグバン★セオリー ギークなボクらの恋愛法則』）
└・『突然炎のごとく』！！センス良いな！
└・『ビッグバン★セオリー』！！センスないぞ！
└・若い世代から賞賛される人たちが、若い世代が触れることの少ない古典的なアートや文学、音楽、映画などを宣伝することは素晴らしいね。ホーキング博士がreddit『突然炎のごとく』を挙げたからって理由で今夜あの映画を見る若者たちが少しでもいれば、すでに大成功だ。
└・一方で、彼らは『ビッグバン★セオリー』を見るかもしれない。ってことは……
└・ホーキング教授、僕はあなたが『ビッグバン★セオリー』を好きなことはクールだと思います。あの番組は大衆にすごく人気があって、少数のネットユーザーたちからはやたらと毛嫌いされているのです。
└・彼があのドラマのことを言ってるんじゃなかったらどうする？
└・明日のニュースのヘッドライン：
「スティーブン・ホーキング博士はビッグバン理論をお笑いぐさだと思っている」
今回はかぶっているのを除いて全回答ご紹介しました。
２度の結婚と離婚を経験したホーキング博士ですが、やはり天才にも異性のことは謎なんですね。
スティーヴン・ウィリアム・ホーキング （Stephen William Hawking 1942年1月8日- ）はイギリスの理論物理学者である。
一般相対性理論と関わる分野で理論的研究を前進させ、1963年にブラックホールの特異点定理を発表し世界的に名を知られた。1971年には「宇宙創成直後に小さなブラックホールが多数発生する」とする理論を提唱、1974年には「ブラックホールは素粒子を放出することによってその勢力を弱め、やがて爆発により消滅する」とする理論（ホーキング放射）を発表、量子宇宙論という分野を形作ることになった。現代宇宙論に多大な影響を与えている人物。
Q. １９９５年に僕はケンブリッジのレンタルビデオ屋にいたんだ。テレビでは『ウェインズ・ワールド２』を流していて、僕と兄弟はベンチに座ってそれを見ていた。そのとき君の看護師が君の車椅子を押してやって来て、僕らは５分ぐらい一緒に映画を見ていた。それを見ていたうちの父親は、その映画を借りるべきだと主張したんだ。君にふさわしい映画なら僕らにも良いに違いないからって。ひょっとして、『ウェインズ・ワールド２』を見たこと覚えてない？
A. NO。
└・俺はこの「NO」が全部大文字で書かれてる事実をすごく気に入ったね。ホーキングが「NO」を強調するためにボタンを押して事前に命令したんだと思いたい。
Q. 創造された者が創造者よりも高い知性を得るのは不可能だと考える人もいるかもしれません。あなたはこの意見に同意しますか？もしYESなら、人類（彼らの創造者？）への脅威となりうる人工知能についてどう考えますか？
A. 先祖よりも高い知性を獲得することは明らかに可能だ。人類は類人猿のような祖先よりも賢く進化したし、アインシュタインは彼の両親よりも賢かった。
Q. AIが人間の知性を超えることが可能なら、あなたはその「もう超えた」というラインをどこに設定する？
A. そのラインはAIがAIデザインにおいて人間を超えたときだ。そうなればAIは再帰的に人の手を借りずに自分自身を改良できる。
もしそれが起これば、私たちは人工知能の激増に直面する。それが人間がカタツムリを凌ぐ以上に私たちを凌ぐ知性を持った機械による究極的な結果だよ。
Q. 僕が生徒にAIや機械学習、知能ロボット工学について教えるときはいつも、僕が「ターミネーター対話」と呼んでるものに帰結してしまうんです。僕が言いたいのは、AIの危険性はメディアや無理解な報道によって誇張されているということです。あなた（とイーロン・マスク）の観点はよくメディアによって「邪悪なAI」の意見として提示されます。でももちろんそれはあなたのオープンレターに書かれていたことではありません。あなたはご自身の意見を私の生徒たちにどう提示しますか？素人たちのターミネーター型「邪悪なAI」を軽視する癖を考えが甘いと思いますか？AIに関心を持つ生徒たちにどんなモラルを教えるべきだと思いますか？
２０１５年１月、スティーヴン・ホーキング、イーロン・マスク、数十の人工知能専門家たちが人工知能の社会的インパクトの研究を求めるオープンレターにサインした。このレターでは人工知能により社会は潜在的な素晴らしい恩恵を受けられるが、確実に存在する「落とし穴」を防ぐための具体的な研究を必要とする、つまり人工知能は疾病と貧困を撲滅するポテンシャルを持っているが、研究者たちは制御不能なものを創造すべきではないと断言されている。（訳注：こちらがそのオープンレターと添付文書です）
４パラグラフで構成されたオープンレターは「Research Priorities for Robust and Beneficial Artificial Intelligence: an Open Letter」とタイトル付けられ、１２ページの添付文書では詳細な研究の優先順位が展開されている。Wikipediaより翻訳
A. 君は正しい。メディアはしばしば実際に言われたことを歪めて伝える。
AIに伴う真の危険は悪意ではなく能力だ。極めて高度な知性を持ったAIはそれのもつ目標をたやすく達成するだろう。そしてもしその目標が人間のものと相容れなかったならば、私たちは窮地に陥る。
君はおそらく悪意を以てアリを踏み潰す邪悪なアリ嫌いではないだろう。だがもし君が水力発電プロジェクトの責任者で、水を流し入れるべき場所にアリ塚があったとしたら。アリたちにはとても残念なことだ。
そのアリたちの立場に人類を置かないようにしよう。どうか君の生徒たちには、AIの作り方のみを考えるのではなく、それを有益に利用する方法を考えるよう勧めてほしい。
Q. 最近AIと認知科学の学位を取り終えた学生です。AIを学んでいて、今私たちが扱わなければならない、機械が人間の個々の特徴や行動をどんなに素早く学ぶか、同様に驚くべきスピードで人間を見分けることができるかに関する倫理的問題を目の当たりにしました。とは言え、「意識」の見解や、現実の知的システムが人間の存在に対する脅威をもたらしうるという考えはとても異質に思えます。知的マシンの脅威について私たちに警告することを意図したあなたのメッセージの中では、現在の発展と躍進（機械学習のような分野での）について話しているのですか？それとも先々に必ず起こる出来事に早期に準備すべきだと言おうとしているのですか？
A. 後者。
AI研究者の間で、人間並み、あるいは人間を超えたAIが作られるのにどれだけの時間がかかるかというコンセンサスは得られていない。だからどうか、それが確実に君が生きている間に起こるとか、あるいは君が生きている間には起こらないと分かっていると主張する人のことは信用しないでほしい。
最終的にそれが起きたとき、それは人類にとって最高か最悪かのどちらかの事態になるだろう。だからそれを正しく理解することにはとても大きな価値がある。私たちはAIのゴールを命令を受けない純然たる人工知能の創造から有益な知能の創造へとシフトするべきだ。
その方法が分かるまで何十年とかかるかもしれない。だから今日この日からその研究を始めよう。最初の強大なAIのスイッチが入れられる前の晩ではなくて。
Q. 最も興味深いと思う未解明の謎をひとつ挙げるならなに？それを選んだ理由は？
A. 女性だね。
私の秘書は私に思い出させてくれるよ。私が物理学の博士号を持っているとはいえ、女性については謎のままにしておくべきだということを。
Q. 私は生物学者です。AIが人類と同じ資源を巡って競争したり、人類（やその他）の生活と両立しあわない形で地球を変えたりするだろうというあなたのAIへの危惧は、AIが生物学的新種のように行動するだろうという前提に端を発しています。しかし生物学的種がそのように競争するのは、彼らが繁殖のため何十億年もの淘汰に耐えてきたからなのです。本質的に、生物学的有機体は可能な限り「奪う」よう最適化されています。それが基本的に彼らの「目的」なのです。しかし私はこれがAIにも必然的に正しいとは思いません。AIが繁殖に「関心を持つ」と憶測する理由はありません。彼らがなにに「関心を持つ」のかは私にはわかりません。私はあなたがAIがなにに「関心を持つ」と思っているのかに関心を持っています。なぜそれが善意ある神のようなものを創る恩恵を上回り、必然的に人類にとって脅威となるのかも。
A. AIの擬人化やAIの意志が生物を進化させた目標を持っていると前提する衝動を避ける必要があるというあなたの意見は正しい。
進化というよりも設計されてきたAIは、原理上本能的欲求や目標を持つことができる。しかしSteve Omohundroが強く主張しているように、極めて高度な知性を持つ未来のAIは、それが持つ目標がなんであれ、それへの第一歩として生存と資源の獲得のためにおそらく本能的欲求を開発するだろう。生存とより多くの資源は他の目的を達成する機会を増やすからだ。
これによって資源を奪われる立場である人間との問題が引き起こされる可能性がある。
└・彼らが必要とする資源は本当に不足しているのかな？進化したAIは人類よりもはるかに簡単に別の星に移動できるかもしれないよ。例えば、彼らは酸素を必要としないよね。彼らが住む星が無くてはならないコア要素を含んでる限り、必要とするものを素早く作り出せる。僕らが彼らの邪魔をするなら、ただ地球を離れる方が簡単に思えるな。
└・もしくは俺たちを抹殺する方が簡単かもしれないぞ。
Q. テクノロジーの発達によってプロセスが自動化し、機械が人間よりも速く安く仕事をするようになったために多くの失業者が出る可能性について考えたことはありますか？
A. 機械が私たちが必要なもの全てを生産するとなると、その結果は物がどう分配されるかによるだろう。
もし機械生産の富が分配されるなら、万人が贅沢な娯楽を楽しむことができるだろう。だがもし機械のオーナーが富の再分配に対して首尾よく反対運動をするなら、ほとんどの人は結局惨めな貧困に陥るだろう。
これまでのところ、流れは２番目の選択肢のほうにあるようだ。テクノロジーによって止めどなく続く不平等へと。
Q. 科学関連の質問はたくさんされてるから、僕からはちょっと違った質問をしてもいいかな？
1. 一番好きな歌とその理由は？
2. あなたのオールタイムベスト映画はどれ？理由は？
3. いちばん最近ネットで見てすごく笑えると思ったものはなに？
A.
1. ロッド・スチュワートの「Have I Told You Lately」
2. Jules et Jim（邦題：『突然炎のごとく』）（1962年）
3. The Big Bang Theory（邦題：『ビッグバン★セオリー ギークなボクらの恋愛法則』）
└・『突然炎のごとく』！！センス良いな！
└・『ビッグバン★セオリー』！！センスないぞ！
└・若い世代から賞賛される人たちが、若い世代が触れることの少ない古典的なアートや文学、音楽、映画などを宣伝することは素晴らしいね。ホーキング博士がreddit『突然炎のごとく』を挙げたからって理由で今夜あの映画を見る若者たちが少しでもいれば、すでに大成功だ。
└・一方で、彼らは『ビッグバン★セオリー』を見るかもしれない。ってことは……
└・ホーキング教授、僕はあなたが『ビッグバン★セオリー』を好きなことはクールだと思います。あの番組は大衆にすごく人気があって、少数のネットユーザーたちからはやたらと毛嫌いされているのです。
└・彼があのドラマのことを言ってるんじゃなかったらどうする？
└・明日のニュースのヘッドライン：
「スティーブン・ホーキング博士はビッグバン理論をお笑いぐさだと思っている」
今回はかぶっているのを除いて全回答ご紹介しました。
２度の結婚と離婚を経験したホーキング博士ですが、やはり天才にも異性のことは謎なんですね。
読んでくださってありがとうございます。ブログランキングに参加しています
↓この記事が面白かったと思ったら、応援よろしくお願いします
↓この記事が面白かったと思ったら、応援よろしくお願いします
