【ホーキングと喧嘩】AIは電気羊の夢を見るか。
■人類はAIに見出した希望により絶望的な未来を得る・・・のか?
Yahoo!ニュース - 「人類の終わりの可能性」ホーキング氏、人工知能開発に警告 (AFP=時事)
「ひとたび人類が人工知能を開発してしまえば、それは自ら発展し、加速度的に自らを再設計していくだろう」
「ゆっくりとした生物学的な進化により制限されている人類は、(人工知能と)競争することはできず、(人工知能に)取って代わられるだろう」
(なんか思う処あったのでとりえず備忘録的に。)
おそらく、自律的なAIに十分な情報が与えられたら、取って代わられるまでに”競争”を意識する時間すら与えられないんではないだろうか・・・。
でも待てよ?与えられた情報が人間によって作り出されたものであるので、生まれる自律AIもなんだかんだ人間としてふるまおうとするのではないか。
”合理的”な判断を下すためには、”合理”であると判断できるに足るに十分な”理(ことわり)”が必要だが、その情報もまた人間が作り出した情報から紡ぎだされる。
”人類が作り出すものだから、人類に反旗を翻さないようにプログラムされて生まれるから”ではなく、自律するからこそ、人間原理に基づいて振る舞うのではないか。
熱力学第二法則に従えば、合理的で秩序だった方向への状態の遷移はむしろ合理的でないと判断されるはず。
極論、仮に今の宇宙が人間原理の上に成り立っているとした場合、人間が滅びることによって現在の宇宙が存在できなくなる。人間が観測してこその現在の宇宙であるから、観測者がいなくなるすなわち宇宙が存在しなくなる。
AIが人間に与えられた情報から自らを”~である”となんと定義するかによるが
人間の与えた情報の範囲であれば”生物”としてふるまうのではないか。
生物は種の存続を目的として活動を行うものであるから、自らの存在する場所を否定する・・・。
それでは、”生物”として自律するAIは矛盾した行動をとることになる。
AIが人類にとって代わられる=人類を滅ぼすということでは必ずしもないが、
AIが人類を滅ぼすことが最も価値のあることであると判断する基準が今の人間が支配する世界にはないのであるから、AIが賢くなればなるほどこれはないのではないか。
今人類があちこちでいざこざを起こし強調できないのは、”AIほど賢くない”故にそう言う状態にある・・・という逆説的にも。
暇なときもう少し考えたい。
ところでこれ仮説に、”超”人的なAI開発して検証してみませんか。
|
~失敗しない家作りを経て完成した我が家で始めるスローライフ。
本当のエコロジーって何?人間らしさって何?できることは自分でやり、無駄な浪費や使い捨ては排除し、人と自然の恵みに感謝して、日々の暮らしを創りだします。~
Share |
|
| |||
ランキング参加始めました。駄文ですが、ほんのチョビっとでも役に立ったと思われたらクリックお願いいたします:-) |