アカウント名:
パスワード:
元々、ロボットという言葉はチェコスロバキアの作家カレル・チャペック氏の発明で、チェコ語で『賦役』という意味の"robota"が語源と言われます。
で、この人工知性体・ロボットというSFガジェットは、チャペック氏に先立つメアリー・シェリー氏のゴシック小説『フランケンシュタイン』(1818年)、チャペック氏の戯曲『R.U.R.』(1920年)を含めほとんどの作品で、物語に登場するたびに製作者へ反乱を起こすという描かれ方をされました。で、このお決まりのパターンに飽き飽きしたアシモフ青年は思ったわけです。「反乱を起こすと分かりきっているなら、普通は防止措置を組み込むんじゃね?」と(笑)この「反乱を起こさせない措置が組み込まれたロボット」というアイディアが元となり、アシモフ氏が名編集者キャンベル氏との協議を経て生まれたのが、いわゆるロボット三原則です。
・第一条:ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。・第二条:ロボットは人間に与えられた命令に服従しなければならない。但し、与えられた命令が第一条に反する場合は、この限りではない。・第三条:ロボットは、第一条及び第二条に反する恐れのない限り、自己を守らなければならない。
つまりこの三つのルールは、意思を持つロボットが反乱を企てることがないようにするための、心理的な抑制です。(アシモフ世界で最も魅力的な登場人物スーザン・キャルヴィン博士の肩書きはロボ心理学者/"robopsychologist")従って、心(あるいは意思)を持たない機械に適用できるものではないのです。
で、アシモフの小説はその三原則がいかに不完全か、あるいは原則自体は正しいとしても実装によっていかに不具合が生じうるか、というのを数々の作品で示した。というのを付け加えないと。
”レベルを上げた”三原則を適用したら、きっとそのスマホは即時作動停止するでしょうね。
プログラマーに適用すればよい。
・第一条: プログラマーは、ユーザーに危害を加えるソフトウェアを作ってはならない。 またユーザーに危害が及ぶことが判別・認識可能な状況でそれを看過するようなソフトウェアを作ってはならない。
・第二条: プログラマーはユーザーが望み、承認したことのみを実行するソフトウェアを作らなければならない。 ただし第一条に反する場合はこの限りではない。
・第三条: 第一条、第二条に反しない限りにおいて、プログラマーは安定して動作するソフトウェアを作らねばならない。
もちろん全プログラマには三原則を守るために、上記三原則に反するプログラムを書いくと、即、脳を焼くヘッドギアをつけてもらいます。「そんなぁ。仕様は俺が決めたんじゃないし」とか言っても、聞く耳持ちません。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
犯人はmoriwaka -- Anonymous Coward
ロボット三原則の本来の意味 (スコア:2)
元々、ロボットという言葉はチェコスロバキアの作家カレル・チャペック氏の発明で、チェコ語で『賦役』という意味の"robota"が語源と言われます。
で、この人工知性体・ロボットというSFガジェットは、チャペック氏に先立つメアリー・シェリー氏のゴシック小説『フランケンシュタイン』(1818年)、チャペック氏の戯曲『R.U.R.』(1920年)を含めほとんどの作品で、物語に登場するたびに製作者へ反乱を起こすという描かれ方をされました。
で、このお決まりのパターンに飽き飽きしたアシモフ青年は思ったわけです。
「反乱を起こすと分かりきっているなら、普通は防止措置を組み込むんじゃね?」と(笑)
この「反乱を起こさせない措置が組み込まれたロボット」というアイディアが元となり、アシモフ氏が名編集者キャンベル氏との協議を経て生まれたのが、いわゆるロボット三原則です。
・第一条:ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
・第二条:ロボットは人間に与えられた命令に服従しなければならない。但し、与えられた命令が第一条に反する場合は、この限りではない。
・第三条:ロボットは、第一条及び第二条に反する恐れのない限り、自己を守らなければならない。
つまりこの三つのルールは、意思を持つロボットが反乱を企てることがないようにするための、心理的な抑制です。
(アシモフ世界で最も魅力的な登場人物スーザン・キャルヴィン博士の肩書きはロボ心理学者/"robopsychologist")
従って、心(あるいは意思)を持たない機械に適用できるものではないのです。
Re:ロボット三原則の本来の意味 (スコア:1)
で、アシモフの小説はその三原則がいかに不完全か、
あるいは原則自体は正しいとしても実装によっていかに不具合が生じうるか、
というのを数々の作品で示した。
というのを付け加えないと。
”レベルを上げた”三原則を適用したら、きっとそのスマホは即時作動停止するでしょうね。
Re: (スコア:0)
プログラマーに適用すればよい。
・第一条: プログラマーは、ユーザーに危害を加えるソフトウェアを作ってはならない。
またユーザーに危害が及ぶことが判別・認識可能な状況でそれを看過するようなソフトウェアを作ってはならない。
・第二条: プログラマーはユーザーが望み、承認したことのみを実行するソフトウェアを作らなければならない。
ただし第一条に反する場合はこの限りではない。
・第三条: 第一条、第二条に反しない限りにおいて、プログラマーは安定して動作するソフトウェアを作らねばならない。
もちろん全プログラマには三原則を守るために、上記三原則に反するプログラムを書いくと、即、脳を焼くヘッドギアをつけてもらいます。
「そんなぁ。仕様は俺が決めたんじゃないし」とか言っても、聞く耳持ちません。