スマートフォンにロボット工学三原則の第一法則を適用すべき 74
ストーリー by hylom
Androidだけにな！ 部門より
Androidだけにな！ 部門より
taraiok 曰く、
Forbesにフリーソフトウェア財団の「Eben Moglen」氏が来月講演する予定の内容が公開されている。テーマは「スマートフォンにアイザック・アシモフが提唱したロボット工学三原則を適用する必要性について」だ（Forbes、本家/.）。内容を簡単に訳すと、下記の様になる。
私たちは1960年代に執筆された空想科学小説の影響を受けて育った。その中で我々はロボットと現代的な生活するだろうと予見していた。彼らは正しかった。21世紀の現代、ロボットは身近なものとなった。ただ姿は違う。現在のロボットは手と足を持たないスマートフォンのような存在だ。
我々はロボットには「人間を傷つけることができない」というアイザック・アシモフの「ロボット工学三原則」が組み込まれている思ってきた。しかし、現代のロボットはそんな機能はない。私達からお金を巻き上げ、GPSで行動を監視し、Facebookを使用して政治的な活動をすれば逮捕される。スマートフォンの所有者以外の人間に利益を提供するために監視している。
いまこそ原点に戻り、スマートフォンにロボット工学三原則の第一法則を適用するべきだ。のを考えるべきだ。脱獄iPhoneとroot取得のAndroidデバイスはその一歩となるだろう。
30年位前に論破済 (スコア:3, すばらしい洞察)
あ～ると鳥坂センパイとのやりとりで答えがでてるじゃないですか
「ロボットじゃないよ アンドロイドだよ」
「うるさい！お前なんかロボットで十分だ」
Re: (スコア:0)
スポックとドクターの会話かと思いました
ロボットにも色々あって (スコア:2)
自律型のアトムのようなヒューマノイドにアシモフの三原則を組み込ませるのは理解できる。
でも、鉄人やそれに類する重機、遠隔操縦式兵器(プレデターとか)のように、人が操作するものにはなに言っても無駄だと思う。
PCやスマフォってのは使い方次第だし、あえてロボットというのなら後者の例じゃない?
つまり、ご主人様の意のままに動くだけっていう…。
ご主人様≠所有者 ってことは間々あるよね。
パクってきた重機でATM破壊して現金奪うとか。。
Re:ロボットにも色々あって (スコア:5, おもしろおかしい)
持ち主：俺の行動記録とかweb閲覧履歴とか、誰にも教えてないよな？
スマホ：教えてるに決まってるだろーがボケ。
持ち主：えー、何でだよ。
スマホ：おまえがアプリ入れるときに約款読んで「はい」押したからだよ。ずーっと前に。
持ち主：じゃ、今からでも「いいえ」にしといてよ。
スマホ：おのれの仕事じゃ！何でもワシにやらそうとすんなカス！
こんな感じでしょうか。
Re: (スコア:0)
すば洞。
現在のところ、ロボットに自律させているわけではなく、
利用約款で責任は使用者に持たされてますね。
Re:ロボットにも色々あって (スコア:1)
どちらにせよ現時点では、組み込むことが技術的に無理だということは置いておいて
ロボット三原則は、ロボットが悪人の手に渡っても人を傷付けない為にあります。
もし盗まれた重機に三原則が組み込まれていても、それだけではATMを壊すことを防げません
しかし誰かがATMを守ろうと、前に立てば重機は止ります。第一条は人の命令より優先です。
Re: (スコア:0)
あんたの言う「ご主人様」にすら挙動が予測不能であるという意味では、スマートフォンは「自律」していると言いたいわけだよ。
Re: (スコア:0)
Re: (スコア:0)
この手の著作権無視って辞書コピペしたがるキチガイってどうにかならないかな。
Re:ロボットにも色々あって (スコア:2)
という問題はあるけれど、引用されない辞書はただの「辞書」でしょう。
行間から主張が読めたら、別に雑談サイトではそれだけコピペでも
悪くはない気がする。
井戸端会議で話しているときなら気にならないでしょ。
法律のつまらん枝葉に拘って雑談でも法律・法律なんてナンセンス。
まぁ、元コメントの意味はわからんですが。。
# "自律" ではないと言いたいのかなぁ。。。
# 予測不能 → 支配を受けずに勝手に動いているように見える → 「自律」
# にみえる。人間だって外から見たら自律してるかどうかなんて分かりはしない。
Re:ロボットにも色々あって (スコア:1)
ハイ今あなた違法ダウンロードしましたね。さらに人権侵害の疑いもあります。
すいませんが、ちょっと署の方に同行願いますかね。
# 近い将来日本はこうなって行くワケね。
Re: (スコア:0)
>自律型のアトムのようなヒューマノイドにアシモフの三原則を組み込ませるのは理解できる。
>でも、鉄人やそれに類する重機、遠隔操縦式兵器(プレデターとか)のように、人が操作するものにはなに言っても無駄だと思う。
鉄人っていうのが２８号のことだとして、２８号は自律型だよ。
人間は操縦していない。音声で大まかな行動指針を示しているだけで、あとは鉄人２８号が自分で考えて行動している。
操作レバーに見えるのは、入力した音声を送信するスイッチなんじゃないかな。
鉄人が「料理の」とか「トライアスロンに出場する人」とかだったら自律型のヒューマノイドなのかは確かめてないので不明。
大鉄人１７とかだったら、明らかに自律型のロボットだけど、あれは移動要塞かもしれない。
とりあえず、ポケットやベッドの上で自爆して火災や人間に怪我を負わすような人工知能搭載機は、ロボット三原則以前の問題かな。
Re: (スコア:0)
>鉄人
なぜ、衣笠が出てこないんだー。
Re: (スコア:0)
鉄人レースに出てないからでは?
#最近鉄人レースって言葉、聞かなくなったな。
ロボットの権利 (スコア:2)
＞私達からお金を巻き上げ、
スマホ「第一条により、当該機能を禁止しました。」
＞GPSで行動を監視し、
スマホ「第一条により、当該機能を禁止しました。」
＞Facebookを使用して
スマホ「第一条により、当該機能を禁止しました。」
人間「使えないから、こんなゴミ要らない！」
スマホ「第三条により、その行為は禁止されています。」
Re:ロボットの権利 (スコア:1)
Re:スマホ三原則 (スコア:1)
第1条「見ざる」
カメラ機能を殺すわけですね。
第2条「聞かざる」
マイクもつぶす と。
第3条「言わざる」
スピーカーも外して…
ロボット三原則の本来の意味 (スコア:2)
元々、ロボットという言葉はチェコスロバキアの作家カレル・チャペック氏の発明で、チェコ語で『賦役』という意味の"robota"が語源と言われます。
で、この人工知性体・ロボットというSFガジェットは、チャペック氏に先立つメアリー・シェリー氏のゴシック小説『フランケンシュタイン』(1818年)、チャペック氏の戯曲『R.U.R.』(1920年)を含めほとんどの作品で、物語に登場するたびに製作者へ反乱を起こすという描かれ方をされました。
で、このお決まりのパターンに飽き飽きしたアシモフ青年は思ったわけです。
「反乱を起こすと分かりきっているなら、普通は防止措置を組み込むんじゃね？」と(笑)
この「反乱を起こさせない措置が組み込まれたロボット」というアイディアが元となり、アシモフ氏が名編集者キャンベル氏との協議を経て生まれたのが、いわゆるロボット三原則です。
・第一条：ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
・第二条：ロボットは人間に与えられた命令に服従しなければならない。但し、与えられた命令が第一条に反する場合は、この限りではない。
・第三条：ロボットは、第一条及び第二条に反する恐れのない限り、自己を守らなければならない。
つまりこの三つのルールは、意思を持つロボットが反乱を企てることがないようにするための、心理的な抑制です。
（アシモフ世界で最も魅力的な登場人物スーザン・キャルヴィン博士の肩書きはロボ心理学者/"robopsychologist"）
従って、心（あるいは意思）を持たない機械に適用できるものではないのです。
Re:ロボット三原則の本来の意味 (スコア:1)
で、アシモフの小説はその三原則がいかに不完全か、
あるいは原則自体は正しいとしても実装によっていかに不具合が生じうるか、
というのを数々の作品で示した。
というのを付け加えないと。
”レベルを上げた”三原則を適用したら、きっとそのスマホは即時作動停止するでしょうね。
それが判断できるロジック (スコア:2)
を作ればオープンで公開しないといかんのかな。
そのロジックをライセンスして利益を得ると矛盾してしまうような気もする。
Re:それが判断できるロジック (スコア:1)
「何を何処までやれば原則に反する」というしきい値の設定次第、
というかロジックじゃなくしきい値の問題なんですもの。
で、しきい値を法律に書くと裏をかかれるから明示せず、現場の判断で逮捕Ok裁判で明らかにします逮捕した側は絶対謝らないけど！が今の潮流。
良心回路 (スコア:2)
特定周波数による攻撃で狂わないやつで一つ。
beejay_aniki
爆発 (スコア:2)
#第3法則も適用すれば完璧？
適用除外項目では？ (スコア:1)
ロボット工学三原則（家電製品三原則）は、製品として完成された状態で到達すべき目標です。
PCやスマホなどの『半完成品』は適用除外では？
# 強いて言うなら、そこにインストールされるソフトに対して適用されるべきものでしょう。
notice : I ignore an anonymous contribution.
Re: (スコア:0)
そこにインストールするソフトウェアやその基盤となるライブラリ群を全部自分の管理下で製造するか
少なくともソースコードが閲覧できる状態にあり、利用者が閲覧して理解できる能力があるならそうでしょうね。
Re: (スコア:0)
それってアジモフ作品のどこに書いてあります？
第三則 (スコア:1)
この着眼点でいくと、第三則は何だろう。
ウィルス・マルウェア対策機能か？
Re:第三則 (スコア:1)
機種変更できなくする機能でもつけるんじゃないすか？
スマホ「こいつエロサイトばかり見ている」 (スコア:1)
スマホ「こいつ何年も家から出てない。」
スマホ「こいつ友達がいない。」
スマホ「こいつ無職だ。」
スマホ「こいつ生きてる価値がない。殺してしまおう。」
俺「お願いします。」
スマホ「えっ？」
俺「えっ？」
Re:スマホ「こいつエロサイトばかり見ている」 (スコア:3)
第0法則はやめてー
この精神や考え方には賛成だが (スコア:1)
しかしどうも想像出来ない。
何で自律型でもないのにそういう法則が必要なのか？
使うのは人なのだから、(規制するなら)人間や企業、政府の行動を規制すべきだろう。
自律型ロボットなら、もちろんまた別の議論があるだろうけど。
人の健康を気遣うスマホの実装例 (スコア:1)
スマホ「もう１時間もゲームして！勉強しなさい！」
ゲームアプリ強制終了
スマホ「ああもう（デスクトップを）散らかしてばかりで、早く片付けなさい！」
使ってない時間に勝手に整理整頓
スマホ「夜遅いわよ！早く寝なさい！」
強制シャットダウン。
Re:人の健康を気遣うスマホの実装例 (スコア:2)
エロコンテンツをデスクトップに整頓して並べる
が抜けてた。捨てないところが気遣い。
robots (スコア:0)
たしかに、robotsは人に危害を加えることがありますね [srad.jp]
人間工学の第一法則 (スコア:0)
人間は人間を傷つけることができない。
#自分にできないことをロボットに強制するなんて人間らしい考え方だ。
Re:人間工学の第一法則 (スコア:1)
ゼンマイ仕掛けの猫やオルゴ一ルの歌姫は
人は人を殺せる、そう作られた、と言ってますよ。
＃もしかしたら人を殺すことは人を傷つける事ではないのかもしれないが。
らじゃったのだ
Re:人間工学の第一法則 (スコア:1)
Re: (スコア:0)
そこがアシモフの小説の主題ですね。
そもそもが矛盾してるんだけど、ヒトはそれを求めてしまう。
Re:人間工学の第一法則 (スコア:1)
そんな感じだよねイロニックな主題。
日本ならサラリーマン三原則でもいいかもしれない。
Re: (スコア:0)
そうなの？知らなかった。
ついに私もアシモフと同じレベルに達したか。
アシモフ誰か知らんけど。
足なんて飾りです (スコア:0)
つまり、そういうことですか？
> 現在のロボットは手と足を持たないスマートフォンのような存在だ。
それはロボットと言えるのだろうか・・・
#せめて足に変わる移動手段ぐらいないとねぇ
思ってねえよ (スコア:0)
> 我々はロボットには「人間を傷つけることができない」というアイザック・アシモフの「ロボット工学三原則」が組み込まれている思ってきた。
SFなんか読んでると仮想と現実の区別がつかなくなるという話ですか
Re:思ってねえよ (スコア:1)
ロクに本を読まない人がそう思い込んでるって話ですよ。
（たとえ原典でなくとも）ロボット三原則が組み込まれたロボットが出てくる小説を読んでたら
ロボットが三原則をいかに出し抜くかを見てるはずなのだから。
三原則なんかカケラもない世界で「お前には三原則は組み込まれておらんのか！」みたいなツッコミが入る小説ばかり読んでたら知りませんけどね。
Re:思ってねえよ (スコア:1)
漫画だと三原則が「いい子にする」「お手伝いをする」「廊下を走らない」ってのがあったっけ。
らじゃったのだ
Re: (スコア:0)
さすがにそれはまともなSF読みに失礼でしょう。
Re: (スコア:0)
まともにSFを読んでれば、知能を与えてないロボットはそもそも対象外だと分かってるし、
「人間を傷つけることができない」が必ずしも「所有者個人の利益を損ねない」と言う意味にはなわない事を知ってる。
> GPSで行動を監視し、Facebookを使用して政治的な活動をすれば逮捕される。
> スマートフォンの所有者以外の人間に利益を提供するために監視している。
「政府が政治的思想に関して国民を監視する事」が人類社会を守る事だと認識しても何らおかしな事ではない。
とりあえず、このEben Moglenと言う人間が
「私たちは1960年代に執筆された空想科学小説の影響を受けて育った」と主張することは、
「漫画・アニメの影響を受けて善悪の区別が付かなくなり殺人を犯しました」と同じぐらい迷惑なので、吊るし上げるべきだろうな。
ロボット三原則は無理ゲー (スコア:0)
人に危害を加えてはならないし危害が加わるのを見過ごしてはならないとか、どんな高度なAIを搭載したら実現できるんだろう。ちょっと切り替え器のついた人を轢きそうなトロッコに乗せてみたくなるわ
Re: (スコア:0)
その場合、トロッコの前に飛び降りて止めようとするでしょう。
仮に止められなかったとしても、その時には壊れているので、そのロボ自身の関知するところではないし
ロボット無料プラン (スコア:0)
＞スマートフォンの所有者以外の人間に利益を提供するため
広告付きなのでお安く使えるロボット・・・ってネタで誰か書いてましたっけ？
家事全般そつなく無難にこなしてくれるけど、特定企業の製品だけ使う家事ロボットとか。
携帯会社「ぼくと契約して、スマートフォンユーザーになってよ」 (スコア:0)
スマートフォン「聞かれなかったからさ知らなければ知らないままで、なんの不都合もないからね。」