1.06.2009

醜、性高潮、第一法則

這是一堂通識課的心得報告,我們看機械公敵,寫完之後我覺得它長得比網誌文還像網誌文︰

  1. 我覺得新的那一版機器人真的長得好醜,而且臉好噁心,軀幹像穿肚兜,舊的還比較好看。

  2. 機器人的心靈是這部片子討論的主題之一︰機器人能不能有感情,而且這樣的感情不只代表在外顯行為上滿足行為主義、內部功能上滿足functionalism,而是真的可以像人一樣感覺到自己情緒的變化,甚至性高潮?用心靈哲學的語言來問,機器人能不能有感質經驗?

    John Searle聰明地論證說,根據中文房思想實驗,達成相應的計算程序並不是持有心靈狀態的充分條件。我的想法是,拜託,一個東西有沒有感質經驗,跟這個東西有沒有鼻毛一樣,都是百分百的經驗問題(empirical question),只能藉由觀察找到答案,哪是用思想實驗汲取一下直覺就算數的。機器人能不能有感質經驗是經驗問題,然而,感質經驗by definition沒辦法被客觀觀察,所以,機器人能不能體驗到性高潮?不知道,除非那機器人就是你。

  3. 我曾經想了一下,要如何修改三大法則使得總機不會因為自己運算能力很強就能夠自作主張把人類關起來。在電影裡,造成問題的是第一法則︰

    R. 機器人不得傷害人類,或袖手旁觀人類受到傷害。

    用比較形式的語言表達,會是︰

    如果行為x會造成有人受傷,不要做x;如果不做x有人會受傷,做x

    電影裡面那個巨大公司的總機算出「如果現在不把人類關起來blahblah…人類就會死光光」,所以根據這個法則命令機器人把人都關起來,並且停止供應PS3。顯而易見,一個簡單的修正就能夠阻止這個悲劇︰把第一法則去尾,改成

    R*. 機器人不得傷害人類(如果行為x會傷人,不要做x)

    如此一來機器人就不會自作主張,因為這個法則只會讓它們不要做某些事情,不會讓它們主動去做某些事情。然而,R*也會在一些地方造成不幸,例如當有人快淹死且附近沒有人能求救的時候,R會使偵測到這件事的機器人主動去救援,但是在R*之下,機器人只會呆著不動,讓威爾史密斯在進入主要劇情之前就死在水裡。到了這裡,問題的關鍵已經被凸顯出來︰機器人要有主動救人的能力,但是不能為了避免時間點上太未來、因果鍊上太久遠的慘事發生而妨礙人類現在的自由。著眼於這一點,我有一個proposal︰

    R**.如果行為x會造成有人受傷,不要做x;如果沒做x在y小時之內有人會受傷,做x;如果沒做x在y小時之後有人會受傷,回報主人/政府這件事

    y代表的數字可調整,也可以等於f(z),並讓z等於該傷害嚴重性。當然也可以自由設定哪些事情要回報給主人哪些事情要回報給政府。在R**之下,機器人不會眼看你把手伸進香腸機,不會讓你被彈簧繩椅彈到卵蛋(非常痛),但也不至於為了避免你在學校和大毛打架受傷而把你關廁所。當他預期如果你在接下來一個月內每天都像今晚一樣不吃青菜,你的痔瘡就會大到被磨破,他會好聲好氣地跟你講,而不是把肉湯砸到對街。

8 comments:

  1. 以「山寨夫人」這個需求來說
    http://blog.sina.com.tw/river/article.php?pbgid=13614&entryid=584417
    要套用艾西莫夫三原則似乎不成問題。
    但是山寨夫人預設的用途之一,在某些人定義下屬於「傷害自己、有害」的舉動,不過我想大家都不會希望機器人妨礙這種舉動發生。


    沒有製作機器人技術或是沒有製作機器人需求的人,對於機器人的想像常常和現實相差甚遠。
    現在最先進的機器人之一
    http://en.wikipedia.org/wiki/MQ-9
    之二
    http://en.wikipedia.org/wiki/Foster-Miller_TALON
    大概很難把不傷害人類當成原則

    ReplyDelete
  2. 最近有一套短篇動畫叫做夏娃的時間,就在玩那個機器人三原則,滿有意思的。(茶)

    ReplyDelete
  3. 多此一舉的補充

    現在的山寨夫人還完完全全稱不上自主性機器人,所以這種事暫時不必考慮

    不過將來搞不好....

    ReplyDelete
  4. novus︰

    哈哈,山寨夫人

    我前一陣子看到新聞︰日本人做機器人和其外貌的技術越來越精進,可以做出真的像人的皮膚和眼睛,但是他們發現這樣做出來的"山寨夫人"反而變得很可怕XD

    小幽︰

    對,我就是弄不到那個...

    ReplyDelete
  5. 像真會造成"詭異之谷"(uncanny valley)。

    還有,我記得三原則的設定就是為了說明這種看似聰明的原則是做不到的吧....

    ReplyDelete
  6. nidor︰

    是喔?我還以為是因為三原則比較帥,就像我們有時候會寧可用一些有明顯破綻的狠話嗆人,也不願意補上完整理據一樣。

    ReplyDelete
  7. 我就很常被彈簧繩椅彈到卵蛋!
    心都揪起來了!

    ReplyDelete
  8. vinta︰

    真男人一生中都要來個一兩次的

    不過你這樣似乎不太尋常...

    ReplyDelete