"電車難題(Trolly Problem)"是倫理學(xué)領(lǐng)域最為知名的思想實(shí)驗(yàn)之一,其內(nèi)容大致是:一個(gè)瘋子把五個(gè)無(wú)辜的人綁在電車軌道上。一輛失控的電車朝他們駛來(lái),并且片刻后就要碾壓到他們。幸運(yùn)的是,你可以拉一個(gè)拉桿,讓電車開(kāi)到另一條軌道上。然而問(wèn)題在于,那個(gè)瘋子在另一個(gè)電車軌道上也綁了一個(gè)人。考慮以上狀況,你是否應(yīng)拉桿?
隨著時(shí)間的推移,這個(gè)問(wèn)題演化出許多新版本,譬如:是選擇讓電車撞死五個(gè)人,還是把一個(gè)胖子推下去阻止列車前行(胖子也得死);還有一種,胖子恰巧就是這個(gè)把五位無(wú)辜者綁在軌道上的人,等等。如今,這個(gè)辯題因無(wú)人車的出現(xiàn)被賦予了新的生命。新的版本是:你的無(wú)人車將撞上一輛校車,它意識(shí)到它可以選擇殺死你或者拯救一車的孩子。那么在設(shè)置程序時(shí)應(yīng)該如何抉擇?我已經(jīng)記不清有多少次,“電車難題” 總是以各種故作嚴(yán)肅、遠(yuǎn)見(jiàn)卓識(shí)的未來(lái)主義姿態(tài)出現(xiàn),并激怒我 。最糟糕的是,這個(gè)膚淺的題型不僅偽裝深刻,還演化出各種貌似更深刻、意義更重大的形式。
我們可以換種方式思考:如果你想設(shè)計(jì)一輛車,讓它在特定條件下故意殺害它的司機(jī),你如何保證司機(jī)不會(huì)修改程序,確保自己永遠(yuǎn)不會(huì)被自己的汽車蓄意謀殺?
答案很明顯,借鑒 iPhone 模式。設(shè)計(jì)一輛汽車,讓它只能安裝通過(guò)交通運(yùn)輸部(或制造商)認(rèn)證的軟件,并將教人解鎖定以重罪。目前 iPhone、游戲機(jī)和其他設(shè)備都上了數(shù)字鎖,即業(yè)內(nèi)所說(shuō)的 “DR