無人駕駛的致死率究竟多低，你才可以接受？
盡管無人車還在進(jìn)行技術(shù)攻關(guān)，但是很多人都已經(jīng)在為無人車將來可能出現(xiàn)的的問題感到擔(dān)憂，電車難題就是其中的一個(gè)。電車難題（TrolleyProblem）是倫理學(xué)領(lǐng)域最為知名的思想實(shí)驗(yàn)之一，其內(nèi)容大致是：一個(gè)瘋子把五個(gè)無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，庫卡機(jī)器人驅(qū)動(dòng)器維修，并且片刻后就要碾壓到他們。幸運(yùn)的是，你可以拉一個(gè)拉桿，讓電車開到另一條軌道上。然而問題在于，那個(gè)瘋子在另一個(gè)電車軌道上也綁了一個(gè)人。考慮以上狀況，你是否應(yīng)拉桿？這個(gè)類似女友和媽媽落水應(yīng)該救誰式的倫理困境是無人車安全方面一個(gè)懸而未決的問題。無人車會(huì)夢見安全街嗎？，原著小說《仿生人會(huì)夢見電子羊嗎？》的風(fēng)格起了這么一個(gè)標(biāo)題，引起我們對(duì)無人車未來道路安全的關(guān)注關(guān)于未來，汽車制造商需要思考的一個(gè)關(guān)鍵問題是，每年無人車的致死率究竟多低才可以接受？究竟有沒有這么一種方案能夠解決這個(gè)問題呢？Mobileye提出了自己的方案。
今年早些時(shí)候在得克薩斯州奧斯汀舉行的SXSW會(huì)議上，BillFord大聲說出了很多汽車行業(yè)人士正在思考的問題，或者更確切地說，是這幫人的所不愿意承認(rèn)的擔(dān)憂。這位福特的CEO談?wù)摰氖菬o人駕駛汽車的出現(xiàn)，這個(gè)話題正在吸引大量的媒體關(guān)注，因?yàn)槊恳患移囍圃焐毯凸韫鹊囊恍┳畲蟮膮⑴c者已經(jīng)把數(shù)十億美元都投入到裸機(jī)器人汽車上（沒有方向盤或剎車的所謂的5級(jí)自動(dòng)駕駛車輛，或AV）。
Ford說，制造汽車將變成容易的部分，因?yàn)檫@項(xiàng)技術(shù)正在迅速發(fā)展。但更艱巨的任務(wù)將是決定如何進(jìn)行編程，讓無人車做出性命攸關(guān)的決定。（在即將發(fā)生事故的情況下）如果車輛必須選擇要撞誰，是保乘客還是10位行人呢？這些都是你和我作為司機(jī)沒有時(shí)間考慮的決定，我們只能下意識(shí)地作出反應(yīng)。但是這些無人車是有處理能力來進(jìn)行選擇的。如果結(jié)果是它選擇讓你，車上的乘客被撞的話，你是不是還打算坐進(jìn)那輛車呢？
盡管Ford公開拋出這個(gè)問題令汽車業(yè)感到心神不定，但這與美國汽車買家普遍存在的想法其實(shí)是一致的。在今年早些時(shí)候進(jìn)行的一項(xiàng)調(diào)查中，AAA發(fā)現(xiàn)四分之三的駕駛者表示自己對(duì)坐在無人車上感到擔(dān)心，54％的受訪者表示他們覺得與AV共享道路不太安全。而一旦Ford把這個(gè)問題爆了出來，AV界的其他一些人就開始把它扯到一個(gè)到合乎邏輯的結(jié)論上。英特爾公司高級(jí)副總裁兼無人車技術(shù)公司Mobileye的聯(lián)合創(chuàng)始人AmnonShashua表示：如果我們必須教一輛車應(yīng)該殺死一位修女還是一位童子軍的話，那就不會(huì)有無人車這個(gè)行當(dāng)了。今年3月份，英特爾剛剛以153億美元的價(jià)格收購了這家汽車技術(shù)公司。
但是Shashua認(rèn)為，為了解決這個(gè)問題，我們需要把他框定到更實(shí)際的范圍內(nèi)，要有別于復(fù)雜到難以復(fù)加的哲學(xué)或倫理難題。他說，簡單來說，自動(dòng)駕駛汽車是否能獲得消費(fèi)者的廣泛接受這個(gè)問題可歸結(jié)為這樣一個(gè)重要問題：自動(dòng)駕駛汽車每年導(dǎo)致多少起以下的死亡數(shù)才是公眾可以接受的？
目前情況下，這個(gè)問題的答案可能是0。每一次自動(dòng)駕駛車輛發(fā)生事故，無論是去年在佛羅里達(dá)州發(fā)生的一輛卡車撞上自動(dòng)駕駛的Tesla的那起致命車禍，還是那輛嶄新的自動(dòng)駕駛通勤車剛剛亮相2個(gè)小時(shí)就被一輛送貨的面包車撞到，一旦發(fā)生都立即成為了引爆全國的頭條新聞，對(duì)事故的討論往往持續(xù)數(shù)月之久。相比之下，20輛汽車的連環(huán)相撞事故幾乎每天都會(huì)發(fā)生，甚至在好幾個(gè)星期之內(nèi)，KUKA機(jī)器人維修，即使傳統(tǒng)車輛的碰撞事故造成了死亡人數(shù)超過了1000人，其效果也只能是出現(xiàn)在當(dāng)?shù)匦侣勆希蠹业膽B(tài)度充其量不過是是聳聳肩。
在全球各地的監(jiān)管機(jī)構(gòu)都恨不得把這種車放行上路以最大限度減少無休止的交通致死事故的情況下，對(duì)無人車安全性錯(cuò)位的關(guān)注和恐慌被進(jìn)一步的強(qiáng)化去年，美國國家公路交通安全管理局（NHTSA）已經(jīng)批準(zhǔn)了將自動(dòng)駕駛汽車作為極大減少與人類選擇和行為相關(guān)的事故數(shù)量的一種手段。
在這種情況下，Shashua和Mobileye的一群程序員想出了一個(gè)創(chuàng)造性的解決方案來克服對(duì)AV的恐懼。Mobileye以覆蓋了600萬起事故的NHTSA數(shù)據(jù)作為部分基礎(chǔ)，制作出總量接近40的場景集合，幾乎涵蓋了所有車輛事故的變化情況。在此基礎(chǔ)上，該公司將依據(jù)交通法規(guī)和道路條件做出的完美的人類司機(jī)判斷編撰成了算法規(guī)則。Shashua聲稱，通過把這些規(guī)則作為AV決策編程的基礎(chǔ)，汽車制造商就可以向汽車購買者保證，無人車在事故中永遠(yuǎn)都不會(huì)犯錯(cuò)。
Mobileye安全系統(tǒng)的核心是一個(gè)被稱為CautiousCommand（謹(jǐn)慎指令）的概念，這個(gè)概念描述了AV可用于持續(xù)維持其安全區(qū)的選項(xiàng)。比方說，下圖顯示的是一種常見情況，即藍(lán)色汽車試圖離開停車場，但因?yàn)楸唤ㄖ飺踝。钥床坏浇稚鲜欠裼辛硪惠v車正在開過來。負(fù)責(zé)任的人類司機(jī)會(huì)一點(diǎn)點(diǎn)地?cái)D進(jìn)道路，慢慢擴(kuò)大視野，直到他覺得可以放心開上路為止。實(shí)際上，他永遠(yuǎn)不會(huì)有完全的視野，最后只能根據(jù)直覺來做出決定。盡管這位司機(jī)也許已經(jīng)盡力，但令他受到指責(zé)的事故仍有發(fā)生的可能。而如果駕駛員開車走神的話，比如因?yàn)殚_了導(dǎo)航或者一邊打電話一邊開往下一站的話，就更有可能發(fā)生碰撞了。
相比之下，AV的CautiousCommand會(huì)根據(jù)車速限制計(jì)算出紅色車最高的合理速度，并確定自己可以探頭出來多遠(yuǎn)，讓紅色車一方面有剎車的機(jī)會(huì)，同時(shí)還能逐漸提高能見度。如果紅車的車速高于最高限速，那么如果發(fā)生事故就是紅車的錯(cuò)。而且，如果紅車是無人車的話，它駕駛起來會(huì)更加警惕，在預(yù)計(jì)到在其視線以外可能會(huì)有汽車駛出停車場的情況下，也許會(huì)往靠近中間的車道行駛。
RSS涵蓋了對(duì)象（車輛，行人等）被其他對(duì)象遮擋（隱藏）的情況。
CautiousCommand似乎有望令BillFord對(duì)自動(dòng)駕駛汽車必須做出棘手選擇的擔(dān)憂失去意義，這主要是因?yàn)樵诩磳l(fā)生的事故中有關(guān)誰死誰活的倫理困境，已經(jīng)被一條不帶感情、不會(huì)動(dòng)搖的規(guī)則所取代。這條規(guī)則是：如果碰撞即將發(fā)生（而且根據(jù)定義，這不會(huì)是AV的錯(cuò)誤），自動(dòng)駕駛汽車將會(huì)盡量避免事故，但不會(huì)通過造成另一個(gè)事故來緩解這起事故。換句話說，如果沒有其他安全選項(xiàng)的話，無人車將會(huì)撞上去，即便在此過程中乘客會(huì)被撞死。Shashua說：以任何其他方式來回答這個(gè)問題都會(huì)使我們陷入滑坡謬誤。因?yàn)橐惠v看起來后座似乎沒人坐的汽車其實(shí)正好坐著一個(gè)嬰兒，這樣如果它為了避免前面的AV撞上自己而調(diào)轉(zhuǎn)車頭的話可能就會(huì)撞到嬰兒。總會(huì)有一些看不到的參數(shù)讓你事后分析起來會(huì)發(fā)現(xiàn)AV其實(shí)做了更糟糕的事。
基于對(duì)成千上萬次事故的模擬，Mobileye認(rèn)為，如果每一家汽車制造商都采用它的方程式（Mobileye已經(jīng)對(duì)業(yè)界開源，可免費(fèi)使用），庫卡機(jī)器人，美國每年的車輛致死人數(shù)可以改善三個(gè)數(shù)量級(jí)也就是說，從現(xiàn)在每100萬駕駛小時(shí)致死1人降到到每10億駕駛小時(shí)致死40人。（當(dāng)然，此處的假設(shè)是所有的車都是無人車；而致死原因會(huì)是設(shè)備故障以及糟糕的駕駛條件）。