倫理困境遠比技術(shù)問題更難解決。
創(chuàng)業(yè)邦（ID：ichuangyebang）原創(chuàng)
作者丨潘磊
【資料圖】
編輯丨海腰
題圖丨無人駕駛測試車
“無人駕駛都是扯淡，它就是一場皇帝的新裝”。
3月底，無人駕駛突然變成了過街老鼠，被定義為“虛頭巴腦的忽悠”。
這種看法有不少擁躉。
有芯片研發(fā)公司創(chuàng)始人表示，不需要真正實現(xiàn)無人駕駛，甚至連L3級駕駛輔助功能，在10年后都不會真正實現(xiàn)。
但這種“無人駕駛扯淡論”，也有不少人并不同意。
比如小鵬汽車董事長何小鵬，就在一個PPT中表示無人駕駛并不是“扯淡”。
華為高管余承東認為，（說自動駕駛是扯淡）要么是不了解，要么就是心存故意。“因為自己沒做好（自動駕駛），所以要打擊這個行業(yè)”。
現(xiàn)在的問題是——自動駕駛到底是一個技術(shù)烏托邦，還是一個正在接近實現(xiàn)的愿景？
常識是，如果沒有無人駕駛或者自動駕駛技術(shù)，可能就談不上所謂的“智能汽車”。
悖論在于，到目前為止，人類依然沒有搞定這種技術(shù)，尚不能在一輛處于行駛狀態(tài)的汽車中睡覺或者心無旁騖地喝咖啡。
所以分歧出現(xiàn)了。
這是一場革命，還是烏托邦？任何去過北京亦莊的人，在某一刻可能都會有一種時空穿越的錯覺。
因為當你漫步街頭，時不時會看到一輛車內(nèi)沒有任何司乘人員的汽車駛過，尤其是在路口轉(zhuǎn)彎時，這種車往往還會“主動”禮讓穿越馬路的行人。
這會讓很多初次到訪的人頗為驚訝。
但對當?shù)厝藖碚f，這種情況早已習以為?！獙τ谝粋€旁觀者來說，也許這才是讓人真正震撼的地方——事實上，這里的人正在演繹出一幅未來出行場景。
這種現(xiàn)象不僅僅發(fā)生在亦莊。
在上海嘉定、廣州等多個一線城市，以及美國加州的山景城和鳳凰城，都在上演同樣的場景。
與之類似的情況是，在一些自動化程度較高的工廠里，員工也早已對來回穿梭、自主運送貨物的AGV（Automated Guided Vehicle）習以為常。
所以人們的好奇在于——普通汽車是否會像馬車那樣，退出歷史舞臺，而“機器司機”成為日常出行工具？
一部分瘋狂的冒險者已經(jīng)在嘗試這樣做。
無論是中國還是海外的社交媒體平臺上，時不時都會出現(xiàn)一輛汽車在路上行駛，但是駕駛者卻在睡覺的場面。
這些車輛普遍搭載了“輔助駕駛系統(tǒng)”，能夠在一定程度上幫助用戶實現(xiàn)車道偏離預警、自適應巡航等功能。
但是危險已經(jīng)出現(xiàn)。
2018年，出行公司Uber的一輛自動駕駛汽車，在美國亞利桑那州Tempe市的街道行駛時，撞倒了一位名叫Elaine Herzberg的行人，后者不幸死亡。
這是全球第一起自動駕駛汽車交通致死案。
調(diào)查結(jié)果顯示，Uber自動駕駛汽車內(nèi)的安全員事發(fā)時正在收看電視節(jié)目《美國之聲》，沒有注意到正在橫穿馬路的行人，導致事故發(fā)生。
Uber并沒有因此被提起刑事訴訟，但安全員后來被控過失殺人。
這起事故集中反映了人們對于自動駕駛的恐懼和抵制心理——沒有人愿意把自己的性命交付于一個毫無感情且能力不足的機器。
人類有本能，但機器沒有Uber制造的那起事故表明了一個可怕的事實——至少在當下，機器還遠稱不上完美。
這是一個技術(shù)問題。
到目前為止，沒有哪個公司或者機構(gòu)能夠宣布，自己研發(fā)的自動駕駛技術(shù)可以真正替代人類司機。
沒有人敢打這個包票。
盡管在人類的駕駛行為中，99%的操作都是可預測的，但仍有1%無法被預測。
這個1%的“黑障”階段足以引發(fā)致命事故，技術(shù)專家稱之為“極端事件（Corner Cases）”。
當然即便是人類司機，也會遇到那1%的突發(fā)性小概率事件，但作為一個生物體，“本能”能夠有效地幫助人類應對這種極端情況。
這種“本能”是長期進化的結(jié)果，還沒有哪種軟件能夠重現(xiàn)這個過程，并把結(jié)果移植到一個機器司機的中央處理器中。
以此作為對照，一輛自動駕駛汽車的核心價值，就在于能否復制人類作為一種碳基生物的本能。
如果無法做到這一點，倉促上路的自動駕駛汽車，無疑將會引發(fā)巨大的混亂。
這看上去的確讓人絕望。
因為如果機器也擁有了“本能”，幾乎相當于擁有了自我意識。
這很可怕——人類還不知道與一個會思考的機器人如何相處。
所以從技術(shù)角度得出“自動駕駛是扯淡”的結(jié)論，似乎也能講得通。
倫理難題，導致法律難題技術(shù)不是自動駕駛的唯一問題，更艱難的部分，可能與倫理、法律有關(guān)。
一個典型的場景是：一輛自動駕駛汽車正行駛在懸崖道路上，即將撞向另一側(cè)對向車道上則開來了一輛滿載乘客的大巴車——這種情況下，該如何做出選擇？
這涉及到一個與道德倫理有關(guān)的問題。
事實上，自動駕駛汽車系統(tǒng)軟件程序編寫者的價值觀，決定了這輛車將要撞向哪個方向。
一般而言，程序編寫者可能將會引導自動駕駛規(guī)避與大巴的相撞，選擇開向懸崖，以自我犧牲換取多數(shù)人的獲救。
在現(xiàn)實生活中，當一個人類司機面對類似場景時，可能也會做出同樣的選擇。
但需要指出的是，人類司機自愿犧牲自我，以保全大家，與未經(jīng)自己同意機器司機就擅自決定自我犧牲是兩碼事。
還有一點需要注意，那就是自動駕駛汽車軟件代碼的編寫者，其價值觀不一定和乘員相符合——沒有兩個人是一模一樣的。
所以對于乘坐在自動駕駛車上的人來說，其倫理和價值觀并不一定與機器的選擇一致。
這能帶來額外的法律問題——這起事故到底該由誰來承擔責任？
對于人類司機來說，已經(jīng)有一套現(xiàn)成的流程來調(diào)查事故原因，并做出判斷，同時搞定責任劃分。
比如在迫在眉睫的碰撞中，人的本能往往要求其做出損害最少的選擇——無論這種選擇是否會導致事故中另一方的更大損害。
但歸根結(jié)底，人類有一整套法律體系來判明是非，并作出判決。
而且事故本身也是難以標準化的——程序員不一定能夠從“人類本能”的角度去寫代碼——因為其并沒有真正經(jīng)歷那種生死時刻，只是模擬了那個時刻。
程序編寫者也許不需要承擔法律責任，但卻無法避開倫理責任。
鑒于每一起事故都完全不同，用統(tǒng)一代碼來應對所有與倫理有關(guān)的突發(fā)時刻，實際上也很難執(zhí)行。
這也讓程序員陷入一種法律或者倫理困境，其要么構(gòu)成重大過失，要么會被認為預謀殺人。
自動駕駛由此可能真的進入了死胡同。
這涉及到另一個問題——即是不是用戶對于自動駕駛的期待，需要做出一些改變？
機器崛起時代來了？毋庸置疑，Uber在亞利桑那州的事故不會是自動駕駛汽車的最后一起事故，Elaine Herzberg也不會是最后一個不幸的受害者。
但另一個事實也很清楚——即便人們沒有使用自動駕駛汽車，也可能會成為交通事故的當事人。
換句話說，每年都有人死于交通事故，但人們認為這種損害的程度，要低于潛在收益，所以也接受了“零死亡事故”不可能消失的現(xiàn)實。
有資料顯示，2022年在美國有4.6萬人死于交通事故，同比增長了22%，專家認為駕駛員在駕駛過程中分心造成了這一后果，比如一邊開車一邊使用手機。
這反而提供了一種可能性，即如果自動駕駛汽車能夠讓人類用戶在汽車內(nèi)無需關(guān)注路況，并解放雙手，那么潛在收益將非?？捎^。
另外，鑒于大多數(shù)事故都是人為引發(fā)的，自動駕駛能幫助大幅減少事故。
其中的界限也很清晰——對于自動駕駛汽車來說，只要其安全駕駛記錄超過人類駕駛員的平均水平，那它就是有用的。
基于此，自動駕駛汽車不需要必須具備完美的安全記錄才能獲準上路——“完美”本身就是一個偽命題。
操作層面，只需要算出人類司機發(fā)生事故的平均里程數(shù)，就能把這個指標量化。
關(guān)于倫理問題，也有一個角度可以解決。
在面對一個突發(fā)事件時，人類司機事實上通過本能反應以解決“誰可以犧牲掉”的難題，只要讓自動駕駛系統(tǒng)按照潛在的損失大小進行量化比較，就能在不可避免的事故中，做出恰當且最符合人類選擇的決定。
這又涉及到了技術(shù)——機器能復制人類本能嗎？
過去很長一段時間內(nèi)也許都不能，但現(xiàn)在事情發(fā)生了變化——機器學習時代來臨了。
通過車載視覺系統(tǒng)在真實行駛中收集的數(shù)據(jù)，持續(xù)訓練與自動駕駛有關(guān)的深度學習模型，從而讓其像人類嬰兒一樣，通過感知外界來認識世界，既了解真正的危險，又不斷儲存經(jīng)驗，從而健康長大成人。
ChatGPT的出現(xiàn)，有可能成為人類進入自動駕駛時代的又一個助推器。
技術(shù)正在解決一切問題，包括往往滯后于創(chuàng)新本身的法律問題。
作為未來移動出行的一項具有足夠吸引力的創(chuàng)新發(fā)明，自動駕駛描繪了一個更加安全和便利的出行愿景——這正是很多初創(chuàng)公司獲得資本青睞的原因。
當然這還是一個未知的世界，有諸多不確定因素。
一方面，從技術(shù)和安全角度對自動駕駛提出高標準合乎邏輯，但另一方面，對“零事故”不切實際的期待也可能讓創(chuàng)新裹足不前，從而喪失技術(shù)變革帶來的巨大收益。
對于一個商業(yè)公司來說，關(guān)于這種技術(shù)是否“扯淡”的言論談不上對錯，畢竟每個公司情況不同。
但汽車100多年來都沒有發(fā)生過革命性變化表明，自動駕駛擁有一個開啟全新維度的機會——在這個十字路口，做出任何選擇，其結(jié)果都需要時間來判斷對錯。
即便是在最保守的情況下，自動駕駛汽車都是一個新奇的產(chǎn)品創(chuàng)新，具備可觀的市場潛力。