隨著人工智能技術(shù)在自動(dòng)駕駛領(lǐng)域不斷取得突破，高度復(fù)雜的自動(dòng)駕駛技術(shù)開(kāi)始推進(jìn)商業(yè)化乃至普及化。
國(guó)際汽車(chē)工程師協(xié)會(huì)將廣義的自動(dòng)駕駛分為六個(gè)等級(jí)：非自動(dòng)（Level 0）、駕駛輔助（Level 1）、部分自動(dòng)（Level 2）、有條件自動(dòng)（Level 3）、高度自動(dòng)（Level 4）和完全自動(dòng)（Level 5）。其中，L1—L2常被稱(chēng)為智能駕駛，通常指車(chē)輛配備了一些先進(jìn)的駕駛輔助系統(tǒng)，如自適應(yīng)巡航控制（ACC）、車(chē)道保持輔助（LKA）、自動(dòng)緊急制動(dòng)（AEB）等，但駕駛員在使用系統(tǒng)時(shí)必須始終控制車(chē)輛，并且對(duì)車(chē)輛的行為負(fù)責(zé)。L3級(jí)別的車(chē)輛，在特定條件下可以完全或部分實(shí)現(xiàn)車(chē)輛自主控制的行駛，而不需要駕駛員的持續(xù)干預(yù)，但駕駛員仍需準(zhǔn)備隨時(shí)接管控制權(quán)。L4—L5級(jí)別的車(chē)輛，可以在大多數(shù)環(huán)境和條件下實(shí)現(xiàn)完全自動(dòng)駕駛。處于這一最高級(jí)的無(wú)人駕駛狀態(tài)下，車(chē)輛可以沒(méi)有方向盤(pán)和踏板，完全依賴(lài)內(nèi)置傳感器、軟件以及與遠(yuǎn)程系統(tǒng)的配合來(lái)完成定向、變速等操作。
簡(jiǎn)單而言，人工智能技術(shù)在汽車(chē)行業(yè)的發(fā)展目標(biāo)是將司機(jī)變?yōu)槌丝停M(jìn)而實(shí)現(xiàn)完全自動(dòng)化的交通系統(tǒng)，減少人為錯(cuò)誤，提高道路安全性。同時(shí)，將人從駕駛中解放出來(lái)，獲得更多的自由時(shí)間。在這一過(guò)程中，智能駕駛系統(tǒng)不能異化為“數(shù)字臥底”，不能在充當(dāng)司機(jī)的同時(shí)還兼職作為信息收集員，為其他商業(yè)組織提供服務(wù)或?qū)崿F(xiàn)社會(huì)監(jiān)控。在必要的情況下，智能駕駛系統(tǒng)還需具有“健忘的美德”，不過(guò)度上傳甚至存儲(chǔ)乘客私人信息，嚴(yán)格尊重和保護(hù)乘客隱私。
進(jìn)一步看，一旦自動(dòng)駕駛車(chē)輛高于L2級(jí)別，責(zé)任主體必然涉及人類(lèi)駕駛員、自動(dòng)駕駛系統(tǒng)和研發(fā)企業(yè)三者之間的權(quán)責(zé)分配問(wèn)題。而現(xiàn)行法律旨在規(guī)范人類(lèi)社會(huì)的行為，自動(dòng)駕駛系統(tǒng)尚不在這一框架的涵蓋范圍之內(nèi)。
如果說(shuō)上述問(wèn)題尚可通過(guò)規(guī)范技術(shù)、加強(qiáng)監(jiān)管、完善法規(guī)來(lái)降低風(fēng)險(xiǎn)，那么自動(dòng)駕駛技術(shù)在系統(tǒng)程序設(shè)定上的自主性越界往往是不可規(guī)避的。比如，在遭遇各類(lèi)突發(fā)事件時(shí)，智能駕駛系統(tǒng)會(huì)遵循一開(kāi)始的程序設(shè)定而作出“趨利避害”的選擇。這一選擇是在大數(shù)據(jù)分析下的系統(tǒng)性設(shè)定，尚無(wú)法基于個(gè)體性差異實(shí)現(xiàn)私人定制。
此外，智能駕駛系統(tǒng)設(shè)計(jì)不可避免地會(huì)受到算法設(shè)計(jì)團(tuán)隊(duì)的主觀(guān)偏好影響，包括價(jià)值觀(guān)、文化背景和個(gè)人經(jīng)驗(yàn)等。這些因素可能導(dǎo)致智能駕駛系統(tǒng)在學(xué)習(xí)和決策時(shí)依賴(lài)于相對(duì)固定的模板，而忽視全球范圍內(nèi)多樣化的駕駛習(xí)慣和文化背景，包括不同人群對(duì)車(chē)速、車(chē)距的個(gè)性化需求。
哲學(xué)家菲利帕·福特提出過(guò)一個(gè)著名的“電車(chē)難題”，自動(dòng)駕駛領(lǐng)域或許會(huì)面臨更為嚴(yán)峻的“新電車(chē)難題”：自動(dòng)駕駛汽車(chē)倘若遇到無(wú)力回天的情況，是應(yīng)該優(yōu)先保護(hù)乘客安全，還是優(yōu)先保護(hù)路人安全；是應(yīng)該優(yōu)先保護(hù)年輕人，還是優(yōu)先保護(hù)老年人？算法設(shè)計(jì)團(tuán)隊(duì)在兩難之中不得不作出偏好選擇，而這樣的選擇就會(huì)被納入智能駕駛系統(tǒng)的學(xué)習(xí)模型之中。這意味著相關(guān)決策不可避免地帶有價(jià)值預(yù)設(shè)，難免會(huì)剝奪自然人進(jìn)行個(gè)體差異化選擇的權(quán)利。
自動(dòng)駕駛技術(shù)的自主性邊界，可歸結(jié)為兩大問(wèn)題：其一，智能駕駛系統(tǒng)是否能夠僅僅滿(mǎn)足于接管乘客所讓渡的駕駛自主性，而不至于傷害乘客其他方面的自主性？其二，乘客是否有回收駕駛自主性，并在一些兩難的道德問(wèn)題上自作主宰的權(quán)利。顯然，自動(dòng)駕駛技術(shù)發(fā)展的目標(biāo)在于更好地服務(wù)于人的駕乘體驗(yàn)，而非使人喪失自主性，從而成為一種異化力量。
閱讀原文
作者丨崔琳菲（作者單位：華東師范大學(xué)哲學(xué)系）
來(lái)源丨解放日?qǐng)?bào)
編輯丨王越月
編審丨戴琪
