by Aditya Madanapalle

道德考量

無(wú)人駕駛汽車的問(wèn)題可以概括為自動(dòng)駕駛汽車的道德規(guī)范。在問(wèn)題的經(jīng)典版本中,有一輛車沿著車道行走,駕駛員必須在保持車道和切換車道之間做出選擇。如果繼續(xù)保持在當(dāng)前車道上,那么將有五人被殺。但是,如果他切換車道,則會(huì)只有一個(gè)人會(huì)被殺死。 2014年,麻省理工學(xué)院的研究人員建立了“道德機(jī)器”,以測(cè)試世界各地人們對(duì)自動(dòng)駕駛汽車可能會(huì)遇到的棘手問(wèn)題的態(tài)度和方法。

本質(zhì)上,車輛必須選擇要撞到的東西。例如,汽車將與寵物發(fā)生相撞,是否應(yīng)該轉(zhuǎn)彎而與人相撞?這類情況是為殘疾人、年老、年輕、守法的公民、罪犯、男人,婦女、健康和有病的人設(shè)立的。

該研究的主要作者Edmond Awad解釋說(shuō):“該研究基本上是在試圖理解無(wú)人駕駛汽車可能要訴諸的道德決定。我們還不知道他們應(yīng)該怎么做?！比绻囕v能夠識(shí)別出犯罪分子,那么它必須非常聰明才能找出適合的人以及隱私隱患,但是我們僅假設(shè)車輛可以做出這樣的區(qū)分。

四年后,研究人員得到了答案。編入無(wú)人駕駛汽車的決策可能必須取決于汽車的位置。例如,假設(shè)車輛必須在撞上老人或兒童之間做出選擇。在法國(guó)和希臘,這種文化使年輕人可以幸免。然而,在中國(guó)和日本,老年人受到更多的尊重,更受歡迎的選擇是使老年人處境更加安全。但是,對(duì)于各種選擇,文化態(tài)度并不相同。考慮到在節(jié)省旅客和行人之間可以做出選擇,日本和中國(guó)處于相反的境地。日本人想挽救乘客,而中國(guó)人想饒恕行人。

研究人員從道德引擎中學(xué)到的東西是,人們想要的可能不是最佳的道德選擇,決策者可能需要介入并確保這些工具做出與大眾期望相反的決定。例如,世界上大多數(shù)人都認(rèn)為,將地位高的人的安全放在地位低的人的安全上是可以接受的。

現(xiàn)在的事情是,當(dāng)車輛被編程為以某種方式起作用時(shí),它將在每次具有相同選擇的情況下都選擇該選項(xiàng)。例如,可以對(duì)車輛進(jìn)行編程以使一個(gè)8歲的孩子免于受傷,并撞到一個(gè)80歲的男人。現(xiàn)在,每次得到選擇時(shí),它都會(huì)做同樣的事情,乘客無(wú)權(quán)干預(yù)此決定,制造商已經(jīng)做出了道德選擇。

在法國(guó)的中國(guó)乘客上車時(shí)可能會(huì)面臨道德難題。乘客可能會(huì)更加猶豫,因?yàn)樗麄冎琅c行人相比,自己的生活將受到較低的重視。一種建議是,如果出現(xiàn)這種情況,則將控制權(quán)提供給駕駛員。但是,有研究表明,大多數(shù)人根本無(wú)法做出足夠迅速的反應(yīng)來(lái)做出這樣的決定,因此這不是可行的方法。所有這些考慮都引出了一個(gè)問(wèn)題,人類是否愿意讓計(jì)算機(jī)做出生死攸關(guān)的決定?

但是,考慮到自動(dòng)駕駛汽車的實(shí)際工作方式,決策可能不會(huì)那么簡(jiǎn)單,而只是做出選擇并繼續(xù)前進(jìn)。決策過(guò)程是連續(xù)的,就像從所有傳感器了解周圍環(huán)境和車輛當(dāng)前狀態(tài)的過(guò)程一樣。在自動(dòng)駕駛汽車的計(jì)算機(jī)大腦中,權(quán)重賦予了某些概率,并根據(jù)這些概率采取后續(xù)行動(dòng)。

例如,看似純白色的表面可以解釋為霧墻,實(shí)際上可能是水泥墻或卡車的后部。對(duì)功能性質(zhì)進(jìn)行的任何判斷都可能隨時(shí)隨地更改。這通知了車輛做出的決定。因此,將道德考慮因素真正納入自動(dòng)駕駛汽車的編程是一項(xiàng)非常細(xì)微的工作。車輛可能不得不在沒(méi)有完整的周圍環(huán)境信息的情況下做出決定,這受到車載傳感系統(tǒng)的限制。