據(jù)外媒報(bào)道,最近,特斯拉一項(xiàng)名為“讓神經(jīng)網(wǎng)絡(luò)模型適應(yīng)硬件平臺(tái)的系統(tǒng)和方法”(System and Method for Adapting a Neural Network Model On a Hardware Platform)的專利被公布。
(圖片來(lái)源:teslarati.com)
一般而言,神經(jīng)網(wǎng)絡(luò)是一組用于收集數(shù)據(jù)并從中識(shí)別模式的算法。所收集的具體數(shù)據(jù)取決于所涉及的平臺(tái)以及平臺(tái)可以向網(wǎng)絡(luò)發(fā)送的信息類型,如攝像頭/圖像數(shù)據(jù)等。平臺(tái)之間的差異意味著神經(jīng)網(wǎng)絡(luò)算法之間的差異,而進(jìn)行調(diào)整對(duì)于開發(fā)人員而言非常耗時(shí)。就像應(yīng)用程序必須經(jīng)過(guò)編程才能夠在手機(jī)或平板電腦的操作系統(tǒng)或硬件上工作一樣,神經(jīng)網(wǎng)絡(luò)也是如此。不過(guò),特斯拉對(duì)于神經(jīng)網(wǎng)絡(luò)的適應(yīng)性問(wèn)題,采取的是自動(dòng)化方法。
在讓神經(jīng)網(wǎng)絡(luò)適應(yīng)特定硬件的過(guò)程中,軟件開發(fā)人員必須根據(jù)所用硬件中內(nèi)置的可用選項(xiàng)來(lái)做出決策。通常,需要依次對(duì)此類選項(xiàng)進(jìn)行研究、對(duì)硬件文檔進(jìn)行審查以及對(duì)影響進(jìn)行分析,選擇好每一組選項(xiàng),最終添加到神經(jīng)網(wǎng)絡(luò),成為一種配置。特斯拉將此類選項(xiàng)稱為“決策點(diǎn)”,也是該項(xiàng)發(fā)明發(fā)揮作用的關(guān)鍵部分。
根據(jù)專利申請(qǐng)文件,在插入神經(jīng)網(wǎng)絡(luò)模型以及特定硬件平臺(tái)信息,以讓神經(jīng)網(wǎng)絡(luò)適應(yīng)硬件平臺(tái)后,軟件代碼就會(huì)遍布整個(gè)神經(jīng)網(wǎng)絡(luò),以了解決策點(diǎn)的位置,然后針對(duì)此類決策點(diǎn)運(yùn)營(yíng)硬件參數(shù),實(shí)現(xiàn)可用的配置。更具體地說(shuō),該軟件方法著眼于硬件限制(如處理資源和性能指標(biāo)的限制),并為神經(jīng)網(wǎng)絡(luò)生成滿足讓其正確運(yùn)行的設(shè)置。
該文件寫道:“為了讓抽象的神經(jīng)網(wǎng)絡(luò)得到具體執(zhí)行,可能要做出有關(guān)一個(gè)或多個(gè)系統(tǒng)部件、數(shù)值精度、算法選擇、數(shù)據(jù)填充、加速器使用、步幅等的執(zhí)行決策,可能需要在神經(jīng)網(wǎng)絡(luò)的每一層或每一個(gè)張量基礎(chǔ)上做出此類決策,因此一個(gè)特定的神經(jīng)網(wǎng)絡(luò)可能需要做出上百個(gè),甚至更多的決策。本發(fā)明在執(zhí)行神經(jīng)網(wǎng)絡(luò)之前考慮了許多因素,因?yàn)榈讓榆浖蛴布脚_(tái)不支持很多配置,而此類配置可能會(huì)導(dǎo)致神經(jīng)網(wǎng)絡(luò)無(wú)法執(zhí)行?!?/p>
特斯拉的發(fā)明還具備在圖形界面上顯示神經(jīng)網(wǎng)絡(luò)配置信息,從而以更加用戶友好的方式做出評(píng)估和選擇的能力。例如,不同的配置可能需要不同的評(píng)估時(shí)間、功耗或內(nèi)存消耗。如根據(jù)跟蹤模式(Track Mode)和距離模式(Range Mode)之間的差異來(lái)選擇配置,而不是根據(jù)人們希望AI如何與硬件一起工作來(lái)選擇配置。
據(jù)報(bào)道,該項(xiàng)專利申請(qǐng)似乎是特斯拉收購(gòu)了DeepScale之后研究出的產(chǎn)品之一。DeepScale是一家專注于全自動(dòng)駕駛和為小型設(shè)備設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)的AI初創(chuàng)公司。該項(xiàng)專利的發(fā)明者是Michael Driscoll博士,他曾是DeepScale公司的高級(jí)工程師,后來(lái)成為特斯拉的高級(jí)軟件工程師。在今年進(jìn)行獨(dú)立研究之前,DeepScale前首席執(zhí)行官Forrest Iandola博士也曾在特斯拉擔(dān)任高級(jí)機(jī)器學(xué)習(xí)科學(xué)家一職。