TinyML是深度學(xué)習(xí)和人工智能領(lǐng)域的最新技術(shù)。它帶來了在隨處可見的微控制器（幾乎是最小的電子芯片）中運行機器學(xué)習(xí)模型的能力。
微控制器是我們每天使用的許多設(shè)備的大腦。從電視遙控器到電梯再到智能揚聲器，它們無處不在。可以發(fā)射遙測數(shù)據(jù)的多個傳感器連接到微控制器。執(zhí)行器，例如開關(guān)和電動機，也連接到同一微控制器。它帶有嵌入式代碼，可以從傳感器獲取數(shù)據(jù)并控制執(zhí)行器。
TinyML的興起標(biāo)志著終端用戶消費人工智能方式的重大轉(zhuǎn)變。來自硬件和軟件行業(yè)的供應(yīng)商正在合作將人工智能模型引入微控制器。
在電子設(shè)備中運行復(fù)雜的深度學(xué)習(xí)模型的能力開辟了許多途徑。TinyML不需要邊緣、云或互聯(lián)網(wǎng)連接。它在同一個微控制器上本地運行，該微控制器具有管理連接的傳感器和執(zhí)行器的邏輯。
TinyML的演變
第1階段-云中的AI
在AI的早期，機器學(xué)習(xí)模型是在云中訓(xùn)練和托管的。運行AI所需的強大計算能力使云成為理想的選擇。開發(fā)人員和數(shù)據(jù)科學(xué)家利用高端CPU和GPU訓(xùn)練模型，然后托管它們以進行推理。每個消耗AI的應(yīng)用程序都與云對話。該應(yīng)用程序?qū)⑴c微控制器通信以管理傳感器和執(zhí)行器。
第二階段-邊緣人工智能
雖然云仍然是人工智能的邏輯家園，但它確實在消耗深度學(xué)習(xí)模型的同時引入了延遲。想象一下，每次與智能揚聲器通話時，請求都會被云處理。往返行程中的延誤扼殺了體驗。其他場景，如工業(yè)自動化、智能醫(yī)療、聯(lián)網(wǎng)車輛等，都要求人工智能模型在本地運行。
邊緣計算（云和本地物聯(lián)網(wǎng)設(shè)備之間的管道）已成為在本地托管AI模型的理想選擇。在邊緣運行的AI不會遭受在云中運行相同AI所帶來的延遲。
但是，鑒于邊緣資源有限，培訓(xùn)和再培訓(xùn)模型仍然需要云?？梢栽谶吘壨泄芙?jīng)過訓(xùn)練的模型，以進行推理（使用機器學(xué)習(xí)模型的過程），而不用于訓(xùn)練。因此，在云中訓(xùn)練模型并將其部署在邊緣變得很普遍。這種方法提供了兩全其美的優(yōu)勢-用于訓(xùn)練的強大計算環(huán)境（云）和用于推理的低延遲托管環(huán)境（邊緣）。
在邊緣使用AI時，微控制器從連接的傳感器獲取遙測，然后將遙測發(fā)送到本地部署的模型以通過應(yīng)用程序進行推理。然后，模型返回輸入數(shù)據(jù)的預(yù)測或分類，用于確定后續(xù)步驟。
階段3-微控制器中的AI
雖然在許多情況下在邊緣運行AI是一個完美的解決方案，但是在某些情況下，部署邊緣計算層是不切實際的。例如，將諸如智能揚聲器和遙控器之類的消費類設(shè)備連接到邊緣是過大的選擇。這增加了設(shè)備的總擁有成本和供應(yīng)商的支持成本。但是這些消費類設(shè)備是注入AI功能的溫床。
在工業(yè)場景中，預(yù)測性維護已成為設(shè)備的重要組成部分。昂貴的機械設(shè)備需要嵌入能夠?qū)崟r檢測異常的機器學(xué)習(xí)模型，以提供預(yù)測性維護。通過主動檢測故障，客戶可以節(jié)省數(shù)百萬美元的維護成本。
直接在微控制器中嵌入AI成為消費和工業(yè)物聯(lián)網(wǎng)場景的關(guān)鍵。這種方法不依賴于外部應(yīng)用程序，邊緣計算層或云。AI模型與嵌入到微控制器的嵌入式代碼一起運行。它成為提供無與倫比的速度的整體邏輯的組成部分。
傳統(tǒng)上，機器學(xué)習(xí)模型始終部署在資源豐富的環(huán)境中。由于TinyML模型可以嵌入微控制器中，因此它們不會占用大量資源。這種方法是將AI注入物聯(lián)網(wǎng)設(shè)備的最有效，最具成本效益的方法。
TinyML不斷發(fā)展的生態(tài)系統(tǒng)
盡管TinyML尚處于起步階段，但正在形成一個充滿活力的生態(tài)系統(tǒng)。電子芯片和物聯(lián)網(wǎng)套件制造商（例如Adafruit，聯(lián)發(fā)科技，Arduino和STM）正在其設(shè)備中支持TinyML。微軟的Azure Sphere（安全微控制器）也可以運行TinyML模型。TensorFlow Lite是流行的開源深度學(xué)習(xí)框架的變體，可以移植到支持的設(shè)備上。另一個開源機器學(xué)習(xí)編譯器和運行時Apache TVM也可以用于將模型轉(zhuǎn)換為TinyML。
Always AI、Cartesiam、EdgeImpulse、OctoML和Queexo等新興的AutoML和TinyML平臺正在構(gòu)建工具和開發(fā)環(huán)境，以簡化針對微控制器的訓(xùn)練和優(yōu)化模型的過程。
TinyML使AI無處不在，并可供消費者使用。它將為我們每天使用的數(shù)百萬種設(shè)備帶來智能。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
