AON的聲音/語音識(shí)別邊緣AI處理器

“邊緣AI”是席卷IoT、嵌入式和AI市場(chǎng)的最新趨勢(shì)，我們也需要更多了解這些邊緣AI方法之間底有什么區(qū)別。一家名為AONDevices的初創(chuàng)公司正在走一條務(wù)實(shí)的道路，它的ASIC在功耗、處理能力和識(shí)別精度方面表現(xiàn)出色。

光說AI是不夠的。“邊緣AI”被認(rèn)為是減少延遲和帶寬、提高可靠性、增加數(shù)據(jù)安全和隱私，同時(shí)削減邊緣計(jì)算功耗的關(guān)鍵。

但不是所有的“邊緣AI”都是一樣的。

關(guān)于在何處以及如何將AI置于邊緣的問題，方法各不相同。一些供應(yīng)商使用自己的MCU，另一些則將AI嵌入到無線SoC中。許多AI初創(chuàng)公司希望將其AI處理器設(shè)計(jì)到終端系統(tǒng)中。

AON的CEO Mouna El Khatib提醒說，問題是，由于對(duì)OEM們很重視實(shí)施結(jié)果，所以其結(jié)果在功耗、處理速度和AI算法性能方面可能會(huì)讓系統(tǒng)OEM失望。

特定應(yīng)用的AI處理器

AON是一家位于加州Irvine的fabless公司，專門從事特定應(yīng)用的邊緣AI處理器。AON將其使命描述為“在電池供電的設(shè)備中實(shí)現(xiàn)語音激活和聲音識(shí)別的邊緣AI”。

許多AI芯片初創(chuàng)公司的主要目標(biāo)是在探索應(yīng)用之前設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)處理器，與此不同，El Khatib從一開始就知道她的處理器必須解決的問題。她說：“我想創(chuàng)造一種解決方案，保證任何模式識(shí)別都是開箱即用的。”

對(duì)于AON來說，AI不是目標(biāo)，而是解決特定應(yīng)用問題的手段。

在創(chuàng)建AON之前，El Khatib曾在Connexant和Qualcomm從事語音、音頻和硬件DSP SoC領(lǐng)域擔(dān)任首席工程師，此外還曾在Brainchip短暫任職。她的親身經(jīng)歷讓她了解到邊緣AI的局限性和陷阱。

她說，邊緣AI往往會(huì)引發(fā)“硬件、軟件和算法開發(fā)者之間彼此推責(zé)”。它可以由需要大量手工編碼軟件的音頻DSP處理器和功耗很大的通用CPU實(shí)現(xiàn)。一個(gè)帶有神經(jīng)網(wǎng)絡(luò)加速器的混合方法可能需要復(fù)雜的調(diào)整。處理器和算法之間的不匹配（硬件不夠強(qiáng)大，無法運(yùn)行算法，或者第三方算法太大，無法在通用處理器上運(yùn)行）并不罕見。

最糟糕的結(jié)果是識(shí)別性能不佳。El Khatib說：“如果它不能一直工作，或者它不準(zhǔn)確，人們就不會(huì)信任邊緣AI。”

因此，她解釋說，AON已經(jīng)開發(fā)了將算法嵌入ASIC的解決方案。她指出，“我們認(rèn)為算法和硬件的共同設(shè)計(jì)對(duì)于在超低功耗下提供高性能語音和聲音識(shí)別至關(guān)重要。”

AON的產(chǎn)品

AON以兩種形式提供其邊緣AI處理器，IP和機(jī)器學(xué)習(xí)芯片。神經(jīng)處理ASIC與深度學(xué)習(xí)算法緊密耦合。

AON聲稱，其超低功耗和多模態(tài)芯片可以同時(shí)處理多個(gè)語音指令、聲音事件和傳感器融合。通過添加另一個(gè)傳感器（如加速度計(jì)）AON的多核AI可以處理手勢(shì)識(shí)別，為識(shí)別的聲音添加上下文。

AON的神經(jīng)處理ASIC稱為AON1100，實(shí)現(xiàn)了“通過使用單個(gè)麥克風(fēng)，而不是像許多公司那樣依賴兩個(gè)麥克風(fēng)，在0dB信噪比下的命中率達(dá)到90%”。

該芯片采用40nm工藝制造，功耗為260µW。當(dāng)被問及在產(chǎn)品中添加AON的SoC的成本時(shí)，El Khatib表示，根據(jù)數(shù)量，AON1100的成本為1-2美元。

AON的經(jīng)營(yíng)狀況

在一個(gè)習(xí)慣于用融資能力來衡量AI芯片初創(chuàng)公司的價(jià)值和技術(shù)的行業(yè)氛圍中，AON一直未受關(guān)注。

事實(shí)證明，2018年以260萬美元種子資金成立的AON不需要融資，因?yàn)樗呀?jīng)有了三個(gè)付費(fèi)的大客戶，兩個(gè)芯片供應(yīng)商和一個(gè)大型移動(dòng)OEM。

其中一個(gè)客戶是Dialog Semiconductor。根據(jù)AON網(wǎng)站上的介紹，Dialog正在將AI集成到該公司的先進(jìn)無線通信IC中，以“在邊緣為所有應(yīng)用提供語音活動(dòng)和熱詞檢測(cè)”。

當(dāng)被問及那個(gè)大型移動(dòng)OEM客戶時(shí)，El Khatib解釋說，它正在授權(quán)AON的IP，計(jì)劃集成到自己的SoC中。

這位CEO指出，AON目前正在進(jìn)行A輪融資，目標(biāo)是1000萬-1500萬美元。

AON的管理團(tuán)隊(duì)由經(jīng)驗(yàn)豐富的高管組成，他們?cè)贑onnexant、Qualcomm、Intel和Broadcom等公司工作。例如，COO Ziad Mansour曾擔(dān)任工程高級(jí)副總裁，領(lǐng)導(dǎo)Qualcomm的CDMA技術(shù)（QCT）部門的數(shù)字硬件組。Khatib說服他在退休后加入AON。

語音/聲音識(shí)別的演變

Fortune Business Insights預(yù)測(cè)，語音/聲音識(shí)別市場(chǎng)將從2018年的69億美元增長(zhǎng)到2026年的2830億美元。

在這一兩位數(shù)的年復(fù)合增長(zhǎng)率背后，是促使其發(fā)展的一系列創(chuàng)新。從“Hey Siri”、“OK，Google”等智能音箱和智能手機(jī)開始，語音識(shí)別技術(shù)已經(jīng)發(fā)展到耳機(jī)、智能手機(jī)和IoT等設(shè)備上的聲音識(shí)別。現(xiàn)在，該技術(shù)可以在遙控器或耳機(jī)上提供有或無喚醒詞的設(shè)備語音指令。

AON認(rèn)為，未來的方向是支持“同時(shí)使用多個(gè)喚醒詞、語音指令、聲音識(shí)別和傳感器融合”的設(shè)備。這類設(shè)備包括hearables、可穿戴設(shè)備、機(jī)器、機(jī)器人，甚至是車輛。

鑒于語音識(shí)別技術(shù)的快速發(fā)展及其迅速發(fā)展的應(yīng)用，El Khatib為邊緣AI解決方案將變得無處不在的未來提出了一些基本規(guī)則。“首先，它必須永遠(yuǎn)開著，而且必須以超低功耗工作。”

其次，她說，“我們需要在不使用降噪的情況下實(shí)現(xiàn)語音和聲音識(shí)別。”現(xiàn)實(shí)世界是混亂和嘈雜的。語音和聲音識(shí)別必須能夠經(jīng)受住這種現(xiàn)實(shí)。更重要的是，耳機(jī)和hearables的聲音識(shí)別應(yīng)該能夠通過自動(dòng)禁用降噪和降低音量來提醒用戶注意外部危險(xiǎn)，如鳴笛和嬰兒的苦惱，用音樂質(zhì)量換取安全。

競(jìng)爭(zhēng)格局

除了一大批新的AI處理器公司，許多MCU供應(yīng)商也在尋求在邊緣實(shí)現(xiàn)AI。

一批SoC供應(yīng)商正在考慮將機(jī)器學(xué)習(xí)集成到邊緣設(shè)備中，并稱這種趨勢(shì)是“IoT中備受期待的發(fā)展之一”。例如，Silicon Labs正在提供內(nèi)置AI/ML硬件加速器的無線SoC。

添加一個(gè)硬件加速器作為協(xié)處理器來減輕MCU負(fù)載是實(shí)現(xiàn)AI/ML的一個(gè)流行方法。但也有需要留意的地方。

El Khatib解釋說：“一般來說，這些硬件加速器仍然需要在MCU中進(jìn)行大量的處理，造成更高的功耗和更高的延遲。”她說，主要的問題是，這是一個(gè)通用系統(tǒng)，需要OEM廠商尋找和嵌入自己的算法。芯片公司要求OEM從第三方采購(gòu)工具，同時(shí)繼續(xù)對(duì)最終系統(tǒng)負(fù)責(zé)。El Khatib說：“基本上，購(gòu)買了這些部件的系統(tǒng)公司必須確保他們組合起來的解決方案有效。”

AON的任務(wù)是通過提供完整的解決方案來避免復(fù)雜化：硬件、算法、工具和軟件被設(shè)計(jì)為協(xié)同工作。El Khhatib聲稱：“客戶只需定義用例，向工具組提供數(shù)據(jù)，并迅速啟動(dòng)和運(yùn)行。”

同時(shí)，像Apple這樣的智能手機(jī)公司正在其應(yīng)用處理器上運(yùn)行AI/ML軟件。例如，iPhone可以運(yùn)行聲音識(shí)別，檢測(cè)玻璃破碎、煙霧警報(bào)或嬰兒哭鬧等情況。在一個(gè)視頻演示中，AON將自己的解決方案與基于iOS15的iPhone進(jìn)行了對(duì)比，雖然iPhone在檢測(cè)聲音，但用戶無法使用語音識(shí)別功能（嘿，Siri）。在演示中，iPhone在聲音檢測(cè)和識(shí)別方面也出現(xiàn)了延遲。但最大的問題是功耗，El Khatib指出，“在應(yīng)用處理器中運(yùn)行軟件對(duì)電源來說不是最好的選擇。”

AON尚未對(duì)外透露其處理架構(gòu)的細(xì)節(jié)。但在AI初創(chuàng)公司中，這家公司與眾不同，因?yàn)樗鼪]有專注于激烈的TOPS競(jìng)爭(zhēng)或追逐資金。AON明確專注于特定的應(yīng)用（以超低功耗進(jìn)行語音和聲音識(shí)別），正在采取實(shí)用的邊緣AI路線。