既然邊緣計算服務(wù)器在中國具備發(fā)展機(jī)遇，那么與之相關(guān)的Edge AI、邊緣計算SSD又如何？在日前舉辦的2023 CFMS上，宜鼎國際嵌入式閃存事業(yè)部副總裁兼總經(jīng)理吳錫熙針對“SSD在Edge AI趨勢下的應(yīng)用”做了主題演講。他通過介紹了宜鼎國際(Innodisk)及旗下的子公司的分工，全面介紹了SSD如何在Edge AI市場落地。GOAesmc

GOAesmc

宜鼎國際嵌入式閃存事業(yè)部副總裁兼總經(jīng)理吳錫熙GOAesmc

Edge AI應(yīng)用如何快速落地？

據(jù)介紹，宜鼎集團(tuán)旗下子公司安提國際(Aetina)負(fù)責(zé)AI計算，維新應(yīng)用(Sysinno)負(fù)責(zé)數(shù)據(jù)收集，巽晨國際(Millitronic)負(fù)責(zé)通訊，安捷科(ANTZER TECH)負(fù)責(zé)車聯(lián)網(wǎng)，宜鼎負(fù)責(zé)存儲產(chǎn)品、攝像頭等設(shè)備。不同的分工讓宜鼎國際可為客戶提供，從資料采集、傳輸、儲存到計算的全套解決方案。GOAesmc

下一個成長引擎是由AI驅(qū)動的。宜鼎在AI產(chǎn)業(yè)中偏向Edge AI市場，而非云端AI市場。最基本的AI智能計算元素是Training(訓(xùn)練)和Inference(推論)，只有經(jīng)過推論后才能在Edge上使用AI模型。限制當(dāng)前AI發(fā)展的主要是算力不足，現(xiàn)在有很多平臺可提供算力服務(wù)，包括NVIDIA GPU平臺、英特爾 CPU/GPU平臺、賽靈思FPGA平臺、其他ASIC加速器等，但產(chǎn)業(yè)即將面臨的挑戰(zhàn)在于——AI是跨平臺的，它的運(yùn)算平臺種類多樣，針對深度學(xué)習(xí)模型設(shè)計的運(yùn)算平臺種類越來越多，但每款平臺所需要的模型格式和執(zhí)行環(huán)境都完全不同，所以解決方案提供商要考慮跨平臺做整合。GOAesmc

吳錫熙展示了宜鼎的邊緣AI解決方案架構(gòu)圖，底部的算力平臺包括CPU、GPU、ASIC、FPGA，利用Edge AI軟件把算力平臺串聯(lián)到整個架構(gòu)中。AI具體該怎么樣落地？其實，現(xiàn)在這一環(huán)節(jié)的AI落地非常簡單，只需在前端部署軟件和訓(xùn)練好的程序，就可以實現(xiàn)一個AI應(yīng)用的落地。宜鼎在這一過程中，可為客戶提供軟件、硬件、模組，加快其AI落地的速度。GOAesmc

在這一架構(gòu)中，云端的管理軟體非常重要。AI、Edge AI會部署到很多地方，在部署這一動作結(jié)束之后，這些AI和Edge AI還要做管理。無論是私有云還是公有云，通過加載iCAP這類軟件，可以很好的管理所部署的AI。GOAesmc

GOAesmc

宜鼎芯存科技(深圳)有限公司總經(jīng)理游禮印GOAesmc

宜鼎國際大陸分公司宜鼎芯存科技(深圳)有限公司總經(jīng)理游禮印補(bǔ)充表示，iCAP是宜鼎針對遠(yuǎn)程管理的一套從云到端的一個整體解決方案，該軟件每年都會有一次比較重大的更新，目前已經(jīng)更新數(shù)個版本。通過iCAP可遠(yuǎn)程管理上千甚至上萬個設(shè)備，可以看到設(shè)備的CPU、存儲的狀況，也能做自動化管理、遠(yuǎn)程開關(guān)、軟件更新等操作，又搭配到一些在云方面的安全機(jī)制。GOAesmc

對AI級的數(shù)據(jù)處理而言，無論是學(xué)習(xí)還是推論，數(shù)據(jù)會在不同平臺之間，或者不同系統(tǒng)之間做交換，iVIT可以協(xié)助這一過程中的數(shù)據(jù)交換。iVIT是與Training和Inference相關(guān)的軟件，只需寫一個程序就可落地AI模型，通過iVIT很容易就把AI加入資料庫，然后就可以在此基礎(chǔ)上來做訓(xùn)練。比如，iVIT-T(訓(xùn)練)可以快速識別動物、植物、汽車等物品，iVIT-I(推論)可把推論完的數(shù)據(jù)歸類到前端Edge AI平臺，經(jīng)過了以上的環(huán)節(jié)就可看到最終的結(jié)果。GOAesmc

GOAesmc

推論/訓(xùn)練平臺有幾種服務(wù)方式：AI訓(xùn)練平臺采用付費(fèi)訂閱模式，很多廠商都可以使用。AI推論平臺需要服務(wù)器，這個服務(wù)器需要購買，根據(jù)內(nèi)置的不同SSD，適應(yīng)不同的應(yīng)用需求。比如，Edge AI服務(wù)器內(nèi)置的SSD容量越大，其能運(yùn)行的算力就越大，不同SSD方案在接上鏡頭后，就能適用于不同的AI應(yīng)用。GOAesmc

宜鼎為了正在發(fā)展的平臺，打造出一個市場應(yīng)用。針對AI訓(xùn)練平臺，宜鼎做了一個特別的聯(lián)網(wǎng)的產(chǎn)品，這是為了給用戶提供屏外管理功能——用戶可利用軟件連接操作系統(tǒng)去做遠(yuǎn)程控制。比如，當(dāng)用戶的前端操作系統(tǒng)死機(jī)時，其AI又部署在很遠(yuǎn)的地方，通過遠(yuǎn)程的SSD屏外管理，就可以遠(yuǎn)程控制Edge AI，快速還原操作外管理功能。這樣應(yīng)用就可落地到Edge AI，還可以降低維護(hù)費(fèi)用。GOAesmc

除了聯(lián)網(wǎng)的版本之外，同時也有單機(jī)版。有一些AI應(yīng)用在工廠端，單機(jī)版本也有一個一鍵還原功能。這個產(chǎn)品也可用InnoAgent(智能化模組)遠(yuǎn)程管理模組與SSD結(jié)合，這個模組是在系統(tǒng)沒有屏外管理功能時使用，通過InnoAgent再配合單機(jī)版一鍵還原的SSD，就可以實現(xiàn)類似遠(yuǎn)程控制的功能。GOAesmc

在應(yīng)用方面，智慧城市、智能工廠等場景，均可以使用以上的解決方案。總的來說，AI從云端-地端-Edge，AI在Cloud或AI Server上做訓(xùn)練，到Edge AI或Edge Server做推論，它們都需要不同的算力和不同規(guī)格的SSD。宜鼎正好可以讓AI不用寫任何程序，就可以到達(dá)終端，幫助大家做系統(tǒng)整合，快速快完成對AI的部署。GOAesmc

哪些市場有更好的發(fā)展？

實際上，宜鼎國際并不是簡單的提供存儲硬件或者軟件平臺的公司，它在Edge AI方面可提供軟件+硬件的完整解決方案。去年8月，宜鼎國際發(fā)布了“物聯(lián)創(chuàng)新，進(jìn)化AI”的戰(zhàn)略，該戰(zhàn)略的發(fā)布足以彰顯該集團(tuán)對物聯(lián)網(wǎng)和AI的重視。在IoT和AI技術(shù)加持下，未來哪一個細(xì)分行業(yè)將迎來更好的發(fā)展機(jī)遇？GOAesmc

游禮印首先強(qiáng)調(diào)，宜鼎國際的工業(yè)級存儲產(chǎn)品廣泛用于工業(yè)、醫(yī)療、云端等行業(yè)市場，整個公司的主軸和整個產(chǎn)品線重心是工業(yè)存儲。他緊接著透露說，其實集團(tuán)在2018年就對進(jìn)軍AIoT市場公開了觀點。整個AIoT市場尤其是AI的發(fā)展速度很快，最近落地的應(yīng)用比較多，雖然前幾年有受到疫情的影響，但是公司內(nèi)部的方向始終未變。GOAesmc

由于比較擅長做存儲，在AI這部分相當(dāng)于，提供了一個整合性的方案。其實是從應(yīng)用的角度去看整個產(chǎn)品的開發(fā)，宜鼎國際自成立以來，其產(chǎn)品線就聚焦工業(yè)存儲，這是從硬件的角度出發(fā)。進(jìn)入到應(yīng)用的角色，就需要軟件的配合。在應(yīng)用端，宜鼎了解客戶的使用場景，針對醫(yī)療、工廠自動化、軌道交通、安防、網(wǎng)安市場，早期就有開發(fā)軟件協(xié)助用戶去了解自己的系統(tǒng)狀態(tài)。GOAesmc

“在2020年發(fā)布了iCAP軟件，到今年又有了軟件更新，比如iVIT就是協(xié)助整合，我們不僅在硬件上做創(chuàng)新，我們也開發(fā)了一套軟件來幫助用戶整合不同的應(yīng)用，這個軟件也會配合我們硬件的特色，比如帶外管理方案，讓用戶可以遠(yuǎn)程管理的軟件，這都是串聯(lián)在一起的。存儲和各個系統(tǒng)、數(shù)據(jù)緊密相連，在應(yīng)用上也會考慮數(shù)據(jù)安全問題。”GOAesmc

如今，國內(nèi)新能源汽車的發(fā)展非常蓬勃，宜鼎國際發(fā)現(xiàn)汽車用戶有擴(kuò)充卡的需求。大約在5年前，該公司開始研發(fā)一些與車規(guī)相關(guān)的應(yīng)用，比如AGV小車用的CAN-Bus模塊，在該產(chǎn)品線這幾年增長得不錯；另外，宜鼎國際在車規(guī)存儲部分也有配合，并推出了一個比工業(yè)等級更高規(guī)的超高溫解決方案，其工作范圍大于-40℃到85℃。GOAesmc

最后，游禮印還針對一些細(xì)分領(lǐng)域做了簡要展望。他指出，在醫(yī)療領(lǐng)域也會有非常多的相關(guān)應(yīng)用，如何利用AI技術(shù)把場景定義出來；針對智慧城市，如何協(xié)助預(yù)防犯罪，或者做交通流量調(diào)控，交通狀況預(yù)判等；服務(wù)器領(lǐng)域和通信領(lǐng)域未來的發(fā)展也應(yīng)該非常好，這部分會有很大的機(jī)會；新能源汽車充電樁的需求將急劇增加，充電樁、停車場管理系統(tǒng)、智能設(shè)備偵測等都會面臨較好的機(jī)遇。GOAesmc