與TensorFlow共同進(jìn)步 kika輸入法引擎不斷突破升級

作為享譽(yù)海外的人工智能公司，kika的使命一直是通過技術(shù)創(chuàng)新，以輸入法為切入場景，幫助人們更加自由有趣地表達(dá)心中所想，讓世界溝通變得更簡單。因此，不斷升級輸入法引擎，繼而變革世界溝通是kika一直所追逐的目標(biāo)。而得益于谷歌將TensorFlow開源并不斷迭代，以及本身技術(shù)的鉆研及創(chuàng)新，近日，kika正式成為TensorFlow的contributor(貢獻(xiàn)者)，與TensorFlow共同進(jìn)步。

從2016年開始，kika 技術(shù)團(tuán)隊(duì)一直致力于 AI 技術(shù)在移動端落地，尤其是在 keyboard 輸入法引擎做了很多算法與工程上的探索工作。2017 年 5 月，kika 技術(shù)團(tuán)隊(duì)基于 TensorFlow Mobile 研發(fā)了 kika AI Engine，將其應(yīng)用于 kika 的全系輸入法產(chǎn)品中。2017 年 11 月，在Google 發(fā)布 TensorFlow Lite (TF Lite) 后，kika 技術(shù)團(tuán)隊(duì)同樣進(jìn)行了迅速跟進(jìn)。

TensorFlow Lite 是針對移動和嵌入式設(shè)備的輕量級解決方案，支持移動設(shè)備上機(jī)器學(xué)習(xí)模型的低時(shí)延推理。它擁有全新的設(shè)計(jì)，具有如下三個(gè)重要功能：

輕量級(Lightweight)：支持機(jī)器學(xué)習(xí)模型的推理在較小二進(jìn)制數(shù)下進(jìn)行，能快速初始化/啟動;

跨平臺(Cross-platform)：可以在許多不同的平臺上運(yùn)行，現(xiàn)在支持 Android 和 iOS;

快速(Fast)：針對移動設(shè)備進(jìn)行了優(yōu)化，包括大大減少了模型加載時(shí)間、支持硬件加速。

kika輸入法作為一個(gè)重度使用的工具類 APP，在移動端做輕量化部署顯然非常重要。而對于kika輸入法引擎而言，最需具備的技術(shù)要求包括：快、準(zhǔn)、全，需要在客戶端環(huán)境下，根據(jù)用戶輸入的上文內(nèi)容以及當(dāng)前鍵入的鍵碼，實(shí)時(shí)進(jìn)行『預(yù)測』。預(yù)測的內(nèi)容包括：單詞，詞組，emoji 等等一切可能通過輸入法發(fā)送的內(nèi)容。這恰與TensorFlow Lite 的功能優(yōu)勢天然契合。

因此，在Google 發(fā)布 TensorFlow Lite (TF Lite) 后，kika技術(shù)團(tuán)隊(duì)立即著手升級開發(fā)。在開發(fā)過程中，kika發(fā)現(xiàn)TF Lite 對于 RNN/LSTM 的支持程度稍顯不足，例如對于RNN的支持尚存在op支持不足的缺點(diǎn)。不過，kika團(tuán)隊(duì)在經(jīng)歷相當(dāng)?shù)难邪l(fā)投入后，已然可以盡量避免使用這些TF Lite不支持的 op，對于不得不使用的情況，也可以實(shí)現(xiàn)結(jié)合具體的業(yè)務(wù)邏輯，優(yōu)化設(shè)計(jì)，使得在移動端部署的二次開發(fā)的工作量盡可能的小。

2018 年 1 月，kika成功地開發(fā)了基于TF Lite全新一代的 kika AI Engine。在客戶端實(shí)現(xiàn)基于TF Lite模型的部署之后，kika分別測試了同一模型在 TF 完全版(TF Mobile)和TF Lite10, 000 次 Inference 的資源消耗情況，如下圖所示。主要的 Metrics 包括內(nèi)存占用 (memory)，運(yùn)行時(shí)間(speed)和靜態(tài)鏈接庫的大小 (image size)。

可以看到，各項(xiàng) Metrics 都得到的大幅的優(yōu)化，這對于提升產(chǎn)品的整體性能與穩(wěn)定度都十分有利。

與此同時(shí)，kika也再一次進(jìn)行了線上產(chǎn)品的更新，使得用戶擁有了更好的使用體驗(yàn)。事實(shí)上，除了輸入法引擎之外，kika 技術(shù)團(tuán)隊(duì)近年來也一直在致力于采用 AI 技術(shù)解決內(nèi)容推薦，語音識別和自然語義理解方面等方面的諸多實(shí)際問題，在客戶端和服務(wù)端部署分別采用 TF Lite 和 TF Serving 這兩個(gè)基于 TensorFlow 的優(yōu)秀框架。

在 TensorFlow的加持下，kika輸入法引擎不斷突破升級，無疑將使得kika變革世界溝通的美好愿景加快實(shí)現(xiàn)。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。