日本電氣，又稱日電或 NEC，是一家總部位于東京都港區(qū)的跨國信息技術(shù)公司，英文全稱為「Nippon Electric Company， Limited」，1983 年改為簡稱 NEC。作為住友集團的成員，NEC 專注于為商業(yè)企業(yè)和通信服務(wù)提供信息技術(shù)和網(wǎng)絡(luò)產(chǎn)品。
日本NEC公司社長森田隆之在今年六月表示，正在探討?yīng)氉蚤_發(fā)能自動制作精巧文章及圖像的生成式人工智能（AI），以新服務(wù)的形式提供給用戶。
7 月 6 日，NEC 宣布本月開始將為日本市場提供生成 AI 服務(wù)，該服務(wù)可根據(jù)客戶需求定制化。生成 AI 包括日本語言優(yōu)化的大規(guī)模語言模型（LLM）。提供的服務(wù)包括針對生成 AI 所需的硬件、軟件和咨詢服務(wù)，命名為「NEC Generative AI Service」。
為了支持客戶，NEC Generative AI Hub 團隊提供了多種人才，包括提示工程師、咨詢顧問和數(shù)據(jù)科學(xué)家等，旨在支持 NEC 的增長并為客戶提供有價值的生成 AI 服務(wù)。
為了幫助客戶更好地使用生成 AI，NEC 提供了名為「NEC Generative AI framework」的軟件解決方案，其中包括提示模板、問答強化和模型切換等功能。LLM 可以根據(jù)客戶需求提供「微軟 Azure OpenAI Service」或 NEC 開發(fā)的 LLM。
通過與微軟的全球聯(lián)盟，NEC 將在以 NEC 印西數(shù)據(jù)中心為核心的「Microsoft Azure ExpressRoute」上提供服務(wù)。結(jié)合 NEC 的 LLM、NEC Generative AI framework 和可以在本地使用的硬件基礎(chǔ)設(shè)施「NEC Generative AI Appliance Server」，可以創(chuàng)建低延遲且安全的 LLM 環(huán)境。
此外，NEC 推出了名為「NEC Generative AI Advanced Customer Program」的綜合支持計劃，旨在結(jié)合 NEC 的專業(yè)知識和客戶的專業(yè)知識，為客戶提供模型創(chuàng)建、生成 AI 軟件開發(fā)和組織搭建等全方位支持。目前，已經(jīng)有一些企業(yè)參與了該計劃，計劃通過企業(yè)間的交流創(chuàng)造新的商業(yè)模式。
NEC 開發(fā)了專門針對日本市場的日語優(yōu)化的 LLM。根據(jù)使用日本語言理解基準(zhǔn)測試（JGLUE）對 LLM 進行評估，它在知識問答方面達(dá)到 81.1％，在文檔閱讀理解方面達(dá)到 84.3％，性能在全球范圍內(nèi)屬于較高水平。
相比海外頂級 LLM 的模型大?。▍?shù)大?。?1750 億，NEC 開發(fā)的 LLM 經(jīng)過輕量化處理，模型大小僅為 130 億，極具緊湊性。過去，性能出色的 LLM 需要 8 塊 GPU，而 NEC 的 LLM 可以在僅搭載 1 塊 GPU 的標(biāo)準(zhǔn)服務(wù)器上運行。
這使得基于 LLM 的業(yè)務(wù)應(yīng)用可以具有良好的響應(yīng)性能，并有助于減少業(yè)務(wù)運營中的電力消耗和服務(wù)器成本。此外，可以實現(xiàn)本地部署，將 LLM 應(yīng)用于對機密性要求較高的業(yè)務(wù)，或者快速創(chuàng)建針對客戶定制的 LLM 模型。
NEC 已經(jīng)在內(nèi)部業(yè)務(wù)中廣泛應(yīng)用 LLM，如文檔創(chuàng)作、內(nèi)部系統(tǒng)開發(fā)和源代碼生成等，以提高各種業(yè)務(wù)的效率。NEC 將繼續(xù)推進基于基礎(chǔ)模型開發(fā)針對客戶特定數(shù)據(jù)和行業(yè)的 LLM 模型，并進一步提升基礎(chǔ)模型的性能。
NEC 數(shù)據(jù)科學(xué)實驗室的主要研究員 Masafumi Oyamada 進行了演示，展示了基于 LLM 的聊天工具原型「NEC Generative AI framework Chat」。用戶可以通過該工具輸入問題并獲得回答，還可以進行追問。此外，LLM 還可用于編程、文檔生成和摘要等用途。
NEC 計劃在未來三年內(nèi)，在生成 AI 相關(guān)業(yè)務(wù)上實現(xiàn) 500 億日元的銷售額。
