网友提问 :3、现在一些公司开始推出 AI 小模型,公司对小模型在端侧或边缘侧的发展怎么看?
2023-06-30 00:00:00
瑞芯微 (603893): 回答:回答:现代 AI 的三个最主要着力点分别是语音处理、图像处理、语言处理,均走向 Transformer 类的技术架构,后面也会逐步看到更多 AI 模型落地。AI 的最底层主要是芯片内部负责运算的 NPU,公司有自研 NPU 及相关的算法、工具链等,经过几年不断升级迭代,公司已迭代至第四代 NPU,产品的设计里已经考虑并较好地支持 Transformer 等模型,赋能各种特定场景的端侧或边缘侧应用。在模型小型化、专业化的过程中,最重要的是如何发展出各种适合特定场景的端侧或边缘侧应用。公司一直在关注相关技术发展,并和 AIoT 的下游客户保持紧密的沟通,探索模型在边端侧运用。
2023-06-30 00:00:00