网友提问 :贵公司与英伟达合作,目前AMLightning涵盖数据优化、工具链、推理加速引擎及工程化支持四个部分,目前已完成高通最新一代芯片平台8295及英伟达Orin的适配。其中在高通8295平台上,AMLightning已支持高通UDO框架,扩展支持新框架和新算法。能否介绍?
2023-06-15 10:58:03
诚迈科技 (300598): 回答:您好,AMLighting基于高通UDO架构,利用NPU计算单元对软件算法进行加速,提高运行效率。通过量化感知训练等多种技术,实现算法在高通平台上的最优能效。已支持QNN HTP达95个算子,同时支持扩展神经网络、数学运算等近200个算子。
2023-07-07 17:07:57