网友提问 :近期微软和英伟达相继发布了最新的小型语言模型,随着大模型训练成本攀升,性能提升却有限,公司有无向小型语言模型这块发展
2024-08-23 01:32:38
因赛集团 (300781): 回答:尊敬的投资者您好:
目前大型语言模型(以下简称“LLM”)由于存在计算需求和内存占用高昂等问题,在特定场景的应用受限,因此近期以Phi 3.5、Mistral 7B等为代表的小型语言模型(以下简称“SLM”)迎来了发展机会,引起了学术界和产业界的高度关注。SLM的优势主要是在语义理解、文本生成等多个领域有媲美LLM的能力,同时还能大幅降低算力需求,以及在更多设备和环境都能灵活、高效地部署和运行,使更多开发者和企业更易于访问、使用以及微调定制。
即便SLM具备一定优势,但LLM在AIGC领域仍旧不可或缺,两者更多是相辅相成、互助发展的角色。公司自研的营销AIGC应用大模型借鉴了多种开源大模型或算法,其中包括LLaMA 2,因此公司的多模态垂类模型包括了大型语言模型,但尚未在SLM方向投入精力。公司后续将在资金和人力均充足的前提下,根据AI战略择机研发SLM,赋能更广泛的客群和行业领域。
感谢您对公司的关注和支持,特提请注意投资风险。
2024-08-26 15:00:04