网友提问 :5、请介绍一下公司的向量数据库
2023-05-31 00:00:00
星环科技 (688031): 回答:回复:公司研发向量数据库的时间比较早,以前是用于公司内部的生产力工具进行使用。最近发现在构建基于GPT模型应用的时候,向量数据库是一个刚需。主要因为空间(token数量受限)以及时间(需要实时信息)的限制,需要向量数据库存储实时及行业领域专有的信息。所以现在基本上所有基于GPT的应用,都需要向量数据库来存放信息。过去,我们使用向量数据库的两个主要的用途是做图片、视频的搜索,转成高维向量;另外是做文本的搜索。客户的支付意愿先是买大模型,然后是prompt engineering, 然后是工具链和向量数据库。第二类客户是稍微中大型的客户,他们不大可能去调用外部公有云的大模型,例如银行、券商、政府、军队,需要私有化部署。这块基本选择开源大模型,然后做微调。他们的支出主要在于算力、工具链和标注工程上面。目前向量数据库和mlops搭售为主,因为构建应用光一个向量数据库不够的,还需要一个工具来快速把整理好的提示词做embedding,一来一回内部的逻辑比较复杂。海外向langchain这种已经有了。公司参加2023年上海辖区上市公司年报集体业绩说明会
2023-05-31 00:00:00