网友提问 :4、如果之后客户需要一个大模型,我们怎么办?
2023-04-30 00:00:00
星环科技-U (688031): 回答:回复:这是一个很典型的问题。现在大家都在说大模型,美国在这方面还是排在第一梯队的,像ChatGPT,大家现在基本上只能调API来使用,但如果这么去使用,数据安全怎么办?隐私计算怎么办?另外一点,这是一个通用的大模型,但是我们所有的客户采购或者是每个行业客户自己使用的时候,它都有具体的场景,它一定是一个垂直、很窄的东西,需要在这上面去加上自己的行业知识、自己的知识库、自己的处理方式,然后再新建一个符合客户需要的接口,有个加工过程。这时候就会涉及数据安全和如何自建这些问题。目前市场上有一些开源的大模型,以及在国内的,像百度等大厂及一些高校的科研团队在从事大模型的研发。当前看比较安全的一条路,是将这些大模型进行私有化部署,因为这样就不涉及数据出域,不会违背国家关于数据安全的法律法规,不会泄露自己的商业秘密。这种情况下,公司提供的这种比较坚实的一个智能分析的底座去做这种分析,将资源进行分配,然后在模型上进行一个持续迭代,才能做的比较好。例如量化投研,信息一定是滚动的非常快的,但是如果用ChatGPT做量化投研,因为它是没有很好的合规的办法获得实时的信息的,需要客户不断加信息进去,才能得到一个比较好的效果。因此这个领域就需要一个坚实的数据分析的底座,而且是要能够不断地持续运营、持续训练地一个底座去实现它的效果。
2023-04-30 00:00:00