网友提问 :5、私有云部署看起来跟大模型之间是可以兼容的。现在看起来大模型的算力需求很强,如果私有化部署的话,我们本地是不是没有很多机房去支持它的算力?
2023-04-30 00:00:00
星环科技-U (688031): 回答:回复:大模型有两个趋势,一个是把模型越做越大,另一个是对模型做持续提升,但不需要进行完整的、端到端的训练,即只要加一些数据、提示等进行精训、或者一些推理就够了,这块也是公司的MLOps产品能够发挥作用的地方。因为在第二种情况下,它所需要的资源实质上就是一个持续提升的一个过程,而不是重新训练的过程。重新训练需要建非常多的资源,而持续提升的话,资源相对而言较小。
2023-04-30 00:00:00