网友提问 ：5、私有云部署看起来跟大模型之间是可以兼容的。现在看起来大模型的算力需求很强，如果私有化部署的话，我们本地是不是没有很多机房去支持它的算力？
2023-04-30 00:00:00
星环科技-U (688031): 回答：回复：大模型有两个趋势，一个是把模型越做越大，另一个是对模型做持续提升，但不需要进行完整的、端到端的训练，即只要加一些数据、提示等进行精训、或者一些推理就够了，这块也是公司的MLOps产品能够发挥作用的地方。因为在第二种情况下，它所需要的资源实质上就是一个持续提升的一个过程，而不是重新训练的过程。重新训练需要建非常多的资源，而持续提升的话，资源相对而言较小。
2023-04-30 00:00:00