Kubernetes 服务模型中的Kubeflow管道
我开始为一个项目挖掘kubeflow管道，有一个初学者的问题。看起来kubeflow管道在培训中效果很好，但在生产中服务怎么样Kubernetes 服务模型中的Kubeflow管道,kubernetes,google-kubernetes-engine,kubeflow,kubeflow-pipelines,seldon,Kubernetes,Google Kubernetes Engine,Kubeflow,Kubeflow Pipelines,Seldon,我开始为一个项目挖掘kubeflow管道，有一个初学者的问题。看起来kubeflow管道在培训中效果很好，但在生产中服务怎么样 我有一个相当密集的培训前处理管道，必须将同样的管道应用于生产预测。我可以使用Seldon服务这样的工具来创建一个端点来启动预处理管道，应用模型，然后返回预测吗？或者把所有东西都放在一个docker容器中是更好的方法吗？是的，你完全可以使用Seldon来提供服务。事实上，Kubeflow团队提供了一种将培训和服务联系起来的简单方法： 光顺提供了一种部署预测端点的编程方式。
我有一个相当密集的培训前处理管道，必须将同样的管道应用于生产预测。我可以使用Seldon服务这样的工具来创建一个端点来启动预处理管道，应用模型，然后返回预测吗？或者把所有东西都放在一个docker容器中是更好的方法吗？是的，你完全可以使用Seldon来提供服务。事实上，Kubeflow团队提供了一种将培训和服务联系起来的简单方法：
光顺提供了一种部署预测端点的编程方式。您还可以查看如何使用培训结果部署Seldon端点。KF管道是为从头到尾运行的管道而设计的。服务进程并没有结束，所以，尽管可能，服务本身也应该在管道之外处理 管道应该做的是最终将经过培训的模型推向长期服务 发球可以由CMLE发球、Kubeflow's TFServe、Seldon等进行 我可以使用Seldon服务这样的工具来创建一个端点来启动预处理管道，应用模型，然后返回预测吗
由于容器启动开销，Kubeflow管道通常处理批处理作业。当然，您可以为单个预测运行管道，但延迟可能是不可接受的。对于服务，最好有一个专用的长寿命容器/服务，用于接受请求、转换数据和进行预测。通常最好在代码中添加解决方案，而不是添加链接：）