[K8s]面向服务端机器学习推理的容器化编排策略

这是我在和某边缘计算与大数据方向老师套磁时,老师给出的面试题任务:
在自建3节点K8s集群中构建3个深度学习推理服务,并实现K8s自定义编排器。优化指标为:失败率、平均完成时延指标。
就面试题而言,算是基本完成了任务,但是因为没有获得学校夏令营资格,最终和那位老师有缘无份。既然推免流程已经结束了,今天翻文件又翻到了当初的实验报告,就先行发上来。Code部分可能以后整理再公开(优化这种东西......咳咳咳

tag(s): none
show comments · back · home
Edit with markdown