Spock: Exploiting Serverless Functions for SLO and Cost Aware Resource Procurement in Public CloudJashwant - Page 1

 

Cloud 는 VM를 scale 한다. 그러나 문제가 있는데

 

1. over-provisioning 이다

 

over-provision 이란

 

from https://community.spiceworks.com/cloud/article/overprovisioning-servers-iaas

 

1. incur service level objective violations due to under-provisiong 이다

 

 

즉 결론은 VM 쓰는 것보다 Spock 쓰는게 더 낫다는 것이다

---

 

요즘은 ML Web Service도 한다 

 

 

Machine Learning 은 inference 될때 stateless 하고 user-facing 이니 그래서 SLO 즉 서로 서로 보장이 되야한다.

 

예로 들면

 

---

 

기존 처럼 VM 식으로 하면 over-provision 이나 under-provisiong 때문에 힘들다고 한다

---

 

 

그래서 요즘은 IaaS 보다 FaaS를 쓴다

---

 

하지만 FaaS 가 항상 좋은 케이스가 아니다

 

그래서 Spock를 제시하는데 VM-based auto-scaling mechanism 과 함께 Serverless function을 사용했다. 그래서 SLO Violation을 줄였다. ML-based web services 에 집중을 했다.

 

VM 보다 좋은 Serverless Function 강조

 

Elastic Control System -> SLO violation 을 줄여준다

 

Spock vs 2 Resource procurement 

 

SLO을 줄여준다.