Consolidating Cloud, Edge and IoT Resources for Scalable Edge Computing

Abstract

엣지 컴퓨팅은 사용자에게 빠른 응답시간과 넓은 네트워크 대역폭을 제공하여 클라우드 컴퓨팅을 대신할 수 있는 새로운 컴퓨팅 패러다임으로 주목받고 있다. 이와 같은 엣지 컴퓨팅의 장점을 활용하기 위해 데이터 프로세싱 및 멀티미디어 스트리밍 서비스 등 클라우드에 기반을 둔 서비스들이 엣지 서비스로 옮겨오고 있다.하지만, 엣지 서버는 클라우드 서버와 달리 하드웨어 추가를 통한 계산 자원 확장에 제한이 있기 때문에 엣지서버로 집중되는 부하를 한정된 자원으로 처리할 때 자원 부족 문제가 발생할 수있다. 한편, 엣지 서비스 프레임워크를 구성하는 클라우드 및 IoT 장치들은 원활한 서비스 제공을 위해 과공급된 자원(over-provisioned)을 가지고 있다. 현재 엣지 컴퓨팅에서는 이러한 유휴자원을 활용하지 못하고 모든 부하가 엣지 서버로 집중되는 구조를 가지고 있다. 본 논문에서는 클라우드 및 IoT 장치의 유휴자원을 엣지 컴퓨팅의 자원으로 편입시켜 엣지 컴퓨팅의 서비스 용량을 증가시키는 방법을 제안한다. 클라우드 및 IoT 장치를 엣지 컴퓨팅의 자원으로 편입할 때, 엣지 서비스 프레임워크의 처리량을 최대로 사용할 수 있도록 노드 성능의 이질성을 고려한 작업 분배 기법 및 스케쥴링 기법이 필요하다. 클러스터의 처리량을 최대로 만들기 위해 엣지서버에서 분배할 작업들의 수행시간과 각 노드에 할당되어있는 작업들의 수행시간을 기반으로 한 작업 분배 기법을 적용한다. 클라우드와 IoT 장치 내에서 작업을 실행할 때 각각 고려해야하는 점들이 있다. 우선, IoT 장치의 경우에는 간헐적으로 발생하는 IoT 장치 내부의 작업이 존재하므로 내부 작업이 사용하는 자원이 유입되는 작업에 의해 침범당해서는 안된다. 이 문제를 해결하기 위해 IoT 장치에서 작업을 실행할 때는 내부 작업의 존재를 고려한 스케쥴링 기법을 도입하여 내부 작업이 유입된 작업으로 인해 영향받지 않으면서 유입된 작업들의 요구 응답시간을 최대한 보장할 수 있도록 한다. 클라우드에 분배되는 작업들 중에는 멀티미디어 스트리밍과 같이 네트워크 트래픽을 발생시키는 작업들이 존재하는데, 이 작업들이 네트워크 백본 트래픽을 증가시켜서는 안된다. 이 문제를 해결하기 위해서 멀티미디어 데이터를 생성하는 GPU 처리 부분을 분리시켜 엣지 서버에 배치하고, 나머지 계산부분은 클라우드로 전송하여 네트워크 트래픽의 생성을 최소화한다. 제안된 작업 분배기법은 클러스터의 처리량을 최대값의 근접하게 유지하였다. IoT로 작업을 분배하는 경우에는 IoT 장치의 내부작업의 응답 요구시간을 항상 만족하고, 유입된 작업들에 대해서 다른 스케쥴링 알고리즘보다 더 높은 응답 요구시간 만족률을 기록했다. 클라우드로 분배된 작업들 중 멀티미디어 데이터를 생성하는 작업들의 경우, 클라우드에서 스트리밍을 하는 경우보다 네트워크 백본 대역폭의 사용량을 50% 이상 감소시켰다. 실험을 통해 엣지 컴퓨팅의 자원 용량을 클라우드와 IoT 장치의 유휴 자원 활용을 통해 확장시키는 것은 의미있는 결과를 나타낸다는 것을 확인했다.|Edge computing has emerged as a new paradigm that substitutes cloud computing by providing low latency and high network bandwidth to users. Various cloud-based services, such as proximity data processing and multimedia streaming, are moving to edge-based services to exploit such advantages of edge computing. However, unlike cloud servers, edge servers cannot provide all services smoothly due to a lack of system resources when system load increases. This is because the edge server has a limitation of expanding system resources through the addition of hardware. Meanwhile, cloud and internet of things (IoT) devices are over-provisioned, but edge computing does not fully utilize such redundant resources. This thesis proposed an edge-computing framework that increases the resource capacity of the framework by incorporating redundant resources in cloud servers and IoT devices. The heterogeneity of performance among the nodes should be considered to maximize the throughput of the framework. Thus, the edge server determines where to offload tasks among participating nodes based on the offloaded execution time and energy consumption. Besides, each node determines when to execute the offloaded tasks. In particular, IoT devices should consider their local task execution. When offloading tasks to the cloud, it is necessary to consider the network backbone traffic generated by streaming tasks. GPU processing that generates multimedia data is separated from the application and placed on the edge server to minimize network backbone traffic caused by streaming tasks. The experimental results showed that the proposed scheme achieves near-optimal task throughput and outperforms other scheduling algorithms based on the deadline satisfaction ratio of time-critical tasks while guaranteeing deadlines of local tasks in IoT devices. Additionally, the network backbone traffic significantly decreases compared to the cloud-based streaming service.