Priority Scheduling For Heterogeneous Workloads in Computing Clusters
Summary:
Nowadays, large computing clusters constantly strive for an optimal tradeoff between resource efficiency and performance. In this thesis, we are concerned with the efficient use of system resources and we also aim to improve response time of the tasks. We tackle with the challenges of task scheduling on large heterogeneous clusters executing highly heterogeneous bursty workloads with different priorities, resource demands, and performance objectives. Firstly, we propose a scheduling algorithm for tasks with communication needs which improves the response time and resource utilization by controlling communication and computation resources at the same time. Secondly, we propose a novel scheduling framework for exploring various aspects of priority scheduling with heterogeneous workloads while investigating the tradeoff between evictions and response time. To better understand the impact of evictions, we first analyze simple eviction policies and wasted resources associated with evictions by using trace-driven simulations. Furthermore, by exploiting the heterogeneity of the workload, we propose a workload-aware slot configuration and task assignment methodology incorporated with slot-based priority scheduling to improve class-based response time and resource efficiency. Finally, we introduce a task scheduling policy which aims to provide scheduling and execution guarantees for low priorities while preserving the performance benefits of high priority tasks. The proposed scheduling effectively handles both prioritization and performance issues of low priorities by utilizing a combination of preemptive and non-preemptive scheduling.
Özet:
Günümüzde veri merkezleri, kaynak verimliliği ve performans arasında optimal bir dengeye ulaşmaya çalışır. Bu tezde, sistem kaynaklarının verimli kullanımı ile ilgilenilmiş ve iş bitirme süresinin iyileştirilmesi amaçlanmıştır. Çok değişken iş yüklerinin, heterojen büyük veri merkezlerinde çizelgelenmesinde yaşanan zorluklar ele alınmıştır. İlk olarak iletişim gereksinimleri olan işler için iletişim ve hesaplama gereksinimlerini birlikte kontrol ederek kaynak verimliğini ve iş bitirme sürelerini iyileştiren bir çizelgeleme algoritması önerilmiştir. İkinci olarak, öncelikli çizelgelemenin çeşitli yönlerini keşfetmek ve iş tahliyeleri ile iş bitirme süresi arasındaki ödünleşimi analiz etmek için yeni bir çizelgeleme çatısı önerilmiştir. İş tahliyelerinin sistem performansı üzerindeki etkilerini daha iyi anlayabilmek için, temel tahliye yöntemleri önerilmiş ve gerçek iz kullanılarak performans değerlendirmesi yapılmıştır. Bunun yanında, bu tezde iş yükleri heterojenliği kullanılarak, öncelikli çizelgeleme ve iş yükü farkındalığı olan bir çizelgeleme algoritması önerilmiştir. Önerdiğimiz yöntem ile iş çizelgelemesine iş yükü farkındalığı entegre edilerek, iş bitirme süresi ve kaynak verimliliğinde önemli iyileştirmeler elde edilmiş ve başarım çalışmaları ile gösterilmiştir. Son olarak, düşük öncelikli işler için çalıştırılma garantisi sağlanırken aynı zamanda yüksek öncelikli işlerin performansını da gözeten yeni bir çizelgeleme planı önerilmiştir. Önerilen yöntem hem önceliklendirme hem düşük öncelikli işlerin performans sorunlarını hibrit bir çizelgeleme yaklaşımıyla başarıyla ele almaktadır.