ntvНаучно-технический вестник информационных технологий, механики и оптикиScientific and Technical Journal of Information Technologies, Mechanics and Optics2226-14942500-0373Университет ИТМО10.17586/2226-1494-2026-26-3-495-503ntv-617Research ArticleКОМПЬЮТЕРНЫЕ СИСТЕМЫ И ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИCOMPUTER SCIENCEАнализ кластеров контейнерной виртуализацией при сочетании нагрузки, ориентированной на вычисления и ввод-вывод информацииAnalysis of queuing systems with container virtualization handling CPU-bound and input/output-bound workloadshttps://orcid.org/0000-0003-0213-0223МельничукМ.MelnichukM.

Мельничук Михаил  —  аспирант

Санкт-Петербург, 197101

Michael Melnichuk — PhD Student

Saint Petersburg, 197101

mikel.melnichuk@gmail.comhttps://orcid.org/0000-0003-0213-0223БогатыревВ. А.BogatyrevV. A.

Богатырев Владимир Анатольевич  —  доктор технических  наук,  профессор

Санкт-Петербург, 197101

Vladimir A. Bogatyrev — D. Sc., Professor

Saint Petersburg, 197101

vladimir.bogatyrev@gmail.comУниверситет ИТМОРоссияITMO UniversityRussian Federation202609072026263495503Copyright © Мельничук М., Богатырев В.А., 20262026Мельничук М., Богатырев В.А.Melnichuk M., Bogatyrev V.A.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://ntv.elpub.ru/jour/article/view/617

Введение. Платформы  контейнерной  оркестровки, такие  как  Kubernetes,  используют  автоматическое масштабирование  для  поддержания производительности  при  динамических  рабочих нагрузках.  При  этом  выбор дисциплин балансировки  нагрузки  осуществляется  с применением  аппарата  теории  массового обслуживания. Однако  в  настоящее  время ощущается  недостаток  моделей  очередей  и исследований,  отражающих  влияние неоднородности  потоков  запросов  на  задержки  их обслуживания  в  активно  внедряемых  кластерных системах контейнерной  виртуализации.  В  работе выполнена  количественная  оценка  и  определение влияния  неоднородности рабочей  нагрузки,  на производительность  кластерной  системы. Метод. Предложен  усовершенствованный подход  к моделированию  кластера  Kubernetes,  учитывающий смешанный  характер  рабочей  нагрузки, ориентированной  как  на  вычисления,  так  и  на ввод-вывод  информации.  В  представленном подходе  сделан  акцент на  сочетании аналитического  моделирования  и экспериментальных  исследований.  Эксперименты проведены на  выделенном  физическом  сервере  с двухузловым  кластером  Kubernetes,  что обеспечивает  повышенную достоверность результатов  по  сравнению  с  полностью  виртуализированными  средами.  Основные результаты. Экспериментально  подтверждено,  что параметр  неоднородности,  фундаментально определяет  характер  влияния числа разворачиваемых  контейнеров  (масштабирования) на  производительность  кластера.  Для  рабочих нагрузок с  высокой  долей  запросов,  требующих значительного  потребления  вычислительных ресурсов  установлено  резкое снижение производительности  при  превышении оптимального  количества  контейнеров,  в  то  время как  для нагрузок,  ориентированных  на  ввод-вывод информации,  характерен  эффект  плато  с незначительным  снижением производительности при  избыточном  выделении  ресурсов.  Полученные результаты  показывают  V-образную зависимость времени  обслуживания  от  количества разворачиваемых  в  кластере  контейнеров, демонстрируя различную  чувствительность  к  масштабированию  в  зависимости  от  типа  рабочей  нагрузки.  Обсуждение. Полученные  результаты  являются  основой  для  дифференцированного  подхода  к  масштабированию  контейнеров в  зависимости  от  неоднородности  потока  запросов  с  интенсивным  использованием  процессора  или  вводом-выводом.  Перспективным  направлением  дальнейших  исследований  является  разработка  адаптивных  алгоритмов масштабирования,  динамически  учитывающих  изменение  характера  рабочей  нагрузки  в  реальном  времени.

Container orchestration platforms such as Kubernetes use automatic scaling to maintain performance under dynamic workloads. At the same time, the choice of load balancing disciplines is carried out using the queuing theory apparatus. However, there is currently a lack of queue models and studies reflecting the impact of heterogeneity of request flows on service delays in the currently actively implemented container virtualization cluster systems. The purpose of this study is to quantify and determine the impact of workload heterogeneity on cluster system performance. An improved approach to modeling a Kubernetes cluster is proposed, taking into account the mixed nature of the workload, focused on both computing and information input and output (I/O). The proposed approach is based on a combination of analytical modeling and experimental research. The experiments were conducted on a dedicated physical server with a two-node Kubernetes cluster, which provides increased reliability of the results compared to fully virtualized environments. It has been experimentally confirmed that the heterogeneity parameter fundamentally determines the nature of the impact of the number of deployed containers (scaling) on cluster performance. Workloads with a high proportion of requests requiring significant consumption of computing resources have shown a sharp decrease in performance when the optimal number of containers is exceeded, while workloads focused on I/O are characterized by a plateau effect with a slight decrease in performance when resources are overallocated. The results obtained show a V-shaped dependence of service time on the number of containers deployed in the cluster, demonstrating different sensitivity to scaling depending on the type of workload. The results obtained are the basis for a differentiated approach to container scaling depending on the heterogeneity of the request flow with intensive CPU usage or I/O. A promising area of further research is the development of adaptive scaling algorithms that dynamically take into account the changing nature of the workload in real time.

теория массового обслуживанияKubernetesрабочая нагрузкаоптимизацияконтейнероблачные вычисленияqueuing theoryKubernetesworkloadoptimizationcontainercloud computingReferencesSanthi K., Saravanan R. Performance analysis of cloud computing using series of queues with Erlang service // International Journal of Internet Technology and Secured Transactions. 2019. V. 9. N 1-2. P. 147–162. doi: 10.1504/ijitst.2019.098167Santhi K., Saravanan R. Performance analysis of cloud computing using series of queues with Erlang service. International Journal of Internet Technology and Secured Transactions, 2019, vol. 9, no. 1-2, pp. 147–162. doi: 10.1504/ijitst.2019.098167Amaral M., Polo J., Carrera D., Mohomed I., Unuvar M., Steinder M. Performance evaluation of microservices architectures using containers // Proc. of the IEEE 14th International Symposium on Network Computing and Applications. 2015. P. 27–34. doi: 10.1109/nca.2015.49Amaral M., Polo J., Carrera D., Mohomed I., Unuvar M., Steinder M. Performance evaluation of microservices architectures using containers. Proc. of the IEEE 14th International Symposium on Network Computing and Applications, 2015, pp. 27–34. doi: 10.1109/nca.2015.49Chinnaiah M.R., Niranjan N. Fault tolerant software systems using software configurations for cloud computing // Journal of Cloud Computing. 2018. V. 7. N 1. P. 3. doi: 10.1186/s13677-018-0104-9Chinnaiah M.R., Niranjan N. Fault tolerant software systems using software configurations for cloud computing. Journal of Cloud Computing, 2018, vol. 7, no. 1, pp. 3. doi: 10.1186/s13677-018-0104-9Kumari P., Kaur P. A survey of fault tolerance in cloud computing // Journal of King Saud University–Computer and Information Sciences. 2021. V. 33. N 10. P. 1159–1176. doi: 10.1016/j.jksuci.2018.09.021Kumari P., Kaur P. A survey of fault tolerance in cloud computing. Journal of King Saud University–Computer and Information Sciences, 2021, vol. 33, no. 10, pp. 1159–1176. doi: 10.1016/j.jksuci.2018.09.021Meeker W.Q., Escobar L.A., Pascual F.G. Statistical Methods for Reliability Data. John Wiley & Sons, 2021. 704 p.Meeker W.Q., Escobar L.A., Pascual F.G. Statistical Methods for Reliability Data. John Wiley & Sons, 2021, 704 p.Aysan H. Fault-Tolerance Strategies and Probabilistic Guarantees for Real-Time Systems. Doctoral dissertation. Mälardalen University, Sweden, 2012. 190 p.Aysan H. Fault-Tolerance Strategies and Probabilistic Guarantees for Real-Time Systems. Doctoral dissertation. Mälardalen University, Sweden, 2012, 190 p.Астахова Т.Н., Верзун Н.А., Касаткин В.В., Колбанев М.О., Шамин А.А. Исследование моделей связности сенсорных сетей // Информационно-управляющие системы. 2019. № 5 (102). C. 38-50. doi: 10.31799/1684-8853-2019-5-38-50Astakhova T.N., Verzun N.A., Kasatkin V.V., Kolbanev M.O., Shamin A.A. Sensor network connectivity models. Information and Control Systems, 2019, no. 5 (102), pp. 38–50. (in Russian). doi: 10.31799/1684-8853-2019-5-38-50Bogatyrev V., Parshutina S. Redundant distribution of requests through the network by transferring them over multiple paths // Communications in Computer and Information Science. 2016. V. 601. P. 199–207. doi: 10.1007/978-3-319-30843-2_21Bogatyrev V., Parshutina S. Redundant distribution of requests through the network by transferring them over multiple paths. Communications in Computer and Information Science, 2016, vol. 601, pp. 199–207. doi: 10.1007/978-3-319-30843-2_21Bogatyrev V.A., Bogatyrev S.V., Bogatyrev A.V. Control of multipath transmissions in the nodes of switching segments of reserved paths // Proc. of the International Conference on Information Control and Communication Technologies. 2022. P. 1–5. doi: 10.1109/ICCT56057.2022.9976839Bogatyrev V.A., Bogatyrev S.V., Bogatyrev A.V. Control of multipath transmissions in the nodes of switching segments of reserved paths. Proc. of the International Conference on Information Control and Communication Technologies, 2022, pp. 1–5. doi: 10.1109/ICCT56057.2022.9976839Sovetov B.Y., Tatarnikova T.M., Poymanova E.D. Storage scaling management model // Information and Control Systems. 2020. N 5 (108). P. 43–49. doi: 10.31799/1684-8853-2020-5-43-49Sovetov B.Y., Tatarnikova T.M., Poymanova E.D. Storage scaling management model. Information and Control Systems, 2020, no. 5 (108), pp. 43–49. doi: 10.31799/1684-8853-2020-5-43-49Татарникова Т.М., Архипцев Е.Д., Кармановский Н.С. Определение размера кластера и числа реплик высоконагруженных информационных систем // Известия высших учебных заведений. Приборостроение. 2023. T. 66. № 8. C. 646–651. doi: 10.17586/0021-3454-2023-66-8-646-651Tatarnikova T.M., Arkhiptsev E.D., Karmanovskiy N.S. Determining the cluster size and the number of replicas of highly loaded information system. Journal of Instrument Engineering. 2023, vol. 66, no. 8, pp. 646–651. (in Russian). doi: 10.17586/0021-3454-2023-66-8-646-651Хомоненко А.Д., Благовещенская Е.А., Проурзин О.В., Андрук А.А. Прогноз надежности кластерной вычислительной системы с помощью полумарковской модели альтернирующих процессов и мониторинга // Наукоемкие технологии в космических исследованиях Земли. 2018. Т. 10. № 4. C. 72–82. doi: 10.24411/2409-5419-2018-10099Khomonenko А.D., Blagoveshchenska Е.А., Prourzin О.В., Andruk А.А. Prediction of reliability of cluster computing system using semi-markov model of alternating processes and monitoring. Hi-Tech & Earth Space Research, 2018, vol. 10, no. 4. pp. 72–82. (in Russian). doi: 10.24411/2409-5419-2018-10099Богатырев В.А., Богатырев С.В., Богатырев А.В. Оценка готовности компьютерной системы к своевременному обслуживанию запросов при его совмещении с информационным восстановлением памяти после отказов // Научно-технический вестник информационных технологий, механики и оптики. 2023. Т 23. № 3. C. 608–617. doi: 10.17586/2226-1494-2023-23-3-608-617Bogatyrev V.A., Bogatyrev S.V., Bogatyrev A.V. Assessment of the readiness of a computer system for timely servicing of requests when combined with information recovery of memory after failures. Scientific and Technical Journal of Information Technologies, Mechanics and Optics, 2023, vol. 23, no. 3, pp. 608–617 (in Russian). doi: 10.17586/2226-1494-2023-23-3-608-617Богатырев В.А., Богатырев С.В., Богатырев А.В. Граничная оценка надежности кластерных систем на основе декомпозиции марковской модели при ограниченном восстановлении узлов с накоплением отказов // Научно-технический вестник инфор мационных технологий, механики и оптики. 2025. Т. 25. № 3. C. 574–583. doi: 10.17586/2226-1494-2025-25-3-574-583Bogatyrev V.A., Bogatyrev S.V., Bogatyrev A.V. Boundary estimation of the reliability of cluster systems based on the decomposition of the Markov model with limited recovery of nodes with accumulated failures. Scientific and Technical Journal of Information Technologies, Mechanics and Optics. 2025, vol. 25, no. 3, pp. 574–583. (in Russian). doi: 10.17586/2226-1494-2025-25-3-574-583Клейнрок Л. Теория массового обслуживания. М.: Машиностроение, 1979. 432 с.Kleinrock L. Queueing Systems. Wiley-Interscience, 1975, 448 p.Ding D., Fan X., Zhao Y., Kang K., Yin Q., Zeng J. Q-learning based dynamic task scheduling for energy-efficient cloud computing // Future Generation Computer Systems. 2020. V. 108. P. 361–371. doi: 10.1016/j.future.2020.02.018Ding D., Fan X., Zhao Y., Kang K., Yin Q., Zeng J. Q-learning based dynamic task scheduling for energy-efficient cloud computing. Future Generation Computer Systems, 2020, vol. 108, pp. 361–371. doi: 10.1016/j.future.2020.02.018Jaiganesh M., Ramadoss B., Kumar A.V.A., Mercy S. Performance evaluation of cloud services with profit optimization // Procedia Computer Science. 2015. V. 54. P. 24–30. doi: 10.1016/j.procs.2015.06.003Jaiganesh M., Ramadoss B., Kumar A.V.A., Mercy S. Performance evaluation of cloud services with profit optimization. Procedia Computer Science, 2015, vol. 54, pp. 24–30. doi: 10.1016/j.procs.2015.06.003El Kafhali S., El Mir I., Salah K., Hanini M. Dynamic scalability model for containerized cloud services // Arabian Journal for Science and Engineering. 2020. V. 45. N 12. P. 10693–10708. doi: 10.1007/s13369-020-04847-2El Kafhali S., El Mir I., Salah K., Hanini M. Dynamic scalability model for containerized cloud services. Arabian Journal for Science and Engineering, 2020, vol. 45, no. 12, pp. 10693–10708. doi: 10.1007/s13369-020-04847-2Фунг В.К., Богатырев В.А., Кармановский Н.С., Лэ В.Х. Оценка вероятностно-временных характеристик компьютерной системы с контейнерной виртуализацией // Научно-технический вестник информационных технологий, механики и оптики. 2024. Т. 24. № 2. C. 249–255. doi: 10.17586/2226-1494-2024-24-2-249-255Phung V.Q., Bogatyrev V.F., Karmanovskiy N.S., Le V.H. Evaluation of probabilistic- temporal characteristics of a computer system with container virtualization. Scientific and Technical Journal of Information Technologies, Mechanics and Optics, 2024, vol. 24, no. 2, pp. 249–255. (in Russian). doi: 10.17586/2226-1494-2024-24-2-249-255Фунг В.К., Богатырев В.А. Задержки и надежность обслуживания запросов в виртуальном компьютерном кластере // Вестник Томского государственного университета. Управление, вычислительная техника и информатика. 2024. № 68. C. 48–58. doi: 10.17223/19988605/68/5Phung V.Q., Bogatyrev V.A. Delays and reliability of request servicing in a virtual computer cluster. Tomsk State University Journal of Control and Computer Science, 2024, no. 68, pp. 48–58. (in Russian). doi: 10.17223/19988605/68/5Luo S., Xu H., Lu C., Ye K., Xu G., Zhang L., et al. Characterizing microservice dependency and performance: Alibaba trace analysis // Proc. of the ACM Symposium on Cloud Computing. 2021. P. 412-426. doi: 10.1145/3472883.3487003Luo S., Xu H., Lu C., Ye K., Xu G., Zhang L., et al. Characterizing microservice dependency and performance: Alibaba trace analysis. Proc. of the ACM Symposium on Cloud Computing, 2021, pp. 412-426. doi: 10.1145/3472883.3487003Bhattacharya T., Peng X., Mao J., Zhang C., Takreeti T., Wang Y., et al. Performance modeling for I/O-intensive applications on virtual machines // Concurrency and Computation: Practice and Experience. 2022. V. 34. N 10. P. e6823. doi: 10.1002/cpe.6823Bhattacharya T., Peng X., Mao J., Zhang C., Takreeti T., Wang Y., et al. Performance modeling for I/O-intensive applications on virtual machines. Concurrency and Computation: Practice and Experience, 2022, vol. 34, no. 10, pp. e6823. doi: 10.1002/cpe.6823Hossen M.R., Islam M.A., Ahmed K. Practical efficient microservice autoscaling with QoS assurance // Proc. of the 31st International Symposium on High-Performance Parallel and Distributed Computing. 2022. P. 240–252. doi: 10.1145/3502181.3531460Hossen M.R., Islam M.A., Ahmed K. Practical efficient microservice autoscaling with QoS assurance. Proc. of the 31st International Symposium on High-Performance Parallel and Distributed Computing, 2022, pp. 240–252. doi: 10.1145/3502181.3531460Cai Z., Buyya R. Inverse queuing model-based feedback control for elastic container provisioning of web systems in kubernetes // IEEE Transactions on Computers. 2021. V. 71. N 2. P. 337–348. doi: 10.1109/TC.2021.3049598Cai Z., Buyya R. Inverse queuing model-based feedback control for elastic container provisioning of web systems in Kubernetes. IEEE Transactions on Computers, 2021, vol. 71, no. 2, pp. 337–348. doi: 10.1109/TC.2021.3049598Cai Z., Wu H., Jiang X., Li X., Buyya R. Deep learning and feedback control based container auto-scaling for cloud native micro-services // IEEE Transactions on Services Computing. 2025. V. 18. N 5. P. 2714-2725. doi: 10.1109/TSC.2025.3596887Cai Z., Wu H., Jiang X., Li X., Buyya R. Deep learning and feedback control based container auto-scaling for cloud native micro-services. IEEE Transactions on Services Computing, 2025, vol. 18, no. 5, pp. 2714–2725. doi: 10.1109/TSC.2025.3596887Ramamoorthi V. AI-enhanced performance optimization for microservice-based systems // Journal of Advanced Computing Systems. 2024. V. 4. N 9. P. 1–7. doi: 10.69987/JACS.2024.40901Ramamoorthi V. AI-enhanced performance optimization for microservice-based systems. Journal of Advanced Computing Systems, 2024, vol. 4, no. 9, pp. 1–7. doi: 10.69987/JACS.2024.40901Gotin M., Lösch F., Heinrich R., Reussner R. Investigating performance metrics for scaling microservices in CloudioTenvironments // Proc. of the ACM/SPEC International Conference on Performance Engineering. 2018. P. 157–167. doi: 10.1145/3184407.3184430Gotin M., Lösch F., Heinrich R., Reussner R. Investigating performance metrics for scaling microservices in CloudioTenvironments. Proc. of the ACM/SPEC International Conference on Performance Engineering, 2018, pp. 157–167. doi: 10.1145/3184407.3184430Alharthi S., Alshamsi A., Alseiari A., Alwarafy A. Auto-scaling techniques in cloud computing: Issues and research directions // Sensors. 2024. V. 24. N 17. P. 5551. doi: 10.3390/s24175551Alharthi S., Alshamsi A., Alseiari A., Alwarafy A. Auto-scaling techniques in cloud computing: Issues and research directions. Sensors, 2024, vol. 24, no. 17, pp. 5551. doi: 10.3390/s24175551Savitzky A., Golay M.J.E. Smoothing and differentiation of data by simplified least squares procedures // Analytical Chemistry. 1964. V. 36. N 8. P. 1627–1639. doi: 10.1021/ac60214a047Savitzky A., Golay M.J.E. Smoothing and differentiation of data by simplified least squares procedures. Analytical Chemistry, 1964, vol. 36, no. 8, pp. 1627–1639. doi: 10.1021/ac60214a047Xu M., Wen L., Liao J., Wu H., Ye K., Xu C. Auto-scaling approaches for cloud-native applications: a survey and taxonomy // arXiv. 2025. arXiv:2507.17128v1Xu M., Wen L., Liao J., Wu H., Ye K., Xu C. Auto-scaling approaches for cloud-native applications: a survey and taxonomy. arXiv, 2025. arXiv:2507.17128v1

The authors declare that there are no conflicts of interest present.