Комбинированный отбор признаков в машинном обучении для диагностики заболеваний в медицине

Введение. Исходные наборы данных для машинного обучения содержат избыточное количество признаков, среди которых могут присутствовать как высокоинформативные, так и малозначимые, коррелирующие или шумовые переменные. Решение проблемы отбора признаков не только оптимизирует процессы машинного обучения, но и открывает новые возможности для внедрения машинного обучения в практико-ориентированные сферы, требующие высокой точности и доверия к алгоритмам. Это явление приводит к ряду критических проблем: искаженному обучению модели на нерелевантных закономерностях, снижению ее обобщающей способности, резкому росту вычислительных затрат на обучение и, как следствие, к затруднению интерпретации полученных результатов. Метод. Предложен метод оптимизации признакового пространства, который использует комбинированный подход, включающий в себя максимизацию меры эффективности моделей, отбор наиболее качественных признаков на основе информативности и корреляционного анализа. Помимо оптимизации признакового пространства, модель предлагает наилучший классификатор для используемого набора данных. В качестве решения целевой функции применен генетический алгоритм с элитизмом для нахождения оптимального значения. Основные результаты. Показана работа представленной модели на наборе данных в области медицинской диагностики в сравнении с известным методом рекурсивного отбора признаков (Recursive Feature Elimination, RFE), корреляционным анализом, а также с результатами, полученными при использовании полного набора данных. Набор данных представляет собой измерения молочных желез при помощи метода микроволновой радиотермометрии и метки, характеризующие выраженность температурных аномалий. Используемый набор данных содержит 62 признака и 6 меток, и 9310 записей измерений. Результаты демонстрируют высокую эффективность предложенной модели, близкую по значению с методом RFE или превосходя его. В результате оптимизации для набора данных удалось сократить признаковое пространство с 62 признаков до 15, при этом не только не уменьшив точность модели, но даже немного ее увеличив, при этом лучшей моделью классификатора оказалась модель логистической регрессии. Например, показатели точности составили 0,79 для полного набора данных, 0,7879 для 15 оптимизированных признаков на основе метода RFE, 0,7175 для 29 признаков, полученных в результате корреляционного анализа, и 0,7911 для 15 признаков — с использованием предлагаемой модели. Обсуждение. Предложенный метод не только эффективно сокращает признаковое пространство, но и увеличивает точность модели классификации, несмотря на существенное уменьшение количества признаков.

1. Pugliese R., Regondi S., Marini R. Machine learning-based approach: global trends, research directions, and regulatory standpoints // Data Science and Management. 2021. V. 4. P. 19–29. doi: 10.1016/j.dsm.2021.12.002

2. Sarker I.H. Machine learning: algorithms, real-world applications and research directions // SN Computer Science. 2021. V. 2. N 3. P. 160. doi: 10.1007/s42979-021-00592-x

3. Chen R-C.., Dewi C., Huang S.-W., Caraka R.E. Selecting critical features for data classification based on machine learning methods // Journal of Big Data. 2020. V. 7. N 1. P. 52. doi: 10.1186/s40537-020-00327-4

4. Cai J., Luo J., Wang S., Yang S. Feature selection in machine learning: A new perspective // Neurocomputing. 2018. V. 300. P. 70–79. doi: 10.1016/j.neucom.2017.11.077

5. Fira M., Goras L., Costin H.-N. Evaluating sparse feature selection methods: a theoretical and empirical perspective // Applied Sciences. 2025. V. 15. N 7. P. 3752. doi: 10.3390/app15073752

6. Pearson K. Notes on regression and inheritance in the case of two parents // Proceedings of the Royal Society of London. 1895. V. 58. P. 240–242.

7. Chernoff H., Lehmann E.L. The use of maximum likelihood estimates in χ2 tests for goodness of fit // The Annals of Mathematical Statistics. -1954. V. 25. N 3. P. 579–586.

8. Larson M.G. Analysis of variance // Circulation. 2008. V. 117. N 1. P. 115–121. doi: 10.1161/circulationaha.107.654335

9. Santosa F., Symes W.W. Linear inversion of band-limited reflection seismograms // SIAM Journal on Scientific and Statistical Computing. 1986. V. 7. N 4. P. 1307–1330. doi: 10.1137/0907087

10. von Winterfeldt D., Edwards W. Decision Trees // Decision Analysis and Behavioral Research. 1986. P. 63–89.

11. Ferri F.J., Pudil P., Hatef M., Kittler J. Comparative study of techniques for large-scale feature selection // Machine Intelligence and Pattern Recognition. 1994. V. 16. P. 403–413. doi: 10.1016/B978-0-444-81892-8.50040-7

12. Guyon I., Weston J., Barnhill S., Vapnik V. Gene selection for cancer classification using support vector machines // Machine Learning. 2002. V. 46. N 1-3. P. 389–422. doi: 10.1023/A:1012487302797

13. Rani P., Kumar R., Jain A., Chawla S.K. A Hybrid approach for feature selection based on genetic algorithm and recursive feature elimination // International Journal of Information System Modeling and Design. 2021. V. 12. N 2. P. 17–38. doi: 10.4018/IJISMD.2021040102

14. Benghazouani S., Nouh S., Zakrani A., Haloum I., Jebbar M. Enhancing feature selection with a novel hybrid approach incorporating genetic algorithms and swarm intelligence techniques // International Journal of Electrical and Computer Engineering. 2024. V. 14. N 1. P. 944–959. doi: 10.11591/ijece.v14i1.pp944-959

15. Тихомирова Н.Н. Техника проведения РТМ-обследования молочных желез. 2008. 64 c.

16. Лосев А.Г., Левшинский В.В. Интеллектуальный анализ данных микроволновой радиотермометрии в диагностике рака молочной железы // Математическая физика и компьютерное моделирование. 2017. Т. 20. № 5. С. 49–62. doi: 10.15688/mpcm.jvolsu.2017.5.6

17. Breiman L. Random forests // Machine Learning. 2001. V. 45. N 1. P. 5–32. doi: 10.1023/A:1010933404324

18. Yu H.-F., Huang F.-L., Lin C.-J. Dual coordinate descent methods for logistic regression and maximum entropy models // Machine Learning. 2011. V. 85. N 1-2. P. 41–75. doi: 10.1007/s10994-010-5221-8

19. Chang C.-C., Lin C.-J. LIBSVM: A library for support vector machines // ACM Transactions on Intelligent Systems and Technology. 2011. V. 2. N 3. P. 1–27. doi: 10.1145/1961189.1961199

20. Гермашев И.В., Дубовская В.И., Лосев А.Г., Попов И.Е. Факторный анализ влияния признаков на точность диагностики рака молочной железы по данным микроволновой радиотермометрии // Прикаспийский журнал: управление и высокие технологии. 2022. № 1 (57). С. 139–148.