О свойствах компромиссных M-оценок, оптимизирующих весовую L₂-норму функции влияния

Введение. В работе развивается теория M-оценок, оптимизирующих весовую L₂-норму функции влияния. Указанный критерий качества оценивания является достаточно общим и, кроме того, позволяет получать решения, относящиеся к классу сниженных оценок, т. е. обладающие свойством устойчивости к асимметричному засорению. Такие оценки исследовались в рамках локально устойчивого подхода д.т.н. А.М. Шурыгина, основанного на анализе показателя неустойчивости оценки (L₂-нормы функции влияния), и его подхода, основанного на модели байесовского точечного засорения. В работе исследуется компромиссное семейство оценок, для которого оптимизируемый функционал представляет собой выпуклую линейную комбинацию двух базовых критериев. Компромиссное семейство подобно условно оптимальному семейству оценок, предложенному А.М. Шурыгиным, но используемые критерии могут быть квадратами весовых L₂-норм функции влияния с произвольными заранее известными весовыми функциями.
Метод. Рассмотренная предметная область до настоящего времени оставалась малоизученной. При проведении исследований применялась ранее разработанная авторами настоящей работы теория, которая описывает свойства оценок, оптимизирующих весовую L₂-норму функции влияния. Основные результаты. Получен ряд свойств компромиссных оценок, показана единственность элементов семейства. Отдельно рассмотрен член семейства, доставляющий равные значения критериям: показано, что данная оценка соответствует седловой точке оптимизируемого функционала, а также является минимаксным решением относительно базовых критериев на множестве всех регулярных оценочных функций.
Обсуждение. Построенная теория проиллюстрирована на примере задачи оценивания математического ожидания нормального распределения в условиях целенаправленного вредоносного воздействия на набор данных (аналогичного атаке отравления данных во вредоносном машинном обучении).

1. Боровков А.А. Математическая статистика. Новосибирск: Наука. Сиб. предприятие РАН: Изд-во Ин-та математики, 1997. 771 с.

2. Шурыгин А.М. Прикладная стохастика: робастность, оценивание, прогноз. М.: Финансы и статистика, 2000. 223 с.

3. Huber P., Ronchetti E. Robust Statistics. John Wiley & Sons, 2009. 354 p. https://doi.org/10.1002/9780470434697

4. Hampel F., Ronchetti E., Rousseeuw P., Stahel W. Robust Statistics: The Approach Based on Influence Functions. John Wiley & Sons, 2005. 536 p. https://doi.org/10.1002/9781118186435

5. Лисицин Д.В., Гаврилов К.В. Использование принципа максимальной энтропии для конструирования робастных оценок при байесовском точечном засорении. Часть I // Прикладная математика и вопросы управления. 2024. № 1. С. 55–72. https://doi.org/10.15593/2499-9873/2024.1.04

6. Лисицин Д.В. Устойчивые методы оценивания параметров статистических моделей. Новосибирск: Изд-во НГТУ, 2013. 76 с.

7. Лисицин Д.В., Гаврилов К.В. Использование принципа максимальной энтропии для конструирования робастных оценок при байесовском точечном засорении. Часть II // Прикладная математика и вопросы управления. 2024. № 2. С. 18–33. https://doi.org/10.15593/2499-9873/2024.2.02

8. Лисицин Д.В., Гаврилов К.В. О свойствах М-оценок, оптимизирующих весовую L2-норму функции влияния // Научнотехнический вестник информационных технологий, механики и оптики. 2024. Т. 24. № 2. С. 267–275. https://doi.org/10.17586/2226-1494-2024-24-2-267-275

9. Лисицин Д.В. Устойчивое оценивание параметров модели по многомерным неоднородным неполным данным // Научный вестник НГТУ. 2013. Т. 50. № 1. С. 17–30.

10. Лисицин Д.В., Гаврилов К.В. Об устойчивом оценивании параметров модели при асимметричном засорении данных // Научный вестник НГТУ. 2008. Т. 30. № 1. С. 33–41.

11. Shevlyakov G.L., Oja H. Robust Correlation: Theory and Applications. John Wiley & Sons, 2016. 352 p. https://doi.org/10.1002/9781119264507

12. Гаврилов К.В., Веретельникова Е.Л. Об одном способе выбора компромисса в семействе условно оптимальных оценок // Вестник Томского государственного университета. Управление, вычислительная техника и информатика. 2024. № 67. С. 60–68. https://doi.org/10.17223/19988605/67/7

13. Coretto P., Hennig C. Robust improper maximum likelihood: tuning, computation, and a comparison with other methods for robust Gaussian clustering // Journal of the American Statistical Association. 2016. V. 111. N 516. P. 1648–1659. https://doi.org/10.1080/01621459.2015.1100996

14. Rieder H., Kohl M., Ruckdeschel P. The cost of not knowing the radius // Statistical Methods and Applications. 2008. V. 17. N 1. P. 13–40. https://doi.org/10.1007/s10260-007-0047-7

15. Смоляк С.А., Титаренко Б.П. Устойчивые методы оценивания: статистическая обработка неоднородных совокупностей. М.: Статистика, 1980. 210 с.

16. Лисицин Д.В., Гаврилов К.В. Максиминная задача оценивания параметров в условиях байесовского точечного засорения // Вестник Томского государственного университета. Управление, вычислительная техника и информатика. 2023. № 62. С. 56–64. https://doi.org/10.17223/19988605/62/6

17. Лисицин Д.В., Гаврилов К.В. Оценивание параметров распределения ограниченной случайной величины, робастное к нарушению границ // Научный вестник НГТУ. 2016. Т. 63. № 2. С. 70–89. https://doi.org/10.17212/1814-1196-2016-2-70-89

18. Shevlyakov G., Morgenthaler S., Shurygin A. Redescending M-estimators // Journal of Statistical Planning and Inference. 2008. V. 138. N 10. P. 2906–2917. https://doi.org/10.1016/j.jspi.2007.11.008

19. Shurygin A.M. New approach to optimization of stable estimation // Proc. of the First US/Japan Conference on the Frontiers of Statistical Modeling: An Informational Approach. 1994. V. 3. P. 315–340. https://doi.org/10.1007/978-94-011-0854-6_15

20. Ногин В.Д. Принятие решений в многокритериальной среде: количественный подход. М.: Физматлит, 2005. 176 с.

21. Подиновский В.В. Идеи и методы теории важности критериев в многокритериальных задачах принятия решений. М.: Наука, 2019. 103 с.

22. Li F., Lai L., Cui Sh. Machine Learning Algorithms: Adversarial Robustness in Signal Processing. Springer, 2022. 104 p. https://doi.org/10.1007/978-3-031-16375-3

23. Großhans M., Sawade C., Brückner M., Scheffer T. Bayesian games for adversarial regression problems // Proc. of the 30th International Conference on Machine Learning. International Conference on Machine Learning. 2013, V. 28. P. 55–63. https://doi.org/10.5555/3042817.3042943

24. Айвазян С.А., Енюков И.С., Мешалкин Л.Д. Прикладная статистика: Основы моделирования и первичная обработка данных. М.: Финансы и статистика, 1983. 471 с.

25. Хайкин С. Нейронные сети: полный курс. М.: Вильямс, 2020. 1104 с.