Россия
Россия
ПАО «ВТБ»
Россия
Россия
УДК 656.25 Меры безопасности. Сигналы
В условиях активного внедрения интеллектуальных систем в железнодорожную отрасль возрастает значимость обеспечения их робастности к внешнему вмешательству, в том числе в форме скрытых атак на входные данные. Статья посвящена исследованию робастности современных архитектур нейронных сетей (ResNet18, ResNet50, Vision Transformer (ViT), сверточной нейронной сети и мультимодальной GPT-4o), применяемых для автоматического обнаружения дефектов на изображениях элементов железнодорожной инфраструктуры. Проведены эксперименты с генерацией скрытых возмущений с помощью универсального шума, созданного на базе ансамбля трансформеров. Рассмотрены две модификации атак (М1 и М2), позволяющие смоделировать реалистичные сценарии вмешательства в условиях ограниченного доступа к данным. Оценка качества моделей выполнялась как на «чистых» изображениях, так и в условиях добавленного шума. Результаты показывают, что, несмотря на высокую точность ResNet50 на исходных данных, наибольшую робастность к возмущениям демонстрируют ViT и GPT-4o. Сделаны выводы о целесообразности выбора архитектуры не только по точности, но и по уровню робастности к шуму. Работа предлагает методику оценки робастности и практические рекомендации для разработки систем компьютерного зрения, предназначенных для эксплуатации в критически важных условиях железнодорожного транспорта.
интеллектуальные системы; железнодорожный транспорт; состязательные атаки; робастность; нейронные сети; компьютерное зрение; безопасность; мониторинг инфраструктуры
1. Кулагин М. А. Обобщение опыта решения задач предиктивной аналитики на железнодорожном транспорте / М. А. Кулагин, В. Г. Сидоренко // Наука и техника транспорта. — 2024. — № 4. — С. 55–62.
2. Сидоренко В. Г. Интеллектуальная система обнаружения нарушений в соблюдении требований безопасности при работах на объектах железнодорожной инфраструктуры / В. Г. Сидоренко, М. А. Кулагин, Д. М. Родина // Автоматика на транспорте. — 2025. — Т. 11. — № 1. — С. 55–65. — DOI:https://doi.org/10.20295/2412-9186-2025-11-01-55-65.
3. Малинский С. В. Автоматическое определение границ опасных участков железнодорожного пути / С. В. Малинский, А. В. Абрамов, В. О. Шарова // Интеллектуальные транспортные системы: материалы IV Международной научно-практической конференции, Москва, 22 мая 2025 года. — Москва: Российский университет транспорта (МИИТ), 2025. — С. 624–630. — DOI: 10.30932/ 9785002587582-2025-624-630.
4. Ашрафзянов А. М. Обнаружение и распознавание пре- пятствий перед автомобилем на основе обработки видеоизображений / А. М. Ашрафзянов, М.Шлеймович // Вестник Казанского государственного технического университета им. А.Н. Туполева. — 2014. — № 2. — С. 197–202.
5. Баранов Л. А. Методология обоснования требований безопасности при использовании систем технического зрения в интеллектуальных системах управления движением поездов / Л. А. Баранов, П. Ф. Бестемьянов, Е. П. Балакина, А. Л. Охотников // Интеллектуальные транспортные системы: материалы Международной научно-практической конференции, Москва, 26 мая 2022 года. — М.: Российский университет транспорта, 2022. — С. 54–58.
6. Охотников А. Л. Проекты систем технического зрения для автоматического управления движением / А. Л. Охотников // Автоматика, связь, информатика. — 2023. — № 3. — С. 21–24. — DOI:https://doi.org/10.34649/AT.2023.3.3.003.
7. Озеров А. В. Техническое зрение в составе систем автоматического управления движением поездов / А. В. Озеров, А. С. Маршова // Перспективные информационные технологии (ПИТ 2022): труды Международной научно-технической конференции, Самара, 18–21 апреля 2022 года / под ред. С. А. Прохорова. — Самара: Издательство Самарского научного центра РАН, 2022. — С. 201–205.
8. Lisanti G. A Multi-Camera Image Processing and Visualization System for Train Safety Assessment / G. Lisanti, S. Karaman, D. Pezzatini // arXiv preprint. — 2015. — arXiv:1507.07815. — DOI:https://doi.org/10.48550/arXiv.1507.07815.
9. Saritas M. M. et al. Railway Track Fault Detection with ResNet Deep Learning Models // 2023 International Conference on Intelligent Systems and New Applications (ICISNA’23). — 2023.
10. Сунь Х. Обзор современных систем технического зрения, применяемых в транспортной отрасли / Х. Сунь, С. чжуан, А. А. Костров // Современные наукоемкие технологии. — 2024. — № 9. — С. 69–73. — DOI: 10.17513/ snt.40150.
11. Goodfellow I. Explaining and Harnessing Adversarial Examples / I. Goodfellow, J. Shlens, C. Szegedy // arXiv preprint. — 2015 (submitted 20 Dec 2014, revised 20 Mar 2015). — arXiv:1412.6572. — DOI:https://doi.org/10.48550/arXiv.14.6572.
12. Григоренко А. Г. Обзор методов защиты от адверсиальной атаки One Pixel в системах машинного обучения / А. Г. Григоренко, Н. А. Васильев, Д. С. Ситдиков // Системы интеллектуального управления и искусственный интелект: теория и практика: сборник трудов II националь-ной научно-практической конференции, Санкт- Петербург, 27 июня 2024 года. — СПб.: Федеральное государственное бюджетное образовательное учреждение высшего образования Государственный университет морского и речного флота им. адмирала С. О. Макарова, 2024. — С. 30–36.
13. Хьюбер П. Робастная статистика / П. Хьюбер. М.: Мир,1984.
14. Goodfellow I. J. Making machine learning robust against adversarial inputs / I. J. Goodfellow, J. Shlens, C. Szegedy // Communications of the ACM. — 2018. — Vol. 61. — Iss. 7. — Pp. 56–66. — DOI:https://doi.org/10.1145/3134599.
15. Василенко, М. С. Алгоритм машинного обучения для детектирования выбросов и аномалий / М. С. Василенко, А. С. Копырин // Modeling of Artificial Intelligence. — 2019. — № 6-1. — С. 13–18. — DOI:https://doi.org/10.13187/mai.2019.1.13.
16. Легашев Л. В. Методика построения устойчивой системы защиты на основе состязательного машинного обучения в беспроводных сетях 6G / Л. В. Легашев, Л. С. Гришина // Вопросы кибербезопасности. — 2023. — № 2(54). — С. 99–108. — DOI:https://doi.org/10.21681/2311-3456-2023-2-99-108.
17. Hou X. High-Speed Rail Operating Environment Recognition Based on Neural Network and Adversarial Training / X. Hou et al. //2019 IEEE 31st International Conference on Tools with Artificial Intelligence (ICTAI). — IEEE, 2019. — Pp. 840– 847. — DOI:https://doi.org/10.1109/ICTAI.2019.00120.
18. Голдобин И. А. Влияние шумов на алгоритмы цифровой обработки изображений / И. А. Голдобин, Е. И. Климова // Актуальные вопросы развития современной цифровой среды: сборник статей по материалам научно-технической конференции молодых ученых, Москва, 14–16 апреля 2021 года. — Волгоград: Сириус, 2021. — С. 396–402.
19. Котенко И. В. Атаки и методы защиты в системах машинного обучения: анализ современных исследований / И. В. Котенко, И. Б. Саенко, О. С. Лаута и др. // Вопросы кибербезопасности. — 2024. — № 1(59). — С. 24–37. — DOI:https://doi.org/10.21681/2311-2024-1-24-37.
20. Костюмов В. В. Обзор и систематизация атак уклонением на модели компьютерного зрения / В. В. Костюмов // International Journal of Open Information Technologies. — 2022. — Т. 10. — № 10. — С. 11–20.
21. Potapov A. K. Vulnerabilities of Artificial Intelligence Systems / A. K. Potapov, V. G. Sidorenko // 2024 International Conference “Quality Management, Transport and Information Security, Information Technologies” (QM&TIS&IT). — IEEE, 2024. — Pp. 84–87. — DOI: 10.1109/ QMTISIT63393.2024.10762915.
22. Грачев Я. Л. Использование качественных характеристик изображения для комплексного стегоанализа / Я. Л. Грачев, В. Г. Сидоренко // Надежность. — 2025. —Т. 25. — № 1. — С. 67–74. — DOI:https://doi.org/10.21683/1729-2646- 2025-25-1-67-74.
23. Орлов С. П. Глубокая нейронная сеть для диагностики элементов железнодорожного рельсового пути / С. П. Орлов, Н. А. Ефимушкин, Н. В. Ефимушкина // Вестник Самарского государственного технического университета. Серия: Технические науки. — 2022. — Т. 30. — № 1(73). — С. 63–74. — DOI:https://doi.org/10.14498/tech.2022.1.4.
24. Федоров В. А. Обнаружение железнодорожной инфраструктуры на основе YOLOv8 с использованием нейронного процессора / В. А. Федоров // Доклады Российской академии наук. Математика, информатика, процессы управления. — 2024. — Т. 520. — № S2. — С. 49–56. — DOI:https://doi.org/10.31857/S2686954324700371.
25. Eunus S. I. ECARRNet: An Efficient LSTM-Based Ensembled Deep Neural Network Architecture for Railway Fault Detection / S. I. Eunus, S. Hossain, A. E. M. Ridwan, A. Adnan et al. // AI. — 2024. — Vol. 5. — Iss. 2. — Pp. 482–503. — DOI:https://doi.org/10.3390/ai5020024.
26. Goodfellow I. Deep Learning / I. Goodfellow, Y. Bengio, A. Courville. — Cambridge, MA: MIT Press, 2016. — DOI:https://doi.org/10.1007/s10710-017-9314-z.
27. Han K. A Survey on Visual Transformer / K. Han, Y. Wang,H. Chen // arXiv preprint. — 2020. — DOI: 10.48550/ arXiv.2012.12556.
28. Powers D. M. W. Evaluation: From Precision, Recall and F-Measure to ROC, Informedness, Markedness & Correlation / D. M. W. Powers // Journal of Machine Learning Technologies. — 2011. — Vol. 2. — Iss. 1. — Pp. 37–63. — DOI:https://doi.org/10.48550/arXiv.2010.16061.
