МЕТОД УСТРАНЕНИЯ ИСКАЖЕНИЙ, ВСТРАИВАЕМЫХ ПИКСЕЛЬНЫМИ АТАКАМИ

Дмитрий А. Есипов, Никита С. Сулименко, Илья Ю. Попов

Аннотация


Искусственный интеллект получил широкое распространение за счет эффективности решения многих прикладных задач, в том числе обработки изображений. Однако с внедрением технологий искусственного интеллекта в информационных системах растет количество уязвимостей. Основные угрозы информационной безопасности могут быть реализованы посредством искажения входных изображений. Недостатком существующих методов защиты является привязка к набору данных или архитектуре нейронной сети. Целью текущей работы является расширение области применения устранения искажений, оптимизированных по L_0, а также уменьшение влияния указанных атак на отклик защищаемой модели. Предложен метод устранения возмущений, встраиваемых пиксельными атаками модификации изображений, поступающих в нейронные сети, посредством математических преобразований входных данных независимо от модели и набора данных. Восстановление модифицированных атакой пикселей изображения предполагает предварительное обнаружение внесенного искажения. Рассмотрены преобразования билинейная интерполяция, алгоритм Телеа и др. К искаженному пикселю применяется выбранное математическое преобразование и в его позицию записываются восстановленные значения цветовых компонент. Каждый модифицированный пиксель обрабатывается последовательно. Восстановленное изображение подается на вход защищаемой модели. Апробация метода выполнена на наборах данных CIFAR-10 и MNIST. Метод восстановления демонстрирует малое отличие между оригинальным и восстановленным пикселями, на изображениях наблюдается идентичный отклик. Следует отметить, что восстановление поведения модели зависит от качества самой модели. Предложенный метод применим для устранения искажений, характерных для однопиксельных атак и распределенных искажений (JSMA), однако не позволяет ликвидировать сосредоточенные искажения (вредоносный патч). Метод может быть применим для цветных изображений и изображений в оттенках серого независимо от набора данных и потенциально универсален к архитектуре нейронной сети.

Ключевые слова


искусственная нейронная сеть, обработка изображений, состязательная атака, вредоносное возмущение, метрика L0, однопиксельная атака, атака по карте значимости на основе Якобиана.

Полный текст:

PDF

Литература


1. Есипов Д.А., Бучаев А.Я., Керимбай А., Пузикова Я.В., Сайдумаров С.К., Сулименко Н.С., Попов И.Ю., Кармановский Н.С. Атаки на основе вредоносных возмущений на системы обработки изображений и методы защиты от них. Научно-технический вестник информационных технологий, механики и оптики. 2023, т. 23, № 4, с. 720–733. DOI: https://doi.org/10.17586/2226-1494-2023-23-4-720-733.

2. Esipov D.A. An approach to detecting L0-optimized attacks on image processing neural networks via means of mathematical statistics. Scientific and Technical Journal of Information Technologies, Mechanics and Optics. 2024, v. 24, no. 3, p. 490–499. DOI: 10.17586/2226-1494-2024-24-3-490-499.

3. Severino A., Curto S., Barberi S., Arena F., Pau G. Autonomous vehicles: an analysis both on their distinctiveness and the potential impact on urban transport systems. Applied Sciences. 2021, v. 11, no. 8, p. 3604. DOI: https://doi.org/10.3390/app11083604.

4. Wang L., Fan X., Chen J., Cheng J., Tan J., Ma X. 3D object detection based on sparse convolution neural network and feature fusion for autonomous driving in smart cities. Sustainable Cities and Society. 2020, v. 54, p. 102002.
DOI: https://doi.org/10.1016/j.scs.2019.102002.

5. Chen L., Lin S., Lu X., Cao D., Wu H., Guo C., Liu C. Wang F.Y. Deep neural network based vehicle and pedestrian detection for autonomous driving: A survey. IEEE Transactions on Intelligent Transportation Systems. 2021, v. 22. no. 6, p. 3234–3246.
DOI: https://doi.org/10.1109/TITS.2020.2993926.

6. Sarvamangala D. R., Kulkarni R. V. Convolutional neural networks in medical image understanding: a survey. Evolutionary intelligence. 2022, v. 15, no. 1. p. 1–22.
DOI: https://doi.org/10.1007/s12065-020-00540-3.

7. Zhang Y., Shi D., Zhan X., Cao D., Zhu K., Li Z. Slim-ResCNN: A deep residual convolutional neural network for fingerprint liveness detection. IEEE Access. 2019, v. 7, p. 91476–91487.
DOI: https://doi.org/10.1109/ACCESS.2019.2927357.

8. Severino A., Curto S., Barberi S., Arena F., Pau G. Autonomous vehicles: an analysis both on their distinctiveness and the potential impact on urban transport systems. Applied Sciences. 2021, v. 11, no. 8, p. 3604. DOI: https://doi.org/10.3390/app11083604.

9. Wang L., Fan X., Chen J., Cheng J., Tan J., Ma X. 3D object detection based on sparse convolution neural network and feature fusion for autonomous driving in smart cities. Sustainable Cities and Society. 2020, v. 54, p. 102002.
DOI: https://doi.org/10.1016/j.scs.2019.102002.

10. Chen L., Lin S., Lu X., Cao D., Wu H., Guo C., Liu C. Wang F.Y. Deep neural network based vehicle and pedestrian detection for autonomous driving: A survey. IEEE Transactions on Intelligent Transportation Systems. 2021, v. 22. no. 6, p. 3234–3246.
DOI: https://doi.org/10.1109/TITS.2020.2993926.

11. Szegedy C., Zaremba W., Sutskever I., Bruna J., Erhan D., Goodfellow I., Fergus R. Intriguing properties of neural networks. arXiv preprint arXiv:1312.6199. 2013.
DOI: https://doi.org/10.48550/arXiv.1312.6199.

12. Akhtar N., Mian A., Kardan N., Shah M. Advances in adversarial attacks and defenses in computer vision: A survey. IEEE Access. 2021, v. 9, p. 155161–155196.
DOI: https://doi.org/10.1109/ACCESS.2021.3127960.

13. Huang X., Kroening D., Ruan W., Sharp J., Sun Y., Thamo E., Wu M., Yi X. A survey of safety and trustworthiness of deep neural networks: Verification, testing, adversarial attack and defence, and interpretability. Computer Science Review. 2020, v. 37, p. 100270. DOI: https://doi.org/10.1016/j.cosrev.2020.100270.

14. Su J., Vargas D. V., Sakurai K. One pixel attack for fooling deep neural networks. IEEE Transactions on Evolutionary Computation. 2019, v. 23, no. 5, p. 828–841.
DOI: https://doi.org/10.1109/TEVC.2019.2890858.

15. Papernot N., McDaniel P., Jha S., Fredrikson M., Celik Z. B., Swami A. The limitations of deep learning in adversarial settings. IEEE European symposium on security and privacy (EuroS&P). 2016, p. 372–387.
DOI: https://doi.org/10.1109/EuroSP.2016.36.

16. Karmon D., Zoran D., Goldberg Y. Lavan: Localized and visible adversarial noise. International Conference on Machine Learning. 2018, p. 2507–2515.
DOI: https://doi.org/10.48550/arXiv.1801.02608.

17. Das S., Suganthan P. N. Differential evolution: A survey of the state-of-the-art. IEEE transactions on evolutionary computation. 2010, v. 15, no. 1, p. 4–31.
DOI: https://doi.org/10.1109/TEVC.2010.2059031.

18. Nguyen-Son H. Q., Thao T. P., Hidano S., Bracamonte V., Kiyomoto S.,Yamaguchi R. S. Opa2d: One-pixel attack, detection, and defense in deep neural networks. 2021 International Joint Conference on Neural Networks (IJCNN). 2021, p. 1–10.
DOI: https://doi.org/10.1109/IJCNN52387.2021.9534332.

19. Alatalo J., Sipola T., Kokkonen T. Detecting One-Pixel Attacks Using Variational Autoencoders. World Conference on Information Systems and Technologies. 2022, p. 611–623.
DOI: https://doi.org/10.1007/978-3-031-04826-5_60.

20. Wang P., Cai Z., Kim D., & Li W. Detection mechanisms of one-pixel attack. Wireless Communications and Mobile Computing. 2021, v. 2021, p. 1–8. DOI: https://doi.org/10.1155/2021/8891204.

21. Grosse K., Manoharan P., Papernot N., Backes M., McDaniel P. On the (statistical) detection of adversarial examples. arXiv preprint arXiv:1702.06280. 2017.
DOI: https://doi.org/10.48550/arXiv.1702.06280.

22. Guo F., Zhao Q., Li X., Kuang X., Zhang J., Han Y., Tan Y. A. Detecting adversarial examples via prediction difference for deep neural networks. Information Sciences. 2019, v. 501, p. 182–192.
DOI: https://doi.org/10.1016/j.ins.2019.05.084.

23. McLachlan G.J. Mahalanobis distance. Resonance. 1999, v. 4, no. 6, p. 20–26. DOI: https://doi.org/10.1007/bf02834632.

24. Fadnavis S. Image interpolation techniques in digital image processing: an overview. International Journal of Engineering Research and Applications. 2014, 4(10): 2248-962270. URL: https://www.researchgate.net/publication/301889708_Image_Interpolation_Techniques_in_Digital_Image_Processing_An_Overview (дата обращения: 02.10.2024).

25. Kirkland E. J., Kirkland E. J. Bilinear interpolation. Advanced computing in electron microscopy. 2010,
p. 261–263. DOI: https://doi.org/10.1007/978-1-4419-6533-2_12.
26. Smith P. R. Bilinear interpolation of digital images. Ultramicroscopy. 1981, v. 6, no. 2, p. 201–204.
DOI: https://doi.org/10.1016/0304-3991(81)90061-9.

27. Li Y., Qi F., Wan Y. Improvements on biBicubic interpolation image interpolation. IEEE 4th Advanced Information Technology, Electronic and Automation Control Conference (IAEAC). 2019, v. 1, p. 1316–1320.
DOI: https://doi.org/10.1109/IAEAC47372.2019.8997600.

28. Wilhelm Burger, Mark J. Burge. Principles of digital image processing: core algorithms. Springer. 2009, v. 111, p. 231–232.
URL: https://books.google.com.na/books?id=s5CBZLBakawC&printsec=frontcover&source=gbs_vpt_reviews#v=onepage&q&f=false (дата обращения: 02.12.2024).

29. Bentbib A.H., El Guide M., Jbilou K., Reichel L. A global Lanczos method for image restoration. Journal of Computational and Applied Mathematics. 2016, v. 300, p. 233–244.
DOI: https://doi.org/10.1016/j.cam.2015.12.034.

30. Telea, Alexandru. An image inpainting technique based on the fast marching method. Journal of graphics tools. 2004, v. 9, no. 1, p. 23–34. DOI: https://doi.org/10.1080/10867651.2004.10487596.

31. Doering C. R., Gibbon J. D. Applied analysis of the Navier-Stokes equations. Cambridge university press. 1995, № 12. URL: https://www.google.com/url?sa=t&source=web&rct=j&opi=89978449&url=https://www.researchgate.net/profile/Hayat-Rezgui/post/How_do_I_derive_the_Navier_Stokes_Equation_from_first_order_ODEs/attachment/59d64eff79197b80779a83dd/AS%253A495455718711296%25401495137256546/download/Applied%2BAnalysis%2Bof%2Bthe%2BNavier-Stokes%2BEquations%2BCambridge%2BTexts%2Bin%2BApplied%2BMathematics.pdf&ved=2ahUKEwiIxcXiurKOAxVLgf0HHR9TG2UQFnoECCMQAQ&usg=AOvVaw2TP53_H151znb7HXrFd5q7 (дата обращения: 07.11.2025).

32. Bertalmio M., Bertozzi A. L., Sapiro G. Navier-stokes, fluid dynamics, and image and video inpainting. Proceedings of the 2001 IEEE Computer Society Conference on Computer Vision and Pattern Recognition. 2001, v. 1, p. 1–355.
DOI: https://doi.org/10.1109/CVPR.2001.990497.

33. Haddad, R. A., Akansu, A. N. A class of fast Gaussian binomial filters for speech and image processing. IEEE Transactions on Signal Processing. 1991, v. 39, no. 3, p. 723–727.
DOI: https://doi.org/10.1109/78.80892.

34. O'Shea K. An introduction to convolutional neural networks. arXiv preprint arXiv:1511.08458. 2015.
DOI: https://doi.org/10.48550/arXiv.1511.08458.

35. Liao C., Zhong H., Squicciarini A., Zhu S., Miller D. Backdoor embedding in convolutional neural network models via invisible perturbation. Proceedings of the Tenth ACM Conference on Data and Application Security and Privacy. 2020, p. 97–108.
DOI: https://doi.org/10.1145/3374664.3375751.




DOI: http://dx.doi.org/10.26583/bit.2025.3.02

Ссылки

  • На текущий момент ссылки отсутствуют.


Лицензия Creative Commons
Это произведение доступно по лицензии Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная.