Tấn công đối kháng vào mô hình học sâu sử dụng phương pháp biến đổi điểm ảnh

Học sâu hiện nay đang phát triển và được nhiều nhóm tác giả quan tâm nghiên cứu, tuy nhiên các mô hình học sâu có những rủi ro tiềm tàng về an toàn có thể trở thành những lỗ hổng nghiêm trọng cho các ứng dụng. Bài viết sử dụng phương pháp thay đổi điểm ảnh để thực hiện một cuộc tấn công đối kháng, từ đó có thể tấn công và đánh lừa hệ thống học sâu. | TNU Journal of Science and Technology 228 02 94 - 102 ADVERSARIAL ATTACKS INTO DEEP LEARNING MODELS USING PIXEL TRANFORMATION Truong Phi Ho1 Hoang Thanh Nam1 Tran Quang Tuan2 Pham Minh Thuan3 Pham Duy Trung1 1 2 Vietnam Academy of Cryptography Techniques Telecommunications University 3 Vietnam Government Committee for Information Security ARTICLE INFO ABSTRACT Received 22 11 2022 Deep learning is currently developing and being studied by many groups of authors but deep learning models have potential security Revised 26 12 2022 risks that can become serious vulnerabilities for applications. At Published 26 12 2022 present the designed antagonist pattern to deceive the neural network in the deep neural network is misbehaving compared to the original KEYWORDS design and the success probability of the antagonist pattern is very worrying which raises security concerns for machine learning Deep learning models. Studying and understanding adversarial attacks enhances the Adversarial attack security of machine learning models. Most research on antagonistic attacks can fool black box models. The article uses pixel Black-box attack transformation to perform a counterattack from which it is possible DNN to attack and fool the deep learning system. By the way the pixel Trained model transform method using the Cats and Dogs dataset was tested on the InceptionV3 model. The results demonstrate that the proposed method has a high success rate that causes the deep learning model to misrecognize in the specified target direction. TẤN CÔNG ĐỐI KHÁNG VÀO MÔ HÌNH HỌC SÂU SỬ DỤNG PHƢƠNG PHÁP BIẾN ĐỔI ĐIỂM ẢNH Trƣơng Phi Hồ1 Hoàng Thanh Nam1 Trần Quang Tuấn2 Phạm Minh Thuấn3 Phạm Duy Trung1 1 Học viện Kỹ thuật Mật mã 2Trường Đại học Thông tin Liên lạc 3Ban Cơ yếu Chính phủ THÔNG TIN BÀI BÁO TÓM TẮT Ngày nhận bài 22 11 2022 Học sâu hiện nay đang phát triển và được nhiều nhóm tác giả quan tâm nghiên cứu tuy nhiên các mô hình học sâu có những rủi ro tiềm tàng về Ngày hoàn thiện 26 12 2022