Khởi tạo trọng số cho mạng nơ ron tích chập số phức sử dụng giải thuật di truyền

Nghiên cứu này tập trung vào việc tối ưu CNN số phức dựa trên cách thức khởi tạo trọng số kết nối của các tế bào nơ ron. Bài viết này đề xuất sử dụng giải thuật di truyền (GA) để tìm tham số tối ưu cho phân bố Rayleigh để khởi tạo trọng số trước khi huấn luyện CNN số phức. Thực nghiệm cho thấy GA đã tìm ra tham số tốt hơn khi sử dụng phương pháp Glorot như các nghiên cứu trước đây. | Tập 2022 Số 1 Tháng 6 Khởi tạo trọng số cho mạng nơ ron tích chập số phức sử dụng giải thuật di truyền Phạm Minh Tuấn1 Nguyễn An Hưng1 1 Trường Đại học Bách khoa Đại học Đà Nẵng 54 Nguyễn Lương Bằng Đà Nẵng Việt Nam Tác giả liên hệ Phạm Minh Tuấn pmtuan@ Ngày nhận bài 01 05 2022 ngày sửa chữa 01 06 2022 ngày duyệt đăng 30 06 2022 Định danh DOI Tóm tắt Khởi tạo trọng số sử dụng phương pháp Glorot là một trong những phương pháp hữu hiệu cho mạng nơ ron tích chập CNN . Ngoài ra những nghiên cứu trước đây cũng đã sử dụng phương pháp này cho CNN số phức. Tuy nhiên không có nghiên cứu nào khẳng định được phương pháp khởi tạo trọng số Glorot có hiệu quả tốt nhất cho CNN số phức. Nghiên cứu này tập trung vào việc tối ưu CNN số phức dựa trên cách thức khởi tạo trọng số kết nối của các tế bào nơ ron. Bài báo này đề xuất sử dụng giải thuật di truyền GA để tìm tham số tối ưu cho phân bố Rayleigh để khởi tạo trọng số trước khi huấn luyện CNN số phức. Thực nghiệm cho thấy GA đã tìm ra tham số tốt hơn khi sử dụng phương pháp Glorot như các nghiên cứu trước đây. Từ khóa Mạng nơ ron tích chập số phức giải thuật di truyền phương pháp Glorot. Title Weight Initialization for Complex Number Convolutional Neural Networks Using Genetic Algorithms Abstract Weight initialization using Glorot method is one of the effective methods for convolutional neural networks CNN . In addition previous studies have also used this method for complex number CNNs. However there is no research to confirm that Glorot weight initialization method has the best effect for complex number CNN. This study focuses on optimizing complex number CNNs based on how to initialize connection weights of neurons. This paper proposes to use genetic algorithm GA to find optimal parameters for Rayleigh distribution to initialize weights before training complex number CNN. Experiments show that GA has found better parameters when using the Glorot method as in previous .

Không thể tạo bản xem trước, hãy bấm tải xuống
TỪ KHÓA LIÊN QUAN
TÀI LIỆU MỚI ĐĂNG
5    362    1    27-04-2024
Đã phát hiện trình chặn quảng cáo AdBlock
Trang web này phụ thuộc vào doanh thu từ số lần hiển thị quảng cáo để tồn tại. Vui lòng tắt trình chặn quảng cáo của bạn hoặc tạm dừng tính năng chặn quảng cáo cho trang web này.