Một perceptron có hai đầu vào và vì vậy có hai trọng số có thể thay đổi được, phần tử mà tự nó có thể chia được hai lớp màu riêng biệt nhau, đòi hỏi một số lượng phép tính như trong trường hợp phân chia lớp màu trong file "". Nếu tất cả các phép tính này cần thoả mãn cho một bài toán đơn giản như vậy, thì bạn tưởng tượng điều gì sẽ xảy ra nếu chúng ta dùng phương pháp này để dạy cho một cấu trúc thần kinh đa chức năng. Vấn đề cấp. | hàng trăm phép lặp và để giải quyết hết các vấn đề thì số phép lặp lên đến hàng nghìn. Một perceptron có hai đầu vào và vì vậy có hai trọng số có thể thay đổi được phần tử mà tự nó có thể chia được hai lớp màu riêng biệt nhau đòi hỏi một số lượng phép tính như trong trường hợp phân chia lớp màu trong file . Nếu tất cả các phép tính này cần thoả mãn cho một bài toán đơn giản như vậy thì bạn tưởng tượng điều gì sẽ xảy ra nếu chúng ta dùng phương pháp này để dạy cho một cấu trúc thần kinh đa chức năng. Vấn đề cấp thiết đặt ra là phải tìm cách để đảm bảo sự hội tụ xảy ra với tốc độ nhanh hơn. Yêu cầu thực tế bây giờ là phải tối thiểu hoá và đòi hỏi cho sự tối thiểu hoá này là hàm sai lệch tổng 1 M-1 E 2 z d -y Ý 2 i 0 ở đây di là đáp ứng ra mong muốn cho các mẫu X x0 x1 . xN-1 và yi là đáp ứng ra thực sự cho cùng các mẫu đầu vào này. Nếu yi là một hàm phi tuyến của trọng số có thể thay đổi được W w0 w1 . wN vấn đề trở thành bài toán tối thiểu hoá một hàm phi tuyến. Vì vậy chúng ta sẽ tìm kiếm các phương pháp từ phạm vi phi tuyến đã được chứng minh để có kết quả trong việc giải quyết các vấn dề tương tự. Phương pháp tìm kiếm bất biến Một phương pháp hay dùng nhất để rút ra giá trị nhỏ nhất của một hàm đơn biến là phương pháp tỷ lệ vàng Golden Section . Phương pháp này dựa trên một giản đồ loại trừ miền và giả thiết rằng hàm chỉ có một giá trị nhỏ nhất trong một miền xác định trước. Hàm như thế gọi là hàm đơn điệu. Giản đồ loại trừ miền trong trường hợp tổng quát có thể giải thích bằng biểu đồ như trong hình . fix a v a w w2-a2 282 Hình Sơ đồ loại trừ miền. Trong hình nếu hai điểm được chọn trong miền giữa w0 và w1 và nếuy2 y1 thì rõ ràng giá trị cực tiểu nằm giữa w1 và a2. Vì vậy miền a2 w2 có thể loại trừ khỏi vùng tìm kiếm. Nếu hai điểm khác được lựa chọn trong miền nhỏ hơn và phép xử lý được lặp lại miền tìm kiếm sẽ bị co hẹp lại. Cuối cùng giá trị nhỏ nhất được thu hẹp nằm trong một vùng rất nhỏ. Một câu hỏi đặt ra Bằng .
