Bài giảng "Học máy - Bài 3: Kỹ thuật kiểm tra chéo, hiệu chỉnh mô hình, mô hình thưa" cung cấp cho người học các kiến thức: Các giải thuật học máy, hàm tổn thất, kỹ thuật kiểm tra chéo, mô hình có điều chỉnh,. . | Bài giảng Học máy: Bài 3 - Nguyễn Hoàng Long Kỹ thuật kiểm tra chéo, hiệu chỉnh mô hình, mô hình thưa Nguyễn Thanh Tùng Khoa Công nghệ thông tin – Đại học Thủy Lợi tungnt@ Website môn học: Bài giảng có sử dụng hình vẽ trong cuốn sách “An Introduction to Statistical Learning with Applications in R” với sự cho phép của tác giả, có sử dụng slides các khóa học CME250 của ĐH Stanford và IOM530 của ĐH Southern California CSE 445: Học máy | Học kỳ 1, 2016-2017 1 Các dạng giải thuật Học máy Do you have labeled data? Yes No Supervised Unsupervised What do you want to predict? Do you want to group the data? Category Quantity Yes No Classification Regression Cluster Dimensionality Analysis Reduction SVM KNN CART LASSO Logistic Linear K-means Regression Regression ICA PCA CSE 445: Học máy | Học kỳ 1, 2016-2017 2 Nhắc lại Hồi quy tuyến tính đơn giản Figure , ISL 2013 CSE 445: Học máy | Học kỳ 1, 2016-2017 3 Nhắc lại Bình phương nhỏ nhất • Sử dụng phương pháp bình phương nhỏ nhất để đo lường độ xấp xỉ của mô hình áp dụng trên dữ liệu • Phần dư (Residual): sai số giữa giá trị quan sát được và giá trị dự đoán. (i) = (i) ˆ (i) • Tổng phần dư bình phương-Residual sum of squares (RSS): 2 2 = (1) (2) (n) 2 + + ⋯+ • Lỗi bình phương trung bình-Mean squared error (MSE): CSE 445: Học máy | Học kỳ 1, 2016-2017 4 Hàm tổn thất Loss Functions CSE 445: Học máy | Học kỳ 1, 2016-2017 5 Loss Functions L(θi ,θˆi ) CSE 445: Học máy | Học kỳ 1, 2016-2017 6 Loss Functions L(θi ,θˆi ) Lỗi bình phương (Squared error) θ − ∑ i i ( θˆ ) 2 i Lỗi tuyệt đối (Absolute error) ∑ θ − θˆ i i i Lỗi điều hướng (Indicator error) ∑ I(θ ≠ θˆ ) i i i CSE 445: Học máy | Học kỳ 1, 2016-2017 7 Học máy chỉ để giải 1 vấn đề CSE 445: Học máy | Học kỳ 1, 2016-2017 8 Kỹ thuật kiểm tra chéo Cross-validation CSE 445: Học máy | Học kỳ 1, .
