Đang chuẩn bị liên kết để tải về tài liệu:
Phương pháp lọc thư rác tiếng việt dựa trên từ ghép và theo vết ngừời sử dụng

“Lọc thư spam” là bài toán đang được các nhà nghiên cứu quan tâm và đã xuất hiện nhiều hướng tiếp cận để xây dựng các hệ thống lọc cho hiệu quả cao. Tuy nhiên, có những vấn đề khó khăn thách thức khác đối với bài toán này: xây dựng bộ lọc thư spam tiếng Việt. Trong bài báo này, chúng tôi đề xuất mô hình áp dụng thuật toán Naïve Bayes để lọc thư spam tiếng Việt thông qua việc xử lý ngôn ngữ tiếng Việt. | Một số vấn đề chọn lọc của Công nghệ thông tin và truyền thông, Cần Thơ, 7-8 tháng 10 năm 2011 PHƢƠNG PHÁP LỌC THƢ RÁC TIẾNG VIỆT DỰA TRÊN TỪ GHÉP VÀ THEO VẾT NGƢỜI SỬ DỤNG Phan Hữu Tiếp1, Vũ Đức Lung2, Cao Nguyễn Thủy Tiên1, Lâm Thành Hiển1 1 2 Đại học Lạc Hồng Đại học Công nghệ thông tin, Đại học Quốc Gia Tp.Hồ Chí Minh Tóm tắt báo cáo. “Lọc thư spam” là bài toán đang được các nhà nghiên cứu quan tâm và đã xuất hiện nhiều hướng tiếp cận để xây dựng các hệ thống lọc cho hiệu quả cao. Tuy nhiên, có những vấn đề khó khăn thách thức khác đối với bài toán này: xây dựng bộ lọc thư spam tiếng Việt. Trong bài báo này, chúng tôi đề xuất mô hình áp dụng thuật toán Naïve Bayes để lọc thư spam tiếng Việt thông qua việc xử lý ngôn ngữ tiếng Việt. Từ khóa: Lọc thư rác; anti-spam; spam tiếng Việt. 1. Giới thiệu Tách từ là vấn đề quan tâm nhất khi lọc thư rác tiếng Việt do tiếng Việt có các đặc trưng riêng mặc dù tiếng Việt cũng dùng ký tự latinh như tiếng Anh. Tiếng Việt có 2 thành phần cơ bản [1]: tiếng và từ. Một số mối liên quan giữa từ và tiếng như sau. Về ngữ pháp, tiếng là đơn vị cấu tạo của từ. Từ là đơn vị nhỏ nhất để tạo câu, hình thức và ý nghĩa của từ độc lập với cú pháp. Có 2 loại từ phổ biến: từ một tiếng (từ đơn) và từ n tiếng trở lên (n=5 2001 3.1 72994 100 Tổng cộng Bảng 1 - Thống kê độ dài của từ trong từ điển (http://dict.vietfun.com) Dựa vào bảng trên, hơn 67.1% từ trong từ điển có độ dài là 2 tiếng, khoảng 20% là từ đơn và từ có độ dài gồm 3-4 tiếng. Các từ dài hơn chỉ chiếm khoảng 3% trong tự điển. Qua đó, thấy rõ so với từ đơn và các từ ghép có độ dài lớn hơn thì từ ghép 2 tiếng chiếm số lượng khá lớn. Vì vậy, để đơn giản vấn đề, ban đầu tập trung vào việc phân tích từ ghép có 2 tiếng nhưng không xét về mặt nghĩa của từ. Quy trình phân tích từ ghép có thể khái quát hóa như sau: + Xét trong 1 câu tiếng Việt S (Sentence) sẽ gồm W1, W2, W3, Wn từ, mỗi từ Wi (1≤ i≤ n) là một từ đơn tiếng Việt. Do việc phân tích chỉ tập trung từ ghép có 2 tiếng nên