(NB) Bài giảng Lý thuyết thông tin có kết cấu nội dung gồm 6 chương, nội dung tài liệu gồm có: Khái niệm chung, thông tin, mã hiệu, mã hóa nguồn, mã phát hiện lỗi và sửa lỗi, mã mật, mã khối tuyến tính,. | TRƯỜNG ĐẠI HỌC SƯ PHẠM KỸ THUẬT HƯNG YÊN KHOA ĐIỆN-ĐIỆN TỬ BÀI GIẢNG LÝ THUYẾT THÔNG TIN Hưng Yên 2015 (Tài liệu lưu hành nội bộ) TỔNG QUAN VỀ MÔN HỌC Chƣơng 1: Khái niệm chung. Chƣơng này giới thiệu những khái niệm và các vấn đề cơ bản trong lý thuyết truyền tin nhƣ thông tin, tín hiệu, mô hình của hệ thống truyền tin gồm những thành phần nào và các tham số cơ bản của hệ thống là gì. Mặt khác chƣơng này cũng nhắc lại phƣơng pháp rời rạc hóa một nguồn tin liên tục thành nguồn rời rạc. Cuối chƣơng đƣa ra khái niệm về độ đo thông tin và nhắc lại những cơ sở toán học cần thiết cho việc khảo sát các hệ thống truyền tin. Chƣơng 2: Thông tin Chƣơng này trình bày những vấn đề về định lƣợng thông tin của nguồn tin nhƣ lƣợng tin riêng, lƣợng tin trung bình, lƣợng tin tƣơng hỗ, lƣợng tin có điều kiện (vì tín hiệu truyền trên kênh bị nhiễu tác động nên khi thu đƣợc tín hiệu ta phải tìm khả năng đầu phát đã phát đi tín hiệu nào vì vậy chƣơng này liên quan nhiều đến xác suất. Cụ thể là xác suất riêng, xác suất đồng thời và xác suất có điều kiện và mối liên hệ chúng). Sau đó tập trung giải quyết các vấn đề về entropy để đo lƣợng tin không chắc chắn của một sự kiện hay phân phối ngẫu nhiên cũng nhƣ các tính chất của nó. Khi tín hiệu đƣợc truyền đi trên kênh nên chƣơng này cũng đƣa ra các loại kênh truyền và các tham số kỹ thuật của kênh đồng thời xác định độ không chắc chắn khi nhận đƣợc một tin cụ thể đã bị nhiễu phá hủy một phần trên kênh từ đó tính toán dung lƣợng C của kênh truyền để xác định giới hạn trên của tốc độ mà ta có thể truyền không lỗi. Phần cuối của chƣơng sẽ đề cập đến việc giải mã (tức nhận đƣợc một tin ta phải đi tìm tin nào đã đƣợc truyền đi ở bên phát). Sau đó tính các xác suất truyền sai một từ mã và xác suất truyền sai trung bình. Chƣơng 3: Mã hiệu. Chƣơng này ta tập trung vào các khả năng và các định nghĩa về mã cũng nhƣ các điều kiện và yêu cầu đối với mã hiệu, tức là đƣa ra các phƣơng pháp để lựa chọn, kiểm tra một bộ mã là phân tách đƣợc và khi nào