Chủ đề Mã hóa nguồn liên tục Lý thuyết tốc độ-méo ĐHCN-ĐHQG Hà nội Khoa Điện tử - Viễn thơng Mã hóa nguồn liên tục có mát • Nguồn liên tục lấy mẫu theo tiêu chuẩn Nyquist phải lượng tử theo số bit biểu diễn, • Dùng R=log2L bít để biểu diễn L mức lượng tử (nếu L lũy thừa 2), R=log2L+1 L khơng phải lũy thừa 2, sau dùng mã Huffman, hay Lempel-Ziv để tăng hiệu mã xác suất mẫu không Chú ý phép lượng tử làm mát phần thông tin • Tb Méo n mẫu đo theo tỷ lệ bít lỗi hay trung bình phương sai • câu hỏi: n n ~ D  E[d ( X n , X n )]   d  x k , ~ xk     xk  ~ xk  n n 1 n n 1 • Với tb méo cho trước, tốc độ mã (tức số bit tb /mẫu) tối thiểu=? (tức giới hạn =? cho trước độ méo) • Với tốc độ mã (số bít tb /mẫu) cho trước , méo tối thiểu =? ĐHCN-ĐHQG Hà nội Khoa Điện tử - Viễn thơng • Lý thuyết tốc độ-méo áp dụng t/h: – Khi mã hóa nguồn liên tục (nén có mát) – Khi truyền tin với tốc độ lớn dung kênh mã nguồn entropi nguồn Có trao đổi tốc độ méo : tốc độ cao méo nhỏ, tốc độ nhỏ méo lớn • Lý thuyết tốc độ-méo coi mở rộng định lý mã Shannon ĐHCN-ĐHQG Hà nội Khoa Điện tử - Viễn thơng Méo phụ thuộc vị trí lượng tử • Khi dùng bít mã nguồn Gaus • Lượng tử bít lấy giá trị nào? ĐHCN-ĐHQG Hà nội Khoa Điện tử - Viễn thông Biểu diễn méo • lượng tử khơi phục • Cặp (R, D) gọi đạt tồn mã (n,2nR) • Vùng (R,D) tập cặp đạt ĐHCN-ĐHQG Hà nội Khoa Điện tử - Viễn thông • Hàm tốc độ méo R(D) infimum (cận dưới) tốc độ vùng (R,D) với độ méo cho • Hàm tốc độ méo cực tiểu thông tin tương hỗ gọi méo thơng tin R(I)(D) nguồn X với phép đo méo • Đlý: Hàm tốc độ-méo nguồn X có phân bố p(x) với phép đo méo bị chặn hàm tốc độ méo thơng tin, tức là: • Đây tốc độ tối thiểu mã nguồn để đảm bảo méo cho Đảo lại khơng thể có méo nhỏ D R nhỏ giá trị nói ĐHCN-ĐHQG Hà nội Khoa Điện tử - Viễn thơng Ví dụ nguồn nhị phân, phép đo méo Hamming (tỷ lệ bit lỗi) • Đlý: Tốc độ-méo Hamming cho nguồn Bernoulli là: • CM: cộng modul Vì nên H(D) tăng miền D