sự đo tin tức đo tin tức Bởi: phạm văn Sự đo tin tức Định nghĩa: Tin tức gửi từ nguồn digital, tin thứ j truyền : PJ:Là xác suất việc truyền tin thứ J Cơ số (base) log xác định đơn vị dùng để đo tin tức.Nếu log số 2, đơn vị bits.Với log tự nhiên đơn vị Nats.Và với log số 10 đơn vị Hastley Bit, đơn vị đo tin có ý nghĩa khác với bit đơn vị liệu nhị phân.Tuy nhiên người ta hay dùng ” bit ” để ký hiệu cho hai loại đơn vị Công thức viết lại với số tự nhiên số 10: Một cách tổng quát, nội dung tin tức thay đổi từ tin đến tin khác, PJ không Như vậy, ta cần đến đo tin tức trung bình nguồn Định nghĩa: Số đo tin tức trung bình (average information) nguồn là: m: Số tin PJ : Xác suất gởi tin thứ J 1/3 đo tin tức Tin tức trung bình gọi entropy Ví dụ: Tìm information content (dung lượng tin tức ) tin tức tin gồm word digitaldài 12digit , digit lấy mức Xác suất gởi mức mức giả sử mức digit không tùy thuộc vào trị giá lấy digit trước Trong string gồm 12 symbol (digit) mà symbol gồm mức 4.4 = 412 bits,tổ hợp (word) khác Vì mức gồm tất word khác nhau Vậy: Trong ví dụ ta thấy dung lượng tin ( information content ) tin với dung tin tin khác (24 bits) Vậy tin tức trung bình H 24 bits Giả sử có mức (nhị phân) cho phép cho digit tất wordthì gần Vậy tin tức IJ = 12 bits cho word nhị phân tin tức trung bình H = 12bits Ở tất word 12 bits cho 12 bits tin tức word gần Nếu chúng không vài word 12 bits chứa 12 bits tin tức vài chứa Và tin tức trung bình chứa Đinh nghĩa: Nhịp độ nguồn (nate source) cho H: Tin tức trung bình 2/3 đo tin tức T: Thời gian cần thiết để gửi tin Định nghĩa áp dụng cho nguồn digital 3/3 .. .sự đo tin tức Tin tức trung bình gọi entropy Ví dụ: Tìm information content (dung lượng tin tức ) tin tức tin gồm word digitaldài 12digit , digit lấy... thấy dung lượng tin ( information content ) tin với dung tin tin khác (24 bits) Vậy tin tức trung bình H 24 bits Giả sử có mức (nhị phân) cho phép cho digit tất wordthì gần Vậy tin tức IJ = 12 bits... bits cho word nhị phân tin tức trung bình H = 12bits Ở tất word 12 bits cho 12 bits tin tức word gần Nếu chúng không vài word 12 bits chứa 12 bits tin tức vài chứa Và tin tức trung bình chứa Đinh