Bieán soá ngaãu nhieân
σ−đại số
Cho F là một họ các tập con khác trống Ω Ta nói F là một σ−đại số nếu F thỏa các tính chaát sau : i Ω∈ F ii Ω\A∈ F ∀A∈ F iii S ∞ n=1
Khi đó (Ω,F ) là không gian đo được.
Độ đo xác suất
Một độ đo xác suấtP trên một không gian đo được (Ω,F ) là một hàmP :F →[0,1]sao cho: i P (∅) = 0 vàP (Ω) = 1 ii Nếu A1,A2, ∈ F và {A i } ∞ =1 rời nhau (Ai∩Aj =∅) nếu i6=j thì
P (Ai)Bộ ba (Ω,F, P) gọi là không gian xác suất.
Bieán ngaãu nhieân
Cho (Ω,F, P) là một không gian xác suất vàX là hàm số thực trênΩsao choX −1 ((−∞, c))∈
F với mọi số thực c Lúc đó ta nói X là một hàm số thực đo được trênΩ, hoặcX là một
4 biến số ngẫu nhiên Hàm số thực X(ω) xác định trên một phép thử có không gian xác suaát (Ω,F, P)
Ví dụ 1: Cho A∈ F, X A (ω) được gọi là hàm đặc trưng của A nếu χA(ω) 1 neáu ω ∈A
0 neáu ω /∈A χA(ω) được gọi là một biến số ngẫu nhiên.
Ví dụ 2: Một cách tổng quát nếu A1, A2, , Am∈ F, với Ω =Sm i=1Ai, và a1, a2, , am là các số thực thì
X i=1 aiχA i là một biến ngẫu nhiên gọi là hàm đơn.
Kì vọng, phương sai
Cho (Ω,F, P) là một không gian xác suất vàX m
P i=1 aiχA i là một hàm đơn ta định nghĩa tích phaân cuûa X
Nếu X là biến ngẫu nhiên không âm thì
Neỏu bieỏn ngaóu nhieõn X : Ω →R ta ủũnh nghúa
VớiX + = max{X,0}, X − = max{−X,0} để cho X =X + −X −
XdP là kì vọng củaX. và
|X−E(X)| 2 dP =D(X) =E(|X−E(X)| 2 ) =E(|X| 2 )− |E(X)| 2 là phương sai của X.
Không gian Hilbert và sự hội tụ của dãy biến ngẫu nhiên
Cho H là không gian vectơ trên R, ta định nghĩa một tích vô hướng trên H là một phiếm hàm song tuyến tính, đối xứng, xác định dương h., i:H×H →R
(x, y)→ hx.yi thỏa các tính chất cốt yếu sau đây:
2)hx+y, zi=hx, zi+hy, zi,∀x, y, z∈H
4)hx, yi⩾0 Dấu'=' xảy ra khi x=0
Từ tích vô hướng nêu trên ta đặt: kxk=p hx, xi
Hai bất đẳng thức quan trọng trong không gian Hilbert :
Bất đẳng thức tam giác: kx+yk⩽kxk+kyk Bất đẳng thức Cauchy-Schwarz:
|hx, yi|⩽kxk kyk Gọi HRV là không gian Hilbert các biến ngẫu nhiên được trang bị tích trong hX, Yi=E(XY) và chuẩn kXk RV = E|X| 2 1/2 ẹũnh nghúa
Cho không gian xác suất (Ω,F, P) Ta kí hiệu L 1 (Ω) là họ các biến số ngẫu nhiên sao cho E(|X|1 Ta đặt
L q (Ω,F, P) là một không gian Banach với chuẩn sau: kXk L q = [E(|X| q )]1 / q Z
Không gian L 2 (Ω, ,P) là một không gian Hilbert với tích vô hướng sau hX, Yi=E(X, Y),∀X, Y ∈L q (Ω, ,P) kXk L 2 = [E(|X| 2 )]1 /
Sự hội tụ của dãy biến ngẫu nhiên
Sự hội tụ của dãy biến ngẫu nhiên là một khái niệm quan trọng trong nghiên cứu phương trình vi phân ngẫu nhiên Đối với dãy biến ngẫu nhiên {X i } ∞ i=1 được định nghĩa trên không gian xác suất (Ω,F, P), dãy này hội tụ đến biến ngẫu nhiên X khi n tiến tới vô cực Có nhiều phương thức hội tụ khác nhau, nhưng hội tụ theo kiểu trung bình bình phương là loại hội tụ quan trọng nhất, được biểu diễn bởi giới hạn n→∞lim E(Xn−X) 2 = 0 Trong không gian HRV, hội tụ này tương ứng với kX n −Xk RV →0 khi n tiến tới vô cực.
Nếu dãy {Xi} ∞ i=1 là dãy Cauchy trong không gian HRV, tức là với mọi ε > 0, tồn tại N sao cho |Xn - Xm| < ε với mọi m, n > N, thì tồn tại một biến ngẫu nhiên X ∈ HRV là giới hạn của dãy {Xi} ∞ i=1 Dãy biến ngẫu nhiên {Xi} ∞ i=1 được gọi là hội tụ mạnh tới X nếu giới hạn E(|Xn - X|) khi n tiến tới vô cùng bằng 0 Hơn nữa, nếu dãy {Xi} ∞ i=1 hội tụ trung bình bình phương, thì nó cũng hội tụ mạnh, điều này được suy ra từ bất đẳng thức Cauchy-Schwarz.
|hx, yi| ≤ kxk kyk Áp dụng cho x=X và y=χΩ
E(X 2 ) hoặc có thể chứng minh bằng bất đẳng thức Lyapunov.
Hội tụ theo xác suất là dạng hội tụ thứ ba, trong đó dãy biến ngẫu nhiên {X i } ∞ i=1 hội tụ tới X nếu với mọi >0, lim n→∞P(|Xn−X|> ) = 0 Nếu biến ngẫu nhiên X hội tụ theo kiểu bình phương trung bình, thì nó cũng hội tụ theo xác suất, điều này được chứng minh dựa vào bất đẳng thức Chebyshev-Markov.
Bất đẳng thức Chebyshev-Markov
Một dạng hội tụ quan trọng trong lý thuyết xác suất là hội tụ theo xác suất 1 (w.p.1), hay còn gọi là hội tụ hầu chắc chắn Dãy biến ngẫu nhiên {X_i} từ i=1 đến vô cùng được xem là hội tụ theo xác suất 1 tới X nếu điều kiện này được thỏa mãn.
P [X > α]< E(X) α Chú ý có thể thay thếX bởi một hàm f :X →R +
P[f(X)> f(α)]< E[f(X)] f(α) Khi f là hàm không giảm ta có
Chebysev bound Áp dụng bất đẳng thức trên với hàmf(X) =X 2
Bất đẳng thức Chernoff cung cấp một ràng buộc chặt chẽ hơn so với bất đẳng thức Chebyshev và Markov, nhưng yêu cầu giả thiết mạnh hơn Gọi X là tổng của các biến ngẫu nhiên độc lập {Xi} với E[Xi] = pi Chúng ta giả sử rằng Xi ∈ {0,1} cho mọi i ≤ n Đặt àn là kỳ vọng của biến ngẫu nhiên X, ta có: à = EhX.
E[Xi] Đăt f(X) =e tX Ta tớnh xỏc suất X lệch đỏng kể so vớià
Ta tìm một chặn trên cho E[e tX ]
Ta sử dụng bất đẳng thức ∀x∈R,1 +x≤e x
=e (e t −1)à Thay thế E[e tX ]≤e (e t −1)à vào bất đẳng thức trờn ta được
P [X >(1 +δ)à]≤ e (e t −1)à e (1+δ)tà ,∀t >0 Để bất đẳng thức chặt hơn ta chọnt = ln(1 +δ), thay thế vào bất đẳng thức trên ta được
Khai triển Taylor ln(1 +δ)ta được: ln(1 +δ) =X i≥1(−1) i+1 δ i i
Giả sử rằng0≤δ