Không gian Banach và không gian Hilbert
Không gian Banach
Cho K là một trường, thường ta lấy K là trường số thực R hoặc trường số phức
C. Định nghĩa 1.1.1 (Ánh xạ) Cho hai tập khác rỗng X và Y Một ánh xạ f đi từ tập X vào tập Y là một quy tắc cho tương ứng với mỗi x ∈ X, ứng với một và chỉ một y ∈ Y. Định nghĩa 1.1.2 (Không gian định chuẩn) ChoX là một không gian vectơ trên
K Một chuẩn trờn X là ỏnh xạ k ã k : X →R thỏa món cỏc tớnh chất sau:
1 ∀x ∈ X : kxk ≥ 0; kxk = 0 khi và chỉ khi x = 0.
3 kx + yk ≤ kxk + kyk với mọi x, y ∈ X.
Trong không gian định chuẩn (X; kã k), một dãy (x_n) hội tụ đến x nếu lim n→∞ kx_n − xk = 0 Dãy (x_n) được gọi là dãy Cauchy nếu với mọi ε > 0, tồn tại N ∈ N sao cho với mọi m, n > N, ta có kx_m − x_n k < ε Nếu không gian (X, kã k) với metric d(x, y) = kx − yk là không gian metric đầy đủ, thì nó được gọi là không gian Banach.
Núi cỏch khỏc, một khụng gian định chuẩn(X, k ã k) được gọi là khụng gian Banach nếu mọi dãy Cauchy trong X đều hội tụ về một điểm trong X.
Phương pháp Newton nửa trơn
Bài toán
Giả sử H : R n → R n là Lipschitz địa phương nhưng không nhất thiết khả vi liên tục Việc giải phương trình
H(x) = 0 (1.6) trở thành một trong những hướng nghiên cứu tích cực nhất trong lập trình toán học.
Với giả thiếtH là Lipschitz địa phương, H khả vi hầu khắp nơi Đặt
Jacobian của H tại x được định nghĩa bởi
H 0 (x j )}, và conv(B) là bao lồi của tập B.
Phương pháp Newton nửa trơn
Phương pháp Newton tổng quát để giải(1.6)có thể được định nghĩa như sau: Cho vectơ x k , vectơ x k+1 được xác định bởi công thức x k+1 = x k − V k −1 H(x k ), (1.7) trong đó V k ∈ ∂H(x k ).
Phương pháp Newton tổng quát (1.7) trở thành phương pháp Newton cổ điển cho một hệ phương trình khi H khả vi liên tục Phương pháp này có ưu điểm là chuỗi (x k) hội tụ siêu tuyến tính địa phương đến nghiệm x ∗ nếu H 0 (x ∗) không suy biến và H 0 là liên tục Lipschitz Tuy nhiên, phương pháp lặp (1.7) không đảm bảo hội tụ cho các phương trình không trơn (1.6) Để thiết lập sự hội tụ siêu tuyến tính của phương pháp Newton tổng quát, cần giới thiệu khái niệm về tính nửa trơn, trong đó H được gọi là nửa trơn tại x nếu H khả vi theo hướng tại x.
V d − H 0 (x; d) = o(kdk), d → 0 và H được gọi là nửa trơn mạnh tại x nếu
Bài toán ngược đặt không chỉnh
Bài toán ngược
Bài toán thuận có thể được hiểu là việc xác định giá trị của toán tử K tại phần tử x đã biết trong không gian X, trong khi bài toán ngược là việc tìm nghiệm cho phương trình Kx = y.
Bài toán thuận: Cho trước x và K, tính K (x).
Bài toán ngược là việc giải phương trình K(x) = y với điều kiện đã cho y và K Để phát biểu bài toán này, cần xác định rõ định nghĩa của toán tử, bao gồm miền xác định và tập giá trị Việc diễn đạt bài toán ngược dưới dạng phương trình toán tử giúp phân loại các bài toán này thành phi tuyến, tuyến tính, hữu hạn hoặc vô hạn chiều.
Phương pháp Newton nửa trơn
Chương 3: PHƯƠNG PHÁP NEWTON NỬA TRƠN TRONG CHỈNH HÓA THƯAKHÔNG ÂM
Phương pháp chỉnh hóa thưa không âm
3.4 Phương pháp Newton nửa trơn
Các ví dụ số
Chương này trình bày một số định nghĩa, định lý và các chứng minh quan trọng của giải tích hàm có liên quan đến nội dung luận văn Các kiến thức chuẩn bị bao gồm khái niệm không gian Banach, không gian Hilbert, cơ sở trực chuẩn, hàm số và đạo hàm Fréchet, đạo hàm Newton, phương pháp Newton nửa trơn và bài toán ngược đặt không chỉnh, tạo nền tảng vững chắc cho việc nghiên cứu và phân tích các vấn đề trong luận văn.
1.1 Không gian Banach và không gian Hilbert
Cho K là một trường, thường ta lấy K là trường số thực R hoặc trường số phức
Ánh xạ là một quy tắc liên kết hai tập hợp khác rỗng X và Y, trong đó mỗi phần tử x ∈ X tương ứng với một và chỉ một phần tử y ∈ Y Không gian định chuẩn được xác định khi X là một không gian vectơ.
K Một chuẩn trờn X là ỏnh xạ k ã k : X →R thỏa món cỏc tớnh chất sau:
1 ∀x ∈ X : kxk ≥ 0; kxk = 0 khi và chỉ khi x = 0.
3 kx + yk ≤ kxk + kyk với mọi x, y ∈ X.
Trong không gian định chuẩn (X, kã k), một dãy (x_n) hội tụ đến x nếu lim n→∞ kx_n − xk = 0 Dãy (x_n) được gọi là dãy Cauchy nếu với mọi ε > 0, tồn tại N ∈ N sao cho với mọi m, n > N, ta có kx_m − x_n k < ε Nếu métric sinh từ chuẩn d(x, y) = kx − yk trong X cùng với X tạo thành không gian métric đầy đủ, thì X được gọi là không gian Banach.
Núi cỏch khỏc, một khụng gian định chuẩn(X, k ã k) được gọi là khụng gian Banach nếu mọi dãy Cauchy trong X đều hội tụ về một điểm trong X.
Không gian Hilbert được định nghĩa là một không gian vectơ trên trường số thực R, trong đó tích vô hướng được xác định như một ánh xạ h : H × H → R.
(x, y) ∈ H × H 7→ hx, yi ∈R thỏa mãn các điều kiện:
1 Với mọi x ∈ H, ta có hx, xi ≥ 0 Hơn nữa, hx, xi = 0 ⇔ x = 0.
3 hx + y, z i = hx, zi + hy, zi , ∀x, y, z ∈ H.
Số thực hx, yi là tớch vụ hướng của hai vectơ x và y trong không gian tiền Hilbert, được ký hiệu là cặp (H, hã, ãi) Định lý 1.1.7, hay còn gọi là bất đẳng thức Schwarz, áp dụng cho mọi vectơ x và y trong không gian tiền Hilbert.
H ta luôn có đẳng thức sau đây
| hx, yi | 2 ≤ hx, xi hy, yi (1.1)Chứng minh.
Giả sử y 6= 0, khi đó ∀α ∈R ta có hx + αy, x + αyi ≥ 0 hay hx, xi + 2α hx, yi + α 2 hy, yi ≥ 0.
Chọn α = − hx, yi hy, yi ta được hx, xi − | hx, yi | 2 hy, yi ≥ 0
⇔ hx, xi ã hy, yi − | hx, y i | 2 ≥ 0.
Do đó bất đẳng thức (1.1) đúng. Định lớ 1.1.8 Cho H là khụng gian tiền Hilbert Ánh xạ k ã k : H → R được định nghĩa kxk :=p hx, xi, x ∈ H (1.2) là một chuẩn trên H.
Chứng minh Từ công thức (1.2) ta có kxk =p hx, xi ≥ 0, ∀x ∈ H.
Ngoài ra kxk = 0 ⇔ hx, xi = 0 ⇔ x = 0 Hơn nữa kαxk =p hαx, αxi =p α 2 hx, xi = |α|kxk với mọi x ∈ H và α ∈R.
Mặt khác, với mọi x, y thuộc H ta có kx + yk 2 = hx + y, x + yi
= hx, xi + 2 hx, y i + hy, yi
Không gian Hilbert là một không gian tiền Hilbert, được xác định là đầy đủ đối với chuẩn cảm sinh từ tích vô hướng.
1.2 Cơ sở trực chuẩn Định nghĩa 1.2.1 Cho H là một không gian tiền Hilbert, M và N là các tập con củaH Ta có các định nghĩa sau đây:
1 Hai phần tửx và y thuộc H được gọi là trực giao với nhau, nếuhx, yi = 0 Ký hiệu là x ⊥ y.
2 Vectơ x trực giao với tập N nếu x ⊥ y với mọi y ∈ N.
3 N ⊥ là tập gồm tất cả các phần tử x trực giao với N.
4 Một hệM ⊂ H được gọi là hệ trực giao nếu hai phần tử phân biệt bất kỳ của
M thì trực giao với nhau, tức là ∀x, y ∈ M và x 6= y ta có x ⊥ y.
Nếu mọi phần tử trong hệ M đều trực giao và có chuẩn bằng 1, thì M được gọi là hệ trực chuẩn Theo Định lý 1.2.2, nếu n phần tử x1, x2, , xn tạo thành một hệ trực giao, thì ta có thể áp dụng đẳng thức Pythagore cho n phần tử này.
Chứng minh Vì {x i } n i=1 là một hệ trực giao nên hx i , x j i = 0 với mọi 1 ≤ i, j ≤ n và i 6= j Do đó ta có n
X i=1 kx i k 2 Định lí 1.2.3 Chox 1 , x 2 , là một hệ trực giao đếm được trong không gian Hilbert
H Điều kiện cần và đủ để chuỗi
X n=1 kx n k 2 hội tụ và lúc đó
S n = x 1 + x 2 + + x n σ n = kx 1 k 2 + kx 2 k 2 + + kx n k 2 Khi đó ta có kS n+p − S n k 2 = n+p
Từ đẳng thức này ta thấy(S n ) n là dãy Cauchy trong H khi và chỉ khi (σ n ) n là dãy Cauchy trongR.
VìH và R là những không gian đầy đủ nên(S n ) n là dãy hội tụ trong H khi và chỉ khi(σ n ) n là dãy hội tụ trong R Điều này có nghĩa là chuỗi
X n=1 x n hội tụ khi và chỉ khi chuỗi
X n=1 kx n k 2 hội tụ Nếu một trong hai chuỗi trên hội tụ thì ta có
X n=1 kx n k 2 Định lý được chứng minh.
Hệ quả 1.2.4 Cho {e n , n = 1, 2, } là một hệ trực chuẩn trong không gian Hilbert
H và dãy (λ n ) n là dãy số thực Ta có chuỗi
X n=1 λ n e n hội tụ về x ∈ H khi và chỉ khi
Chứng minh Ta áp dụng Định lý (1.2.3) cho hệ trực giao {x n , n = 1, 2, } với x n = λ n e n Khi đó ta có chuỗi
X n=1 λ n e n hội tụ về x ∈ H khi và chỉ khi
X n=1 kλ n e n k 2 hội tụ Mặt khác {e n , n = 1, 2, } là hệ trực chuẩn nên ke n k = 1, n = 1, 2, , nên kλ n e n k = |λ n | Do đó chuỗi
X n=1 λ n e n hội tụ về x ∈ H khi và chỉ khi
|λ n | 2 Định nghĩa 1.2.5 (Chuỗi Fourier) Cho không gian Hilbert H và hệ trực chuẩn
E = {e n , n = 1, 2, } Cho x là một vectơ trong H Ta lập chuỗi hình thức sau đây
Chuỗi Fourier của vectơ x đối với hệ trực chuẩn E được biểu diễn bằng công thức X i=1 hx, e i i e i (1.3), trong đó các số hx, e n i là hệ số Fourier thứ n của x đối với hệ E Định lý 1.2.6 khẳng định rằng nếu E = {e n , n ∈ N } là một hệ trực chuẩn trong không gian Hilbert H, thì chuỗi Fourier (1.3) của mọi x ∈ H luôn hội tụ trong H.
X i=1 x i e i , trong đó x i = hx, e i i Với mỗi j = 1, n, ta có: hy n , e j i =
Vì bất đẳng thức này đúng với mọi n, nên khi cho n → ∞, ta được
Định lý hình chiếu trực giao (Định lý 1.2.7) khẳng định rằng trong không gian Hilbert H, với M là không gian con đóng, mỗi phần tử x ∈ H có một cặp duy nhất (y, z) sao cho y thuộc M và z thuộc M ⊥, với x được biểu diễn dưới dạng x = y + z Hơn nữa, vectơ y thỏa mãn điều kiện kx − yk = kzk = inf u∈M {kx − uk} = d(x, M), trong đó d(x, M) là khoảng cách từ x đến không gian con M.
Chứng minh Đặt d = d(x, M) = inf u∈M {kx − uk} Khi đó theo tính chất của infimum sẽ tồn tại dãy (y n ) n trong M sao cho n→∞ lim kx − y n k = d.
Không gian M là không gian con của không gian Hilbert H, do đó M cũng là không gian Hilbert Để chứng minh rằng dãy (y_n) là dãy hội tụ trong M, ta chỉ cần kiểm tra rằng dãy (y_n) là dãy Cauchy trong M Bằng cách áp dụng đẳng thức hình bình hành cho hai vectơ y_m - x và y_n - x với m, n thuộc N, ta có công thức ky_m + y_n - 2xk^2 + ky_m - y_nk^2 = 2ky_m - xk^2 + ky_n - xk^2.
Do M là không gian con nên y m + y n
2 ∈ M Hơn nữa, do d = inf u∈M {kx − uk} nên y m + y n
≥ d 2 Lúc này, từ đẳng thức (1.4), ta có
0 ≤ ky m − y n k 2 = 2(ky m − xk 2 + ky n − xk 2 ) − ky m + y n − 2xk 2
Cho m, n → ∞ ta có 2(ky m − xk 2 + ky n − xk 2 ) − 4d 2 → 0 nên ky m − y n k → 0 Vậy (y n ) n là dãy Cauchy.
Lại cóM là không gian đầy đủ nên tồn tại y ∈ M sao cho lim n→∞ y n = y Từ đó ta có d = lim n→∞ kx − y n k = kx − yk.
Bây giờ ta đặt z = x − y hay x = y + z Ta chỉ cần chứng minh rằng z ∈ M ⊥ Thật vậy, giả sử u ∈ M và u 6= 0 Với mọi α ∈R ta có y + αu ∈ M nên kzk 2 = kx − yk 2 ≤ kx − (y + αu)k 2
Chọn α = hz, xi kuk 2 , ta có kzk 2 ≤ kzk 2 − | hz, ui | 2 kuk 2
Do đó | hz, ui | ≤ 0 suy ra hz, ui = 0 với mọi u ∈ M, tức là z ∈ M ⊥
Bây giờ để chứng minh tính duy nhất ta giả sử có y, y 0 ∈ M và z, z 0 ∈ M ⊥ sao cho x = y + z = y 0 + z 0
Trong không gian Hilbert H, nếu E = {e_n, n = 1, 2, } là một hệ trực chuẩn hữu hạn hoặc đếm được, thì E được gọi là cơ sở trực chuẩn nếu không gian con M sinh bởi E trù mật trong H Định lý 1.2.9 chỉ ra rằng nếu E là một hệ trực chuẩn trong H, thì bốn mệnh đề sau đây là tương đương với nhau.
(1) E là cơ sở trực chuẩn.
(2) Mọi vectơ x ∈ H được khai triển thành chuỗi Fourier của nó x =
(3) Với mọi x, y ∈ H ta có hx, yi =
(4) Với mọi x ∈ H ta có kxk 2 =
(1) ⇒ (2) Theo Định lý 1.2.6ta có chuỗi Fourier của x luôn hội tụ trong H Ta đặt y = x −
X i=1 hx, e i i e i và sẽ chứng minh y = 0 Với mỗi m ∈N ta có hy, e m i = hx, e m i −
Gọi M là không gian con sinh bởi E Với mọi z ∈ M ta có z =
X i=1 z i hy, e i i = 0 ⇒ y ⊥ z ⇒ y ⊥ M ⇒ y ∈ M ⊥ DoM là không gian con đóng vàE là cơ sở củaHnêny ∈ M ⊥ = M ⊥ = H ⊥ Từ đó ta cóy ⊥ y ⇒ hy, yi = 0 ⇒ y = 0.
(2) ⇒ (3) Do E là hệ trực chuẩn nên hx, yi =
(3) ⇒ (4) Trong đẳng thức ở (3), thay y bởi x ta có ngay đẳng thức ở (4).
(4) ⇒ (1) Gọi M là không gian con sinh bởi E Do M là không gian con đóng của
H nên theo Định lý 1.2.7 ta có
Do đó ta chỉ cần chứng minh M ⊥ = {0} Thật vậy, với mọi z ∈ M ⊥ = M ⊥ ta có z⊥u, ∀u ∈ M Đặc biệt z⊥e n nên hz, e n i , ∀n Từ đẳng thức (4) ta có kzk 2 =
Vậy H = M nên E là cơ sở trực chuẩn của H.
Hàm coercive là hàm f: R^n → R, có đặc điểm rằng với mọi dãy (x_n) ⊂ R^n, khi ||x_n|| → +∞ thì f(x_n) → +∞ Đối với hai không gian định chuẩn X và Y, toán tử f: X → Y được coi là liên tục tại điểm x_0 ∈ X nếu với mọi ε > 0, tồn tại δ > 0 sao cho với mọi x ∈ X, khi ||x - x_0|| < δ thì ||f(x) - f(x_0)|| < ε.
Nhận xét 1.3.3 Ta có thể định nghĩa toán tử f liên tục tại x 0 theo một cách khác.
Toán tử f được coi là liên tục tại điểm x₀ nếu mọi dãy (xₙ) mà xₙ → x₀ thì f(xₙ) → f(x₀) Nếu f liên tục tại mọi x₀ ∈ X, thì f được gọi là liên tục trên không gian X Đối với các không gian định chuẩn X và Y trên trường K, một toán tử f : X → Y được gọi là bị chặn nếu tồn tại một số M sao cho ||f(x)|| ≤ M ||x|| với mọi x ∈ X Cuối cùng, ánh xạ f : X → Y được xem là ánh xạ tuyến tính (toán tử tuyến tính) trên không gian định chuẩn V nếu với mọi x, y ∈ X và mọi α ∈ K, điều kiện tuyến tính được thỏa mãn.
2 f(αx) = αf (x). Định lí 1.3.7 Cho X, Y là hai không gian định chuẩn và f : X → Y là toán tử tuyến tính Khi đó các mệnh đề sau là tương đương:
(2) f liên tục tại một điểm x 0
(1) ⇒ (2) Điều này hiển nhiên theo định nghĩa toán tử liên tục trên X.
(2) ⇒ (3) Giả sử có dãy (x n ) n mà x n → 0 Khi đó x n + x 0 → x 0 nên theo giả thiết f liên tục tại x 0 ta có f (x n + x 0 ) → f(x 0 ) Do f tuyến tính nên f(x n + x 0 ) = f (x n ) + f (x 0 ) → f(x 0 ).
Suy ra f (x n ) → 0 Từ đó f liên tục tại 0.
(3) ⇒ (4) Theo định nghĩa, do f liên tục tại 0 nên với = 1 tồn tại δ > 0 sao cho nếux ∈ X và kxk < δ thì kf (x)k < 1.
Bây giờ với mọi x ∈ X, x 6= 0 ta có δx 2kxk
Dof tuyến tính nên ta cókf (x)k ≤ 2 δ kxk Mặt khác đẳng thức này hiển nhiên đúng khi x = 0 Vậy ta có f là toán tử bị chặn.
Giả sử (x_n) là dãy bất kỳ với x_n → x ∈ X, ta có ||f(x_n) - f(x)|| = ||f(x_n - x)|| ≤ M ||x_n - x|| → 0 khi n → ∞, từ đó suy ra f(x_n) → f(x), chứng tỏ f liên tục trên X Định nghĩa Lipschitz cho toán tử f: X → Y yêu cầu tồn tại hằng số dương L sao cho ||f(x) - f(y)||_Y ≤ L||x - y||_X với mọi x, y ∈ X Đạo hàm theo hướng d của hàm f: X → R tại x_0 ∈ X được định nghĩa là giới hạn f'(x_0; d) = lim λ→0+ (f(x_0 + λd) - f(x_0))/λ nếu nó tồn tại Hàm f: U → W được gọi là khả vi Fréchet tại x ∈ U nếu tồn tại toán tử tuyến tính bị chặn A: V → W sao cho lim h→0 ||f(x + h) - f(x) - A(h)||/||h|| = 0 Cuối cùng, hàm f: X → R được coi là nửa liên tục dưới tại x_0 nếu lim inf f(x) ≥ f(x_0) khi x → x_0.
Nói cách khác, với mọi α < f(x 0 ) tồn tại lân cận gốc U sao cho f (x) > α, ∀x ∈ x 0 + U.
Hàm f được gọi là nửa liên tục dưới yếu nếu nó nửa liên tục dưới tại mọi x ∈ X.
Đạo hàm Newton là một khái niệm quan trọng trong toán học, đặc biệt trong không gian Banach Định nghĩa cho thấy rằng, với X, Y là các không gian Banach và U là tập con mở của X, một ánh xạ f: U → Y được coi là khả vi Newton tại điểm x ∈ U nếu tồn tại một ánh xạ F: U → L(X, Y) thỏa mãn điều kiện giới hạn khi h tiến tới 0 Cụ thể, điều này có nghĩa là giới hạn của hiệu f(x + h) - f(x) - F(x + h) nhân với h trong không gian Y chia cho độ lớn của h trong không gian X phải tiến tới 0 Khi đó, F được xem là đạo hàm Newton của f tại x.
(1) F được gọi là đạo hàm Newton của f trên X nếuF là đạo hàm Newton của f tại mọi x ∈ X.
(2) Hàm f có đạo hàm Newton tại mọi điểm được gọi là hàm Newton nửa trơn.
(3) Nếu hàm số f có đạo hàm cổ điển f 0 liên tục trên tập mở U thì f là hàm nửa trơn trên U và đạo hàm Newton của f là f 0
Thật vậy, với mọi u ∈ U, ta có
≤ kf (x + h) − f(x) − f 0 (x)hk khk + kf 0 (x) − f 0 (x + h)k → 0 khi h → 0 Vậy f là hàm nửa trơn trên U và có một đạo hàm Newton là F = f 0
