Trong giáo trình Giải tích một biến chúng ta đã định nghĩa hàm số như một phép ứng từ trục số thực vào trục số thực. Định nghĩa này có thể mở rộng trực tiếp cho các không gian metric bất kỳ và các khái niệm về giới hạn, liên tục vẫn giữ nguyên ý nghĩa nếu ta coi khoảng cách giữa 2 số như là trị tuyệt đối của hiệu của chúng và coi các khoảng như là các quả cầu mở (với tâm tại điểm giữa của khoảng).
Một ánh xạ (hay phép ứng) từ không gian metric (E,d) vào không gian metric (E’,d’) thường được viết dưới dạng f E: →E' và giá trị của mỗi điểm p E∈ cũng thường được viết là ( )f p ∈E'.
Định nghĩa1. Ánh xạ f E: →E' được gọi là liên tục tại điểm p0∈E nếu, với mỗi ε>0cho trước, tồn tại số δ>0 sao cho nếu p E∈ và d p p( , )0 <δ thì
'( ( ), ( ))0
d f p f p <ε.
Việc cho trước một số ε>0 cũng có nghĩa là cho trước một quả cầu mở (với bán kính ε và tâm tạif p( )0 ) và việc tồn tại số δ>0 cũng có thể được xem như sự tồn tại của một quả cầu mở (bán kính δ và tâm tạip0). Cho nên, định nghĩa trên có thể viết lại dưới dạng sau đây:
Định nghĩa 2. Ánh xạ f E: →E' được gọi là liên tục tại điểm p0∈E nếu, với mỗi quả cầu mở tâm tại f p( 0), ta tìm được quả cầu mở tâm tại p0, sao cho ảnh của nó qua f nằm hoàn toàn trong quả cầu trước.
Có một quả cầu mở với tâm tại một điểm nào đó cũng tức là ta có một tập mở chứa điểm đó. Ngược lại, có một tập mở chứa một điểm nào đó thì ta cũng có một
quả cầu mở nhận nó làm tâm. Từ nhận xét này ta dễ dàng suy ra định nghĩa trên là tương đương với định nghĩa sau đây:
Định nghĩa 3. Ánh xạ f E: →E' được gọi là liên tục tại điểm p0∈E nếu, với mỗi tập mở chứa điểm f p ta tìm được tập mở chứa ( )0 p sao cho ảnh của nó 0 qua f nằm hoàn toàn trong tập mở trước.
Khi :f E→E' liên tục tại mọi điểm trong E thì ta nói nó liên tục trên E.
Định nghĩa 4. Nếu f liên tục trên E và có ánh xạ ngược từ tập ảnh Y:= f E( ) vào E cũng liên tục, thì ta nói f là một phép đồng phôi lên ảnh. Khi ấy ta cũng nói hai tập E và Y là đồng phôi với nhau.
Mệnh đề. Ánh xạ f E: →E' là liên tục trên E khi và chỉ khi, với mỗi tập mở '
U⊂E , tập nghịch ảnh của nó f−1( ) :U ={p E f p∈ : ( )∈U} là một tập mở trong E.
Chứng minh. (⇒) Với f liên tục, ta chỉ ra rằng với tập mở U⊂E' ta có f−1( )U là mở trong E. Lấy điểm p bất kỳ trong f−1( )U , ta có ( )f p ∈U và, do U là mở, từ Định nghĩa 3 ta tìm được tập mở V chứa p sao cho ( )f V ⊂U. Điều này có nghĩa là V⊂ f−1( )U và như vậy nghĩa là có cả một lân cận của p nằm trong trongf−1( )U .
(⇐) Ngược lại ta có, với mỗi tập mở U⊂E', tập f−1( )U là mở trong E . Ta chỉ ra rằng f là liên tục tại mỗi điểm p E∈ bất kỳ. Thật vậy, giả thiết cho thấy rằng nghịch ảnh của mỗi quả cầu mở tâm tại ( )f p (với bán kính ε > 0 cho trước) sẽ là một tập mở V (trong đó có điểm p ), cho nên tồn tại một quả cầu tâm tại p (với bán kính δ nào đó) nằm hoàn toàn trong V. Như vậy, với mỗi ε > 0 cho trước tồn tại δ > 0 sao cho ( ( , ))f B pδ ⊂B f p( ( ), )ε , và điều này có nghĩa là f liên tục tại p.
Mệnh đề đã được chứng minh xong.
Nhận xét. 1) Vì f−1(E U′\ )=E f U\ ( ) cho nên mệnh đề trên đúng nếu thay
“mở” bằng “đóng”, tức là f liên tục trên E khi và chỉ khi ảnh ngược của tập đóng là tập đóng.
2) Nếu f liên tục trên E thì ảnh của tập đóng (mở) không nhất thiết là đóng (mở).
Thí dụ cho U={ ( )x,1x :x>0} là tập đóng trong R2. Phép chiếu ( )x,1x 6x là
ánh xạ liên tục từ R2 vào R và ảnh của U là tập không đóng.
Ta có thể đưa vào khái niệm giới hạn của ánh xạ trong không gian metric tương tự như đã làm trong trường hợp hàm số. Cụ thể là
Điểm q E∈ ' được gọi là giới hạn của ánh xạ f tại điểm tụ p0∈E nếu, với mỗi ε>0 cho trước, tồn tại số δ>0 sao cho nếu p E p∈ \ 0 và d p p( , )0 <δ thì
'( , ( )) d q f p <ε.
Tính duy nhất của giới hạn (nếu tồn tại) được chứng minh hoàn toàn tương tự như trường hợp hàm số trước đây, và người ta cũng ký hiệu giới hạn của f tại p0 là
0
lim ( )
p p f p
→ . (Lưu ý rằng khi lấy giới hạn của f tại p0 ta không đòi hỏi hàm f phải xác định tại điểm này, mà chỉ cần p0 là một điểm tụ của miền xác định). Khi f là liên tục tại điểm tụ p0 thì nó phải xác định tại p0 và
0 0
lim ( ) ( )
p p f p f p
→ = .
Hầu hết các tính chất cơ bản về giới hạn và hàm liên tục (mối quan hệ giữa giới hạn của hàm và giới hạn của dãy, tính liên tục của hàm hợp, tính bị chặn và tính liên tục đều của hàm liên tục trên tập compact,v.v...) được chứng minh trước đây cho trường hợp hàm số (xác định trên trục số) vẫn còn đúng cho các ánh xạ trên không gian metric. Với ánh xạ (xác định trên không gian metric) nhận giá trị trên trục số thì tính chất của các phép toán trên giới hạn và trên các hàm liên tục vẫn giữ nguyên hiệu lực, cũng như tính đạt giá trị lớn nhất và nhỏ nhất của hàm liên tục trên tập compact. (Phương pháp chứng minh trước đây đã được lựa chọn để hoàn toàn có thể áp dụng được cho trường hợp tổng quát, cho nên người đọc có thể tự mình chứng minh lại các định lý này như các bài tập).
Để đơn cử chúng ta chứng minh kết quả quan trọng sau đây:
Định lý. Giả thiết f là ánh xạ liên tục từ không gian metric (E,d) vào không gian metric (E’,d’) và A là tập compact trong E. Khi ấy f(A) là tập compact. Hơn nữa, nếu E’ = R thì f đạt các giá trị cực đại và cực tiểu trên tập A..
Chứng minh. Lấy ( )yn∈ f A bất kỳ. Ta phải chỉ ra rằng { }yn có dãy con hội tụ trong f(A). Thật vậy, chọn xn∈A sao cho ( )f xn =yn. Vì A là compact nên dãy { }xn có dãy con {xn k( )} hội tụ tới x0 thuộc A. Do f là liên tục nên {f x( n k( )) }
hội tụ tới f x( )0 . Vậy {yn k( )} hội tụ tới f x( )0 ∈ f A( ). Chứng tỏ f(A) là compact.
Trong trường hợp E’ là không gian 1-chiều thì tập compactf(A) có phần tử lớn nhất và nhỏ nhất, và ảnh ngược của chúng chính là các điểm cực đại và cực tiểu của ánh xạ f trên A.
Một ví dụ điển hình về ánh xạ liên tục trong không gian nhiều chiều được cho bởi mệnh đề sau:
Mệnh đề. Mọi ánh xạ tuyến tính A : Rn → Rm là liên tục.
Chứng minh. Đối với ánh xạ tuyến tính A ta có
0 0 0
|| ( )A x −A x( ) || = || (A x−x ) || ≤ || || .||A x−x ||. Cho nên khi x→x0 thì từ định lý kẹp ta suy ra ngay
0 0
lim || ( ) ( ) || 0
x x− A x −A x = và
điều này có nghĩa là
0 0
lim ( ) ( )
x x→ A x =A x . Mệnh đề đã được chứng minh.