1. Trang chủ
  2. » Luận Văn - Báo Cáo

Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái

91 11 0

Đang tải... (xem toàn văn)

Tài liệu hạn chế xem trước, để xem đầy đủ mời bạn chọn Tải xuống

THÔNG TIN TÀI LIỆU

Thông tin cơ bản

Định dạng
Số trang 91
Dung lượng 1,02 MB

Cấu trúc

  • 1.1. Giới thiệu tổng quan về hệ thống nhận dạng (7)
    • 1.1.1. Đối t-ợng nhận dạng (7)
    • 1.1.2. Mô hình hoá bài toán nhận dạng (7)
    • 1.1.3. Các vấn đề cơ bản của hệ thống nhận dạng (7)
  • 1.2. Cơ sở lý thuyết tiền xử lý ảnh (7)
    • 1.2.1. Các ph-ơng pháp nâng cao chất l-ợng ảnh (7)
    • 1.2.2. Các ph-ơng pháp phát hiện biên ảnh (7)
    • 1.2.3. Giới thiệu kỹ thuật tách dòng, ứng dụng tách ký tự trong ảnh văn bản (7)
  • 2.1. Sơ l-ợc về mạng nơ-ron (7)
    • 2.1.1. Lịch sử phát triển (7)
    • 2.1.2. Một số lĩnh vực ứng dụng (7)
  • 2.2. Mạng nơ-ron mô phỏng trực tiếp bộ não con ng-ời (7)
    • 2.2.1. Sơ l-ợc cấu trúc bộ não con ng-ời (7)
    • 2.2.2. Mô hình của một nơ-ron nhân tạo (7)
    • 2.2.3. Phản hồi (Feedback) (7)
    • 2.2.4. Kiến trúc mạng nơ-ron (7)
  • 2.3. Đặc tr-ng mạng nơ-ron (7)
  • 2.4. Biểu diễn tri thức trong mạng nơ-ron (7)
  • 2.5. Ph-ơng pháp học cho mạng nơ-ron truyền thẳng nhiều lớp (7)
    • 2.5.1. Lý thuyết học và vấn đề nhận dạng mẫu (7)
    • 2.5.2. Quy tắc học hiệu chỉnh lỗi (7)
    • 2.5.3. Mô hình học (7)
    • 2.5.4. Đối với vấn đề nhận dạng mẫu (8)
  • 2.6. Mạng nơ-ron truyền thẳng (FeedForward) nhiều lớp (59)
    • 2.6.1. Các khái niệm khởi đầu (8)
    • 2.6.2. Thuật toán Back-propagation (8)
    • 2.6.3. Biểu diễn đầu ra và qui tắc quyết định cho bài toán phân loại mẫu (8)
  • 3.1. Phân tích bài toán nhận dạng ký tự chữ số và chữ cái (8)
  • 3.2. Các b-ớc chính trong quá trình thiết kế và xây dựng mô hình mạng nơ- (8)
  • 3.3. Giao diện chính của ch-ơng trình (8)
  • 3.4. Các kết quả và đánh giá thu đ-ợc từ ch-ơng trình (8)

Nội dung

Giới thiệu tổng quan về hệ thống nhận dạng

Cơ sở lý thuyết tiền xử lý ảnh

Sơ l-ợc về mạng nơ-ron

Mạng nơ-ron mô phỏng trực tiếp bộ não con ng-ời

Ph-ơng pháp học cho mạng nơ-ron truyền thẳng nhiều lớp

Đối với vấn đề nhận dạng mẫu

2.6 Mạng nơ-ron truyền thẳng nhiều lớp

2.6.1 Các khái niệm khởi đầu

2.6.3 Biểu diễn đầu ra và qui tắc quyết định cho bài toán phân loại mẫu Ch-ơng 3 Xây dựng ch-ơng trình thử nghiệm nhận dạng ký tự chữ số và chữ cái

3.1 Phân tích bài toán nhận dạng ký tự chữ số và chữ cái

3.2 Các b-ớc chính trong quá trình thiết kế và xây dựng mô hình mạng nơ-ron truyền thẳng nhiều lớp cho bài toán nhận dạng chữ số và chữ cái

3.3 Giao diện chính của ch-ơng trình

3.4 Các kết quả và đánh giá thu đ-ợc từ ch-ơng trình

Ch-ơng 1 Giới thiệu tổng quan về hệ thống nhận dạng và cơ sở lý thuyết tiền xử lý ảnh

1.1 Giới thiệu tổng quan về hệ thống nhận dạng

Nhận dạng đối tượng (pattern recognition) là quá trình phân loại các đối tượng dựa trên mô hình và gán chúng vào lớp theo quy luật và mẫu chuẩn Nó cũng được coi là phương tiện xây dựng hệ thống tin học có khả năng "cảm nhận, nhận thức, nhận biết" các đối tượng vật lý tương tự như con người Lĩnh vực này liên quan đến xử lý tín hiệu trong không gian nhiều chiều, mô hình hóa bài toán, lý thuyết xử lý ảnh, cơ sở dữ liệu và phương pháp ra quyết định Một hệ thống nhận dạng hoàn chỉnh cần thể hiện quá trình nhận thức của con người qua nhiều mức độ khác nhau.

Mức cảm nhận trong hệ thống nhận dạng đề cập đến khả năng nhận biết sự tồn tại của các đối tượng quan sát mà hệ thống cần phân tích Quá trình này bao gồm việc thu thập dữ liệu thông qua các bộ cảm biến, như trong hệ thống nhận dạng xử lý ảnh, nơi các đối tượng được lưu trữ dưới dạng file ảnh số và được tiếp nhận qua scanner hoặc các file ảnh khác.

- Mức nhận thức: ở đây biểu diễn quá trình học, mô hình hoá đối t-ợng để tiến tới hình thành sự phân lớp (classification)

Mức nhận biết là quá trình xác định đối tượng quan sát, cho phép trả lời câu hỏi đối tượng đó là gì và thuộc lớp nào trong các lớp đã biết Đây là bước quan trọng trong quá trình ra quyết định.

1.1.1 Đối t-ợng nhận dạng Đối t-ợng nhận dạng (pattern object) đ-ợc coi nh- là một thực thể vật lý tồn tại mà con ng-ời có thể cảm nhận đ-ợc bằng sự miêu tả hoặc đo l-ờng…, ví dụ nh- hình ảnh, âm thanh đ-ợc cảm nhận bằng mắt và tai, và nó có thể đ-ợc thu nhận qua các bộ cảm biến nh- máy quay phim, máy ảnh số Có hai loại đối t-ợng chính:

- Đối t-ợng đ-ợc biểu diễn định l-ợng: Là những đối t-ợng mà đặc tính của nó đ-ợc đo l-ờng và biểu diễn bởi các con số

Đối tượng được biểu diễn định tính là những đối tượng có đặc tính được mô tả bằng các dạng miêu tả hoặc ký hiệu Trong nghiên cứu, khi xác định được tập hợp các đối tượng có chung một hoặc nhiều đặc trưng, tập hợp đó được gọi là một lớp đối tượng (class).

Quá trình phân lớp bao gồm việc xác định và phân biệt các lớp của đối tượng, giúp hệ thống nhận diện và phân loại đối tượng đầu vào Nhờ vào quá trình này, hệ thống có khả năng ra quyết định về lớp mà đối tượng thuộc về, và đây là một yếu tố cơ bản trong nhận dạng.

Quá trình trích chọn đặc trưng bắt đầu từ việc biểu diễn và quan sát đối tượng để nhận diện các đặc tính nổi bật của nó Quá trình này thay đổi tùy theo loại đối tượng cần nhận dạng Trong lĩnh vực nhận dạng, chúng ta chú trọng vào việc xác định những đặc trưng quan trọng nhất để phân loại và hiểu rõ hơn về đối tượng.

- Không gian biểu diễn: Là tập hợp các ký hiệu, số liệu miêu tả đối t-ợng sau quá trình cảm nhận

- Không gian đặc tr-ng: Là tập hợp các miêu tả đặc tr-ng sau quá trình trích chọn đặc tr-ng

Không gian diễn dịch là một tập hợp các tên đối tượng hoặc tên lớp đối tượng, giúp xác định đối tượng quan sát thuộc về lớp nào.

1.1.2 Mô hình hoá bài toán nhận dạng

Gọi X là đối t-ợng nhận dạng, X= (x 1 ,x 2 ,…,x n ), các x i  R (thuộc tập số )

Gọi Y là không gian biểu biểu diễn đối t-ợng: Y={X 1 ,X 2 , ,X m }

Gọi  là không gian diễn dịch, hay là tập các tên gọi của các lớp C 1 , C 2 ,

Quá trình nhận dạng đối t-ợng là tìm ra quy luật  ánh xạ từ không gian biểu diễn Y sang không gian diễn dịch :

Trong hệ thống nhận dạng, các đối tượng X đã biết thuộc lớp C k, trong khi không gian diễn dịch  và quy luật  có thể được xác định từ cơ sở tri thức hoặc chưa biết Vấn đề đặt ra là xây dựng một hệ thống tự cấu trúc, yêu cầu một quá trình học từ các đối tượng quan sát để xác định không gian  và tìm ra quy luật  để đưa ra quyết định.

1.1.3 Các vấn đề cơ bản của hệ thống nhận dạng

Quá trình nhận dạng bao gồm ba giai đoạn chính:

- Lựa chọn mô hình biểu diễn đối t-ợng

- Lựa chọn luật ra quyết định (ph-ơng pháp nhận dạng) và suy diễn quá trình học

Khi mô hình biểu diễn đối tượng đã được xác định, quá trình nhận dạng sẽ chuyển sang giai đoạn học Đây là giai đoạn quan trọng nhằm cải thiện và điều chỉnh việc phân loại các đối tượng thành các lớp.

Nhận dạng là quá trình tìm ra quy luật và thuật toán để gán đối tượng vào một lớp, hay nói cách khác là đặt tên cho đối tượng Khi số lớp và quy luật đã được xác định trước, chúng ta gọi đó là học có mẫu; ngược lại, nếu không có sự chỉ định trước, đó là học không có mẫu hay tự học.

Học có mẫu (Supervised learning) là quá trình học dựa trên các mẫu đã được phân lớp cho các đối tượng, hoặc đã biết đặc trưng của các lớp đối tượng Ví dụ, trong bài toán nhận dạng chữ viết, chúng ta đã biết trước tập quy luật và tên của các đối tượng nhận dạng, với các lớp từ ký tự A đến Z và các số 0 đến 9 Mục tiêu của học có mẫu là định nghĩa các lớp trong không gian đối tượng tổng quát, tức là xác định phương trình biên giới giữa các lớp để phân biệt đối tượng thuộc về lớp nào.

Học không có mẫu (Unsupervised learning) là quá trình học bắt đầu khi chưa có sự phân lớp và không có mẫu cụ thể Quá trình này tập trung vào việc nhóm các đối tượng quan sát có độ tương tụ gần nhau, từ đó hình thành sự phân lớp (clustering → class).

Mạng nơ-ron truyền thẳng (FeedForward) nhiều lớp

Ngày đăng: 02/12/2021, 23:29

Nguồn tham khảo

Tài liệu tham khảo Loại Chi tiết
[1]. Nguyễn Quang Hoan, "Xử lý ảnh", Học Viện Công Nghệ B-u Chính Viễn Thông, 2006 Sách, tạp chí
Tiêu đề: Xử lý ảnh
[2]. L-ơng Mạnh Bá- Nguyễn Thanh Thuỷ, "Nhập môn xử lý ảnh số" , Nhà xuất bản Khoa Học Kỷ Thuật, 1999 Sách, tạp chí
Tiêu đề: Nhập môn xử lý ảnh số
Nhà XB: Nhà xuất bản Khoa Học Kỷ Thuật
[3]. Nguyễn Thiện Luận, "Bài giảng logic mờ và suy diễn xấp xỉ" , Hà Néi, 2006 Sách, tạp chí
Tiêu đề: Bài giảng logic mờ và suy diễn xấp xỉ
[4]. Nguyễn Trí Tuấn, "Một số ph-ơng pháp để giải quyết các bài toán trong nhận dạng tiếng Việt", luận văn thạc sĩ khoa học, Đại Học Khoa Học Tự Nhiên TPHCM Sách, tạp chí
Tiêu đề: Một số ph-ơng pháp để giải quyết các bài toán trong nhận dạng tiếng Việt
[5]. Phạm Việt Bình, "Phát triển kỹ thuật dò biên, phát hiện biên và ứng dụng", tóm tắt luận án tiến sĩ khoa học, Viện Khoa Học Công Nghệ Việt Nam, Viện Công Nghệ Thông Tin, 2006 Sách, tạp chí
Tiêu đề: Phát triển kỹ thuật dò biên, phát hiện biên và ứng dụng
[6]. Nguyễn Đình Thúc, "Mạng nơron ph-ơng pháp và ứng dụng" , Nhà xuất bản Giáo Dục, 2000 Sách, tạp chí
Tiêu đề: Mạng nơron ph-ơng pháp và ứng dụng
Nhà XB: Nhà xuất bản Giáo Dục
[7]. Gonzalez and R.Woods, Digital Image Proceesing, Addison-Wesley Publising Company, 1992 Sách, tạp chí
Tiêu đề: Digital Image Proceesing
[8]. Ripley B.D, Pattern Recognition and Neural Networks, cambridge University Press, 1996 Sách, tạp chí
Tiêu đề: Pattern Recognition and Neural Networks
[10]. T.Master, Practical Neural Network Recipes in C++ . Academic Press, Inc., 1993 Sách, tạp chí
Tiêu đề: Practical Neural Network Recipes in C++
[11]. Rao, Valluru B and Rao, Hayagriva V, C++ Neural Network and Fuzzy Logic, Mis Press, 1993. Sách, tạp chí
Tiêu đề: C++ Neural Network and Fuzzy Logic
[12]. Larry Adelston, Megan Gillette, Richard Miske, and Kara Wilson, Mathematica Neural NetWorks, Train and Analyze Neural NetWorks In To Fit Your Data. 10-2005 Sách, tạp chí
Tiêu đề: Mathematica Neural NetWorks, Train and Analyze Neural NetWorks In To Fit Your Data
[9]. Ebooks. Pattern Recognition with Neural Network in C++ Khác

HÌNH ẢNH LIÊN QUAN

Hình 1.1 Sơ đồ tổng quan của hệ thống nhận dạng - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 1.1 Sơ đồ tổng quan của hệ thống nhận dạng (Trang 13)
Hình 1.8 Toán tử Sobel 5x5 - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 1.8 Toán tử Sobel 5x5 (Trang 22)
Hình 1.11 Ngoại lệ trong thuật toán dò biên sử dụng cặp nền vùng xuất phát  - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 1.11 Ngoại lệ trong thuật toán dò biên sử dụng cặp nền vùng xuất phát (Trang 25)
Hình 1.12 Ngoại lệ đã khắc phục trong thuật toán dò biên sử dụng 4 cặp nền vùng xuất phát - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 1.12 Ngoại lệ đã khắc phục trong thuật toán dò biên sử dụng 4 cặp nền vùng xuất phát (Trang 27)
Hình d-ới đăy minh họa cho quá trình phát hiện biên của dòng và biên của ký tự.  - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình d ới đăy minh họa cho quá trình phát hiện biên của dòng và biên của ký tự. (Trang 29)
hệ số bk. Mặc dầu các mô hình trong hình (2.2) và (2.3) là khác nhau về hình thức nh-ng t-ơng tự về bản chất toán học - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
h ệ số bk. Mặc dầu các mô hình trong hình (2.2) và (2.3) là khác nhau về hình thức nh-ng t-ơng tự về bản chất toán học (Trang 37)
Hình 2.4 (a) Hàm ng-ỡng, (b) Hàm vùng tuyến tính  (c) Hàm sigmoid với tham số độ dốc a thay đổi  - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 2.4 (a) Hàm ng-ỡng, (b) Hàm vùng tuyến tính (c) Hàm sigmoid với tham số độ dốc a thay đổi (Trang 38)
Một neural nh- vậy th-ờng đ-ợc gọi là mô hình McCulloch-Pitts. 1 0-22(v)010-22(v)0 1 0-22(v)0(a)(b) (c) - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
t neural nh- vậy th-ờng đ-ợc gọi là mô hình McCulloch-Pitts. 1 0-22(v)010-22(v)0 1 0-22(v)0(a)(b) (c) (Trang 38)
Hình 2.6 Mạng tiến với một lớp neural - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 2.6 Mạng tiến với một lớp neural (Trang 42)
Hình 2.7 Mạng truyền thẳng kết nối đầy đủ với một lớp ẩn - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 2.7 Mạng truyền thẳng kết nối đầy đủ với một lớp ẩn (Trang 44)
2.2.4.3. Mạng hồi quy (Recurent Network) - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
2.2.4.3. Mạng hồi quy (Recurent Network) (Trang 44)
Hình 2.8 Mạng hồi quy không có neural ẩn và không có vòng lặp tự phản hồi  - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 2.8 Mạng hồi quy không có neural ẩn và không có vòng lặp tự phản hồi (Trang 45)
Hình 2.9 Sơ đồ quy tắc học hiệu chỉnh lỗi - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 2.9 Sơ đồ quy tắc học hiệu chỉnh lỗi (Trang 54)
Hình 2.10 cho ta một sơ đồ khối minh hoạ mô hình học th-ờng đ-ợc gọi là học có giám sát này - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 2.10 cho ta một sơ đồ khối minh hoạ mô hình học th-ờng đ-ợc gọi là học có giám sát này (Trang 56)
Hình 2.11 mô tả một phần của mạng truyền thẳng nhiều lớp. Hai dạng tín hiệu đ-ợc xác định trong mạng này là:  - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 2.11 mô tả một phần của mạng truyền thẳng nhiều lớp. Hai dạng tín hiệu đ-ợc xác định trong mạng này là: (Trang 60)
Hình 2.12 Đồ thị luồng tín hiệu chi tiết cho một neural đầu ra - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 2.12 Đồ thị luồng tín hiệu chi tiết cho một neural đầu ra (Trang 62)
hình 2.13. Theo công thức (2.39), chúng ta có thể tính lại gradient cục bộ của neural j nh- sau:  - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
hình 2.13. Theo công thức (2.39), chúng ta có thể tính lại gradient cục bộ của neural j nh- sau: (Trang 65)
Hình 2.16 Sơ đồ khối của một bộ phân lọai mẫu - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 2.16 Sơ đồ khối của một bộ phân lọai mẫu (Trang 72)
Hình 3.1 Mô hình tổng quát của bài toán - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 3.1 Mô hình tổng quát của bài toán (Trang 76)
3.2. Các b-ớc chính trong quá trình thiết kế và xây dựng mô hình mạng nơ-ron truyền thẳng nhiều lớp cho bài toán nhận dạng chữ số và  chữ cái  - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
3.2. Các b-ớc chính trong quá trình thiết kế và xây dựng mô hình mạng nơ-ron truyền thẳng nhiều lớp cho bài toán nhận dạng chữ số và chữ cái (Trang 76)
Hình 3.3 Kiến trúc mạng 3 lớp với số các đơn vị lớp vào, lớp ẩn và lớp ra đ-ợc xác định - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Hình 3.3 Kiến trúc mạng 3 lớp với số các đơn vị lớp vào, lớp ẩn và lớp ra đ-ợc xác định (Trang 78)
- Màn hình chính của ch-ơng trình có dạng: - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
n hình chính của ch-ơng trình có dạng: (Trang 82)
- Màn hình khi huấn luyện mạng có dạng nh- sau: - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
n hình khi huấn luyện mạng có dạng nh- sau: (Trang 84)
3.4. Các kết quả và đánh giá thu đ-ợc từ ch-ơng trình - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
3.4. Các kết quả và đánh giá thu đ-ợc từ ch-ơng trình (Trang 85)
.Tốc độ học =0.2123, hệ số lỗi max=0.015 đ-ợc hiển thị trong bảng d-ới đây:  - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
c độ học =0.2123, hệ số lỗi max=0.015 đ-ợc hiển thị trong bảng d-ới đây: (Trang 85)
Bảng tỉ lệ này chỉ mang tính t-ơng đối bởi vì kết quả huấn luyện mạng ở những lần luyện khác nhau thì có tỉ lệ khác nhau, nó phụ thuộc vào các tham  số giá trị khi khởi tạo - Tìm hiểu mạng nơ ron truyền thẳng và thử nghiệm trong nhận dạng chữ số và chữ cái
Bảng t ỉ lệ này chỉ mang tính t-ơng đối bởi vì kết quả huấn luyện mạng ở những lần luyện khác nhau thì có tỉ lệ khác nhau, nó phụ thuộc vào các tham số giá trị khi khởi tạo (Trang 86)

TÀI LIỆU CÙNG NGƯỜI DÙNG

TÀI LIỆU LIÊN QUAN

w