ĐỒ ÁN TỐT NGHIỆP ĐẠI HỌCĐề tài NGHIÊN CỨU THUẬT TOÁN RBM TRONGDEEP LEARNING CHO HỆ LỌC CỘNG TÁC VÀVIẾT CHƯƠNG TRÌNH MÔ PHỎNG

GIỚI THIỆU KỸ THUẬT LỌC CỘNG TÁC TRONG HỆ TƯ VẤN

Phân loại hệ thống tư vấn

Có nhiều phương pháp để dự đoán và ước lượng hạng hoặc điểm cho các sản phẩm, bao gồm học máy, lý thuyết xấp xỉ và các thuật toán dựa trên kinh nghiệm Theo [1], các hệ thống tư vấn thường được chia thành ba loại khác nhau.

Người dùng sẽ nhận được tư vấn về các sản phẩm tương tự dựa trên những lựa chọn yêu thích trước đó của họ.

Tư vấn dựa trên cộng tác giúp người dùng nhận được những gợi ý về sản phẩm phổ biến từ những người có cùng sở thích và thị hiếu.

- Tư vấn dựa trên cách tiếp cận kết hợp: Kết hợp hai phương pháp tiếp cận dựa trên nội dung và cộng tác.

1.3.1 Phương pháp tư vấn dựa trên nội dung

Phương pháp tư vấn dựa trên nội dung đánh giá độ phù hợp của sản phẩm với người dùng bằng cách so sánh các đặc điểm của sản phẩm đó với những sản phẩm tương tự Cụ thể, khi gợi ý một bộ phim cho người dùng, hệ thống sẽ phân tích các yếu tố mà người dùng đã đánh giá cao như diễn viên và đạo diễn, từ đó chỉ giới thiệu những bộ phim có đặc điểm tương đồng với sở thích của người dùng.

Hướng tiếp cận dựa trên nội dung được phát triển từ nghiên cứu về thu thập và lọc thông tin, hiện nay tập trung vào việc tư vấn các nguồn dữ liệu văn bản như tin tức và website Sự tiến bộ so với phương pháp cũ của thu thập thông tin (IR) đến từ việc sử dụng hồ sơ người dùng, chứa thông tin về sở thích và nhu cầu của họ Hồ sơ này được xây dựng dựa trên thông tin mà người dùng cung cấp trực tiếp.

(khi trả lời khảo sát) hoặc gián tiếp (do khai phá thông tin từ các giao dịch của người dùng).

Hình 1 2: Minh họa phương pháp tư vấn dựa trên lọc nội dung

Content(i) được hiểu là thông tin riêng của sản phẩm i, bao gồm tập hợp các đặc tính đặc trưng Thông tin này thường được trích xuất từ các đặc tính của sản phẩm và giúp xác định sản phẩm phù hợp cho từng mục đích tư vấn Các hệ thống tư vấn dựa trên nội dung chủ yếu được thiết kế cho sản phẩm dựa trên văn bản, và nội dung của chúng thường được mô tả bằng từ khóa Ví dụ, hệ thống Fab.com sử dụng nội dung tư vấn từ trang web, trình bày 100 từ quan trọng nhất "Tầm quan trọng" của từ khóa trong tài liệu được xác định thông qua độ đo trọng số wij, được tính toán bằng nhiều phương pháp khác nhau.

Một trong những cách phổ biến để đánh giá tầm quan trọng của từ khóa trong truy vấn thông tin là sử dụng hai chỉ số: Tần suất xuất hiện của từ khóa trong tài liệu (Term Frequency - TF) và Tần số nghịch đảo của tần suất xuất hiện các tài liệu (Inverse Document Frequency - IDF) Cụ thể, giả sử N là tổng số tài liệu được người dùng tham khảo, trong đó từ khóa kj xuất hiện trong ni tài liệu (ni là số tài liệu chứa từ khóa k) Nếu fi,j là số lần từ khóa ki xuất hiện trong tài liệu dj, thì TFi,j sẽ là tần suất xuất hiện của từ khóa ki trong tài liệu dj.

Trong bài viết này, chúng ta sẽ xem xét tầm quan trọng của việc phân tích tần suất xuất hiện của từ khóa trong tài liệu Cụ thể, max z f z, j đại diện cho số lần xuất hiện cao nhất của từ khóa kz trong toàn bộ tập tài liệu dj Tuy nhiên, những từ khóa xuất hiện trong nhiều tài liệu có thể không được phân biệt rõ ràng giữa các tài liệu liên quan và không liên quan Để giải quyết vấn đề này, tần số nghịch đảo tần suất xuất hiện của các tài liệu IDFi được sử dụng nhằm phân biệt các từ khóa, thường được kết hợp với tần suất xuất hiện của từ khóa (TFi,j) để làm nổi bật tầm quan trọng của từ khóa trong ngữ cảnh.

Vậy sự kết hợp của TF và IDF sẽ xác định mức độ quan trọng của từ khóa ki cần xét.

Và nội dung của tài liệu dj được xác định như sau:

Hệ thống dựa trên nội dung thường được sử dụng để tư vấn các sản phẩm mà người dùng đã ưa thích trước đây Cụ thể, những sản phẩm được gợi ý sẽ được so sánh trọng số với các sản phẩm mà người dùng đã từng sử dụng, từ đó xác định sản phẩm phù hợp nhất để tư vấn.

Hồ sơ cá nhân ContentBasedProfile(u) của người dùng u phản ánh thị hiếu và sở thích của họ Hồ sơ này được tạo ra thông qua việc phân tích nội dung sản phẩm và trọng số từ các đánh giá trước đó của người dùng Quá trình xây dựng hồ sơ thường áp dụng kỹ thuật phân tích từ khóa trong truy vấn thông tin.

ContentBasedProfile(u) được định nghĩa là một véc-tơ chứa các mức độ quan trọng (wu1, …, wuk), phản ánh tầm quan trọng của từ khóa ki đối với người dùng u Các mức độ này có thể được tính toán từ các véc-tơ nội dung đã được đánh trọng số thông qua nhiều kỹ thuật khác nhau Một số phương pháp phổ biến để tính toán ContentBasedProfile(u) là sử dụng véc-tơ "trung bình" từ các véc-tơ nội dung cụ thể.

Trong những hệ thống dựa trên nội dung, hàm tiện ích r(u,i) thường được định nghĩa như sau:

Dựa trên việc truy vấn thông tin để tư vấn các trang Web và các thông điệp tin tức Usenet, cả hồ sơ dựa trên nội dung của người dùng (u) và nội dung của tài liệu (i) có thể được biểu diễn dưới dạng véc-tơ TF-IDF của các từ khóa quan trọng Hàm r(u,i) trong truy vấn thông tin thường được xác định dựa trên véc-tơ này.

Trong đó K là tổng số các từ khóa trong hệ thống.

Khi người dùng u thường xuyên đọc các bài báo về Tin Sinh Học, hệ thống tư vấn nội dung sẽ gợi ý những bài viết khác liên quan đến chủ đề này dựa trên số lượng thuật ngữ sinh học xuất hiện Nội dung của người dùng sẽ được thể hiện qua véc-tơ wr u, mô tả các thuật ngữ với mức độ quan trọng cao Hệ thống sử dụng thước đo cosin để xác định mức độ tương đồng, từ đó gán giá trị hàm r(u,i) cao cho các bài báo chứa nhiều thuật ngữ sinh học và giá trị thấp cho những bài viết ít thuật ngữ hơn, thông qua véc-tơ wr i.

Tư vấn dựa trên nội dung không chỉ dựa vào các hàm heuristic truyền thống để truy vấn thông tin, mà còn áp dụng các kỹ thuật phân loại khác nhằm nâng cao hiệu quả tìm kiếm.

Bayes và nhiều kỹ thuật máy học khác như phân cụm, cây quyết định, và mạng nơ-ron nhân tạo tính toán hàm tiện ích dựa trên các mô hình từ dữ liệu thay vì sử dụng hàm heuristic Chẳng hạn, kỹ thuật phân loại Nạve Bayes được áp dụng để phân loại các trang Web không được đánh trọng số dựa trên tập các trang Web đã được đánh trọng số, thể hiện mức độ liên quan đến người dùng Kỹ thuật này thường được sử dụng để đánh giá xác suất một trang thuộc lớp Ci (có quan hệ hay không có quan hệ) dựa vào tập các từ khóa có trong trang đó.

P(C | k & & k ) i 1, j n j , (1 7) Ngoài ra, giả thuyết rằng các khóa này độc lập với nhau vì vậy xác suất ở trên tương ứng với:

MÁY HẠN CHẾ BOTLZMANN (RBMs) TRONG LỌC CỘNG TÁC 19 CHƯƠNG 3 CÀI ĐẶT BÀI TOÁN

Mô hình và huấn luyện của giải thuật máy Boltzmann, bao gồm máy hạn chế Boltzmann (RBM), đóng vai trò quan trọng trong lọc cộng tác Các máy này giúp cải thiện khả năng dự đoán và tối ưu hóa quy trình lọc cộng tác thông qua việc khai thác các mối quan hệ ẩn giữa người dùng và sản phẩm Giải thuật RBM được sử dụng để giải quyết các bài toán lọc cộng tác một cách hiệu quả, mang lại những gợi ý chính xác hơn cho người dùng.

Chương 3 Cài đặt bài toán

Bài toán được xác định rõ ràng, với hệ thống và giải thuật cụ thể được áp dụng Dữ liệu cần thiết được mô tả chi tiết trước khi tiến hành thực nghiệm Môi trường cài đặt cũng được thiết lập để đảm bảo tính chính xác Cuối cùng, kết quả thu được sẽ được đánh giá để xác định độ chính xác của thuật toán đã sử dụng.

Cuối cùng là kết luận và tài liệu tham khảo

CHƯƠNG 1: GIỚI THIỆU KỸ THUẬT LỌC CỘNG TÁC

Hệ thống tư vấn (Recommender Systems - RSs) là những công cụ phần mềm hữu ích giúp người dùng nhận được các gợi ý về sản phẩm Chúng hỗ trợ quá trình ra quyết định, từ việc lựa chọn sản phẩm cần mua, đến việc tìm kiếm âm nhạc hay tin tức phù hợp.

Vào giữa thập niên 1990, hệ thống tư vấn trở thành một lĩnh vực nghiên cứu độc lập, tập trung vào các vấn đề liên quan đến tư vấn với các cấu trúc trọng số Tư vấn thường liên quan đến việc đánh giá trọng số cho các sản phẩm mà người dùng chưa lựa chọn Ở dạng đơn giản nhất, các hệ thống tư vấn cá nhân hóa cung cấp danh sách sản phẩm đã được xếp hạng, nhằm dự đoán sản phẩm hoặc dịch vụ phù hợp nhất dựa trên sở thích của người dùng Để thực hiện điều này, hệ thống thu thập sở thích của người dùng thông qua các xếp hạng sản phẩm hoặc từ các hành động của họ, chẳng hạn như việc xem thông tin trên website của một sản phẩm, được xem là dấu hiệu về sở thích của người dùng đối với sản phẩm đó.

Hệ thống tư vấn sách hoạt động bằng cách thu thập thông tin từ người dùng và các sách có sẵn Khi người dùng đăng nhập và tìm kiếm sách văn học, hệ thống sẽ phân tích sở thích của họ để đề xuất những quyển sách phù hợp Các phương pháp tư vấn truyền thống như chọn sách được ưa chuộng hoặc mới nhất có thể đơn giản, nhưng để nâng cao chất lượng tư vấn, hệ thống cần sử dụng dữ liệu từ tất cả người dùng và sản phẩm, áp dụng các thuật toán thông minh nhằm đưa ra những gợi ý chính xác và cá nhân hóa nhất cho người dùng.

Hình 1 1: Minh họa hệ thống tư vấn sách cho người đọc

1.1.2 Ứng dụng của hệ tư vấn

Hệ thống tư vấn lựa chọn có phạm vi ứng dụng rộng rãi, đặc biệt trong lĩnh vực thương mại điện tử Nhiều hệ thống này chủ yếu tập trung vào việc bán sách, giới thiệu phim, cung cấp tin tức và đĩa, giúp người dùng dễ dàng tìm kiếm và lựa chọn sản phẩm phù hợp với nhu cầu của họ.

CD ca nhạc, các trang Web

- Phim: Netflix, Firefly, MovieCritic, MovieLens, Mangarate, Morse

- Web: Webwatcher, Webfilter, Webwasher, Select, Webdoggie, Gustos

- Tin tức: Shift, Infoscan, NewsSieve, Borger, RAMA, GroupLens

- Thương mại điện tử: TripMatcher (du lịch), ShopMatcher, E-Markets

Theo Adomavicius và Tuzhilin, bài toán tư vấn thường được xem là việc ước lượng đánh giá cho các sản phẩm chưa được người dùng xem xét, như phim, CD, sách, và nhà hàng Quá trình ước lượng này chủ yếu dựa vào các đánh giá đã có từ chính người dùng hoặc từ những người dùng khác.

Những sản phẩm có hạng cao nhất sẽ được dùng để tư vấn Một cách hình thức, bài toán tư vấn được mô tả như sau:

- Gọi U là tập các người dùng (Users) của hệ thống.

- Gọi I là toàn bộ không gian đối tượng sản phẩm (Items).

- Hàm r(u,i) là đánh giá (độ phù hợp) của người dùng u với sản phẩm i.

Bài toán được mô tả là ánh xạ r: UxI → R, trong đó R là tập hợp các đối tượng cần giới thiệu Tập R sẽ được sắp xếp theo thứ tự giảm dần của giá trị r Mục tiêu chính của thuật toán là tìm giá trị hàm r = f(u, i), với r lớn nhất đại diện cho sản phẩm i mà người dùng u yêu thích nhất.

Trong hệ thống tư vấn, độ phù hợp của một sản phẩm thường được cho bằng điểm.

Trong hệ thống tư vấn phim, người dùng A có thể đánh giá bộ phim "Walking Dead" với điểm 7/10, nhưng độ phù hợp của đánh giá này phụ thuộc vào từng ứng dụng cụ thể Giá trị của độ phù hợp, ký hiệu là r, có thể được xác định bởi người dùng hoặc tính toán qua một công thức nào đó Mỗi người dùng trong không gian U được xác định bởi một hồ sơ, có thể bao gồm thông tin như tuổi, giới tính, thu nhập, hoặc chỉ đơn giản là mã người dùng Tương tự, mỗi sản phẩm trong không gian I cũng được xác định bởi một tập các đặc trưng, ví dụ như tên phim, thể loại, đạo diễn, năm sản xuất và diễn viên chính Vấn đề chính là r không được xác định trên toàn bộ không gian U × I mà chỉ trên một miền nhỏ, dẫn đến việc hàm r cần phải được ngoại suy Độ phù hợp thường được thể hiện bằng điểm và chỉ xác định trên các sản phẩm đã được người dùng đánh giá trước đó Hệ thống tư vấn sẽ dự đoán điểm cho các bộ phim chưa được người dùng đánh giá, từ đó cung cấp những gợi ý phù hợp nhất.

Bảng 1 1: Minh họa đánh giá của người dùng về 1 số bộ phim đã xem

Walking dead X-Men Iron Man Spider Man

1.3 Phân loại hệ thống tư vấn

Có nhiều phương pháp để dự đoán và ước lượng hạng hoặc điểm cho các sản phẩm, bao gồm học máy, lý thuyết xấp xỉ và các thuật toán dựa trên kinh nghiệm Theo [1], hệ thống tư vấn thường được chia thành ba loại khác nhau.

Người dùng sẽ nhận được tư vấn về các sản phẩm tương tự dựa trên những sản phẩm mà họ đã yêu thích trước đây, giúp cải thiện trải nghiệm mua sắm và tăng khả năng tìm kiếm sản phẩm phù hợp.

Tư vấn sản phẩm dựa trên cộng tác giúp người dùng nhận được gợi ý từ những sản phẩm phổ biến, được ưa chuộng bởi những người có cùng sở thích và thị hiếu.

- Tư vấn dựa trên cách tiếp cận kết hợp: Kết hợp hai phương pháp tiếp cận dựa trên nội dung và cộng tác.

1.3.1 Phương pháp tư vấn dựa trên nội dung

Phương pháp tư vấn dựa trên nội dung đánh giá độ phù hợp r(u,i) của sản phẩm i với người dùng u thông qua độ phù hợp r(u,i’) của các sản phẩm tương tự i’ Chẳng hạn, khi gợi ý bộ phim cho người dùng u, hệ thống sẽ phân tích các đặc điểm của những bộ phim mà u đã đánh giá cao, như diễn viên và đạo diễn, từ đó chỉ giới thiệu những bộ phim phù hợp với sở thích của u.

Hướng tiếp cận dựa trên nội dung phát triển từ nghiên cứu về thu thập và lọc thông tin, với nhiều hệ thống hiện nay tập trung vào việc tư vấn các nguồn dữ liệu văn bản như tin tức và website Sự tiến bộ so với phương pháp cũ của thu thập thông tin (IR) đến từ việc sử dụng hồ sơ người dùng, chứa thông tin về sở thích và nhu cầu của họ, được xây dựng từ những dữ liệu mà người dùng cung cấp trực tiếp.

(khi trả lời khảo sát) hoặc gián tiếp (do khai phá thông tin từ các giao dịch của người dùng).

Hình 1 2: Minh họa phương pháp tư vấn dựa trên lọc nội dung

Trong hệ thống tư vấn dựa trên nội dung, mỗi sản phẩm được xem là một tập hợp các đặc tính riêng, gọi là Content(i) Những đặc tính này thường được trích xuất từ nội dung của sản phẩm và được sử dụng để xác định sản phẩm phù hợp cho từng mục đích tư vấn Các hệ thống này chủ yếu phục vụ cho các sản phẩm dựa trên văn bản, với nội dung được mô tả thông qua từ khóa (keyword) Ví dụ, hệ thống Fab.com cung cấp nội dung tư vấn cho người dùng bằng cách trình bày 100 từ quan trọng nhất từ trang web "Tầm quan trọng" của từ khóa trong tài liệu được xác định thông qua độ đo trọng số wij, được tính toán bằng nhiều phương pháp khác nhau.