ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ NGUYỄN ĐẮC NAM HỆ THỐNG TỰ ĐỘNG PHÂN LUỒNG CÂU HỎI VÀ GIẢI ĐÁP YÊU CẦU TRỰC TUYẾN LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN Hà Nội – 2017 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ NGUYỄN ĐẮC NAM HỆ THỐNG TỰ ĐỘNG PHÂN LUỒNG CÂU HỎI VÀ GIẢI ĐÁP YÊU CẦU TRỰC TUYẾN Ngành: Công nghệ thông tin Chuyên ngành: Kỹ thuật phần mềm Mã số: 60480103 LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS TS Phạm Ngọc Hùng TS Trần Quốc Long Hà Nội – 2017 LỜI CAM ĐOAN Tôi xin cam đoan cơng trình nghiên cứu riêng tơi Các số liệu, kết nêu Luận văn trung thực chưa công bố công trình khác Tơi xin cam đoan giúp đỡ cho việc thực Luận văn cảm ơn thơng tin trích dẫn Luận văn rõ nguồn gốc Học viên thực Luận văn (Ký ghi rõ họ tên) LỜI CẢM ƠN Lời cảm ơn trân trọng em muốn dành tới thầy cô Trường Đại học Công Nghệ, Đại học Quốc Gia Hà Nội tận tình giảng dạy truyền đạt kiến thức suốt khóa học cao học vừa qua Em xin gửi lời cảm ơn tới thầy cô môn Kỹ thuật phần mềm khoa Công nghệ thông tin Đặc biệt em xin chân thành cảm ơn hai thầy PGS TS Phạm Ngọc Hùng TS Trần Quốc Long, dìu dắt hướng dẫn em suốt trình làm luận văn, bảo định hướng thầy giúp em tự tin nghiên cứu vấn đề giải toán cách khoa học Em xin trân trọng cảm ơn Ban giám hiệu thầy cô Trường Đại học Công nghệ, Đại học Quốc Gia Hà Nội tạo điều kiện cho em học tập làm khóa luận cách thuận lợi Xin cảm ơn Trung tâm Quản lý Chất lượng – Trường Đại học Công nghiệp Hà Nội tạo điều kiện để học hồn thành tốt khố học Mặc dù cố gắng nhiều, chắn q trình học tập luận văn khơng khỏi thiếu sót Em mong thơng cảm bảo tận tình thầy bạn Hà Nội, Ngày tháng năm 2017 Nguyễn Đắc Nam MỤC LỤC LỜI CAM ĐOAN LỜI CẢM ƠN MỤC LỤC DANH MỤC KÝ HIỆU VÀ CÁC CHỮ VIẾT TẮT DANH MỤC HÌNH VẼ VÀ ĐỒ THỊ GIỚI THIỆU CHUNG CHƯƠNG 1: TỔNG QUAN VỀ HỆ THỐNG TRẢ LỜI TỰ ĐỘNG 11 1.1 Hệ thống trả lời tự động 11 1.2 Tình hình nghiên cứu ngồi nước 14 1.3 Phân loại mơ hình trả lời tự động 16 CHƯƠNG 2: CƠ SỞ MẠNG NƠ-RON NHÂN TẠO 22 2.1 Kiến trúc mạng nơ-ron nhân tạo 22 2.2 Hoạt động mạng nơ-ron nhân tạo 24 2.3 Mạng nơ-ron tái phát ứng dụng 28 CHƯƠNG 3: ỨNG DỤNG MƠ HÌNH MẠNG NƠ-RON VÀO TRẢ LỜI TỰ ĐỘNG 33 3.1 Phát sinh ngôn ngữ trả lời tự động 33 3.2 Mơ hình chuỗi liên tiếp 35 3.3 Mơ hình trả lời tự động 37 3.4 Một số đặc điểm xây dựng hệ thống trả lời tự động 38 3.4.1 Phụ thuộc bối cảnh 38 3.4.2 Kết hợp tính cách 39 3.5 Các vấn đề khó khăn trả lời tự động Tiếng Việt 39 3.5.1 Đặc điểm ngữ âm 39 3.5.2 Đặc điểm từ vựng: 40 3.5.3 Đặc điểm ngữ pháp 40 CHƯƠNG 4: XÂY DỰNG HỆ THỐNG TRAO ĐỔI THÔNG TIN TRỰC TUYẾN GIỮA SINH VIÊN VỚI NHÀ TRƯỜNG TẠI TRƯỜNG ĐẠI HỌC CÔNG NGHIỆP HÀ NỘI 42 4.1 Lựa chọn toán 42 4.2 Quy trình trao đổi thơng tin (hỏi đáp trực tuyến) HSSV với Nhà trường Trường Đại học Công nghiệp Hà Nội 43 4.2.1 Quy trình áp dụng 43 4.2.2 Mơ tả quy trình áp dụng 44 4.3 Kiến trúc ứng dụng 48 4.4 Cài đặt hệ thống 50 4.4.1 Mơ hình cài đặt 50 4.4.2 Môi trường cài đặt 52 4.4.3 Công cụ cài đặt 54 4.5 Kết đạt 54 4.5.1 Một số kết 54 4.5.2 Hiệu 56 KẾT LUẬN 58 TÀI LIỆU THAM KHẢO 60 DANH MỤC KÝ HIỆU VÀ CÁC CHỮ VIẾT TẮT STT Ký hiệu, Tiếng anh Chú giải viết tắt AI Artificial Intelligence Trí tuệ nhân tạo ANN Artificial Neural Network Mạng Nơ-ron nhân tạo ML Machine Learning Học máy LSTM Long short-term memory network QA Question answering system Hệ thống hỏi đáp RNN Recurrent Neural Network Mạng nơ-ron tái phát SVM Support Vector Machine Máy vecto hỗ trợ DANH MỤC HÌNH VẼ VÀ ĐỒ THỊ Hình 1.1: Mơ hình chuỗi sinh Hình 1.2 Các bước chung hệ thống trả lời tự động Hình 2.1: Kiến trúc mạng nơ-ron nhân tạo Hình 2.2: Q trình xử lý thơng tin mạng nơ-ron nhân tạo Hình 2.3: Ứng dụng RNN máy dịch Hình 2.4: Ứng dụng RNN phát sinh mơ tả cho ảnh Hình 2.5: Mạng RNN hai chiều Hình 2.6: Mạng RNN nhiều tầng Hình 3.1: Mơ hình phát sinh văn Hình 3.2: Quá trình huấn luyện phát sinh văn Hình 3.3: Mơ hình chuỗi liên tiếp (chuỗi sang chuỗi) seq2seq Hình 3.4: Mơ hình đối thoại seq2seq Hình 4.1 Quy trình áp dụng hệ thống hỏi đáp Bảng 4.2 Mơ tả quy trình áp dụng Hình 4.3: Kiến trúc mơ hình đối thoại cho tiếng Việt Bảng 4.4: Thông tin phần cứng Bảng 4.5: Các công cụ phần mềm sử dụng GIỚI THIỆU CHUNG Hiện việc tiếp nhận, giải trả lời câu hỏi thắc mắc yêu cầu người dùng (Hệ thống hỏi đáp Q&A giải thắc mắc): khách hàng hoạt động thương mại, người dân thủ tục hành chính, học sinh - sinh viên hoạt động đào tạo trường đại học - cao đẳng lớn Các hoạt động tiếp nhận câu hỏi trả lời câu hỏi hoạt động mang tính thủ cơng mà chưa có cơng cụ trợ giúp Việc tiếp nhận xử lý chậm, thiếu xác chưa cơng khai minh bạch Các câu hỏi yêu cầu người dùng vào nhiều lĩnh vực thuộc nhiều đối tượng trả lời khác nhau, việc lựa chọn đối tượng trả lời gây khó khăn hiểu nhầm cho người dùng dẫn đến câu hỏi yêu cầu thường không trả lời thỏa đáng Cho đến hệ thống trực tuyến giải yêu cầu tiện lợi Ví dụ mua sắm mạng: người sử dụng truy cập vào địa mua sắm nhiều mặt hàng nhiều đơn vị sản xuất (Ví dụ amazon, lazada) Yêu cầu người mua hàng website phân tích đưa đề nghị sản phẩm hợp lý với người mua hàng nhờ vào hệ thống trí tuệ nhân tạo (AI) học máy (ML) giúp cải thiện doanh thu bán hàng đáng kể thành phần thiếu website bán hàng ngày Do hệ thống phân luồng trả lời tự động thiết thực bối cảnh Tính cấp thiết tốn trả lời tự động Trong bối cảnh mạng xã hội website mua sắm ngày trở nên phổ biến nay, người tăng nhu cầu kết nối với người thông qua mạng xã hội, vào thời gian nơi đâu Sẽ thật tốt có hệ thống tự động thông minh hỗ trợ người cách trò chuyện, có khả nhắc nhở, giải đáp thắc mắc thời gian ngắn Khái niệm trợ lý ảo, chatbot, hay hệ thống trả lời tự động chủ đề nóng, cơng ty lớn Microsoft (Cortana), Google (Google Assistant), Facebook (M), Apple (Siri), Samsung (Viv) giới thiệu trợ lý ảo mình, hệ thống trả lời tự động Chính thức vào chơi chatbot, với mong muốn tạo trợ lý ảo thực thông minh tồn hệ sinh thái sản phẩm Gần Microsoft tạo Microsoft Chat Framework cho phép nhà phát triển tạo chatbot tảng Web Skype, hay Facebook phát hành F8 SDK cho phép nhà phát triển tích hợp vào Messenger Và không ông lớn giới công nghệ, công ty khởi nghiệp cố gắng tạo dịch vụ nhằm thay đổi cách khách hàng tương tác giải pháp trợ lý ảo Nhằm trợ giúp người dùng, khách hàng có trải nghiệm tốt sản phẩm cách cung cấp dịch vụ Nổi bật phải kể đến ứng dụng tích hợp trợ lý ảo wit.ai, x.ai, reply.ai tảng Messenger Facebook Ở nước, số công ty Quản lý Hồ sơ y tế điện tử ERM.,JSC Vietcare phát triển tạo hệ thống trả lời tự động kiến thức y khoa, hỏi đáp sức khỏe thông tin y tế, hay RiveHub, Subiz, … cố gắng tạo cho hệ thống hỗ trợ, chăm sóc khách hàng bán hàng tự động Rất nhiều cơng ty khác có hi vọng phát triển trợ lý ảo hiểu ngơn ngữ tự nhiên người, trả lời tự động tương tác với người cách tự nhiên Nhiều người cho việc sử dụng kỹ thuật xử lý ngôn ngữ tự nhiên NLP kỹ thuật học sâu Deep Learning để làm tăng chất lượng hiệu hệ thống Nhưng từ lý thuyết đến thực tế chặng đường dài, cách đó, người tích hợp trí tuệ nhân tạo (AI) vào sản phẩm cơng nghiệp Như vậy, hệ thống trả lời tự động có nhiệm vụ vai trò quan trọng, trợ giúp người nhiều nhiều lĩnh vực: y tế, giáo dục, 54 4.4.3 Công cụ cài đặt - Sử dụng công cụ phân tách tự xây dựng tảng Visual Studio 2017 Cơ sở liệu lưu hệ quản trị sở liệu Microsoft Server 2012 - Công cụ giao tiếp trả lời trực tuyến tự xây dựng tảng Asp.net 4.5 - Ứng dụng giao diện web gồm: HTML5, CSS, JQuery, Bootstrap, Websocket 4.5 Kết đạt Để xây dựng hệ thống trả lời tự động cho nhà trường thu thập câu hỏi câu trả lời từ hệ thống hỏi đáp cũ nhà trường thu tổng số 8500 câu hỏi chủ yếu qua hệ thống http://sv.qlcl.edu.vn Sau trình tiền xử lý liệu thu nhận 16.173 câu văn tiếng việt Thực công việc làm liệu qua bước sau  Loại bỏ ký tự đặc biệt, chữ số  Loại bỏ thẻ html câu  Chuyển câu từ ký tự in hoa in thường  Chuyển đổi bảng mã khác chuẩn Unicode  Tiền xử lý liệu: Chuẩn hóa lại số câu hỏi câu trả lời  Tách từ  Sử dụng word2vec chuyển đầu vào cho LSTM 4.5.1 Một số kết 55 Giao diện mô-đun tiếp nhận câu hỏi tự động phân luồng Câu hỏi sau hệ thống tiếp nhận xử lý chuyển đến phận có liên quan trả lời Trong trường hợp câu hỏi liên quan đến nhiều phận cán phận chuyển tiếp câu hỏi đến phận liên quan trả lời Câu hỏi Trả lời Thầy cho e hỏi chút ạ, e có đưa e vừa Em vào trang tuyển_sinh thi xong muốn nộp hồ_sơ vào trường nhà_trường để biết thơng_tin nhé: mà chưa biết thủ_tục https://tuyensinh.haui.edu.vn/ nào, phải đến phòng_ban để nộp, thời_gian làm_việc ngày tuần với E xin cảm ơn :)) 56 Xin phép cho em hỏi lịch_thi lại môn vật_lý đại_cương hè không ạ! e cảm ơn! Xin phép Thầy/Cô cho em hỏi vài vấn đề Em học_sinh lớp KHMT2K9 vừa qua lớp em dự thi môn Xác_suất_thống_kê Chúng em vừa biết điểm xong, nhiều bạn xúc điểm chấm thật theo chúng em nghĩ chủ quan chưa chính_xác với làm Theo em biết trung tâm QLCL có phần nộp đơn phúc_tra nhiều bạn nói phúc_khảo điểm xuống Vì em mong Thầy/Cơ giải_thích cho em quy_trình phúc_khảo bài_thi cho công_khai minh_bạch với sinh viên dự thi không Và Sau phúc_khảo người xin phúc_khảo có phúc_khảo tiếp lại lần phúc khảo không ạ? (giả sử người xin phúc_khảo chưa hết thắc_mắc) Và điều hôm_nay ngày 15-02 có điểm, mà thời gian chờ kết phúc tra 10 ngày, lịch_thi lại ngày 22-02 Em mong sớm nhận phản hồi Thầy/Cô Em xin chân thành cảm ơn Thầy/Cô ban QLCL ạ! Xin cho e hỏi làm để kiểm_tra hồn_thành đủ tín_chỉ để đủ điều_kiện xét tốt_nghiệp chưa ạ? E xin cảm ơn Bây muốn đăng_kí học kì_phụ làm ạ! Em xem lịch_thi trang http://sv.qlcl.edu.vn Cám ơn em thông_tin Câu_hỏi chuyển đến bộ_phận Quản_lý_chất_lượng Em đăng_nhập vào trang dttc.haui.edu.vn theo tài_khoản đc cấp để kiểm_tra nhé, khơng đc em qua phòng Đào_tạo 105 - A2 để thầy giải_đáp Em nghiên_cứu quy_trình đăng_ký học kỳ phụ http://hd.dhcnhn.vn 4.5.2 Hiệu Kết thực nghiệm dựa liệu thu thập từ ngày 1/1/2013 đến 57 Mẫu liệu câu hỏi thu thập dựa hệ thống tiếp nhận câu hỏi phân luồng Việc đánh giá đạt dựa kết đánh giá xác định dựa đánh giá mức độ hài lòng học sinh – sinh viên Cụ thể sau: - Sinh viên đăng nhập hệ thống vào hệ thống tiếp nhận câu hỏi - Sinh viên đặt câu hỏi hệ thống tự động phân luồng vào phận liên quan tiếp nhận trả lời - Sinh viên sau nhận câu trả lời có phản hồi “Cảm ơn” lựa chọn chức đánh giá hài lòng (nhấn vào nút like) Độ đo xác định hiệu giải pháp phân luồng câu hỏi tính sau: 𝐻à𝑖 𝑙ò𝑛𝑔 = 𝑆ố 𝑙ầ𝑛 𝑝ℎâ𝑛 𝑙𝑢ồ𝑛𝑔 đượ𝑐 đá𝑛ℎ 𝑔𝑖á đạ𝑡 𝑇ổ𝑛𝑔 𝑠ố 𝑐â𝑢 ℎỏ𝑖 Hệ thống đánh giá dựa mẫu liệu: Mẫu số từ ngày 1/1/2013 đến 1/1/2014 gồm 1333 câu hỏi phân luồng Mẫu số từ ngày 1/1/2014 đến 1/1/2015 gồm 2150 câu hỏi phân luồng Mẫu số từ ngày 1/1/2015 đến 1/1/2016 gồm 1982 câu hỏi phân luồng Kết số lượng câu hỏi đánh giá đạt hiệu hệ thống (mức độ hài lòng) thể bảng sau: Mẫu 1: Từ liệu ngày 1/1/2013 đến 1/1/2014 Dữ liệu câu hỏi Đánh giá đạt Hài lòng 1333 300 22,5% Mẫu 2: Từ liệu ngày 1/1/2014 đến 1/1/2015 Dữ liệu câu hỏi Đánh giá đạt Hài lòng 2150 1220 56,7% 58 Mẫu 3: Từ liệu ngày 1/1/2015 đến 1/1/2016 Dữ liệu câu hỏi Đánh giá đạt Hài lòng 1982 1349 68% Đánh giá kết thí nghiệm - Qua q trình thử nghiệm hệ thống kiểm tra đánh giá nhà trường nhận thấy phần lớn câu hỏi có độ dài >110 ký tự - Các câu hỏi phân luồng trả lời đạt hiệu 60% khiến người dùng hài lòng - Số câu “Cảm ơn” 1619 câu (chiếm 56%) số đánh giá đạt - Trước thực phân luồng câu hỏi, thời gian tiếp nhận trả lời thống kê trung bình 180 phút - Thời gian tiếp nhận câu hỏi trả lời câu hỏi sau phân luồng trung bình giảm 90 phút ngày - Theo đánh giá chủ quan số lượng thắc mắc sinh viên trực tiếp phòng ban liên quan giảm - Việc tiếp nhận câu hỏi giải đáp yêu cầu sinh viên góp phần giúp nhà trường tuyên truyền phổ biến kiến thức, văn hóa đến sinh viên nhanh chóng hơn, tiếp kiệm thời gian nhân lực 59 KẾT LUẬN Những kết luận văn: Luận văn đạt kết sau đây:  Đưa lý thuyết vấn đề gặp phải việc xây dựng hệ thống tự động phân luồng câu hỏi  Nghiên cứu ứng dụng mạng học sâu vào giải toán phân luồng câu hỏi trả lời câu hỏi tự động trực tuyến  Cài đặt hệ thống tự động phân luồng câu hỏi hệ thống trả lời câu hỏi đạt kết thực nghiệm đạt 50% người sử dụng hài lòng  Phần mềm đưa vào ứng dụng giúp tiết kiệm chi phí cho nguồn nhân lực q trình tiếp nhận trả lời câu hỏi  Tổng hợp kết hướng nghiên cứu toán đưa trợ lý ảo tiếp nhận hiểu nhu cầu sinh viên  Có khả áp dụng vào hệ thống tự động phân luồng câu hỏi khác tư vấn bán hàng, tư vấn sức khỏe, Hướng phát triển luận văn:  Tiếp tục triển khai mở rộng thu thập nhiều câu hỏi nhiều trường Đại học để gia tăng huấn luyện, tăng độ xác  Tiếp tục nghiên cứu mơ hình mạng học sâu giải tốn phân luồng câu hỏi trả lời yêu cầu trực tuyến  Tìm hiểu nhu cầu thực tế, tham khảo ý kiến chuyên gia để xây dựng chương trình áp dụng kỹ thuật nghiên cứu, bổ sung số yếu tố khác để hoàn thiện hệ thống trả lời tự động đạt hiệu cao 60 TÀI LIỆU THAM KHẢO [1] Nhữ Bảo Vũ, Nguyễn Văn Nam XÂY DỰNG MƠ HÌNH ĐỐI THOẠI CHO TIẾNG VIỆT TRÊN MIỀN MỞ DỰA VÀO PHƯƠNG PHÁP HỌC CHUỖI LIÊN TIẾP Khóa luận tốt nghiệp thạc sỹ CNTT 2016 [2] Hồ Tú Bảo, Lương Chi Mai Về xử lý tiếng Việt công nghệ thông tin, Viện Công nghệ Thông tin, Viện Khoa học Công nghệ Tiên tiến Nhật [3] Hà Quang Thụy & nhóm khai phá liệu ứng dụng Bài giảng khai phá liệu, 2007 [4] Walter S Lasecki, Ece Kamar, Dan Bohus, Conversations in the Crowd: Collecting Data for Task-Oriented Dialog Learning [5] Alan Ritter, Colin Cherry, and Bill Dolan 2010 “Unsupervised modeling of twitter conversations” In Human Language Technologies: The 2010 Annual Conference of the North American Chapter of the Association for Computational Linguistics, HLT ’10, pages 17 [6] Rafael E Banchs and Haizhou Li 2012 “Iris: a chat-oriented dialogue system based on the vector space model” In Proceedings of the ACL 2012 System Demonstrations, pages 37–42, Jeju Island, Korea, July Association for Computational Linguistics [7] Karthik Narasimhan, Tejas Kulkarni, and Regina Barzilay 2015 “Language understanding for text-based games using deep reinforcement learning” In Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing, pages 1–11, Lisbon, [8] T.-H Wen, D Vandyke, N Mrksic, M Gasic, L M Rojas-Barahona, P.-H Su, S Ultes, and S Young 2016 A Network-based End-to-End Trainable Task-oriented Dialogue System ArXiv eprints, April 61 [9] Heriberto Cuayahuitl 2016 Simpleds: “A simple deep reinforcement learning dialogue system” CoRR, abs/1601.04574 [10] Ilya Sutskever, Oriol Vinyals, Quoc V Le, 14 Dec 2014 “Sequence to Sequence Learning with Neural Networks” pp 1–9 [11] Oriol Vinyals, Quoc Le, 22 Jul 2015 “A Neural Conversational Model” [12] Alessandro Sordoni, Michel Galley, Michael Auli, Chris Brockett, Yangfeng Ji, Margaret Mitchell, Jian-Yun Nie, Jianfeng Gao, Bill Dolan, 22 Jun 2015 “A Neural Network Approach to Context-Sensitive Generation of Conversational Responses” [13] Iulian V Serban, Alessandro Sordoni, Yoshua Bengio, Aaron Courville, Joelle Pineau, Apr 2016 “Building End-To-End Dialogue Systems Using Generative Hierarchical Neural Network Models” [14] Jiwei Li, Michel Galley, Chris Brockett, Jianfeng Gao, and Bill Dolan 2015 A diversitypromoting objective function for neural conversation models arXiv preprint arXiv:1510.03055 [15] Lester, J., Branting, K., and Mott, B, 2004 “Conversational agents In Handbook of Internet Computing Chapman & Hall” [16] Will, T, 2007 “Creating a Dynamic Speech Dialogue” VDM Verlag Dr [17] Russell, S., Dewey, D., Tegmark, M (2015) “Research Priorities for Robust and Beneficial Artificial Intelligence” AI Magazine, 36 (4):105–114 [18] Alan M Turing 1950 “Computing machinery and intelligence” Mind, 59(236):433–460 [19] Joseph Weizenbaum 1966 “Elizaa computer program for the study of natural language communication between man and machine” Communications of the ACM, 9(1):36–45 62 [20] Roger C Parkinson, Kenneth Mark Colby, and William S Faught 1977 “Conversational language comprehension using integrated pattern-matching and parsing” Artificial Intelligence, 9(2):111–134 [21] Richard S Wallace 2009 “The anatomy of ALICE” Springer [22] Jurgen Schmidhuber 2015 “Deep learning in neural networks: An overview Neural Networks”, 61:85–117 [23] Yann LeCun, Yoshua Bengio, and Geoffrey Hinton 2015 Deep learning Nature, 521(7553):436–444 [24] Marilyn Walker, Grace Lin, and Jennifer Sawyer 2012 “An annotated corpus of film dialogue for learning and characterizing character style” In Nicoletta Calzolari, Khalid Choukri, Thierry Declerck, Mehmet Ugur Do ˘ gan, Bente Maegaard, Joseph ˘ Mariani, Jan Odijk, and Stelios Piperidis, editors, Proceedings of the Eighth International Conference on Language Resources and Evaluation (LREC-2012), pages 1373–1378, Istanbul, Turkey, May European Language Resources Association (ELRA) ACL Anthology Identifier: L12-1657 [25] Francesca Bonin, Jose San Pedro, and Nuria Oliver 2014 “A context-aware nlp approach for noteworthiness detection in cellphone conversations” In COLING, pages 25–36 [26] Jaime Carbonell, Donna Harman, Eduard Hovy, and Steve Maiorano, John Prange and Karen Sparck-Jones Vision Statement to Guide Research in Question & Answering (Q&A) and Text Summarization Final version 2000 [27] P Werbos, 1990 “Backpropagation through time: what it does and how to it” Proceedings of IEEE [28] Sanda M Harabagiu, Marius A Paşca, Steven J Maiorano Experiments with open-domain textual Question Answering International Conference On 63 Computational Linguistics Proceedings of the 18th conference on Computational linguistics – Volume 1, 2000, tr 292 - 298 [29] Eduard Hovy, Ulf Hermjakob and Lin, C.-Y The Use of External Knowledge in Factoid QA Paper presented at the Tenth Text REtrieval Conference (TREC 10), Gaithersburg, MD, 2001, November 13-16 [30] Trung tâm ngôn ngữ học Việt Nam “Đặc điểm tiếng Việt”, http://www.vietlex.com/vietnamese.htm [31] S Hochreiter and J Schmidhuber, 1997 “Long Short-Term Memory” Neural Computation, vol 9, pp 1735–1780 [32] T Mikolov, M Karafiát, L Burget, J Cernockỳ, and S Khudanpur, 2010 “Recurrent neural network based language model” In INTERSPEECH, pages 1045–1048 [33] M Sundermeyer, R Schluter, and H Ney, 2010 “LSTM neural networks for language modeling” In INTERSPEECH [34] D Rumelhart, G E Hinton, and R J Williams, 1986 “Learning representations by back-propagating errors” Nature, 323(6088):533–536 [35] Y Bengio, P Simard, and P Frasconi, 1994 “Learning long-term dependencies with gradient descent is difficult” IEEE Transactions on Neural Networks, 5(2):157– 166 [36] Kyunghyun Cho, Bart van Merrienboer, Caglar Gulcehre, Dzmitry Bahdanau, Fethi Bougares, Holger Schwenk, Yoshua Bengio, Sep 2014 “Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation” [37] A Graves, Jun 2014 “Generating sequences with recurrent neural networks” In Arxiv preprint arXiv:1308.0850 64 PHỤ LỤC Màn hình đăng nhập hệ thống Màn hình lựa chọn mơ-đun trao đổi trực tuyến 65 Chức trao đổi trực tuyến Chức xem câu hỏi câu trả lời 66 Chức thành viên có liên quan trả lời câu hỏi Chức chuyển câu hỏi đến phận khác trả lời 67 Một số mã nguồn hệ thống Hàm Comment javascript sử dụng client để nhận đối tượng câu hỏi đưa vào hệ thống Comment: function (formid, vnkModul, vnkID, ParentID) { var form = document.getElementById(formid); var content = kWebComment.getElementsByClassName(form, "*", "inpComment"); if (content.length == 1) { if (content[0].value == '') { kWebComment.addClassName(content[0].parentNode.parentNode, "error", true); content[0].focus(); return false; } if (vnkID != undefined && vnkModul != '') { var url = this.LoadURL('comment') + '&modul=' + vnkModul + '&id=' + vnkID + '&parentid=' + ParentID; var c = content[0].value; c = c.replace(//g, '>'); $.post(url, { 'c': c }, function (data) { if (data.err == 0) { kWebComment.LoadSubComment(data); content[0].value = ''; } else { alert(data.msg); } }, 'json'); } } return true; } Hàm LoadComment javascript sử dụng client để nhận liệu (Json) hệ thống trả về, kết hợp với template định nghĩa sẵn để view LoadComment: function (items) { for (var i = 0; i < items.data.length; i++) { var template = $("#WallTemplate").html().format(items.data[i].cid, items.data[i].id, items.data[i].ui, items.data[i].un, items.data[i].fn, items.data[i].i, items.data[i].c, items.data[i].t, kWebsiteUrl); $('#list-wall').prepend(template); } } Hàm Comment sử dụng để lưu liệu nhận từ hệ thống chuyển liệu json gửi client để load liệu private void Comment(kPortalUser kuser, int Active) { using (DataTable dt = vnk_User.DB.GetUser(kuser.Username)) 68 { if (dt.Rows.Count > 0) { string content = Utils.GetRequestForm("c", ""); //content = HttpUtility.UrlDecode(content); int id = Utils.GetIntRequestString("id", 0); string modul = Utils.GetRequestString("modul", ""); int parentid = Utils.GetIntRequestString("parentid", 0); if (modul == "groups" && id == 19 && parentid == 0) Active = 0; int commentID = 0; if (id > && modul != "" && content != "" && kuser.UserID > 0) { commentID = kComment.DB.kComment_Save(0, ApplicationID, "vn", 0, parentid, modul, id, "", "", "", SaveComment(Utils.Text2Html(content)), Active); string[] files = Utils.GetRequestForm("f", "").Split(','); if (files.Length > 0) { string listfile = "''"; foreach (string tfile in files) listfile += ",'" + tfile + "'"; kDB.ExecuteNonQuery(string.Format("Insert Into FileAttachComment (FileAttachID, CommentID) Select ID, {0} From FileAttach Where Filecode IN ({1})", commentID, listfile)); } kJsonObject result = new kJsonObject(); result.err = 0; result.msg = "Success"; result.data.Add(new Comment(parentid, commentID, kuser.UserID, kuser.Username, string.Format("{0} {1}", dt.Rows[0]["Lastname"], dt.Rows[0]["Firstname"]), dt.Rows[0]["Images"].ToString(), content)); Response.Write(result.ToJSON()); } } } } ... CÔNG NGHỆ NGUYỄN ĐẮC NAM HỆ THỐNG TỰ ĐỘNG PHÂN LUỒNG CÂU HỎI VÀ GIẢI ĐÁP YÊU CẦU TRỰC TUYẾN Ngành: Công nghệ thông tin Chuyên ngành: Kỹ thuật phần mềm Mã số: 60480103 LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG... quan hệ thống tự động phân luồng trả lời câu hỏi, tìm hiểu nghiên cứu nước để thấy tình hình nghiên cứu phương pháp tiếp cận nghiên cứu trước 1.1 Hệ thống trả lời tự động Hệ thống hỏi đáp tự động. .. Retrievalbased 20 1.4 Các bước chung hệ thống hỏi đáp tự động Một hệ thống hỏi đáp tự động thường gồm bước chung sau: Bước1 -Phân tích câu hỏi: Bước phân tích câu hỏi tạo truy vấn cho bước trích chọn