Luận án phương pháp xây dựng hệ mờ dạng luật với ngữ nghĩa dựa trên đại số gia tử và ứng dụng trong bài toán phân lớp

  • 147 trang
  • file .pdf
BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN KHOA HỌC
VÀ CÔNG NGHỆ VIỆT NAM
VIỆN CÔNG NGHỆ THÔNG TIN
DƯƠNG THĂNG LONG
PHƯƠNG PHÁP XÂY DỰNG
HỆ MỜ DẠNG LUẬT VỚI NGỮ NGHĨA
DỰA TRÊN ĐẠI SỐ GIA TỬ VÀ ỨNG DỤNG
TRONG BÀI TOÁN PHÂN LỚP
LUẬN ÁN TIẾN SĨ TOÁN HỌC
HÀ NỘI - 2010
BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN KHOA HỌC
VÀ CÔNG NGHỆ VIỆT NAM
VIỆN CÔNG NGHỆ THÔNG TIN
DƯƠNG THĂNG LONG
PHƯƠNG PHÁP XÂY DỰNG
HỆ MỜ DẠNG LUẬT VỚI NGỮ NGHĨA
DỰA TRÊN ĐẠI SỐ GIA TỬ VÀ ỨNG DỤNG
TRONG BÀI TOÁN PHÂN LỚP
Chuyên ngành: BẢO ĐẢM TOÁN HỌC CHO MÁY TÍNH
VÀ HỆ THỐNG TÍNH TOÁN
Mã số: 62.46.35.01
LUẬN ÁN TIẾN SĨ TOÁN HỌC
NGƯỜI HƯỚNG DẪN KHOA HỌC:
1. PGS. TSKH. NGUYỄN CÁT HỒ
2. TS. TRẦN THÁI SƠN
HÀ NỘI - 2010
LỜI CAM ĐOAN
Tôi xin cam đoan đây là công trình nghiên cứu của riêng tôi. Các kết quả được
viết chung với các tác giả khác đều được sự đồng ý của đồng tác giả trước khi đưa
vào luận án. Các kết quả trong luận án là trung thực và chưa từng được công bố
trong bất kỳ công trình nào khác.
Tác giả
Dương Thăng Long
2
LỜI CẢM ƠN
Luận án được hoàn thành dưới sự hướng dẫn tận tình và nghiêm khắc của
PGS. TSKH. Nguyễn Cát Hồ và TS. Trần Thái Sơn. Lời đầu tiên, tác giả xin bày tỏ
lòng kính trọng và biết ơn sâu sắc tới hai Thầy.
Xin chân thành gửi lời cảm ơn tới TS. Vũ Như Lân, PGS. TS. Đặng Thành
Phu, PGS. TSKH. Bùi Công Cường, PGS. TS. Phan Trung Huy, PGS. TS. Vũ Chấn
Hưng về những đóng góp quý báu trong quá trình nghiên cứu cũng như trong thời
gian hoàn thành luận án.
Tác giả xin chân thành gửi lời cảm ơn đến Ban lãnh đạo Viện Công nghệ
thông tin, Phòng Đào tạo sau đại học, Phòng Các hệ chuyên gia và tính toán mềm
đã tạo điều kiện thuận lợi trong quá trình học tập, nghiên cứu và hoàn thành luận án.
Xin cảm ơn Ban giám hiệu Viện Đại học Mở Hà Nội, Ban chủ nhiệm khoa
Công nghệ Tin học và các Phòng chức năng trong Viện đã quan tâm giúp đỡ, tạo
điều kiện để tác giả có thể thực hiện kế hoạch nghiên cứu đảm bảo tiến độ.
Cảm ơn các anh chị phòng Các hệ chuyên gia và tính toán mềm - Viện Công
nghệ thông tin, các đồng nghiệp thuộc Khoa Công nghệ Tin học - Viện Đại học Mở
Hà Nội đã động viên và trao đổi kinh nghiệm trong qúa trình hoàn thành luận án.
Cuối cùng, tác giả xin chân thành cảm ơn các thành viên trong Gia đình,
những người luôn dành cho tác giả những tình cảm nồng ấm và sẻ chia những lúc
khó khăn trong cuộc sống, luôn động viên giúp đỡ tác giả trong quá trình nghiên
cứu. Luận án cũng là món quà tinh thần mà tác giả trân trọng gửi tặng đến các thành
viên trong Gia đình.
3
MỤC LỤC
LỜI CAM ĐOAN .......................................................................................................1
LỜI CẢM ƠN .............................................................................................................2
MỤC LỤC .................................................................................................................3
DANH MỤC CÁC KÝ HIỆU.....................................................................................5
VÀ CHỮ VIẾT TẮT ..................................................................................................5
DANH MỤC CÁC BẢNG..........................................................................................6
DANH MỤC CÁC HÌNH ...........................................................................................9
MỞ ĐẦU ...............................................................................................................11
Chương 1 TỔNG QUAN VÀ NHỮNG KIẾN THỨC CƠ SỞ .............................20
1.1 Kiến thức cơ sở về lập luận mờ ...................................................................20
1.1.1 Khái niệm mờ và hình thức hóa toán học bằng tập mờ ........................20
1.1.2 Biến ngôn ngữ .......................................................................................22
1.1.3 Hệ mờ dạng luật và phương pháp lập luận xấp xỉ truyền thống ...........24
1.2 Đại số gia tử: một số vần đề cơ bản ............................................................26
1.2.1 Các khái niệm cơ bản về đại số gia tử ..................................................26
1.2.2 Vấn đề định lượng ngữ nghĩa trong đại số gia tử .................................28
1.2.3 Phương pháp lập luận xấp xỉ bằng nội suy theo tiếp cận đại số gia tử .36
1.3 Bài toán phân lớp trong khai phá dữ liệu ....................................................39
1.3.1 Giới thiệu bài toán phân lớp .................................................................39
1.3.2 Mô hình hệ mờ dạng luật giải bài toán phân lớp ..................................43
1.4 Kết luận Chương 1.......................................................................................48
Chương 2 PHƯƠNG PHÁP SINH LUẬT MỜ VỚI NGỮ NGHĨA CÁC TỪ
NGÔN NGỮ DỰA TRÊN ĐSGT .........................................................50
2.1 Lược đồ xây dựng hệ luật mờ dựa trên ĐSGT ............................................51
2.2 Phương pháp sinh luật mờ dựa trên hệ khoảng tính mờ ..............................54
2.2.1 Hệ khoảng tính mờ và quan hệ ngữ nghĩa của các hạng từ ..................54
2.2.2 Thuật toán sinh luật mờ dựa trên hệ khoảng tính mờ ...........................59
2.2.3 Phương pháp rút gọn bằng phép hợp các luật mờ ................................65
2.3 Phương pháp sinh luật mờ dựa trên hệ khoảng tương tự ............................68
2.3.1 Đại số 2 gia tử .......................................................................................68
2.3.2 Hệ khoảng tương tự trong A X 2 ..............................................................70
2.3.3 Thuật toán sinh luật mờ dựa trên hệ khoảng tương tự ..........................77
2.3.4 Phương pháp rút gọn hệ luật bằng phép sàng .......................................84
2.4 Kết luận Chương 2.......................................................................................90
4
Chương 3 PHƯƠNG PHÁP THIẾT KẾ NGÔN NGỮ VÀ TỐI ƯU HỆ LUẬT ..91
3.1 Phương pháp thiết kế ngôn ngữ cho bài toán phân lớp ...............................91
3.1.1 Đặt bài toán ...........................................................................................91
3.1.2 Phương pháp tối ưu tham số dựa trên giải thuật di truyền lai...............96
3.2 Bài toán thiết kế tối ưu hệ luật mờ ............................................................104
3.2.1 Đặt bài toán .........................................................................................104
3.2.2 Tìm kiếm hệ luật tối ưu dựa trên giải thuật di truyền lai ....................105
3.3 Kết luận Chương 3.....................................................................................110
Chương 4 MÔ PHỎNG BẰNG MÁY TÍNH TRÊN MỘT SỐ BÀI TOÁN PHÂN
LỚP......................................................................................................111
4.1 Phương pháp mô phỏng cho bài toán phân lớp .........................................111
4.2 Bài toán phân lớp các loại hoa - IRIS ........................................................113
4.2.1 Áp dụng thuật toán sinh luật IFRG1 ...................................................114
4.2.2 Áp dụng thuật toán sinh luật IFRG2 ...................................................116
4.3 Bài toán phân lớp các loại rượu - WINE ...................................................119
4.4 Bài toán phân lớp các loại kính - GLASS .................................................124
4.5 Bài toán phân lớp các loại men sinh học - YEAST ...................................129
4.6 Kết luận Chương 4.....................................................................................132
KẾT LUẬN CHUNG ..............................................................................................134
CÁC CÔNG TRÌNH KHOA HỌC CỦA TÁC GIẢ LIÊN QUAN ĐẾN LUẬN ÁN
.............................................................................................................136
TÀI LIỆU THAM KHẢO .......................................................................................137
5
DANH MỤC CÁC KÝ HIỆU
VÀ CHỮ VIẾT TẮT
Các ký hiệu:
AX Đại số gia tử tuyến tính
AX Đại số gia tử tuyến tính đầy đủ
AX2 Đại số 2 gia tử
µ(h), fm(x) Độ đo tính mờ gia tử h và của hạng từ x
υ Giá trị định lượng theo điểm của giá trị ngôn ngữ
µA(v) Hàm định lượng của giá trị ngôn ngữ A (đo độ thuộc của v)
sm(x,y) Hàm xác định mức độ gần nhau của hai hạng từ x và y
ℑ Khoảng tính mờ của giá trị ngôn ngữ
Xk Tập các hạng từ có độ dài đúng k
X(k) Tập các hạng từ có độ dài không quá k
Ik Hệ khoảng tính mờ mức k của các giá trị ngôn ngữ
I(k) Hệ khoảng tính mờ từ mức 1 đến mức k của các giá trị ngôn ngữ
Tg Khoảng tương tự bậc g của giá trị ngôn ngữ
S(k) Hệ khoảng tương tự ở mức k của các giá trị ngôn ngữ
Các chữ viết tắt:
ĐSGT Đại số gia tử
ĐS2GT Đại số 2 gia tử
SGA Simulated Annealing - Genetic Algorithm
IFRG1 Initial Fuzzy Rules Generation 1
IFRG2 Initial Fuzzy Rules Generation 2
HAFRG Hedge Algebras based Fuzzy Rules Generation
FPO-SGA Fuzzy Parameters Optimization - SGA
RBO-SGA Rule base Optimization - SGA
6
DANH MỤC CÁC BẢNG
1. Bảng 1.1: Bảng các luật mờ dạng ngôn ngữ của bài toán điều khiển ............... 38
2. Bảng 2.1: Danh sách luật sinh bởi thuật toán IFRG1 cho bài toán IRIS2 ........ 63
3. Bảng 2.2: Tỷ lệ (%) số mẫu phân lớp đúng của hệ luật trong bảng 2.1 theo các
đánh giá trọng số luật với hai phương pháp lập luận ........................................ 64
4. Bảng 2.3- Hệ 6 luật thu được sau khi hợp từ hệ luật trong bảng 2.1 của Ví dụ
2.1 ................................................................................................................ 67
5. Bảng 2.4: Danh sách luật sinh bởi thuật toán IFRG2 cho bài toán IRIS2 ........ 81
6. Bảng 2.5: Tỷ lệ (%) số mẫu phân lớp đúng của hệ luật trong bảng 2.4 theo các
đánh giá trọng số luật với hai phương pháp lập luận ......................................... 83
7. Bảng 2.6: Kết quả áp dụng phương pháp sàng trên hệ luật trong bảng 2.4 (Ví dụ
2.4) ..................................................................................................................... 85
8. Bảng 2.7: Tỷ lệ (%) số mẫu phân lớp đúng theo mỗi phương pháp sàng ......... 87
9. Bảng 3.1: Các tham số gia tử tối ưu bằng thuật toán FPO-SGA cho bài toán
IRIS2 ............................................................................................................. 101
10. Bảng 3.2: Danh sách các luật sinh bởi thuật toán IFRG1 sau khi tối ưu tham số
cho bài toán IRIS2 (mỗi giá trị ngôn ngữ trong điều kiện của luật được tính các
tham số cho hàm định lượng ngữ nghĩa) ......................................................... 102
11. Bảng 3.3: Các tham số gia tử tối ưu bằng thuật toán FPO-SGA cho bài toán
IRIS ............................................................................................................. 103
12. Bảng 3.4: Danh sách các luật sinh bởi thuật toán IFRG2 theo bộ tham số tối ưu
trong bảng 3.3 cho bài toán IRIS (mỗi giá trị ngôn ngữ trong điều kiện luật được
tính các tham số của hàm định lượng ngữ nghĩa)............................................. 103
13. Bảng 3.5: So sánh kết quả trước và sau khi tối ưu tham số đối với bài toán
IRIS2 .......................................................................................................... 104
14. Bảng 3.6: Bảng tham số mờ gia tử cho bài toán WINE ................................... 108
7
15. Bảng 3.7: Kết quả chạy RBO-SGA và so sánh với các phương pháp FRBCS
khác dựa trên tập mờ ....................................................................................... 110
16. Bảng 3.8: Hệ gồm 6 luật mờ đạt tỷ lệ số mẫu phân lớp đúng 100% trên WINE 110
17. Bảng 4.1: Các tham số gia tử tối ưu của thuật toán FPO-SGA cho bài toán IRIS
.......................................................................................................................... 115
18. Bảng 4.2: Danh sách các luật kết quả của thuật toán FPO-SGA cho bài toán
IRIS ............................................................................................................. 115
19. Bảng 4.3: Kết quả của thuật toán IFRG1 và so sánh với các phương pháp
FRBCS khác trên bài toán IRIS ....................................................................... 115
20. Bảng 4.4: Kết quả tham số tối ưu (PARiris) theo thuật toán IFRG2 cho bài toán
IRIS ................................................................................................................ 117
21. Bảng 4.5: Kết quả thử nghiệm của bài toán IRIS trên hai sơ đồ không tối ưu và
có tối ưu hệ luật, và so sánh với các phương pháp FRBCS khác .................... 118
22. Bảng 4.6: Kết quả tối ưu tham số mờ gia tử (PARwine) theo thuật toán IFRG2
của bài toán WINE ........................................................................................... 121
23. Bảng 4.7: Kết quả phân lớp (PTe(%)) sơ đồ No-RBO theo thuật toán IFRG2
trong trường hợp LV1 của bài toán WINE, so sánh với phương pháp FRBCS của
Ishibuchi [44] (chữ nghiêng) ............................................................................ 122
24. Bảng 4.8: Kết quả thử nghiệm sơ đồ RBO-SGA theo thuật toán IFRG2 của bài
toán WINE, so sánh với các phương pháp FRBCS khác ................................. 124
25. Bảng 4.9: Tham số mờ gia tử tối ưu (PARglass) theo thuật toán IFRG2 của bài
toán GLASS ...................................................................................................... 126
26. Bảng 4.10: Kết quả phân lớp (PTe(%)) sơ đồ No-RBO theo thuật toán IFRG2
trong trường hợp LV1 của bài toán GLASS, so sánh với phương pháp FRBCS
của Ishibuchi [44] (chữ nghiêng) ..................................................................... 128
27. Bảng 4.11: Kết quả thử nghiệm sơ đồ RBO-SGA theo thuật toán IFRG2 của bài
toán GLASS, so sánh với các phương pháp FRBCS khác ................................ 128
8
28. Bảng 4.12: Số lượng các mẫu dữ liệu trong mỗi lớp của bài toán YEAST ...... 130
29. Bảng 4.13: Tham số mờ gia tử tối ưu (PARyeast) theo thuật toán IFRG2 của bài
toán YEAST ...................................................................................................... 131
30. Bảng 4.14: Kết quả thử nghiệm sơ đồ RBO-SGA theo thuật toán IFRG2 của bài
toán YEAST, so sánh với các phương pháp FRBCS khác ................................ 132
9
DANH MỤC CÁC HÌNH
1. Hình 1.1: Độ đo tính mờ của biến TRUTH ....................................................... 30
2. Hình 1.2: Khoảng tính mờ của các hạng từ của biến TRUTH .......................... 33
3. Hình 1.3: Mô hình mạng nơron FF ứng dụng nội suy để lập luận .................... 37
4. Hình 1.4: Kết quả sai số điều khiển của phương pháp và so sánh với [39] ...... 38
5. Hình 1.5: Lưới phân hoạch mờ trên miền của 2 thuộc tính ................................ 41
6. Hình 1.6: Phương pháp phân hoạch mờ scatter-partition ................................. 43
7. Hình 2.1: Hàm định lượng dạng tam giác của các hạng từ ................................ 60
8. Hình 2.2: Sơ đồ phân hoạch trên miền của thuộc tính PL, PW ......................... 63
9. Hình 2.3: Minh họa phương pháp hợp các luật ................................................. 66
10. Hình 2.4: Các khoảng tượng tự của các hạng từ ............................................... 71
11. Hình 2.5: Hình 2.5: Hệ khoảng tương tự S(2) của tập X(2) ................................. 71
12. Hình 2.6: Hệ khoảng tương tự S(1) của X(1) ....................................................... 73
13. Hình 2.7: Hệ phân hoạch các khoảng tương tự và láng giềng của chúng ......... 74
14. Hình 2.8: Hàm định lượng dạng tam giác của các hạng từ trong ĐS2GT ........ 77
15. Hình 2.9: Lưới phân hoạch mờ dựa trên hệ các khoảng tương tự ..................... 81
16. Hình 2.10: Kết quả phân lớp theo tiêu chuẩn sàng c ......................................... 89
17. Hình 2.11: Kết quả phân lớp theo tiêu chuẩn sàng s ......................................... 89
18. Hình 2.12: Kết quả phân lớp theo tiêu chuẩn sàng c.s ...................................... 89
19. Hình 3.1: Tập mờ của Malic Acid [10] (a), Proline [50] (b) ............................. 92
20. Hình 3.2: Quá trình HAFRG xây dựng hệ luật mờ phân lớp ............................ 93
21. Hình 3.3: Sơ đồ mã hóa cá thể chọn hệ luật ..................................................... 106
22. Hình 4.1: Sơ đồ phân bố dữ liệu giữa các lớp của bài toán IRIS ..................... 114
10
23. Hình 4.2: Sơ đồ phân bố dữ liệu giữa các lớp của bài toán WINE .................. 120
24. Hình 4.3: Đồ thị hiệu quả phân lớp (PTe) theo sơ đồ RBO-SGA trong trường
hợp LV1 của bài toán WINE ............................................................................ 123
25. Hình 4.4: Sơ đồ phân bố các dữ liệu giữa các lớp của bài toán GLASS .......... 126
26. Hình 4.5: Sơ đồ phân bố dữ liệu giữa các lớp của bài toán YEAST ................ 130
11
MỞ ĐẦU
Trong cuộc sống loài người, ngôn ngữ được hình thành một cách tự nhiên để
giải quyết nhu cầu trao đổi thông tin với nhau. Hơn thế, nó là công cụ để con người
mô tả các sự vật, hiện tượng trong thế giới thực và dựa trên đó để tư duy, lập luận
đưa ra những nhận định, phán quyết nhằm phục vụ cho cuộc sống xã hội của chúng
ta. Thật đáng tiếc, thế giới thực thì vô hạn trong khi ngôn ngữ của chúng ta lại hữu
hạn, tất yếu sẽ xuất hiện những cụm từ không chính xác hoặc mơ hồ. Tuy nhiên,
khả năng của con người thật tài tình, bằng những tư duy, lập luận dựa trên nền hữu
hạn của ngôn ngữ đã xây dựng, khám phá vô vàn các tri thức khoa học, khai thác và
cải tạo được thế giới hiện thực, nhằm thúc đẩy xã hội loài người ngày một phát triển
mạnh mẽ, tốt đẹp và hoàn thiện hơn. Đó là điều không thể phủ nhận sức mạnh của
ngôn ngữ, trái lại nó rất hữu ích cho nhân loại.
Ngày nay với sự phát triển vượt bậc của khoa học công nghệ, nhiều thiết bị
máy móc được tạo ra nhằm giúp con người giải phóng sức lao động, không chỉ lao
động chân tay mà còn cả lao động trí óc. Dĩ nhiên, các thiết bị máy móc đó phải
càng “thông minh”, có khả năng tư duy, lập luận và sự sáng tạo kiểu như bộ não
người. Để thực hiện điều này, rất nhiều nhà khoa học đã và đang nghiên cứu cả về
lý thuyết lẫn ứng dụng, đưa ra các phương pháp, các quy trình nhằm kế thừa, mô
phỏng khả năng của con người vào các thiết bị máy móc. Trước hết, các nhà khoa
học đã phải hình thức hóa toán học các vấn đề ngôn ngữ và xử lý ngôn ngữ mà con
người vẫn làm. Người đi tiên phong trong lĩnh vực này là Lotfi A. Zadeh. Trong
[80], ông đã đề xuất khái niệm mờ từ những khái niệm mơ hồ, không rõ ràng,
không chắc chắn và hình thức hóa toán học nó bằng tập mờ (fuzzy set), xác định bởi
các hàm thuộc (membership function). Trên cơ sở đó, lý thuyết tập mờ được hình
thành làm nền tảng cho các phương pháp mô phỏng tư duy lập luận của con người,
cho phép biểu diễn và thao tác tính toán trong các mô hình ứng dụng.
Dựa trên lý thuyết tập mờ của L.A. Zadeh, các nhà khoa học đã tiếp cận và
phát triển theo nhiều hướng khác nhau, cả về lý thuyết lẫn ứng dụng thực tiễn.
12
Chúng ta có thể tìm thấy các kết quả này qua các công trình của D. Dubois, H.
Prade, C.S. George Lee, H.J. Zimmermann, T.J. Ross, R. Fuller, J.J. Buckley, R.
Kruse, D. Nauck, N.K. Kasabov, W. Pedrycz,... [15], [22], [25], [48], [52], [55],
[69], [72], [82]. Trong đó, phải kể đến các phương pháp lập luận xấp xỉ mà khái
niệm biến ngôn ngữ (linguistic variable, trong [81]) và lôgíc mờ (fuzzy logic, trong
[2], [81]) đóng vai trò then chốt, nhằm mô phỏng quá trình lập luận của con người.
Tuy nhiên việc mô hình hóa quá trình tư duy lập luận của con người là một vấn đề
khó luôn thách thức các nhà nghiên cứu bởi đặc trưng giàu thông tin của ngôn ngữ
và cơ chế suy luận không những dựa trên tri thức mà còn là kinh nghiệm, trực quan
cảm nhận theo ngữ cảnh của con người. Do đó hầu như không thể có một mô hình
toán học hoàn hảo để mô phỏng cơ chế suy luận này.
Quá trình lập luận của con người nói chung và lập luận xấp xỉ nói riêng là quá
trình tìm kiếm những kết luận không chắc chắn từ các giả thiết không chắc chắn
theo cách gần đúng. Các phương pháp lập luận xấp xỉ thường được xây dựng dựa
trên các phát biểu dưới dạng luật “If ... then ...”, trong đó phần giả thiết (hay gọi là
vế trái của luật) gồm nhiều điều kiện kết hợp với nhau bằng từ “and” (phép và). Các
luật mờ này được chia làm hai dạng, trên mỗi dạng có các phương pháp lập luận
được xây dựng tương ứng:
- Dạng luật Mamdani [55]: phần kết luận của mỗi luật là một khái niệm mờ và
biểu diễn bởi một hàm thuộc giải tích. Trong dạng này, có hai phương pháp lập luận
được xây dựng: Phương pháp thứ nhất, theo truyền thống, xem mỗi luật là một quan
hệ mờ và kết nhập chúng thành một quan hệ mờ chung R, đóng vai trò là một toán
tử. Lập luận tức là tìm kiếm đầu ra B′ cho mỗi đầu vào A′, B′ = R(A′). Với rất nhiều
cách chọn các phép t-norm, t-conorm và kéo theo để tính toán, mỗi cách chọn như
vậy sẽ cho kết quả B′ khác nhau. Nhìn chung không thể nói cách chọn các phép toán
như thế nào là tốt nhất mà phụ thuộc vào từng bài toán cụ thể và trực quan cảm
nhận của người giải bài toán đó. Điều này rất phù hợp với lập luận xấp xỉ và tạo tính
mềm dẻo trong ứng dụng của phương pháp. Trong phương pháp lập luận thứ hai,
mỗi luật mờ được xem như một điểm trong không gian ngôn ngữ, xây dựng các ánh
13
xạ định lượng ngữ nghĩa cho các giá trị ngôn ngữ để chuyển các điểm đó về không
gian thực tạo thành một “siêu lưới”. Thực hiện nội suy trên siêu lưới này để tìm kết
quả đầu ra đối với một đầu vào cho trước.
- Dạng luật Tagaki-Sugeno [79]: phần kết luận của luật mờ là một giá trị rõ,
xác định bởi một hàm giải tích hay thậm chí là một giá trị hằng. Dạng này bước đầu
được các tác giả đề xuất trong các ứng dụng điều khiển, hiện nay nhiều nhà nghiên
cứu đã ứng dụng trong các bài toán khai phá dữ liệu [10], [30]-[33], [42]-[47], [60].
Các phương pháp lập luận cũng được xây dựng trong dạng này: Thứ nhất, luật có
mức “đốt cháy” dữ liệu đầu vào cao nhất sẽ được chọn và kết quả lập luận là phần
kết luận của luật đó. Đây gọi là phương pháp lập luận single-winner-rule. Thứ hai,
các luật đóng vai trò “bầu cử” (vote) cho mẫu dữ liệu đối với lớp của vế phải luật
dựa trên mức đốt cháy của luật đối với dữ liệu đó, lớp nào có tổng mức đốt cháy cao
nhất sẽ được dùng để phân lớp cho dữ liệu đầu vào tương ứng. Phương pháp lập
luận này gọi là weighted-vote. Hệ luật mờ dạng Tagaki-Sugeno cùng với hai
phương pháp lập luận single-winner-rule và weighted-vote khá trực quan, không
phải khử mờ kết quả lập luận, rất phù hợp trong việc xây dựng các mô hình ứng
dụng của một số bài toán trong khai phá dữ liệu như nhiều tác giả đã nghiên cứu
[10], [12], [17], [20], [27], [30]-[33], [42]-[47], [60].
Nhìn chung, cho dù hệ các luật mờ được biểu diễn bằng cách nào cùng với các
phương pháp lập luận được xây dựng tương ứng thì lý thuyết tập mờ vẫn được xem
như nền tảng cho các phương pháp lập luận xấp xỉ. Nhưng bản thân lý thuyết tập
mờ rất khó để mô phỏng hoàn chỉnh cấu trúc ngôn ngữ mà con người vẫn sử dụng
để suy luận, cho dù cách tiếp cận này đã được ứng dụng thành công trên rất nhiều
lĩnh vực của cuộc sống. Vì rằng cấu trúc thứ tự cảm sinh trên các khái niệm mờ biểu
thị bằng các giá trị ngôn ngữ không được thể hiện trên các tập mờ. Chẳng hạn, về
mặt ngữ nghĩa chúng ta luôn cảm nhận được “yếu” nhỏ hơn “khỏe”, “cao” lớn hơn
“thấp” nhưng hàm thuộc của chúng lại không sánh được với nhau. Mặt khác, trong
[81] đã chỉ ra tập các khái niệm mờ không đóng đối với một số các phép toán trên
các tập mờ. Vì vậy trong quá trình lập luận nhiều khi người ta cần phải xấp xỉ ngôn
14
ngữ tức là phải tìm một giá trị ngôn ngữ mà ý nghĩa của nó xấp xỉ với một tập mờ
cho trước, điều này gây nên sự phức tạp rất lớn và sai số cho quá trình. Hơn nữa,
trong [9] chỉ ra rằng một hệ suy diễn xây dựng trên một ngôn ngữ hình thức đều xác
định trên tập các lớp công thức tương đương một cấu trúc đại số thuộc lớp các đại
số trừu tượng, trong khi lôgíc mờ giá trị ngôn ngữ (hay lôgíc mờ theo nghĩa Zadeh)
còn thiếu một cơ sở đại số làm nền tảng.
Nhằm khắc khắc phục phần nào những nhược điểm trên, năm 1990, N.C. Ho
& W. Wechler trong [37] đã khởi xướng phương pháp tiếp cận đại số đến cấu trúc
tự nhiên của miền giá trị của các biến ngôn ngữ. Theo cách tiếp cận này, mỗi giá trị
ngôn ngữ của một biến ngôn ngữ nằm trong một cấu trúc đại số gọi là đại số gia tử
(ĐSGT). Dựa trên những tính chất ngữ nghĩa của ngôn ngữ được phát hiện, bằng
phương pháp tiên đề hóa nhiều tác giả đã tập trung phát triển lý thuyết ĐSGT với
các kết quả như ĐSGT mở rộng [38], ĐSGT mịn hóa [36], ĐSGT mở rộng đầy đủ
[5], ĐSGT PN-không thuần nhất [9]. Trong đó, tiêu biểu là ĐSGT mịn hóa cùng với
việc trang bị khái niệm độ đo tính mờ của các giá trị ngôn ngữ và phương pháp định
lượng ngữ nghĩa [35]. Trên cơ sở đó, các phương pháp lập luận xấp xỉ dựa trên
ĐSGT và ứng dụng trong một số lĩnh vực được các tác giả phát triển, có thể kể đến
như phương pháp lập luận sử dụng mạng nơron trong điều khiển mờ [4], ứng dụng
trong cơ sở dữ liệu mờ [3], lập luận bằng nội suy gia tử có tối ưu tham số và ứng
dụng trong điều khiển mờ [8], [39]. Những kết quả này, dù chưa nhiều, nhưng rất
khả quan và cho thấy ý nghĩa cũng như thế mạnh của ĐSGT trong ứng dụng.
Bên cạnh đó, sự bùng nổ của thời đại thông tin như hiện nay, lượng thông tin
dữ liệu được tạo ra hàng ngày là rất lớn trong mọi lĩnh vực của cuộc sống. Khối
lượng thông tin dữ liệu khổng lồ này vượt khỏi giới hạn khả năng ghi nhớ và xử lý
của con người. Nhu cầu cần thiết đến các quá trình tự động tìm kiếm các thông tin
hữu ích, các quan hệ ràng buộc dữ liệu trong các kho dữ liệu lớn để phát hiện các tri
thức, các quy luật hay khuynh hướng dữ liệu hỗ trợ con người phán đoán, nhận xét,
ra quyết định. Nhằm đáp ứng nhu cầu đó, các nhà nghiên cứu đã đề xuất, nghiên
cứu và phát triển các phương pháp mới trong khai phá dữ liệu (data mining). Các
15
bài toán được biết đến trong lĩnh vực này như phân lớp và nhận dạng mẫu
(classification), hồi quy và dự báo (regression), phân cụm (clustering), khai phá
luật kết hợp (association rules),... [15], [18], [27], [48], [63], [54], [69] với rất nhiều
mô hình theo tiếp cận dựa trên tập mờ được đề xuất. Trong đó tiêu biểu là các mô
hình dưới dạng hệ các luật mờ ứng dụng cho bài toán phân lớp được nghiên cứu khá
mạnh mẽ, các kết quả rất phong phú [10], [12], [16], [17], [20], [23], [24], [26],
[30]-[33], [40]-[47], [50], [53], [56], [58]-[60], [66], [74], [77]. Tuy nhiên các mô
hình này đều tiếp cận dựa trên lý thuyết tập mờ và lôgíc mờ, đã gặp phải không ít
những hạn chế mà xuất phát từ bản thân nội tại của lý thuyết tập mờ:
- Các phương pháp xây dựng hệ luật dựa trên tập mờ có sự tách biệt giữa các
giá trị ngôn ngữ với tập mờ biểu diễn ngữ nghĩa của chúng đối với một bài toán,
thậm chí một số phương pháp sử dụng thuật toán tìm kiếm tối ưu các tham số của
các tập mờ đã làm méo ngữ nghĩa của các giá trị ngôn ngữ, cho dù đã đưa ra những
ràng buộc trong khi tìm kiếm. Kết quả các tập mờ khó phản ánh ngữ nghĩa của các
giá trị ngôn ngữ tương ứng, điều này được thể hiện trong [10], [50].
- Một số phương pháp khác trong [42]-[47], [60] lại thiết lập các tập mờ của
các giá trị ngôn ngữ một cách cố định, theo chủ quan của con người. Trong khi, một
giá trị ngôn ngữ sẽ mang ngữ nghĩa tương đối khác nhau trong các bài toán khác
nhau. Chẳng hạn, nói về thời tiết thì từ “rất lạnh” mang ngữ nghĩa với nhiệt độ vào
khoảng 10oC, nhưng khi chỉ nhiệt độ cơ thể người thì từ “rất lạnh” lại mang ngữ
nghĩa vào khoảng 35oC.
- Các phương pháp tìm kiếm tối ưu tham số mờ kết quả khó phản ánh ngữ
nghĩa của giá trị ngôn ngữ tương ứng, hơn nữa nó có thể tạo ra không gian tìm kiếm
rất lớn các tham số. Điều này làm giảm tốc độ hội tụ của quá trình tìm kiếm cũng
như giảm hiệu quả của phương pháp.
Mặt khác, về phía ĐSGT, việc áp dụng phương pháp định lượng ngữ nghĩa
theo điểm sẽ không còn phù hợp trong các mô hình ứng dụng phân lớp. Miền dữ
liệu của các thuộc tính của bài toán thường liên tục trong khi hệ các luật mờ được
xây dựng lại rời rạc, do đó cần một phương pháp định lượng ngữ nghĩa các giá trị
16
ngôn ngữ trong ĐSGT phải liên tục trong miền ngữ nghĩa của nó. Hơn nữa, khi sử
dụng khái niệm độ đo tính mờ các giá trị ngôn ngữ để định nghĩa khoảng tính mờ và
biểu diễn cho một miền dữ liệu là đủ nhưng chỉ áp dụng ở một mức (các giá trị ngôn
ngữ có số lượng gia tử giống nhau), sẽ bỏ qua các giá trị ngôn ngữ mức dưới (số
lượng gia tử ít hơn, hay thậm chí không có gia tử). Điều này rất không phù hợp, bởi
các giá trị ngôn ngữ có vai trò bình đẳng trong việc biểu diễn ngữ nghĩa cho một
miền dữ liệu nào đó.
Để khắc phục những vấn đề trên, lần đầu tiên, trong luận án này đề xuất
phương pháp ứng dụng ĐSGT vào xây dựng các mô hình cho bài toán phân lớp
trong lĩnh vực khai phá dữ liệu. Trong ĐSGT, với tính chất sánh được của các giá
trị ngôn ngữ đã tạo nên ràng buộc về ngữ nghĩa trong các phương pháp tìm kiếm tối
ưu tham số, không làm biến dị tập mờ của chúng. Thông thường, thực tế các mô
hình ứng dụng cho bài toán phân lớp với số lượng các giá trị ngôn ngữ không nhiều,
số gia tử ít hoặc thậm chí không sử dụng gia tử [50], [10], [42]. Và để giảm bớt
không gian tìm kiếm tối ưu các tham số cho mô hình cũng như đảm bảo tính bình
đẳng trong việc xem xét các giá trị ngôn ngữ, những cải tiến về một số vấn đề trong
ĐSGT được đề xuất nhằm đem lại ứng dụng đạt hiệu quả cao.
Với ý nghĩa như vậy, luận án đặt ra những mục tiêu nghiên cứu cụ thể sau đây:
1) Khảo sát các tính chất, đặc trưng của các giá trị ngôn ngữ cũng như các vấn
đề trong ĐSGT nhằm ứng dụng vào việc xây dựng các luật mờ cho bài toán phân
lớp.
2) Với những yêu cầu đặt ra đối với việc xây dựng hệ luật mờ cho bài toán
phân lớp, luận án sẽ thiết kế các phương pháp tìm kiếm tối ưu xấp xỉ để lựa chọn bộ
tham số mờ gia tử đủ tốt và tìm kiếm hệ luật mờ đủ tốt cho ứng dụng.
3) Chọn một số bài toán phân lớp từ đơn giản đến phức tạp để ứng dụng và
kiểm chứng cho phương pháp được xây dựng thông qua việc đánh giá và so sánh
với các phương pháp khác.
17
Với nhiệm vụ đặt ra, luận án đã đạt được một số kết quả đóng góp vào việc
nghiên cứu mở rộng ứng dụng cho ĐSGT. Có thể khái quát các kết quả chính như
sau:
- Nghiên cứu sâu về đại số 2 gia tử (ĐS2GT), tức là ĐSGT chỉ gồm một gia tử
dương và một gia tử âm, và khảo sát các tính chất của nó. Khảo sát tính chất kế thừa
ngữ nghĩa và quan hệ ngữ nghĩa của các giá trị ngôn ngữ. Giới thiệu khái niệm
khoảng tương tự của các giá trị ngôn ngữ và xây dựng hệ khoảng tương tự cho một
tập các giá trị ngôn ngữ. Trên cơ sở ĐS2GT, chúng ta khẳng định hệ khoảng tương
tự luôn tồn tại và có thể ứng dụng xấp xỉ cho mọi quá trình thực.
- Xây dựng hai phương pháp sinh luật mờ trực tiếp từ tập dữ liệu mẫu cho bài
toán phân lớp. Một thuật toán dựa trên hệ khoảng tính mờ và một thuật toán dựa
trên hệ khoảng tương tự của các giá trị ngôn ngữ. Các luật sinh ra trong cả hai
phương pháp này đều thực hiện theo “vết” dữ liệu mang ngữ nghĩa của các giá trị
ngôn ngữ. Trên cơ sở quan hệ ngữ nghĩa của các giá trị ngôn ngữ, luận án đã đưa ra
phép kết nhập các luật mờ áp dụng cho việc rút gọn hệ luật. Bên cạnh đó, phương
pháp sàng dựa trên các tiêu chuẩn đánh giá cũng được áp dụng để rút gọn hệ luật.
- Xây dựng phương pháp thiết kế ngôn ngữ cho bài toán thông qua việc tìm
kiếm tối ưu tham số mờ gia tử cho mô hình dựa trên giải thuật di truyền (Genetic
Algorithm - GA) kết hợp thuật toán mô phỏng tôi luyện (Simulated Annealing - SA),
từ kết quả đó áp dụng phương pháp sinh tập luật mờ phân lớp và thiết kế tiếp thuật
toán tìm kiếm hệ luật tối ưu trên tập luật này.
- Ứng dụng mô hình vào 4 bài toán phân lớp rất đặc trưng với tập dữ liệu cung
cấp bởi Đại học California - Irvin, được nhiều tác giả dùng để thử nghiệm cho các
mô hình phân lớp. Đánh giá và so sánh kết quả với các phương pháp khác cho thấy
tính hiệu quả của mô hình trong luận án.
Về bố cục, luận án bao gồm phần mở đầu, 4 chương, phần kết luận và tài liệu
tham khảo.
18
Chương 1: Trình bày các vấn đề cơ bản dùng trong luận án như tập mờ và các
phép toán trong lôgíc mờ, khái niệm về biến ngôn ngữ, mô hình hệ mờ dạng luật và
tóm tắt phương pháp lập luận xấp xỉ truyền thống trên mô hình đó. Trình bày các
khái niệm, tính chất trong ĐSGT, vấn đề định lượng ngữ nghĩa theo điểm các giá trị
ngôn ngữ và ứng dụng vào việc xây dựng phương pháp lập luận xấp xỉ bằng nội suy
gia tử dựa trên mạng nơron. Cũng trong chương này, giới thiệu tổng quan về bài
toán phân lớp trong khai phá dữ liệu và phương pháp giải bài toán bằng mô hình hệ
mờ dạng luật.
Chương 2: Khảo sát các tính chất của ĐS2GT và xây dựng hệ khoảng tương tự
cho tập các giá trị ngôn ngữ. Trong ĐS2GT, luận án khẳng định luôn tồn tại hệ
khoảng tương tự như vậy và có thể ứng dụng xấp xỉ cho mọi quá trình thực. Trên cơ
sở của hệ khoảng tương tự, luận án đã đề xuất phương pháp xây dựng hệ luật mờ
ứng dụng cho bài toán phân lớp (thuật toán IFRG2). Bên cạnh đó, đối với ĐSGT
tuyến tính thông thường (không hạn chế số gia tử), luận án cũng đề xuất thêm
phương pháp xây dựng hệ luật mờ phân lớp dựa trên hệ khoảng tính mờ của các giá
trị ngôn ngữ (thuật toán IFRG1). Cả hai phương pháp xây dựng hệ luật mờ này đều
được khẳng định là có độ phức tạp đa thức đối với kích thước của tập dữ liệu mẫu
trong bài toán. Cũng trong chương này, luận án khảo sát tính chất kế thừa ngữ nghĩa
và quan hệ ngữ nghĩa của các giá trị ngôn ngữ và xây dựng phép kết nhập để rút
gọn hệ luật mờ. Bên cạnh đó, phương pháp sàng theo tiêu chuẩn đánh giá trên luật
để rút gọn hệ luật cũng được áp dụng trong chương này. Các phương pháp xây dựng
và rút gọn hệ luật mờ đều được minh họa bằng các ví dụ khá trực quan để kiểm tra
đánh giá.
Chương 3: Trong chương này, luận án xem xét bài toán tối ưu tham số cũng
như tối ưu hệ luật. Dựa trên giải thuật di truyền kết hợp thuật toán mô phỏng tôi
luyện, thiết kế hai phương pháp tối ưu: Thứ nhất là thuật toán FPO-SGA để tìm
kiếm bộ tham số mờ gia tử tối ưu cho mô hình được đề xuất đối với một bài toán
ứng dụng. Thứ hai là thuật toán RBO-SGA để tìm kiếm hệ luật tối ưu. Ở đây, các ví
dụ minh họa cho phương pháp tối ưu được sử dụng để đánh giá, so sánh kết quả với