Luận văn nghiên cứu phát triển công nghệ nhận dạng, tổng hợp và xử lý ngôn ngữ tiếng việt

  • 121 trang
  • file .pdf
VIỆN KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM
VIỆN CÔNG NGHỆ THÔNG TIN
18 Hoàng Quốc Việt, Hà Nội
BÁO CÁO TỔNG KẾT KHOA HỌC VÀ KỸ THUẬT ĐỀ TÀI
NGHIÊN CỨU PHÁT TRIỂN CÔNG NGHỆ
NHẬN DẠNG, TỔNG HỢP VÀ XỬ LÝ NGÔN NGỮ
TIẾNG VIỆT
Thời gian thực hiện: 2001- 6/2004
Chủ nhiệm đề tài: GS.TSKH. Bạch Hưng Khang
HÀ NÔI, 12/2004
Bản quyền 2004 thuộc Viện Công nghệ thông tin
Đơn xin sao chép toàn bộ hoặc từng phần tài liệu này phải gửi đến
Viện trưởng Viện Công nghệ thông tin trừ trường hợp sử dụng
với mục đích nghiên cứu
VIỆN KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM
VIỆN CÔNG NGHỆ THÔNG TIN
18 Hoàng Quốc Việt, Hà Nội
BÁO CÁO TỔNG KẾT KHOA HỌC VÀ KỸ THUẬT ĐỀ TÀI
NGHIÊN CỨU PHÁT TRIỂN CÔNG NGHỆ
NHẬN DẠNG, TỔNG HỢP VÀ XỬ LÝ NGÔN NGỮ
TIẾNG VIỆT
Thời gian thực hiện: 2001- 6/2004
Chủ nhiệm đề tài: GS.TSKH. Bạch Hưng Khang
HÀ NỘI, 12/2004
Tài liệu này được chuẩn bị trên cơ sở kết quả thực hiện
Đề tài cấp Nhà nước mã số KC01-03
2
DANH SÁCH NHỮNG NGƯỜI THỰC HIỆN CHÍNH
TT Họ và tên Chức vụ, Đơn vị công Nhiệm vụ thuộc đề tài
học vị tác
1 Bạch Hưng Khang GS.TSKH Viện CNTT Chủ nhiệm đề tài
NCVCC
2 Ngô Cao Sơn KS Viện CNTT Thư ký
3 Lương Chi Mai TS. NCVC Viện CNTT Chủ trì nhánh nghiên cứu
4 Ngô Quốc Tạo PGS. TS. Viện CNTT Chủ trì nhánh nghiên cứu
NCVC
5 Lê Khánh Hùng TS. Viện Chủ trì nhánh nghiên cứu
NCUDCN
6 Vũ Kim Bảng TS Trung tâm Chủ trì nhánh nghiên cứu
Ngữ âm học
thực nghiệm
7 Hồ Tú Bảo GS. TSKH Viện CNTT Chủ trì nhánh nghiên cứu
8 Nguyễn Thị Minh Thạc sĩ ĐHKHTN Chủ trì nhánh nghiên cứu
Huyền Hà nội
9 Đàm Hiếu Dũng KS Trung tâm Chủ trì nhánh nghiên cứu
kỹ thuật
thông tấn
10 Ngô Hoàng Huy KS Viện CNTT Trưởng nhóm
Đơn vị phối hợp
Hoạt động của các tổ chức phối hợp tham gia thực hiện dự án
TT Tên tổ chức Địa chỉ Hoạt động/đóng góp cho đề tài
1 Trung tâm Ngữ âm học thực 22 Lý Thái Xây dựng CSDL ngữ âm, phân
nghiệm, Viện Ngôn ngữ học, Tổ tich các đặc trưng ngôn ngữ, ngữ
Trung tâm khoa học xã hội âm, thanh điệu cho tiếng Việt:
và nhân văn. - Phân tích phổ của các âm vị
khó.
- Nghiên cứu cấu trúc nguyên
âm.
- Nghiên cứu cấu trúc âm tiếng
Việt, tổng hợp giọng nói.
2 Trug tâm nghiên cứu ứng C6 Thanh Nghiên cứu và phát triển phương
dụng quang điện tử, Viện xuân bắc, pháp dịch tự động Việt - Anh
nghiên cứu ứng dụng công Hà nội
nghệ.
3 Khoa Toán – Cơ – Tin học, Nguyễn Nghiên cứu phương pháp dóng
Bộ môn Tin học, ĐHKHTN Trãi, Hà nội hàng trong các văn bản song ngữ
Hà nội Pháp - Việt / Việt – Pháp
4 Trung tâm kỹ thuật thông tấn 5 Lý Xây dựng công nghệ Coding ngữ
– TTXVN Thường nghĩa của âm thanh
Kiệt
3
5 Nhóm nghiên cứu triển khai 18 Đường Tích hợp công nghệ tổng hợp và
của Công ty NetNam Hoàng Quốc nhận dạng tiếng Việt với các
Việt dịch vụ số của INTERNET thế
hệ hai và ứng dụng.
6 GS John-Paul Hosom, Cascade Cung cấp công cụ và phương
CSLU- Center of Spoken Building pháp nhận dạng bằng HMM và
Language Understanding, 20000 N.W. ANN, CSDL tiếng Việt qua
OGI, USA Walker mạng điện thoại.
Road
Beaverton,
OR 97006
7 GS Hansjoerg Mixdorff, Steinstr. 27 Phương pháp và mô hình
University of Applied A, 12307 Fujisaki cho các ngôn ngữ có
Science, Berlin Berlin thanh điệu
Germany
8 GS Hiroya Fujisaki, Frontier 7-3-1 Phương pháp và mô hình
Informatics, School of Hongo Fujisaki cho các ngôn ngữ có
Frontier Science, University Bunkyo-ku, thanh điệu
of Tokyo Tokyo
113003
Japan
4
TÓM TẮT
Kể từ thế hệ máy tính điện tử (MTĐT) đầu tiên, giới nghiên cứu và công nghệ đã ý
thức được rằng muốn phát huy khả năng xử lý của MTĐT thì phải tìm cách để máy
và người có thể giao tiếp với nhau bằng ngôn ngữ tự nhiên. Trong đó có rất nhiều
vấn đề khác nhau cần giải quyết nhưng một số vấn đề mấu chốt trong giao tiếp
người máy là xử lý ngôn ngữ tự nhiên, tổng hợp, nhận dạng tiếng nói, chữ viết,
dịch tự động. Sau gần nửa thế kỷ nghiên cứu và thử nghiệm, hiện nay đã có một số
phần mềm thương phẩm, chủ yếu cho tiếng Anh. Đối với tiếng Việt là một ngôn
ngữ đơn âm có thanh điệu còn chưa có nhiều nghiên cứu và kết quả.
Mục đích của đề tài là nghiên cứu khảo sát xây dựng các phương pháp hiệu quả
cho tổng hợp, nhận dạng và xử lý ngôn ngữ tiếng Việt. Ba nội dung chính quan hệ
chặt chẽ với nhau được nghiên cứu trong đề tài KC01-03 là:
1. Nhận dạng và tổng hợp tiếng Việt
2. Nhận dạng chữ Việt in và viết tay có hạn chế
3. Xử lý ngôn ngữ tự nhiên tiếng Việt (các giải pháp trong xử lý ngôn ngữ tự
nhiên tiếng Việt, nhằm tới mục đích dịch tự động).
Các nội dung của đề tài tập trung vào nghiên cứu đặc thù trong ngữ âm, thanh
điệu, văn phạm tiếng Việt; kế thừa, phát triển các công cụ trong tổng hợp, nhận
dạng, phân tích văn phạm, dịch tự động để áp dụng hiệu quả cho tiếng Việt. Đề tài
vừa phát triển một số giải pháp, phương pháp và công cụ cơ bản, vừa từng bước
tạo ra một số sản phẩm thiết thực phục vụ cho ứng dụng. Mỗi nhánh của đề tài đều
có những sản phẩm phần mềm như phần mềm tổng hợp tiếng Việt VnVoice 2.0,
phần mềm nhận dạng lệnh VnCommand, phần mềm viết chính tả phụ thuộc giọng
đọc VnDictator; phần mềm nhận dạng chữ Việt in VnDOCR 3.0; phần mềm nhận
dạng phiếu điều tra MarkRead 2.0 có modul tích hợp chữ viết tay hạn chế; phần
mềm dịch tự động Việt – Anh EVTRAN 2.5. Ngoài những sản phẩm nói trên còn
có các kết quả ở dạng công cụ phục vụ cho nghiên cứu tiếng Việt như phương
pháp và công nghệ xây dựng CSDL ngữ âm tiếng Việt, dóng hàng song ngữ, mô
hình từ điển điện tử cho xử lý ngôn ngữ tự nhiên. Đề tài cũng đã đóng góp các bài
nghiên cứu đã được công bố ở các tạp chí, hội nghị trong và ngoài nước,làm phong
phú thêm về mặt lý thuyết cho tổng hợp và nhận dạng ngôn ngữ đơn âm đa thanh
điệu, một mảng chưa có thật nhiều kết quả trên thế giới.
5
MỤC LỤC
1. Lời mở đầu ................................................................................................... 7
2. Nội dung chính của báo cáo......................................................................... 7
2.1 Tổng quan tình hình nghiên cứu trong và ngoài nước ......................... 7
2.2 Những nội dung đã thực hiện ...............................................................10
2.2.1 Kết quả nghiên cứu về Tổng hợp và Nhận dạng tiếng Việt ........10
2.2.1.1 Các kết quả nghiên cứu .......................................................10
Khảo sát về ngữ âm tiếng Việt...................................................10
Tổng hợp tiếng Việt ...................................................................11
Nhận dạng tiếng Việt .................................................................12
2.2.1.2 Sản phẩm phần mềm ..........................................................17
Hệ thống Tổng hợp tiếng nói VnVoice 2.0 ...............................17
Chương trình nhận dạng lệnh VnCommand..............................18
Chương trình đọc chính tả VnDictator .....................................18
Chương trình xây dựng công nghệ coding
ngữ nghĩa của âm thanh .............................................................19
2.2.1.3 Về triển khai ứng dụng........................................................20
Ứng dụng của tổng hợp tiếng nói ..............................................20
2.2.2 Nghiên cứu phát triển kỹ thuật nhận dạng chữ in và
viết tay tiếng Việt.......................................................................20
Nhận dạng chữ Việt in VnDOCR 3.0 ........................................22
Nhận dạng chữ viết tay có hạn chế ............................................22
2.2.3 Nghiên cứu phát triển các kỹ thuật xử lý ngôn ngữ
tự nhiên tiếng Việt ....................................................................24
2.2.3.1 Dịch tự độngViệt – Anh ......................................................24
2.2.3.2 Dóng hàng văn bản song ngữ Pháp-Việt.............................26
2.2.3.2 Mô hình từ điển điện tử .......................................................28
2.3 Tổng quát hoá và đánh giá kết quả thu được........................................28
2.4 Kết luận và kiến nghị............................................................................29
2.5 Tài liệu tham khảo ................................................................................31
6
1. LỜI MỞ ĐẦU
Nhận dạng và xử lý ngôn ngữ nói và viết tiếng Việt là nhu cầu thiết yếu của phát
triển và ứng dụng công nghệ thông tin ở Việt nam. Giới nghiên cứu và công
nghiệp trên thế giới do theo đuổi các nghiên cứu cơ bản và công nghệ này từ hàng
chục năm qua, gần đây đã thu được nhiều thành tựu quan trọng. Khác với các sản
phẩm khác của công nghệ thông tin, sản phẩm về tiếng nói, chữ viết và ngôn ngữ
Việt không thể mua được từ nước ngoài, chỉ có thể do người Việt làm ra trên cơ sở
tiếp thu được các thành tựu khoa học công nghệ trên thế giới và theo đuổi thực
hiện lâu dài. Những năm qua trong khuôn khổ chương trình trọng điểm nhà nước,
một số kết quả nghiên cứu và sản phẩm về nhận dạng và xử lý tiếng Việt - tập
trung cho nhận dạng chữ Việt in - đã thành công và bắt đầu được sử dụng rộng rãi.
Đề tài này nhằm theo đuổi những nghiên cứu và phát triển phải thực hiện lâu dài
về tiếng Việt trên máy tính với sự triển khai một số phương hướng mới. Mục tiêu
của đề tài là nghiên cứu làm chủ các phương pháp, kỹ thuật tiên tiến trong một số
lĩnh vực của trí tuệ nhân tạo và lý thuyết nhận dạng trên thế giới để xây dựng các
phương pháp hiệu quả cho nhận dạng tiếng nói, chữ viết, và xử lý ngôn ngữ tự
nhiên tiếng Việt. Đề tài vừa tiếp tục xây dựng các phương pháp và công cụ cơ bản
vừa từng bước tạo ra một số sản phẩm thiết thực nhằm giải quyết một số bài toán
cấp bách trong phát triển và ứng dụng công nghệ thông tin ở Việt nam. Ba nội
dung chính quan hệ chặt chẽ với nhau được nghiên cứu trong đề tài là:
1. Nhận dạng và tổng hợp tiếng Việt
2. Nhận dạng chữ Việt in và viết tay
3. Xử lý ngôn ngữ tự nhiên tiếng Việt
2. NỘI DUNG CHÍNH CỦA BÁO CÁO
2.1. Tổng quan tình hình nghiên cứu trong và ngoài nước
Ba lĩnh vực (1) nhận dạng và tổng hợp tiếng nói, (2) nhận dạng chữ, và (3)
xử lý ngôn ngữ tự nhiên có liên quan mật thiết với nhau, và là nền tảng cho sự phát
triển và ứng dụng công nghệ thông tin của mọi quốc gia
Nhận dạng tiếng nói nhằm chuyển thông tin từ tiếng nói con người vào máy
tính, và tổng hợp tiếng nói nhằm tự động tạo ra tiếng người nói bằng máy tính.
Cùng với sự phát triển nhanh chóng của công nghệ thông tin nói chung và mạng
Internet nói riêng, nhận dạng và tổng hợp tiếng nói càng ngày càng trở nên là một
xu hướng tất yếu cho những máy tính thế kỉ 21. Trong vòng 50 năm qua, rất nhiều
thuật toán được đề xuất và triển khai trên các hệ tự động nhận dạng và tổng hợp
tiếng nói. Trên thế giới đã có nhiều bộ phần mềm thương mại dành cho tiếng Anh
như IBM ViaVoice, Dragon Naturally Speaking, L&H Voice Xpress. Những phần
mềm này cung cấp các chức năng chủ yếu như: nhập văn bản vào máy, đọc văn
bản thành lời, duyệt Web bằng giọng nói. Gần đây nhất hãng Microsoft đã công bố
việc tích hợp VUI (Voice User Interface) thay cho GUI (Graphic User Interface)
truyền thống vào phiên bản hệ điều hành Windows thế hệ mới với mật danh
7
Whistler. Kết quả này có ý nghĩa rất lớn trong giao tiếp người-máy: thay vì giao
tiếp với máy tính qua những biểu tượng và cửa sổ, các máy tính trong tương lai chỉ
giao tiếp với con người bằng những mệnh lệnh đơn giản. Nhận dạng và tổng hợp
tiếng nói có vai trò quan trọng đối với việc phát triển các hệ thông tin di động thế
hệ thứ 3 (3G), với các tính năng ưu việt tập trung trong chiếc máy điện thoại di
động mà một trong các dịch vụ điển hình là hệ thống thông điệp hợp nhất (Unified
Messaging System - UMS). Sản phẩm về các bo mạch của Dialogic đã tích hợp
các công nghệ tổng hợp và nhận dạng tiếng nói qua điện thoại cho nhiều ngôn ngữ
hệ Latinh. Ngoài ra, một trong những ứng dụng điển hình và mang tính chất kinh
điển từ trước tới nay của nhận dạng tiếng phục vụ cho điều khiển bằng giọng nói
và bảo mật, cho tự động hoá văn phòng, những ứng dụng rộng rãi trong viễn
thông, bảo tồn văn hoá, hỗ trợ người khuyết tật...
Về lĩnh vực nhận dạng chữ, các phần mềm thương phẩm nhận dạng chữ in
cho các ngôn ngữ hệ Latinh và Slavơ đã đạt được chất lượng nhận dạng rất cao, ví
dụ như OMNIPAGE 11.0 của Caere (Mỹ), Fine Reader 7.0 của ABBYY (Nga),
Yonde OCR của Aisoft và KanjiScan (Nhật). Để đạt tới các phiên bản với chất
lượng cao như vậy, từ hơn 10 năm nay, các hãng phần mềm này vẫn phải liên tục
cho phát triển hoàn thiện các chức năng nhận dạng cũng như tiền và hậu xử lý.
Nhưng đối với chữ viết tay trực tuyến hoặc gián tiếp, chất lượng nhận dạng thấp
hơn nhiều và các phương pháp hiện nay mới chỉ nhận dạng được chữ viết tay có
hạn chế. Vì vậy trên các tạp chí chuyên ngành về nhận dạng, các chủ đề này vẫn
còn đang được đề cập đến nhiều với các cách tiếp cận khác nhau, đề cập tới các
phương pháp cải tiến để tăng chất lượng nhận dạng, tách và cắt chữ, và kết hợp với
ngữ nghĩa của từng ngôn ngữ cụ thể.
Xử lý ngôn ngữ tự nhiên là lĩnh vực nhằm làm cho máy tính có thể hiểu và
sử dụng được ngôn ngữ tự nhiên của con người (cả ngôn ngữ nói và ngôn ngữ
viết), bao gồm các hệ dịch tự động, tìm kiếm thông tin, tổng hợp văn bản tự động,
tính toán ngôn ngữ, v.v.
Dịch văn bản từ một ngôn ngữ qua ngôn ngữ khác bằng máy tính là mơ ước
từ buổi đầu của công nghệ thông tin. Với thành tựu nghiên cứu về xử lý ngôn ngữ
tự nhiên bắt đầu từ những năm 60, cùng với sự tiến bộ nhanh chóng của kỹ thuật
tính toán, việc dịch tự động ngôn ngữ tự nhiên đang được từng bước ứng dụng.
Hiện nay trên thế giới đã có nhiều hệ dịch máy thương phẩm với chất lượng chấp
nhận được (SYSTRAN, GLOBALINK, STYLUS, IBM, ...). Các cặp ngôn ngữ đã
được thực hiện chủ yếu là những ngôn ngữ Âu châu (bao gồm Anh-Pháp, Pháp-
Anh, Anh-Đức, Anh-Tây ban nha, Anh-Nga, Anh-Nhật, Nhật-Anh, v.v. và một số
sản phẩm dịch một chiều khác). Các sản phẩm dịch tự động được sử dụng phổ biến
từ những phần mềm cho các hệ máy lớn, trạm làm việc và máy tính cá nhân đến
những thiết bị dịch tự động chuyên dụng cầm tay. Trên thế giới chưa có thương
phẩm nào biên dịch Anh-Việt hay Việt-Anh.
Tình hình nghiên cứu trong nước:
Nghiên cứu về nhận dạng và ứng dụng đã được tiến hành ở nước ta từ khá sớm.
Các chương trình trọng điểm quốc gia về tin học, CNTT từ năm 1981 đến nay đều
có nội dung nghiên cứu về nhận dạng. Đặc biệt từ năm 1991 đến nay, trong
8
chương trình khoa học và công nghệ KC-01 (giai đoạn 1991-1995, 1996-2000),
các vấn đề về Nhận dạng và xử lý thông tin hình ảnh đã được quan tâm và là nội
dung nghiên cứu chính của đề tài KC-01-10, KC-01-07. Các đề tài đều được
nghiệm thu đánh giá xuất sắc. Tuy nhiên trong giai đoạn này mới chỉ tập trung nỗ
lực vào vấn đề nhận dạng chữ (sản phẩm VnDOCR 1.0 và 2.0) và một phần về
dịch tự động (sản phẩm EVETRAN 1.0), nhận dạng và tổng hợp tiếng nói mới là
những nghiên cứu thử nghiệm. Mặc dù trên thế giới đã có những bước tiến khá dài
trong lĩnh vực nhận dạng-tổng hợp tiếng nói, và xử lý ngôn ngữ tự nhiên, ở Việt
nam vấn đề này chỉ mới được quan tâm và chưa nhiều người nghiên cứu. Trong
khi đó nhu cầu giao tiếp với máy tính bằng tiếng Việt đang ngày càng cấp thiết bởi
chúng ta không thể lúc nào cũng sử dụng các phần mềm nhận dạng và tổng hợp
tiếng nói với ngôn ngữ là tiếng Anh. Nhận dạng, tổng hợp tiếng nói Việt, nhận
dạng chữ viết Việt, máy hiểu ngôn ngữ Việt không chỉ cần những nghiên cứu cơ
bản và kỹ thuật chung, mà còn phải dựa trên các đặc trưng ngôn ngữ tiếng Việt. Đã
có những bước đi ban đầu của một số cơ sở có tiến hành nghiên cứu về lĩnh vực
này:
- Phòng Nhận dạng và Công nghệ Tri thức, Viện Công nghệ Thông tin,
- Trung tâm MICA, Đại học Bách khoa, Hà nội
- Nhóm nghiên cứu của Bộ môn Khoa học Máy tính, Khoa CNTT, ĐHBK Hà
Nội,
- Nhóm nghiên cứu của Khoa Công nghệ Thông tin, Trường Đại học Khoa học
Tự nhiên, TP. Hồ Chí Minh,
- Công ty CDIT, Tổng Công ty Bưu chính Viễn thông Việt nam
- Softext, Viện ứng dụng công nghệ
và còn một số công trình của các cá nhân làm đề tài thạc sĩ và tiến sĩ.
Về nhận dạng và tổng hợp tiếng Việt: Trước hết đây là vấn đề khó, đòi hỏi phải
có tập trung nghiên cứu trong thời gian dài. Trong thời gian qua, các nghiên cứu
còn tản mạn, các kết quả tập trung chủ yếu vào thử nghiệm bước đầu tổng hợp
tiếng Việt dựa trên một số kỹ thuật cơ bản, và giải quyết các ứng dụng điều khiển
bằng giọng nói với lượng từ vựng nhỏ để có thể triển khai nhanh, để minh họa và
thực tế là chưa khai thác đặc điểm riêng của ngữ âm tiếng Việt. Trong đề tài KC-
01-10, các nội dung về tổng hợp và nhận dạng tiếng Việt mới được tiến hành
nghiên cứu ở hai năm cuối (1999-2000). Vì thế chưa có sản phẩm có khả năng ứng
dụng rộng rãi chẳng hạn cho các ứng dụng văn phòng hay các ứng dụng trong viễn
thông.
Về nhận dạng chữ Việt: Phòng Nhận dạng và Công nghệ tri thức Viện CNTT đã
bước đầu thành công trong lĩnh vực nhận dạng chữ Việt in, đã và đang phát triển
phần mềm Nhận dạng VnDOCR 2.0 hiện đang thương mại hoá rộng rãi trên thị
trường. Cũng như bất kỳ một sản phẩm phần mềm nào, VnDOCR cần được hoàn
thiện để giải quyết các yêu cầu cao hơn về chất lượng nhận dạng trên các văn bản
đầu vào xấu hơn, các tài liệu cũ, v.v. Ngoài ra, các khoa Công nghệ Thông tin của
các trường đại học như Bách khoa Hà nội, Đại học Quốc gia, Đại học KHTN TP
9
Hồ Chí Minh cho sinh viên làm luận văn cao học hoặc cử nhân về nhận dạng chữ,
nhưng đều ở dạng tiếp cận kiến thức, chưa thành dạng thương phẩm. Sản phẩm
Image Scan của Công ty CadPro cũng có giới thiệu bước đầu trên thị trường.
Ngoài ra vấn đề nhận dạng chữ viết tay tiếng Việt cũng cần được đặt ra để giải
quyết cho từng bài toán cụ thể.
Về xử lý ngôn ngữ tự nhiên tiếng Việt: Các nghiên cứu hướng nhiều vào dịch tự
động. Sản phẩm phần mềm EVTRAN (Phòng thí nghiệm Công nghệ Phần mềm
máy tính, Trung tâm Công nghệ vi điện tử và Tin học) biên dịch tự động Anh Việt
đã có mặt trên thị trường. Hiện nay đã có phiên bản EVTRAN 2.0 với nhiều tính
năng trợ lý ngôn ngữ thuận tiện. Đây cũng là thương phẩm duy nhất về dịch tự
động Anh-Việt. EVTRAN đã được phát triển trên mười năm (bắt đầu từ năm
1990). Sản phẩm đã góp phần hỗ trợ mọi người trong việc đọc hiểu văn bản tiếng
Anh và biên dịch sang tiếng Việt. Tuy nhiên chưa có hệ dịch cho chiều ngược lại
(Việt- Anh). Cũng như hấu hết các sản phẩm dịch tự động hiện nay trên thế giới,
do vấn đề quá khó, EVTRAN còn phải được theo đuổi lâu dài để dần hoàn thiện.
Điều đáng chú ý là cần chú trọng hơn đến các nghiên cứu và công cụ cơ sở của xử
lý ngôn ngữ tự nhiên tiếng Việt, như từ điển điện tử, phân tích và hiểu tiếng Việt
trên máy tính...
2.2. Những nội dung đã thực hiện
2.2.1 Kết quả về Tổng hợp và Nhận dạng tiếng Việt
Khảo sát về ngữ âm tiếng Việt
Để có thể tiến hành nghiên cứu về tổng hợp cũng như nhận dạng tiếng Việt, đề tài
ban đầu phải tập trung vào nghiên cứu các khía cạnh ngữ âm của tiếng Việt. Tiếng
Việt là ngôn ngữ đơn âm (monosyllable) và có thanh điệu (tonal). Tiếng Việt có 6
thanh theo truyền thống (thanh không, hỏi, ngã, nặng, sắc, huyền), và 8 thanh theo
ngữ âm học, có khoảng 6.700 âm tiết có nghĩa (trong số hơn 19.000 âm tiết có
thể). Âm tiết nào của tiếng Việt cũng mang một thanh điệu và cấu trúc ổn định.
Cấu trúc tổng quát của âm tiết tiếng Việt được trình bày như sau
Thanh điệu
Phần vần
Âm đầu
Âm đệm Âm chính Âm cuối
Cấu trúc tổng quát của một âm tiết tiếng Việt là (C1)(w)V(C2). Trong đó C1 là
phụ âm đầu, (w) là âm đệm, V là âm chính và C2 là âm cuối. Âm đầu thường là
phụ âm, được gọi là phụ âm đầu. Âm đệm nằm giữa âm đầu và âm chính làm thay
đổi âm sắc của âm tiết. Âm chính luôn luôn có mặt trong mọi âm tiết và có chức
năng qui định âm sắc chủ yếu của âm tiết. Âm chính luôn là nguyên âm. Âm cuối
10
là phụ âm hoặc là bán nguyên âm, có chức năng là cơ sở để phân chia loại hình âm
tiết, để nhận ra sự phân bố, xuất hiện của thanh điệu. Âm đầu, âm đệm và âm cuối
có thể khuyết trong một số trường hợp. Thanh điệu luôn có mặt trong âm tiết và có
chức năng khu biệt âm tiết về cao độ và thanh điệu là yếu tố siêu đoạn tính.
Để xây dựng CSDL âm (cho hai giọng Nam và Nữ chuẩn Hà nội), chia phần vần
thành các nhóm đặc trưng, thu mẫu âm thanh, đo số liệu Pitch bằng máy
Sonagraph, từ đó rút ra số liệu đặc trưng cho 8 thanh tiếng Việt. Đề tài đã tập trung
phân tích âm tiết tiếng Việt, cụ thể phân tích ảnh hưởng thanh điệu của phụ âm dấu
hữu thanh, nguyên âm chính, phụ âm cuối; phân tích các yếu tố âm như sự tắc
họng, yếu tố định lượng như trường độ (duration).
Tiếng Việt gồm 22 phụ âm đầu, 20 phần chính (âm đệm và nguyên âm chính) và
155 phần vần không dấu, với các phân tích trên:
• 22 phụ âm đầu chia thành 4 nhóm:
+ vô thanh (stop, voiceless): p, t, k-c-q
+ âm xát (fricative): ph, x, kh, h, v, d, đ, ch, ng-ngh, g-gh, th
+ âm vang (resonant or cororal): m, n, nh, l
+ âm bật đầu lưỡi (retroflex): tr, s, gi, r
• 20 phần chính:
+ âm đệm (zero-/u/) + nguyên âm chính: a, ă, â, e, ê, i, ia, iê, o, oa, oe, ơ,
ô, u, uâ, uyê, uyu, uô, ư, ươ.
• 155 phần vần:
+ Thu phần vần với thanh không dấu và không tận cùng bởi tắc vô thanh,
khoảng gần 100 vần
+ Thu phần vần với các thanh sắc (acute-mark) cho các âm tận cùng là là
p, t, k, khoảng 55 vần
2.2.1.1 Tổng hợp tiếng Việt
Trong thời gian thực hiện Đề tài, đã nghiên cứu 3 phương pháp tổng hợp tiếng
Việt: 1/ghi âm thuần tuý (cho toàn bộ từ điển); 2/ kết nối các đơn vị âm cơ bản của
ngôn ngữ (các âm cơ bản được ghi sẵn) để tạo thành một mẫu âm thanh cho âm
tiết bất kỳ (số đơn vị cơ bản là rất nhỏ, không hạn chế số lượng từ), 3/ tái tạo lại
tiếng trên cơ sơ phân tích các tham số âm học của tiếng nói (như các phooc măng,
tần số cơ bản). Sau khi nghiên cứu, đề tài đã lựa chọn phương pháp kết nối các đơn
vị âm cơ bản của ngôn ngữ (PSOLA – Pitch Synchronize OverLap Adding), là
bước đầu nghiên cứu để tìm hiểu bản chất của âm tiết và có thể tạo ra sản phẩm
nhằm đưa tới các định hướng ứng dụng cụ thể, đã tiến hành lựa chọn biểu diễn nhỏ
nhất có thể cho tiếng Việt. Với cách lựa chọn giải pháp trên, vấn đề đặt ra là
nghiên cứu tổng hợp tiếng nói ở mức từ & cụm từ tiếng Việt. Các vấn đề nghiên
cứu và các công cụ sau đã được được thực hiện và phát triển nhằm giải quyết vấn
đề trên:
− Nghiên cứu các bộ đơn vị khác nhau cho tổng hợp tiếng Việt,
− Tìm kiếm từ và gán nhãn từ loại, tích hợp phần phân đoạn từ trong câu tiếng
Việt,
11
− Phân tích hiện tượng từ láy trong ngôn ngữ tiếng Việt,
− Lập bộ các mẫu của cặp các thanh điệu của một từ,
− Khảo sát ban đầu các quy luật về khoảng lặng giữa các từ, giữa các âm tiết,
− Phân tích hiện tượng biến thanh khi phát âm một từ đôi, từ ba,
− Đang tích hợp thuật toán kết nối các âm tiết trong một từ để thể hiện khả năng
đọc dính âm.
Kết quả của các nghiên cứu trên đã làm tăng chất lượng tiếng nói tổng hợp so với
các phiên bản tiếng nói tổng hợp đầu tiên của đề tài. Hiện tại chất lượng tiếng nói
tổng hợp trong phiên bản hiện tại đã đạt khoảng 75-80% tiếng nói tự nhiên (xem
đánh giá). Trong giai đoạn nghiên cứu tiếp theo, để có thể tiến tới giải quyết vấn
đề ngôn điệu (prosody), đề tài đang nghiên cứu mô hình Fujisaki, một mô hình đã
được chứng tỏ có hiệu quả cho các ngôn ngữ có thanh điệu.
− Ghi bộ dữ liệu âm cho tổng hợp tiếng Việt
• Lựa chọn các mẫu cộng tác viên (CTV) nói giọng Hà Nội (21 người đọc);
• Ghi âm theo tiêu chuẩn phân tích: 21 CTV x 3 lần người x 9 nguyên âm;
• Phân tích hệ Phooc măng của 21 CTV theo tần số (Hz).
• Tổng kết hệ Phooc măng của nguyên âm tiếng Việt phục vụ cho tổng hợp
tiếng Việt bằng phương pháp Phooc măng.
Sản phẩm phần mềm: Hệ thống Tổng hợp tiếng nói VnVoice 2.0
Phương pháp
Hệ thống tổng hợp tiếng nói (từ văn bản chữ in tiếng Việt thành tiếng nói) dựa trên
kỹ thuật PSOLA - Pitch Synchronize OverLap Adding với bộ đơn vị âm đủ nhỏ
cho phép thực hiện nhanh việc tạo CSDL âm và có khả năng tích hợp vào các ứng
dụng nhúng. Với phiên bản VnVoice 2.0, CSDL âm bao gồm 19 phụ âm đầu có
tính ngữ cảnh, 12 nguyên âm chính, hơn 700 vần với đầy đủ thanh, tổng số hơn
900 đơn vị. Phiên bản VnVoice 1.0 có CSDL gồm 330 đơn vị, gồm 19 phụ âm đầu
có tính ngữ cảnh 12 nguyên âm chính và 163 vần không mang thanh hoặc vần
mang thanh sắc cho các vần kết thúc bằng p,t,c-ch, với bộ đơn vị này chương trình
phải thay đổi F0 để tạo các thanh khác nhau từ vần gốc.
• Dựa trên phương pháp ghép nối các đơn vị âm cơ bản, sử dụng phương
pháp PSOLA (khoảng 900 đơn vị) dung lượng bộ nhớ 6MB RAM
• Tổng hợp được tất cả các thanh tiếng Việt, bao gồm cả thanh ngã và thanh
nặng.
• Đọc các khuôn dạng phi từ: biểu thức số, ngày tháng, giờ điện tử, tiền Việt,
các đơn vị đo lường, các xâu viết tắt thông dụng.
• Đọc tự động văn bản hỗn hợp Việt - Anh, hoặc thuần Việt, hoặc thuần Anh.
Chức năng hoạt động
− Giao diện:
12
• Đọc các văn bản từ các nguồn: trên clipboard, các khoản mục trên Menu
của chương trình, văn bản từ bàn phím gõ vào, văn bản trên các Website,
trong các ứng dụng Microsoft Word, Outlook Express.
Phương pháp đánh giá độ hiểu và độ tự nhiên của phần mềm tổng hợp tiếng
Việt VnVoice
− Để đánh giá độ hiểu của tiếng Việt tổng hợp, đề tài đã làm thực hiện những
đánh giá và kết quả thống kê trên 100 đối tượng sau: Nhóm A (50 người, khác
nhau về tuổi và giới tính) là những người nghiên cứu và sử dụng tiếng Việt, do
vậy yêu cầu của họ khi nghe chương trình tổng hợp tiếng Việt là khắt khe hơn,
Nhóm B (50 người, khác nhau về tuổi và giới tính) chiếm số đông trong xã hội,
yêu cầu quan trọng nhất cho việc đánh giá tiếng Việt tổng hợp là mức độ hiểu
của họ là bao nhiêu. Kết quả cụ thể như sau (đề tài có bản thống kê so sánh chi
tiết) :
ƒ Đối với nhóm A:
Ý kiến thống nhất:
- Đánh giá của cả hai nhóm về chất lượng của nguyên âm và phụ âm cuối
tốt là tương đối thống nhất
- Nhóm A1 (cán bộ nghiên cứu ngôn ngữ): có 68% đánh giá phụ âm đầu
của văn bản tổng hợp có lỗi, nhóm A2 là 58%.
- Nhóm A2 (phóng viên): có 64% đánh giá tốc độ của văn bản tổng hợp là
chậm, nhóm A2 là 84%.
Ý kiến khác biệt: Sự khác biệt lớn nhất là đánh giá về lỗi thanh điệu và so sánh
với lời nói thực:
- 100% nhóm A1 cho rằng thanh điệu của lời nói tổng hợp không có lỗi.
Trong khi đó chỉ có 54% của nhóm A2 cho rằng thanh điệu của lời nói
tổng hợp không có lỗi.
- 48% nhóm A1 cho rằng giọng nói tổng hợp đạt tỉ lệ 90% so với tiếng nói
thực, 36% nhóm A2 đánh giá giọng nói tổng hợp đạt tỉ lệ 50% so với tiếng nói
thực
ƒ Đối với nhóm B, chia làm 2 nhóm nhỏ B1 (công chức) và nhóm nhỏ B2
(người khiếm thị):
Đánh giá hiểu khi nghe: nhóm B1 có 92% , nhóm B2 có 40%.
Đánh giá giọng nói tốt, dễ hiểu: nhóm B1 có 4%, nhóm B2 có 36%.
Nhận xét tổng quan:
− Về cơ bản giọng nói tổng hợp VnVoice đã thực hiện được một cách cơ bản
chức năng chuyển văn bản sang giọng nói. Giọng nói ở bước đầu đã đạt được ở
mức độ rõ ràng, mạch lạc và người nghe có thể hiểu được đoạn văn bản.Trong
giai đoạn đầu tiên, sản phẩm của đề tài chưa tập trung giải quyết vấn đề ngữ
điệu mà chỉ tập trung giải quyết đọc rõ âm tiết và một phần tính đều trong câu,
do đã có áp dụng việc phân tích câu. Tuy nhiên một số từ ghép chưa đảm bảo
tính đều do giải quyết trường độ trong các cặp âm tiết với kết thúc bằng phụ âm
13
tắc vô thanh p-t-c-ch chưa triệt để do cần có những nghiên cứu sâu sắc hơn.
Việc nghiên cứu mô hình Fujisaki (một mô hình đã được chứng tỏ có hiệu quả
với các ngôn ngữ có thanh điệu như tiếng Trung, tiếng Thái) mà đề tài đang
nghiên cứu và đã có những kết quả ban đầu nhằm giải quyết trong giai đoạn
tiếp theo về ngữ điệu của câu tổng hợp và trường độ trong câu.
− Các lỗi tập trung ở một số phụ âm đầu, thanh điệu (do dữ liệu âm thanh) và tốc
độ đọc chậm (xử lý thuật toán). Những lỗi này có thể sớm khắc phục được
− Vấn đề còn tồn tại lớn nhất là ngữ điệu trong câu: sự kết nối giữ các âm tiết,
ngừng nghỉ sau các dấu câu kể cả trường độ của những âm tiết mang trọng âm
câu.
Có thể khẳng định giọng nói tổng hợp VnVoice của đề tài đã giải quyết căn bản
vấn đề tổng hợp âm tiết tiếng Việt. Những vấn đề thuộc phạm vi ngoài âm tiết: từ
láy, ghép, cụm từ (thành ngữ, tục ngữ…) và câu còn cần tiếp tục hoàn thiện.
2.2.1.2 Nhận dạng tiếng Việt
Mục tiêu của đề tài là nghiên cứu các phương pháp nhận dạng câu liên tục tiếng
Việt với lượng từ vựng cỡ nhỏ và trung bình. Sau khi đạt được những kết quả và
kinh nghiệm trong tạo lập CSDL ngữ âm và đánh giá giải pháp, tiến tới nhận dạng
câu liên tục với lượng từ vựng lớn. Các vấn đề sau đã được giải quyết:
− Nghiên cứu, phân tích các đặc trưng ngữ âm, thông số của tiếng Việt, văn phạm
tiếng Việt phục vụ cho nhận dạng tiếng nói, đặc biệt là các vấn đề liên quan
đến thanh điệu và độ dài của các phụ âm đầu và vần.
• Xây dựng module xử lý mô hình ngôn ngữ với phân loại nhóm từ và tính
các bảng xác suất chuyển trạng thái âm tiết.
− Nghiên cứu một số khía cạnh của ngôn ngữ tiếng Việt, đặc biệt về từ vựng học
(lexicon), ngữ âm và văn phạm tiếng Việt (grammar).
• Xây dựng module phân tích văn bản tiếng Việt (VTA) chuẩn hoá văn bản,
tìm kiếm kết thúc câu, phân lớp từ sử dụng mô hình ngôn ngữ n-grams với
các phép làm trơn, phân lớp văn bản theo từng chủ đề, tìm kiếm từ khoá
trong văn bản, phân đoạn từ và gán nhãn từ loại trong văn bản, xây dựng bộ
văn phạm tiếng Việt (ứng dụng cho cả tổng hợp và nhận dạng tiếng Việt).
− Nghiên cứu để tạo lập CSDL các mẫu câu để tạo tham số huấn luyện cho mô
hình 3 mức: âm tiết - âm vị - âm học.
− Nghiên cứu bài toán nhận dạng tiếng nói liên tục trên CSDL từ vựng cỡ nhỏ,
trung bình, tiến tới lớn CSDL lớn. Các mô hình và giải pháp sau đã được khảo
sát và áp dụng cụ thể để phát triển các chưong trình nhận dạng câu lệnh liên
tục, các chữ số tiếng Việt phát âm liên tục:
• Nghiên cứu mô hình Markov ẩn và mạng nơ ron nhân tạo, các mô hình lai
ghép giữa mạng nơ ron nhân tạo và mô hình Markov ẩn trong huấn luyện
tham số nhận dạng tiếng nói liên tục.
• Khai thác các bộ mã nguồn mở như CSLU Toolkit, HTK nhằm áp dụng
phương pháp mô hình Markov ẩn và mạng nơ ron nhân tạo để nhận dạng
trên bộ CSDL nhỏ và vừa.
• Nghiên cứu các vấn đề làm trơn xác suất khi tính các bảng chuyển trạng
thái xác suất của các âm tiết tiếng Việt rời.
14
− Nghiên cứu các cách tiếp cận nhận dạng tiếng nói trong thời gian thực, hướng
tói các ứng dụng thực tế.
− Khai thác các môi trường phát triển như MATLAB, PRAAT với các công cụ
về xử lý tín hiệu tiếng nói.
− Xây dựng CSDL ngữ âm
• CSDL tiếng nói gồm 250 giọng với bộ từ vựng là chữ số, chữ cái, lệnh
• CSDL tiếng nói của 1 giọng với hơn 3000 mẫu vần, 3000 mẫu phụ âm đầu.
• Thiết lập được CSDL văn bản gồm 265-800 câu tiếng Việt làm mẫu huấn
luyện, CSDL câu và gán nhãn bằng tay để huấn luyện đơn vị âm trong ngữ
cảnh.
2.2.1.2 Sản phẩm phần mềm
Chương trình nhận dạng lệnh VnCommand
A. Nhận dạng lệnh, trình diễn khả năng điều khiển chương trình ứng dụng trên
Windows.
Mục đích
Phần mềm nhận dạng lệnh ứng dụng trong điều khiển thay thế cho người dùng
nhấn chuột hoặc gõ lệnh từ bản phím. CSDL gồm tập các lệnh nhỏ (dưới 100
lệnh). Kết quả của sản phẩm: chỉ ra khả năng tạo ra một hệ thống nhận dạng lệnh
tiếng Việt, độc lập người nói với độ chính xác rât cao trên một tập lệnh với độ
đồng âm giữa các lệnh thấp.
Phương pháp nhận dạng:
Sử dụng mô hình Markov GMM thông thường (Gaussian Markov Model) với huấn
luyện riêng rẽ từng tổ hợp âm và giai đoạn nhận dạng là khá nhanh.
Bước 1. Xử lý tiếng nói trong thời gian thực, theo từng khung cỡ 20 mili giây, mỗi
khung được lấy đặc trưng bởi các hệ số MFCC và hệ số năng lượng.
Vòng lặp xác định điểm kết thúc của một đoạn tiếng nói, nếu tìm thấy thoát
khỏi vòng lặp.
Bước 2. Chuyển qua mô hình GMM của từng tổ hợp âm.
Bước 3. Quyết định nhận dạng.
Chức năng hoạt động
− Điều khiển máy tính thực hiện một số lệnh trong phần mềm ứng dụng phổ dụng
− Nhận dạng độc lập người nói một số lệnh của Internet Explorer bao gồm tích
hợp các modul sau:
• Modul nhận dạng từ đơn lẻ trạng thái tĩnh.
• Tập từ vựng
15
Bảng lệnh Internet Explorer
Ghi Trang ngầm định
In Tải lại trang
Tuỳ chọn in Xem mã nguồn
Xem để in Toàn màn hình
Gửi nội dung Trang ưa thích
Gửi địa chỉ Gửi thư
Thuộc tính Đọc thư
Ngừng kết nối mạng Tuỳ chọn
Xoá Trợ giúp
Copy Ghi tệp
Dán Ghi file
Chọn hết Tìm kiếm
• Modul thu nhận tín hiệu tiếng nói từ các nguồn vào Audio, Headphone, File
• Tìm kiếm các diểm đầu-cuối của một từ (cụm từ) trong môi trờng thời gian
thực.
− Giao diện
• Hệ thống chạy nền, gồm nhiều luồng, màn hình ứng dụng thu gọn gồm
nhiều dịch vụ nền
• Cửa hội thoại cho phép thay đổi tham số nhận dạng, lấy thông số nền như
độ nhiễu của môi trường xung quanh.
− Phạm vi ứng dụng :
• Ứng dụng cho các hệ thống điều khiển bằng giọng nói
• Số lượng từ vựng cho trước, có thể lên đến 200 khẩu lệnh (các lệnh có độ
đồng âm thấp).
• Việc quyết định nhận dạng tương đối dễ dàng, cho phép nhúng vào các hệ
thống với tài nguyên thấp (bộ nhớ, năng lực tính toán...)
Đánh giá thực nghiệm module VnCommand
− Môi trường thu tín hiệu : văn phòng, trường học.
− Thiết bị thu nhận tín hiệu: card âm thanh onboard trên máy NoteBook.
− Số lượng giọng và mẫu huấn luyện: 200 người, 100 nam, 100 nữ giọng miền
Bắc. Mỗi người đọc 1 lệnh 1 lần. trong đó số lượng âm tiết rời là 40, đọc rời
rạc (có ngừng giữa các âm tiết ) hay dính âm.
16
− Số lượng giọng kiểm tra : 38, một số giọng không đọc đủ mẫu
− Kết quả nhận dạng : sai số 2/695 *100 (sai 2 lỗi trên tổng số 695 âm kiểm tra),
hệ thống cho độ chính xác là 99.7%
Nhận xét :
− Hệ thống huấn luyện từng tổ hợp âm là riêng rẽ, vì thế việc thêm một vài tổ
hợp âm mới là dễ dàng và độc lập với những mô hình của các tổ hợp âm. Tuy
nhiên độ chính xác sẽ kém đi với những tổ hợp có sự đồng âm.
− Mô hình là bất biến với tốc độ phát âm, có thể đọc nhanh hoặc đọc chậm một tổ
hợp âm, độ chính xác vẫn khá cao.
− Hệ thống là độc lập người nói, độ chính xác sẽ rất cao nếu có một cơ sở dữ liệu
cỡ 1000 giọng khác nhau. Hiện tại chương trình đã xử lý 240 giọng trên một cơ
sở dữ liệu 300 giọng đọc.
Chương trình nhận dạng lệnh 10 chữ số tiếng Việt liên tục qua điện thoại
Mục tiêu
Xây dựng hệ thống nhận dạng mười chữ số tiếng Việt liên tục qua mạng điện
thoại, dùng hệ thống nhận dạng lai ghép giữa mạng nơ ron nhân tạo và mô hình
Markov ẩn (ANN/HMM)
Phương pháp nhận dạng
Phương pháp nghiên cứu sử dụng hệ thống nhận dạng lai ghép giữa mạng neuron
và mô hình Markov ẩn HMM/ANN (Hidden Markov Model/ Artificial Intelligent
Network). Đây là phương pháp nhận dạng tiên tiến, đã được sử dụng rộng rãi tại
nhiều trung tâm nghiên cứu trên thế giới, tận dụng hai ưu điểm của HMM và
ANN: khả năng phân lớp của mạng neuron và khả năng mô hình hoá thông tin thời
gian của mô hình Markov ẩn.
Có khá nhiều kiến trúc hệ thống lai ghép HMM/ANN đã được đề xuất, trong đó
thông dụng nhất là kiến trúc dùng mạng MLP làm xác suất phát xạ quan sát trong
các hệ thống mạng lai ghép. Hàm bj(k) trong mô hình Markov ẩn không phải hàm
mất độ xác suất mà là giá trị xác suất đầu ra của mạng ANN.
Hình dưới đây miêu tả quan hệ giữa các mô hình HMM và mạng neuron ANN.
Mỗi nút ra của mạng ANN tương ứng với một trạng thái của mô hình HMM.
Trạng thái của âm vị /oo/ trong hai từ ”bốn” và ”một” có chung nhau một nút ra
của mạng ANN. Như vậy mỗi một category của một âm vị tương ứng với mỗi
trạng thái. b-oo+n m-oo+tc
C¸ c m« h×nh ...
Markov
C¸ c nót ra cña ...
ANN
C¸ c nót Èn 17
cña ANN
...
Hệ thống lai ghép HMM/ANN được huấn luyện bằng huấn luyện nhúng
(embedded). Tưng ứng với mỗi phát âm, các mô hình Markov ẩn của các đơn vị
nhận dạng trong phát âm đó được nối ghép lại với nhau tạo thành một mô hình
HMM lớn. Thuật toán forward-backward được áp dụng để điều chỉnh các tham số
của các mô hình lớn này. Các giá trị output của mạng ANN được dùng làm xác
suất phát xạ quan sát của mỗi trạng thái trong mô hình.
Trong mỗi vòng lặp của huấn luyện forward-backward, thuật toán Viterbi được áp
dụng để tìm ra dãy các trạng thái tốt nhất trong mô hình HMM lớn tương ứng với
phát âm dùng để huấn luyện. Từ dãy trạng thái này, tại mỗi thời điểm tương ứng
với một khung thời gian tín hiệu tiếng nói, ta sẽ có giá trị output của mạng ANN.
Nút output tưng ứng với trạng thái hiện tại có giá trị là 1, các nút output khác có
giá trị 0. Từ các giá trị output này, mạng ANN được huấn luyện lại bằng thủ tục
truyền ngược sai số.
Chức năng hoạt động
− Khai thác môi trường tín hiệu tiếng nói trên điện thoại, cụ thể khai thác và lập
trình trên card Dialogic cho môi trường Windows. Với card Dialogic
JCT120LS cung cấp 12 kênh riêng biệt với các khả năng sau:
• Thu, mã hóa và nén âm thanh trong thời gian thực
• Phát những files âm thanh
• Phát / phát hiện các Tones như DTMF, MF
• Khởi động và nhận các cuộc gọi giao diện điện thoại, khởi động lặp vòng
• Thực thi việc phân tích tiến trình cuộc gọi
− Nhận dạng đạt độ chính xác 97,46% ở mức từ gần tương đương với các công
bố về nhận dạng mười chữ số liên tục trên thế giới như tiếng Anh, Ý, Tây ban
nha (cao nhất là 98,01%).
Phương pháp và kết quả đánh giá
− Cơ sở dữ liệu tiếng nói được sử dụng được trích ra từ hai cơ sở dữ liệu tiếng
nói điện thoại “22 Language v1.2”, và “Multi-Language Telephone Speech
v1.2” của trung tâm CSLU (Center for Speech Language Understanding), Viện
Sau Đại học Oregon, Hoa kỳ. Đề tài đã có hợp tác với trung tâm này trong quá
trình nghiên cứu triển khai nhận dạng mười chữ số liên tục.
− CSDL tiếng nói bao gồm 442 câu, 2345 từ, 243 người nói (165 nam, 78 nữ),
thu âm theo hình thức phỏng vấn qua điện thoại. Câu dài nhất có 18 từ và câu
ngắn nhất có 1 từ. Các câu được thu âm theo PCM 8kHz, 8bit mã hoá. Cơ sở
dữ liệu được chia thành ba tập: tập dữ liệu huấn luyện (training set) và tập dữ
liệu kiểm tra (test set). Tập dữ liệu huấn luyện bao gồm 300 câu, 1686 từ, do
158 người nói (104 nam và 54 nữ). Tập dữ liệu phát triển có 74 câu, 342 từ do
38 người nói (27 nam, 11 nữ) , tập dữ liệu kiểm tra có 68 câu, 317 từ do 47
người nói (34 nam, 13 nữ). Để đảm bảo tính khách quan, người nói trong tập
dữ liệu kiểm tra là độc lập với người nói trong tập dữ liệu huấn luyện. Độ chính
xác 97,58% được thực hiện trên tập dữ liệu thử này.
18
− Người nói phát âm các câu bao gồm các chữ số như: số điện thoại, địa chỉ, số
bưu điện, tuổi, ... Các câu được thu âm từ nhiều máy điện thoại khác nhau.
Kiểu của máy điện thoại và đặc tính của kênh thoại không được xác định. Các
câu thu được đa dạng và khác nhau về tốc độ phát âm; về độ to nhỏ; có câu
được người nói nói trong văn phòng yên tĩnh, có câu có lẫn nhiều tạp âm như
tiếng đài, ti vi xen vào khi người nói ngồi trong nhà, hay tiếng ô tô khi người
nói đứng tại trạm bưu điện công cộng,... Tất cả các câu trong cơ sở dữ liệu
tiếng đều được phiên âm chính tả và gán nhãn bằng tay tại mức âm vị.
Chương trình đọc chính tả VnDictator
Đánh giá thực nghiệm Module thử nghiệm VnDictator (chưa thử
nghiệm kết hợp mô hình ngôn ngữ)
Mục đích: Nghiên cứu, đề xuất các cách tiếp cận nhận dạng tiếng nói rời rạc hoặc
liên tục, phụ thuộc hoặc không phụ thuộc người nói với lượng từ vựng lớn (là tòan
bộ từ điển âm tiết, từ tiếng Việt).
Phương pháp nhận dạng:
− Có hai lược đồ đã thử nghiệm:
• Dựa trên từng khung tiếng nói (phương pháp frame-based)
• Dựa trên từng đoạn được gán nhãn (phương pháp segment-based), phát
triển thêm mô hình tích hợp nhận dạng thanh điệu. Các nhãn ở đây là phụ
âm đầu, nguyên âm chính, âm cuối của một âm tiết. Kết quả nhận dạng
riêng rẽ từng thành phần với kết quả đầu ra có thể nhiều hơn 1, sau đó kết
hợp với từ điển âm tiết và mô hình ngôn ngữ để cho ra một câu có nhiều
khả năng nhất.
− Sử dụng mô hình Markov ẩn HMM kiểu cạnh tranh (Có tích hợp phương pháp
học dựa trên sự khác nhau của từng cặp âm tiếng nói).
• Huấn luyện riêng rẽ từng đơn vị âm với mô hình HMM thông thường
• Chia các âm thành các lớp như với phụ âm đầu lớp âm mũi, lớp âm xát vô
thanh, lớp âm xát hữu thanh, lớp âm tắc vô thanh, lớp âm xát hữu thanh.
• Huấn luyện phân biệt theo từng lớp bằng cách chỉnh sửa đồng thời tất cả
các mô hình trong cùng một lớp dựa trên các mẫu huấn luyện được đưa vào
− Mô tả thuật toán
Bước 1. Khởi tạo tham số cho bộ phân tích F0
Bước 2. Tải các tham số của 5 thanh điệu và các phụ âm đầu, nguyên âm,
âm cuối vào bộ nhớ
Bước 3. Xử lý buff bộ đệm trong thời gian thực, ta thu được các tham số
đặc trưnng, mẫu tín hiệu, phần phân đọan các thành phần âm tiết.
Bước 4. Nhận dạng âm tiết từ các thành phần nhận dạng âm đầu, nguyên
âm, âm cuối, tone và kiểm tra trong từ điển âm tiết
Kết quả thử nghiệm: Phương pháp segment-based
19
− Thuật toán phân đoạn âm tiết rời thành các thành phần phụ âm đầu, nguyên âm
chính, âm cuối dựa trên ngưỡng của năng lượng, trong đó phụ âm đầu và âm
cuối có năng lượng thấp, khoảng 10%-15% so với năng lượng của thành phần
nguyên âm.
− Danh sách các đơn vị âm dùng trong chương trình:
• 19 phụ âm đầu: ng-ngh, nh, m, n, l, v, s, ph, kh, g, h, q-c-k, d-r, t, th, ch, đ,
b, không_phụ_âm
• 12 nguyên âm chính: i, ê, e, iê, ư, ơ, a, ươ, u, ô, o, uô
• 7 âm cuối: m, n, i, u, nh, ng, không_âm_cuối
• 8 thanh điệu
Đánh giá độ chính xác :
− Tập huấn luyện: hơn 3970 âm tiết
− Tập kiểm tra : 3500 âm tiết
− Trong phần này có sử dụng một số khái niệm về nhận dạng n-best nếu trong kết
quả nhận dạng đưa ra n phần tử "tốt nhất" của phép quyết định. Thường người
sử dụng chỉ quan tâm tới 1-best tức là buộc kết quả đầu ra là duy nhất, tuy vậy
trong các bài toán nhận dạng tiếng nói, thường phải chia thành nhiều pha nhận
dạng trước khi cho ra kết quả cuối cùng vì vậy người ta thường lấy 1, 2, 3 hoặc
thậm chí 5-best ở các pha trước để chuyển tới pha quyết định tiếp theo.
• Nhận dạng 19 phụ âm đầu: kết quả với 1-best đạt 88%, 2-best là 93%
• Nhận dạng nguyên âm đơn, đôi trong vần: đạt 95,75% cho 3-best,
• Nhận dạng phụ âm cuối đạt 91,7% cho 3-best,
• Nhận dạng thanh điệu: độ chính xác trung bình khoảng 95%. cho âm tiết
đọc rời, một giọng đọc phát thanh viên. Với chỉ 5 thanh (phát thanh viên
này có thanh huyền trùng với thanh hỏi). Phải kết hợp với các điều kiện
khác để phân biệt thanh huyền và thanh hỏi.
− Kết quả nhận dạng cụ thể vầ thanh điệu, 19 phụ âm đầu, 7 phụ âm cuối, 12
nguyên âm chính cho một giọng nữ được chỉ ra trong các Bảng 1 đến Bảng 4
sau:
Số mẫu Số mẫu
STT Thanh điệu Kết quả
huấn luyện kiểm tra
1 Thanh ngã(x) 214 54 96,20%
2 Thanh huyền (f) 422 110 99,00%
3 Thanh hỏi (r) 394 101 93,06%
4 Thanh ngang (midle) 438 215 96,70%
5 Thanh sắc (s) 417 182 98,30%
Thanh sắc có kết thúc âm tiết
6 273 78 97,40%
/p/, /t/, /k/ (s2)
7 Thanh nặng (j) 341 94 98.90%
8 Thanh nặng có kết thúc âm 187 46 93,40%
tiết /p/, /t/, /k/ (j2)
20