Áp dụng xác suất thống kê và quá trình máy tự học cho bài toán phân tách từ văn bản tiếng Việt
Tác giả: Lê Trung Hiếu, Lê Anh Vũ, Lê Trung KiênTóm tắt:
Trình bày hai vấn đề chính: Sử dụng mô hình xác suất nhận dạng và phân tách từ tiếng Việt; Áp dụng quá trình máy tự học xây dựng mô hình xác suất tối ưu. Với mỗi mô hình xác suất, từ mới được nhận dạng, các tiếng thuộc từ mới được nối tạo thành tiếng mới trong mô hình xác suất mới. Quá trình nối chuỗi các tiếng tạo thành tiếng mới làm giảm sự nhập nhằng giữa tiếng và từ trong tiếng Việt, tăng độ chính xác cho các hàm thống kê, tăng hiệu quả cho quá trình nhận dạng từ mới. Vì vậy, mô hình xác suất sẽ hội tụ về mô hình tối ưu. Quá trình thực nghiệm với 250.034 bài báo online, gồm hơn 15.000.000 câu tiếng Việt. Độ chính xác của thuật toán phân tách từ đạt trên 90%. Từ điển được xây dựng gồm hơn 100.000 từ và cụm từ tiếng Việt.
- Sức khỏe qua lăng kính tục ngữ : so sánh Việt Nam và Nhật Bản
- Đối chiếu về từ xưng hô trong công sở giữa tiếng Nhật và tiếng Việt (khảo sát trên cứ liệu phim “From Five To Nine” và phim “Những nhân viên gương mẫu”
- Phân tích một số mẫu câu thường dùng trong email của người Nhật đối chiếu với tiếng Việt
- Đối chiếu dấu ấn văn hóa dân tộc bên trong những câu tục ngữ Việt Nam và tục ngữ Trung Hoa có từ chỉ tên động vật
- Dạy học tiếng Việt ở vùng dân tộc thiểu số Việt Nam: Một số vấn đề đặt ra