Ollama cho Mac bổ sung tính năng tạo giọng nói từ văn bản cục bộ

Ollama, ứng dụng phổ biến dùng để chạy các mô hình AI cục bộ, vừa thông báo rằng phiên bản dành cho máy Mac đã hỗ trợ tính năng tạo văn bản thành giọng nói, trong khi các phiên bản cho Windows và Linux sẽ sớm ra mắt. Dưới đây là các chi tiết.

Ollama hiện hỗ trợ các mô hình giọng nói

Nếu bạn chưa biết, Ollama là nền tảng cho phép người dùng tải xuống và chạy các mô hình AI mã nguồn mở cục bộ trên máy Mac, hoặc truy cập các mô hình mạnh mẽ hơn thông qua đám mây. Ứng dụng này cũng có sẵn cho Windows và Linux.

Bản thân Ollama là mã nguồn mở và đã trở thành một trong những dự án AI phổ biến nhất trên GitHub, với gần 185.000 sao và khoảng 18.600 lượt fork.

Trên macOS, Ollama sử dụng MLX của Apple, một framework máy học mã nguồn mở tận dụng kiến trúc bộ nhớ thống nhất của Apple Silicon, giúp các mô hình AI được hỗ trợ chạy nhanh hơn và hiệu quả hơn.

Khi người dùng thiết lập và chạy Ollama, họ có thể tải xuống các mô hình AI mã nguồn mở tương thích từ các kho lưu trữ như Hugging Face và chạy chúng trực tiếp trên máy Mac của mình.

Điều này có nghĩa là họ có thể sử dụng AI mà không cần kết nối Internet hoặc gửi dữ liệu của mình đến các máy chủ bên ngoài, mặc dù hiệu suất và kích thước của các mô hình họ có thể chạy phụ thuộc phần lớn vào phần cứng của máy Mac.

Cần lưu ý rằng Ollama gần đây đã công bố hỗ trợ Phonon, một bộ mô hình chuyển văn bản thành giọng nói do Gradium phát triển, đánh dấu lần đầu tiên nền tảng này hỗ trợ tạo giọng nói.

Như Ollama giải thích, giọng nói được tạo ra trong thời gian thực, có nghĩa là người dùng có thể nghe các phản hồi do AI tạo ra ngay khi chúng đang được sản xuất, thay vì phải đợi toàn bộ phản hồi hoàn tất.

Từ Ollama:

Ollama giờ đây có thể chuyển văn bản thành giọng nói. Mô hình giọng nói đầu tiên là Phonon, một bộ các mô hình chuyển văn bản thành giọng nói nhỏ, tiên tiến từ Gradium. Các mô hình giọng nói hiện đã có sẵn cho macOS, với sự hỗ trợ cho Windows và Linux sắp ra mắt.

Nền tảng này cho biết, nhờ framework MLX của Apple, họ đã đạt được tốc độ tạo giọng nói nhanh hơn 35% so với cách triển khai của chính Gradium trong các thử nghiệm trên MacBook Pro trang bị M5 Max, đồng thời khớp với tỷ lệ lỗi từ của bản tham chiếu trong Hugging Face Transformers.

Phonon hỗ trợ năm ngôn ngữ (tiếng Anh, tiếng Pháp, tiếng Đức, tiếng Tây Ban Nha và tiếng Bồ Đào Nha) với các mô hình riêng biệt cho từng ngôn ngữ, cũng như một mô hình đa ngôn ngữ hỗ trợ cả năm ngôn ngữ.

Người dùng cũng có thể chọn từ nhiều giọng nói khác nhau với các điểm nhấn khác nhau, bao gồm tiếng Anh Mỹ và tiếng Anh Anh, tùy thuộc vào mô hình.

Các mô hình giọng nói mới hiện đã có sẵn cho các máy Mac dùng Apple Silicon chạy Ollama 0.40.11 trở lên. Người dùng có thể bắt đầu bằng cách tải xuống Phonon trực tiếp thông qua Ollama.