TRÍ TUỆ NHÂN TẠO | Trình duyệt Opera tích hợp các mô hình AI lớn để tải xuống cục bộ và sử dụng ngoại tuyến

Công ty trình duyệt hàng đầu, Opera, cho biết rằng họ đang thêm hỗ trợ thử nghiệm cho 150 biến thể LLM (Mô hình Ngôn ngữ Lớn) địa phương từ khoảng 50 họ mô hình vào trình duyệt Opera One của họ trong dòng phát triển.

Các LLM như mô hình GPT (Transformer Tiền Huấn luyện Sinh ra) do OpenAI phát triển, là các hệ thống trí tuệ nhân tạo tiên tiến được huấn luyện trên lượng lớn dữ liệu văn bản để hiểu và tạo ra văn bản giống như con người. Chúng được sử dụng cho nhiều nhiệm vụ xử lý ngôn ngữ tự nhiên, bao gồm tạo văn bản, dịch thuật và tóm tắt.

Theo Opera, đây là lần đầu tiên các LLM địa phương có thể dễ dàng truy cập và quản lý từ một trình duyệt lớn thông qua một tính năng tích hợp sẵn. Các mô hình AI địa phương là một bổ sung miễn phí cho dịch vụ AI Aria trực tuyến của Opera. Trong số các LLM địa phương được hỗ trợ có:

• Llama từ Meta
• Vicuna
• Gemma từ Google
• Mixtral từ Mistral AI

“Việc giới thiệu LLM địa phương theo cách này cho phép Opera bắt đầu khám phá các cách xây dựng trải nghiệm và kiến thức trong không gian AI địa phương đang phát triển nhanh,” nói Krystian Kolondra, EVP Trình duyệt và Trò chơi tại Opera.

Sử dụng Các Mô hình Ngôn ngữ Lớn Địa phương có nghĩa là dữ liệu của người dùng được giữ tại chỗ trên thiết bị của họ, cho phép họ sử dụng AI sinh tạo mà không cần gửi thông tin đến máy chủ, Opera cho biết.

Trong số các vấn đề nổi bật trong cuộc thảo luận về trí tuệ nhân tạo là quyền riêng tư dữ liệu, đã khiến ba dự án AI phi tập trung hàng đầu; Fetch.ai, SingularityNET (SNET), và Ocean Protocol quyết định hợp nhất để tạo ra một hệ sinh thái AI phi tập trung.

“Tính đến hôm nay, người dùng Opera One Developer có cơ hội chọn mô hình mà họ muốn sử dụng để xử lý đầu vào của mình. Để thử nghiệm các mô hình, họ phải nâng cấp lên phiên bản mới nhất của Opera Developer và làm theo một số bước để kích hoạt tính năng mới,” Opera nói.

“Chọn một LLM địa phương sẽ tải xuống máy của họ. LLM địa phương, thường yêu cầu từ 2-10 GB dung lượng lưu trữ tại chỗ cho mỗi biến thể, sau đó sẽ được sử dụng thay thế Aria, AI trình duyệt gốc của Opera, cho đến khi người dùng bắt đầu một cuộc trò chuyện mới với AI hoặc chuyển lại Aria.”

Theo dõi chúng tôi trên Twitter để cập nhật bài đăng mới nhất và các tin tức mới nhất