Chứng khoán CITIC: Nâng cấp khả năng lưu trữ trở thành nhu cầu cốt lõi của lý luận trí tuệ hiện tại

Mỗi Tin AI của Nhật báo Kinh tế: Báo cáo nghiên cứu của Citing Securities cho biết, AI đang tiến hóa từ “đối thoại đơn giản” sang “tác nhân (Agent)”, thúc đẩy độ dài ngữ cảnh tăng vọt. Theo dữ liệu của Epoch AI, cửa sổ ngữ cảnh dài nhất tăng khoảng 30 lần mỗi năm; dung lượng bộ nhớ hiển thị (KV Cache) và độ dài ngữ cảnh có mối quan hệ tăng tuyến tính, vượt xa tốc độ tăng trưởng của cấu hình phần cứng. Hiện tại, các nhà sản xuất mô hình lớn và các nhà cung cấp phần cứng chủ yếu giải quyết nút thắt “sức chứa” bằng các biện pháp như lượng tử hóa, lưu trữ phân tầng và tối ưu hóa kiến trúc mô hình, nhưng vẫn không làm thay đổi sự bùng nổ nhu cầu về bộ nhớ hiển thị. Citing Securities cho rằng, tối ưu bộ nhớ hiển thị có thể giúp giảm chi phí tạo ra cho mỗi token, từ đó kích thích người dùng bật khả năng truy cập đồng thời cao hơn và ngữ cảnh dài hơn; tổng nhu cầu “sức chứa” sẽ không giảm mà còn tăng. “Sức chứa” trở thành nhu cầu cốt lõi cho suy luận của Agent trong giai đoạn hiện tại, và kiên định lạc quan về xu hướng tăng trưởng của mảng lưu trữ.

Nhật báo Kinh tế hằng ngày

(Biên tập: Dong Pingping)

     【Tuyên bố miễn trừ trách nhiệm】Bài viết này chỉ thể hiện quan điểm của chính tác giả, không liên quan đến Hexun. Trang web Hexun giữ thái độ trung lập đối với các tuyên bố, phán đoán quan điểm được nêu trong bài; không đưa ra bất kỳ bảo đảm rõ ràng hay ngụ ý nào về tính chính xác, độ tin cậy hoặc tính đầy đủ của nội dung được bao gồm. Đề nghị độc giả chỉ dùng để tham khảo và tự chịu toàn bộ trách nhiệm. Email: news_center@staff.hexun.com

Báo cáo