Trong những năm đầu của cơn sốt AI, Nvidia gần như là nguồn cung duy nhất đối với các GPU tiên tiến nhất. Khi ngành công nghiệp AI mở rộng quy mô, những con chip này mang lại nguồn lợi nhuận khổng lồ cho Nvidia. Tuy nhiên, vài năm gần đây, các công ty công nghệ lớn vận hành hạ tầng đám mây quy mô lớn như Amazon và Google bắt đầu tự phát triển chip. Nvidia vì thế không còn là lựa chọn duy nhất, khiến nhiều nhà đầu tư đặt câu hỏi về độ bền vững của lợi thế mà hãng đang sở hữu.
Đây là một nhận định có cơ sở và phần lớn phản ánh đúng thực tế. Sau khi vốn hóa thị trường tăng gấp 10 lần từ đầu năm 2023 đến giữa năm 2025, cổ phiếu Nvidia đã duy trì đà tăng khiêm tốn hơn trong năm qua, chủ yếu do những lo ngại về sự cạnh tranh trong lĩnh vực GPU.
Tuy nhiên, sau khi Nvidia công bố kết quả kinh doanh, một câu chuyện mới đang dần hình thành và các nhà đầu tư bắt đầu nhận ra lợi thế của công ty còn vượt xa GPU. Khi năng lực tính toán phục vụ AI phát triển lên quy mô hàng gigawatt, việc điều phối toàn bộ hệ thống trở thành nhiệm vụ ngày càng phức tạp. Không ngạc nhiên khi Nvidia đã xây dựng nhiều loại phần cứng tiên tiến cần thiết để xử lý bài toán này, tạo cho công ty lợi thế lớn trong các hệ thống bao quanh GPU, ngay cả khi hãng phải đối mặt với sự cạnh tranh ngày càng gia tăng ở chính mảng GPU.
Nvidia đang cho thấy lợi thế trong cuộc đua AI không chỉ nằm ở GPU, mà còn ở khả năng điều phối toàn bộ hệ thống tính toán quy mô lớn. Ảnh: Bloomberg
Bất chấp những tranh luận cho rằng năng lực tính toán đang trở thành một loại hàng hóa phổ thông, việc vận hành một trung tâm dữ liệu quy mô cực lớn ở hiệu suất tối đa vẫn vô cùng khó khăn. Khi các hệ thống được triển khai ngày càng lớn và nhanh hơn, thách thức này cũng ngày càng gia tăng.
Điều đó có thể được nhìn thấy ngay từ những sản phẩm Nvidia đang đưa ra thị trường. Công ty hiện triển khai kiến trúc Vera Rubin, kết hợp GPU Rubin với một loạt bộ phận khác, gồm CPU Vera, bộ tăng tốc suy luận Groq 3 LPX cùng các rack tương tự dành cho lưu trữ và kết nối mạng.
Những trao đổi với các nhân sự tại Nvidia về chức năng thực tế của các hệ thống này đã cho thấy một khía cạnh đáng chú ý. Tương tự GPU Rubin, chúng là những hệ thống được chuyên biệt hóa ở mức cao. Tuy nhiên, thay vì xử lý token, chúng tập trung bảo đảm mọi thành phần bên ngoài GPU vận hành hiệu quả nhất có thể. Nếu GPU là động cơ, những hệ thống này chính là các bộ phận còn lại của chiếc xe.
CPU Vera đặc biệt tập trung vào bài toán điều phối dữ liệu. Jason Hardy, Phó chủ tịch phụ trách công nghệ lưu trữ của Nvidia, cho biết: "Vera rất quan trọng vì chỉ có một lượng bộ nhớ nhất định mà bạn có thể đặt vào một máy chủ đơn lẻ hoặc bất kỳ nền tảng tính toán nào".
Khi các trung tâm dữ liệu mở rộng năng lực tính toán, dung lượng bộ nhớ cũng tăng theo. Đây là lý do các công ty như Micron hưởng lợi lớn từ làn sóng đầu tư cơ sở hạ tầng thứ hai. Tuy nhiên, đưa dữ liệu đến GPU đúng thời điểm không phải nhiệm vụ đơn giản. Khi các doanh nghiệp tìm cách ngày càng giảm mức tiêu thụ điện trên mỗi token, họ cũng nhận ra việc điều hướng luồng dữ liệu quan trọng đến mức nào.
"Chúng tôi nhận thấy mức cải thiện lên tới 3 lần trong các hoạt động này, khi CPU Vera cho phép tăng tốc. Vì vậy, giờ đây chúng tôi có thể tận dụng bộ nhớ flash ở mức tối đa, bởi chúng tôi có thể khai thác toàn bộ hiệu năng của nó mà không gặp phải tình trạng nghẽn", Hardy nói.
Bài toán tương tự cũng xuất hiện bên ngoài Nvidia. Khi OpenAI phát triển chip Jalapeño, một trọng tâm lớn của công ty là loại bỏ những thách thức này bằng cách giảm lượng dữ liệu cần di chuyển.
"Chúng tôi thiết kế Jalapeno để giảm thiểu việc di chuyển dữ liệu và độ trễ giao tiếp. Miền xử lý lớn của chip cho phép toàn bộ khối lượng công việc được duy trì trong một hệ thống được kết nối duy nhất, giảm lượng dữ liệu phải di chuyển và giúp toàn bộ yêu cầu duy trì tốc độ nhanh, hiệu quả từ đầu đến cuối", OpenAI cho biết trong một bài đăng trên blog hồi đầu tháng.
Đây là một cách tiếp cận khác, khi việc di chuyển dữ liệu được loại bỏ hoàn toàn bằng cách thực hiện khối lượng công việc trong một con chip tích hợp duy nhất. Tuy nhiên, logic tổng thể vẫn tương đồng: nâng cao hiệu quả thông qua việc kiểm soát luồng dữ liệu thông minh hơn, thay vì chỉ đơn thuần tăng số chu kỳ xử lý của bộ vi xử lý. Điều này mở ra một lớp hạ tầng hoàn toàn mới để các công ty cạnh tranh.
Sự tập trung mới vào điều phối dữ liệu không đồng nghĩa Nvidia chắc chắn sẽ giành chiến thắng. Công ty vẫn phải cạnh tranh với các nhà sản xuất chip đối thủ và các hyperscaler, tương tự cuộc cạnh tranh mà hãng từng đối mặt trên thị trường GPU. Tuy nhiên, cuộc đua hiện đã chuyển sang một tầng mới, nơi việc xây dựng một GPU có khả năng cạnh tranh không còn quan trọng bằng việc khiến toàn bộ hệ thống vận hành hiệu quả.
Và ít nhất trong giai đoạn đầu, Nvidia dường như đang nắm giữ lợi thế vượt trội.
