ITC JSC triển khai hạ tầng siêu máy tính AI thế hệ mới cho Viettel

Sau khi trúng thầu vào tháng 5/2025, ITC JSC hiện đang triển khai hạ tầng siêu máy tính và trí tuệ nhân tạo (AI) thế hệ mới cho Viettel, thuộc khuôn khổ dự án trọng điểm trị giá 1.117 tỷ đồng. Với vai trò dẫn dắt liên danh gồm các đối tác hàng đầu về công nghệ, ITC đã bắt đầu triển khai một trong những hệ thống điện toán tiên tiến nhất Việt Nam tính tới thời điểm hiện tại, đánh dấu một bước tiến quan trọng trong hành trình xây dựng năng lực AI tự chủ của quốc gia.

Bước nhảy vọt chiến lược: Kiến tạo năng lực AI tự chủ cho Việt Nam

Dự án đầu tư này mang ý nghĩa vượt xa tầm vóc của một thương vụ mua sắm phần cứng đơn thuần. Nó góp phần đưa Việt Nam gia nhập nhóm các quốc gia tiên phong phát triển AI tại Đông Nam Á, đồng thời đặt nền móng hạ tầng vững chắc cho hoạt động nghiên cứu, phát triển và ứng dụng AI trên quy mô toàn quốc.

Với hệ thống này, Viettel có thể chủ động phát triển và huấn luyện các mô hình ngôn ngữ lớn (LLM), tự xây dựng các giải pháp AI chuyên biệt theo từng lĩnh vực và tăng tốc cho nhiều ứng dụng công nghệ thế hệ mới. Đặc biệt, toàn bộ quá trình lưu trữ, xử lý dữ liệu và huấn luyện mô hình sẽ được thực hiện ngay trong nước, giúp giảm thiểu sự phụ thuộc vào các nền tảng điện toán đám mây nước ngoài.

Không chỉ phục vụ riêng cho AI, hệ thống còn hỗ trợ đắc lực cho điện toán hiệu năng cao (HPC) trong các bài toán mô phỏng phức tạp và nghiên cứu khoa học, tạo đòn bẩy cho làn sóng chuyển đổi số trong các khối dịch vụ công, viễn thông và doanh nghiệp.

Bên cạnh đó, dự án cũng mở ra nhiều cơ hội đổi mới sáng tạo khi cung cấp năng lực tính toán quy mô lớn cho giới nghiên cứu, các trường đại học và cộng đồng startup. Vì vậy, đây không chỉ là một dự án công nghệ mà còn là bệ phóng vững chắc để phát triển hệ sinh thái số quốc gia trong dài hạn.

Kiến trúc công nghệ phía sau tầm nhìn chiến lược

“Trái tim” của toàn bộ dự án chính là ASUS ESC N8-E11 – một trong những nền tảng AI mạnh mẽ nhất thế giới hiện nay.

Mỗi máy chủ dạng rack 7U được trang bị hai bộ xử lý Intel Xeon thế hệ thứ 5, đi kèm tới 8 GPU NVIDIA H100 Tensor Core trên nền tảng kiến trúc NVIDIA HGX. Các thành phần này được liên kết chặt chẽ thành một cụm điện toán mật độ cao, tối ưu riêng cho các tác vụ AI phức tạp.

Hệ thống bộ nhớ, lưu trữ và kết nối mạng cũng được thiết kế với khả năng mở rộng vượt trội: tích hợp 32 khe cắm bộ nhớ DDR5 DIMM, nhiều làn PCIe Gen5 tốc độ cao và ổ lưu trữ NVMe hiệu năng cao. Kiến trúc mạng áp dụng mô hình một GPU – một NIC giúp tối ưu hóa băng thông cho từng GPU độc lập, xóa bỏ hoàn toàn các điểm nghẽn (bottleneck) thường gặp khi huấn luyện AI. Song song với đó, công nghệ NVLink và NVSwitch cung cấp băng thông giao tiếp giữa các GPU (GPU-to-GPU) lên tới 900 GB/giây – yếu tố sống còn cho các mô hình học máy quy mô lớn và tác vụ suy luận AI đa GPU.

NVIDIA H100 và hệ sinh thái phần mềm AI toàn diện

Sức mạnh cốt lõi của hệ thống nằm ở GPU NVIDIA H100 Tensor Core. Đây là dòng chip được thiết kế chuyên biệt cho các tác vụ AI thế hệ mới, từ huấn luyện mô hình ngôn ngữ lớn đến mô phỏng khoa học và phân tích dữ liệu chuyên sâu. Nhờ kiến trúc Tensor Core thế hệ thứ tư cùng Transformer Engine, H100 có thể tăng tốc độ suy luận của các mô hình ngôn ngữ lớn lên gấp 30 lần so với thế hệ NVIDIA A100 tiền nhiệm.

Tuy nhiên, sức mạnh của nền tảng này không chỉ dừng lại ở phần cứng khủng. Hệ thống còn được đồng bộ hóa toàn diện với hệ sinh thái phần mềm AI cao cấp của NVIDIA, bao gồm:

  • NVIDIA AI Enterprise: Bộ giải pháp đám mây gốc (cloud-native) dành cho doanh nghiệp, hỗ trợ xây dựng, triển khai các ứng dụng AI ở quy mô thương mại (production-ready) kèm dịch vụ hỗ trợ kỹ thuật chuyên sâu.
  • NVIDIA NGC: Kho thư viện khổng lồ chứa các mô hình AI đã được huấn luyện sẵn, các container tối ưu hóa, bộ công cụ phát triển phần mềm (SDK) được tinh chỉnh riêng cho phần cứng NVIDIA.
  • Các framework cốt lõi: Bao gồm CUDA, cuDNN, TensorRT và NeMo — những công nghệ nền tảng giúp tăng tốc tối đa cho các tác vụ học máy (machine learning), học sâu (deep learning) và điện toán hiệu năng cao (HPC).

Sự kết hợp đồng bộ giữa phần cứng vượt trội và phần mềm tối tân mang đến cho Viettel một môi trường AI được tối ưu hóa toàn diện, giúp rút ngắn đáng kể thời gian triển khai và đơn giản hóa công tác quản trị hạ tầng trong mọi kịch bản ứng dụng. diện, giúp rút ngắn thời gian triển khai và đơn giản hóa việc quản trị hạ tầng trong nhiều trường hợp ứng dụng.

Thiết kế tối ưu cho hiệu suất và tính bền vững

Để đảm bảo khả năng vận hành ổn định ở quy mô lớn, hệ thống rất chú trọng đến hiệu suất tản nhiệt và tính kinh tế khi vận hành. Các CPU và GPU được bố trí trong các vùng làm mát độc lập nhằm tối ưu hóa luồng khí khí động học.

Đối với các tác vụ xử lý mật độ cao, hệ thống sẵn sàng hỗ trợ công nghệ làm mát bằng chất lỏng trực tiếp đến chip (Direct-to-Chip Liquid Cooling), giúp máy duy trì trạng thái ổn định lý tưởng khi chạy tải nặng trong thời gian dài, đồng thời tiết kiệm đáng kể điện năng tiêu thụ. Ngoài ra, hệ thống nguồn dự phòng đạt chứng nhận 80 PLUS Titanium danh giá sẽ đảm bảo tính sẵn sàng cao nhất và tối ưu hóa hiệu quả sử dụng năng lượng.

Đẳng cấp toàn cầu, hiện diện tại Việt Nam

ASUS ESC N8-E11 là cái tên đã được bảo chứng năng lực qua các hệ thống siêu máy tính cấp quốc gia trên thế giới. Tại Đài Loan, siêu máy tính Ubilink – được xây dựng từ 128 máy chủ ASUS ESC N8-E11 và 1.024 GPU H100 – đã đạt hiệu năng tính toán ấn tượng 45,82 PFLOPS, ghi tên mình vào cả hai bảng xếp hạng siêu máy tính uy tín toàn cầu là TOP500 và Green500. Thành tựu này là minh chứng đắt giá nhất cho năng lực xử lý, hiệu quả năng lượng và khả năng mở rộng thực tế của kiến trúc mà ITC đang triển khai cho Viettel.

Chặng đường phía trước

Hiện tại, quá trình triển khai đang được thực hiện theo từng giai đoạn trên hạ tầng của Viettel, hướng tới mục tiêu tích hợp toàn diện vào các trung tâm dữ liệu và cơ sở nghiên cứu AI trong thời gian tới.

Sau giai đoạn lắp đặt, ITC sẽ tiếp tục đồng hành thông qua các chương trình đào tạo chuyên sâu, hỗ trợ kỹ thuật và cung cấp dịch vụ tối ưu hóa dài hạn. Nhờ đó, hệ thống sẽ liên tục được nâng cấp và hoàn thiện, đồng hành sát sao cùng các mục tiêu chiến lược của Viettel.

Dự án này không chỉ là một cột mốc vàng đối với ITC, mà còn là bước chuyển mình mạnh mẽ cho tương lai AI nước nhà. Chúng tôi rất vinh dự được góp một phần công sức vào việc kiến tạo nền tảng hạ tầng số, hướng tới một Việt Nam thông minh hơn, sáng tạo hơn và tự chủ hơn trong kỷ nguyên công nghệ mới.

Bài viết khác