AMD đã phát hành bộ xử lý đồ họa Instinct MI325X, nhắm đến các trung tâm dữ liệu đào tạo AI và cạnh tranh trực tiếp với Nvidia H200.
Ra mắt vào ngày 10/10 tại sự kiện Advancing AI ở San Francisco, Instinct MI325X là phiên bản kế nhiệm của MI300 ra mắt cuối năm ngoái nhưng được tăng VRAM lên 256 GB HBM3e thay vì 192 GB HBM3 như “người tiền nhiệm” của mình. Cách tiếp cận này tương tự như Nvidia H200 của năm ngoái, giữ nguyên sức mạnh tính toán nhưng tăng dung lượng bộ nhớ và băng thông.
Chip AMD Bản năng MI325X. hình ảnh: AMD
Theo AMD, cách làm của AMD được đánh giá là hợp lý trong bối cảnh khối lượng công việc lớn mà chip AI cần xử lý. đăng ký. Tốc độ càng nhanh và càng có nhiều bộ nhớ thì hiệu suất sẽ càng tốt. AMD khác với Nvidia ở chỗ họ nhồi nhét nhiều bộ nhớ băng thông cao (HBM) hơn vào chip của mình, phù hợp với các đám mây muốn triển khai các mô hình quy mô teraparameter (chẳng hạn như GPT-4o của OpenAI) trên ít nhà cung cấp nút xử lý hơn.
MI325X hiện có băng thông bộ nhớ nhiều hơn 6 TB/s, không nhiều so với 5,3 TB/s của MI300X. Tuy nhiên, mức tiêu thụ điện năng tăng đáng kể, từ 250 watt lên 1.000 watt. AMD tuyên bố rằng trong thử nghiệm thực tế, MI325X vượt trội hơn Nvidia H200 từ 20% đến 40% về hiệu suất suy luận trên các mẫu Llama 3.1 70B (70 tỷ tham số) và 405B (405 tỷ tham số) của Meta.
AMD cho biết Instinct MI325X sẽ được sản xuất hàng loạt vào quý 4 năm 2024 và tương thích với các hệ thống của Dell, Eviden, Gigabyte, HP, Lenovo, Super Micro và các hãng khác nhưng giá bán vẫn chưa được tiết lộ. Ngoài MI325X, phiên bản MI355X với HBM3e 288 GB cũng sẽ ra mắt vào năm tới.
theo CNBCMI325X đang trở thành đối trọng giúp AMD cạnh tranh trực tiếp hơn với Nvidia. Công ty của Jensen Huang thống trị thị trường GPU AI, nhưng nếu các nhà phát triển và gã khổng lồ điện toán đám mây chọn AMD, điều đó có thể gây áp lực rất lớn lên Nvidia.
Khi ra mắt sản phẩm, AMD đặt mục tiêu giành thị phần từ các đối thủ, hoặc ít nhất chiếm được một phần đáng kể trong thị trường ước tính 500 tỷ USD vào năm 2028. Giám đốc điều hành AMD Lisa Su cho biết: “Nhu cầu về AI tiếp tục tăng mạnh và tỷ lệ đầu tư thực tế đang tiếp tục tăng”.
Với MI325X, AMD đang đẩy nhanh tiến độ ra mắt sản phẩm, tung ra chip mới hàng năm nhằm cạnh tranh tốt hơn với Nvidia và tận dụng sự bùng nổ của thị trường. Bà Su cho biết MI300X bắt đầu xuất xưởng vào cuối năm ngoái. Con chip dự kiến ra mắt vào năm 2025 có tên là MI350, còn con chip ra mắt vào năm 2026 có tên là MI400.
- Cuộc thi chip AI của chú cháu Huang Renxun và Lisa Su
- AMD đặt cược vào điện toán AI
