Moreh đã ra mắt một cụm máy chủ trí tuệ nhân tạo ở Việt Nam, tích hợp các máy gia tốc TenStorrent và AMD, hứa hẹn sẽ tối ưu hóa chi phí và cải thiện hiệu suất đào tạo trí tuệ nhân tạo.
Trong bối cảnh nhu cầu tính toán tính toán của trí tuệ nhân tạo toàn cầu (AI), công ty có trụ sở tại cơ sở hạ tầng AI tại Hoa Kỳ, Hàn Quốc và Việt Nam vừa ra mắt cụm Master Master hiện đại. Cụm máy chủ tích hợp hai yếu tố chính: GPU hiệu suất cao của AMD và Đơn vị xử lý thần kinh (NPU) của AMD.
Trung tâm dữ liệu của Moreh được trang bị GPU AMD và NPU Tenstorrent. hình ảnh: MO lei
Theo thử nghiệm nội bộ của Moreh, vì tiềm năng của GPU và NPU có thể được chơi tốt nhất, so với khung phổ biến, giải pháp giúp tăng hiệu suất đào tạo mô hình AI lên tới 50%. Duy trì và phát triển cơ sở hạ tầng trí tuệ nhân tạo đồng bộ dự kiến sẽ tối ưu hóa chi phí và mở đường cho các doanh nghiệp đi xa hơn trong thời đại trí tuệ nhân tạo.
NPU là một công nghệ chuyên về các nhiệm vụ học tập sâu. Không giống như GPU có nguồn gốc trong lĩnh vực đồ họa, thiết kế của thiết kế NPU là các nhiệm vụ toán học như ma trận và tích chập. Nhờ cấu trúc phần cứng đặc biệt của mình, NPU Tenstorrent dự kiến sẽ cung cấp hiệu suất xử lý cao ở mức tiêu thụ năng lượng thấp để giúp các doanh nghiệp giảm chi phí vận hành và rút ngắn thời gian đào tạo của các mô hình AI.
Mô -đun NPU TenStorrent của Phòng máy chủ Moreh. hình ảnh: MO lei
Đại diện Moreh nói rằng việc chọn Tenstorrent làm nhà cung cấp NPU là một phần của chiến lược phát triển bền vững của AI. Tenstorrent, dẫn đầu bởi Jim Keller, đang nghiên cứu công nghệ phần cứng trong kỷ nguyên của các mô hình ngôn ngữ lớn. Trong phòng máy chủ của Moreh, mô -đun NPU Tenstorrent hoạt động như một “máy gia tốc” để đào tạo và lý luận quy mô lớn.
Jim Keller, CEO của Tenstorrent, cho biết: “Moreh có một nhóm phần mềm hư hỏng và luôn thúc đẩy sự phát triển của chúng tôi các API và giải pháp tiên tiến hơn.” Trung tâm dữ liệu.
Moreh và Tenstorrent đã dành hai năm để phát triển và đạt được giải pháp trung tâm dữ liệu AI hoàn chỉnh. Theo những người trong ngành, các cuộc thảo luận kỹ thuật, thử nghiệm và xử lý tốt phần cứng và phần mềm giúp hai bên hiểu được lợi thế của từng thành phần và sử dụng đầy đủ khả năng tương thích giữa NPU và GPU AMD của Tenstorrent.
Ông Dao Thanh Tuân (trái) và trưởng nhóm NPU NPU NPU, ông Dao Thanh Tuan. hình ảnh: MO lei
Dự kiến giải pháp kết hợp này có thể phục vụ hiệu quả các vấn đề lý luận và đào tạo mô hình ngôn ngữ lớn. Mục tiêu là để đạt được thương mại hóa toàn cầu trong nửa đầu năm 2025, để giúp Moreh tạo ra nhiều động lực hơn để đi xa hơn trên bản đồ trí tuệ nhân tạo của thế giới.
Với các tính năng mạnh mẽ của khả năng tối ưu hóa cơ sở hạ tầng và phần mềm GPU-NPU, Moreh đang mở rộng sang “các mô hình thực địa” trong việc phát triển chăm sóc y tế, tài chính và sản xuất. Những mô hình này sẽ giúp rút ngắn thời gian nghiên cứu và cải thiện tính chính xác của các ứng dụng thực tế.
Moreh cam kết thúc đẩy nghiên cứu và phát triển mở, tích hợp công nghệ không đồng nhất và hỗ trợ hiệu quả GPU và NPU. Ông Thanh Tuân, giám đốc của Moreh Việt Nam, nói rằng công ty sẽ đi cùng cộng đồng với tương lai của trí tuệ nhân tạo để trở thành một động lực quan trọng, biến Việt Nam trở thành một nền kinh tế xa hơn.
Ông Tuan cho biết: “Moreh đã ra mắt NPU và AMD GPU AMD Cụm cho thấy trạng thái tiên phong của nó, cho thấy khả năng kỹ thuật tuyệt vời và đột phá.”
Võ thuật
