Google Cloud Giới Thiệu Máy Ảo G2 Với NVIDIA L4 GPUs

Giới Thiệu Máy Ảo G2 Với NVIDIA L4 GPUs

Các doanh nghiệp đang tận dụng AI để tối ưu hóa hệ thống dữ liệu của họ. Tuy nhiên, các doanh nghiệp cũng khó áp dụng các mô hình mới do vấn đề chi phí trong việc training và quá trình triển khai. Vì vậy, cần một Cloud GPU mới để giúp các doanh nghiệp giảm chi phí đầu vào và khai thác sức mạnh của AI. Đó là lý do Google Cloud giới thiệu máy chủ ảo G2 – bổ sung mới nhất cho dòng GPU Compute Engine. Hãy cùng Cloud Ace tìm hiểu nhé.

G2 là máy ảo đám mây đầu tiên trong ngành được hỗ trợ bởi GPU NVIDIA L4 Tensor Core, mới được công bố và được xây dựng có mục đích cho Generative AI. G2 mang lại hiệu suất tiên tiến cho AI inference workloads chạy trên GPU trên nền tảng đám mây.

Với phiên bản G2 cùng GPU L4, các doanh nghiệp có thể giảm chi phí cơ sở hạ tầng sản xuất lên tới 40% và hiệu suất tốt hơn gấp 2-4 lần.

G2 sẽ sẵn sàng triển khai trên Vertex AI, GKE và GCE, cho phép doanh nghiệp tự do thiết kế, tùy chỉnh software stack để đáp ứng các yêu cầu về hiệu suất và ngân sách. Với sự hỗ trợ của Vertex AI được tối ưu hóa cho máy ảo G2, người dùng có thể khai thác các mô hình và công nghệ AI thế hệ mới nhất . Với giao diện dễ sử dụng và quy trình làm việc tự động, doanh nghiệp có thể truy cập, điều chỉnh và cung cấp các mô hình hiện đại cho video, văn bản, hình ảnh và âm thanh mà không cần tốn công sức tối ưu hóa thủ công.

Các dòng máy G2 cho phép doanh nghiệp machine learning chạy cơ sở hạ tầng sản xuất trên đám mây cho nhiều ứng dụng như: mô hình ngôn ngữ, phân loại hình ảnh, phát hiện đối tượng, nhận dạng giọng nói tự động và dịch ngôn ngữ.

Được xây dựng trên kiến trúc Ada Lovelace với Lõi Tensor thế hệ thứ tư, GPU NVIDIA L4 cung cấp hiệu suất lên tới 30 TFLOPS cho FP32 và 242 TFLOP cho FP16. Hỗ trợ FP8 mới được bổ sung cùng với các khả năng INT8, BFLOAT16 và TF32 hiện có, biến L4 trở nên phù hợp nhất cho ML inference

Với các Lõi RT thế hệ thứ ba và công nghệ DLSS 3.0 mới nhất, các phiên bản G2 phù hợp cho các khối lượng công việc sử dụng nhiều đồ họa như rendering và remote workstations khi kết hợp với NVIDIA RTX Virtual Workstation.

Ví dụ: G2 cho phép players chạy các game engines như: Unreal và Unity với card đồ họa hiện đại. Tương tự những khách hàng truyền thông có thể sử dụng L4 để tạo nội dung 3D có độ phân giải cao, chân thực cho phim, game và trải nghiệm AR/VR.