Triển Khai Mô Hình Generative AI Với Google Cloud

Triển Khai Mô Hình Generative AI Với Google Cloud Vertex AI & PyTorch

Các foundaton model ngày càng được các doanh nghiệp ứng dụng rộng rãi trong việc tạo văn bản , hình ảnh, nhạc giúp phát triển ứng dụng/sản phẩm mới. Tuy nhiên, việc triển khai các mô hình lớn như Stable Diffusion tốn nhiều thời gian và gây khó khăn. Chính vì vậy, Google Cloud đã giới thiệu cách xây dựng mô hình Stable Diffusion chỉ trong 4 bước với Vertex AI và PyTorch. Hãy cùng Cloud Ace tìm hiểu nhé.

PyTorch là framework được Stability AI sử dụng trên Stable Diffusion v1.5.

Vertex AI là nền tảng machine learning với các công cụ và CSHT được thiết kế để giúp doanh nghiệp tăng tốc và mở rộng quy mô ML trong sản xuất. Doanh nghiệp có thể triển khai mô hình PyTorch Stable Diffusio (v1.5) chỉ trong 4 bước sau:

Tạo trình xử lý TorchServe tùy chỉnh.
Tải các tạo phẩm mô hình lên Google Cloud Storage (GCS).
Tạo mô hình Vertex AI với các thành phần mô hình và hình ảnh của prebuilt PyTorch container.
Triển khai mô hình AI của Vertex đến endpoint.

Bước 1 - Tạo trình xử lý TorchServe tùy chỉnh

TorchServe là một công cụ dễ dàng và linh hoạt cho các mô hình PyTorch. Model được triển khai cho Vertex AI sử dụng TorchServe để xử lý các yêu cầu và trả về phản hồi. Người dùng phải tạo một trình xử lý TorchServe tùy chỉnh để tải model artifact lên Vertex AI.

Tạo tệp trình xử lý trong thư mục với các model artifact khác, như sau: model_artifacts/handler.py.

Sau khi tạo tệp xử lý, người dùng phải đóng gói trình xử lý dưới dạng tệp lưu trữ mô hình (MAR). Tệp đầu ra phải được đặt tên model.mar.

from google.cloud import aiplatform as vertexai
PYTORCH_PREDICTION_IMAGE_URI = (
"us-docker.pkg.dev/vertex-ai/prediction/pytorch-gpu.1-12:latest"
)
MODEL_DISPLAY_NAME = "stable_diffusion_1_5-unique"
MODEL_DESCRIPTION = "stable_diffusion_1_5 container"

vertexai.init(project='your_project', location='us-central1', 
staging_bucket=BUCKET_NAME)

model = aiplatform.Model.upload(
display_name=MODEL_DISPLAY_NAME,
description=MODEL_DESCRIPTION,
serving_container_image_uri=PYTORCH_PREDICTION_IMAGE_URI,
artifact_uri=BUCKET_URI,
)

Cloud Ace

Google Cloud Managed Service Provider