Google Cloud ra mắt công cụ đánh giá rủi ro SAIF mới

Google Cloud ra mắt công cụ đánh giá rủi ro SAIF mới

Google Cloud Secure AI Framework (SAIF) là một khuôn khổ hỗ trợ triển khai mô hình AI hiệu quả và an toàn. SAIF không chỉ chia sẻ các use case từ Google Cloud mà còn tạo nền tảng hợp tác, đảm bảo mô hình AI đáp ứng tiêu chuẩn bảo mật. Để thúc đẩy việc này, Google Cloud đã thành lập liên minh CoSAI và ra mắt công cụ mới giúp người dùng đánh giá bảo mật và áp dụng các giải pháp tốt nhất, cung cấp danh sách kiểm tra phù hợp, hướng tới một hệ sinh thái AI an toàn hơn. Hãy cùng Cloud Ace tìm hiểu công cụ đánh giá bảo mật SAIF này nhé.

Sau khi trả lời các câu hỏi, công cụ sẽ lập tức tạo các báo cáo nêu rõ các rủi ro cụ thể đối với hệ thống AI của người gửi, cùng với các biện pháp nhằm giảm thiểu đề xuất dựa trên thông tin họ cung cấp. Các rủi ro này gồm các dữ liệu về: Data Poisoning, Prompt Injection, Model Source Tampering, etc. Đối với mỗi rủi ro được xác định, báo cáo sẽ cung cấp lý do phân loại, thông tin chi tiết và giải thích về các rủi ro kỹ thuật cũng như các biện pháp kiểm soát để giảm thiểu.

Để biết thêm chi tiết, người dùng có thể truy cập SAIF Risk Map - công cụ giúp giải thích cách nhận diện, khai thác và giảm thiểu các rủi ro bảo mật trong quá trình phát triển AI.

Google Cloud đã hợp tác với Coalition for Secure AI (CoSAI) đã khởi động ba luồng công việc kỹ thuật chính: Software Supply Chain Security for AI Systems (bảo mật chuỗi cung ứng phần mềm cho hệ thống AI), Preparing Defenders for a Changing Cybersecurity Landscape (chuẩn bị cho các nhà bảo vệ trước bối cảnh an ninh mạng liên tục thay đổi), và AI Risk Governance (quản trị rủi ro AI). Khả năng SAIF Risk Assessment (đánh giá rủi ro SAIF) hỗ trợ quản trị rủi ro về AI, giúp doanh nghiệp xây dựng hệ sinh thái AI an toàn hơn.

Cloud Ace

Google Cloud Managed Service Provider