MẠNG NƠ-RON ĐỒ THỊ VÀ TÍNH DỄ BỊ TỔN THƯƠNG TRONG ỨNG DỤNG THỰC TẾ

Bối cảnh

• Mạng nơ-ron đồ thị (GNN) là một dạng trí tuệ nhân tạo dùng để phân tích dữ liệu dạng đồ thị
• GNN được ứng dụng trong nhiều lĩnh vực thực tế như mạng xã hội, hệ thống giao dịch tài chính và phát hiện hành vi bất thường
• Tuy nhiên, các mô hình này có thể tồn tại những điểm yếu dễ bị khai thác
• Cần đánh giá mức độ dễ bị tấn công của mạng nơ-ron đồ thị trong các ứng dụng thực tế
• Chỉ với những thay đổi nhỏ trong cấu trúc đồ thị, hiệu quả dự đoán của mô hình có thể suy giảm đáng kể
• Vì vậy, việc xác định các điểm dễ tổn thương là rất quan trọng để đảm bảo an toàn hệ thống

Giải pháp

• Mô phỏng các cuộc tấn công lên mạng nơ-ron đồ thị bằng cách thêm hoặc xóa các cạnh trong đồ thị
• Áp dụng nhiều phương pháp tấn công khác nhau như Structural Gradient-based Attack và chiến lược tham lam Greedy
• Phân tích cấu trúc đồ thị để xác định những nút và cạnh dễ bị tổn thương nhất
• Dữ liệu được biểu diễn dưới dạng đồ thị, gồm các đỉnh và các mối liên hệ giữa chúng
• Mô hình tập trung khai thác thông tin từ cả đặc trưng của nút và cấu trúc liên kết
• Các thí nghiệm được thực hiện trên nhiều loại đồ thị khác nhau để đánh giá độ ổn định của mô hình

Mục tiêu

• Đánh giá mức độ an toàn của mạng nơ-ron đồ thị trước các tấn công đối kháng
• Xác định các điểm yếu trong cấu trúc đồ thị làm suy giảm độ chính xác của mô hình
• Đề xuất cơ sở để phát triển các phương pháp phòng vệ hiệu quả hơn trong tương lai

Ứng dụng

• Giúp tăng cường độ an toàn cho các hệ thống sử dụng GNN trong thực tế
• Có thể ứng dụng trong bảo mật mạng xã hội, phát hiện gian lận tài chính và các hệ thống phân tích dữ liệu quan hệ
• Góp phần giảm thiểu rủi ro khi triển khai AI trên các bài toán có tính nhạy cảm cao