SEAS 2026

NGHIÊN CỨU TẤN CÔNG ĐỐI KHÁNG TRÊN BÀI TOÁN NHẬN DIỆN VẬT THỂ

Dự án đầu tiên có mục tiêu là đánh giá lỗ hổng bảo mật của mô hình YOLOv3 – công nghệ thị giác máy tính phổ biến trên camera giám sát. Nhóm nghiên cứu tập trung vào kịch bản tấn công đối kháng TOG, nơi các hạt nhiễu siêu nhỏ (vô hình với mắt người) có thể khiến AI nhận diện sai lệch hoặc bỏ sót vật thể hoàn toàn.

Thực nghiệm cho thấy mô hình rất dễ bị tổn thương, đặc biệt là với kịch bản làm "biến mất" vật thể (TOG-Vanishing) và các vật thể có kích thước nhỏ ở cự ly xa. Cuộc tấn công diễn ra cực nhanh (chưa tới 0.5 giây/ảnh) nhưng đạt tỷ lệ thành công gần như tuyệt đối mà không làm giảm chất lượng ảnh quan sát.

Từ kết quả này, nhóm đề xuất các giải pháp gia cố như bổ sung dữ liệu nhiễu khi huấn luyện và dùng bộ lọc triệt tiêu nhiễu trước khi đưa vào mô hình. Nghiên cứu góp phần nâng cao độ an toàn cho các hệ thống AI thực tế như xe tự lái và giám sát an ninh. Trong tương lai, nhóm hướng tới thử nghiệm các kịch bản tấn công phức tạp hơn trong môi trường thực tế.

Bối cảnh

Sự phát triển mạnh mẽ của các hệ thống Computer Vision và mô hình phát hiện đối tượng (YOLO) trong các ứng dụng thực tế như xe tự lái, giám sát an ninh.
Các mô hình AI vẫn rất nhạy cảm và dễ bị tổn thương trước các tấn công đối kháng (Adversarial Attacks) như tấn công TOG (Targeted Adversarial Object Attacks).
Nhiễu đối kháng cực nhỏ, khó phát hiện bằng mắt thường nhưng có thể làm mô hình nhận diện sai lệch hoàn toàn hoặc làm đối tượng biến mất.
Câu hỏi nghiên cứu: Đâu là mức độ ảnh hưởng của tấn công TOG lên mô hình YOLO và các giải pháp phòng thủ hiệu quả là gì?

Giải pháp

Thực nghiệm các kịch bản tấn công TOG (Vanishing, Fabrication, Mislabeling, Untargeted) trên tập dữ liệu chuẩn MS COCO 2017 với mạng Darknet-53.
Xác định tham số tối ưu (Biên độ nhiễu, Số bước lặp) giúp cân bằng giữa tỉ lệ tấn công thành công (ASR) và chất lượng ảnh (PSNR).
Áp dụng các phương pháp phòng thủ: Huấn luyện đối kháng (Adversarial Training), Tiền xử lý & Lọc nhiễu đầu vào (Input Preprocessing), và Trích xuất đặc trưng kháng nhiễu (Feature Denoising).

Mục tiêu

Đánh giá lỗ hổng bảo mật của mô hình phát hiện vật thể YOLO trước các phương pháp tấn công TOG.
Phân tích ảnh hưởng của biên độ nhiễu, số bước lặp và kích thước vật thể đến hiệu quả tấn công (ASR) và chất lượng ảnh (PSNR).
Đề xuất các giải pháp phòng thủ nhằm gia tăng tính an toàn và độ tin cậy cho các hệ thống thị giác máy tính.

Ứng dụng

Cải thiện độ an toàn và độ tin cậy cho các hệ thống xe tự lái (tránh rủi ro bị "làm tàng hình" biển báo, người đi bộ).
Nâng cao tính bảo mật cho các hệ thống giám sát an ninh, nhận diện khuôn mặt và phân tích hình ảnh thông minh.
Mở ra tiềm năng ứng dụng các kỹ thuật phòng thủ đối kháng trong hạ tầng AI thực tế.

Thành viên

Giảng viên hướng dẫn: Nguyễn Tiết Nguyên Khôi, Nguyễn Xuân Minh Đức

Thành viên nhóm: Dương Phương Đông, Hoàng Bình Minh, Trần Hoài Thương, Dương Xuân Quân, Lê Quang Huy

Phỏng vấn thành viên dự án

Học viên SEAS 2026

Trần Thị Hoài Thương

Quá trình hoàn thiện dự án của nhóm bạn diễn ra như thế nào? Có kỉ niệm nào đáng nhớ không?

Nếu dùng ba từ để nói về quá trình từ lúc phân chia nhóm đến khi hoàn thành dự án, mình sẽ chọn: nghiêm túc, cẩn thận và gắn kết. Ngay từ đầu, cả nhóm đã xác định làm việc với thái độ nghiêm túc, phân chia nhiệm vụ rõ ràng và kiểm tra kỹ từng phần để hạn chế sai sót. Đồng thời, sự gắn kết giữa các thành viên giúp mọi người luôn tôn trọng ý kiến của nhau và hỗ trợ khi cần.

Trong suốt quá trình làm dự án, khi gặp bài toán khó, cả nhóm cùng tìm hiểu, sau đó đưa ra ý kiến cá nhân và thảo luận để chọn hướng giải quyết tối ưu. Nhờ vậy, nếu có sai sót thì cũng được phát hiện và chỉnh sửa kịp thời.

Vì đã chuẩn bị cẩn thận từ trước, nên đến đêm trước ngày thuyết trình, nhóm không gặp sự cố nghiêm trọng mà chủ yếu tập trung luyện tập để tự tin hơn và chuẩn bị cho phần hỏi đáp. Ngoài ra, chúng mình cũng xin ý kiến từ các mentor để hoàn thiện bài tốt hơn.

Buổi thuyết trình diễn ra khá suôn sẻ. Nhóm không chỉ trình bày nội dung mà còn thêm một vài yếu tố nhẹ nhàng để tạo không khí thoải mái và vui vẻ cho khán giả. Dù phần trả lời câu hỏi còn đôi lúc lúng túng, nhưng tất cả đều đã cố gắng hết mình và đó vẫn là một trải nghiệm đáng nhớ.

Sau khi hoàn thành dự án, bạn học hỏi được điều gì, và có dự định gì cho tương lai không?

Trước khi tham gia SEAS, mình nghĩ AI chủ yếu là những mô hình thông minh có thể nhận diện và xử lý dữ liệu một cách chính xác. Tuy nhiên, sau khi thực hiện dự án về tấn công đối kháng trong mô hình nhận diện vật thể, mình nhận ra chỉ với những thay đổi rất nhỏ hay các nhiễu trong dữ liệu đầu vào, các mô hình này vẫn có thể bị đánh lừa và đưa ra kết quả sai lệch. Điều này khiến mình thay đổi góc nhìn rằng AI không chỉ là công cụ mạnh mẽ mà còn tồn tại nhiều lỗ hổng cần được nghiên cứu và cải thiện.

Theo mình, giá trị lớn nhất của dự án nằm ở việc giúp con người nhận diện sớm những điểm yếu của các hệ thống AI trong thực tế, từ đó có thể phát triển các giải pháp bảo mật và tăng độ tin cậy trước khi xảy ra sự cố nghiêm trọng. Đây cũng là một hướng đi rất tiềm năng trong tương lai, đặc biệt khi AI ngày càng được ứng dụng rộng rãi.

Sau dự án này, điều mình tích lũy được không chỉ là kiến thức kỹ thuật mà còn là kỹ năng làm việc nhóm và tư duy phản biện. Mình học được cách đặt câu hỏi, kiểm tra giả thuyết và phối hợp hiệu quả với các thành viên khác. Đây chắc chắn sẽ là nền tảng quan trọng cho những dự án trong tương lai.

Câu hỏi thường gặp

Khi lên ý tưởng cho dự án của SEAS, mình nghĩ rằng AI Safety (An toàn AI) là một đề tài hay và thú vị. Với tốc độ phát triển của các mô hình AI/ML ngày nay, mình nghĩ rằng đề tài này sẽ giúp được các bạn (1) tìm hiểu về điểm yếu của các mô hình AI/ML, biết rằng chúng không toàn năng và không hoàn hảo (2) bên cạnh đó, việc đào sâu vào các điểm mạnh và điểm yếu của các mô hình AI/ML cũng giúp các bạn hiểu hơn về bản chất và kiến trúc các mô hình, cách các mô hình được huấn luyện và tối ưu.

Trong học máy, mô hình nhận diện vật thể rất phổ biến và có nhiều ứng dụng trên các hệ thống camera giám sát, xe tự hành, … Trong dự án này, các bạn học viên sẽ đóng vai trò là một kẻ tấn công, tìm cách khai thác điểm yếu của mô hình nhận diện vật thể, thông qua đó làm sai lệch kết quả đầu ra của mô hình. Bên cạnh đó, các bạn cũng sẽ dành thời gian để tìm hiểu về các phương pháp phòng thủ, nhằm tăng độ tin cậy của các mô hình nhận diện vật thể.

Nguyễn Tiết Nguyên Khôi – Trợ giảng

Để có thể thực hiện dự án, các bạn học viên cần hiểu rõ bản chất của mô hình học máy nói chung và mô hình nhận diện vật thể nói riêng. Từ kiến trúc mạng nơ-ron đến cách các mô hình được huấn luyện. Từ đó, các thuật toán tấn công chủ yếu khai thác vào những lỗ hổng của mô hình trong mạng kiến trúc hoặc cách mô hình được huấn luyện. Mô hình bọn mình sử dụng cho dự án này là YOLOv3. Mặc dù gần đây có nhiều phiên bản YOLO mới và tiên tiến hơn, nhưng YOLOv3 là một phiên bản khá tổng quát, việc này sẽ giúp các bạn học viên dễ tiếp cận và tiếp thu hơn. Thuật toán dùng để tấn công là một thuật toán whitebox có tên là TOG.

Nguyễn Tiết Nguyên Khôi – Trợ giảng

Mình nghĩ đây là một bài toán khó. Vì học viên vừa phải tìm hiểu về mô hình nhận diện vật thể, vừa phải tìm hiểu về các thuật toán tấn công. Riêng việc học và hiểu các mô hình computer vision thường phải tốn vài tuần theo chương trình đại học cơ bản. Mình để ý tuần đầu các bạn gặp rất nhiều khó khăn trong việc hiểu về gradient descent. Tuy nhiên, các bạn rất chủ động trong việc phân công công việc và chia các khối lượng công việc ra thành từng phần nhỏ, mỗi bạn đảm nhiệm một phần, và sau khi tìm hiểu sẽ giải thích lại cho cả nhóm. Mình cho rằng cách làm này hay và giúp các bạn có cơ hội trao đổi và ghi nhớ kiến thức lâu hơn. Nhờ vậy, chỉ sau tuần đầu tiên, các bạn cũng hiểu được khái quát các khái niệm cơ bản. Trong tuần thứ 2, chủ yếu các bạn bắt tay vào code, và cũng chia công việc thành các phẩn nhỏ để các bạn trong team cùng làm với nhau.

Nguyễn Tiết Nguyên Khôi – Trợ giảng

Đối với 2 TA là Đức và Khôi, bên cạnh việc chuẩn bị tài liệu cùng template code, bọn mình muốn định hướng cho các bạn học viên rèn luyện tư duy nghiên cứu. Do vậy, bên cạnh việc đưa ra các hướng đi chính, bọn mình cố gắng khuyến khích các bạn suy nghĩ sâu hơn về (1) mục đích và câu hỏi đặt ra của bài toán là gì, (2) tại sao thuật toán này lại tồn tại, và thuật toán này khai thác về vấn đề gì của mô hình, (3) làm sao để đánh giá kết quả của đề tài. Phần đánh giá rất quan trọng. Các bạn học viên cùng nhau thảo luận với nhau về đề tài, và cùng nhau code các phần thuật toán chính

Nguyễn Tiết Nguyên Khôi – Trợ giảng

VIDEO THUYẾT TRÌNH DỰ ÁN

SLIDES DỰ ÁN

YouTube video Slides PDF