Giới thiệu Framework mới giúp bảo vệ hệ thống học máy ML trước các cuộc tấn công mạng

Mới đây, Microsoft đã hợp tác với MITRE, IBM, NVIDIA và Bosch để phát hành một framework mới với mục tiêu giúp các nhà phân tích bảo mật phát hiện, phản ứng, và khắc phục kịp thời các cuộc tấn công mạng nhắm tới hệ thống học máy (machine learning).



Framework ​​có tên Adversarial ML Threat Matrix này là một bộ tập hợp các kỹ thuật khác nhau được kẻ tấn công sử dụng để phá hỏng hệ thống ML.



Việc trí tuệ nhân tạo (AI) và ML đang được triển khai rộng rãi trong nhiều ứng dụng khác nhau đã khiến kẻ tấn công không chỉ có thể lợi dụng công nghệ để lây nhiễm mã độc của mình, mà còn có thể lạm dụng nó để đánh lừa các mô hình học máy bằng các bộ dữ liệu bị nhiễm độc. Từ đó khiến hệ thống đưa ra các quyết định không chính xác, đe dọa đến sự ổn định và an toàn của các ứng dụng AI.



Minh chứng rõ ràng nhất cho sự phát triển này là Emotet –   mã độc email spam khét tiếng từng gây ra một loạt các cuộc tấn công botnet và ransomware trên toàn cầu . Năm ngoái, các nhà nghiên cứu của ESET đã phát hiện mã độc này đang lợi dụng ML để mở rộng mục tiêu lây nhiễm của mình.



Sau đó vào đầu tháng này, Microsoft đã cảnh báo về một chủng ransomware Android mới có chứa một mô hình học máy, mặc dù chưa được tích hợp vào mã độc nhưng có thể được sử dụng để điều chỉnh hình ảnh ghi chú tiền chuộc trên màn hình mà không bị biến dạng.



Ngoài ra, các nhà nghiên cứu còn phát hiện ra một kiểu tấn công có tên là model-inversion attack (tấn công đảo ngược mô hình), trong đó kẻ tấn công sẽ lạm dụng quyền truy cập vào một mô hình để từ đó suy ra thông tin của dữ liệu đào tạo.



Theo một báo cáo của Gartner , tính tới năm 2022 dự kiến 30% các cuộc tấn công mạng AI ​​sẽ liên quan chủ yếu tới việc nhiễm độc dữ liệu đào tạo, đánh cắp mô hình, hoặc sử dụng mẫu đối kháng (adversarial samples) để tấn công các hệ thống hỗ trợ học máy.



“Bất chấp những lý do thuyết phục nêu trên và sự cấp thiết trong việc bảo mật hệ thống ML, một cuộc khảo sát mới đây của Microsoft với 28 doanh nghiệp đã cho thấy hầu hết các chuyên gia trong ngành vẫn chưa nhìn nhận rõ mối nguy hiểm của các cuộc tấn công đối kháng nhắm vào hệ thống học máy,” nhà sản xuất Windows cho biết. “25 trong số 28 doanh nghiệp được khảo sát cho biết họ không có các công cụ phù hợp để bảo mật hệ thống ML của mình.”



Adversarial ML Threat Matrix được hy vọng sẽ giải quyết các mối đe dọa liên quan tới việc vũ khí hóa dữ liệu. Framework này tập hợp các lỗ hổng bảo mật và các kỹ thuật tấn công đối kháng đã được chứng minh là hiệu quả trong việc tấn công các hệ thống ML bởi Microsoft và MITRE.



Về cơ bản, các công ty có thể sử dụng Adversarial ML Threat Matrix để kiểm tra khả năng chống đỡ của các mô hình AI bằng cách mô phỏng các kịch bản tấn công thực tế theo danh sách các chiến thuật có sẵn. Từ đó thử chiếm quyền truy cập ban đầu vào môi trường, thực thi các mô hình ML không an toàn, làm nhiễm độc dữ liệu đào tạo, và trích xuất các thông tin nhạy cảm thông qua các cuộc tấn công đánh cắp mô hình (model stealing attack).



“Mục tiêu của Adversarial ML Threat Matrix là để định vị các cuộc tấn công nhắm tới hệ thống ML trong một framework, và giúp các nhà phân tích bảo mật có thể tự định hướng nếu bị ảnh hưởng bởi những cuộc tấn công như trên,” Microsoft cho biết.



“Ma trận này được thiết kế giống ATT&CK framework , bởi framework này được chấp nhận và sử dụng rộng rãi trong cộng đồng các nhà phân tích bảo mật. Bằng cách đó, họ sẽ không phải học thêm một framework mới để tìm hiểu về các mối đe dọa nhắm vào hệ thống ML.”



Sự phát triển của framework này là động thái mới nhất trong một loạt các nỗ lực nhằm bảo vệ AI khỏi các cuộc tấn công đầu độc dữ liệu và tấn công mô hình. Đáng chú ý là các nhà nghiên cứu từ Đại học John Hopkins đã phát triển một framework có tên là TrojAI . Nó được thiết kế để ngăn chặn các cuộc tấn công trojan, trong đó một mô hình được sửa đổi để phản ứng với các dấu hiệu kích hoạt input, và khiến nó đưa ra phản hồi không chính xác.



Theo The Hacker News
The post Giới thiệu Framework mới giúp bảo vệ hệ thống học máy ML trước các cuộc tấn công mạng appeared first on SecurityDaily .