Bộ ba nhà nghiên cứu tại Đại học Cornell đã phát hiện ra rằng có thể ẩn mã phần mềm độc hại bên trong mạng lưới thần kinh AI. Zhi Wang, Chaoge Liu và Xiang Cui đã đăng một bài báo mô tả các thử nghiệm của họ với việc đưa mã vào mạng lưới thần kinh trên máy chủ in sẵn arXiv.
Là máy tính công nghệ ngày càng phức tạp hơn, những nỗ lực của bọn tội phạm nhằm đột nhập vào các máy chạy công nghệ mới cho mục đích riêng của chúng, chẳng hạn như phá hủy dữ liệu hoặc mã hóa dữ liệu và yêu cầu người dùng trả tiền để trả lại dữ liệu đó, cũng ngày càng phức tạp hơn. Trong nghiên cứu mới này, nhóm nghiên cứu đã tìm ra một cách mới để lây nhiễm một số loại hệ thống máy tính chạy ứng dụng trí tuệ nhân tạo.
Hệ thống AI thực hiện công việc của mình bằng cách xử lý dữ liệu theo cách tương tự như bộ não con người. Nhưng bộ ba nghiên cứu nhận thấy những mạng như vậy rất dễ bị mã nước ngoài xâm nhập.
Mạng lưới thần kinh, về bản chất, có thể bị các tác nhân nước ngoài xâm chiếm. Tất cả những gì các tác nhân như vậy phải làm là bắt chước cấu trúc của mạng theo cách tương tự như cách mà ký ức được thêm vào não người. Các nhà nghiên cứu nhận thấy rằng họ có thể làm được điều đó bằng cách nhúng phần mềm độc hại vào mạng thần kinh đằng sau hệ thống AI có tên AlexNet—mặc dù nó khá nặng, chiếm 36.9 MiB dung lượng bộ nhớ trên phần cứng chạy hệ thống AI. Để thêm mã vào mạng lưới thần kinh, các nhà nghiên cứu đã chọn lớp mà họ tin rằng sẽ là lớp tốt nhất để tiêm. Họ cũng đã thêm nó vào một mô hình đã được đào tạo nhưng lưu ý rằng tin tặc có thể thích tấn công một mạng chưa được đào tạo vì nó có thể ít ảnh hưởng hơn đến toàn bộ mạng.
Các nhà nghiên cứu nhận thấy rằng không chỉ phần mềm chống vi-rút tiêu chuẩn không tìm thấy phần mềm độc hại mà hiệu suất của hệ thống AI cũng gần như tương tự sau khi bị nhiễm. Vì vậy, sự lây nhiễm có thể không bị phát hiện nếu được thực hiện một cách bí mật.
Các nhà nghiên cứu lưu ý rằng chỉ cần thêm phần mềm độc hại vào mạng thần kinh sẽ không gây hại gì – bất kỳ ai đưa mã vào hệ thống vẫn phải tìm cách thực thi mã đó. Họ cũng lưu ý rằng giờ đây người ta đã biết tin tặc có thể tiêm mã vào hệ thống thần kinh AI mạng, phần mềm chống vi-rút có thể được cập nhật để tìm kiếm nó.
