AI đang biến thế giới an ninh mạng thành miền Tây hoang dã

Hôm nay, tôi có cuộc trò chuyện với Alex Stamos, Giám đốc An ninh Thông tin tại Cognition kiêm chuyên gia bảo mật kỳ cựu, về tình trạng hỗn loạn của an ninh mạng hiện nay.

Cuộc phỏng vấn này là tập đầu tiên trong chuỗi series đặc biệt nhìn nhận về AI trong đời thực.

Tôi luôn thích nói chuyện với Alex vì sự thẳng thắn của anh ấy. Bạn sẽ nghe anh ấy nhận định rằng ngành công nghiệp an ninh mạng trị giá hàng tỷ đô la từ trước đến nay đang tỏ ra tụt hậu trước các làn sóng tấn công, xâm nhập và hack được thúc đẩy bởi AI. Đây mới chỉ là khởi đầu cho thấy AI đang thay đổi lĩnh vực bảo mật nhiều đến mức nào.

Cả các tác nhân tư nhân lẫn nhà nước như Nga hay Triều Tiên đều đang đột nhập vào các hệ thống khắp nơi nhờ AI giúp họ vừa phát hiện vừa khai thác các lỗ hổng cùng lúc. Alex nhận xét rằng tình trạng này mang lại cảm giác hoang dã giống như những năm 90, thời điểm khái niệm về một thế giới luôn trực tuyến còn hoàn toàn mới mẻ.

Sự gián đoạn lớn đó tạo ra vô số khoảng trống để kẻ xấu len lỏi trong lúc mọi thứ còn đang hỗn loạn. Về dài hạn Alex không phải là người bi quan, nhưng anh ấy cho rằng chúng ta chuẩn bị bước vào một thời kỳ đen tối khi đang phải chật vật tìm cách thích nghi với kỷ nguyên mới.

Có rất nhiều vấn đề đang diễn ra ở đây — chúng tôi thậm chí đã thảo luận về việc thông tin sai lệch và rác do AI tạo ra có thể được quản lý như thế nào trên các mạng xã hội của chúng ta.

Chào mừng Alex Stamos trở lại chương trình Decoder.

Chào bạn, cảm ơn vì đã mời tôi tham gia.

Tôi rất hào hứng được trò chuyện với anh. Đã lâu lắm rồi chúng ta mới trò chuyện kể từ cái gọi là thời kỳ điều tiết nội dung trong tranh luận chính sách internet. Chúng ta đang ở trong một kỷ nguyên mới với những vấn đề lớn trên internet, đặc biệt là xung quanh vấn đề phòng thủ và an ninh mạng. Anh đã suy nghĩ rất nhiều về những điều này. Anh từng gọi vài tuần qua là tháng nhận thức về bảo mật. Hãy chia sẻ những gì đang diễn ra đi.

Tháng Mười truyền thống là tháng nâng cao nhận thức về bảo mật. Rất nhiều công ty tổ chức các sự kiện và xử lý vấn đề nội bộ rồi nhắc nhở mọi người thay đổi mật khẩu, sử dụng nhiều mật khẩu hoặc dùng trình quản lý mật khẩu. Những gì xảy ra trong tháng qua là chúng ta đã chứng kiến một số lỗi lớn như PHP, Node và các thứ tương tự. Điều ít được bàn tán hơn là có một số lượng lớn các công ty đã bị tấn công.

Một loạt các công ty liên quan đến AI, các đám mây mới nổi đã bị xâm nhập liên tiếp. Bạn có vụ hack Binance, đây là vụ trộm lớn nhất trong lịch sử loài người. Bạn có sự cố Cursor khi một trong những chuyện diễn ra là các vụ hack này đang được xích lại với nhau. Theo những gì chúng ta biết hiện nay, một trong những công ty đã bị đột nhập là Fireworks, nhà cung cấp dịch vụ AI nổi bật cho nhiều công ty. Từ vụ hack Fireworks, các khóa API đã bị đánh cắp cho phép kẻ gian xâm nhập vào Cursor. Một khi đã vào được Cursor, họ tiếp tục đẩy một plugin độc hại tới 5.000 công ty khác, gây ra nguy cơ xâm phạm cho 5.000 tổ chức tiềm năng. Đó là kiểu xâm nhập liên tục không có hồi kết đang diễn ra trong toàn bộ ngành công nghệ.

Một người bạn làm CISO của tôi đã hỏi mọi người rằng liệu có ai cảm thấy mệt mỏi không, và tất cả đều đồng thanh đáp có, bởi vì trên thực tế chúng ta đã ở trạng thái DEFCON 2 trong toàn bộ tháng Mười và bước sang tháng Mười một.

Tôi muốn hỏi anh một câu hỏi rất ngớ ngẩn. Ai đứng sau những cuộc tấn công này? Là Nga phải không? Hay Triều Tiên? Liệu chúng ta có biết không?

Đó là nhiều nhóm khác nhau. Không chỉ vì các đối thủ đã quyết định như vậy, mà theo quan điểm của tôi, chúng ta đang ở giai đoạn đầu của sự bùng nổ năng lực đối phương nhờ AI, khi các mô hình trọng số mở giờ đây đã đạt đến mức bạn có thể tự động hóa phần lớn chuỗi tiêu diệt (kill chain).

Thuật ngữ kill chain này là thứ chúng ta mượn từ quân đội. Trong quân đội, ý họ là tiêu diệt một thứ gì đó. Đó là các bước bạn thực hiện để làm nổ tung mục tiêu. Trong lĩnh vực mạng, kill chain là những việc bạn làm để tạo ra ảnh hưởng lên mục tiêu. Chẳng hạn như đánh cắp thông tin, tắt một thứ gì đó, đánh cắp tiền, đánh cắp Bitcoin.

Trước đây, bạn phải thực hiện nghiên cứu trước, xem xét một phần mềm, tìm ra lỗ hổng, viết mã khai thác và làm tất cả những việc đó từ trước. Sau đó, bạn cần con người mang những thứ đã xây dựng triển khai nhắm vào một mục tiêu duy nhất — vì có thể bạn là chính phủ nhắm vào Lockheed Martin hay một chính phủ khác, hoặc bạn là một kẻ chuyên dùng mã độc tống tiền — và bạn dùng toàn bộ công sức đó triển khai chống lại hàng trăm hoặc hàng nghìn mục tiêu thực sự nhanh chóng.

Giờ đây với AI, điều đang xảy ra là chuỗi kill chain này bị đảo ngược, nơi bạn có thể chạy một hệ thống AI hoạt động hết công suất, tự động quan sát các mục tiêu, tìm ra lỗi theo thời gian thực, viết mã khai thác theo thời gian thực và đột nhập vào các công ty này. Một trong những điều đang diễn ra là các hệ thống này quá giỏi trong việc tìm lỗi đến mức chúng tìm ra lỗ hổng và viết mã khai thác ngay lập tức.

Hệ thống mà mọi người đang bàn tán không phải là duy nhất, nhưng hệ thống chúng ta đang nhắc tới có tên là ARTEX, một công cụ mã nguồn mở của Trung Quốc mà bất kỳ ai cũng có thể xem xét. Có một bản dịch tiếng Anh trên GitHub mà bạn có thể kiểm tra. Và nếu bạn vận hành nó ở phía sau bằng một thứ gì đó như phiên bản GLM-5.3 đã được xóa bỏ các giới hạn an toàn, nó sẽ cho phép bạn đột nhập vào một số lượng tổ chức gây sốc. Việc này bắt đầu với ba ngân hàng Hàn Quốc. Tuần này, khoảng 200 công ty nữa đã bị tấn công. Tôi đã hỗ trợ một vài công ty. Cognition không phải là công ty chuyên ứng phó sự cố, nhưng chúng tôi có vào giúp mọi người khắc phục lỗi sau đó bằng các công cụ của mình. Thật sốc khi thấy các công ty bị tấn công bởi thứ mà bạn chỉ cần tải xuống. Đã lâu lắm rồi người ta mới có thể chỉ cần tải xuống một công cụ mã nguồn mở và đột nhập vào các công ty trị giá hàng tỷ đô la. Nó giống như những năm 90.

Đó là điều tôi đang nghĩ tới. Tôi nghĩ về Windows vào cuối những năm 90, đầu những năm 2000 khi nó là một thảm họa bảo mật.

Tôi bắt đầu nói điều này từ đầu năm nay, rằng đây là một thời điểm vô cùng hào hứng nhưng cũng đầy đáng sợ, vì lần cuối cùng có cảm giác này là khi tôi còn là một thanh niên và tham gia các kỳ DEFCON đầu tiên. Các hội nghị DEFCON ngày nay có quy mô từ 40.000 đến 60.000 người. Hồi đó vào những năm 1990, chỉ có vài trăm người, diễn ra tại một phòng hội thảo duy nhất, và bạn nghe ai đó thuyết trình rồi rời phòng với suy nghĩ rằng mọi công ty trên thế giới đều dễ bị tổn thương trước kiểu tấn công này. Khác biệt là toàn bộ thế giới lúc đó chưa vận hành dựa trên internet. Bạn có thể làm những điều tồi tệ, nhưng bạn không thể làm sập thế giới và chắc chắn không thể tự động hóa nó theo cách mà bạn có thể làm bây giờ.

Mọi thứ đã quay trở lại những ngày đó, nơi các công cụ bạn có thể tự lấy và tự xây dựng có thể thực hiện những điều điên rồ. Quay trở lại thời kỳ miền Tây hoang dã. Vào thời đó, chỉ có vài trăm người sở hữu những kỹ năng đó và tất cả chúng ta cùng ngồi trong một căn phòng ở Las Vegas, phần lớn họ thực sự là những người tốt. Họ không muốn trở thành tội phạm. Và giờ đây bạn có một hệ sinh thái lớn hơn rất nhiều, nhiều người trong số họ sống ở những nơi cơ quan thực thi pháp luật không thể chạm tới, những kẻ có động lực kinh tế lớn và có quyền truy cập vào các công cụ này. Điều quan trọng nữa là họ không còn phải sử dụng các mô hình tiên tiến có các biện pháp bảo vệ hay có sẵn nhật ký truy cập dành cho cơ quan thực thi pháp luật.