Các rào cản an ninh của AI, dù nhằm ngăn chặn hacker, đang vô tình kìm hãm công việc của các chuyên gia an ninh mạng tấn công. Điều này gây tranh cãi về lợi ích thực sự của chúng.
Phân tích chuyên sâu về tác động của các biện pháp bảo vệ AI đối với nghiên cứu an ninh mạng
Tầm quan trọng của cân bằng giữa an toàn AI và đổi mới an ninh mạng
Nội dung trên đề cập đến một điểm mấu chốt trong bối cảnh phát triển AI hiện nay: sự căng thẳng giữa nhu cầu bảo vệ các mô hình AI khỏi việc lạm dụng của tin tặc và yêu cầu của các nhà nghiên cứu an ninh mạng hợp pháp. Các tập đoàn AI lớn đã đầu tư đáng kể vào việc phát triển các chương trình kiểm duyệt đặc biệt và các “hàng rào bảo vệ” (guardrails) nghiêm ngặt để hạn chế rủi ro. Tuy nhiên, chính những biện pháp bảo vệ này đang vô tình cản trở công việc thiết yếu của các nhà bảo vệ mạng và các nhà nghiên cứu an ninh mạng tấn công (offensive cybersecurity researchers). Đây là một vấn đề phức tạp, đòi hỏi sự cân nhắc kỹ lưỡng về lợi ích và rủi ro. Một mặt, việc ngăn chặn tin tặc sử dụng AI để tạo ra các cuộc tấn công tinh vi là tối quan trọng. Mặt khác, nếu các công cụ AI trở nên quá hạn chế, chúng có thể kìm hãm sự phát triển của các công nghệ phòng thủ mới, vốn thường được phát triển dựa trên hiểu biết sâu sắc về các phương pháp tấn công tiềm tàng. Việc tìm ra điểm cân bằng tối ưu sẽ quyết định tốc độ đổi mới và khả năng tự bảo vệ của cộng đồng an ninh mạng trước các mối đe dọa ngày càng phức tạp do chính AI tạo ra.
Phản ứng của chính phủ và tác động của quy định
Trường hợp chính phủ Hoa Kỳ áp đặt các hạn chế kiểm soát xuất khẩu đối với các mô hình AI Mythos và Fable của Anthropic vào tháng 6 là một ví dụ điển hình về sự can thiệp của chính phủ. Mặc dù các hạn chế này đã được dỡ bỏ sau đó (Fable 5 trở lại truy cập chung vào ngày 1 tháng 7; Mythos 5 được giới thiệu lại cho các tổ chức được kiểm duyệt của Hoa Kỳ), nó nhấn mạnh mức độ nghiêm trọng mà các nhà quản lý nhìn nhận về tiềm năng lạm dụng AI. Động thái này ít nhất một phần bị thúc đẩy bởi một báo cáo cho rằng có thể vượt qua các biện pháp bảo vệ của mô hình, được thiết kế để ngăn chặn người dùng sử dụng chúng để xây dựng và thực hiện các cuộc tấn công mạng độc hại. Việc Anthropic trước đó đã tiếp thị Mythos như một “cỗ máy tận thế mạng” chỉ có thể giao cho những người dùng được kiểm duyệt cẩn thận, với các biện pháp bảo vệ nghiêm ngặt, càng làm tăng thêm mối lo ngại này. Sự kiện này cho thấy chính phủ đang rất cảnh giác về việc AI có thể bị vũ khí hóa và sẵn sàng can thiệp bằng các biện pháp quy định. Tuy nhiên, sự thay đổi nhanh chóng trong các quy định cũng cho thấy sự thiếu rõ ràng và ổn định trong cách tiếp cận này, có thể gây khó khăn cho các công ty AI trong việc lên kế hoạch phát triển và triển khai sản phẩm.
Sự “kiểm soát cổng” (Gatekeeping) của các tập đoàn AI
Việc “kiểm soát cổng” thông qua các chương trình truy cập hạn chế không chỉ giới hạn ở Mythos. Cả Anthropic, với các mô hình khác của mình, và OpenAI đều cung cấp các chương trình cho phép các nhà nghiên cứu an ninh mạng nộp đơn để được kiểm duyệt và, nếu được chấp thuận, truy cập các mô hình với ít hạn chế về an ninh mạng hơn. Ví dụ điển hình là chương trình “Trusted Access for Cyber” của OpenAI và “Cyber Verification Program” của Anthropic. Mặc dù mục đích của các chương trình này là tốt, nhằm đảm bảo rằng chỉ những người có mục đích tốt mới có thể truy cập các mô hình mạnh mẽ, nhưng chúng lại tạo ra một rào cản đáng kể. Các nhà nghiên cứu phải trải qua một quy trình xét duyệt, thường tốn thời gian và có thể chủ quan. Điều này đặt ra câu hỏi về quyền tự do nghiên cứu và khả năng tiếp cận công bằng các công cụ AI tiên tiến. Nếu quá trình này quá khắt khe, nó có thể làm chậm lại tốc độ phát hiện và khắc phục các lỗ hổng bảo mật, đặc biệt là trong một lĩnh vực mà tốc độ phản ứng là tối quan trọng.
Chỉ trích từ cộng đồng nghiên cứu an ninh mạng
Các biện pháp bảo vệ (guardrails) này đã bị chỉ trích rộng rãi, đặc biệt là bởi các nhà nghiên cứu có nhiệm vụ tìm kiếm các lỗ hổng chưa biết trong hệ thống và đưa ra các cách khai thác chúng trước khi tội phạm mạng làm được điều đó. Mark Dowd, một nhà nghiên cứu bảo mật nổi tiếng, đã bày tỏ sự không thoải mái về việc “các công ty lớn ngẫu nhiên này đang đưa ra các quyết định tùy tiện về những gì an toàn trong bảo mật và những gì không.” Lời chỉ trích này rất có trọng lượng vì nó đến từ một chuyên gia đã dành hàng thập kỷ để tìm kiếm và bán “zero-days” (lỗ hổng phần mềm chưa biết trước và các khai thác lợi dụng chúng) cho các chính phủ phương Tây. Công việc của Dowd, mặc dù có thể gây tranh cãi về mặt đạo đức đối với một số người, nhưng lại rất quan trọng đối với các hoạt động tình báo và phòng thủ mạng của chính phủ. Quan điểm của ông phản ánh một mối lo ngại rộng lớn hơn trong cộng đồng an ninh mạng rằng các công ty AI đang tự mình định nghĩa ranh giới của “an toàn” mà không có sự tham vấn đủ rộng rãi hoặc sự hiểu biết đầy đủ về nhu cầu của lĩnh vực an ninh mạng tấn công. Điều này có thể dẫn đến việc cản trở các nghiên cứu hợp pháp, vốn rất cần thiết để phát triển các biện pháp phòng thủ mạnh mẽ hơn.
Quan điểm của các nhà nghiên cứu an ninh mạng tấn công
Mặc dù Dowd thừa nhận công việc của mình có thể mang tính thiên vị, nhưng ông không đơn độc. Nhiều người làm việc trong lĩnh vực an ninh mạng tấn công — những người chủ động thăm dò các hệ thống để tìm kiếm điểm yếu — đã mô tả với TechCrunch cách họ sử dụng các công cụ AI và đối phó với các biện pháp bảo vệ của chúng. Điều này chỉ ra rằng, bất chấp những hạn chế, các nhà nghiên cứu này vẫn đang cố gắng tích hợp AI vào quy trình làm việc của họ. Tuy nhiên, việc phải “đối phó” với các hàng rào bảo vệ cho thấy rằng các công cụ AI hiện tại không được thiết kế tối ưu cho nhu cầu của họ. Các nhà nghiên cứu tấn công cần sự linh hoạt để thử nghiệm các kịch bản khác nhau, bao gồm cả những kịch bản có thể bị coi là “độc hại” nếu không được đặt trong ngữ cảnh nghiên cứu. Nếu AI quá hạn chế, nó có thể buộc các nhà nghiên cứu phải tìm kiếm các công cụ thay thế kém hiệu quả hơn hoặc thậm chí phát triển các mô hình của riêng họ từ đầu, làm tăng chi phí và chậm trễ trong việc tìm kiếm các lỗ hổng. Việc lắng nghe và hiểu rõ hơn về cách các chuyên gia này sử dụng AI là chìa khóa để thiết kế các mô hình và chương trình truy cập cân bằng hơn, vừa đảm bảo an toàn vừa thúc đẩy đổi mới.
