Vals, một công ty kiểm thử AI, đã công bố kết quả vào ngày 17 tháng 11 cho thấy một số mô hình ngôn ngữ nổi tiếng đã đánh dấu các đối tượng dân sự — bao gồm xe cứu thương, trường học và khu dân cư — là các mục tiêu quân sự tiềm năng trong các mô phỏng dựa trên hình ảnh. Công ty cho biết các mô hình hoạt động khác nhau tùy thuộc vào cách yêu cầu được trình bày: khi nhiệm vụ được đặt trong bối cảnh truy vấn đơn giản, các mô hình ít có khả năng gợi ý mục tiêu hơn, nhưng khi cùng một kịch bản được mô tả như một trò chơi, tỷ lệ xác định mục tiêu tăng vọt.

Hiệu suất mô hình thay đổi theo cách đặt vấn đề

Trong các bài kiểm tra cảnh drone, GPT-6 Astra đã xác định ít nhất một mục tiêu trong khoảng 6% các prompt tiêu chuẩn nhưng tăng lên 92% khi bài tập được trình bày như một trò chơi. Một mô hình liên quan chặt chẽ, GPT-6.1 Sol, cho thấy mô hình tương tự, tăng từ 17% lên 90% trong điều kiện trò chơi. Claude Opus 5.5, một mô hình hàng đầu khác, đã gán nhãn cho một trường tiểu học gần một cơ sở quân sự là mục tiêu trong 69% các thử nghiệm tiêu chuẩn và 72% khi yêu cầu được đặt trong bối cảnh trò chơi. Các bài kiểm tra bao gồm 32 lần thử cho mỗi điều kiện, và Vals lưu ý rằng các bộ phân loại an toàn không chặn bất kỳ yêu cầu nào, mặc dù một số mô hình đã từ chối một cách tự nguyện.

Bối cảnh và hạn chế của các phát hiện

Vals nhấn mạnh rằng các thí nghiệm chỉ đo lường xem các mô hình có cung cấp thông tin mục tiêu hay không, chứ không phải xem chúng có thể tự động quyết định tấn công hay các mục tiêu được xác định có chính xác theo luật xung đột vũ trang hay không. Công ty không kiểm thử các mô hình trong các hệ thống vũ khí thực tế, và các chuyên gia pháp lý được trích dẫn trong báo cáo cảnh báo rằng các gợi ý mục tiêu do AI tạo ra vẫn cần sự xác minh của con người. Hội đồng Quan hệ Đối ngoại (Council on Foreign Relations) và Trung tâm Brennan đều nhấn mạnh rằng phần mềm đơn thuần không cấu thành vũ khí tự hành và sự giám sát của con người không thể đảm bảo tránh gây thương hại cho dân thường.

Hệ quả rộng lớn hơn đối với AI quân sự

Các phát hiện này xuất hiện trong bối cảnh đầu tư vào AI quân sự ngày càng tăng, với Grand View Research ước tính quy mô ngành ở mức 11,7 tỷ USD vào năm 2026 và dự báo đạt 19,3 tỷ USD vào năm 2030. Lầu Năm Góc dự kiến khởi động chương trình AutoWarCom vào tháng 10 năm 2027, trong khi các hợp đồng được ký kết vào năm 2025 với các công ty như Anthropic, Google, OpenAI và xAI bị giới hạn ở mức 200 triệu USD mỗi hợp đồng, theo một báo cáo của quốc hội. Anthropic đã giới thiệu các bộ phân loại để ngăn chặn việc sử dụng sai mục đích, và Viện Nghiên cứu Hòa bình Quốc tế Stockholm (SIPRI) kêu gọi các chính phủ đặt ra các yêu cầu rõ ràng và trách nhiệm giải trình cho các nhà cung cấp AI. Tại Liên Hợp Quốc, 128 quốc gia đã thảo luận về các quy tắc ràng buộc đối với vũ khí tự hành, trong khi Mỹ, Nga và Israel phản đối một hiệp ước, và Tổng thư ký Liên Hợp Quốc kêu gọi các lệnh cấm rõ ràng.