Lỗ hổng của AI trong vụ ‘ném bom nhầm’ vào trường tiểu học khiến 150 người Iran thiệt mạng

Cuộc không kích của Mỹ và Israel ngày 28/2, ban đầu nhắm vào 1 cơ sở quân sự tại thành phố Minab, miền Nam Iran, đã biến ngôi trường tiểu học đang hoạt động thành một đống đổ nát. Theo báo cáo của Liên Hợp Quốc, thảm kịch đã tước đi sinh mạng của hơn 150 người, trong đó phần lớn là trẻ em, và làm bị thương hơn 100 người khác.

Theo New York Times, kết quả điều tra sơ bộ của phía Mỹ chỉ ra nguyên nhân cốt lõi trong chiến thuật tác chiến: Sai sót trong xác định mục tiêu do sử dụng dữ liệu lỗi thời.

Hệ thống AI đã nhận dạng sai tòa nhà, có khả năng do bản đồ tình báo chưa cập nhật trạng thái mới của cơ sở này. Thực tế, ngôi trường nằm gần một căn cứ hải quân của Lực lượng Vệ binh Cách mạng Hồi giáo Iran (IRGC) và trong quá khứ, tòa nhà này từng là một phần của khu phức hợp quân sự đó.

Điều này mâu thuẫn trực tiếp với tuyên bố ban đầu của Tổng thống M Donald Trump, khi ông cho rằng vụ nổ là do "phía Iran tự thực hiện" vì hệ thống vũ khí của Tehran "thiếu chính xác".

Thực tế, "mắt thần" AI của Lầu Năm Góc đã thất bại trong việc nhận diện một cơ sở giáo dục đang hoạt động, dẫn đến quyết định không kích sai lầm.

Giới hạn của thuật toán

Để chuẩn bị cho các chiến dịch tại khu vực, quân đội Mỹ được cho là đã vận hành Project Maven của Palantir. Đây là nền tảng AI tích hợp các mô hình ngôn ngữ lớn như Claude (từ Anthropic) nhằm tổng hợp khối lượng dữ liệu khổng lồ từ vệ tinh và tín hiệu tình báo.

Tuy nhiên, một nguồn tin nội bộ am hiểu vấn đề khẳng định vai trò của AI thực chất rất giới hạn: "Claude hay bất kỳ mô hình AI nào cũng chỉ đóng vai trò là 'bộ lọc'. Chúng sàng lọc nhiễu để tìm ra các mẫu (pattern), nhưng chúng không có khả năng hiểu được ngữ cảnh nhân đạo hay sự biến động thực tế tại một trường học”.

Sự hiệu quả của AI trong việc tóm tắt dữ liệu nhanh hơn con người là không thể phủ nhận, nhưng tốc độ này đã tạo ra một "cái bẫy lòng tin", dẫn đến sự chủ quan trong quy trình phê duyệt mục tiêu.

Giới học giả pháp lý nhấn mạnh rằng sự xuất hiện của công nghệ không thể là công cụ để con người thoái thác trách nhiệm. Giáo sư Marko Milanovic từ Trường Luật thuộc Đại học Reading lập luận trên Tạp chí Luật Quốc tế Châu Âu rằng: "Các hành vi của hệ thống AI quân sự hiện nay đơn thuần là hệ quả từ quyết định của những người vận hành chúng. AI không phải là chủ thể pháp lý; con người mới là bên đưa ra quyết định cuối cùng về mục tiêu”.

Ông cũng lưu ý thêm rằng các vụ nhận diện sai mục tiêu vẫn thường xuyên xảy ra trong lịch sử quân sự, dù có sự hỗ trợ của AI hay không. Tuy nhiên, việc AI được sử dụng như thế nào trong vụ tấn công Minab sẽ là một "sự thật vô cùng quan trọng" mà bất kỳ cuộc điều tra nào cũng phải làm rõ.

Theo luật giao chiến quốc tế, quy trình lựa chọn và chỉ thị mục tiêu (targeting) bắt buộc phải do con người phê duyệt. Do đó, dù dữ liệu đầu vào có lỗi thời hay thuật toán sai lệch, trách nhiệm hình sự vẫn thuộc về những cá nhân đã bấm nút khai hỏa dựa trên những thông tin chưa được kiểm chứng thực địa.

Đáng chú ý, mô hình AI Claude hiện nay vẫn được sử dụng để lập kế hoạch tấn công bất chấp việc Mỹ đã cắt đứt quan hệ với công ty chủ quản Anthropic ngay trước xung đột.

Mối quan hệ này đổ vỡ sau khi Anthropic từ chối gỡ bỏ các rào cản đạo đức chống lại việc giám sát quy mô lớn và vũ khí tự động sát thương. Đáp lại, Bộ Quốc phòng Mỹ đã xếp Anthropic vào danh mục "rủi ro chuỗi cung ứng" và chuyển sang ký hợp đồng với đối thủ OpenAI.

Ngày 9/3, Anthropic đã đệ đơn kiện nhằm ngăn chặn việc Lầu Năm Góc đưa công ty này vào danh sách đen an ninh quốc gia.

Thảm kịch tại Minab đã tạo ra một cơn địa chấn chính trị tại Washington. Hơn 40 Thượng nghị sĩ Mỹ đã gửi thư yêu cầu Lầu Năm Góc điều tra quy trình "lựa chọn và ưu tiên mục tiêu" bằng AI, đồng thời làm rõ liệu có sự xác nhận của con người (human-in-the-loop) trước khi khai hỏa hay không.

Tham khảo New York Times, SCMP