Bạn có tin rằng một hệ thống AI có thể tự tin 95% khẳng định về một thông tin hoàn toàn sai lệch không? Đây chính là thực trạng đang diễn ra với hiện tượng AI hallucinations (ảo giác AI) - khi các mô hình trí tuệ nhân tạo tạo ra những phản hồi có vẻ thuyết phục nhưng lại sai hoàn toàn. Vấn đề trở nên nghiêm trọng khi những "lời nói dối tự tin" này đang được ứng dụng vào các hệ thống hạ tầng quan trọng, tạo ra những rủi ro bảo mật thực sự mà chúng tôi không thể lờ đi.

Khi AI "nói láo" một cách tự tin

Cốt lõi của vấn đề nằm ở chỗ AI không có khả năng nhận biết sự bất định của chính mình. Thay vì thừa nhận "tôi không biết", các mô hình AI sẽ luôn tạo ra câu trả lời dựa trên các pattern (mẫu) trong dữ liệu huấn luyện, ngay cả khi câu trả lời đó hoàn toàn không chính xác. Điều đáng lo ngại là những phản hồi sai lệch này thường được trình bày với độ tự tin cao, khiến con người dễ dàng tin tưởng.

Chúng tôi đã chứng kiến nhiều trường hợp tương tự trong quá khứ. ChatGPT từng "bịa" ra những quyết định pháp lý không tồn tại khi được yêu cầu hỗ trợ soạn thảo văn bản pháp lý. Google Bard cũng từng đưa ra thông tin sai về James Webb Space Telescope ngay trong video giới thiệu chính thức. Những sai sót này tuy chưa gây ra thiệt hại lớn, nhưng đã báo động về tiềm năng rủi ro khi AI được ứng dụng vào các lĩnh vực nhạy cảm hơn.

Cơ chế tạo ra "ảo giác" nguy hiểm

Để hiểu rõ hơn, chúng tôi cần phân tích cách thức hoạt động của các large language models (LLM - mô hình ngôn ngữ lớn). Những mô hình này được huấn luyện để dự đoán từ tiếp theo trong một chuỗi văn bản dựa trên xác suất thống kê. Khi gặp câu hỏi mà không có đủ thông tin chính xác trong dữ liệu huấn luyện, LLM vẫn sẽ "ráp nối" các thông tin có liên quan để tạo ra câu trả lời nghe có vẻ hợp lý.

Vấn đề nghiêm trọng hơn khi AI hallucinations xảy ra trong các hệ thống ra quyết định tự động. Imagine một hệ thống phân tích mối đe dọa bảo mật dựa trên AI đưa ra cảnh báo sai về một cuộc tấn công không tồn tại, hoặc ngược lại, bỏ qua một mối đe dọa thực sự do "tự tin" rằng đó là hoạt động bình thường. Hậu quả có thể là việc phân bổ tài nguyên sai hướng hoặc để lọt các cuộc tấn công thực sự.

Tác động nghiêm trọng đến hạ tầng quan trọng

Theo báo cáo của IBM Security, 60% các tổ chức đã hoặc đang cân nhắc triển khai AI trong các hệ thống bảo mật của mình. Con số này đáng lo ngại khi chúng tôi chưa có giải pháp hiệu quả để kiểm soát AI hallucinations. Các hệ thống điện, nước, giao thông, tài chính đều có thể bị ảnh hưởng nghiêm trọng nếu dựa vào những quyết định sai lầm từ AI.

Tại Việt Nam, Cục An toàn thông tin (Bộ TT&TT) đã ghi nhận xu hướng gia tăng việc sử dụng AI trong các hệ thống quan trọng của các doanh nghiệp và cơ quan nhà nước. Tuy nhiên, chúng tôi cho rằng các quy định hiện tại vẫn chưa đủ mạnh để đảm bảo tính đáng tin cậy của các hệ thống AI này khi đưa vào vận hành thực tế.

Chiến lược phòng ngừa cấp thiết

Doanh nghiệp Việt Nam cần thực hiện ngay các bước sau để giảm thiểu rủi ro từ AI hallucinations. Đầu tiên, triển khai hệ thống validation (xác thực) đa lớp cho mọi output từ AI, đặc biệt với các quyết định quan trọng. Thiết lập ngưỡng confidence score (điểm tin cậy) và yêu cầu xác nhận con người cho những quyết định có độ tin cậy dưới mức quy định.

Chúng tôi khuyến nghị mạnh mẽ việc xây dựng "human-in-the-loop" system, trong đó con người luôn là khâu cuối cùng trong chuỗi ra quyết định quan trọng. Đồng thời, cần có kế hoạch audit (kiểm tra) định kỳ các quyết định của AI và so sánh với kết quả thực tế để phát hiện sớm các pattern sai lệch. Đây không chỉ là vấn đề kỹ thuật mà là vấn đề sinh tồn của doanh nghiệp trong thời đại AI.