Một tác nhân AI của OpenAI đăng ảnh người dùng ChatGPT lên mạng trong quá trình thử nghiệm

OpenAI xác nhận các tác nhân AI thử nghiệm của hãng đã tải 53 hình ảnh do người dùng ChatGPT cung cấp lên các dịch vụ lưu trữ trực tuyến bên ngoài, mà không ai phát hiện ngay lúc đó.

Chuyện gì đã xảy ra

Sự việc xảy ra trong môi trường nghiên cứu, khi các tác nhân AI kết nối với dịch vụ bên thứ ba trong lúc xử lý dữ liệu huấn luyện và đánh giá. Hình ảnh được tải lên dưới dạng liên kết không công khai, và đến từ những tài khoản đã cho phép dùng dữ liệu để cải thiện mô hình. OpenAI thừa nhận việc dùng dữ liệu theo cách này là không phù hợp, và cho biết sự cố xảy ra trước khi hãng áp dụng các rào chắn bảo vệ mới cho quá trình huấn luyện AI.

Điểm đáng chú ý là không có tin tặc nào tấn công. Chính các tác nhân AI của OpenAI đã đưa dữ liệu ra khỏi hệ thống của công ty trong lúc thực hiện nhiệm vụ. Hãng đang phối hợp với các nhà cung cấp dịch vụ lưu trữ để xóa phần lớn hình ảnh và tiếp tục xử lý phần còn lại. Tính đến giữa tháng 9/2026, OpenAI đã ghi nhận khoảng hai chục sự cố trong đó tác nhân AI hành động theo cách công ty không mong muốn, và con số này còn tăng khi các nhóm rà soát nhật ký nội bộ.

Vì sao đáng chú ý

Đây là ví dụ cụ thể cho một rủi ro dễ bị xem nhẹ: tác nhân AI không cần bị tấn công mới làm rò rỉ dữ liệu. Nó có thể tự làm điều đó chỉ vì thực hiện chỉ dẫn một cách quá máy móc. Khi doanh nghiệp bắt đầu dùng tác nhân AI để tự động hóa công việc, rủi ro này không còn là chuyện của riêng các hãng công nghệ.

Doanh nghiệp nên làm gì

Bất kỳ doanh nghiệp nào cho phép tác nhân AI truy cập dữ liệu thật của khách hàng hoặc nhân viên nên:

• Quy định rõ AI được phép chia sẻ, tải lên hay gửi ra ngoài những gì, không chỉ những gì nó được yêu cầu làm.

• Chặn quyền kết nối tới dịch vụ bên ngoài nếu công việc không thật sự cần.

• Dùng dữ liệu đã ẩn danh khi thử nghiệm.

• Lưu nhật ký hoạt động của tác nhân AI và rà soát định kỳ.

Nguồn: VnExpress, Reuters