Lợi ích không xoá được rủi ro

Lỗi nhận dạng, dữ liệu thiếu và quá tin đầu ra là các nguồn rủi ro khác nhau. Hệ thống đọc “không được đi” thành “được đi” là lỗi kỹ thuật; làm theo ngay mà không nhìn biển là rủi ro trong cách sử dụng. Hậu quả tùy bối cảnh: gợi ý sai tên sách thường dễ sửa hơn chỉ dẫn sai gần công trường. Đây là tình huống mô phỏng, không phải hướng dẫn giao thông.

Sản phẩm AI có thể làm lộ thông tin, lan truyền tin sai hoặc phục vụ kém người nói một giọng địa phương. Một người được lợi không chứng minh mọi người cùng được lợi. Biện pháp có thể là kiểm tra bằng nguồn độc lập, giới hạn phạm vi sử dụng, xin hỗ trợ con người hoặc không triển khai khi chưa đủ an toàn. Không có biện pháp nào bảo đảm rủi ro bằng không.