Ai chịu trách nhiệm suốt vòng đời AI?

Một công cụ gợi lịch dùng phòng học giả định bắt đầu từ lựa chọn mục tiêu: giảm trùng lịch hay tối đa số lượt dùng? Người thiết kế chọn dữ liệu, mô hình và tiêu chí thử; người quản lý duyệt phạm vi; người vận hành theo dõi và dừng khi có hại. Sai sót ở mục tiêu không thể giải quyết chỉ bằng yêu cầu người dùng kiểm đầu ra. Khi hệ thống thay đổi dữ liệu hoặc mục tiêu, trách nhiệm phải được xem lại.

Ở từng bước, hỏi: ai được quyết định, họ thấy căn cứ gì, có thể sửa hoặc dừng bằng cách nào, và để lại dấu vết nào? Người chịu trách nhiệm cần năng lực, thời gian và quyền thật. Một hệ thống không có kênh khiếu nại hoặc không thể quay về lịch thủ công có thể khiến sự kiểm soát trên giấy mất tác dụng. Quyền của người bị ảnh hưởng cũng phải có chỗ trong vòng đời, không chỉ ý kiến người phát triển.