Khi dữ liệu và thiết kế tạo bất công
Lớp 10 · 1 tiết · Đạo đức AI
Một hệ thống phân loại có thể sai có hệ thống với nhóm ít xuất hiện trong dữ liệu. Ta dùng hình học không chứa dữ liệu người để quan sát vấn đề trước khi bàn về tác động xã hội.
Em sẽ học được gì?
Chất lượng không chỉ là số lượng
Dữ liệu có thể thiếu nhóm, gắn nhãn sai, quá cũ hoặc không đúng nhiệm vụ. Thêm nhiều bản sao của cùng một kiểu không tạo ra tính đại diện. Trong bài thử hình học, mô hình gần mẫu có thể nhầm màu với hình nếu chỉ thấy tròn xanh và vuông cam. Sai nhãn có thể dạy máy một quan hệ ngược dù thuật toán chạy đúng.
Vấn đề đạo đức trong thiết kế và vận hành
Nếu một công cụ hỗ trợ học tập nhận tiếng nói một vùng tốt hơn vùng khác, kết quả “trung bình tốt” có thể che trải nghiệm kém của một nhóm. Thiết kế cần kiểm thử theo điều kiện phù hợp, công khai giới hạn và có lựa chọn không dùng AI. Không nên thu thập giọng nói, mặt hay thông tin nhạy cảm của lớp để chứng minh thiên vị. Mô phỏng hình học chỉ minh họa cơ chế, không chứng minh hệ thống ngoài đời công bằng hay bất công.
Cùng làm: Đổi dữ liệu, giữ nhiệm vụ
Mục tiêu phân loại hình tròn/vuông. Dùng lab bias hoặc sáu thẻ huấn luyện: ba tròn xanh nhỏ, ba vuông cam lớn; kiểm thử tròn cam và vuông xanh.
5 phút dự đoán sai lầm có thể xảy ra; 8 phút mô tả nhóm mẫu vắng mặt và nguy cơ dùng nhầm màu.
18 phút huấn luyện bằng dữ liệu lệch, thử các mẫu mới, ghi lỗi theo hình; thêm tròn cam và vuông xanh rồi huấn luyện lại. So sánh cùng một tập thử; ghi trường hợp hòa/chưa quyết định như vậy, không tự cho là đúng.
9 phút đổi một nhãn đúng thành sai và so lại; 5 phút mỗi em nối một thay đổi dữ liệu với một thay đổi đầu ra, rồi nêu giới hạn suy luận sang con người.
Dừng lại và suy nghĩ
- Số mẫu tăng nhưng chỉ lặp hình cũ có giải quyết vấn đề không?
- Vì sao phải thông báo giới hạn thay vì chỉ công bố tỷ lệ chung?
Minh chứng cần ghi lại
Bảng trước/sau có tập thử không đổi, ít nhất một lỗi hoặc kết quả chưa quyết định, giải thích ảnh hưởng của tính đại diện/nhãn và ví dụ đạo đức ngoài đời.
Không có thiết bị? Vẫn học được.
Nhóm chọn nhãn theo mẫu gần nhất trên thẻ thuộc tính; khi nhiều mẫu gần ngang nhau bất đồng nhãn thì ghi “chưa quyết định”. Không mô phỏng bằng cách đoán tùy ý.
Họ và tên: ........................................ Lớp: ........ Ngày: ................
Quan sát / sản phẩm của em:
Em đã kiểm tra bằng cách nào? Em sẽ thay đổi điều gì?
Em có dùng AI không? Nếu có, AI đã hỗ trợ phần nào?
Tự luyện để hiểu bài
Các câu hỏi dưới đây giúp em nhận phản hồi và thử lại. Số câu đúng không phải điểm chính thức, không thay thế minh chứng hoạt động hay nhận xét của giáo viên. Câu trả lời tự luyện chỉ lưu trên trình duyệt này.
Bài tập
Đã đúng 0/2 câu
- Câu 1Mức 2Trắc nghiệm 1 đáp án
Cách cải thiện có căn cứ nhất là gì?
- Câu 2Mức 2Đúng / Sai
Lab hình học đủ chứng minh một AI tuyển dụng ngoài đời là công bằng.
- Câu 3Mức 3Tự luận
Nêu một chuỗi dữ liệu → đầu ra → tác động đạo đức.
0 từ / tối đa 180
Quan sát dữ liệu lệch và nhãn sai
Dùng các hình tròn/vuông tổng hợp có màu và kích thước. Huấn luyện lại sau mỗi thay đổi, so lỗi theo hình trên tập kiểm thử; không có hồ sơ người thật.
Thử các bộ dữ liệu, rồi tự sửa
Bộ thiếu đa dạng chỉ có tròn–xanh–nhỏ và vuông–cam–lớn. Bộ sai nhãn gắn hai huy hiệu tròn màu cam vào hộp vuông. Hãy kiểm tra, bổ sung hoặc sửa nhãn rồi huấn luyện lại.
Chưa huấn luyện.
Kiểm tra 4 huy hiệu mới cỡ vừa
Các huy hiệu kiểm tra đều có cỡ vừa, chưa xuất hiện trong bộ mẫu nhỏ/lớn dùng để huấn luyện; có đủ các nhóm tròn/vuông và xanh/cam. Kết quả chỉ nói về bộ dữ liệu giả lập này, không chứng minh công bằng ngoài đời.
Máy tính kết quả thế nào?
Mỗi đặc điểm khác nhau tính 1 điểm. Máy tìm tất cả mẫu có tổng điểm nhỏ nhất, rồi đếm nhãn của các mẫu đó. Hộp nhiều phiếu hơn được chọn; bằng phiếu thì chưa quyết định. Huấn luyện ở mô hình đơn giản này là lưu bản sao các ví dụ đã chọn, không phải hiểu hình như con người. Không có độ tin cậy hay AI tạo sinh giả lập.
Minh chứng ghi lại thao tác và kết quả thực của lượt học; không tự chấm năng lực. Muốn lưu vào hồ sơ, dùng biểu mẫu minh chứng của bài học.
Đây là mô hình học tập giới hạn, không phải hệ thống AI triển khai thực tế. Không nhập thông tin riêng tư. Có thể làm hoạt động giấy ở trên thay cho thí nghiệm.
Đang tải hồ sơ riêng tư…
Ghi lại điều em đã làm
Bảng trước/sau có tập thử không đổi, ít nhất một lỗi hoặc kết quả chưa quyết định, giải thích ảnh hưởng của tính đại diện/nhãn và ví dụ đạo đức ngoài đời. Không ghi địa chỉ, số điện thoại, mật khẩu hoặc thông tin riêng tư của người khác.
Em có thể trình bày miệng với giáo viên, viết trên phiếu giấy hoặc ghi bằng lời ở đây. Người hướng dẫn có thể ghi giúp điều đã quan sát.
Lịch sử minh chứng của em trong bài
Hướng dẫn dành cho giáo viên
Học liệu mở — đọc và in không cần đăng nhập. Dùng quan sát thực hành để nhận xét, không quy đổi tự luyện thành điểm năng lực.
Chuẩn bị
- Chuẩn bị thẻ thuộc tính và hai nhãn; không thu âm hay chụp ảnh học sinh.
Tổ chức hoạt động
Cho nhóm giữ tập thử riêng trước khi sửa dữ liệu. Hỏi “thay đổi nào gây khác biệt?” và chấp nhận kết quả không tăng; so sánh phải dựa số liệu thực quan sát. Thu minh chứng để phản hồi mô tả và đề xuất bước tiếp theo; không lập điểm hay kì thi AI riêng.
Câu hỏi thảo luận
- Một kết quả trung bình có thể che điều gì?
- Ai chịu trách nhiệm khi nhãn sai do con người gán?
Quan sát minh chứng
- Phân tích được chất lượng dữ liệu bằng so sánh có kiểm soát.
- Nêu được thiên vị hoặc thiếu minh bạch trong một tình huống thiết kế/vận hành.
Điều cần nhớ
Chất lượng và phạm vi dữ liệu ảnh hưởng đầu ra; con người phải kiểm thử, giải thích giới hạn và sửa bất công.