Vì sao chỉ có tuyên bố về AI có trách nhiệm là chưa đủ?
Một tuyên bố về AI có trách nhiệm là chưa đủ vì nó chỉ mô tả ý định, và không có nội dung nào cho một đồng nghiệp bận rộn biết phải làm gì vào chiều thứ Ba. Các biện pháp kiểm soát mới là thứ biến tuyên bố thành hành vi.
Hãy hình dung một công ty môi giới bảo hiểm giả định có 60 người, Meridian Cover. Đội xử lý yêu cầu bồi thường bắt đầu dùng trợ lý AI để soạn thư trả lời email khách hàng hỏi về tình trạng yêu cầu bồi thường. Ban giám đốc yêu cầu trưởng bộ phận vận hành Sam 'đảm bảo chúng ta sử dụng AI có trách nhiệm'. Những gì Sam hiện có là một câu trên mạng nội bộ, 'Meridian sử dụng AI có đạo đức và trách nhiệm', một tài khoản dùng chung để đăng nhập trợ lý, không có hồ sơ ghi lại thư trả lời nào do AI soạn, cùng một khiếu nại từ khách hàng được thông báo rằng yêu cầu bồi thường đã được duyệt trong khi vẫn đang được thẩm định.
Những thực hành cốt lõi để sử dụng AI có trách nhiệm là gì?
Các thực hành cốt lõi để sử dụng AI có trách nhiệm gồm chính sách sử dụng bằng văn bản, danh mục những nơi đang sử dụng AI, bước con người kiểm tra tương xứng với rủi ro, tài liệu ngắn gọn cho từng trường hợp sử dụng, giám sát bằng kiểm tra mẫu và quy trình xử lý sự cố. Khung quản lý rủi ro AI của NIST chia công việc này thành bốn chức năng: Quản trị, Xác định bối cảnh, Đo lường và Quản lý.
Quản trị: soạn chính sách và chỉ định người chịu trách nhiệm
Nêu rõ công cụ nào được phê duyệt, được phép đưa dữ liệu gì vào và ai chịu trách nhiệm cho từng cách sử dụng AI. NIST mô tả chức năng Quản trị là xây dựng văn hóa, chính sách và trách nhiệm giải trình làm nền tảng cho các chức năng khác.
Lập bản đồ: ghi lại từng trường hợp sử dụng và bối cảnh
Ghi một dòng vào sổ theo dõi cho mỗi lần sử dụng: mục đích, người dùng, công cụ, dữ liệu liên quan và những người có thể bị ảnh hưởng nếu xảy ra sai sót.
Đo lường: kiểm tra chất lượng theo lịch
Thường xuyên lấy mẫu đầu ra để kiểm tra theo một danh sách ngắn và ghi lại tỷ lệ lỗi, thay vì chờ có khiếu nại mới phát hiện vấn đề.
Quản lý: hành động dựa trên những gì bạn phát hiện
Sửa câu lệnh, siết chặt bước kiểm tra hoặc tạm dừng sử dụng, đồng thời ghi nhận sự cố để không lặp lại sai lầm đó.
Thực hành AI có trách nhiệm ở mức yếu và tốt khác nhau như thế nào?
Phiên bản yếu: Sam gửi email nhắc nhóm xử lý yêu cầu bồi thường 'kiểm tra kỹ lại câu trả lời của AI' và thêm một dòng vào sổ tay nhân viên. Không ai biết kiểm tra kỹ lại nghĩa là gì, việc dùng chung tài khoản khiến không thể biết ai đã gửi nội dung nào, và thông báo trạng thái sai tiếp theo chỉ được phát hiện khi một khách hàng khác khiếu nại.
Phiên bản chặt chẽ: Sam viết một trang quy định kiểm soát riêng cho trường hợp sử dụng này. Chính sách: trợ lý được phép soạn câu trả lời, nhưng quyết định về yêu cầu bồi thường, số tiền và ngày tháng chỉ được sao chép từ hệ thống xử lý bồi thường, tuyệt đối không lấy từ bản nháp. Rà soát: người xử lý phải đọc mọi câu trả lời trước khi gửi; câu trả lời về việc chấp thuận hoặc từ chối phải được chuyển cho người xử lý cấp cao. Tài liệu: ghi chú ngắn nêu mục đích, câu lệnh đã được phê duyệt và quy tắc rà soát. Giám sát: mỗi thứ Sáu, Sam lấy mẫu 20 câu trả lời đã gửi để kiểm tra trạng thái, giọng điệu và các cam kết. Sự cố: mọi thông tin sai đã gửi cho khách hàng phải được ghi nhận trong vòng một ngày, kèm biện pháp khắc phục đã thực hiện. Mỗi người xử lý có tài khoản đăng nhập riêng để có thể truy vết các bản nháp.
| Kiểm soát | Người phụ trách | Bằng chứng | Tần suất |
|---|---|---|---|
| Chính sách sử dụng | Trưởng bộ phận vận hành | Phiếu kiểm soát một trang | Rà soát hằng quý |
| Rà soát bởi con người | Nhân viên xử lý yêu cầu bồi thường | Tên người xử lý trên mỗi câu trả lời | Mọi phản hồi |
| Phê duyệt của cấp cao | Người xử lý cấp cao | Ghi chú phê duyệt | Câu trả lời chấp thuận và từ chối |
| Kiểm tra theo mẫu | Trưởng bộ phận vận hành | Kết quả danh sách kiểm tra | Hằng tuần, 20 câu trả lời |
| Nhật ký sự cố | Trưởng bộ phận vận hành | Mục nhật ký và cách khắc phục | Trong vòng một ngày làm việc |
Làm sao biết các biện pháp kiểm soát AI có trách nhiệm đang có hiệu quả?
Các biện pháp kiểm soát của bạn có hiệu quả khi bạn có thể đưa ra bằng chứng để trả lời ba câu hỏi: ai đã kiểm tra kết quả này, kết quả không đạt danh sách kiểm tra với tần suất bao nhiêu, và điều gì đã thay đổi sau sự cố gần nhất? Nếu bất kỳ câu trả lời nào là 'chúng tôi cho là vậy', thì biện pháp kiểm soát đó chỉ tồn tại trên giấy.
Cũng cần tìm các dấu hiệu cảnh báo: những lần kiểm tra lấy mẫu luôn đạt có thể cho thấy danh sách kiểm tra quá lỏng lẻo; các bước kiểm tra bị bỏ qua khi mọi người bận; và các mục trong sổ theo dõi không thay đổi kể từ khi công cụ được cập nhật.
Những sai lầm thường gặp khi sử dụng AI có trách nhiệm trong nhóm nhỏ là gì?
Sai lầm phổ biến nhất là sao chép khung quản trị của một công ty lớn rồi không bao giờ dùng đến. Những sai lầm khác gồm: dùng chung thông tin đăng nhập khiến không thể xác định trách nhiệm, áp dụng cùng quy tắc kiểm tra cho lời chúc sinh nhật và quyết định giải quyết yêu cầu bồi thường, chỉ giám sát khi có khiếu nại, và âm thầm khắc phục sự cố mà không cập nhật câu lệnh hoặc chính sách. Hãy bắt đầu với một cách sử dụng mang lại giá trị cao, đặt ra năm biện pháp kiểm soát rồi mở rộng từ đó.
AI có trách nhiệm nằm ở đâu trong danh mục khóa học của Tosheo.ai?
AI có trách nhiệm nằm trong nhóm AI có trách nhiệm và chính sách, thuộc khóa học kiến thức nền tảng về AI, sau bài AI có đạo đức và trước bài thiết kế quy trình rà soát có con người tham gia. Bài tập thực hành yêu cầu bạn viết một bảng kiểm soát cho một trường hợp sử dụng AI trong vai trò của mình; phản hồi theo hướng dẫn chấm điểm kiểm tra xem mỗi biện pháp kiểm soát có người phụ trách, bằng chứng và tần suất thực hiện hay không. Người quản lý sử dụng gói Nhóm có thể giao bài này cho tất cả những người dùng chung một công cụ.
Nguồn và phạm vi
OECD.AI, các nguyên tắc AI của OECD (đã kiểm tra ngày 19 October 2026) ↗