Thiên kiến tự động hoá là xu hướng của con người tin vào gợi ý của máy hơn mức đáng tin, đến mức bỏ qua thông tin trái ngược ngay trước mắt. Nó không phải lỗi của người lười hay người kém; nó xuất hiện ở cả người giỏi, nhất là khi công cụ thường đúng và công việc dồn dập.
Bài này giải thích khái niệm ở mức đủ dùng cho chủ phòng khám, bác sĩ, điều dưỡng và lễ tân: hai dạng lỗi do thiên kiến này gây ra, cách nó xuất hiện trong công việc hằng ngày của phòng khám nhỏ có dùng AI, và những thay đổi trong quy trình giúp giữ con người tỉnh táo. Việc đánh giá độ chính xác của công cụ AI hỗ trợ chẩn đoán có danh mục riêng; ở đây chỉ bàn phía con người khi làm việc cùng máy.
Thiên kiến tự động hoá là gì
Khái niệm này được nghiên cứu nhiều trong hàng không, điều khiển công nghiệp và về sau là y tế, ở những nơi con người làm việc cùng hệ thống tự động. Hiện tượng chung là khi một hệ thống đưa ra gợi ý, con người có xu hướng dùng gợi ý đó như lối tắt thay cho việc tự đánh giá đầy đủ. Lối tắt này tiết kiệm sức, và phần lớn thời gian nó cho kết quả đúng, nên nó dần trở thành thói quen.
Vấn đề nằm ở những lần máy sai. Khi đã quen tin, con người không còn kiểm như trước, và lỗi của máy đi thẳng qua. Đáng chú ý là công cụ càng ít sai, người dùng càng ít cảnh giác, nên những lỗi hiếm lại khó bị bắt nhất.
Với AI tạo văn bản, thiên kiến này có thêm một lực đẩy: văn bản được viết trôi chảy, tự tin, đúng giọng chuyên môn. Người đọc không chỉ tin vì máy hay đúng, mà còn vì văn bản trông giống như do một đồng nghiệp có kinh nghiệm viết. Đây là lý do việc duyệt văn bản AI soạn cần một quy trình riêng chứ không chỉ là đọc lại như bình thường.
Hai dạng lỗi: làm theo và bỏ sót
Lỗi làm theo. Máy gợi ý sai và người làm theo, dù có thông tin cho thấy gợi ý đó không đúng. Ví dụ giả định: bản tóm tắt do AI soạn ghi lời dặn tái khám sau hai tuần, điều dưỡng gửi đi dù trong ghi chép tay bác sĩ viết một tuần. Thông tin đúng nằm ngay bên cạnh, nhưng văn bản trông hoàn chỉnh nên không ai so.
Lỗi bỏ sót. Máy không báo, người cũng không để ý, vì đã quen trông vào máy để phát hiện vấn đề. Ví dụ giả định: phần mềm thường nhắc khi người bệnh có ghi chú đặc biệt trong hồ sơ, nhưng ghi chú lần này nằm ở trường khác nên không có nhắc, và nhân viên cũng không tự mở xem như trước kia.
Hai dạng cần hai cách chặn khác nhau. Lỗi làm theo được chặn bằng việc buộc đối chiếu với nguồn trước khi chấp nhận gợi ý. Lỗi bỏ sót được chặn bằng việc giữ lại những bước kiểm thủ công quan trọng, không bỏ chúng chỉ vì đã có công cụ nhắc.
Biểu hiện thường gặp ở phòng khám nhỏ
Thiên kiến tự động hoá hiếm khi tự giới thiệu. Nó lộ ra qua những hành vi nhỏ, rất dễ bỏ qua nếu không có người để ý:
- Văn bản AI soạn được duyệt và gửi đi mà gần như không có chỉnh sửa nào, tuần này qua tuần khác.
- Nhân viên trả lời người bệnh theo nội dung trên màn hình dù người bệnh nói một điều khác.
- Bước kiểm thủ công cũ bị bỏ dần vì có phần mềm nhắc, không ai quyết định chính thức việc bỏ.
- Khi được hỏi vì sao chấp nhận một nội dung, câu trả lời là máy ghi vậy.
- Cảnh báo của phần mềm bị tắt hoặc bấm qua liên tục vì quá nhiều, kể cả những cảnh báo quan trọng.
- Nhân viên mới học cách dùng công cụ trước khi học quy trình mà công cụ hỗ trợ.
Một hai biểu hiện chưa đáng lo. Khi nhiều biểu hiện xuất hiện cùng lúc, đó là lúc rà lại quy trình. Người phát hiện tốt nhất thường là người mới vào hoặc người vừa nghỉ phép quay lại, vì họ nhìn quy trình bằng con mắt chưa quen.
Vì sao người giỏi cũng dính
Khối lượng công việc là yếu tố mạnh nhất. Khi phải xử lý nhiều việc trong ít thời gian, não người tự tìm lối tắt, và gợi ý của máy là lối tắt sẵn có nhất. Một bác sĩ rất cẩn thận vào đầu buổi có thể chấp nhận văn bản AI soạn với ít kiểm tra hơn hẳn vào cuối buổi, không vì thiếu trách nhiệm mà vì sức chú ý có giới hạn.
Mệt mỏi cảnh báo là yếu tố thứ hai. Khi phần mềm bật quá nhiều nhắc nhở, phần lớn không quan trọng, người dùng học cách bấm qua theo phản xạ. Đến khi có cảnh báo thật sự quan trọng, nó cũng bị bấm qua như những cái khác.
Yếu tố thứ ba là cảm giác trách nhiệm được chia sẻ. Khi có máy cùng tham gia, mỗi người dễ nghĩ rằng đã có một lớp kiểm khác: người soạn nghĩ người duyệt sẽ bắt lỗi, người duyệt nghĩ máy đã làm đúng. Nếu không phân rõ ai kiểm cái gì, mỗi lớp đều trông vào lớp còn lại.
Thiết kế quy trình để con người còn tỉnh táo
Nhắc nhở nhân viên “đừng tin máy” gần như không có tác dụng lâu dài. Thay đổi quy trình bền hơn. Một vài biện pháp phù hợp với phòng khám nhỏ:
| Biện pháp | Cách làm | Chặn dạng lỗi nào |
|---|---|---|
| Đối chiếu bắt buộc | Mọi con số, ngày, câu phủ định trong văn bản AI soạn phải so với ghi chép gốc trước khi ký | Làm theo |
| Tự đánh giá trước | Với những việc cần nhận định, người dùng ghi nhận định của mình trước khi xem gợi ý | Làm theo |
| Giữ bước kiểm thủ công then chốt | Liệt kê những bước kiểm không được bỏ dù đã có phần mềm nhắc | Bỏ sót |
| Giảm cảnh báo thừa | Rà định kỳ các nhắc nhở, tắt những cái không cần để những cái quan trọng được chú ý | Bỏ sót |
| Phân rõ trách nhiệm | Ghi rõ ai kiểm mục nào trong văn bản, không để hai lớp cùng trông nhau | Cả hai |
| Giới hạn khối lượng duyệt | Không dồn duyệt vào cuối buổi; chia đợt trong ngày | Cả hai |
Biện pháp tự đánh giá trước đặc biệt có ích với bác sĩ khi dùng bất kỳ công cụ gợi ý nào. Nó giữ cho gợi ý của máy là ý kiến thứ hai chứ không phải ý kiến đầu tiên.
Thói quen cá nhân chống tin máy quá mức
Bên cạnh quy trình chung, mỗi người có thể tự giữ vài thói quen nhỏ. Chúng tốn ít thời gian nhưng giữ cho đầu óc chủ động:
- Trước khi đọc văn bản AI soạn, tự nhắc mình một câu: văn bản này có thể sai ở đâu.
- Đọc nguồn gốc trước, đọc bản AI sau, thay vì ngược lại.
- Khi thấy mình định chấp nhận một nội dung chỉ vì nó trông hợp lý, dừng lại tìm một bằng chứng cụ thể.
- Khi người bệnh nói điều khác với màn hình, coi lời người bệnh là thông tin cần kiểm, không phải sai sót cần sửa.
- Cuối tuần, nhớ lại một lần mình đã bắt được lỗi của công cụ và một lần suýt bỏ qua. Chia sẻ với đội nếu có thể.
Những thói quen này không làm chậm công việc đáng kể khi đã quen. Chúng giúp bạn dùng AI như một trợ lý nhanh tay chứ không phải người quyết định thay.
Đo xem đội có đang quá tin máy không
Một phép đo đơn giản là theo dõi tỷ lệ văn bản AI soạn có chỉnh sửa trước khi gửi. Không có con số chuẩn, nhưng xu hướng thì nói lên nhiều điều. Nếu gần như không ai sửa gì trong nhiều tuần, có hai khả năng: công cụ và câu lệnh đã rất tốt, hoặc người duyệt đã thôi đọc kỹ. Cách phân biệt là thử.
Phép thử phù hợp là đưa vào luồng duyệt, có báo trước với cả đội rằng sẽ có bài kiểm tra trong tháng, một vài văn bản giả định đã cài lỗi. Văn bản thử phải được đánh dấu để không thể gửi tới người bệnh thật. Kết quả không dùng để khen chê cá nhân mà để biết lớp kiểm nào đang yếu. Phép thử này cũng nhắc mọi người một cách tự nhiên rằng máy có thể sai.
Đọc sổ sự cố cũng cho tín hiệu: nếu nhiều sự cố có chung câu “đã dựa theo nội dung trên hệ thống”, thiên kiến tự động hoá đang là một nguyên nhân gốc, và cần sửa ở quy trình chứ không ở từng người.
Tin máy quá mức cũng là chuyện đạo đức nghề nghiệp
Thiên kiến tự động hoá thường được bàn như một vấn đề kỹ thuật, nhưng nó chạm tới một nguyên tắc cơ bản của nghề y: người làm chuyên môn chịu trách nhiệm về quyết định của mình. Khi một văn bản sai được ký vì máy viết trông ổn, người bệnh không nhận được sự cẩn trọng mà họ có quyền trông đợi khi giao sức khoẻ cho phòng khám. Lý do “máy ghi vậy” không làm nhẹ đi trách nhiệm đó.
Với chủ phòng khám, khía cạnh đạo đức nằm ở cách tổ chức công việc. Đưa AI vào để mỗi người làm được nhiều việc hơn trong cùng thời gian là quyết định hợp lý, nhưng nếu phần thời gian tiết kiệm được bị lấp đầy bằng thêm việc mà không chừa lại thời gian kiểm, phòng khám đang lặng lẽ đẩy rủi ro sang người bệnh. Một phần thời gian AI tiết kiệm được nên được giữ lại cho chính việc đọc lại và đối chiếu.
Nói chuyện này công khai trong đội, thay vì để mỗi người tự xoay xở, giúp mọi người thấy việc dừng lại kiểm là đúng việc, không phải làm chậm.
Câu hỏi thường gặp
Thiên kiến tự động hoá có phải chỉ xảy ra với AI không?
Không. Nó xuất hiện với mọi hệ thống tự động, từ phần mềm quản lý phòng khám tới máy đo có hiển thị số. AI tạo văn bản làm vấn đề rõ hơn vì văn bản của nó trôi chảy và có vẻ chuyên môn, khiến người đọc dễ tin hơn.
Công cụ càng chính xác thì càng ít rủi ro phải không?
Không hoàn toàn. Công cụ chính xác giảm số lỗi, nhưng cũng làm người dùng ít cảnh giác hơn, nên những lỗi hiếm còn lại khó bị bắt hơn. Vì vậy dù công cụ tốt đến đâu, các bước đối chiếu then chốt vẫn cần được giữ.
Làm sao để giảm mệt mỏi vì phần mềm nhắc quá nhiều?
Rà định kỳ danh sách nhắc nhở cùng đội, giữ lại những cái thật sự cần, tắt hoặc gộp những cái thừa. Mục tiêu là mỗi lần phần mềm nhắc, người dùng có lý do để dừng lại nhìn, không phải phản xạ bấm qua.
Có nên yêu cầu bác sĩ ghi nhận định trước khi xem gợi ý của công cụ không?
Với những công cụ đưa ra gợi ý liên quan tới nhận định chuyên môn, đây là cách hiệu quả để giữ vai trò quyết định của bác sĩ. Cách làm cụ thể nên do bác sĩ phụ trách chuyên môn quyết định cho phù hợp với nhịp làm việc của phòng khám.
Nhân viên mới có dễ bị thiên kiến tự động hoá hơn không?
Thường là có, vì họ chưa có kinh nghiệm để nhận ra khi máy sai và dễ coi công cụ là chuẩn. Vì vậy nhân viên mới nên học quy trình trước công cụ, và văn bản họ duyệt nên có người kèm kiểm lại trong thời gian đầu.