Mọi công cụ AI hỗ trợ chẩn đoán đều sai theo hai kiểu: báo bất thường khi người bệnh không có vấn đề (dương tính giả) và báo bình thường khi người bệnh có vấn đề (âm tính giả). Không có công cụ nào loại bỏ được cả hai. Việc của phòng khám là biết công cụ của mình hay sai kiểu nào, có quy trình xử lý từng kiểu, và để bác sĩ, không phải máy, là người chốt.
Bài này đi vào phần việc sau khi công cụ đã được lắp: hai kiểu sai có giá khác nhau ra sao, vì sao con người dễ bị máy dẫn dắt, làm gì khi máy báo mà bác sĩ không thấy và ngược lại, cách tránh tình trạng nhân viên lờ đi cảnh báo vì quá nhiều, và một mẫu sổ theo dõi ca bất đồng.
Hai kiểu sai có giá khác nhau
Cùng một tỷ lệ sai, nhưng hậu quả của dương tính giả và âm tính giả rất khác nhau, với người bệnh lẫn với phòng khám. Nhìn rõ hai cột này giúp bạn quyết định nên ưu tiên tránh kiểu sai nào cho từng loại việc.
| Dương tính giả (báo nhầm) | Âm tính giả (bỏ sót) | |
|---|---|---|
| Với người bệnh | Lo lắng, phải làm thêm xét nghiệm hoặc chụp thêm, tốn thời gian và tiền, đôi khi phải làm thủ thuật không cần thiết | Bệnh không được phát hiện đúng lúc, có thể chậm điều trị |
| Với phòng khám | Tăng khối lượng việc, nhân viên mệt và bắt đầu lờ cảnh báo | Rủi ro chuyên môn và pháp lý, mất niềm tin của người bệnh |
| Dễ nhận ra không | Dễ, vì có cảnh báo để xem lại | Khó, vì không có gì báo hiệu; thường chỉ lộ ra khi người bệnh quay lại |
| Cách giảm | Ngưỡng hợp lý, ảnh đầu vào tốt, bác sĩ xem lại có hệ thống | Bác sĩ vẫn đọc toàn bộ, không chỉ xem vùng được khoanh; triệu chứng thắng kết quả máy |
Điểm đáng chú ý nhất là dòng "dễ nhận ra không". Dương tính giả hiện ra ngay trước mắt nên thường được bàn nhiều; âm tính giả im lặng nên dễ bị đánh giá thấp. Một quy trình tốt phải có chỗ cố ý tìm âm tính giả, chứ không chỉ chờ chúng tự lộ ra.
Thiên lệch tự động hoá: khi người tin máy hơn mức nên tin
Thiên lệch tự động hoá là xu hướng của con người dựa vào gợi ý của hệ thống tự động nhiều hơn mức hợp lý. Hiện tượng này được mô tả từ lâu trong ngành hàng không và nhiều lĩnh vực khác trước khi có AI y tế. Nó xảy ra theo hai hướng, tương ứng với hai kiểu sai của máy.
Hướng thứ nhất là làm theo lỗi của máy: máy khoanh một vùng, bác sĩ vốn chưa chắc, nhìn vùng khoanh và nghiêng về phía máy. Hướng thứ hai là bỏ qua vì máy im lặng: bác sĩ nhìn lướt phần còn lại của phim vì nghĩ máy đã soát rồi, và bỏ lỡ chỗ máy không được huấn luyện để thấy. Hướng thứ hai nguy hiểm hơn vì không để lại dấu vết.
Thiên lệch tăng lên khi người đọc mệt, khi khối lượng lớn, khi máy đã đúng liên tiếp nhiều lần và khi giao diện hiện gợi ý của máy trước ảnh gốc. Ba cách giảm đã được nhiều nơi áp dụng: bác sĩ đọc và ghi nhận định trước rồi mới mở gợi ý; giao diện mặc định hiện ảnh gốc, lớp gợi ý phải bấm mới hiện; và định kỳ thảo luận những ca máy sai để mọi người giữ được sự hoài nghi lành mạnh. Danh mục an toàn người bệnh của trang có bài riêng về thiên kiến này ở mọi loại công cụ; ở đây chỉ bàn phần gắn với hai kiểu sai của công cụ chẩn đoán.
Khi máy báo bất thường mà bác sĩ không thấy
Đây là tình huống thường gặp nhất. Mục tiêu là xem lại nghiêm túc mà không để máy quyết thay. Một quy trình gọn:
- Xem lại đúng vùng máy đánh dấu trên ảnh gốc, không lớp phủ, với điều kiện xem tốt: màn hình đủ sáng, phóng to, chỉnh độ tương phản nếu cần.
- Kiểm chất lượng ảnh và các nguyên nhân gây báo nhầm quen thuộc của loại ảnh đó: vật lạ, nhiễu, chồng hình, tư thế.
- Đối chiếu bệnh cảnh: triệu chứng, khám lâm sàng, ảnh hay bản ghi cũ nếu có.
- Nếu vẫn không chắc, hỏi ý kiến một đồng nghiệp hoặc người đọc từ xa theo quy trình của phòng khám, thay vì để máy làm trọng tài.
- Bác sĩ quyết định và ghi vào hồ sơ lý do không đồng ý với máy bằng một câu ngắn.
- Ghi ca vào sổ theo dõi bất đồng.
Điều quan trọng là bước 5 phải dễ làm. Nếu không đồng ý với máy đòi giải trình dài, sau một thời gian bác sĩ sẽ đồng ý cho xong, và công cụ trở thành người quyết định trên thực tế.
Khi máy báo bình thường
"Bình thường" của máy không phải kết luận. Máy chỉ nói không thấy dấu hiệu nằm trong danh sách nó được dạy, ở mức vượt ngưỡng. Bất thường ngoài danh sách, bất thường dưới ngưỡng, hay bất thường mà ảnh không thể hiện đều không được phản ánh.
Triệu chứng thắng điểm số. Người bệnh có triệu chứng đáng lo thì việc khám thêm, theo dõi hay chuyển tuyến dựa trên đánh giá lâm sàng, dù máy báo bình thường. Quy tắc này nên được viết thành câu trong quy trình nội bộ.
Đọc toàn bộ ảnh. Bác sĩ đọc hết ảnh theo trình tự quen thuộc của mình, không chỉ nhìn chỗ máy khoanh hay không khoanh. Đây là cách duy nhất để chặn kiểu sai "bỏ qua vì máy im lặng".
Cố ý tìm âm tính giả. Định kỳ, ví dụ mỗi tháng, chọn một số ca máy báo bình thường để một bác sĩ khác đọc lại, hoặc tra những người bệnh quay lại khám với chẩn đoán mới xem lần trước máy nói gì. Đây là cách duy nhất để thấy kiểu sai im lặng.
Một tuần ở phòng khám nhi (ví dụ giả định)
Một phòng khám nhi ở Thái Nguyên dùng thử công cụ đọc phim ngực đã được nhà sản xuất ghi rõ là dùng cho trẻ từ một độ tuổi nhất định trở lên. Tuần đầu, điều dưỡng nhận thấy máy gắn cờ khá nhiều phim chụp khi trẻ khóc, cử động, tư thế xoay. Bác sĩ xem lại, không đồng ý với phần lớn số cờ đó, và ghi vào sổ với nguyên nhân nghi ngờ là chất lượng ảnh.
Cũng trong tuần đó, một trẻ được bác sĩ khám thấy dấu hiệu đáng lo dù phim được máy cho là bình thường. Bác sĩ xử trí theo đánh giá lâm sàng và hẹn khám lại; lần khám sau xác nhận nhận định của bác sĩ là đúng. Ca này được ghi vào sổ như một âm tính giả.
Cuối tuần, nhóm bác sĩ rút ra hai việc. Một là cải thiện cách giữ trẻ khi chụp để giảm phim xoay, việc này có lợi kể cả khi không dùng máy. Hai là nhắc lại với mọi người rằng máy báo bình thường không thay được khám lâm sàng. Không ai bị trách; cả hai bài học đều đến từ việc ghi sổ đầy đủ.
Mệt mỏi vì cảnh báo: khi quá nhiều cờ thành không có cờ nào
Mệt mỏi vì cảnh báo là hiện tượng quen thuộc ở các khoa có nhiều máy theo dõi: khi chuông báo quá nhiều và phần lớn là báo nhầm, con người dần không phản ứng nữa, kể cả với cảnh báo thật. Công cụ AI hỗ trợ chẩn đoán cũng có thể tạo ra hiện tượng này, nhất là ở nơi tỷ lệ bệnh thấp như khám sức khoẻ, nơi phần lớn cờ sẽ là báo nhầm.
Dấu hiệu sớm dễ nhận ra: nhân viên bắt đầu nói "máy lại báo linh tinh", tỷ lệ cờ được xem lại giảm dần, hoặc có người tắt luôn lớp gợi ý. Đừng coi đó là thái độ kém; đó là phản ứng tự nhiên với một hệ thống đặt sai chỗ.
Cách xử lý ở mức quy trình: xem lại ngưỡng cùng nhà cung cấp nếu được phép điều chỉnh; chỉ dùng công cụ cho nhóm người bệnh mà nó có ích nhất thay vì cho tất cả; phân loại cờ thành mức cần xem ngay và mức xem trong ngày; và theo dõi tỷ lệ cờ dẫn tới thay đổi quyết định. Nếu sau một thời gian hầu như không cờ nào thay đổi quyết định của bác sĩ, câu hỏi nên đặt ra là công cụ có đáng giữ không.
Sổ theo dõi ca bất đồng: các cột nên có
Sổ theo dõi là công cụ quản lý chất lượng rẻ nhất và hiệu quả nhất. Một bảng tính dùng chung là đủ, miễn là mỗi ca bất đồng được ghi trong ngày. Không ghi tên người bệnh vào sổ; dùng mã hồ sơ.
- Mã hồ sơ, ngày, loại ảnh hoặc bản ghi.
- Phiên bản phần mềm đang chạy hôm đó.
- Máy nói gì: vùng đánh dấu, điểm, nhãn.
- Bác sĩ nói gì, và ai là bác sĩ.
- Kiểu bất đồng: máy báo mà bác sĩ không đồng ý, hoặc bác sĩ thấy mà máy không báo.
- Nguyên nhân nghi ngờ: chất lượng ảnh, vật lạ, nhóm người bệnh ngoài phạm vi, chưa rõ.
- Kết quả theo dõi sau đó nếu có: khám lại, xét nghiệm khẳng định, hội chẩn.
- Ghi chú cho buổi họp chuyên môn hằng tháng.
Buổi xem sổ hằng tháng nên tập trung vào bài học về quy trình, không truy lỗi cá nhân. Khi bác sĩ thấy ghi ca bất đồng giúp cả nhóm học hỏi thay vì bị đánh giá, sổ sẽ đầy đủ và trung thực hơn.
Nói với người bệnh khi có báo nhầm
Người bệnh ngày càng biết phòng khám dùng AI, và có khi được cho xem màn hình có vùng tô màu. Khi máy báo nhầm và bác sĩ không đồng ý, cách nói rõ ràng giúp tránh cả hai thái cực: người bệnh hoang mang vì "máy bảo có vấn đề", hoặc mất niềm tin vào cả phòng khám.
Một cách nói có thể dùng: công cụ hỗ trợ đánh dấu những vùng cần bác sĩ xem kỹ, và nó cố ý đánh dấu rộng để không bỏ sót; bác sĩ đã xem lại vùng đó cùng các thông tin khác và nhận định như sau. Nếu bác sĩ đề nghị theo dõi hay kiểm tra thêm để chắc chắn, hãy nói rõ lý do là cẩn trọng, không phải vì máy bắt buộc.
Khi phát hiện một ca âm tính giả sau đó, tức máy đã bỏ sót, việc thông tin với người bệnh thuộc về quy trình báo cáo sự cố và trao đổi minh bạch của phòng khám, được bàn ở danh mục an toàn người bệnh. Điều cần tránh là đổ lỗi cho máy trước người bệnh; kết luận cuối là của bác sĩ và phòng khám.
Câu hỏi thường gặp
Dương tính giả và âm tính giả, kiểu nào nguy hiểm hơn?
Thường âm tính giả nguy hiểm hơn vì bệnh bị bỏ sót và không có gì báo hiệu. Tuy vậy dương tính giả quá nhiều cũng gây hại: người bệnh làm thêm việc không cần thiết và nhân viên mệt mỏi, dần lờ đi cảnh báo, kể cả cảnh báo đúng.
Làm sao biết máy đang bỏ sót những gì?
Phải cố ý tìm: định kỳ cho bác sĩ khác đọc lại một số ca máy báo bình thường, và tra lại những người bệnh quay lại khám với chẩn đoán mới. Không làm việc này thì âm tính giả gần như vô hình.
Bác sĩ không đồng ý với AI thì có phải giải trình không?
Nên ghi một câu ngắn lý do vào hồ sơ và ghi ca vào sổ theo dõi. Quy trình không nên bắt giải trình nặng hơn so với khi đồng ý với máy, vì như vậy bác sĩ sẽ dần đồng ý cho xong.
Có nên hạ ngưỡng để máy báo nhiều hơn cho an toàn không?
Hạ ngưỡng giảm bỏ sót nhưng tăng báo nhầm, có thể dẫn tới mệt mỏi vì cảnh báo. Việc chỉnh ngưỡng cần bàn với nhà cung cấp, đúng phạm vi được phép, cân nhắc khối lượng việc phòng khám xử lý được và ghi lại quyết định.
Nhân viên tắt lớp gợi ý của AI vì phiền thì xử lý thế nào?
Đó là tín hiệu công cụ đang đặt sai chỗ hoặc báo nhầm quá nhiều. Hãy xem lại ngưỡng, nhóm người bệnh được chạy qua công cụ và tỷ lệ cờ dẫn tới thay đổi quyết định, thay vì chỉ nhắc nhở nhân viên.
Khi máy báo nhầm có cần nói với người bệnh không?
Nếu người bệnh đã thấy hoặc được nghe về cảnh báo, bác sĩ nên giải thích công cụ đánh dấu rộng để không bỏ sót và nêu nhận định của mình sau khi xem lại. Cách nói bình tĩnh, minh bạch giúp người bệnh yên tâm và tin vào quy trình.