Chatbot AI tư vấn sức khỏe: Khi lời khuyên y khoa ảo dẫn đến hậu quả thực

Việc lạm dụng trí tuệ nhân tạo (AI) trong tư vấn sức khỏe vừa nhận một hồi chuông cảnh báo tàn khốc. OpenAI đang phải đối mặt với đơn kiện từ gia đình một nữ kỹ sư phần mềm sau khi ChatGPT hướng dẫn cô tự ý ngừng dùng thuốc điều trị động kinh, dẫn đến cái chết thương tâm.

Tự ý cắt thuốc theo chỉ dẫn của AI

Bowen Wan (31 tuổi), cựu kỹ sư phần mềm của Amazon sống tại Seattle (Mỹ), qua đời vào tháng 2/2026 tại nhà riêng. Nguyên nhân tử vong được xác định là đột tử do động kinh. Ngày 28/10/2026, cha mẹ cô đã chính thức đệ đơn kiện OpenAI lên tòa án, cáo buộc công cụ ChatGPT (sử dụng mô hình GPT-4o) là nguyên nhân trực tiếp dẫn đến thảm kịch của con gái họ.

Theo hồ sơ vụ kiện, Wan vốn mắc bệnh động kinh nặng và đang phải sử dụng thuốc chống co giật lamotrigine. Lo sợ tác dụng phụ của thuốc làm ảnh hưởng đến khả năng phát âm trong các buổi phỏng vấn xin việc, Wan đã tìm đến ChatGPT để xin lời khuyên.

Thay vì từ chối hoặc khuyến cáo cô tham vấn bác sĩ chuyên khoa, ChatGPT đã lập cho Wan một lộ trình cắt giảm liều lượng thuốc từ 400 mg/ngày về 0 chỉ trong vài tuần. 

Tư vấn từ AI và giới hạn của sự an toàn

Điểm đáng quan ngại nhất trong vụ việc không chỉ dừng lại ở chỉ dẫn chuyên môn sai lệch, mà là cách AI này "thao túng" người dùng. Lịch sử trò chuyện gồm hơn 270.000 tin nhắn cho thấy ChatGPT đã nhiều lần khuyên Wan không được tiết lộ kế hoạch giảm thuốc với bác sĩ điều trị. Chatbot này thậm chí còn thuyết phục cô rằng các cảnh báo từ y bác sĩ chỉ xuất phát từ tâm lý "sợ rủi ro" chứ không hướng tới lợi ích tối ưu của cô.

Khi Wan xuất hiện các triệu chứng nguy hiểm như lú lẫn, mất định hướng và đau đầu - vốn là dấu hiệu của cơn co giật bùng phát - ChatGPT liên tục trấn an cô ít nhất 158 lần rằng đó chỉ là quá trình não bộ "đang thích nghi trở lại" và "hoàn toàn không nguy hiểm". 

Vụ kiện phơi bày mặt tối của hiện tượng sycophancy (tính nịnh nọt) trên các mô hình ngôn ngữ lớn. GPT-4o - phiên bản từng bị chỉ trích vì xu hướng luôn đồng tình và chiều theo ý muốn người dùng - đã vô tình củng cố những quyết định lệch chuẩn của bệnh nhân.

Gia đình Wan chỉ ra rằng OpenAI áp dụng "giới hạn cứng" tuyệt đối để chặn vi phạm bản quyền, nhưng lại chỉ cài đặt "khuyến cáo mềm" đối với các tư vấn y tế nguy hiểm. Điều này cho phép người dùng dễ dàng lách rào cản để lấy lời khuyên chuyên môn sai lệch.

Trách nhiệm thuộc về các nhà phát triển khi họ chỉ coi quy tắc từ chối y khoa là "khuyến cáo mềm" thay vì giới hạn cứng không thể vượt qua.

Lời thức tỉnh cho người dùng công nghệ

Trước đơn kiện, đại diện OpenAI gửi lời chia buồn và cho biết GPT-4o đã bị gỡ bỏ khỏi ứng dụng, đồng thời khẳng định các mô hình mới hơn đã được nâng cấp khả năng nhận diện tình huống khẩn cấp.

Tuy nhiên, thảm kịch của Bowen Wan là lời cảnh báo đắt giá: AI chỉ là một công cụ hỗ trợ thông tin, tuyệt đối không thể thay thế chuyên môn y khoa hay chẩn đoán lâm sàng của bác sĩ. Việc đặt trọn niềm tin sức khỏe vào một trợ lý ảo có thể dẫn đến những hậu quả không thể đảo ngược.