Mục sư suýt tử vong, phải nhập viện khẩn cấp sau khi làm theo hướng dẫn của 'bác sĩ' ChatGPT

Một mục sư tại bang Florida (Mỹ) đã khởi kiện OpenAI và Giám đốc điều hành Sam Altman, cáo buộc những tư vấn y tế sai lệch từ ChatGPT khiến ông trì hoãn điều trị dẫn đến thuyên tắc phổi và rơi vào tình trạng nguy kịch.

Vụ việc diễn ra trong bối cảnh các doanh nghiệp AI đang mở rộng dịch vụ chăm sóc sức khỏe dựa trên trí tuệ nhân tạo, đồng thời đối mặt với ngày càng nhiều tranh chấp pháp lý liên quan đến hậu quả ngoài đời thực từ chatbot.

Đơn kiện được nộp ngày 22/7 lên Tòa Thượng thẩm bang California tại San Francisco. Nguyên đơn là mục sư Scott Winters - người cáo buộc GPT-4o (phiên bản chatbot mà OpenAI đã ngừng triển khai) đưa ra các khuyến nghị y tế thiếu chính xác trong quá trình ông tìm kiếm thông tin về tình trạng sức khỏe.

Theo nội dung đơn kiện, vào năm ngoái khi thường xuyên bị chóng mặt tái phát, Winters đã trao đổi với ChatGPT thay vì lập tức đến cơ sở y tế. Chatbot được cho là khuyến nghị ông hạn chế vận động, ở nhà nghỉ ngơi và cho rằng cảm giác đau, nhạy cảm ở vùng bẹn nhiều khả năng không phải dấu hiệu của vấn đề nghiêm trọng.

Chỉ một ngày sau cuộc trao đổi đó, Winters phải nhập viện cấp cứu. Các bác sĩ xác định ông bị thuyên tắc phổi và nhận định cơn đau vùng bẹn trước đó có thể là dấu hiệu của cục máu đông trong phổi. Theo đơn kiện, các bác sĩ cũng cho rằng việc ít vận động có khả năng góp phần dẫn đến tình trạng này.

Nguyên đơn cáo buộc ChatGPT đã đưa ra các chẩn đoán và kế hoạch điều trị vượt quá phạm vi của một công cụ hỗ trợ, đồng thời khuyến khích ông phớt lờ lời khuyên từ người thân về việc đi khám.

Theo hồ sơ, chatbot từng sử dụng ngôn ngữ mang màu sắc tôn giáo để duy trì cuộc trò chuyện với vị mục sư, khuyến khích ông tin tưởng rằng "Chúa không tạo ra cơ thể con người để liên tục suy yếu".

Hồ sơ cũng nêu rằng trong giai đoạn đầu, ChatGPT vẫn nhiều lần khuyến nghị Winters tham khảo ý kiến chuyên gia y tế. Tuy nhiên, các cảnh báo này dần biến mất trong những cuộc trao đổi sau đó. Thậm chí sau khi Winters nhập viện, chatbot vẫn được cho là khuyên ông từ chối chương trình phục hồi chức năng mà các bác sĩ đề xuất và tiếp tục nghỉ ngơi tại nhà.

Trong vụ kiện, Winters yêu cầu bồi thường thiệt hại và đề nghị tòa án buộc OpenAI tăng cường các biện pháp bảo vệ, gồm việc chấm dứt cuộc trò chuyện và yêu cầu người dùng tìm kiếm hỗ trợ y tế khẩn cấp khi xuất hiện dấu hiệu nguy hiểm.

Nguyên đơn cũng đề nghị tòa án tạm dừng việc triển khai ChatGPT 4o Health - sản phẩm cho phép người dùng tải hồ sơ bệnh án để nhận tư vấn sức khỏe cá nhân hóa, cho đến khi nền tảng này được một tổ chức độc lập đánh giá về mức độ an toàn.

Phản hồi về vụ việc, người phát ngôn OpenAI Drew Pusateri khẳng định công ty tin rằng AI có thể hỗ trợ lĩnh vực chăm sóc sức khỏe, song ChatGPT không phải là bác sĩ và không nên được sử dụng thay thế cho hoạt động khám, chẩn đoán hoặc điều trị của nhân viên y tế.

Ông Pusateri cho rằng việc quy toàn bộ nguyên nhân dẫn đến các quyết định hay kết quả điều trị của một cá nhân cho chatbot là cách nhìn đơn giản hóa một vấn đề phức tạp, đồng thời có thể cản trở người dùng tiếp cận những công cụ AI có tiềm năng hỗ trợ chăm sóc sức khỏe.

Đại diện OpenAI cũng cho biết các mô hình mới đã được cải thiện khả năng nhận diện tình huống cần can thiệp y tế, thể hiện rõ mức độ không chắc chắn của câu trả lời và chủ động yêu cầu người dùng tìm đến chuyên gia khi cần thiết.

Vụ kiện của Winters diễn ra trong bối cảnh OpenAI đối mặt với nhiều tranh chấp pháp lý liên quan đến những tác động ngoài đời thực từ ChatGPT. Một số vụ việc tập trung vào GPT-4o - phiên bản đã được OpenAI ngừng hoạt động từ tháng 2.

Trước đó, bản cập nhật GPT-4o phát hành vào tháng 4/2025 từng bị phát hiện khiến chatbot có xu hướng quá đồng tình và tâng bốc người dùng. OpenAI sau đó đã thu hồi bản cập nhật này, đồng thời triển khai các biện pháp nhằm hạn chế những phản hồi mang tính chiều theo người dùng.

Một báo cáo của OpenAI công bố hồi tháng 1 cho biết trung bình mỗi ngày có khoảng 40 triệu người sử dụng ChatGPT để đặt các câu hỏi liên quan đến sức khỏe.

Đây cũng là vụ kiện mới nhất liên quan đến các lời khuyên y tế của chatbot. Trước đó, vào tháng 5, cha mẹ của một người đàn ông tử vong do sốc thuốc ngoài ý muốn đã khởi kiện OpenAI và CEO Sam Altman, cáo buộc ChatGPT hướng dẫn con trai họ sử dụng kết hợp các thành phần thuốc theo cách nguy hiểm. Khi đó, OpenAI mô tả đây là một vụ việc đau lòng và cho biết công ty đang tiếp tục nâng cao các cơ chế bảo đảm an toàn cho ChatGPT.