Năm trong số những dự đoán đáng sợ nhất về trí tuệ nhân tạo

Tin tài chính

Trong khi các chuyên gia hầu hết đều đồng ý về những lợi ích mà AI sẽ mang lại cho các bác sĩ y khoa - chẳng hạn như chẩn đoán bệnh từ rất sớm và tăng tốc trải nghiệm chăm sóc sức khỏe tổng thể - thì một số bác sĩ và học giả lại cảnh giác rằng chúng ta cũng có thể đi theo hướng thực hành y tế dựa trên dữ liệu. nhanh.

Một mối lo ngại trong giới học thuật là mọi người đang kỳ vọng quá nhiều vào AI, cho rằng nó có thể hình thành nên loại trí thông minh chung mà con người sở hữu để giải quyết một loạt nhiệm vụ.

Bundy của Đại học Edinburgh cho biết: “Tất cả các ứng dụng AI thành công cho đến nay đều cực kỳ thành công, nhưng trong phạm vi ứng dụng rất hẹp”.

Theo Bundy, những kỳ vọng này có thể gây ra hậu quả nghiêm trọng cho một ngành như chăm sóc sức khỏe. Ông nói: “Một ứng dụng chẩn đoán y tế rất xuất sắc trong các vấn đề về tim, có thể chẩn đoán một bệnh nhân ung thư mắc một số loại vấn đề về tim hiếm gặp, với kết quả có thể gây tử vong”.

Mới tuần trước, một báo cáo của ấn phẩm tập trung vào sức khỏe Stat đã trích dẫn các tài liệu nội bộ của IBM cho thấy siêu máy tính Watson của gã khổng lồ công nghệ đã đưa ra nhiều khuyến nghị điều trị ung thư “không an toàn và không chính xác”. Theo bài báo, phần mềm chỉ được đào tạo để xử lý một số ít trường hợp và tình huống giả định hơn là dữ liệu bệnh nhân thực tế.

Người phát ngôn của IBM nói với CNBC: “Chúng tôi đã tạo ra Watson Health ba năm trước để đưa AI giải quyết một số thách thức lớn nhất trong lĩnh vực chăm sóc sức khỏe và chúng tôi hài lòng với những tiến bộ mà chúng tôi đang đạt được”.

“Các dịch vụ ung thư và gen của chúng tôi được 230 bệnh viện trên khắp thế giới sử dụng và đã hỗ trợ chăm sóc cho hơn 84,000 bệnh nhân, gần gấp đôi số lượng bệnh nhân tính đến cuối năm 2017.”

Người phát ngôn nói thêm: “Đồng thời, chúng tôi đã học hỏi và cải thiện Watson Health dựa trên phản hồi liên tục từ khách hàng, bằng chứng khoa học mới cũng như các bệnh ung thư mới và các phương pháp điều trị thay thế. Điều này bao gồm 11 bản phát hành phần mềm có chức năng thậm chí còn tốt hơn trong năm qua, bao gồm các hướng dẫn quốc gia về các bệnh ung thư từ ung thư ruột kết đến ung thư gan.”

Một mối lo ngại khác là khối lượng dữ liệu được máy tính sử dụng và chia sẻ - cũng như các thuật toán dựa trên dữ liệu tự động hóa các ứng dụng bằng cách sử dụng dữ liệu đó - có thể có những tác động về mặt đạo đức đối với quyền riêng tư của bệnh nhân.

Buổi bình minh của dữ liệu lớn, hiện là ngành trị giá hàng tỷ đô la, bao gồm mọi thứ từ thương mại đến khách sạn, có nghĩa là lượng thông tin cá nhân có thể được máy móc thu thập đã tăng lên đến mức không thể đo đếm được.

Hiện tượng này đang được quảng cáo là một bước đột phá trong việc lập bản đồ các loại bệnh khác nhau, dự đoán khả năng ai đó bị bệnh nặng và kiểm tra phương pháp điều trị trước. Nhưng những lo ngại về lượng dữ liệu được lưu trữ và nơi nó được chia sẻ đang tỏ ra có vấn đề.

Lấy DeepMind làm ví dụ. Công ty AI thuộc sở hữu của Google đã ký thỏa thuận với Dịch vụ Y tế Quốc gia của Vương quốc Anh vào năm 2015, cho phép họ truy cập vào dữ liệu sức khỏe của 1.6 triệu bệnh nhân Anh. Kế hoạch này có nghĩa là bệnh nhân sẽ chuyển dữ liệu của họ cho công ty để cải thiện khả năng phát hiện bệnh của chương trình. Nó dẫn đến việc tạo ra một ứng dụng có tên Streams, nhằm mục đích theo dõi bệnh nhân mắc bệnh thận và cảnh báo các bác sĩ lâm sàng khi tình trạng bệnh nhân xấu đi.

Nhưng năm ngoái, cơ quan giám sát quyền riêng tư của Vương quốc Anh, Văn phòng Ủy viên Thông tin đã ra phán quyết rằng hợp đồng giữa NHS và DeepMind “không tuân thủ luật bảo vệ dữ liệu”. ICO cho biết Bệnh viện Royal Free ở London, nơi hợp tác với DeepMind như một phần của thỏa thuận, đã không minh bạch về cách sử dụng dữ liệu của bệnh nhân.