關於人工智能的五個最可怕的預測

財經新聞

雖然專家們大多同意人工智能將為醫療從業者帶來的好處——例如儘早診斷疾病和加快整體醫療保健體驗——但一些醫生和學者擔心我們也可能會走向數據驅動的醫療實踐的方向快速地。

學者們擔心的一個問題是,人們對人工智能抱有過高的期望,認為它可以形成人類所擁有的通用智能來解決廣泛的任務。

愛丁堡大學的邦迪表示:“迄今為止,所有成功的人工智能應用都取得了令人難以置信的成功,但應用範圍非常狹窄。”

邦迪表示,這些期望可能會給醫療保健等行業帶來潛在的可怕後果。 “一款在心臟問題方面表現出色的醫療診斷應用程序可能會診斷患有某種罕見心臟問題的癌症患者,並可能帶來致命的結果,”他說。

就在上週,專注於健康的出版物 Stat 的一份報告引用了 IBM 內部文件,顯示這家科技巨頭的 Watson 超級計算機提出了多項“不安全且不正確”的癌症治療建議。 根據該文章,該軟件僅經過訓練以處理少量病例和假設場景,而不是實際的患者數據。

IBM 發言人告訴 CNBC:“我們三年前創建了 Watson Health,旨在將人工智能應用於醫療保健領域一些最大的挑戰,我們對所取得的進展感到滿意。”

“我們的腫瘤學和基因組學產品被全球 230 家醫院使用,並為超過 84,000 名患者提供了護理支持,這幾乎是截至 2017 年底患者數量的兩倍。”

該發言人補充道:“與此同時,我們根據客戶的持續反饋、新的科學證據以及新的癌症和治療方案,學習並改進了 Watson Health。 其中包括去年發布的 11 個軟件版本,以實現更好的功能,包括針對從結腸癌到肝癌等癌症的國家指南。”

另一個擔憂是,計算機吞噬並共享的大量數據,以及通過使用這些數據來自動化應用程序的數據驅動算法,可能會對患者的隱私產生倫理影響。

大數據的出現,如今已成為一個價值數十億美元的產業,涵蓋從貿易到酒店業的方方面面,這意味著機器可以收集的個人信息量已激增至難以估量的規模。

這種現像被認為是繪製各種疾病、預測某人患重病的可能性並提前檢查治療的突破。 但事實證明,對存儲多少數據以及在何處共享數據的擔憂是有問題的。

以 DeepMind 為例。 這家谷歌旗下的人工智能公司於 2015 年與英國國家醫療服務體系簽署了一項協議,使其能夠訪問 1.6 萬英國患者的健康數據。 該計劃意味著患者將他們的數據交給該公司,以提高其項目檢測疾病的能力。 由此催生了一款名為 Streams 的應用程序,旨在監測腎臟疾病患者,並在患者病情惡化時向臨床醫生髮出警報。

但去年,英國隱私監管機構信息專員辦公室裁定 NHS 和 DeepMind 之間的合同“未能遵守數據保護法”。 ICO 表示,作為協議的一部分與 DeepMind 合作的倫敦皇家自由醫院對於患者數據的使用方式並不透明。