Viisi niistä pelokkaimmista ennusteista tekoälyltä

Vaikka asiantuntijat ovat pääosin yhtä mieltä siitä, mitä hyötyjä AI tarjoaa lääkäreille - kuten sairauksien diagnosointiin hyvin varhaisessa vaiheessa ja yleisen terveydenhuollon kokemuksen nopeuttamista -, jotkut lääkärit ja tutkijat ovat varovaisia, voimme myös suunnata tietoon perustuvien lääketieteellisten käytäntöjen suuntaan. nopeasti.

Yksi tutkijoiden pelko on, että ihmiset odottavat liikaa AI: tä, olettaen, että se voi muodostaa sellaisen yleisen älykkyyden, joka ihmisillä on monenlaisten tehtävien ratkaisemiseksi.

"Kaikki tähän mennessä onnistuneet tekoälysovellukset ovat uskomattoman onnistuneita, mutta hyvin kapealla sovellusalueella", sanoi Edinburghin yliopiston Bundy.

Bundyn mukaan näillä odotuksilla voi olla vakavia seurauksia terveydenhuollon kaltaiselle teollisuudelle. "Lääketieteellinen diagnoosi -sovellus, joka on erinomainen sydänongelmissa, saattaa diagnosoida syöpäpotilaan jollain harvinaisella sydänongelmalla ja johtaa mahdollisesti kuolemaan", hän sanoi.

Viime viikolla terveyskeskeisen julkaisun Stat raportti viittasi IBM: n sisäisiin asiakirjoihin, jotka osoittivat, että teknisen jättiläisen Watson-supertietokone oli antanut useita "vaarallisia ja virheellisiä" syövän hoitosuosituksia. Artikkelin mukaan ohjelmisto on koulutettu käsittelemään vain pieni määrä tapauksia ja hypoteettisia skenaarioita eikä todellisia potilastietoja.

"Olemme luoneet Watson Healthin kolme vuotta sitten tuomaan tekoälyn joihinkin terveydenhuollon suurimpiin haasteisiin, ja olemme tyytyväisiä edistymiseen", IBM: n tiedottaja kertoi CNBC: lle.

"Onkologian ja genomiikan tarjontaamme käyttää 230 sairaalaa ympäri maailmaa, ja se on tukenut yli 84,000 2017 potilaan hoitoa, mikä on melkein kaksinkertainen potilasmäärä vuoden XNUMX lopussa."

Tiedottaja lisäsi: "Samalla olemme oppineet ja parantaneet Watson Healthia asiakkaiden jatkuvan palautteen, uuden tieteellisen näytön ja uusien syöpien ja hoitovaihtoehtojen perusteella. Tähän sisältyy 11 ohjelmistojulkaisua entistä paremman toiminnallisuuden takaamiseksi kuluneen vuoden aikana, mukaan lukien kansalliset ohjeet syöpään paksusuolesta maksasyöpään. "

Toinen huolenaihe on se, että tietokoneiden hankkiman ja jakaman tiedon määrällä - samoin kuin tietopohjaisilla algoritmeilla, jotka automatisoivat sovellukset kyseistä tietoa käyttämällä - voisi olla eettisiä vaikutuksia potilaiden yksityisyyteen.

Suurten tietojen alkaminen, nykyään usean miljardin dollarin tuotannonala, joka kattaa kaiken kaupasta vieraanvaraisuuteen, tarkoittaa, että koneiden keräämien henkilökohtaisten tietojen määrä on ilmapallossa käsittämättömään kokoon.

Ilmiö mainitaan läpimurtona erilaisten sairauksien kartoittamiselle, ennakoimalla jonkun vakavan sairauden todennäköisyyttä ja tutkimalla hoitoa etukäteen. Mutta huolet siitä, kuinka paljon tietoa tallennetaan ja missä sitä jaetaan, ovat osoittautuneet ongelmallisiksi.

Otetaan esimerkiksi DeepMind. Googlen omistama tekoälyyritys allekirjoitti sopimuksen Yhdistyneen kuningaskunnan kansallisen terveyspalvelun kanssa vuonna 2015 ja antoi sille pääsyn 1.6 miljoonan brittiläisen potilaan terveystietoihin. Järjestelmän mukaan potilaat luovuttivat tietonsa yritykselle parantamaan sen ohjelmien kykyä havaita sairauksia. Se johti Streams-sovelluksen luomiseen, jonka tarkoituksena on seurata munuaissairauksia sairastavia potilaita ja hälyttää lääkäreitä, kun potilaan tila heikkenee.

Mutta viime vuonna Yhdistyneen kuningaskunnan tietosuojavaltuutettu Information Commissioner's Office päätti, että NHS: n ja DeepMindin välinen sopimus "ei noudattanut tietosuojalakia". ICO: n mukaan Lontoon kuninkaallinen vapaa sairaala, joka työskenteli DeepMindin kanssa osana sopimusta, ei ollut läpinäkyvä tapa, jolla potilaiden tietoja käytettäisiin.