Cinco de las predicciones más aterradoras sobre inteligencia artificial

Noticias financieras

Aunque los expertos están de acuerdo sobre los beneficios que la IA proporcionará a los médicos, como diagnosticar enfermedades desde el principio y acelerar la experiencia general de atención médica, algunos médicos y académicos son cautelosos en cuanto a las prácticas médicas basadas en datos. rápido.

Uno de los temores entre los académicos es que las personas esperan demasiado de IA, suponiendo que pueda formar el tipo de inteligencia general que los humanos poseen para resolver una amplia gama de tareas.

"Todas las aplicaciones de inteligencia artificial que han tenido éxito hasta la fecha son increíblemente exitosas, pero en un rango de aplicación muy reducido", dijo Bundy de la Universidad de Edimburgo.

Según Bundy, estas expectativas podrían tener consecuencias potencialmente nefastas para una industria como la atención médica. “Una aplicación de diagnóstico médico, que es excelente para problemas cardíacos, podría diagnosticar a un paciente con cáncer con algún tipo raro de problema cardíaco, con resultados potencialmente fatales”, dijo.

La semana pasada, un informe de la publicación centrada en la salud Stat citó documentos internos de IBM que mostraban que la supercomputadora Watson del gigante tecnológico había hecho múltiples recomendaciones de tratamiento del cáncer "inseguras e incorrectas". Según el artículo, el software se entrenó solo para tratar una pequeña cantidad de casos y escenarios hipotéticos en lugar de datos reales de pacientes.

“Creamos Watson Health hace tres años para llevar la IA a algunos de los mayores desafíos en el cuidado de la salud, y estamos satisfechos con el progreso que estamos logrando”, dijo un portavoz de IBM a CNBC.

“Nuestras ofertas de oncología y genómica son utilizadas por 230 hospitales de todo el mundo y han respaldado la atención de más de 84,000 pacientes, lo que es casi el doble de la cantidad de pacientes a fines de 2017”.

El portavoz agregó: “Al mismo tiempo, hemos aprendido y mejorado Watson Health en base a los comentarios continuos de los clientes, nueva evidencia científica y nuevos cánceres y alternativas de tratamiento. Esto incluye 11 lanzamientos de software para una funcionalidad aún mejor durante el año pasado, incluidas las directrices nacionales para cánceres que van desde el de colon hasta el de hígado ".

Otra preocupación es que el volumen de datos engullidos por las computadoras y compartidos sobre ellos -así como los algoritmos basados ​​en datos que automatizan las aplicaciones al usar esos datos- podría tener implicaciones éticas sobre la privacidad de los pacientes.

El comienzo de los macrodatos, ahora una industria multimillonaria que abarca desde comercio hasta hospitalidad, significa que la cantidad de información personal que pueden recolectar las máquinas se ha disparado a un tamaño insondable.

El fenómeno se promociona como un gran adelanto para el mapeo de diversas enfermedades, que predice la probabilidad de que una persona se enferme gravemente y examine el tratamiento con anticipación. Pero las preocupaciones sobre la cantidad de datos que se almacenan y dónde se comparten están resultando problemáticos.

Tome DeepMind, por ejemplo. La empresa de inteligencia artificial propiedad de Google firmó un acuerdo con el Servicio Nacional de Salud del Reino Unido en 2015, lo que le da acceso a los datos de salud de 1.6 millones de pacientes británicos. El esquema supuso que los pacientes entregaran sus datos a la empresa con el fin de mejorar la capacidad de sus programas para detectar enfermedades. Condujo a la creación de una aplicación llamada Streams, dirigida a monitorear pacientes con enfermedades renales y alertar a los médicos cuando la condición de un paciente se deteriora.

Pero el año pasado, el organismo de control de la privacidad del Reino Unido, la Oficina del Comisionado de Información, dictaminó que el contrato entre el NHS y DeepMind "no cumplía con la ley de protección de datos". La ICO dijo que el Royal Free Hospital de Londres, que trabajó con DeepMind como parte del acuerdo, no fue transparente sobre la forma en que se utilizarían los datos de los pacientes.