En un hospital de Nueva Jersey, Diane Camacho habló con ChatGPT sobre sus síntomas y supo que tenía una lista de posibles diagnósticos médicos. Tiene dificultad para respirar, dolor de pez y la sensación de que su corazón «se despierta y se detiene». El chatbot de OpenAI dijo que la respuesta era el diagnóstico más probable. Camacho vuelve a tener el pronóstico para un hombre con los mismos síntomas, con la sorpresa de que la inteligencia artificial aprovecha la posibilidad de sufrir embolia pulmonar, síndrome coronario agudo o miocardiopatía, pero ni rastro de ansiedad. Mientras el público Camacho tiene una semana en el rojo (antes de Twitter).
La inteligencia artificial generada, como ChatGPT, combina grandes cantidades de datos con algoritmos y decisiones durante el aprendizaje automático. Si los datos están incompletos o no están representados, se pueden utilizar los algoritmos. Al leer, los algoritmos pueden causar errores en el sistema y seleccionar una respuesta directamente de otros. Ante estos problemas, en diciembre se aprobó la ley europea sobre inteligencia artificial como prioridad para que la herramienta se aplique según criterios éticos, transparentes y libres de regalías.
Los dispositivos médicos, según la norma, se consideran personas de alto nivel y deben cumplir las condiciones requeridas: tener datos de alta calidad, registrar su actividad, tener documentación detallada del sistema, información clara al usuario, proporcionar información sobre las medidas de vigilancia humana y con un alto nivel de robustez, seguridad y precisión, según una explicación de la Comisión Europea.
Allá comenzar por Pol Solà de los Santos, presidente de vincer.ai, se encarga de auditar a las empresas para que puedan adaptarse a las condiciones europeas. “Trabajamos en un sistema de gestión de calidad de algoritmos, modelos y sistemas de inteligencia artificial. Hay un diagnóstico del modelo de lenguaje, y lo primero es ver que hay algún problema y cómo corregirlo”. Además, si una empresa tiene un modelo de negocio, se recomienda con exención de responsabilidad. “Si queremos distribuir un medicamento no apto para niños de 7 años, será impensable no avisar”, ilustra Solà de los Santos.
Cuando se trata de atención médica, las herramientas de inteligencia artificial (IA) se utilizan comúnmente en pruebas de diagnóstico programáticas y basadas en imágenes. Ayude a los trabajadores sanitarios a acelerar el trabajo y ser más precisos. La radiología es un “sistema de apoyo”, afirma Josep Munuera, director de radiodiagnóstico del Hospital Sant Pau de Barcelona y experto en tecnologías digitales aplicadas a la salud. “Los algoritmos están dentro de las máquinas de resonancia magnética y reducen el tiempo de obtención de la imagen”, explica Munuera. Así, una resonancia que dura 20 minutos puede producirse en apenas unos minutos, gracias a la introducción de algoritmos.
Los clientes pueden generar diferencias en la atención médica según el género, el grupo étnico o la demografía. Un ejemplo de radiografías corporales, explica Luis Herrera, arquitecto de soluciones de Databricks España: “Los algoritmos utilizados mostraban diferencias de precisión según el género, lo que provocaba diferencias en la atención. Concretamente, la precisión diagnóstica para las mujeres fue mucho menor”. El sonido del género, afirma Munuera, es un clásico: “Tienes acceso a los sesgos poblacionales y a la base de datos. Los algoritmos alimentan o controlan las bases de datos, y si las bases de datos históricas tienen derechos generales, la respuesta será correcta. Sin embargo, añade: “El sesgo de genero en saud existe, independientemente de la inteligencia artificial”.
Cómo evitar a sus amigos
¿Cómo ingresar a una nueva base de datos para evitar tus sesiones? Arnau Valls, ingeniero coordinador del departamento de innovación del Hospital Sant Joan de Déu de Barcelona, explica cómo ocurrió en un caso de detección de covid en Europa, utilizando un algoritmo desarrollado por la población china: “El acero del algoritmo puede llegan al 20% y aparecen falsos positivos. Esto implica crear una nueva base de datos y añadir imágenes de la población europea al algoritmo”.
Para interesarnos por un modelo de empleo como usuarios, necesitamos ser capaces de contrastar las respuestas de nuestras herramientas, afirma Herrera: “Necesitamos fomentar la concienciación sobre la IA entre los empleados y fomentar el uso del pensamiento crítico, así como exigir transparencia a las empresas . y validar las fuentes.
Los expertos no utilizan ChatGPT con fines médicos. Pero José Ibeas, director del grupo de nefrología del Instituto de Investigación e Innovación del Hospital Universitario Parc Taulí de Sabadell (Barcelona), sugiere que la herramienta está evolucionando positivamente para el chatbot. pregunta tiene bases de datos médicos. “Estás trabajando con ella. La forma de hacerlo es ingresar a la base de datos de pacientes con el sistema OpenAI utilizando algoritmos e ingenieros adecuados. De esta forma se protege la privacidad de los datos”, explica Ibeas.
La tecnología ChatGPT es útil en el sector médico en determinados casos, reconoce Ibeas: “La capacidad de generar estructuras, anatómicas o matemáticas, es total. El compromiso con las estructuras moleculares es bueno. Ahí realmente se inventó poco”. Coincidiendo con el resto de expertos, Ibeas anuncia que la inteligencia artificial nunca será sustituida por un médico, pero subraya: “El médico que no tiene inteligencia artificial será sustituido por el que hay en él”.
Puedes seguir un EL PAÍS Tecnología fr. Facebook Sí X o haga clic aquí para recibir el nuestro boletín semanal.
Suscríbete para seguir el curso
Límites del pecado de Lee
_
