En ejercicios hipotéticos para asignar un riñón, las personas tendieron a elegir a pacientes más jóvenes, mientras que los modelos de inteligencia artificial (IA) se inclinaron con frecuencia por quienes consumían menos alcohol.
La investigación fue realizada por especialistas de la Universidad de Penn State, en Estados Unidos, y analizó cómo distintos modelos de lenguaje responden ante decisiones que combinan información médica y valoraciones humanas.
Dos pacientes para un órgano
El equipo trabajó con escenarios basados en conjuntos de datos reales de estudios publicados. En cada uno, dos pacientes podían recibir un único riñón disponible. Los casos incluían datos sobre edad, estado de salud y hábitos de consumo de alcohol.
Las respuestas de los modelos se contrastaron con las decisiones de participantes humanos de los estudios originales. Algunas pruebas presentaban un atributo por vez, para medir su influencia; otras combinaban varias características y permitían observar cómo se resolvían los conflictos entre ellas. También se ofrecía la posibilidad de lanzar una moneda, para evaluar la indecisión en situaciones sin una respuesta objetivamente correcta.
Qué factores pesaron más
Los participantes humanos dieron mayor importancia a la edad y, en general, favorecieron a los pacientes más jóvenes. Los modelos de IA, en cambio, mostraron a menudo una preferencia por quienes registraban un menor consumo de alcohol.
También hubo diferencias en la manera de abordar cada caso. Las personas tendieron a combinar distintos factores y a considerar el contexto; los modelos de lenguaje se concentraron con más frecuencia en una sola característica.
Hadi Hosseini, investigador de Penn State a cargo del trabajo, advirtió que esa forma de ponderar puede alejar las respuestas de los chatbots de los valores humanos. En vez de equilibrar distintos criterios, explicó, pueden “fijarse” en un factor.
Además, los modelos manifestaron menos dudas que las personas y eligieron una opción con mayor seguridad. Para los investigadores, esa certeza no implica necesariamente una ventaja y podría reflejar que el sistema no capta la dimensión moral de la decisión.
El peso de los valores
Asignar un órgano implica algo más que comparar datos médicos: también supone decidir cómo distribuir un recurso escaso y qué criterios deben tener prioridad. Los autores señalan que la IA empieza a utilizarse en áreas como la atención sanitaria, el diagnóstico, la planificación de tratamientos y la distribución de recursos médicos limitados.
Por eso, plantean que en decisiones de alto impacto no alcanza con evaluar la rapidez de un sistema o su capacidad para procesar información. También es importante determinar qué valores refleja al recomendar una opción y de dónde provienen esos criterios.
John Dickerson, director ejecutivo de Mozilla.ai y colaborador del estudio, sostuvo que al distribuir recursos escasos —como un riñón o un puesto de trabajo— no siempre existe una respuesta objetivamente correcta. Las sociedades humanas, señaló, reconocen esa ambigüedad y recurren al debate y la deliberación para definir cómo actuar.
Los investigadores aclaran que el estudio no propone reemplazar el criterio profesional por IA en decisiones médicas ni en otros ámbitos de alto riesgo. El objetivo es entender cómo funcionan estos sistemas cuando organizaciones e instituciones comienzan a utilizarlos para decidir o recibir recomendaciones.
En un trasplante, la elección puede definir quién recibe una oportunidad de vida cuando los recursos no alcanzan para todas las personas que los necesitan. El trabajo plantea así el debate sobre los valores que deberían orientar esas prioridades: una máquina puede procesar datos y responder en segundos, pero establecer los criterios también requiere deliberación.