Lo que la máquina no podía aprender
Al día siguiente, Mariana llevó la hoja a clase.
La puso sobre el escritorio del profesor.
—Quiero saber si esto nos lo van a enseñar.
Él leyó la pregunta.
¿Cómo nos van a enseñar a pensar cuando una máquina pueda pensar con nosotros?
—No sé —respondió.
Mariana levantó la mirada, sorprendida.
—¿No sabe?
—No todavía.
Aquella respuesta le gustó más que cualquier explicación preparada.
—
Durante las siguientes semanas comenzaron a hacer algo diferente.
En lugar de prohibirles utilizar inteligencia artificial, los profesores les pedían utilizarla.
Pero después tenían que defender cada respuesta.
La IA proponía una interpretación.
El estudiante debía comprobarla.
La IA sugería una conducta.
El estudiante tenía que explicar sus riesgos.
La IA resumía un artículo.
El estudiante debía regresar al artículo original.
La IA analizaba los datos de un paciente simulado.
El estudiante debía explicar qué información faltaba.
Algunas veces la máquina acertaba.
Otras, no.
Y cuando se equivocaba, los alumnos tenían que descubrir por qué.
Mariana comprendió entonces que la asignatura no consistía realmente en aprender a preguntarle cosas a una computadora.
Consistía en aprender **cuándo no creerle**.
—
En una práctica de simulación, el grupo recibió el caso de una paciente con dificultad respiratoria.
La inteligencia artificial analizó los datos y propuso varias posibilidades.
Los estudiantes comenzaron a discutir.
—La saturación está bajando.
—Hay que actuar.
—Pero todavía no sabemos por qué.
—La IA dice que podría tratarse de…
—¿Y qué más necesitamos saber?
Mariana se quedó callada.
Recordó al hombre de la habitación.
Recordó su rostro.
Levantó la mano.
—Antes de seguir la recomendación, tenemos que valorar a la paciente.
El profesor asintió.
—¿Por qué?
—Porque los datos no son el paciente.
—
A partir de entonces, Mariana comenzó a mirar la inteligencia artificial de otra manera.
Ya no era una máquina que sabía.
Era una herramienta.
Una herramienta poderosa, sí.
Pero una herramienta al fin.
Podía ayudarla a estudiar. Podía mostrarle relaciones que no había visto. Podía ayudar a analizar grandes cantidades de información.
Pero no podía cargar con la responsabilidad profesional.
No podía explicar una decisión a una familia.
No podía sustituir la comunicación con el paciente.
No podía asumir que un dato estaba equivocado porque el paciente decía sentirse diferente.
Y, sobre todo, no podía decidir por ella quién quería ser como terapeuta.
—
Años después, cuando Mariana comenzó a trabajar, la universidad ya había cambiado parte de su formación.
Los estudiantes aprendían fisiología y ventilación mecánica.
Seguían practicando procedimientos.
Seguían estudiando anatomía, farmacología y evaluación respiratoria.
Pero también aprendían algo nuevo:
**cómo cuestionar una inteligencia artificial.**
Aprendían sobre datos, sesgos, privacidad, errores, validación y responsabilidad.
Aprendían que una respuesta rápida no necesariamente era una respuesta correcta.
Y aprendían que utilizar una herramienta tecnológica también implicaba conocer sus límites.
Una tarde, una estudiante se acercó a Mariana durante una práctica.
—¿Puedo preguntarle algo?
—Claro.
—¿Usted cree que la inteligencia artificial algún día va a reemplazar a los terapeutas respiratorios?
Mariana miró al paciente que estaban atendiendo.
Después miró el monitor.
—No sé qué hará la tecnología dentro de veinte años.
La estudiante esperó.
—Pero sí sé algo —continuó Mariana—. Si quieres ser una buena terapeuta respiratoria, no tienes que competir con una máquina.
—¿Entonces?
—Tienes que aprender a trabajar con ella sin dejarle tu criterio.
La estudiante sonrió.
Mariana recordó aquella primera pregunta que había escrito años atrás.
Quizá nunca habían encontrado una respuesta definitiva.
Quizá tampoco era necesario.
Porque el verdadero reto de la universidad no sería enseñarles a los futuros terapeutas a usar inteligencia artificial.
Sería enseñarles a conservar aquello que ninguna inteligencia artificial debería recibir de ellos:
La responsabilidad de pensar antes de actuar y la capacidad de seguir viendo al paciente detrás de los datos.
Y entonces Mariana comprendió algo que no aparecía en ningún algoritmo.
El futuro de la Terapia Respiratoria no dependería solamente de qué tan inteligente fuera la tecnología.
También dependería de qué tan preparados estuvieran los seres humanos para utilizarla.
