Un avión sin wifi puede servir para pensar en el futuro de la humanidad. A Jon Hernández le ocurrió durante un viaje a Colombia. La conexión que esperaba encontrar no estaba allí, aunque la tecnología para ofrecerla existiera. De esa frustración nace una reflexión que desarrolla en su vídeo «No podemos seguir el ritmo de la IA»: la capacidad tecnológica y nuestra capacidad para incorporarla avanzan a velocidades distintas.
Jon plantea que los humanos actuamos como cuello de botella. Tenemos que aprender, cambiar hábitos y reorganizar el trabajo. Ese retraso podría darnos tiempo para digerir la transformación. También se pregunta si la presión acabará siendo tan grande que la IA termine desbordándolo.
A mí me interesa detenerme en la primera posibilidad. Parte de esa lentitud puede tener valor. Sobre todo cuando nos permite comprender las consecuencias de lo que estamos poniendo en marcha.
Uno de los gráficos que muestra Jon procede de Anthropic. Compara la exposición teórica de las tareas profesionales a los modelos de lenguaje con una medida de exposición observada construida a partir del uso de Claude. La distancia entre ambas es considerable.
Conviene leerlo con cuidado: no representa toda la IA utilizada en el mundo ni demuestra que esa diferencia sea exclusivamente culpa nuestra. Los propios autores mencionan limitaciones de los modelos, requisitos de software, restricciones legales y verificaciones humanas. El gráfico permite apreciar una distancia; explicar cada una de sus causas exige más trabajo.
Pero la pregunta que suscita es pertinente: ¿debemos eliminar cualquier obstáculo que se interponga entre una capacidad técnica y su aplicación?
El segundo gráfico ayuda a responder. Procede de Google Research y compara el sistema experimental AMIE con médicos que trabajan sin ayuda, con búsquedas o con asistencia de IA. En esa evaluación, AMIE obtuvo mejores resultados por sí solo. Su ayuda también mejoró el rendimiento de los médicos.
Ahora bien, el estudio publicado en Nature evaluó casos clínicos complejos previamente documentados. El conocido 59,1 % de AMIE frente al 33,6 % de los médicos sin ayuda se refiere a incluir el diagnóstico correcto entre diez propuestas. No significa que una máquina pueda sustituir la atención médica con esos porcentajes de éxito. Google advierte de que estos casos no representan la práctica clínica cotidiana y de que hacen falta más evaluaciones.
Ese matiz importa. Entre resolver una prueba y atender a una persona hay contexto, incertidumbre y consecuencias. Comprobar si un sistema funciona con otros pacientes, detectar cuándo falla y establecer quién responde por sus errores forma parte del trabajo necesario para utilizarlo.
En la Administración pública deberíamos reconocer bien esta diferencia. Pensemos en una IA que propone denegar una ayuda. Puede ordenar documentos y redactar una explicación convincente. Aun así, necesitamos comprobar si ha entendido las circunstancias del solicitante, si los datos son correctos y si la decisión puede explicarse y revisarse.
La persona que interviene ahí puede tardar más que el sistema. Su aportación debería medirse por lo que comprueba, por los errores que evita y por su capacidad para hacerse cargo de la decisión. La velocidad, por sí sola, dice poco sobre todo eso.
También hay que ser exigentes con nosotros. Tener a alguien al final del proceso no garantiza una supervisión útil. Si desconoce cómo contrastar el resultado, carece de tiempo o siente que cuestionar a la máquina perjudica sus objetivos, su firma puede convertirse en un trámite vacío. El control humano necesita competencia, medios y autoridad para corregir o detener.
Defenderlo tampoco justifica conservar procedimientos inútiles. Una comprobación que protege a una persona merece recursos. Una cadena de firmas que nadie lee merece una revisión. Ambas consumen tiempo, pero su utilidad es muy distinta.
El margen del que habla Jon solo nos servirá si lo aprovechamos: formando a quienes van a trabajar con IA, probando sistemas en condiciones reales y evaluando tanto sus mejoras como sus fallos. Esperar sin aprender puede dejarnos igual de desorientados cuando llegue la siguiente generación de herramientas.
Por eso creo que debemos asumir, en determinadas decisiones, ese papel de cuello de botella necesario. Con criterios claros sobre qué revisar, cuándo intervenir y qué puede automatizarse con garantías. También con humildad para reconocer los errores humanos y utilizar la IA para reducirlos.
La capacidad de producir respuestas seguirá creciendo. Nos corresponde conservar la capacidad de examinarlas, decidir cuáles aceptamos y responder por sus consecuencias. A esa tarea conviene dedicarle el tiempo que necesita.
Un saludo y nos vamos leyendo.
No hay comentarios:
Publicar un comentario