Artículo de colaborador

Autor: José Vicente Mateos del Castillo

Últimamente parece que todo el mundo está preocupado acerca de los límites de la inteligencia artificial. ¿Cuáles son realmente? ¿Cuál será el nuevo papel del ser humano? ¿Qué puedo hacer para no quedarme obsoleto? Son preguntas enormes y, precisamente por eso, creo que conviene empezar por algo más básico: qué información recibe una IA y hasta qué punto esa información representa de verdad la realidad sobre la que queremos que razone.

Me gusta utilizar la palabra “armonía” para describir, de manera intuitiva, lo que hace una IA: buscar un orden plausible entre datos a partir de patrones aprendidos. En los sistemas actuales, la información se representa numéricamente y, en el nivel físico de la computación digital, termina codificada mediante estados discretos que el hardware procesa. A partir de ahí, los modelos identifican regularidades estadísticas y generan salidas en función de los datos y del contexto que reciben.

Entendido así, veo dos problemas de base. El primero es la capacidad del algoritmo para identificar y reproducir patrones mediante herramientas probabilísticas. Ese ha sido uno de los grandes éxitos de la IA moderna. Su mejora depende de mejores modelos, mejores algoritmos, más datos y también de capacidad de computación. En ese sentido, el hardware importa mucho: más capacidad de cálculo permite procesar más información y ejecutar modelos de mayor complejidad, aunque no sea el único factor que determina el resultado.

El segundo problema me parece más delicado: ¿hasta qué punto somos capaces de digitalizar la realidad que queremos que la IA comprenda? Hemos avanzado muchísimo. Los gemelos digitales son una buena muestra de ello. Pero el interrogante sigue abierto cuando pensamos en una arruga concreta de una camisa, el olor del aliento de una persona, una mirada, la forma compulsiva de consultar un teléfono o el conjunto de pequeñas señales que alteran nuestra percepción de una situación. Podemos imaginar sensores capaces de captar muchas de esas variables, pero ¿a qué coste?, ¿con qué precisión?, ¿con qué volumen de datos?, ¿con qué consumo energético? y, sobre todo, ¿con qué capacidad para convertir esas señales en un contexto que realmente tenga significado para la IA?

Este artículo pretende aportar, con mucha humildad, un punto de vista cualitativo. Nace de la pasión, la inquietud y la curiosidad, con la intención de abrir una línea de reflexión y animar a quien quiera a desarrollarla con más profundidad. Al fin y al cabo, comenzar proyectos y hacer preguntas ha sido una constante en mi vida.

¿Es posible digitalizar el mundo que rodea una decisión?

Digitalizar la realidad significa convertir fenómenos físicos en información que una máquina pueda almacenar y procesar. En términos de señales, ese proceso suele implicar muestreo y cuantificación: se toman medidas de una señal y se representan mediante valores discretos. Sabemos que, bajo determinadas condiciones, una señal puede reconstruirse a partir de muestras suficientemente frecuentes. Por eso, pasar de analógico a digital no significa necesariamente «perder la realidad» de manera automática. Pero, en los sistemas reales, siempre aparecen límites de resolución, ruido, calibración, ancho de banda, latencia, errores del sensor y restricciones de almacenamiento y procesamiento.

Mi cuestión, sin embargo, es menos matemática y más práctica: ¿hasta qué punto podemos construir una representación digital suficientemente completa del mundo que rodea una decisión? La realidad es multidimensional y cambia continuamente. Para captar una parte de ella utilizamos cámaras, micrófonos, sensores de presión, temperatura, movimiento, compuestos químicos y multitud de transductores. Cada sensor observa una fracción y con una resolución determinada.

Los gemelos digitales ilustran muy bien este límite. Un gemelo digital puede reproducir con enorme utilidad un activo, un proceso o un sistema físico, siempre dentro de un propósito y un nivel de fidelidad concretos. No necesita contener absolutamente toda la realidad; necesita contener la realidad relevante para la tarea que pretende resolver. Esa distinción es importante: cuanto más amplio, cambiante y ambiguo sea el contexto, más difícil resulta decidir qué debemos medir y cómo debemos integrarlo.

¿Seremos capaces de digitalizar el contexto de nuestra realidad al cien por cien? Podemos aspirar a capturar cada vez más variables, pero personalmente creo que una digitalización total, entendida en ese sentido, seguirá siendo inabordable durante muchas décadas. La distancia entre medir muchas variables y disponer de una réplica digital exhaustiva, permanente y económicamente viable del contexto humano sigue siendo enorme.

¿Somos capaces de aportar todo el contexto necesario?

¿Qué entendemos por contexto? Al menos yo lo entiendo como el conjunto de información local y relevante que rodea una situación y que puede afectar al resultado de la actividad o del problema que pretendemos abordar. Al fin y al cabo, el contexto también es información, pero es una información que da sentido al resto.

No es lo mismo preguntarle a alguien por su «dolor de barriga» en un contexto neutral, que invite a pensar en una enfermedad, que hacerlo justo después de haber pagado una cuenta exagerada en un restaurante. Las mismas palabras pueden significar algo muy diferente. El dato aislado es prácticamente el mismo; lo que cambia es el contexto y, con él, la interpretación.

El ser humano dispone de sentidos que captan permanentemente información del entorno y la integra con memoria, experiencia, expectativas y conocimiento previo. Para generar un contexto digital que se aproxime a esa experiencia necesitaríamos sensores y transductores capaces de captar una cantidad enorme de señales en tiempo real, traducirlas, sincronizarlas, almacenarlas y decidir cuáles son relevantes. Estamos avanzando con enorme rapidez, pero seguimos lejos de una equivalencia completa.

Por eso, no creo que todos los límites de la IA deban atribuirse a una menor capacidad de razonamiento. En muchas situaciones, el límite puede estar antes: en nuestra capacidad para darle los elementos necesarios para razonar. Una IA solo puede trabajar directamente con aquello que recibe, con aquello a lo que tiene acceso o con lo que puede inferir a partir de esa información. Si una parte importante del contexto no ha sido capturada, su ausencia condicionará inevitablemente el resultado.

¿Y si no formulamos bien el problema?

Pasemos a otro tema interesante. ¿Qué patrón buscamos dentro de nuestro contexto digital? Dependerá, en buena medida, del prompt que seamos capaces de generar. El prompt es el conjunto de instrucciones mediante el cual explicamos a la IA qué queremos desarrollar, analizar o resolver. Es, por tanto, uno de los mecanismos con los que seleccionamos y ordenamos el contexto que queremos que utilice.

Un buen prompt no convierte mágicamente un sistema imperfecto en uno perfecto, pero sí reduce ambigüedad. Define el objetivo, aporta información relevante, establece restricciones, aclara el nivel de detalle y orienta la respuesta. La forma de plantear una tarea puede modificar de manera muy significativa el comportamiento del modelo.

Para mí, la excelencia del prompt tiene algo profundamente humano: obliga a saber qué queremos preguntar. Antes de pedir una respuesta hay que construir el problema. Y cuanto mejor seamos capaces de describir el contexto, sus prioridades y sus límites, más probable será que la IA trabaje sobre la realidad que verdaderamente nos interesa y no sobre una versión pobre o ambigua de ella.

¿Cómo acabamos con el “teléfono árabe”?

Un inciso que me parece especialmente sugerente es la analogía del “teléfono árabe”, el conocido juego en el que un mensaje pasa de una persona a otra y llega al final transformado. A veces esperamos una respuesta después de una cadena de instrucciones entre humanos (o entre humanos e IA) y el resultado es absolutamente diferente de lo que alguien pretendía al principio. ¿Qué ha ocurrido? Se ha perdido, alterado o reinterpretado información.

Esa pérdida puede proceder de una discrepancia de contexto, de un malentendido sobre el contenido, del medio utilizado o de la propia transformación que realiza cada emisor entre su percepción de la realidad y aquello que finalmente comunica. Al transmitir información aparecen ruido, pérdida de señal e interpretación: los interlocutores no solo transmiten datos, también reconstruyen intenciones y significados.

Podemos encontrar una cierta analogía, aunque no sea exacta, con la idea de que toda observación y toda medición pasan por un instrumento y por un criterio de selección. Lo que me interesa aquí no es la comparación física, sino algo mucho más sencillo: nunca debemos confundir la representación obtenida con la totalidad de la realidad observada.

¿Qué ocurre si, dentro de esa cadena de humanos, introducimos una IA como un eslabón más? La IA también puede propagar o generar error. Puede hacerlo porque parte de un contexto incompleto, porque interpreta probabilísticamente el mensaje o porque, al resumir, seleccionar y ordenar, altera la prioridad de la información. No solo importa lo que dice: importan la extensión de la respuesta, el detalle que conserva, aquello que omite y la jerarquía que transmite al siguiente humano de la cadena. Cómo cambia la IA la propagación de errores en una cadena colectiva de pensamiento me parece un tema digno de estudio.

¿Es viable una IA que cada vez necesita más recursos?

Una parte evidente de los límites actuales de la IA está en la capacidad de computación. Durante décadas, la industria de semiconductores ha aumentado de forma extraordinaria la densidad de transistores y la potencia disponible. La evolución descrita durante mucho tiempo por la denominada ley de Moore es una buena muestra de ello. Sin embargo, el progreso no depende únicamente de hacer chips más potentes: también depende de la arquitectura, el software, los algoritmos, la memoria, la interconexión, la eficiencia energética y el diseño de aceleradores especializados.

En el fondo, procesar más contexto exige recursos. Cuantos más sensores, más resolución y más datos queramos integrar, mayor será la exigencia de almacenamiento, transmisión y cálculo. Eso plantea una pregunta importante: ¿sería viable económica y energéticamente construir sistemas que intentasen captar y procesar de forma permanente una representación extremadamente rica de la realidad? La respuesta dependerá del caso de uso, pero el coste físico de computar nunca es literalmente cero.

La computación cuántica puede abrir nuevas capacidades para ciertas clases de problemas, pero no elimina por sí sola la cuestión central de este artículo. Aunque dispusiéramos de mucha más potencia, seguiríamos teniendo que decidir qué observar, qué medir y qué contexto proporcionar. Cambiar el paradigma de cómputo no sustituye la necesidad de construir una representación adecuada del problema.

¿Cuál será el nuevo papel del ser humano?

Llegados a este punto, mi respuesta a la segunda pregunta del principio es bastante directa: el ser humano tenderá a concentrarse en todo aquello que no pueda ser digitalizado, procedimentado o automatizado de manera rápida, precisa y económicamente razonable. No digo que ese territorio sea inmutable; al contrario, la frontera irá desplazándose. Pero creo que hoy se distinguen al menos dos ámbitos especialmente relevantes.

A. Relaciones humanas

La comunicación entre humanos es una de las bases de la inteligencia colectiva y de la prosperidad de nuestra especie. Y no se ciñe a la comunicación verbal ni siquiera a la gestual. Existen silencios, miradas, olores, distancias, ritmos, recuerdos compartidos, confianza, intuiciones y todo un conjunto de signos que contribuyen al “feeling” que una persona nos transmite. El significado depende también del contexto, de la relación y de todo aquello que los interlocutores dan por supuesto.

¿Es el llamado H2H (human to human) absolutamente irreplicable? No me atrevería a afirmarlo de manera absoluta. Pero sí creo que una relación humana completa, situada y cargada de contexto sigue siendo extraordinariamente difícil de digitalizar y replicar de manera integral. Y precisamente por ello puede recuperar valor en un mundo en el que muchas interacciones estandarizadas sí serán automatizadas.

B. Actividades físicas en contextos complejos y cambiantes

El segundo ámbito incluye actividades que necesitan gestionar un contexto tridimensional complejo: movimientos precisos, fuerza, autonomía, percepción continua y adaptación a escenarios singulares. Pienso en un soldador de campo, un fontanero, un electricista o un mecánico trabajando en un espacio reducido y encontrándose con una avería que no estaba exactamente en ningún manual. No ejecutan únicamente una secuencia: observan, prueban, corrigen y reconstruyen el problema sobre la marcha.

La robótica avanza rápidamente y no conviene pensar que estos oficios quedarán al margen de la automatización. Pero los entornos abiertos, cambiantes y poco estructurados siguen siendo mucho más difíciles que una tarea completamente procedimentada. Precisamente ahí está uno de los grandes retos: relacionar percepción, acción y entorno de una manera suficientemente flexible.

Aunque A y B parezcan ámbitos muy diferentes, comparten un denominador común: son tareas difíciles de procedimentar por completo. Cuanto más robusta, repetible y claramente secuenciable sea una actividad, más fácil será trasladarla a un sistema automatizado. Cuanto más dependa de reconstruir el contexto mientras se actúa, más resistente será, al menos durante más tiempo, a esa automatización.

¿Qué puedo hacer para no quedarme obsoleto?

Llegamos a la pregunta del millón. Con la misma cautela con la que planteo el resto del artículo, mi punto de vista nace de mi formación técnica, de mi experiencia, de mi formación específica en IA y, sobre todo, de la curiosidad.

Creo que hay que diferenciar dos bloques. El primero está formado por tareas que podríamos llamar «mediocres», no en sentido peyorativo, sino como sinónimo de usuales, ordinarias o suficientemente estandarizables. Son actividades que pueden descomponerse siguiendo un método, con un contexto razonablemente acotado y con resultados que se pueden comprobar. En ellas, aprender a trabajar con IA será imprescindible.

Tareas estandarizables: comprender y monitorizar, no competir cálculo a cálculo

Se habla mucho de las alucinaciones de la IA y de la necesidad de que el humano controle siempre a la máquina, reservándose el derecho a seleccionar la solución final. No estoy seguro de que esa relación de subordinación permanente sea la que acabará imponiéndose en todos los ámbitos. Creo más bien que, a medida que una tecnología madura y se valida, la monitorización humana puede hacerse menos intensa en aquellas tareas donde el sistema demuestre fiabilidad suficiente y el coste del error sea asumible. Eso ya ha ocurrido en numerosos procesos automatizados.

Eso no significa renunciar a la supervisión ni a la responsabilidad. Significa cambiar su naturaleza. En lugar de rehacer paso a paso los cálculos de la máquina, tendremos que comprender qué solución nos ofrece, con qué nivel de confianza, bajo qué supuestos y en qué condiciones deja de ser válida. En ámbitos de alto riesgo, además, la verificación, la trazabilidad y la gobernanza seguirán siendo esenciales.

Un buen ejemplo es AlphaFold. Su aportación no consiste en leer la genética de forma general, sino en predecir con enorme precisión estructuras tridimensionales de proteínas a partir de secuencias de aminoácidos y otra información biológica. Su utilidad no habría sido posible si la condición para aprovecharla hubiese sido que cada investigador reprodujese manualmente todos los cálculos internos del modelo. Lo relevante es validar el sistema, entender el significado de sus resultados y utilizarlos como punto de partida para construir un contexto científico más complejo.

Por eso creo que debemos entrenar la capacidad de síntesis y de comprensión de las soluciones que nos ofrece la IA. A medida que un contexto se comoditiza y una solución se vuelve rutinaria, ese terreno pasa progresivamente a la máquina. El ser humano tendrá que desplazarse hacia el siguiente nivel: interpretar, conectar, detectar excepciones y construir un contexto nuevo que todavía no esté procedimentado.

Tareas abiertas: abandonar el refugio del procedimiento

El segundo bloque es, para mí, el más exclusivo: el de las relaciones humanas y las situaciones que no admiten un procedimiento estable. Es un ámbito paradójicamente descuidado por una sociedad obsesionada durante décadas con estandarizar, medir y hacer procesos cada vez más eficientes. Quizá la irrupción de la IA nos obligue a recuperar precisamente aquello que habíamos dejado en segundo plano.

Habrá que aprender, en letras mayúsculas, a enfrentarnos a la realidad no procedimentable: pensar cuando no existe una secuencia prefijada, relacionarnos, negociar, interpretar señales débiles, construir confianza, formular preguntas y decidir qué problema merece la pena resolver. No porque la IA sea incapaz de participar en esas actividades, sino porque son precisamente las que más dependen de un contexto cambiante, incompleto y difícil de formalizar.

Quizá la IA nos devuelva a lo humano

Vuelvo entonces a las tres preguntas iniciales. ¿Cuáles son realmente los límites de la IA? Mi tesis es que una parte de ellos tiene menos que ver con una supuesta incapacidad abstracta para razonar que con nuestra capacidad para digitalizar y proporcionar el contexto necesario: inputs, sensores, representaciones, prompts y criterios de relevancia. A esos límites se suman, por supuesto, los propios del hardware, la energía, los algoritmos, los datos y la arquitectura.

¿Cuál será el nuevo papel del ser humano? Creo que estará cada vez más cerca de aquello que exige construir contexto en tiempo real, actuar en escenarios abiertos, relacionarse con otros seres humanos y formular problemas que todavía no tienen un procedimiento robusto. Ese espacio se irá moviendo, porque lo que hoy es singular mañana puede estar estandarizado.

¿Y qué podemos hacer para no quedarnos obsoletos? Aprender a utilizar la IA, sí, pero no solo a utilizarla. Aprender a entender qué contexto maneja, qué le falta, qué supone y qué significa realmente su respuesta. Y, al mismo tiempo, fortalecer la curiosidad, la capacidad de síntesis, la construcción de contexto y las relaciones humanas.

No puedo evitar terminar con una paradoja que me parece sugerente: quizá sea la propia inteligencia artificial la que nos devuelva a la realidad del ser humano. A dedicarnos, precisamente, a aquello que nos hace especiales: pensar, preguntar, interpretar y relacionarnos en el sentido más amplio de la palabra.

Imagen creada con inteligencia artificial