Buenas, esto es BIMPRAXIS, el podcast donde el
BIM se encuentra con la inteligencia artificial.
Exploramos la ciencia, la tecnología y el futuro
desde el enfoque de la arquitectura, ingeniería y
construcción.
¡Empezamos!
Muy buenas.
Bienvenidas, bienvenidas a un nuevo episodio de BIMPRAXIS.
Hoy os traemos el fascinante salto desde la
programación intuitiva hasta la ingeniería de agentes autónomos,
de la mano del visionario André Cárpate.
Hola, ¿qué tal?
Un tema absolutamente apasionante el que tenemos hoy,
¿eh?
Totalmente.
A ver, la inversión de hoy tiene una
misión clara.
Vamos a desgranar una entrevista reciente que se
cohiere con a Capital le hizo a André
Carpacy.
Para quien no lo ubique, Carpacy es uno
de los pioneros de la inteligencia artificial moderna,
ex director de IA en Tesla y ex
investigador en OpenAI.
Exacto, una leyenda viva del sector.
Y nuestra misión es exponer todo lo que
contó allí de manera extensa, amena y bueno,
dirigida a una audiencia como la nuestra, inteligente,
preparada y con sentido del humor.
Claro que sí.
Hay mucho jugo que sacar de esa charla.
Y tanto.
Porque el gancho de todo esto, la verdadera
bomba, es que este hombre, uno de los
mejores programadores del mundo, confesó que últimamente nunca
se había sentido tan rezagado programando.
Sí, sí, lo dijo tal cual.
O sea, plantea un misterio brutal.
¿Cómo es posible que uno de los mismísimos
creadores de esta tecnología sienta de repente que
se queda atrás?
Es que esa confesión ilustra perfectamente el momento
que vivimos.
A ver, Carpati no es que haya perdido
habilidad técnica de la noche a la mañana,
¿sabes?
Ya, claro, no se le ha olvidado teclear.
Exacto.
Lo que experimentó fue un cambio de fase
radical en las herramientas.
Él sitúa este momento de inflexión, este momento
eureka, alrededor del pasado diciembre.
Vale, vamos a desgranar esto, porque diciembre fue
hace nada.
¿Qué pasó exactamente?
Pues que antes de esa fecha, las herramientas
de inteligencia artificial Generaban código, sí, pero había
que corregirlo constantemente.
Eran como asistentes espabilados pero muy torpes.
Te daban un bloque de código y tú
te pasabas horas buscando fallos de sintaxis o
alucinaciones lógicas.
Claro, y si tardas lo mismo en buscar
el fallo oculto que en escribirlo tú desde
cero, pues vaya gracia, ¿no?
Eso es.
El humano seguía siendo el compilador final.
Pero en diciembre cuenta que estaba de vacaciones
con unos proyectos paralelos y de repente los
bloques de código empezaron a salir perfectos.
¡Hostas!
Sin tocar una coma.
Sin tocar nada.
Llegó un punto en el que dejó de
leer el código generado.
Pasó de la supervisión exhaustiva a confiar ciegamente
en el sistema.
Y a esto lo bautizó como Bytecoding.
¿Bytecoding?
O sea, programar por intuición, por vibras.
Literalmente.
Decía que su carpeta de proyectos se llenó
hasta el infinito porque la velocidad a la
que podía crear cosas se multiplicó por 100.
Es que, fíjate, la analogía perfecta para esto
es como conducir un coche manual durante 20
años, cambiando marchas, pisando embrague...
Y sufriendo en los atascos, claro.
Exacto.
Y de repente, un día te subes a
un coche totalmente autónomo donde solo tienes que
decirle al GPS a dónde ir y te
echas a dormir.
Es una buena forma de verlo, sí.
Pero claro, si el coche ahora se conduce
solo, la pregunta es, ¿qué es exactamente este
nuevo motor?
Porque pasar de escribir líneas de código a
dictarle tus vibras a una máquina es un
salto muy bestia.
Lo que resulta fascinante aquí es que no
estamos ante un simple acelerador de lo que
ya existía, ¿eh?
No es un chat GPT más rápido.
Estamos ante un nuevo paradigma de computación.
El famoso software 3.0 del que habla, ¿no?
Exactamente.
A ver, hagamos un repaso rápido.
El software 1.0 era escribir reglas explícitas, lo
clásico.
C++, Python, todo eso.
Si pasa A, haz B.
Eso es.
Luego pasamos al software 2.0, que era entrenar
redes neuronales organizando montañas de datos para que
la máquina aprendiera los pesos matemáticos.
Vale, o sea, ahí ya no escribías la
regla lógica, sino que le dabas los ejemplos.
Exacto.
Pero el software 3.0 es otra bestia.
Aquí el prompting, o sea, el texto que
tú pones en la ventana de chat, se
convierte en la palanca principal.
¿El código fuente es el inglés o el
español?
Literalmente.
El modelo de lenguaje actúa como un ordenador
en sí mismo.
Tu texto es el script y la red
neuronal es el sistema operativo que lo ejecuta.
Ya, pero ¿tienes algún ejemplo concreto de cómo
cambia esto el día a día?
Porque suena un poco abstracto.
Claro, mira el caso de OpenSchool.
En el paradigma antiguo, el 1.0, si querías
que alguien instalara ese programa en su ordenador,
tenías que escribir un script de Bash inmenso.
Uf, los típicos scripts que preven si tienes
Mac, si tienes Linux, si te falta una
librería.
Exacto.
Y si el usuario tiene una configuración rara
que tú no previste, ¡pum!
Error en la línea 14 y se acabó
la instalación.
Totalmente.
Te quedas atascado.
Pues en el software 3.0 simplemente le das
un bloque de texto a tu agente inteligente
diciéndole, instala esto.
Y ya está.
El agente inspecciona el entorno del usuario, lee
los errores en la pantalla, toma decisiones, se
da cuenta de que falta una dependencia, la
busca, la instala y sigue.
O sea, razona y depura sobre la marcha.
¡Qué barbaridad!
Es totalmente autónomo.
Carpazzi también puso el ejemplo de Menuyen, una
aplicación que él mismo programó.
Así, la app para leer menús de restaurantes,
¿verdad?
Esa misma.
Antes requería subirla a Vercel, usar OCR para
extraer el texto del menú, conectarlo a un
generador de imágenes y un montón de código
pegamento para unir todo.
Un trabajo de ingeniería serio.
Pues de repente vio que en el Paradigma
3.0 simplemente le das la foto del menú
a Gemini, le pides a una herramienta como
Nanobana que superponga las imágenes en los píxeles
originales y listo.
Madre mía.
O sea, todo el código intermedio de su
aplicación original era de repente basura inútil.
Literalmente inútil.
Y esto nos lleva a cómo va a
cambiar el hardware.
En los años 50 no se sabía si
los ordenadores serían calculadoras lógicas o redes neuronales
biológicas.
Ganó la calculadora.
Claro, nuestras CPUs actuales.
Ganó la CPU, exacto.
Pero en el futuro, Carpatid dice que la
red neuronal basada en silicio será el procesador
principal.
Y la CPU clásica.
Un simple coprocesador auxiliar.
La red neuronal solo acudirá a ella cuando
necesite hacer un cálculo matemático exacto.
¡Ostras!
Aquí es donde se pone realmente interesante.
Porque si este software 3.0 es tan revolucionario,
tan potente, que relega a la CPU a
un segundo plano, ¿por qué a veces la
IA parece tan, bueno, estúpida?
Ah, la gran paradoja.
Claro, porque el modelo Opus 4.7 te puede
refactorizar una base de código de 100.000 líneas
o encontrarte un fallo de seguridad nivel cero,
pero luego le haces una pregunta básica y
patina.
Sí, Carpazzi ponía un ejemplo buenísimo de esto.
El del lavadero de coches, ¿no?
Si le preguntas a la IA si debes
ir andando o en coche a un lavadero
que está a 50 metros, la máquina te
dice que vayas andando.
¿Para ir a lavar el coche?
Exacto.
Vas andando, lavas un coche imaginario y te
vuelves.
O sea, es como un erudito que te
puede recitar el Quijote del revés, pero luego
no sabe abrir un paraguas cuando llueve.
Es una analogía perfecta.
A esto Carpazzi lo llama entidades dentadas o
jacket intelligence en inglés.
Inteligencia dentada, vale.
Tienen picos altísimos de genialidad y baches profundísimos
de torpeza absoluta.
Y la explicación detrás de esto es la
verificabilidad y el aprendizaje por refuerzo, el RL.
A ver, explícanos un poco más esto del
aprendizaje por refuerzo.
Las empresas entrenan estos modelos masivamente en entornos
donde es muy fácil comprobar automáticamente si la
respuesta es correcta.
Matemáticas, código, ajedrez… Claro, compila o no compila.
Es binario.
Eso es.
Si tu problema cae dentro de esos circuitos
de entrenamiento masivo, el modelo vuela, es un
genio.
Pero si te sales un milímetro de ahí…
El modelo se despeña por el precipicio.
Exacto.
Sufre muchísimo porque le falta el sentido común.
Hay un concepto filosófico que menciona que es
brillante.
Dice que estamos invocando fantasmas, no construyendo animales.
¡Qué buena frase!
Invocamos fantasmas.
Claro, porque las sías no tienen motivación intrínseca.
No tienen curiosidad, no quieren divertirse, no se
aburren.
son solo circuitos de simulación estadística.
O sea que gritarles en mayúsculas en el
prompt o tratarlas como mascotas diciendo, por favor,
no sirve de nada.
De nada.
Son matemáticas frías.
Vale.
Pero entonces, sabiendo esto, que estamos tratando con
fantasmas estadísticos, dentados y bastante impredecibles, ¿cómo narices
se construye software profesional y fiable hoy en
día?
Bueno, ahí está la diferencia entre el vibe
coding y lo que ahora llamamos ingeniería de
agentes.
o agentic engineering.
Ajá.
Vibe coding es lo de las vibras que
hablábamos al principio.
Exacto.
El vibe coding eleva el suelo.
Permite que cualquier persona, sepa programar o no,
pueda crear software básico a toda velocidad.
Pero, claro, yo no pondría la contabilidad de
mi empresa en manos de las vibras de
un fantasma estadístico, ¿sabes?
Evidentemente no.
Y ahí entra la ingeniería de agentes, que
es lo que mantiene el techo de calidad
profesional.
¿Y en qué consiste exactamente?
Consiste en coordinar a varios de estos agentes
estocásticos e impredecibles para que se supervisen entre
sí.
Vas muchísimo más rápido, pero sin introducir vulnerabilidades
de seguridad.
O sea, pones a un agente a escribir
el código y a otro a intentar hackearlo.
Eso es.
Y claro, esto supone la muerte del famoso
mito de Silicon Valley del programador 10X.
Ostras, el programador 10X.
El tío que tecleaba a la velocidad de
la luz y producía 10 veces más que
el resto.
Ya no importa.
La mejora de productividad con estos enjambres de
agentes es astronómicamente mayor a un 10x.
Claro.
Es que tecleando no puedes competir contra 50
instancias de inteligencia artificial trabajando en paralelo.
Si conectamos esto con el panorama general, fíjate
en cómo están cambiando las entrevistas de trabajo.
Ah, sí, lo de los rompecabezas de código
ya no siempre, ¿no?
Para nada.
Carpazzi sugiere una prueba nueva que es una
locura.
Le pides al candidato que construya un clon
de Twitter, seguro.
Vale.
Y una vez que lo tiene, pones a
varios agentes a simular el tráfico humano en
la web.
Como si hubiera miles de personas tuiteando.
Exacto.
Y simultáneamente, atacas la web del candidato con
10 modelos códex, superpotentes, para intentar tumbarla buscando
vulnerabilidades.
¡Qué barbaridad!
Un asedio en toda regla.
Totalmente.
Y si la arquitectura del candidato aguanta ese
ataque brutal de la IA, entonces estás contratado.
Entonces, ¿qué significa todo esto para nosotros?
Porque si los agentes diseñan, construyen, prueban y
se atacan a sí mismos, ¿qué nos queda
a los humanos?
¿Mirar la pantalla?
No, no.
Los humanos seguimos siendo los directores de la
película.
Aportamos la estética, el criterio, el buen gusto
y, sobre todo, la supervisión estructural.
¿Tienes algún ejemplo donde esa supervisión humana siga
siendo vital?
Sí.
Carpati contó un error absurdo que tuvo con
su aplicación Menuaen.
Usaba cuentas de Google para que el agente
se registrara y cuentas de Stripe para procesar
los pagos.
Vale, lo típico en cualquier web hoy en
día.
Pues su agente intentó emparejar las cuentas de
los usuarios basándose en las direcciones de correo
electrónico.
¡Ostras!
Claro, pero ¿yo puedo usar un correo personal
de Gmail para registrarme y luego pagar con
el correo de mi empresa en Stripe?
Exacto.
Es un error de diseño garrafal.
El agente no entiende cómo funcionan los humanos
en el mundo real.
En parejados textos que se parecen y se
queda tan ancho.
Eso es.
Por eso el humano diseña la arquitectura general.
Los detalles aburridos de las APIs se los
delegas a la máquina.
Claro.
Como no acordarte de si en una librería
concreta de Python la función se llama keepDims,
axis o reshape.
Exacto.
El agente te busca el nombre de la
función en mil segundos.
Pero el humano debe entender el concepto que
hay debajo.
O sea, tienes que entender cómo funciona la
gestión de memoria RAM o la diferencia entre
visualizar un dato o duplicarlo en el disco
duro.
Totalmente.
Porque si no entiendes eso, el agente te
escribe un código que satura la memoria del
servidor en dos minutos y te tumba el
sistema y tú no sabes ni por qué.
Básicamente nos estamos convirtiendo en arquitectos o directores
de orquesta.
Ya no tocamos el violín y el violonchelo,
pero sabemos exactamente cómo tiene que sonar la
Sinfonía de Beethoven.
Es una analogía preciosa y muy certera.
Y fíjate, esto conecta con un enfado monumental
que tiene Carpazzi últimamente.
con que odia profundamente que la documentación técnica
de hoy en día siga estando escrita para
que la lean los humanos.
Bueno, es que hasta hace dos días éramos
los únicos que la leyamos.
Ya, pero él dice que ahora todo debería
ser nativo para agentes.
La documentación debería estar descompuesta en sensores, para
que la máquina lea el mundo, y en
actuadores, para que interactúe.
Claro, sin colorines ni tutoriales paso a paso
para humanos que solo confunden a la IA.
Su sueño es pedirle a un agente que
construya una app y que este configure la
base de datos, los registros DNS y el
servidor sin que el humano tenga que hacer
clic en un solo menú desplegable.
Pero claro, si externalizamos toda esa fricción, todo
ese trabajo duro, ¿no nos volvemos un poco
inútiles?
Esto plantea una pregunta importante sobre el cuello
de botella del entendimiento.
A ver.
Carpacy cita una frase que le voló la
cabeza y es esta.
Puedes externalizar el pensamiento, pero no puedes externalizar
el entendimiento.
Uf, qué profunda.
O sea, el modelo procesa y piensa, pero
el que lo entiende sigo siendo yo.
Exacto.
El ser humano es el cuello de botella.
Los modelos de lenguaje pueden generar gigabytes de
datos, pero la comprensión real ocurre en la
circuitería húmeda de nuestro cerebro.
Claro.
Si no entiendes tu propio problema de negocio,
da igual cuántas IAs tengas, no puedes dirigirlas
hacia la solución.
Por eso Carpaccio usa las IA no para
dejar de estudiar, sino para crear wikis personales
automáticas de los artículos que lee.
¡Ah, qué interesante!
Las usa como una herramienta de estudio turboalimentada.
Sí, le pide a la IA diferentes perspectivas
o proyecciones de la misma información para forzar
esos momentos de ajá, de inspiración en su
propia cabeza.
O sea que, paradójicamente, a medida que la
inteligencia artificial se abarata hasta costar céntimos, la
claridad mental y el entendimiento profundo del ser
humano se convierte en el recurso más valioso
de la Tierra.
El más valioso y el más escaso, me
temo.
Desde luego.
Pues fíjate, escuchando todo esto me surce una
reflexión final que quiero dejar votando para nuestra
audiencia.
A ver, dispara.
Si realmente estamos avanzando hacia esta infraestructura puramente
nativa para gentes de la que habla Carpazzi,
donde toda la documentación, las herramientas y el
código se escriben para que lo lean las
máquinas y no los humanos, llegará un momento
en que el software que mueve nuestro mundo
sea un lenguaje completamente ininteligible para nosotros.
¡Ostras!
Es decir, estaremos operando un mundo digital hiper
avanzado del que básicamente hemos perdido el diccionario.
Es una posibilidad muy real y bastante inquietante,
la verdad.
Seríamos como los operarios de una nave alienígena
que pulsan botones sin saber qué cables hay
debajo.
Exactamente.
Ahí lo dejamos, para pensar un buen rato.
Ha sido un placer repasar todo esto hoy.
Lo mismo digo.
Antes de despedirnos hasta el próximo programa, os
informamos de que las voces que oyes han
sido generadas por la IA de Notebook LM
y que dirigiendo el podcast se encuentra Julio
Pablo Vázquez, un humano que te envía saludos.
En caso de error, probablemente sean errores humanos.
¡Nos escuchamos!
Y hasta aquí el episodio de hoy Muchas
gracias por tu atención Esto es BIMPRAXIS Nos
escuchamos en el próximo episodio ¡Suscríbete al canal!