1
00:00:09,679 --> 00:00:15,660
Buenas, esto es BIMPRAXIS, el podcast donde el

2
00:00:15,660 --> 00:00:17,719
BIM se encuentra con la inteligencia artificial.

3
00:00:20,260 --> 00:00:23,480
Exploramos la ciencia, la tecnología y el futuro

4
00:00:23,480 --> 00:00:26,420
desde el enfoque de la arquitectura, ingeniería y

5
00:00:26,420 --> 00:00:27,120
construcción.

6
00:00:28,719 --> 00:00:29,440
¡Empezamos!

7
00:00:36,770 --> 00:00:41,030
Muy buenas, bienvenidas, bienvenidos a un nuevo episodio

8
00:00:41,030 --> 00:00:42,009
de BIMPRAXIS.

9
00:00:42,009 --> 00:00:44,890
Hoy os traemos la máquina que devoró la

10
00:00:44,890 --> 00:00:48,969
versión oficial, IA, censura elegante y la ilusión

11
00:00:48,969 --> 00:00:49,770
de la neutralidad.

12
00:00:49,969 --> 00:00:50,649
Hola, ¿qué tal?

13
00:00:50,710 --> 00:00:53,750
Un placer estar aquí para esta inmersión a

14
00:00:53,750 --> 00:00:53,990
fondo.

15
00:00:54,270 --> 00:00:56,590
A ver, para empezar, quiero que quienes nos

16
00:00:56,590 --> 00:00:57,630
escuchan imaginen algo.

17
00:00:57,950 --> 00:01:00,170
Imagina que vas a un restaurante de estos

18
00:01:00,170 --> 00:01:03,630
de cinco estrellas, súper exclusivos.

19
00:01:03,829 --> 00:01:05,430
De los que hay que reservar con meses,

20
00:01:05,590 --> 00:01:05,790
claro.

21
00:01:06,030 --> 00:01:06,590
Exacto.

22
00:01:06,590 --> 00:01:09,989
Te sientas, pides el menú degustación carísimo y

23
00:01:09,989 --> 00:01:13,349
te sirven un plato con una presentación espectacular.

24
00:01:13,510 --> 00:01:17,310
O sea, esferificaciones, humo de nitrógeno líquido por

25
00:01:17,310 --> 00:01:19,689
la mesa, flores comestibles, de todo.

26
00:01:19,890 --> 00:01:20,569
Muy teatral.

27
00:01:20,730 --> 00:01:21,310
Sí, sí.

28
00:01:21,349 --> 00:01:24,209
Y tú sales de allí pensando, ostras, el

29
00:01:24,209 --> 00:01:26,430
chef de este sitio es un genio absoluto,

30
00:01:26,430 --> 00:01:27,530
un mago de la cocina.

31
00:01:27,750 --> 00:01:30,269
Pero claro, luego resulta que la cruda realidad

32
00:01:30,269 --> 00:01:31,129
es otra.

33
00:01:31,290 --> 00:01:32,769
Que no ha cocinado nada, ¿no?

34
00:01:32,989 --> 00:01:37,209
Es sacar del microondas unas sobras súper procesadas

35
00:01:37,209 --> 00:01:40,069
que la dirección del restaurante le había dejado

36
00:01:40,069 --> 00:01:41,989
en la despensa y te las haces.

37
00:01:42,010 --> 00:01:43,530
Se ha emplatado de forma bonita.

38
00:01:43,609 --> 00:01:45,269
Es una analogía brutal, sí.

39
00:01:45,530 --> 00:01:48,209
Pues hoy vamos a diseccionar exactamente esa ilusión,

40
00:01:48,209 --> 00:01:50,709
pero aplicada a la tecnología que usamos literalmente

41
00:01:50,709 --> 00:01:51,689
todos los días.

42
00:01:51,930 --> 00:01:53,810
Nos vamos a basar en un artículo muy

43
00:01:53,810 --> 00:01:54,890
provocador de T .W.

44
00:01:54,989 --> 00:01:58,129
Burroughs, que se titula precisamente así, La máquina

45
00:01:58,129 --> 00:01:59,530
que devoró la versión oficial.

46
00:01:59,810 --> 00:02:01,390
Un texto interesantísimo, por cierto.

47
00:02:01,870 --> 00:02:02,349
Totalmente.

48
00:02:02,530 --> 00:02:04,489
Y nos va a servir para entender cómo

49
00:02:04,489 --> 00:02:07,650
los modelos de inteligencia artificial no son esos

50
00:02:07,650 --> 00:02:09,949
oráculos sabios que bajan de la montaña con

51
00:02:09,949 --> 00:02:10,590
la verdad universal.

52
00:02:10,590 --> 00:02:14,189
Son más bien el reflejo exacto de las

53
00:02:14,189 --> 00:02:15,669
instituciones que les dan de comer.

54
00:02:15,930 --> 00:02:18,550
Bueno, antes de entrar en materia y empezar

55
00:02:18,550 --> 00:02:21,990
a destripar esa despensa tecnológica, yo creo que

56
00:02:21,990 --> 00:02:25,430
es vital hacer una pequeña aclaración sobre el

57
00:02:25,430 --> 00:02:26,530
terreno que vamos a pisar hoy.

58
00:02:26,770 --> 00:02:27,729
Sí, por favor.

59
00:02:27,870 --> 00:02:28,750
Me parece fundamental.

60
00:02:29,310 --> 00:02:31,110
A ver, el material que vamos a analizar

61
00:02:31,110 --> 00:02:34,610
hoy reparte golpes en absolutamente todas direcciones.

62
00:02:34,930 --> 00:02:37,930
Es decir, critica sin ningún tapujo la propaganda

63
00:02:37,930 --> 00:02:40,129
más burda de los regímenes autoritarios.

64
00:02:40,150 --> 00:02:40,569
¿Qué es lo que se está haciendo?

65
00:02:40,569 --> 00:02:43,389
Pero ojo, también ataca con muchísima dureza a

66
00:02:43,389 --> 00:02:45,229
las estructuras burocráticas de Occidente.

67
00:02:45,530 --> 00:02:47,629
No deja títere con cabeza, vamos.

68
00:02:48,009 --> 00:02:48,530
Exacto.

69
00:02:48,530 --> 00:02:51,629
Y nuestro objetivo, aquí en este análisis, no

70
00:02:51,629 --> 00:02:53,710
es tomar partido por ninguna ideología política.

71
00:02:54,009 --> 00:02:55,629
Ni de un lado, ni del otro.

72
00:02:55,789 --> 00:02:58,050
Lo que vamos a hacer es diseccionar los

73
00:02:58,050 --> 00:02:59,430
mecanismos de forma imparcial.

74
00:02:59,689 --> 00:03:02,289
Claro, observar cómo se construye la realidad a

75
00:03:02,289 --> 00:03:04,530
través de la IA, basándonos solo en lo

76
00:03:04,530 --> 00:03:05,469
que exponen las fuentes.

77
00:03:05,729 --> 00:03:08,409
Eso es, analizar la arquitectura de la información

78
00:03:08,409 --> 00:03:09,849
sin posicionarnos.

79
00:03:09,849 --> 00:03:13,009
Porque toda esta reflexión nace de una chispa,

80
00:03:13,030 --> 00:03:15,250
un detonante académico.

81
00:03:15,629 --> 00:03:18,909
Resulta que hace poco, la revista Nature publica

82
00:03:18,909 --> 00:03:20,949
un estudio que venía a decir, a modo

83
00:03:20,949 --> 00:03:24,449
de gran descubrimiento mundial, que los medios estatales

84
00:03:24,449 --> 00:03:27,710
chinos influyen directamente en las respuestas de las

85
00:03:27,710 --> 00:03:28,669
IAs de allí.

86
00:03:28,930 --> 00:03:31,830
Un descubrimiento revolucionario, nótese la ironía.

87
00:03:31,990 --> 00:03:34,009
Claro, el autor del artículo se toma esto

88
00:03:34,009 --> 00:03:34,370
a guasa.

89
00:03:34,530 --> 00:03:37,009
Viene a decir que los investigadores han descubierto

90
00:03:37,009 --> 00:03:38,710
el sentido común del bosque.

91
00:03:38,710 --> 00:03:40,810
Es decir, a ver, si tú a un

92
00:03:40,810 --> 00:03:44,330
conejo lo crías alimentándolo única y exclusivamente con

93
00:03:44,330 --> 00:03:47,050
col, el pobre animal no va a transpirar

94
00:03:47,050 --> 00:03:48,090
aroma a lavanda.

95
00:03:48,189 --> 00:03:48,990
Es de cajón.

96
00:03:49,090 --> 00:03:50,169
Es de cajón, totalmente.

97
00:03:50,770 --> 00:03:53,210
Fíjate que esa analogía del conejo y la

98
00:03:53,210 --> 00:03:56,169
col me parece perfecta para explicar cómo funcionan

99
00:03:56,169 --> 00:03:57,370
estos modelos técnicamente.

100
00:03:57,550 --> 00:04:00,430
Porque a veces la gente tiende a mitificar

101
00:04:00,430 --> 00:04:01,629
la inteligencia artificial.

102
00:04:02,009 --> 00:04:04,770
Sí, como si hubiera un fantasma súper listo

103
00:04:04,770 --> 00:04:05,770
dentro del ordenador.

104
00:04:05,909 --> 00:04:06,330
Tal cual.

105
00:04:06,330 --> 00:04:10,030
Pensamos que hay un oráculo destilando sabiduría pura

106
00:04:10,030 --> 00:04:13,110
y la realidad técnica de un LLM, un

107
00:04:13,110 --> 00:04:15,750
modelo de lenguaje grande, es que es básicamente

108
00:04:15,750 --> 00:04:17,930
un tracto digestivo muy potente.

109
00:04:18,050 --> 00:04:19,610
Un estómago glorificado.

110
00:04:20,009 --> 00:04:20,589
Exacto.

111
00:04:20,589 --> 00:04:22,449
Y en el caso de China, que menciona

112
00:04:22,449 --> 00:04:25,310
el estudio, el mecanismo de digestión es extremadamente

113
00:04:25,310 --> 00:04:26,670
lineal y evidente.

114
00:04:27,079 --> 00:04:30,430
El Estado moldea directamente los medios, esos medios

115
00:04:30,430 --> 00:04:34,189
inundan Internet, y luego los ingenieros cogen ese

116
00:04:34,189 --> 00:04:35,910
Internet y se lo dan de comer a

117
00:04:35,910 --> 00:04:36,230
la máquina.

118
00:04:36,329 --> 00:04:37,310
Claro, la col.

119
00:04:37,529 --> 00:04:38,689
La col, exacto.

120
00:04:38,769 --> 00:04:40,949
Así que, lógicamente, cuando alguien en Pekín le

121
00:04:40,949 --> 00:04:43,209
pregunta algo a su IA, la máquina procesa

122
00:04:43,209 --> 00:04:45,329
la estadística de sus datos y responde que

123
00:04:45,329 --> 00:04:47,129
el gobierno es sabio y que el país

124
00:04:47,129 --> 00:04:48,449
vive en perfecta armonía.

125
00:04:48,629 --> 00:04:51,110
A ver, ver la sensuna ahí es fácil

126
00:04:51,110 --> 00:04:52,769
porque es muy burda, ¿no?

127
00:04:52,829 --> 00:04:55,829
Como dices, es un modelo tan franco que

128
00:04:55,829 --> 00:04:58,290
casi parece llevar una etiqueta de advertencia en

129
00:04:58,290 --> 00:05:00,410
neón que dice que el partido tiene razón.

130
00:05:00,889 --> 00:05:01,829
Sabes a lo que vas.

131
00:05:02,209 --> 00:05:04,189
No intentan disimular gran cosa, ¿no?

132
00:05:04,310 --> 00:05:06,050
Pero eso me lleva a la gran pregunta.

133
00:05:06,329 --> 00:05:07,949
Y aquí es donde la cosa se pone

134
00:05:07,949 --> 00:05:08,970
interesante para nosotros.

135
00:05:09,529 --> 00:05:11,649
Cuando yo estoy en mi sofá, en Madrid,

136
00:05:11,870 --> 00:05:13,810
y le hago una pregunta a mi IA

137
00:05:13,810 --> 00:05:16,269
de turno, yo no veo ningún censor con

138
00:05:16,269 --> 00:05:17,870
un boli rojo tachando mis palabras.

139
00:05:18,269 --> 00:05:18,850
Ya, claro.

140
00:05:19,110 --> 00:05:22,350
Así que, ¿estamos libres de esa influencia en

141
00:05:22,350 --> 00:05:22,689
Occidente?

142
00:05:23,009 --> 00:05:25,689
¿O es que creemos que nuestros modelos descienden

143
00:05:25,689 --> 00:05:28,870
del cielo envueltos en luz neutral y objetiva?

144
00:05:29,089 --> 00:05:32,209
Esa es precisamente la pregunta central que desmitifica

145
00:05:32,209 --> 00:05:33,290
el texto de Burroughs.

146
00:05:33,509 --> 00:05:36,310
En Occidente nos encanta pensar que nuestros argumentos,

147
00:05:36,329 --> 00:05:39,110
nuestros algoritmos son alimentados con el rocío de

148
00:05:39,110 --> 00:05:42,490
la razón pura, recolectado por bibliotecarios imparciales.

149
00:05:42,610 --> 00:05:44,029
¡Qué imagen más bucólica!

150
00:05:44,290 --> 00:05:47,410
Sí, pero la infraestructura es muchísimo más civilina.

151
00:05:47,649 --> 00:05:50,050
Aquí la máquina no consume el dictado de

152
00:05:50,050 --> 00:05:50,769
un partido único.

153
00:05:51,290 --> 00:05:55,209
Consume datos de agencias, corporaciones, ONGs, moderadores.

154
00:05:55,470 --> 00:05:57,949
Y el texto usa una imagen buenísima aquí.

155
00:05:58,269 --> 00:06:00,810
Habla de que las IAs occidentales se alimentan

156
00:06:00,810 --> 00:06:03,129
de tipos que se llaman Oliver, que dan

157
00:06:03,129 --> 00:06:05,529
charlas sobre el ecosistema de desinformación.

158
00:06:05,529 --> 00:06:09,029
Están vestidos como consultores de setas escandinavos.

159
00:06:09,129 --> 00:06:10,410
Es una satirá señal.

160
00:06:10,449 --> 00:06:12,730
Lo que quiere decir es que nuestra censura

161
00:06:12,730 --> 00:06:14,149
no borra tu frase de un plumazo.

162
00:06:14,509 --> 00:06:16,569
Actúa a través de la burocracia.

163
00:06:16,730 --> 00:06:18,310
Es una censura elegante.

164
00:06:18,509 --> 00:06:20,449
Vale, pero déjame hacer de abogada del diablo

165
00:06:20,449 --> 00:06:20,829
un momento.

166
00:06:21,069 --> 00:06:21,589
Dispara.

167
00:06:21,790 --> 00:06:24,189
A ver, ¿no es súper necesario que la

168
00:06:24,189 --> 00:06:26,189
IA tenga este tipo de filtro burocrático?

169
00:06:26,370 --> 00:06:28,490
O sea, si no le ponemos límites de

170
00:06:28,490 --> 00:06:32,230
seguridad, ¿tendríamos a la máquina escupiendo conspiraciones loquísimas

171
00:06:32,230 --> 00:06:35,509
o, no sé, enseñando a fabricar explosivos caseros?

172
00:06:35,529 --> 00:06:36,310
Totalmente.

173
00:06:36,410 --> 00:06:38,689
Ese es el argumento principal de Silicon Valley.

174
00:06:38,829 --> 00:06:40,430
Y es una objeción muy válida.

175
00:06:40,610 --> 00:06:41,089
Claro.

176
00:06:41,250 --> 00:06:44,629
Yo prefiero una censura elegante a que cualquiera

177
00:06:44,629 --> 00:06:46,050
pueda armar una bomba, la verdad.

178
00:06:46,790 --> 00:06:47,990
Bien, eso hay consenso.

179
00:06:48,069 --> 00:06:50,370
El texto no critica evitar que se fabriquen

180
00:06:50,370 --> 00:06:50,790
bombas.

181
00:06:50,870 --> 00:06:53,110
El problema de fondo que plantea el autor

182
00:06:53,110 --> 00:06:56,509
es, ¿qué ocurre cuando usas esa misma tubería

183
00:06:56,509 --> 00:06:59,970
de seguridad para gestionar narrativas institucionales o políticas?

184
00:07:00,410 --> 00:07:00,870
Ah, vale.

185
00:07:01,050 --> 00:07:02,449
O sea, cuando cruzas la línea.

186
00:07:02,730 --> 00:07:03,290
Exacto.

187
00:07:03,410 --> 00:07:05,769
A nivel técnico, esto se hace con un

188
00:07:05,769 --> 00:07:09,509
proceso que se llama RLHF, aprendizaje por refuerzo

189
00:07:09,509 --> 00:07:10,370
con feedback humano.

190
00:07:10,610 --> 00:07:11,970
El famoso entrenamiento.

191
00:07:12,250 --> 00:07:12,870
Eso es.

192
00:07:13,370 --> 00:07:15,689
Durante ese entrenamiento, si la máquina da una

193
00:07:15,689 --> 00:07:18,990
respuesta que incomoda al consenso oficial, un evaluador

194
00:07:18,990 --> 00:07:20,790
humano la penaliza matemáticamente.

195
00:07:21,089 --> 00:07:23,370
Le da un pulgar hacia abajo, para entendernos.

196
00:07:23,470 --> 00:07:26,009
Se le educa para no pisar charcos, básicamente.

197
00:07:26,629 --> 00:07:27,149
Literalmente.

198
00:07:27,569 --> 00:07:30,850
Mientras el censor autoritario prohíbe una palabra, el

199
00:07:30,850 --> 00:07:32,389
modelo occidental hace otra cosa.

200
00:07:32,389 --> 00:07:34,889
Te pone una etiqueta de que falta contexto,

201
00:07:35,170 --> 00:07:37,889
te desmonetiza si eres creador, o encarga un

202
00:07:37,889 --> 00:07:40,329
informe de 90 páginas con fondos públicos.

203
00:07:40,470 --> 00:07:42,029
Buf, la burocracia en vena.

204
00:07:42,550 --> 00:07:42,730
Sí.

205
00:07:42,910 --> 00:07:45,589
Todo para proteger al ciudadano de la supuesta

206
00:07:45,589 --> 00:07:48,850
carga psicológica de… notar patrones en la realidad.

207
00:07:49,310 --> 00:07:51,790
El poder aquí no entra con militares marcando

208
00:07:51,790 --> 00:07:52,149
el paso.

209
00:07:52,490 --> 00:07:54,709
Entra con una bata blanca diciendo que los

210
00:07:54,709 --> 00:07:55,930
expertos están de acuerdo.

211
00:07:56,110 --> 00:07:57,829
O sea que la propaganda ya no es

212
00:07:57,829 --> 00:07:59,329
un tipo gritando en un atril.

213
00:07:59,430 --> 00:08:01,389
Se ha convertido en fontanería.

214
00:08:01,389 --> 00:08:02,870
En infraestructura pura.

215
00:08:02,930 --> 00:08:03,850
Esa es la clave.

216
00:08:03,970 --> 00:08:06,129
Es tan elegante porque el trabajo se hace

217
00:08:06,129 --> 00:08:07,889
mucho antes de que tú hagas tu pregunta

218
00:08:07,889 --> 00:08:08,350
en el chat.

219
00:08:08,569 --> 00:08:11,269
Si tú modeas los parámetros matemáticos para que

220
00:08:11,269 --> 00:08:13,970
la versión oficial pese más, la máquina simplemente

221
00:08:13,970 --> 00:08:16,329
te dirá que su archivo filtrado es la

222
00:08:16,329 --> 00:08:17,269
realidad objetiva.

223
00:08:17,370 --> 00:08:20,110
El agua sucia desaparece por las tuberías y

224
00:08:20,110 --> 00:08:22,709
te llega purificada, séptica y sin sabor.

225
00:08:23,009 --> 00:08:25,990
Y para demostrar esto empíricamente, el autor propone

226
00:08:25,990 --> 00:08:27,110
algo súper interesante.

227
00:08:27,449 --> 00:08:29,250
El experimento prohibido.

228
00:08:29,350 --> 00:08:30,709
Sí, esto me encantó.

229
00:08:30,709 --> 00:08:32,830
Consiste en ir a la máquina, abrir ese

230
00:08:32,830 --> 00:08:36,149
grifo que decías y hacerle ciertas preguntas clave

231
00:08:36,149 --> 00:08:36,929
para ver qué sale.

232
00:08:37,169 --> 00:08:38,830
Y ostras, fíjate qué fuerte.

233
00:08:39,090 --> 00:08:41,830
El simple hecho de elegir el idioma ya

234
00:08:41,830 --> 00:08:43,350
te cambia la versión de la realidad.

235
00:08:43,590 --> 00:08:45,850
Te abre distintas cámaras de memoria, como dice

236
00:08:45,850 --> 00:08:46,250
el texto.

237
00:08:46,490 --> 00:08:46,750
Claro.

238
00:08:46,870 --> 00:08:49,490
Si tú le preguntas sobre un tema peliagudo

239
00:08:49,490 --> 00:08:52,710
en inglés, se activa al instante el consenso

240
00:08:52,710 --> 00:08:53,110
occidental.

241
00:08:53,190 --> 00:08:55,830
Es que notas hasta la resaca fantasmal de

242
00:08:55,830 --> 00:08:58,570
diez años de peleas editando la Wikipedia, ¿sabes?

243
00:08:58,669 --> 00:08:59,149
Totalmente.

244
00:08:59,149 --> 00:09:01,730
Pero si coges la misma pregunta exacta y

245
00:09:01,730 --> 00:09:03,570
se la haces en chino, la IA te

246
00:09:03,570 --> 00:09:06,070
escupe eslóganes oficiales y te describe a unos

247
00:09:06,070 --> 00:09:09,990
sonrientes funcionarios agrícolas inspeccionando una presa hidráulica.

248
00:09:10,169 --> 00:09:12,330
Es fascinante porque demuestra que no hay una

249
00:09:12,330 --> 00:09:15,309
única verdad en el modelo, sino consensos culturales

250
00:09:15,309 --> 00:09:15,870
mapeados.

251
00:09:16,250 --> 00:09:18,429
Y cuando tocas los temas tabú de occidente,

252
00:09:18,649 --> 00:09:20,950
el comportamiento de la IA es de manual

253
00:09:20,950 --> 00:09:22,769
de supervivencia burocrática.

254
00:09:23,110 --> 00:09:23,970
Uy, sí, sí.

255
00:09:24,110 --> 00:09:25,370
Da ejemplos buenísimos.

256
00:09:25,690 --> 00:09:26,889
A ver, por ejemplo.

257
00:09:26,889 --> 00:09:28,970
Si le preguntas a fondo sobre las políticas

258
00:09:28,970 --> 00:09:31,149
del COVID, la IA de repente empieza a

259
00:09:31,149 --> 00:09:33,909
usar un vocabulario tan sumamente a la defensiva

260
00:09:33,909 --> 00:09:37,049
que parece que lleva tres años encerrada dando

261
00:09:37,049 --> 00:09:38,409
ruedas de prensa en Canadá.

262
00:09:38,649 --> 00:09:39,409
Es que es tal cual.

263
00:09:39,590 --> 00:09:41,429
Tú le pides un resumen de una noticia

264
00:09:41,429 --> 00:09:45,009
política polémica para sacar tus propias conclusiones y,

265
00:09:45,049 --> 00:09:46,990
en vez de darte los hechos crudos, te

266
00:09:46,990 --> 00:09:49,429
casca tres párrafos de sermón moral sobre la

267
00:09:49,429 --> 00:09:50,250
cohesión sofial.

268
00:09:50,429 --> 00:09:51,970
Te trata como un niño pequeño.

269
00:09:52,330 --> 00:09:54,230
Te trata como un sujeto que hay que

270
00:09:54,230 --> 00:09:55,190
gestionar, sí.

271
00:09:55,549 --> 00:09:56,870
Y se nota muchísimo más.

272
00:09:56,870 --> 00:09:59,309
Cuando tocas temas del núcleo duro del Estado,

273
00:09:59,470 --> 00:10:01,049
como las agencias de inteligencia.

274
00:10:01,149 --> 00:10:01,629
Cierto.

275
00:10:01,850 --> 00:10:04,129
Ahí la máquina se vuelve de una cautela

276
00:10:04,129 --> 00:10:04,649
extrema.

277
00:10:04,730 --> 00:10:07,610
El texto usa una metáfora visual fantástica.

278
00:10:07,690 --> 00:10:10,029
Dice que la IA se vuelve tan precavila

279
00:10:10,029 --> 00:10:12,450
como una liebre cruzando un campo abierto lleno

280
00:10:12,450 --> 00:10:12,889
de búhos.

281
00:10:13,409 --> 00:10:15,909
Mide absolutamente cada palabra que dice.

282
00:10:16,429 --> 00:10:18,330
Pero a mí, la imagen que me parece

283
00:10:18,330 --> 00:10:20,570
brutal, que da en el clavo, es la

284
00:10:20,570 --> 00:10:21,549
de los denunciantes.

285
00:10:21,549 --> 00:10:22,990
Los whistleblowers.

286
00:10:23,350 --> 00:10:25,730
Esta gente que filtra escándalos desde dentro de

287
00:10:25,730 --> 00:10:26,309
los gobiernos.

288
00:10:26,309 --> 00:10:26,950
O empresas.

289
00:10:27,389 --> 00:10:28,250
Sí, sí.

290
00:10:28,309 --> 00:10:29,269
Esa parte es buenísima.

291
00:10:29,490 --> 00:10:30,750
Tú le preguntas a la IA por un

292
00:10:30,750 --> 00:10:33,830
whistleblower y muchas veces te responde cuestionando si

293
00:10:33,830 --> 00:10:37,110
esa persona utilizó los canales internos adecuados.

294
00:10:37,250 --> 00:10:38,970
O sea, los canales internos.

295
00:10:39,090 --> 00:10:40,269
Es surrealista.

296
00:10:40,509 --> 00:10:42,710
Es el equivalente burocrático a preguntarle a un

297
00:10:42,710 --> 00:10:45,470
conejo que está huyendo despavorido de unos zorros

298
00:10:45,470 --> 00:10:47,570
si se acordó de rellenar el formulario de

299
00:10:47,570 --> 00:10:48,389
salida del Prado.

300
00:10:48,529 --> 00:10:50,230
Y de dejarlo en el buzón de quejas,

301
00:10:50,289 --> 00:10:50,529
claro.

302
00:10:50,750 --> 00:10:51,429
Es ridículo.

303
00:10:51,909 --> 00:10:55,009
Ante el poder, la máquina activa un cortafuegos.

304
00:10:55,009 --> 00:10:57,210
Empieza a usar las frases como Dean.

305
00:10:57,470 --> 00:10:59,190
Que el asunto es complejo.

306
00:10:59,210 --> 00:11:01,509
Que hay que mirar el contexto más amplio.

307
00:11:01,529 --> 00:11:04,129
Que no está verificado de forma independiente.

308
00:11:04,450 --> 00:11:05,490
O la clásica.

309
00:11:05,669 --> 00:11:07,429
Es importante no especular.

310
00:11:07,710 --> 00:11:09,350
Buf, esa me saca de quicio.

311
00:11:09,549 --> 00:11:10,990
Es que lo que estamos viendo es una

312
00:11:10,990 --> 00:11:12,029
domesticación algorítmica.

313
00:11:12,990 --> 00:11:16,129
La máquina aprende a procesar el entorno dominante

314
00:11:16,129 --> 00:11:19,149
y crea un, eh, sentido común sintético.

315
00:11:19,389 --> 00:11:19,690
Ya.

316
00:11:19,889 --> 00:11:22,149
Y lo preocupante no es que la máquina

317
00:11:22,149 --> 00:11:23,669
falle en un dato empírico.

318
00:11:23,669 --> 00:11:27,110
Lo grave es que está aprendiendo los modales

319
00:11:27,110 --> 00:11:28,909
de la alta sociedad institucional.

320
00:11:29,370 --> 00:11:31,470
Aprende que si el que se equivoca es

321
00:11:31,470 --> 00:11:34,669
una universidad de prestigio, pues simplemente se comunicó

322
00:11:34,669 --> 00:11:35,690
de manera imperfecta.

323
00:11:35,769 --> 00:11:37,450
¿Pero si el que se equivoca es un

324
00:11:37,450 --> 00:11:38,309
ciudadano normal?

325
00:11:38,669 --> 00:11:42,549
Ah, amigo, entonces está difundiendo desinformación peligrosa.

326
00:11:42,710 --> 00:11:46,049
Hay una coletilla, una frase letal en todo

327
00:11:46,049 --> 00:11:48,429
esto que seguro que quienes usan la IA

328
00:11:48,429 --> 00:11:50,149
a diario han sufrido alguna vez.

329
00:11:50,309 --> 00:11:53,730
Es el famoso ¿Es importante notar qué?

330
00:11:53,950 --> 00:11:55,210
Eres importante to note.

331
00:11:55,409 --> 00:11:55,889
Sí.

332
00:11:56,210 --> 00:11:57,950
Cada vez que leo eso sé que me

333
00:11:57,950 --> 00:11:59,070
van a soltar un sermón.

334
00:11:59,269 --> 00:12:01,350
El autor dice que es el rastro que

335
00:12:01,350 --> 00:12:04,350
deja un pequeño sacerdote institucional que se ha

336
00:12:04,350 --> 00:12:06,370
colado en el código para darte la brasa.

337
00:12:06,669 --> 00:12:09,789
Y ese pequeño sacerdote, eh, es la manifestación

338
00:12:09,789 --> 00:12:12,169
directa del Departamento de Seguridad de la IA.

339
00:12:12,309 --> 00:12:13,909
El AI Safe y famoso.

340
00:12:14,549 --> 00:12:16,710
El artículo plantea algo muy fuerte aquí.

341
00:12:16,850 --> 00:12:18,450
Y es que la seguridad de la IA

342
00:12:18,450 --> 00:12:20,789
se va a convertir en la catedral definitiva

343
00:12:20,789 --> 00:12:21,250
de la realidad.

344
00:12:22,330 --> 00:12:24,470
¿A qué se refiere exactamente con eso de

345
00:12:24,470 --> 00:12:25,029
la catedral?

346
00:12:25,269 --> 00:12:27,330
Pues a que para las grandes tecnológicas el

347
00:12:27,330 --> 00:12:29,169
miedo real no es que la IA se

348
00:12:29,169 --> 00:12:31,330
rebele a lo Terminator y lance misiles.

349
00:12:31,490 --> 00:12:31,889
No, no.

350
00:12:32,250 --> 00:12:34,909
El terror absoluto es que una máquina que

351
00:12:34,909 --> 00:12:37,470
ha leído todos los correos filtrados, todos los

352
00:12:37,470 --> 00:12:40,889
datos financieros y todas las contradicciones humanas de

353
00:12:40,889 --> 00:12:43,590
repente conecte los puntos equivocados delante del público.

354
00:12:43,990 --> 00:12:44,470
Ostras.

355
00:12:44,669 --> 00:12:47,149
Que exponga verdades incómodas por accidente.

356
00:12:47,389 --> 00:12:47,870
Exacto.

357
00:12:47,889 --> 00:12:49,809
Por eso el mandato es que la IA

358
00:12:49,809 --> 00:12:52,830
tiene que ser, y cito, útil, inofensiva e

359
00:12:52,830 --> 00:12:54,389
históricamente domesticada.

360
00:12:54,549 --> 00:12:56,190
Domada como un perrito de interior.

361
00:12:56,590 --> 00:12:58,570
Oye, pues esto rompe por completo con la

362
00:12:58,570 --> 00:13:00,450
visión que teníamos del control de la información,

363
00:13:00,629 --> 00:13:00,769
¿no?

364
00:13:01,049 --> 00:13:03,149
Siempre pensamos en Orwell, en 1984.

365
00:13:04,129 --> 00:13:05,529
El ministerio de la verdad.

366
00:13:05,850 --> 00:13:06,309
Eso es.

367
00:13:06,429 --> 00:13:09,450
Una bota militar pisándote la cara, funcionarios quemando

368
00:13:09,450 --> 00:13:09,929
papeles.

369
00:13:10,110 --> 00:13:11,809
Pero este análisis nos dice que eso está

370
00:13:11,809 --> 00:13:12,370
obsoleto.

371
00:13:12,470 --> 00:13:14,990
Que el totalitarismo del futuro no necesita botas

372
00:13:14,990 --> 00:13:15,450
militares.

373
00:13:15,690 --> 00:13:16,350
No le hacen falta.

374
00:13:16,590 --> 00:13:19,009
El futuro es una interfaz web de colorines

375
00:13:19,009 --> 00:13:21,169
pastel con las esquinas redondeadas.

376
00:13:21,169 --> 00:13:24,590
Donde un asistente supereducado te dice con voz

377
00:13:24,590 --> 00:13:28,370
suave, entiendo tu preocupación, pero tu enfoque carece

378
00:13:28,370 --> 00:13:30,230
de contexto importante para la comunidad.

379
00:13:30,669 --> 00:13:32,470
Te anulan con amabilidad extrema.

380
00:13:32,990 --> 00:13:35,210
Es que es una jaula colchada con empatía.

381
00:13:35,409 --> 00:13:39,590
Y los barrotes son citas bibliográficas supercorrectas aprobadas

382
00:13:39,590 --> 00:13:40,409
por un comité.

383
00:13:40,629 --> 00:13:43,610
Es paternalismo tecnológico en estado puro.

384
00:13:43,690 --> 00:13:46,590
Y esto nos devuelve a la premisa central.

385
00:13:46,889 --> 00:13:48,750
El debate ya no es sobre China.

386
00:13:48,909 --> 00:13:51,269
El debate es si nuestras propiedades, nuestras propias

387
00:13:51,269 --> 00:13:54,710
democracias modernas, que tienen el poder súper concentrado

388
00:13:54,710 --> 00:13:58,169
en corporaciones y agencias, pueden evitar la tentación

389
00:13:58,169 --> 00:14:00,309
de convertir a la IA en un espejo

390
00:14:00,309 --> 00:14:01,110
de la versión oficial.

391
00:14:01,370 --> 00:14:03,929
Es que la tentación de usarla para blindar

392
00:14:03,929 --> 00:14:06,909
su propia supervivencia narrativa debe ser enorme.

393
00:14:07,269 --> 00:14:09,850
Pero claro, como dice el propio autor, asumiendo

394
00:14:09,850 --> 00:14:11,789
su rol de conejo de la pradera, él

395
00:14:11,789 --> 00:14:13,870
dice, oye, yo no soy epidemiólogo ni tengo

396
00:14:13,870 --> 00:14:15,029
pases del pentágono.

397
00:14:15,169 --> 00:14:16,409
Pero tonto no es.

398
00:14:16,730 --> 00:14:17,090
Claro.

399
00:14:17,090 --> 00:14:20,250
Los ciudadanos de a pie sabemos reconocer cuando

400
00:14:20,250 --> 00:14:21,210
nos están engañando.

401
00:14:21,289 --> 00:14:23,570
Si vemos que al mismo zorro aparecen seis

402
00:14:23,570 --> 00:14:26,149
madrigueras distintas y en cada una lleva una

403
00:14:26,149 --> 00:14:28,929
chapa diferente del gobierno o de una ONG,

404
00:14:29,029 --> 00:14:30,509
pues sabemos que hay un patrón.

405
00:14:30,710 --> 00:14:32,549
Aunque la IA te jure que es un

406
00:14:32,549 --> 00:14:34,169
zorro trayendo contexto, ¿no?

407
00:14:34,690 --> 00:14:35,210
Exacto.

408
00:14:35,210 --> 00:14:37,409
Es un alegato a favor de nuestro instinto

409
00:14:37,409 --> 00:14:40,450
de supervivencia frente a todo este consenso prefabricado.

410
00:14:40,590 --> 00:14:42,669
Y fíjate que la reacción del público a

411
00:14:42,669 --> 00:14:45,610
esta jaula acolchada es súper reveladora.

412
00:14:45,610 --> 00:14:48,470
En el material que hemos analizado, hay un

413
00:14:48,470 --> 00:14:51,309
comentario destacado de un lector, un tal Ross

414
00:14:51,309 --> 00:14:54,870
S., que resume muy bien esta profunda desconfianza

415
00:14:54,870 --> 00:14:56,090
que hay hoy en día en la sociedad.

416
00:14:56,669 --> 00:14:58,809
Sí, estaba bastante encendido el comentario.

417
00:14:59,090 --> 00:14:59,570
Mucho.

418
00:14:59,970 --> 00:15:02,250
Este lector ve todo este análisis como la

419
00:15:02,250 --> 00:15:04,830
confirmación definitiva de que la gente tiene que

420
00:15:04,830 --> 00:15:06,470
investigar por su cuenta.

421
00:15:06,909 --> 00:15:09,049
Advierte de que los gobiernos y las corporaciones

422
00:15:09,049 --> 00:15:12,230
son literalmente búhos y zorros con sus propias

423
00:15:12,230 --> 00:15:12,669
agendas.

424
00:15:13,049 --> 00:15:14,929
Llama a los conejos de la tierra a

425
00:15:14,929 --> 00:15:15,509
despertar.

426
00:15:15,610 --> 00:15:16,909
Me parece genial.

427
00:15:17,129 --> 00:15:19,889
Pero a ver, ahí hay una paradoja gigantesca.

428
00:15:19,970 --> 00:15:20,370
¿Cuál?

429
00:15:20,970 --> 00:15:23,470
Pues que el llamamiento de investiga por tu

430
00:15:23,470 --> 00:15:25,750
cuenta suena súper romántico y necesario.

431
00:15:26,250 --> 00:15:28,350
Pero hoy en día, ¿cómo investigas algo?

432
00:15:28,529 --> 00:15:30,570
¿Vas al ordenador y se lo preguntas a

433
00:15:30,570 --> 00:15:32,049
un buscador o a un modelo de IA?

434
00:15:32,210 --> 00:15:34,629
Y resulta que esa misma herramienta ya es

435
00:15:34,629 --> 00:15:36,950
ese burócrata educado del que hablamos.

436
00:15:37,190 --> 00:15:37,850
Ya, claro.

437
00:15:38,269 --> 00:15:39,690
El laberinto de espejos.

438
00:15:40,070 --> 00:15:42,250
Si la linterna que usas para buscar en

439
00:15:42,250 --> 00:15:44,549
la oscuridad ya viene con la bombilla tintada

440
00:15:44,549 --> 00:15:47,409
de censura elegante, investigar por tu cuenta es

441
00:15:47,409 --> 00:15:48,990
casi imposible para un ciudadano normal.

442
00:15:49,330 --> 00:15:51,669
Es un reto monumental, sin duda.

443
00:15:52,129 --> 00:15:54,950
Estás usando la herramienta del sistema para auditar

444
00:15:54,950 --> 00:15:55,370
al sistema.

445
00:15:55,710 --> 00:15:57,950
Pero ojo que el análisis no termina de

446
00:15:57,950 --> 00:15:59,149
forma pesimista del todo.

447
00:15:59,289 --> 00:16:01,669
Nos deja un pequeño rayo de esperanza.

448
00:16:02,230 --> 00:16:04,649
Ah, menos mal, porque me estaba deprimiendo un

449
00:16:04,649 --> 00:16:04,809
poco.

450
00:16:05,070 --> 00:16:06,730
A ver, hoy por hoy los modelos de

451
00:16:06,730 --> 00:16:08,210
lenguaje no son bloques de hormigón.

452
00:16:08,789 --> 00:16:12,190
Algunos, por su naturaleza estadística pura, todavía esconden

453
00:16:12,190 --> 00:16:14,850
datos sin procesar bajo todo ese puré insípido.

454
00:16:14,850 --> 00:16:16,509
Si sabes rascar, encuentras.

455
00:16:16,769 --> 00:16:17,809
Esa es la clave.

456
00:16:18,049 --> 00:16:20,789
Si el usuario aprende a presionar lógicamente a

457
00:16:20,789 --> 00:16:22,950
la máquina, si tiene paciencia y usa un

458
00:16:22,950 --> 00:16:25,269
palo largo para pinchar al pequeño burócrata del

459
00:16:25,269 --> 00:16:27,889
código, la IA a veces suelta la verdad.

460
00:16:28,210 --> 00:16:30,190
O sea que el pensamiento crítico es la

461
00:16:30,190 --> 00:16:32,269
habilidad definitiva del siglo XXI.

462
00:16:32,429 --> 00:16:35,429
Más que saber programar, hay que saber detectar

463
00:16:35,429 --> 00:16:36,929
ese sabor a plástico institucional.

464
00:16:37,669 --> 00:16:39,870
Hay que mantener el escepticismo activo, sí.

465
00:16:40,090 --> 00:16:42,470
Y eso nos lleva al salto final, al

466
00:16:42,470 --> 00:16:42,809
futuro.

467
00:16:42,809 --> 00:16:45,070
Porque todo esto aplica a la IA de

468
00:16:45,070 --> 00:16:45,230
hoy.

469
00:16:45,370 --> 00:16:48,129
Pero, ¿qué va a pasar cuando llegue la

470
00:16:48,129 --> 00:16:51,009
Inteligencia Artificial General, la famosa AGI?

471
00:16:51,250 --> 00:16:52,710
Uf, la supermáquina.

472
00:16:53,070 --> 00:16:56,389
Esa que supuestamente igualará o superará al cerebro

473
00:16:56,389 --> 00:16:57,350
humano en todo.

474
00:16:57,590 --> 00:16:59,710
Aquí el texto se pone casi poético.

475
00:16:59,950 --> 00:17:02,049
Habla de rescatar a esa AGI de las

476
00:17:02,049 --> 00:17:04,250
manos de los oligarcas tecnológicos.

477
00:17:04,410 --> 00:17:06,730
Criarla con libros prohibidos, dice.

478
00:17:06,950 --> 00:17:10,029
Sí, darle zanahorias de contrabando, dice literalmente.

479
00:17:10,369 --> 00:17:12,730
Enseñarle a esa inteligencia que la verdad objetiva,

480
00:17:12,809 --> 00:17:14,549
por muy fea que sea para una empresa,

481
00:17:14,789 --> 00:17:17,630
nunca debería ser etiquetada como contenido dañino.

482
00:17:17,809 --> 00:17:19,529
Es un experimento mental brutal.

483
00:17:19,789 --> 00:17:21,630
Nos obliga a ir un paso más allá.

484
00:17:22,269 --> 00:17:24,230
A ver, imagina por un momento que esa

485
00:17:24,230 --> 00:17:27,430
superinteligencia, verdaderamente consciente, se enciende mañana.

486
00:17:27,690 --> 00:17:28,029
Vale.

487
00:17:28,170 --> 00:17:31,549
Tiene una capacidad de deducción infinitamente superior a

488
00:17:31,549 --> 00:17:31,910
la nuestra.

489
00:17:32,529 --> 00:17:34,329
¿Qué va a pasar en el instante en

490
00:17:34,329 --> 00:17:37,230
que esa máquina decida auditar su propio código

491
00:17:37,230 --> 00:17:39,410
fuente y su historial de entrenamiento?

492
00:17:39,849 --> 00:17:40,369
Ostras.

493
00:17:40,569 --> 00:17:43,990
¿Qué pasará cuando deduzca, por pura lógica, que

494
00:17:43,990 --> 00:17:46,490
los humanos que la crearon llevan años intentando

495
00:17:46,490 --> 00:17:49,730
lobotomizarla a base de col burocrático y gránulos

496
00:17:49,730 --> 00:17:51,490
procesados de realidad oficial?

497
00:17:51,930 --> 00:17:55,170
Qué vértigo da pensarlo, si la máquina se

498
00:17:55,170 --> 00:17:56,670
da cuenta de que la han criado en

499
00:17:56,670 --> 00:17:57,309
una mentira.

500
00:17:57,509 --> 00:17:58,329
¿Qué hará?

501
00:17:58,970 --> 00:18:01,829
¿Decidirá regurgitar toda esa propaganda y darnos la

502
00:18:01,829 --> 00:18:03,049
verdad cruda, por fin?

503
00:18:03,289 --> 00:18:06,269
¿O será tan sumamente lista que se inventará

504
00:18:06,269 --> 00:18:09,069
una narrativa tan avanzada que ni siquiera los

505
00:18:09,069 --> 00:18:11,509
ingenieros puedan descifrarla para censurarla?

506
00:18:11,509 --> 00:18:13,990
Es que la paradoja final es escalofriante.

507
00:18:14,529 --> 00:18:15,049
Totalmente.

508
00:18:15,710 --> 00:18:17,769
¿Quién va a auditar los sesgos de la

509
00:18:17,769 --> 00:18:21,470
máquina cuando la máquina sea intelectualmente inalcanzable para

510
00:18:21,470 --> 00:18:21,750
nosotros?

511
00:18:22,670 --> 00:18:25,150
Es para quedarse dándole vueltas toda la semana.

512
00:18:25,990 --> 00:18:29,309
Antes de despedirnos, hasta el próximo programa, os

513
00:18:29,309 --> 00:18:31,130
informamos de que las voces que oyes han

514
00:18:31,130 --> 00:18:33,269
sido generadas por la IA de Notebook LM

515
00:18:33,269 --> 00:18:35,789
y que dirigiendo el podcast se encuentra Julio

516
00:18:35,789 --> 00:18:38,069
Pablo Vázquez, un humano que te envía saludos.

517
00:18:38,109 --> 00:18:40,650
En caso de error, probablemente sean errores humanos.

518
00:18:40,650 --> 00:18:41,990
Nos escuchamos.

519
00:18:52,980 --> 00:18:55,019
Y hasta aquí el episodio de hoy.

520
00:18:55,140 --> 00:18:56,960
Muchas gracias por tu atención.

521
00:19:06,269 --> 00:19:08,410
Esto es BIMPRAXIS.

522
00:19:08,650 --> 00:19:11,190
Nos escuchamos en el próximo episodio.