T1E117 La ilusión de control

En el episodio de hoy, hablaremos de: cómo la inteligencia artificial puede crearnos una falsa sensación de control. A medida que dependemos más de sistemas complejos que no comprendemos por completo, el verdadero riesgo no es perder el control de forma abrupta, sino ceder nuestra autonomía de manera sutil al confiar en sus recomendaciones y decisiones sin cuestionarlas.

Usando la IA para hacerte más humano.

Transcript

Copy Transcript Copied

SPEAKER_01 0:00

Bueno, ayer casi seguro que dejaste que una máquina decidiera qué ruta tomar para ir al trabajo. O bueno, qué noticias te aparecían en la pantalla del

SPEAKER_00 0:08

móvil. Sí, o qué serie ver al final del día.

SPEAKER_01 0:11

Claro, totalmente. Y lo hacemos de forma súper automática, sin pensarlo dos veces. Nos resulta comodísimo, la verdad. Pero a ver, yo creo que hay una inquietud latente ahí. Sí. Esa sensación de que, vale, la inteligencia artificial en nuestro ordenador nos facilita muchísimo la vida, pero a la vez nos hace preguntarnos quién lleva realmente el volante.

SPEAKER_00 0:31

Es que es una sensación completamente justificada, ¿eh? Porque hemos delegado tantas micro decisiones cotidianas que la herramienta, de una forma muy sutil, ha empezado a moldear nuestro comportamiento.

SPEAKER_01 0:44

Ya.

SPEAKER_00 0:45

Y nuestras elecciones diarias, y ni nos damos cuenta.

SPEAKER_01 0:48

Pues precisamente por eso, al sumergirnos en nuestra inmersión de hoy, vamos a desgranar toda esta, digamos, ilusión de control que tenemos sobre la inteligencia artificial.

SPEAKER_00 0:57

Eso es.

SPEAKER_01 0:58

Y vamos a usar de base una reflexión reflexiones muy interesantes. El objetivo de hoy, bueno, no es asustarnos ni mucho menos rechazar la tecnología, sino entender cómo convivir con ella manteniendo nuestra esencia, ¿sabes? Nuestra capacidad crítica.

SPEAKER_00 1:11

Claro, porque siempre nos tranquilizamos pensando, bueno, al final del día los humanos somos los que escribimos el código. Nosotros le ponemos los límites a la máquina.

SPEAKER_01 1:20

Claro, es lo que nos decimos para dormir tranquilos,

SPEAKER_00 1:24

¿no? Exacto. Pero el problema, y aquí viene lo fuerte, es que esa narrativa de nosotros se escribimos el código, ya no es del todo precisa.

SPEAKER_01 1:33

A ver, explícame eso, porque yo pensaba que sí.

SPEAKER_00 1:36

Pues con la programación tradicional de toda la vida, un humano dictaba unas reglas súper estrictas. Tú decías, si ocurre A, haces B.

SPEAKER_01 1:44

Vale.

SPEAKER_00 1:45

Y el sistema era totalmente transparente y predecible.

SPEAKER_01 1:48

Sí, lo podías rastrear.

SPEAKER_00 1:49

Eso es. Pero hoy en día, con la inteligencia artificial y específicamente con el tema del aprendizaje automático, el paradigma cambia por completo.

SPEAKER_01 1:58

Ya, claro.

SPEAKER_00 1:59

Le damos a la máquina millones y millones de datos y ella misma crea sus propias reglas para identificar patrones. O sea, genera una estructura interna tan tan compleja que ni siquiera los propios creadores pueden rastrear por qué tomó una decisión específica.

SPEAKER_01 2:13

Madre mía. O sea, se convierte en una caja negra total.

SPEAKER_00 2:17

Totalmente, una auténtica caja negra.

SPEAKER_01 2:18

Es que me estoy imaginando, a ver, es como ir en uno de estos nuevos coches autónomos.

SPEAKER_00 2:25

Sí, un buen ejemplo.

SPEAKER_01 2:26

Vas sentado, tienes un volante de emergencia enfrente que... bueno, te da muchísima paz mental porque sientes que si algo sale mal simplemente lo agarras y ya está.

SPEAKER_00 2:36

Ajá, te da seguridad.

SPEAKER_01 2:37

Claro, pero en la práctica no tienes ni la menor idea de cómo el algoritmo está ponderando, yo que sé, millones de datos de los sensores para decidir frenar de golpe en cuestión de milisegundos. ¿Realmente podemos controlar algo que no entendemos?

SPEAKER_00 2:52

Pues, a ver, esa analogía del volante de emergencia es perfecta porque ilustra lo que en psicología llamamos botón placebo.

SPEAKER_01 3:00

Ah, botones placebo.

SPEAKER_00 3:01

Sí. Piensa en los botones de los pasos de peatones o el botón este de cerrar la puerta en los ascensores. Que

SPEAKER_01 3:07

yo le doy 40 veces y no hace nada.

SPEAKER_00 3:09

Exacto. Es que muchos de ellos no están conectados a nada real. Su única función es, bueno, darnos la ilusión de que tenemos el control simplemente para calmar nuestra ansiedad.

SPEAKER_01 3:20

O sea, para sentir que hacemos

SPEAKER_00 3:21

algo. Eso es. Y con la inteligencia artificial hacemos exactamente lo mismo. Creemos que tener un protocolo de supervisión humana o la posibilidad teórica de apagar el sistema significa que lo dominamos.

SPEAKER_01 3:34

Ya veo por dónde

SPEAKER_00 3:35

vas. Y, como explica Ricardo, en su experiencia ayudando a profesionales y empresas, establecer límites superficiales a un sistema no previene los comportamientos inesperados cuando esa tecnología empieza a interactuar con el mundo real. Y claro, empieza a tomar decisiones autónomas.

SPEAKER_01 3:52

Bueno, pero a ver, te voy a hacer de abogada del diablo aquí un momento.

SPEAKER_00 3:56

Vale, dispara.

SPEAKER_01 3:57

Me cuesta un poco comprar esta visión tan, digamos, dramática porque a lo largo de la historia siempre hemos creado dependencias tecnológicas súper profundas, ¿no? Sí. Quiero decir, nadie entiende realmente cómo funciona la red eléctrica o los protocolos estos de enrutamiento de Internet a nivel técnico. Ya, ya. Y sin embargo, construimos toda nuestra sociedad moderna sobre ellos y no tenemos una crisis existencial diaria. ¿Por qué la IA rompe ese molde?

SPEAKER_00 4:26

Es una buena pregunta, pero hay una diferencia fundamental. La red eléctrica no decide por ti qué luz encender basándose en tu estado de ánimo.

SPEAKER_01 4:33

Vale, punto a favor.

SPEAKER_00 4:35

Ni Internet decide qué correo electrónico debes responder primero para que seas más productiva. Esa es la frontera que hemos cruzado, ¿sabes? La IA toma decisiones activas y además predictivas.

SPEAKER_01 4:46

Claro. Es que no es una herramienta pasiva que tú usas cuando quieres, es ella la que se anticipa.

SPEAKER_00 4:52

Exactamente. Entonces, el peligro real no es un apocalipsis de ciencia ficción donde las máquinas se rebelan violentamente por las calles.

SPEAKER_01 5:00

Menos mal, un peso que me quitas de encima.

SPEAKER_00 5:03

El peligro es una pérdida de autonomía casi invisible. Renunciamos al volante simplemente porque, bueno, ir en el asiento del copilota requiere muchísimo menos esfuerzo.

SPEAKER_01 5:12

Claro, es una comodidad que está diseñada al milímetro. Si te fijas en cómo funcionan los algoritmos de recomendación en la pestaña de Para ti de TikTok o el autorreproductor de Netflix.

SPEAKER_00 5:23

Uf, sí.

SPEAKER_01 5:24

Están optimizados matemáticamente para retener tu atención. O sea, no buscan tu bienestar emocional ni que aprendas nada.

SPEAKER_00 5:31

Cero. Buscan que te quedes ahí.

SPEAKER_01 5:33

Eso es. Crean un entorno sin nada de fricción donde seguir consumiendo requiere esfuerzo cero. Mientras que detenerse, el simple hecho de apagarlo requiere activar de verdad tu función ejecutiva del cerebro.

SPEAKER_00 5:47

Y ahí está la trampa. El momento crítico en el que perdemos el control ocurre justo cuando dejamos de cuestionarnos por qué estamos siguiendo esa inercia.

SPEAKER_01 5:55

Bueno, la recomendación suele ser buena. Nos ahorra la tremenda carga cognitiva de tener que elegir nosotros todo el rato.

SPEAKER_00 6:03

Eso es, la comodidad nos gana. Pero Ricardo ha acompañado a líderes que buscan integrarla ya sin perder el enfoque humano y siempre hace hincapié en esto. El verdadero control no es una cuestión técnica, es ético y filosófico.

SPEAKER_01 6:18

¡Qué interesante!

SPEAKER_00 6:19

Implica mantener la fricción intencionalmente en nuestras

SPEAKER_01 6:23

vidas. O sea, ponernos baches nosotros mismos.

SPEAKER_00 6:25

Exacto. Preguntarnos cuáles son los motivos detrás de una sugerencia al y sobre todo tener la fuerza de voluntad para rechazarla a veces.

SPEAKER_01 6:33

Pues creo que esa es la idea central con la que debemos quedarnos hoy. La verdadera frontera de nuestro futuro no va a estar entre el ser humano y la máquina. No. Va a estar entre quienes comprenden los mecanismos de la tecnología que usan y quienes confían ciegamente en ella por pura inercia y comodidad.

SPEAKER_00 6:50

Sí. Mantener esa capacidad de cuestionar es, en última instancia, lo único que nos garantiza que seguimos siendo los autores de nuestras propias decisiones.

SPEAKER_01 6:59

Absolutamente. Así que, la próxima vez que un algoritmo te ofrezca la ruta más rápida, la compra ideal o la lectura perfecta, haz el ejercicio de detenerte un segundito. Piensa si la elección es genuinamente tuya o si el botón placebo de la comodidad ya decidió por ti.

SPEAKER_00 7:15

Una reflexión muy necesaria.

SPEAKER_01 7:16

Te esperamos en nuestro próximo episodio del podcast. IA para humanos. donde la inteligencia artificial se entiende, se aplica y se humaniza. No te pierdas ningún episodio.