T1E118 La ilusión de objetividad algorítmica

En el episodio de hoy, hablaremos de: cómo la percibida objetividad de la inteligencia artificial y los algoritmos es en realidad una ilusión. Aunque consideramos que las máquinas toman decisiones imparciales por carecer de emociones, sus reglas, datos y objetivos son diseñados por seres humanos con criterios subjetivos. En lugar de eliminar nuestros sesgos y valores, la tecnología los codifica y los vuelve operativos tras una apariencia de neutralidad. Reflexionaremos sobre la necesidad de cuestionar las decisiones automatizadas y reconocer la impronta humana detrás de cada cálculo.

Usando la IA para hacerte más humano.

Transcript

Copy Transcript Copied

SPEAKER_00 0:00

Imagina que solicitas un crédito bancario para ese proyecto de vida que tanto anhelas y la pantalla de tu solicitud simplemente arroja una palabra. Denegado.

SPEAKER_01 0:13

Es un golpe

SPEAKER_00 0:13

duro. Totalmente. Y no hay un ser humano del otro lado con quien dialogar. No hay oportunidad de explicar tu contexto. Es solo un sistema complejo que supuestamente es 100% objetivo. Hoy, en nuestro análisis profundo, vamos a desarmar un poco esa ilusión de la máquina neutral.

SPEAKER_01 0:33

Me parece el tema fascinante.

SPEAKER_00 0:34

Verdad que sí. Y bueno, tenemos sobre la mesa los apuntes y el análisis del autor Ricardo Bolaños. Y a ver, nuestra misión hoy es entender por qué dejar nuestro futuro en manos de la inteligencia artificial nos asusta, pero a la vez nos seduce tanto con esta promesa de eliminar el error humano por

SPEAKER_01 0:51

completo.

SPEAKER_00 0:57

Es que, a ver, esa seducción es muy poderosa. Y diría que es completamente natural. Cuando revisamos los textos que fundamentan nuestro análisis de hoy, pues vemos que históricamente la humanidad siempre ha buscado desarrollar métricas, métricas precisas para evitar decisiones arbitrarias.

SPEAKER_01 1:08

Claro, para ser justos.

SPEAKER_00 1:10

Eso es. Y a simple vista la lógica parece impecable, ¿no? Una línea de código no, pues, no se enfada.

SPEAKER_01 1:16

Ya.

SPEAKER_00 1:17

No amanece de mal humor ni tiene preferencias personales al momento de evaluar datos.

SPEAKER_01 1:26

Vale, pero aquí es donde entra mi gran duda al revisar todo este material. Si la Sí. Ah, ¿sí? Sí. Entre automatizar la ejecución de una decisión y creer que hemos automatizado la concepción de esa decisión.

UNKNOWN 2:06

O sea, el origen.

SPEAKER_01 2:06

Exacto. La máquina emite el dictamen final por su cuenta. Eso es cierto.

SPEAKER_00 2:10

Sí.

SPEAKER_01 2:11

Pero el proceso para llegar a esa conclusión no se construyó en el vacío. Antes de que ese sistema te negara el crédito, hubo personas reales que decidieron qué variables importaban más.

SPEAKER_00 2:22

Claro.

SPEAKER_01 2:23

Y sobre todo, cuál era la meta financiera Y

SPEAKER_00 2:28

revisando los casos de estudio que tenemos, esto conecta directamente con una observación central del autor. Porque como explica Ricardo en su experiencia ayudando a profesionales y empresas, un algoritmo puede eliminar una opinión al momento de dar el sí o el no.

SPEAKER_01 2:42

Eso es.

SPEAKER_00 2:42

Pero es impapaz de borrar las cientos de decisiones previas que, bueno, que un equipo humano tomó para construir esa misma fórmula, ¿no?

SPEAKER_01 2:50

Efectivamente. Y para comprender el mecanismo detrás de esto, pues necesitamos observar la materia de estudio. materia prima de la IA, que son los datos.

SPEAKER_00 2:58

Vale.

SPEAKER_01 2:59

Los datos no son la realidad completa.

SPEAKER_00 3:01

Ya.

SPEAKER_01 3:02

Son apenas una representación, o sea, un modelo simplificado del mundo.

SPEAKER_00 3:07

A ver, a ver, detengámonos ahí un segundo, porque esto suena a que los números sí pueden mentir.

SPEAKER_01 3:14

Pues, a su manera, sí.

SPEAKER_00 3:15

Digo, si un algoritmo de recursos humanos, por ejemplo, revisa 10,000 currículums, analiza trayectorias y detecta un patrón matemático de éxito. Sí. Es no sigue siendo, no sé, infinitamente superior al instinto que muchas veces se equivoca de un reclutador tradicional? Ah,

SPEAKER_01 3:33

claro. Imagina que tomas una fotografía de un paisaje espectacular.

SPEAKER_00 3:37

Vale.

SPEAKER_01 3:38

El encuadre que tú eliges forzosamente deja fuera muchísimos elementos de la escena.

SPEAKER_00 3:42

Ya, claro, lo que queda a los lados no sale.

SPEAKER_01 3:45

Exacto. Si al recopilar la información tú decides ignorar ciertos factores del entorno de esos candidatos, el algoritmo asumirá, operativamente, que esos factores simplemente no existen

SPEAKER_00 3:55

Es decir, o sea, si el fotógrafo, que en este caso sería el programador, solo ilumina un lado de la calle, porque es lo único que la empresa le pidió medir, la inteligencia artificial operará bajo la premisa absoluta de que el otro lado de la calle no tiene valor alguno.

SPEAKER_01 4:11

Es una excelente forma de visualizarlo. El encuadre condiciona totalmente el resultado.

SPEAKER_00 4:15

¡Qué fuerte!

SPEAKER_01 4:16

El riesgo operativo es que un sistema puede aplicar su regla interna de forma matemáticamente perfecta, producir resultados muy consistentes y, sin embargo, embargo, generar escenarios donde ciertas decisiones son sistemáticamente miopes. La alta precisión de los números nos regana pues una falsa tranquilidad. Nos hace creer que el proceso es impersonal e incuestionable, cuando en realidad refleja pura y duramente la visión de sus creadores.

SPEAKER_00 4:43

Lo cual me lleva a cuestionar la mecánica de todo esto, ¿no? A ver. Si el encuadre fotográfico determina lo que la máquina ve, ¿cómo se introducen exactamente esos valores o preferencias corporativas dentro de un software. O sea, ¿cómo transformas una simple filosofía de empresa en matemáticas puras?

SPEAKER_01 5:01

Pues funciona asignando pesos numéricos, pesos específicos a diferentes variables. Supongamos que una institución financiera crea un algoritmo para otorgar préstamos. Si el valor corporativo principal de esa empresa es la ganancia inmediata y evitar el riesgo a corto plazo, el código le dará un peso enorme al historial crediticio de los últimos 12 meses.

SPEAKER_00 5:22

Claro, y rechazando automáticamente a los más jóvenes, por

SPEAKER_01 5:25

Efectivamente. En cambio, si otra institución valora, no sé, el crecimiento económico a largo plazo de una comunidad, pues programará el sistema para darle mayor peso multiplicador al potencial de ingresos futuros o al nivel educativo de la persona que lo solicita.

SPEAKER_00 5:40

Entiendo, entiendo. Lo que antes era la preferencia de un director o una política dictada en una sala de juntas, ahora es una variable matemática que actúa a gran escala y con total inevitabilidad.

SPEAKER_01 5:53

Y esa es la transformación profunda del mundo moderno. moderno. Los algoritmos no, no reemplazan nuestros valores, simplemente los vuelven operativos a una velocidad nunca antes vista. Totalmente. Y es aquí donde la visión del autor es muy pertinente, porque Ricardo ha acompañado a líderes que buscan integrar la IA sin perder el enfoque humano, enseñándoles que el verdadero reto no está en pensar que la máquina tiene una agenda propia, sino en evitar que nosotros dejemos de reconocer nuestras propias prioridades cuando, bueno, cuando cuando aparecen disfrazadas de

SPEAKER_00 6:27

algoritmos. Pues me quedo con una reflexión muy poderosa para procesar después de este análisis.

SPEAKER_01 6:32

A ver, cuéntame.

SPEAKER_00 6:33

La objetividad absoluta en la tecnología es un espejismo. Un espejismo reconfortante, pero completamente irreal.

SPEAKER_01 6:41

Totalmente de

SPEAKER_00 6:42

acuerdo. Así que la próxima vez que te enfrentes a un proceso automatizado, ya sea en tu ámbito laboral o, bueno, en tu vida cotidiana, te invito a no mirar solamente la pantalla. Pregúntate siempre qué prioridades, qué métricas de éxito y qué valores humanos están latiendo de fondo, ahí, invisibles en el código. La tecnología no nos quita responsabilidad.

SPEAKER_01 7:04

Al contrario.

SPEAKER_00 7:05

Al contrario, exacto. Nos exige ejercerla con un nivel de conciencia mucho mayor. Te esperamos en nuestro próximo episodio del podcast IA para Humanos, donde la inteligencia artificial se entiende, se aplica y se humaniza. No te pierdas ningún episodio.