IA para Humanos

T1E105 El algoritmo no decide… alguien decidió por él

Season 1 Episode 105

Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.

0:00 | 4:41

En el episodio de hoy, hablaremos de: cómo detrás de cada decisión de la inteligencia artificial existe una elección humana previa. El texto explica que los algoritmos carecen de voluntad, moral o intenciones propias, siendo únicamente un reflejo de las variables y objetivos que las personas definen, por lo que la responsabilidad final de sus actos siempre recae en los seres humanos.

Usando la IA para hacerte más humano.

SPEAKER_01

Imaginemos esto por un momento. Se envía una solicitud para un crédito hipotecario. La típica casa soñada por una familia.

SPEAKER_00

Un momento de muchísima tensión.

SPEAKER_01

Totalmente. Y un par de segundos después, pues la pantalla muestra un mensaje de rechazado.

SPEAKER_00

Uf, ese vuelco en el estómago.

SPEAKER_01

Exacto. Inmediatamente surge esa sensación fría, la frustración de pensar que una máquina, o sea, una simple calculadora sin empatía, acaba de juzgar y decidir el futuro de alguien.

SPEAKER_00

Es una inquietud súper superhumana.

SPEAKER_01

Y muy, muy común hoy en día.

SPEAKER_00

Pues justo ese es el punto de partida de nuestro análisis a fondo de hoy. Vamos a desgranar el texto, el algoritmo no decide, alguien decidió por él. Nuestra misión aquí es perderle el miedo al cambio tecnológico descubriendo que la inteligencia artificial es en realidad puramente humana.

SPEAKER_01

Es que, fíjate, el lenguaje que usamos todos los días alimenta muchísimo ese miedo. Ya, le echamos la culpa a la máquina directamente.

SPEAKER_00

Claro. Decimos cosas como, el sistema lo rechazó o el algoritmo tomó la decisión. Al hablar así, casi sin darnos cuenta, le estamos otorgando voluntad a la tecnología.

SPEAKER_01

Como si tuviera vida propia, ¿no?

SPEAKER_00

Exacto. Se crea esta ilusión de que el código es un ente independiente que se despierta por la mañana con metas propias. Pero para entender esto bien, tenemos que mirar detrás de esa cortina.

SPEAKER_01

A ver, para aterrizar este concepto sin ponernos demasiado técnicos, a mí me gusta pensar en un robot de cocina de estos súper avanzados.

SPEAKER_00

Ostras, buena analogía.

SPEAKER_01

Sí. Porque tú metes los ingredientes y la máquina pica, bate y cocina a una velocidad y precisión increíbles. Pero, o sea, la herramienta no elige la receta. Tampoco compra los ingredientes en el supermercado.

SPEAKER_00

Simplemente procesa.

SPEAKER_01

Eso es. Procesa a la perfección lo que un ser humano decidió poner dentro. El algoritmo hace exactamente lo mismo con los datos, ¿verdad?

SPEAKER_00

Es una comparación perfecta. Un sistema de inteligencia artificial, por muy complejo que nos parezca, opera buscando un objetivo matemático. No tiene intenciones, ni moral, ni metas.

SPEAKER_01

Solo busca cumplir su receta.

SPEAKER_00

Claro. Como explica Ricardo en su experiencia ayudando a profesionales y empresas, siempre hay un humano que define el problema. Alguien selecciona los datos y determina qué es un resultado exitoso mucho antes de que el sistema empiece a funcionar.

SPEAKER_01

Ya, pero aquí te hago la buragada del diablo,

SPEAKER_00

¿eh? A ver, dispara.

SPEAKER_01

¿Qué pasa con los sistemas modernos? Estos que tragan volúmenes brutales de información y aprenden solos. Si el algoritmo genera sus propias reglas internas no se vuelve una herramienta autónoma que escapa de sus creadores?

SPEAKER_00

Es una duda súper válida, pero solemos confundir la complejidad del proceso con autonomía real.

SPEAKER_01

O sea, que nos engaña la apariencia.

SPEAKER_00

Totalmente. Es verdad que el sistema crea caminos súper intrincados, pero siempre dentro de los límites que el humano le marcó. Si una IA descarta currículums, no es porque tenga un criterio propio sobre el talento.

SPEAKER_01

Sino por los datos.

SPEAKER_00

Exacto. Alguien le dio un historial de contrataciones pasadas, y el sistema solo imita esos datos. Es pura estadística, ¿eh? No una elección consciente.

SPEAKER_01

Entiendo. O sea que el trabajo pesado lo hace la máquina, pero el molde original siempre es humano.

SPEAKER_00

Así es.

SPEAKER_01

Y claro, esto es súper conveniente cuando algo sale mal. Es facilísimo señalar la pantalla y decir, oye, que la computadora falló.

SPEAKER_00

Ese es el fenómeno psicológico clave aquí. Tenemos un sesgo de autoridad hacia el automatizado. Asumimos que la tecnología es más racional y objetiva.

SPEAKER_01

Le damos una autoridad falsa

SPEAKER_00

Exacto. Pasó igual con la imprenta hace siglos. Los libros masificaron el conocimiento, pero las decisiones de qué se imprimía seguían siendo humanas. La máquina solo dio velocidad.

SPEAKER_01

¡Ostras, qué buen ejemplo! La tecnología solo amplifica.

SPEAKER_00

Y por eso no hay que perder el norte. Ricardo ha acompañado a líderes que buscan integrar la IA sin perder el enfoque humano, subrayando el peligro ético de usar la IA para esconder a los verdaderos responsables.

SPEAKER_01

Claro, diluir la responsabilidad. Lo cual nos lleva a la gran conclusión. conclusión de hoy. El error más grande no es confiar en la inteligencia artificial, sino olvidar la decisión humana que la originó.

SPEAKER_00

Totalmente. Es un espejo de nosotros mismos.

SPEAKER_01

Un espejo que refleja nuestras reglas. Y dejo esta pregunta en el aire. Si cada algoritmo refleja decisiones humanas pasadas, ¿qué valores invisibles y ajenos estamos aceptando pasivamente al usar estas herramientas cada

SPEAKER_00

día? Una reflexión potentísima para llevarnos a

SPEAKER_01

casa. Sin duda. Te esperamos en nuestro próximo episodio del podcast IA para humanos, donde la inteligencia artificial se entiende, se aplica y se humaniza. No te pierdas ningún episodio.