Spanish Boulevard
This Spanish podcast helps you learn new words and phrases about current events, interesting facts from history, or interesting stories. Two friends have funny conversations that are sometimes too fast for the students. Check out the transcript and leave a comment. Thank you!
Spanish Boulevard
Episode 2: Should We Be Afraid of a Parrot?
In this episode, we discuss the fear that technological advances always bring. We use the Power Mac G4 as an example, which in 1999 was considered a war weapon because it had 1 GIGAFLOP of computing power. Today, the distrust is the same towards AI, which ultimately is nothing more than a parrot repeating what has already been said.
En este episodio hablamos del miedo que pueden traer los avances tecnológicos, y ponemos como ejemplo el Power Mac G4, que en 1999 fue considerado un arma de guerra por tener 1 GIGAFLOP de potencia informática. Hoy la desconfianza es la misma hacia la IA, que al final no es más que un loro repitiendo lo ya se ha dicho.
Episode's transcript: https://www.buzzsprout.com/2275115/episodes/14447207-episode-2-should-we-be-afraid-of-a-parrot/
When the Mac was a Munition: https://newsletter.pessimistsarchive.org/p/when-the-mac-was-a-munition
Apple Commercial - PowerMac G4 Ad - Tanks: https://www.youtube.com/watch?v=l2ThMmgQdpE
Breve historia visual de la inteligencia artificial: https://www.nationalgeographic.com.es/ciencia/breve-historia-visual-inteligencia-artificial_14419
¡Atrás! El miedo a la tecnología, desde la escritura al 5G: https://www.lavanguardia.com/historiayvida/historia-antigua/20201103/790783/miedo-tecnologia-escritura-5g.html
The 15 Biggest Risks Of Artificial Intelligence: https://www.forbes.com/sites/bernardmarr/2023/06/02/the-15-biggest-risks-of-artificial-intelligence/amp/
En este episodio hablamos sobre la inteligencia artificial, sobre las regulaciones y sobre los peligros reales. Hola Teresa, entonces esta semana vamos a hablar de el miedo, los peligros reales o ficticios que estamos sintiendo en estos días por la inteligencia artificial, A ver ¿qué nos puedes decir de esto.
Speaker 2:Sí, bueno, yo me voy al primero unos años atrás para hablar de esto, porque hace un par de semanas el ordenador personal de Apple, el Mac o Macintosh, cumplió 40 años. Entonces, en referencia a los miedos, he leído un artículo al respecto que me ha llamado mucho la atención. Está publicado una web que se llama Archivo Pesimista y que habla precisamente de todos los miedos que tenemos relacionados con la tecnología que nos desde el principio de los tiempos. Y bueno, el primer Macintosh se anunció en el 83, pero el artículo se refiere a la versión que lanzaron en el 99. El Power Mac G4, que fue un ordenador que tenía un Gigaflop de potencia de cálculo Voy a hacer un inciso al Gigaflop, no es lo mismo que un Gigabyte, pero bueno, tampoco voy a entrar muy adentro pero es una unidad que mide el rendimiento de cálculo de un procesador y equivale a mil millones de operaciones de punto flotante por segundo.
Speaker 2:Que estos son cálculos matemáticos que utilizan un procesamiento científico, gráficos, simulaciones y otras tareas que requieren un alto grado de precisión numérica. O sea, no sería lo mismo que el Gigabyte, que básicamente mide la capacidad de almacenamiento de memoria, solo, es inciso, ella fina. Hasta aquí. Entonces este avance significó que el gobierno de Estados Unidos clasificara el ordenador como munición y potenciar arma de guerra porque le aplicó estrictos controles de exportación. Entonces este ordenador tenía un Gigaflop, o sea un iPhone 15 tiene más de 2000 Gigaflops, pero en ese momento se llevamos en el bolsillo 2000 potenciales armas de guerra y podemos destruir no solo el mundo o sea, imagínate, todos los planetas y lo que nos dé la gana. Entonces esta ley de administración, que era del año 79, estableció unas reglas para evitar que los ordenadores cayeran en manos de comunistas. El mayor miedo que había es que los comunistas se quedaran esos ordenadores que tenían un Gigaflop y pues destruyeran Estados Unidos gracias a ese ordenador.
Speaker 2:Entonces está muy bien, porque Apple aprovechó esto, hizo una expresión española que se llama hacer del limón limonada, cuando algo es malo para ti, pero tú lo aprovechas a tu favor. Y Apple lo que hizo es un anuncio que ya dejaré el enlace, en el que se ve el Mac en rodeado de tanques Gigaflops. Dijo que la idea se le ocurrió cuando le expusieron las restricciones. Y el anuncio está muy bien porque dice que es tema que es muy peligroso y en cambio la competencia es inofensiva. Es como un poco aprovechó eso.
Speaker 2:Las restricciones al final las quitaron y Apple la ha ido muy bien, o sea que tampoco, pero el miedo estaba Entonces. Eso me ha recordado mucho a lo que pasa ahora con la inteligencia artificial, que se le atribuyen un montón de calamidades desde que nos quitará todos el trabajo, que acabará con la humanidad bueno de todo, ¿no? Entonces hay una iniciativa de ley, incluso en Europa ya, para proteger de los riesgos de la inteligencia artificial, que todavía no está muy claro cómo se va a aplicar, pero ya se sabe que las multas pueden llegar hasta 35 millones para quien las incumplan. 35 millones de euros, todavía no se sabe por qué. O sea yo, si tuviera un.
Speaker 1:Pero no espera un momento. Cómo, cómo?
Speaker 2:Se sabe un poquito, pero no se entiende tampoco muy bien cómo lo van a aplicar. Porque, por ejemplo, quieren proteger los derechos de autor, porque claro, la inteligencia artificial se basa mucho en escritos o en pinturas de otras personas, o sea, que cogen mucha información y luego con eso hace un refrito y te saca otra cosa, te saca un dibujo o te saca. Claro va a tener que pedir permiso para poder usar sus bases de datos, que son de millones, millones de datos o sea. Complicaría muchísimo el funcionamiento de la inteligencia artificial. Yo lo veo mucho poner puertas al campo. Me recuerda como cuando la gente empezó a descargarse música sin conocimiento y películas y la solución fue Netflix o Spotify, porque era imposible que la gente no se descargara las cosas. ¿no, entonces ponerse lo más fácil es la solución, pero prohibirlo lo veo muy complicado. Por ejemplo, también quieren que cumplan criterios de transparencia y que no se categorice a las personas de formas discriminatorias.
Speaker 2:Claro, la inteligencia artificial, por ejemplo, pues está muy sesgada con los mismos sesgos que tenemos los humanos, porque si hay que dibujar una mujer secretaria, pues seguramente te la va a dibujar sexy y muy guapa y joven y delgada y cosas así, ¿no? Entonces quieren evitar, me imagino, esos sesgos o discriminaciones, pero también lo veo ¿Quién pone los límites, ¿quién decide lo que está bien y lo que está mal? Claro, va a ser muy complicado, la verdad. Entonces, bueno, la inteligencia artificial, como todo, traerá peligros reales y otros que de momento nos estamos imaginando pero que no tienen mucho sentido, que yo creo que tú habías encontrado una lista, no, de posibles peligros que nos acechan.
Speaker 1:Sí, pues he encontrado una lista. tiene pues, esos son 15 cosas que en principio podrían pasar en a consecuencia de la inteligencia artificial.
Speaker 1:si no la legislamos, vale voy a leer la lista despacito, y así pues podemos aprender vocabulario en español. Venga a ver, vamos con esto. La primera de la lista es la falta de transparencia. Vale, bueno, en principio, todo esto es porque además no lo comprendemos muy bien, ¿no, cómo funciona y de dónde saca la información y quién le está dando la información? Entonces, el desconocimiento es lo que lleva a esto Vale. La segunda de la lista es prejuicios y discriminación. Bueno, pues, se cree que esto es la inteligencia artificial puede amplificar los sergos sociales debido a los datos de entrenamiento o diseños algorítmicos sesgados. Creo que con esto se refieren sobre todo al reconocimiento facial. Creo que ha habido algunos escándalos. Ya, bueno, a ver, voy a seguir y voy a ir rapidito, que esto se nos va a hacer muy largo. Venga la tercera preocupaciones por la privacidad. Vale, pues, a ver, estas herramientas están recopilando y analizando pues, muchos datos continuamente, y datos que son personales, claro. Entonces, esto para tener un problema de privacidad, como siempre. Entonces, bueno, esto no es nuevo en internet.
Speaker 2:Claro. Pero bueno, si cumplen la legalidad, en principio no tendría que haber ningún problema. Los problemas están cuando no se cumple la legalidad, como ha hecho por ejemplo a veces Facebook, que han vendido datos o cosas de ese tipo. Pero claro es que al final es un problema que va a todo. No es de la inteligencia artificial, solo Se trata de eso de ver si cumple en la legalidad o no, porque habrá mucha gente que meter allí documentos de su empresa, cosas a lo mejor confidenciales, para que las resuma o para que les saque información, y resulta que eso a lo mejor lo puede ver. Un tercero es que sería totalmente ilegal. Pero claro, esas cosas pasan, sí que es un peligro, sí sí un peligro, pero bueno Vale.
Speaker 1:Voy a seguir La número 4, venga, dilemas éticos inculcar valores morales y éticos en los sistemas de inteligencia artificial, especialmente en contextos de toma de decisiones con consecuencias importantes. Porque bueno, claro, esto es que sí va a ser peligroso. claro a ver, podemos tener un robot que destruya el mundo entero, como todos tememos.
Speaker 2:Claro.
Speaker 1:Bueno, sigo con esto. La número 5, riesgos de seguridad. Vale, eso también es muy importante porque, claro, los piratas informáticos no tienen otra cosa que hacer, como los robots que pues hacen eso unirse todos juntos y crear un ejército, y ya está, y terminar con el mundo, y bueno, hay que darse solos Vale. número 6, concentración de poder. Bueno, pues, el riesgo de que la inteligencia artificial ha dominado por un pequeño número de grandes corporaciones y de los gobiernos, y que bueno, pues, que puedan hacerlo un poquito lo que quieran. Número 7, dependencia de la inteligencia artificial.
Speaker 2:Claro, bueno, incluso en la época de Platón se llegó. Hay un escrito que dice que la escritura nos iba a hacer más tontos. Porque vamos a tener menos memoria si escribíamos, o sea claro, cuando todo era oral las historias se tenían que contar y al principio la escritura se creyó. Había personas que creían que la escritura nos quitaría memoria. Y realmente claro. Por supuesto ya no necesitas acordarte de todas las cosas que te cuentan porque las puedes apuntar o las puedes escribir. Pero eso es una ventaja Hombre, a mí me da un poco de miedo, en el sentido de la gente que empiece a aprender a escribir ahora, que si realmente nunca escribe y ya todo lo hace la inteligencia artificial por ellos. No sé si en el desarrollo del pensamiento eso puede afectar de alguna manera, pero quizás un miedo también mío, y lo que pasará es que la gente tendrá otra forma de pensar, diferente o de estructurar los pensamientos.
Speaker 1:Sí, o sea, es un miedo con fundamento, porque claro puede ser que realmente nos volvamos un poquito más tontos. Pero bueno, también puede ser que nos ayude a ser más inteligentes o usar mejor el tiempo.
Speaker 2:Claro, sí, sí, sí, en eso estoy de acuerdo, o sea, y por supuesto yo ya no escribo súper poco a mano, y no me refiero solo a escribir a mano, pero el tener que hacer tú, por ejemplo, un resumen tú mismo, creo que te ayuda a comprender las cosas cuando estás estudiando. Y en cambio es muy goloso coger al ChargPT, darle 20 folios y decirle hazme un resumen, ¿sabes? Entonces no sé si eso afectará, no de igual a las personas que ya hemos estudiado antes, ni nada, sino a las personas que estén estudiando ahora o que se estén formando ahora. No lo sé, igual es un miedo, igual, como no tienen que hacer resumen, igual pueden adquirir muchos más conocimientos y tienen tiempo para aprender muchas más cosas. Y nosotros perdimos tiempo. Habrá que verlo.
Speaker 1:Sí, bueno, no lo sé, habrá que verlo. Sigo con ello. Venga número ocho desplazamiento la laboral. Siempre que hay un avance tecnológico se inventa una nueva máquina, siempre hay puestos de trabajo que se pierden y otros que se crean. No sé si se pueden crear sin eliminar otros. Esto estaría bien si alguien encontrará una solución, claro. Siguiente punto la desigualdad económica. Pues claro, obviamente todo esto va a agrandarla y obviamente el que tenga más dinero podría llegar a acceder a esto. Pues lo que tú decías antes seguramente si es posible que uno compre ser más inteligente, pues obviamente el que tenga más dinero lo va a comprar. Pero es que estamos muy lejos de eso y no sabemos si eso va a pasar. Así que no creo que sea algo que hay que tener miedo.
Speaker 1:Otro punto es en cuanto a las armas Si la inteligencia artificial va a poder hacer que haya más tecnología, que se produzcan armas, pues de destrucción masiva. Me imagino que la gente piensa Pues si todo esto se van a poder producir de alguna manera, que realmente los robots eso van a acabar con nosotros y van a vivir ellos solos en el mundo con las ratas, porque esas me quieren disparar, claro, para que eso pase.
Speaker 2:Para que eso pase, alguien tiene que programarlos para que hagan eso. Entonces, habiendo bombas nucleares, pues tampoco da. Es la misma situación o un voto no, el otro Sí, o sea yo no veo mucha diferencia.
Speaker 1:Exacto, porque ya los humanos sabemos que han creado cosas que son muy destructivas. Entonces no, bueno, entonces otro punto. Ya casi vamos a terminar la pérdida de conexión humana. Pero si esto ya está perdido, ya no nos preocupemos hombre. Ya estamos todos más aislados. La pandemia ya fue el que puso, como decimos, la guinda. La pandemia puso la guinda. A ver si estamos todos en casa. Desde el año 2020 no hay nadie que ha vuelto a una vida más o menos Como la de antes. No es todo, es un poquito más no es diferente, entonces la conexión humana se ha perdido.
Speaker 1:Pero bueno, para eso tenemos las aplicaciones para para quedar y ligar, que también las hay, sólo para hacer amistad, que no es todo, sólo amor sexual. Entonces sigo que ya termino vale esto la manipulación número 13, lo mismo, el que ya no vamos a saber qué información es real y que no, hombre, lo vamos a saber si buscamos un poco, antes de pensar que todo lo que vemos es real.
Speaker 2:Claro, si eso está bien, es que con el Photoshop ya se hacía muchos montajes y mentiras. Hay mentiras todos los días y eso no va a ser cosa delante del interés. Hombre, sí que es verdad que hay fotos que están muy, muy, muy bien hechas La del Papa con el abrigo, yo casi me la creí.
Speaker 1:O sea, me encantó Y a mí me encantó a mí y la volví a ver estos días, porque creo que fue eso hace unos días salía el Papa pidiendo por favor, vamos a elegirla. Esto, porque esto no tiene sentido. Entonces era como que le ponían en una de las noticias. Lo ponían a él con aquella imagen.
Speaker 2:Davan ganas de comprarse el abrigo.
Speaker 1:la verdad es que esto Era muy gracioso pero claro Me parece un artista pop o algo no sé Un infuente, o algo. Sí, sí, sí. A mí me pareció la mejora que ya habrá, verdad? O sea que Vale, ya terminamos a ver. Nada dice aquí en el punto. Me encanta porque el punto 14, con consecuencias no deseadas, bueno, hombre, pues en todo puede haber Con cogenérico?
Speaker 2:no.
Speaker 1:Pero bueno, qué voy a decir? que esta es la lista que tenía, que era más completa, que incluía cosas que eran como más reales posibles consecuencias No deseadas, hombre, pues sí, imprevistas, sí, no sabemos qué bien lo vamos a entrenar y dónde va a llegar esta máquina y qué es lo que va a hacer, pero hay que recordar que siempre hay humanos detrás y que igual también podemos apagarla.
Speaker 2:No sé si llegaron un punto en que podamos apagarla. Pero No lo sé. No, yo creo que sí que podemos apagarla.
Speaker 1:Sí, entonces ya termina con riesgos existenciales, que ya estés el apocalipsis, claro dídenlo. esto ¿no? Que entonces va a superar la inteligencia. Y aquí es donde nos vamos a lo que ya no son cosas reales, o sea, es que esto ya no es que nos supere o no nos supere dependerá obviamente de nosotros mismos. Y entonces aquí es donde lo que hemos dicho que igual, sí que es interesante una legislación, pero que no sea para beneficiar a las corporaciones y a los que tienen el poder y el dinero, que sea para beneficiar a los pobrecitos, que estamos aquí haciendo todo como debemos.
Speaker 2:Claro. Pero si va a ser una legislación para recortar cosas, para que por ejemplo en Europa seamos menos competitivos con Estados Unidos, porque a lo mejor nos restringen más cosas que a los otros, ¿sabes, o cosas así, exacto Es que, a ver, el futuro de los países también va a depender de quien tenga más o menos restricciones, como está pasando con la agricultura o con otras cosas. Entonces ya veremos qué pasará, pero bueno, exacto.
Speaker 1:Sobre los peligros reales bueno, algunos lo son. Sobre más miedos y nada ya sabemos que tenemos muchos miedos, pero en realidad igual estaría bien si entendiramos un poquito cómo funciona la tecnología, que es lo que ha hecho, que bueno que esto sea tan público y que todo el mundo arable de ello, pero que en realidad no tenemos ni idea de lo que es. Nos puedes explicar un poco tú?
Speaker 2:Sí, un poquito, pero bueno, que me perdonen los expertos en el tema, pero sí o sea, yo voy a explicar lo que he encontrado, lo que más o menos sé. La verdad es que yo lo utilizo mucho y me gusta mucho y me ayuda mucho en el trabajo, a resumir, a hacer un montón de cosas, a buscar sinónimos, a corregir, a traducir, o sea. Va estupenda. No le pidas que te redacte un texto, porque te lo redacta como la persona más aburrida de la tierra, o sea. Si crees que te va a quitar el trabajo como redactor, quizá es que eres muy aburrido, porque? bueno, ahora veremos cómo funciona, más o menos, porque dejaré también un artículo en español de Nacional Geografic que resume la historia de la inteligencia artificial. Porque ahora se habla mucho de ella? pues, gracias a que tenemos ChargPT y a que tenemos Bart y el Bing, pero en realidad hace más de 65 años que se está pensando en inteligencia artificial y en cómo desarrollarla. Lo que pasa es que ahora, como la podemos tener todos y es tan fácil de usar y tan divertida, pues ha causado estos miedos. Yo creo que el principal miedo viene del uso de la palabra inteligencia, que lo confundimos con inteligencia humana. Cuando hablamos de inteligencia, nos parece que está pensando o cuando tú chateas con ChargPT, te contesta también que parece que te está entendiendo, pero en realidad no está entendiendo nada, o sea no funciona así.
Speaker 2:Lo que tiene ChargPT, bing o Bart son modelos de procesamiento del lenguaje natural y, aunque da la sensación de que te entienden, no poseen conciencia ni autoconciencia ni comprensión real. Esto opera mediante unos patrones y asociaciones aprendidas, pero sin una comprensión conceptual. En entrenamiento, chargpt lo que ha hecho es de her bueno, más bien procesar una gran cantidad de texto, pero una gran cantidad de texto inimaginable, o sea muchísimo. Durante este proceso, observa qué palabras tienden a seguir a otras. Por ejemplo, después de Quiere una taza de? la mayor vez es café, ¿no? o té, la que sea la que aparece con más frecuencia, y va creando unos patrones de lenguaje en base a esas probabilidades. El modelo aprende patrones de cómo se construyen las frases y cómo siguen las palabras unas a otras y cómo se relacionan los temas entre sí. Entonces, si tú le dices haz una reacción de esto, lo que está haciendo es después de uno, va a dos, después de te, va con leche después de, pero no está entendiendo cómo está entendiendo una persona. No hay una inteligencia como la nuestra.
Speaker 2:Entonces, cuando Cha GPT recibe una entrada de texto, lo que hace es utilizar esos patrones de lenguaje para predecir qué palabra o palabras son más probables que vengan a continuación y utiliza esas predicciones para construir una respuesta, entonces también en base a lo que ha leído, o sea, si tú no le das información, si no tiene información sobre eso. No es como la inteligencia humana, pues es creativa, podemos inventarnos cosas, podemos imaginar cosas, tenemos conciencia. Es diferente, o sea ellos no, ellos no pueden simular aspectos de la creatividad, pero se basan en recombinar, en hacer refritos. Que sí que es verdad que, por ejemplo, si miramos ahora un periódico, aunque no esté hecho con inteligencia artificial, hay muchas publicaciones que son refritos de otras publicaciones.
Speaker 2:Esto lo puede hacer Cha GPT perfectamente y esa redacción irse toda la calle, pero eso que hará, pues que a lo mejor, para que te paguen por escribir, en lugar de hacer refritos, hagas cosas creativas o investigues más o hagas cosas mejores, claro, para añadir también puede ser que a la gente añadir cosas, o sea de realmente no hacer, porque para copiar información de aquí de allá y hacer un resumen y publicarlo, pues sí, para eso Cha GPT ya lo hace muy bien, pero no puede inventarse, no puede buscar noticias, no puede pensar enfoques, no puede hacer todas esas cosas, o sea que se queda muy lejos de ser una inteligencia como lo que nosotros conocemos como inteligencia. Entonces por eso a veces tiene alucinaciones, eso que parece que se inventa cosas y no es que se las inventes que simplemente no tiene la información y meterla para habrá más probable y la frase más probable, pero te puede decir cualquier barbaridad y se queda tan, ancho o sea, no depende siempre de la información a la que tiene acceso.
Speaker 2:Entonces, pues eso, lo único que me da un poco de miedo es que, si no, yo también tengo mis mías. Que claro, la inteligencia artificial ha cogido los textos de los humanos.
Speaker 2:Si ahora los humanos nos ponemos a coger todos los textos de la inteligencia artificial, la inteligencia artificial se alimentará de los propios textos de la inteligencia artificial, y entonces el resultado va a ser una basura espacial claro o sea pero bueno, me imagino que hasta eso queda mucho, porque, claro, su redacción siempre va a ser mediocre, porque coge un conjunto, la media de todo, no coge las genialidades, o sea va a coger lo que es más común, y lo más común siempre es lo más mediocre.
Speaker 2:Entonces, pero bueno, es que por eso no hay que usarla para que haga el trabajo entero, sino como un apoyo, como un apoyo para tu trabajo, o sea, tú has tenido un enfoque, a lo mejor muy bueno, y necesitas revisar 20 documentos, pues pues, con su ayuda, que te lo resuma en bullet points o que te te saque las palabras que tú necesitas, clave o cosas de ese tipo. pero vamos que sirve como ayuda, pero que está muy no es capaz de hacer una redacción sin equivocarse.
Speaker 1:dudo mucho que de momento destruir el mundo, al menos cha gpt no, este no lo va, no creo, yo tampoco creo que lo vaya a destruir vale. pues, muchas gracias a ver si ese futuro no está tan negativo como creemos venga. Nos vemos pronto, adiós venga un beso adiós.