Episode 2: Should We Be Afraid of a Parrot?

In this episode, we discuss the fear that technological advances always bring. We use the Power Mac G4 as an example, which in 1999 was considered a war weapon because it had 1 GIGAFLOP of computing power. Today, the distrust is the same towards AI, which ultimately is nothing more than a parrot repeating what has already been said.

En este episodio hablamos del miedo que pueden traer los avances tecnológicos, y ponemos como ejemplo el Power Mac G4, que en 1999 fue considerado un arma de guerra por tener 1 GIGAFLOP de potencia informática.  Hoy la desconfianza es la misma hacia la IA, que al final no es más que un loro repitiendo lo ya se ha dicho.

Episode's transcript: https://www.buzzsprout.com/2275115/episodes/14447207-episode-2-should-we-be-afraid-of-a-parrot/

When the Mac was a Munition: https://newsletter.pessimistsarchive.org/p/when-the-mac-was-a-munition 

Apple Commercial - PowerMac G4 Ad - Tanks: https://www.youtube.com/watch?v=l2ThMmgQdpE 

Breve historia visual de la inteligencia artificial: https://www.nationalgeographic.com.es/ciencia/breve-historia-visual-inteligencia-artificial_14419 

 ¡Atrás! El miedo a la tecnología, desde la escritura al 5G: https://www.lavanguardia.com/historiayvida/historia-antigua/20201103/790783/miedo-tecnologia-escritura-5g.html 

The 15 Biggest Risks Of Artificial Intelligence: https://www.forbes.com/sites/bernardmarr/2023/06/02/the-15-biggest-risks-of-artificial-intelligence/amp/

Transcript

Miedos Y Regulaciones De La IA

Speaker 1 0:07

En este episodio hablamos sobre la inteligencia artificial , sobre las regulaciones y sobre los peligros reales . Hola Teresa , entonces esta semana vamos a hablar de el miedo , los peligros reales o ficticios que estamos sintiendo en estos días por la inteligencia artificial , A ver ¿qué nos puedes decir de esto .

Speaker 2 0:40

Sí , bueno , yo me voy al primero unos años atrás para hablar de esto , porque hace un par de semanas el ordenador personal de Apple , el Mac o Macintosh , cumplió 40 años . Entonces , en referencia a los miedos , he leído un artículo al respecto que me ha llamado mucho la atención . Está publicado una web que se llama Archivo Pesimista y que habla precisamente de todos los miedos que tenemos relacionados con la tecnología que nos desde el principio de los tiempos . Y bueno , el primer Macintosh se anunció en el 83 , pero el artículo se refiere a la versión que lanzaron en el 99 . El Power Mac G4 , que fue un ordenador que tenía un Gigaflop de potencia de cálculo Voy a hacer un inciso al Gigaflop , no es lo mismo que un Gigabyte , pero bueno , tampoco voy a entrar muy adentro pero es una unidad que mide el rendimiento de cálculo de un procesador y equivale a mil millones de operaciones de punto flotante por segundo .

Speaker 2 1:37

Que estos son cálculos matemáticos que utilizan un procesamiento científico , gráficos , simulaciones y otras tareas que requieren un alto grado de precisión numérica . O sea , no sería lo mismo que el Gigabyte , que básicamente mide la capacidad de almacenamiento de memoria , solo , es inciso , ella fina . Hasta aquí . Entonces este avance significó que el gobierno de Estados Unidos clasificara el ordenador como munición y potenciar arma de guerra porque le aplicó estrictos controles de exportación . Entonces este ordenador tenía un Gigaflop , o sea un iPhone 15 tiene más de 2000 Gigaflops , pero en ese momento se llevamos en el bolsillo 2000 potenciales armas de guerra y podemos destruir no solo el mundo o sea , imagínate , todos los planetas y lo que nos dé la gana . Entonces esta ley de administración , que era del año 79 , estableció unas reglas para evitar que los ordenadores cayeran en manos de comunistas . El mayor miedo que había es que los comunistas se quedaran esos ordenadores que tenían un Gigaflop y pues destruyeran Estados Unidos gracias a ese ordenador .

Speaker 2 2:48

Entonces está muy bien , porque Apple aprovechó esto , hizo una expresión española que se llama hacer del limón limonada , cuando algo es malo para ti , pero tú lo aprovechas a tu favor . Y Apple lo que hizo es un anuncio que ya dejaré el enlace , en el que se ve el Mac en rodeado de tanques Gigaflops . Dijo que la idea se le ocurrió cuando le expusieron las restricciones . Y el anuncio está muy bien porque dice que es tema que es muy peligroso y en cambio la competencia es inofensiva . Es como un poco aprovechó eso .

Speaker 2 3:20

Las restricciones al final las quitaron y Apple la ha ido muy bien , o sea que tampoco , pero el miedo estaba Entonces . Eso me ha recordado mucho a lo que pasa ahora con la inteligencia artificial , que se le atribuyen un montón de calamidades desde que nos quitará todos el trabajo , que acabará con la humanidad bueno de todo , ¿no ? Entonces hay una iniciativa de ley , incluso en Europa ya , para proteger de los riesgos de la inteligencia artificial , que todavía no está muy claro cómo se va a aplicar , pero ya se sabe que las multas pueden llegar hasta 35 millones para quien las incumplan . 35 millones de euros , todavía no se sabe por qué . O sea yo , si tuviera un .

Speaker 1 3:59

Pero no espera un momento . Cómo , cómo ?

Speaker 2 4:02

Se sabe un poquito , pero no se entiende tampoco muy bien cómo lo van a aplicar . Porque , por ejemplo , quieren proteger los derechos de autor , porque claro , la inteligencia artificial se basa mucho en escritos o en pinturas de otras personas , o sea , que cogen mucha información y luego con eso hace un refrito y te saca otra cosa , te saca un dibujo o te saca . Claro va a tener que pedir permiso para poder usar sus bases de datos , que son de millones , millones de datos o sea . Complicaría muchísimo el funcionamiento de la inteligencia artificial . Yo lo veo mucho poner puertas al campo . Me recuerda como cuando la gente empezó a descargarse música sin conocimiento y películas y la solución fue Netflix o Spotify , porque era imposible que la gente no se descargara las cosas . ¿no , entonces ponerse lo más fácil es la solución , pero prohibirlo lo veo muy complicado . Por ejemplo , también quieren que cumplan criterios de transparencia y que no se categorice a las personas de formas discriminatorias .

Speaker 2 5:05

Claro , la inteligencia artificial , por ejemplo , pues está muy sesgada con los mismos sesgos que tenemos los humanos , porque si hay que dibujar una mujer secretaria , pues seguramente te la va a dibujar sexy y muy guapa y joven y delgada y cosas así , ¿no ? Entonces quieren evitar , me imagino , esos sesgos o discriminaciones , pero también lo veo ¿Quién pone los límites , ¿quién decide lo que está bien y lo que está mal ? Claro , va a ser muy complicado , la verdad . Entonces , bueno , la inteligencia artificial , como todo , traerá peligros reales y otros que de momento nos estamos imaginando pero que no tienen mucho sentido , que yo creo que tú habías encontrado una lista , no , de posibles peligros que nos acechan .

Speaker 1 5:48

Sí , pues he encontrado una lista . tiene pues , esos son 15 cosas que en principio podrían pasar en a consecuencia de la inteligencia artificial .

Speaker 1 6:02

si no la legislamos , vale voy a leer la lista despacito , y así pues podemos aprender vocabulario en español . Venga a ver , vamos con esto . La primera de la lista es la falta de transparencia . Vale , bueno , en principio , todo esto es porque además no lo comprendemos muy bien , ¿no , cómo funciona y de dónde saca la información y quién le está dando la información ? Entonces , el desconocimiento es lo que lleva a esto Vale . La segunda de la lista es prejuicios y discriminación . Bueno , pues , se cree que esto es la inteligencia artificial puede amplificar los sergos sociales debido a los datos de entrenamiento o diseños algorítmicos sesgados . Creo que con esto se refieren sobre todo al reconocimiento facial . Creo que ha habido algunos escándalos . Ya , bueno , a ver , voy a seguir y voy a ir rapidito , que esto se nos va a hacer muy largo . Venga la tercera preocupaciones por la privacidad . Vale , pues , a ver , estas herramientas están recopilando y analizando pues , muchos datos continuamente , y datos que son personales , claro . Entonces , esto para tener un problema de privacidad , como siempre . Entonces , bueno , esto no es nuevo en internet .

Speaker 2 7:35

Claro . Pero bueno , si cumplen la legalidad , en principio no tendría que haber ningún problema . Los problemas están cuando no se cumple la legalidad , como ha hecho por ejemplo a veces Facebook , que han vendido datos o cosas de ese tipo . Pero claro es que al final es un problema que va a todo . No es de la inteligencia artificial , solo Se trata de eso de ver si cumple en la legalidad o no , porque habrá mucha gente que meter allí documentos de su empresa , cosas a lo mejor confidenciales , para que las resuma o para que les saque información , y resulta que eso a lo mejor lo puede ver . Un tercero es que sería totalmente ilegal . Pero claro , esas cosas pasan , sí que es un peligro , sí sí un peligro , pero bueno Vale .

Speaker 1 8:16

Voy a seguir La número 4 , venga , dilemas éticos inculcar valores morales y éticos en los sistemas de inteligencia artificial , especialmente en contextos de toma de decisiones con consecuencias importantes . Porque bueno , claro , esto es que sí va a ser peligroso . claro a ver , podemos tener un robot que destruya el mundo entero , como todos tememos .

Speaker 2 8:42

Claro .

Speaker 1 8:43

Bueno , sigo con esto . La número 5 , riesgos de seguridad . Vale , eso también es muy importante porque , claro , los piratas informáticos no tienen otra cosa que hacer , como los robots que pues hacen eso unirse todos juntos y crear un ejército , y ya está , y terminar con el mundo , y bueno , hay que darse solos Vale . número 6 , concentración de poder . Bueno , pues , el riesgo de que la inteligencia artificial ha dominado por un pequeño número de grandes corporaciones y de los gobiernos , y que bueno , pues , que puedan hacerlo un poquito lo que quieran . Número 7 , dependencia de la inteligencia artificial .

Speaker 2 9:30

Claro , bueno , incluso en la época de Platón se llegó . Hay un escrito que dice que la escritura nos iba a hacer más tontos . Porque vamos a tener menos memoria si escribíamos , o sea claro , cuando todo era oral las historias se tenían que contar y al principio la escritura se creyó . Había personas que creían que la escritura nos quitaría memoria . Y realmente claro . Por supuesto ya no necesitas acordarte de todas las cosas que te cuentan porque las puedes apuntar o las puedes escribir . Pero eso es una ventaja Hombre , a mí me da un poco de miedo , en el sentido de la gente que empiece a aprender a escribir ahora , que si realmente nunca escribe y ya todo lo hace la inteligencia artificial por ellos . No sé si en el desarrollo del pensamiento eso puede afectar de alguna manera , pero quizás un miedo también mío , y lo que pasará es que la gente tendrá otra forma de pensar , diferente o de estructurar los pensamientos .

Speaker 1 10:24

Sí , o sea , es un miedo con fundamento , porque claro puede ser que realmente nos volvamos un poquito más tontos . Pero bueno , también puede ser que nos ayude a ser más inteligentes o usar mejor el tiempo .

Speaker 2 10:36

Claro , sí , sí , sí , en eso estoy de acuerdo , o sea , y por supuesto yo ya no escribo súper poco a mano , y no me refiero solo a escribir a mano , pero el tener que hacer tú , por ejemplo , un resumen tú mismo , creo que te ayuda a comprender las cosas cuando estás estudiando . Y en cambio es muy goloso coger al ChargPT , darle 20 folios y decirle hazme un resumen , ¿sabes ? Entonces no sé si eso afectará , no de igual a las personas que ya hemos estudiado antes , ni nada , sino a las personas que estén estudiando ahora o que se estén formando ahora . No lo sé , igual es un miedo , igual , como no tienen que hacer resumen , igual pueden adquirir muchos más conocimientos y tienen tiempo para aprender muchas más cosas . Y nosotros perdimos tiempo . Habrá que verlo .

Speaker 1 11:20

Sí , bueno , no lo sé , habrá que verlo . Sigo con ello . Venga número ocho desplazamiento la laboral . Siempre que hay un avance tecnológico se inventa una nueva máquina , siempre hay puestos de trabajo que se pierden y otros que se crean . No sé si se pueden crear sin eliminar otros . Esto estaría bien si alguien encontrará una solución , claro . Siguiente punto la desigualdad económica . Pues claro , obviamente todo esto va a agrandarla y obviamente el que tenga más dinero podría llegar a acceder a esto . Pues lo que tú decías antes seguramente si es posible que uno compre ser más inteligente , pues obviamente el que tenga más dinero lo va a comprar . Pero es que estamos muy lejos de eso y no sabemos si eso va a pasar . Así que no creo que sea algo que hay que tener miedo .

Speaker 1 12:11

Otro punto es en cuanto a las armas Si la inteligencia artificial va a poder hacer que haya más tecnología , que se produzcan armas , pues de destrucción masiva . Me imagino que la gente piensa Pues si todo esto se van a poder producir de alguna manera , que realmente los robots eso van a acabar con nosotros y van a vivir ellos solos en el mundo con las ratas , porque esas me quieren disparar , claro , para que eso pase .

Speaker 2 12:41

Para que eso pase , alguien tiene que programarlos para que hagan eso . Entonces , habiendo bombas nucleares , pues tampoco da . Es la misma situación o un voto no , el otro Sí , o sea yo no veo mucha diferencia .

Speaker 1 12:56

Exacto , porque ya los humanos sabemos que han creado cosas que son muy destructivas . Entonces no , bueno , entonces otro punto . Ya casi vamos a terminar la pérdida de conexión humana . Pero si esto ya está perdido , ya no nos preocupemos hombre . Ya estamos todos más aislados . La pandemia ya fue el que puso , como decimos , la guinda . La pandemia puso la guinda . A ver si estamos todos en casa

La Inteligencia Artificial Y Sus Consecuencias

Speaker 1 13:22

. Desde el año 2020 no hay nadie que ha vuelto a una vida más o menos Como la de antes . No es todo , es un poquito más no es diferente , entonces la conexión humana se ha perdido .

Speaker 1 13:33

Pero bueno , para eso tenemos las aplicaciones para para quedar y ligar , que también las hay , sólo para hacer amistad , que no es todo , sólo amor sexual . Entonces sigo que ya termino vale esto la manipulación número 13 , lo mismo , el que ya no vamos a saber qué información es real y que no , hombre , lo vamos a saber si buscamos un poco , antes de pensar que todo lo que vemos es real .

Speaker 2 13:58

Claro , si eso está bien , es que con el Photoshop ya se hacía muchos montajes y mentiras . Hay mentiras todos los días y eso no va a ser cosa delante del interés . Hombre , sí que es verdad que hay fotos que están muy , muy , muy bien hechas La del Papa con el abrigo , yo casi me la creí .

Speaker 1 14:17

O sea , me encantó Y a mí me encantó a mí y la volví a ver estos días , porque creo que fue eso hace unos días salía el Papa pidiendo por favor , vamos a elegirla . Esto , porque esto no tiene sentido . Entonces era como que le ponían en una de las noticias . Lo ponían a él con aquella imagen .

Speaker 2 14:38

Davan ganas de comprarse el abrigo .

Speaker 1 14:39

la verdad es que esto Era muy gracioso pero claro Me parece un artista pop o algo no sé Un infuente , o algo . Sí , sí , sí . A mí me pareció la mejora que ya habrá , verdad ? O sea que Vale , ya terminamos a ver . Nada dice aquí en el punto . Me encanta porque el punto 14 , con consecuencias no deseadas , bueno , hombre , pues en todo puede haber Con cogenérico ?

Speaker 2 15:09

no .

Speaker 1 15:12

Pero bueno , qué voy a decir ? que esta es la lista que tenía , que era más completa , que incluía cosas que eran como más reales posibles consecuencias No deseadas , hombre , pues sí , imprevistas , sí , no sabemos qué bien lo vamos a entrenar y dónde va a llegar esta máquina y qué es lo que va a hacer , pero hay que recordar que siempre hay humanos detrás y que igual también podemos apagarla .

Speaker 2 15:38

No sé si llegaron un punto en que podamos apagarla . Pero No lo sé . No , yo creo que sí que podemos apagarla .

Speaker 1 15:48

Sí , entonces ya termina con riesgos existenciales , que ya estés el apocalipsis , claro dídenlo . esto ¿no ? Que entonces va a superar la inteligencia . Y aquí es donde nos vamos a lo que ya no son cosas reales , o sea , es que esto ya no es que nos supere o no nos supere dependerá obviamente de nosotros mismos . Y entonces aquí es donde lo que hemos dicho que igual , sí que es interesante una legislación , pero que no sea para beneficiar a las corporaciones y a los que tienen el poder y el dinero , que sea para beneficiar a los pobrecitos , que estamos aquí haciendo todo como debemos .

Speaker 2 16:28

Claro . Pero si va a ser una legislación para recortar cosas , para que por ejemplo en Europa seamos menos competitivos con Estados Unidos , porque a lo mejor nos restringen más cosas que a los otros , ¿sabes , o cosas así , exacto Es que , a ver , el futuro de los países también va a depender de quien tenga más o menos restricciones , como está pasando con la agricultura o con otras cosas . Entonces ya veremos qué pasará , pero bueno , exacto .

Speaker 1 16:57

Sobre los peligros reales bueno , algunos lo son . Sobre más miedos y nada ya sabemos que tenemos muchos miedos , pero en realidad igual estaría bien si entendiramos un poquito cómo funciona la tecnología , que es lo que ha hecho , que bueno que esto sea tan público y que todo el mundo arable de ello , pero que en realidad no tenemos ni idea de lo que es . Nos puedes explicar un poco tú ?

Speaker 2 17:22

Sí , un poquito , pero bueno , que me perdonen los expertos en el tema , pero sí o sea , yo voy a explicar lo que he encontrado , lo que más o menos sé . La verdad es que yo lo utilizo mucho y me gusta mucho y me ayuda mucho en el trabajo , a resumir , a hacer un montón de cosas , a buscar sinónimos , a corregir , a traducir , o sea . Va estupenda . No le pidas que te redacte un texto , porque te lo redacta como la persona más aburrida de la tierra , o sea . Si crees que te va a quitar el trabajo como redactor , quizá es que eres muy aburrido , porque ? bueno , ahora veremos cómo funciona , más o menos , porque dejaré también un artículo en español de Nacional Geografic que resume la historia de la inteligencia artificial . Porque ahora se habla mucho de ella ? pues , gracias a que tenemos ChargPT y a que tenemos Bart y el Bing , pero en realidad hace más de 65 años que se está pensando en inteligencia artificial y en cómo desarrollarla . Lo que pasa es que ahora , como la podemos tener todos y es tan fácil de usar y tan divertida , pues ha causado estos miedos . Yo creo que el principal miedo viene del uso de la palabra inteligencia , que lo confundimos con inteligencia humana . Cuando hablamos de inteligencia , nos parece que está pensando o cuando tú chateas con ChargPT , te contesta también que parece que te está entendiendo , pero en realidad no está entendiendo nada , o sea no funciona así .

Speaker 2 18:48

Lo que tiene ChargPT , bing o Bart son modelos de procesamiento del lenguaje natural y , aunque da la sensación de que te entienden , no poseen conciencia ni autoconciencia ni comprensión real . Esto opera mediante unos patrones y asociaciones aprendidas , pero sin una comprensión conceptual . En entrenamiento , chargpt lo que ha hecho es de her bueno , más bien procesar una gran cantidad de texto , pero una gran cantidad de texto inimaginable , o sea muchísimo . Durante este proceso , observa qué palabras tienden a seguir a otras . Por ejemplo , después de Quiere una taza de ? la mayor vez es café , ¿no ? o té , la que sea la que aparece con más frecuencia , y va creando unos patrones de lenguaje en base a esas probabilidades . El modelo aprende patrones de cómo se construyen las frases y cómo siguen las palabras unas a otras y cómo se relacionan los temas entre sí . Entonces , si tú le dices haz una reacción de esto , lo que está haciendo es después de uno , va a dos , después de te , va con leche después de , pero no está entendiendo cómo está entendiendo una persona . No hay una inteligencia como la nuestra .

Speaker 2 19:56

Entonces , cuando Cha GPT recibe una entrada de texto , lo que hace es utilizar esos patrones de lenguaje para predecir qué palabra o palabras son más probables que vengan a continuación y utiliza esas predicciones para construir una respuesta , entonces también en base a lo que ha leído , o sea , si tú no le das información , si no tiene información sobre eso . No es como la inteligencia humana , pues es creativa , podemos inventarnos cosas , podemos imaginar cosas , tenemos conciencia . Es diferente , o sea ellos no , ellos no pueden simular aspectos de la creatividad , pero se basan en recombinar , en hacer refritos . Que sí que es verdad que , por ejemplo , si miramos ahora un periódico , aunque no esté hecho con inteligencia artificial , hay muchas publicaciones que son refritos de otras publicaciones .

Speaker 2 20:44

Esto lo puede hacer Cha GPT perfectamente y esa redacción irse toda la calle , pero eso que hará , pues que a lo mejor , para que te paguen por escribir , en lugar de hacer refritos , hagas cosas creativas o investigues más o hagas cosas mejores , claro , para añadir también puede ser que a la gente añadir cosas , o sea de realmente no hacer , porque para copiar información de aquí de allá y hacer un resumen y publicarlo , pues sí , para eso Cha GPT ya lo hace muy bien , pero no puede inventarse , no puede buscar noticias , no puede pensar enfoques , no puede hacer todas esas cosas , o sea que se queda muy lejos de ser una inteligencia como lo que nosotros conocemos como inteligencia . Entonces por eso a veces tiene alucinaciones , eso que parece que se inventa cosas y no es que se las inventes que simplemente no tiene la información y meterla para habrá más probable y la frase más probable , pero te puede decir cualquier barbaridad y se queda tan , ancho o sea , no depende siempre de la información a la que tiene acceso .

Inteligencia Artificial en El Trabajo

Speaker 2 21:47

Entonces , pues eso , lo único que me da un poco de miedo es que , si no , yo también tengo mis mías . Que claro , la inteligencia artificial ha cogido los textos de los humanos .

Speaker 2 21:59

Si ahora los humanos nos ponemos a coger todos los textos de la inteligencia artificial , la inteligencia artificial se alimentará de los propios textos de la inteligencia artificial , y entonces el resultado va a ser una basura espacial claro o sea pero bueno , me imagino que hasta eso queda mucho , porque , claro , su redacción siempre va a ser mediocre , porque coge un conjunto , la media de todo , no coge las genialidades , o sea va a coger lo que es más común , y lo más común siempre es lo más mediocre .

Speaker 2 22:30

Entonces , pero bueno , es que por eso no hay que usarla para que haga el trabajo entero , sino como un apoyo , como un apoyo para tu trabajo , o sea , tú has tenido un enfoque , a lo mejor muy bueno , y necesitas revisar 20 documentos , pues pues , con su ayuda , que te lo resuma en bullet points o que te te saque las palabras que tú necesitas , clave o cosas de ese tipo . pero vamos que sirve como ayuda , pero que está muy no es capaz de hacer una redacción sin equivocarse .

Speaker 1 22:59

dudo mucho que de momento destruir el mundo , al menos cha gpt no , este no lo va , no creo , yo tampoco creo que lo vaya a destruir vale . pues , muchas gracias a ver si ese futuro no está tan negativo como creemos venga . Nos vemos pronto , adiós venga un beso adiós .