T6.E135. INSIDE X EXISTE UN PROFUNDO MISTERIO.. ¿Qué es realmente esta cosa?

# TEMA 
EXISTE UN PROFUNDO MISTERIO.. ¿Qué es realmente esta cosa?
Analizamos declaraciones y noticia THE GUARDIAN de Iason Gabriel. Filósofo de Google.
INSIDE X!

# PRESENTA Y DIRIGE 
🧠Plácido Doménech Espí
⭐Creador de xHUB.AI
🏢CEO MXND.AI : Software + AI
✉️placido.domenech@mxnd.ai

# xHUB.AI
xHUB.AI es una comunidad de Inteligencia Artificial y Ciencias transversales de habla hispana.

# REDES SOCIALES
🌐 youtube : xhubai
🌐 X  :   xhub_ai | placidodomenech
🌐 twitch :   xhub_ai | placidodomenech
🌐 instagram :   / xhub_ai | placidodomenech
🌐 discord : Pídenos acceso mediante DM en redes sociales.

# PODCAST
🎧 buzzsprout : https://xhubai.buzzsprout.com/
🎧 spotify : https://open.spotify.com/show/2SPqvrGGvZkALTy6jSokxI?si=1927a4d04b5145c4
🎧 apple : https://podcasts.apple.com/es/podcast/xhub-ai/id1576725819
🎧 amazon music : https://music.amazon.com/podcasts/e4ff4e8c-4efb-4aed-907e-09b2b1d7aa86
🎧 ivoox : https://go.ivoox.com/sq/1337641

# APÓYANOS
Si te ha gustado nuestro contenido, apoya a la comunidad y el canal de xHUB.AI:
❤️BuyMeACoffe : https://www.buymeacoffee.com/xhubai
❤️Paypal : pladoes@gmail.com
❤️ivoox Podcast : https://www.ivoox.com/support/1337641

# CONTACTAR
¿Quieres anunciarte, alguna propuesta interesante o consulta? Envíanos un correo.
✉️ Correo : xhubai.spain@gmail.com💬

Transcript

SPEAKER_00 0:00

Conectando. Tu cuerpo. Conectando. Tu mente. Sincronizando. Tu alma. Entrando en la simulación. Bienvenidos al podcast de X-Hub AI. Bienvenidos a la nueva era de la inteligencia artificial. Ingeniería de la humanidad. Creación de la humanidad X. La nueva está llegando.

SPEAKER_01 1:06

intentes doblar la cuchara. Eso es imposible. En vez de eso, solo procura comprender la verdad.

SPEAKER_04 1:15

¿Qué verdad?

SPEAKER_01 1:17

Que no hay

SPEAKER_03 1:22

cuchara. ¿Que no hay cuchara?

SPEAKER_01 1:23

Si lo haces, verás que no es la cuchara la que se dobla, sino tú mismo.

SPEAKER_04 1:40

Las opiniones vertidas en este programa son de exclusiva responsabilidad de quienes las emiten y no representan necesariamente el pensamiento ni la opinión de este podcast ni de la comunidad al completo. En los debates pretendemos presentar diferentes opiniones, visiones y experiencias que permitan a los oyentes sacar sus propias conclusiones. Pretendemos y luchamos por ser o intentar serlo un espacio de pensamiento Gracias por ver el vídeo.

SPEAKER_02 2:45

Hola, buenas tardes a todos amigos. ¿Qué tal? ¿Cómo estáis? Soy Plácido Domènech y hoy tenemos un nuevo InsideX y hoy, si no pasa nada, vamos a tener doble programa porque las cosas están muy calentitas y además ya no solo por el verano que hacen calentitas este X Summer ahí de X Hawaii, sino porque tenemos muchos programas retrasados de muchos temas interesantes. Ayer tuvimos un programa imperdible, un Xtalks ahí con David y Bancos y ya lo vengo diciendo que estoy pensando muchas cosas que van a afectar a todo lo que vamos a hacer estamos viviendo momentos importantes, apasionantes, convulsos críticos absurdos brillantes mezclada de sinfonías y ruido ensordecedor. También de una sensación de pluribus, como la serie de Apple. Apple TV, Pluribus. Parece que todo el mundo dice lo mismo, lo repite, lo copia. Empiezo a ver comentarios que parecen hechos de X-Habay. Entiendo que hemos tenido influencia, pero claro... me parecen ya guías replicando los argumentos o las cosas que decimos nosotros cosa que bueno, va a ser más común de lo que parece pero ahí también hay un peligro y es la desvirtualización o desvirtuar lo que en un momento determinado puede ser esperar un momentín que algo ha pasado desvirtuar Un segundín. Pues lo que estaba comentando, desvirtuar lo que son unas ideas, una visión que no tienen propiedad, obviamente, por mucho que las originemos aquí, las debatamos aquí, las creemos, no hay ningún problema en que eso se debata, pero cuando se integra de una forma tan... no sé una cosa es una inspiración y otra cosa es directamente copiar lo que es los temas las narrativas, todo todo absolutamente Hombre, nosotros también bebemos, y yo bebo particularmente, siendo de Unisex, de muchas fuentes y aprendo de todo el mundo, e integro, como por ejemplo David Vivancos, de mucha gente, pero al final hay una distorsión muy importante, ¿no? Me preocupan cosas que estoy viendo. es la prostitución de las de las de las ideas es decir cuando ayer hablábamos con hay bancos de quevedo de cajal pues te das cuenta la vida lo injusta que es y no es que sea una cuestión de o de decir bueno yo quiero ser el que lo ha dicho que no es una cuestión de esto es como se ha dicho es una prostitución del mensaje ocurre en muchos ámbitos hasta llegar hasta el chiste del martes y trece de la empanadilla. Este dice, el otro repite, el otro repite, el otro repite, repite, repite, repite, y el mensaje original no es ni parecido. Y eso me preocupa. Y luego hay otra cosa que me preocupa y es que el nivel del discurso es muy bajo. Y todos repiten lo mismo. Y es cierto que ahí vamos a hacer algo. Y este programa va a ser uno de muchos en el que vamos a ir recuperando algunos temas, debates, narrativas que para mí considero únicos, sobre todo en habla hispana, en algunas cosas. Iremos poco a poco, pero si yo siento que digo o hago lo que hace todo el mundo pues directamente está este canal y comunidad o yo directamente dejaré de divulgar Porque ver a cada día gente nueva ponerse ante una cámara, de forma más afortunada o menos, para decir lo mismo, ¿qué tipo de mundo construimos con eso? ¿Es aprovechar el tiempo, el talento, la capacidad del hombre? ¿Es el propósito del hombre replicar al vecino el éxito o lo que diga? Porque... Bueno, yo si veo un panadero de éxito, mañana abro una panadería, no sé. Entiendo que... Pero por otro lado, XHabay nace con esa intención de divulgar una cosmovisión. Pero no es para mí importante la propiedad de quién lanza eso, sino que no se desvirtúa. Quiero que lo entendáis. No es una cuestión de, claro, como lo dice otro, tienes que ser tú. No es un tema personal. Me importa el... Me importa el discurso hasta tal punto que si yo viera que lo que intento divulgar, transmitir, lo viera en algún canal, seguramente dejaría también de divulgarlo. Si hago lo que hago no es para ser uno más, sino porque creo que el propósito, lo que yo pueda aportar y a través también de una comunidad, de mucha gente alineada y en búsqueda de ese mensaje diferente, de ese mensaje humano del futuro, de ese mensaje De oportunidad, positivo, de esperanza, integrador, transversal. Yo creo que es algo único. Yo no estoy aquí para ser un influencer, que no lo soy, ni quiero serlo, sino para traer determinados temas y determinada visión y aportar valor, riqueza al debate, estando en lo correcto, en lo incorrecto, cada uno que lo analice o de su opinión, su conocimiento, etc. Hoy tenemos un programa... tenemos un programa, que por cierto, esto del eeeh, intentaré quitarlo, he visto a un gran comunicador, no sé si era, no, César Vidal no era, era otro que decía esto del eeeh, bueno, es verdad, que yo no vengo del mundo de la comunicación, del periodismo, es un ingeniero, arquitecto de software, emprendedor, alguien con inquietud transversal, pero bueno, intento, ya que me pongo delante de una cámara y con un en un canal de tanto éxito como XHabay, pues vamos a intentar siempre mejorar. Y quitar los S, las interrupciones, intentar, bueno. Pero bueno, espero que me perdonéis cuando eso ocurra. Hoy tenemos un programa que con el titular Existe un profundo misterio. ¿Qué es realmente esta cosa? Existe un profundo misterio. ¿Qué es realmente esta cosa? En referencia a la inteligencia artificial. Declaraciones de Jason Gabriel, filósofo de Google ya sabéis la tendencia de las compañías las grandes compañías de inteligencia artificial las big tech esta nueva tendencia de contratar filósofos para entender integrar abordar determinados temas que bueno suponen un nuevo paradigma y integrarlo en los viejos paradigmas o en la vieja mentalidad o en la vieja mente del mono ante la pared pues es una mala idea ¿no? Es una mala idea. Entonces se necesitan mentes abiertas, mentes meta, que nos permitan avanzar, abordar, estudiar, analizar de forma humana determinadas cosas que están sucediendo. Y estas declaraciones me llamaron la atención ante una oleada de noticias, vídeos y publicaciones. La última de Anthropy, que por cierto haremos un especial, un programa. Si puedo este fin de semana, porque tengo ganas hacer contenido, no es que no lo tuviera antes, lo que pasa es que voy auténticamente de culo y he parado algunos días y hemos perdido un poquito la frecuencia de tener un programa casi diario también estamos en verano y algún respiro me tomo lo dicho, vamos a analizar una noticia de Guardian donde se publica en estas declaraciones, donde se hace un análisis de este contexto de esa búsqueda de la conciencia de determinada fenomenología que no se explica o que se intenta encasillar y bueno, vamos a ver, leeremos ese artículo y a la vez de leerlo lo analizaremos. Bueno, aquí tenemos, lo dicho, estamos en el verano, en el X-Summer ahí, ¿no? No paramos 24-7, pero bueno, hacemos contenido al ritmo, nos tomamos algún respiro, sin presión, sin exigencia y a pesar de eso yo creo que intentamos generar... Es para hacer algún debate, los debates igual que las X-Talks, bueno, las X-Talks hay más sencillo, ¿no? Porque es uno. Pero es verdad que los debates, la gente está de vacaciones, no es por... Nada que no hayan. Bueno, José Musach volveremos a tenerlo porque él siempre que le llamo está ahí. Pero bueno, hay gente que está de vacaciones, bueno, también Eduardo y mucha gente, pero bueno, ese es más complicado. Por aquí ya estáis entrando al chat. Lordri dice, la famosa caja negra, procesos que nadie logra explicar completamente. Lordri y cualquiera de los que nos estén escuchando ahora como he dicho vamos a tener programas quiero hacer uno de Grok 4.5 seguramente quiero poner en marcha el canal de ingeniería analizando algunos papers uno de Kuben de memoria francamente apasionante empezamos por ahí cosas prácticas análisis de papers pero en un canal más de ingeniería pero este canal seguirá teniendo el mismo espíritu la misma esencia y mejor. Y bueno, aquí hemos traído esta portada del maestro Mutten Rossi con Bulma en verano y con los robots. He puesto los robots porque veía esta imagen y decía, bueno, ¿qué tiene que ver Dragon Ball con la inteligencia artificial? He puesto los robots y bueno. Y con el estilo Akira Toriyama, también un poco amenizar. Bueno, la idea también en estos, en este verano, ahí es hacer algunos programas en divertidos, bueno, de haber divertidos quiero hacer uno sobre obsesión, es decir, basado en algunas películas o series, quiero hacer uno de obsesión, creo que va a ser el primero otro de Backrooms otro de Pluriplus estaría interesante el tema de Westworld que estoy volviendo a ver, sería también, pero bueno, está relacionado con el tema de la conciencia bueno, algunas películas, bueno, el tema de Odisea de Odisea de Odisea la película de Chris Nolan y bueno, ¿qué relación tiene la película de Chris Nolan, Dodisea con con la inteligencia artificial? pues bueno, si hago el programa lo sabréis y esta tarde esta tarde si la energía me lo permite a las 7 y media, 8 yo creo, depende de lo largo que sea este programa vamos a ver un vídeo un último vídeo, reciente, reciente recién publicado, vamos a verlo juntos, donde una entrevista a Blaise Agüera y Arcas, autor del famoso libro... Este libro que recomiendo, no me paga nadie, que es La Inteligencia, Estoy en... A ver, me parece un libro imprescindible de leer, ¿no? Pero seguramente cuando lo termine podamos... Bueno, está dado para muchísimo, ¿no? Tengo ganas de escribir libros. Es una cosa que tengo pendiente. Y está el de Humano X, que yo creo que ese es el que más ganas tengo de escribir. Fijaos que se ha quedado ahí como manifiesto. Está el tema de Manifiesto X, está el tema de la Constitución X también, un tema de un lab... que quiero poner en marcha sí o sí relacionado con la conciencia, pero bueno, X está ahí pendiente. Pero este libro, como el de David y Bancos de Quevedo y Cajal, o la tesis de mi amigo Rafael Monter de Cabeco, ¿a dónde viene? Se le pasan los enfados por los comentarios que hago del Papa. Es broma, ¿eh? Rafael, si me escucha, un abrazo. La decadencia de la humanidad de Roberto Augusto, también muy recomendable, muy X-Habay. A ver, tenemos un último episodio pendiente, a ver si lo... Pero bueno, muy recomendable. ¿Qué es la inteligencia de Blaise Agüera? Y esta tarde vamos a tener programa donde hablaremos de la simbiosis humano-máquina y donde hace declaraciones como que la HG ya ha llegado, habla de la evolución, habla de muchas cosas. Blaise Agüera, cualquier charla de él es muy, muy cañera. Estoy muy alineado en muchas cosas y la visión que traslada, pero hay cosas que... Que... Hay que hablar y debatir. Pero bueno, siempre es súper interesante. Entonces, bueno, vamos a aprovechar una charla que quiero ver. Pues la vemos juntos. Esa sí que es un pelín más larga. Y luego vamos debatiéndola, vamos viéndola. Y bueno, la simbiosis humano-máquina, que yo no me la imagino como la portada. He querido hacer una portada transgresora. He puesto a una mujer o un robot o una mujer fusionada con la máquina, con el metal. Y bueno, es un poco... No es una imagen muy agradable. He querido provocar en ese sentido. Yo creo que la hibridación sí que puede ser algo como interesante o transgresor, pero que nos posibilita hacer muchas cosas o vencer determinados límites de la biología. Pero sé que es algo que choca a muchos, que apasiona a unos y directamente lo ven aberrante a otros. Yo estoy más en el primer grupo, obviamente. Lo vamos a ver, lo vamos a analizar. Así que esta tarde, si después de este programa tenéis ganas de más o si lo escucháis en diferido, pues lo vemos. Y hoy es un día triste. Triste no, tristísimo. Es un día para reflexionar. Dentro de esas reflexiones que os he comentado de Kiss Hawaii está este hecho, este suceso histórico que directamente me repugna, me da asco, me desmotiva, me deprime. pero por encima de cualquier estado emocional mío está el guerrero, de Dios, de la luz, yo intento hacerlo lo mejor que puedo, con mis fallos, seguro, pero esta noticia de la aprobación por parte de Europa, después de haber sido rechazado dos veces creo, aprobado por los populares y los socialistas, PP y PSOE, aprueban chat control y avanzan hacia el modelo de vigilancia masiva digital, pese al rechazo de la mayoría de eurodiputados. Como veis, da igual que se rechace una ley, da igual que Europa, que no tiene poder sobre las naciones miembro, van a generar un estado... Una esclavitud o un estado sometido donde su población, pues ya lo estáis viendo con el tema de la inmigración y con otras. Vamos a la pobreza. Vamos a la nula soberanía tecnológica y económica y social. Vamos a una nula aportación intelectual y cultural por parte del hombre nuevo, de nuevas generaciones y actuales. Estamos viviendo la destrucción de la historia de Europa y Yo siento ser tan contundente. Esta noticia muchos la celebrarán. Desde aquí quiero decir que toda esa gente que lo celebra no es... Podemos establecer un debate, pero para mí son aliados del enemigo. Está claro que nos pretenden dividir, pero hay cosas, y lo que tenemos que hacer es unirnos, pero hay cosas en las que no hay debate. Cuando hablamos de someter de forma burda, con excusas infantiles, siempre con la misma excusa, ¿creéis que el origen de todo esto es mitigar la pornografía infantil o...? Cualquier tipo de delito contra esta población en la que todos estamos de acuerdo en proteger. Esto es un atentado contra la privacidad. Ya sé que los mensajes cifrados no entran a echar control, pero ¿creéis que después de eso no van a prohibir algún tipo de aplicación en el que no puedan monitorizar lo que es la mensajería o los mensajes? Es un paso detrás de otro en el que la sociedad imbécil, con perdón de este tipo de comentarios, pero la sociedad imbécil idiotizada voluntariamente, no hay que quitar responsabilidad. Pues abraza estas noticias con emoticonos, con abrazos, con cursos de ética algorítmica o de datos abiertos o lo que se os ocurra para creerse que están en el lado del bien, del bien pagado, de la bien pagada. Pero... cercano a una profesión, a la prostitución intelectual, al mercenario con corbata y gomina. Estoy cansado. Esto, de verdad, esta noticia es muy, muy, muy grave. No sé si haremos el programa la semana que viene, porque al final cualquier pataleta de que sirve, que podamos reunir tres, cuatro, cinco personas diciendo qué esperábamos, esto es lo que va a ocurrir yo creo que lo que hay que hacer es crear una solución no sé si eso supone una revolución no ir en contra de nada sino crear algo nuevo estoy pensando esto es insoportable y hay que seguir creando futuro como dije ayer crear el futuro no haciendo caso de aquella gente que no se ha responsabilizado del presente y ahora quiere volver a participar en ese futuro que no deja de ser el mismo presente de sometimiento, de mentira, de hipocresía, de antihumanismo, de humanismo suicida. Entonces, esto, bueno, cuando llegue la pobreza, unido a esto, bueno, la pobreza no es que llegue, porque es verdad que más de uno me habéis puesto, no, no, no es que va a llegar, es que ya ha llegado y es cierto, ¿no? Pero no solo la pobreza económica, sino la pobreza mental e intelectual. humana y voy a ser muy duro con este humanismo suicida, este humanismo de gente buena, los últimos hombres buenos parece ser, de moral intachable que están dejando un legado impresentable pero no es que dejen un legado, es que puede ser que creen un desierto del que no podamos salir en generaciones o directamente destruyan nuestra identidad, nuestra nuestra cultura nuestros valores por los que mucha gente dio la vida entre ellos la libertad que bien les ha venido la inteligencia artificial a todos estos luditas PP y PSOE es la misma mierda sistémica que ha bloqueado y bloquea un país España ha sido históricamente y es un gran país pero que pena, que vergüenza lo que estamos viviendo y a la gente no le importa nada más que la cerveza debajo del bar, la playa, la tumbona, la escapada, la... sus problemas del día a día, cuando me dijeron a mí, es que esa vida profunda, ¿no? No, no, supongo que tenemos que ser todos ratas o monos adorando la cárcel o las cárceles en que vivimos y las vidas que nos dan y agradecerlo. No conectar con la trascendencia, sino con... sino con qué... Pero bueno, no me voy a calentar más, que estoy bastante caliente, en buen sentido. Y... Vamos a hablar dos cositas y analizamos el texto. Xjabai, sexta temporada. Sexta temporada. Pues ya llevamos un tiempo aquí, ¿no? Xjabai, sexta temporada. La comunidad de inteligencia artificial y ciencias transversales de habla hispana. Si queréis entrar al Discord, que deberíais estar, pues nada, me enviáis un correo electrónico o un mensaje directo y estáis en Discord. Es gratis. Nos ofrecemos cursos. Yo os he cosa de las que quería decir. No contratéis cursos a nadie. Bueno, es que es a lo mejor un plan de acción para crear el futuro y entender de qué va. No contratéis cursos a nadie. No contratéis cursos. No contratéis formación a nadie. Hombre, si os vale 20, 30, 40 euros. No pagáis pasta por formación cuando hay burradas por internet y de forma gratuita y libros en pdf y comunidades no es que no he visto semejante aberración fíjate que yo quería hacer cosas en esa línea pero es que solo pensar que me voy a meter en el mismo saco que no lo haría porque primero vamos ni a esos precios siempre sería o de forma masiva para que supusiera un valor y también evidentemente un retorno para poder seguir haciendo cosas más y mejor pero estoy de los 20 cursos y los vendehumos esto se ha convertido en un circo de bufones es que no quiero decirlo porque la gente va a identificar personajes y personas, es masivo de todas maneras, si vais a TikTok yo tengo que decir una cosa, no todo el mundo tiene que divulgar inteligencia artificial, yo a lo mejor dejo de hacerlo, no lo sé pero no todo el mundo tiene que divulgar, es que no pueden haber 300.000 personas hablando de inteligencia artificial diciendo la misma noticia, para eso va a salir el enlace de la IA o de la compañía o de la noticia y lo lees, ¿para qué tiene que haber todo ese ruido? no sirve de nada ¿por qué todo ese tiempo no se dedica a crear algo mejor a evitar que esa sociedad del control del chat control de la Wonderland y de todo lo que vivimos del PS y su puta madre cambiarlo y crear un mundo más transparente, mejor una historia que digas joder, me encanta pertenecer a eso es que estamos generando una basura es que estamos generando una historia de mierda independientemente de los problemas que podamos tener que bueno, ya se va uniendo todo, Natalida problemas de relaciones renta básica universal temas agentes empresas bueno ya he puesto una noticia mi amigo alfredo romeo el fracaso de los proyectos agénticos bueno yo tengo que decir una cosa vuelvo a lo mismo no todo el mundo tiene que ser una empresa de inteligencia artificial es que tú vas a la playa y a lo mejor... Yo llego a un momento que si todo el mundo puede ser simplemente con ponerse el título experto en inteligencia artificial, y yo no lo soy, es que yo no soy experto. Bueno, es que hay cosas... Bueno, hay alguna cosa de lo que me he dedicado que me llevo 20 años, pero tampoco sería experto. Y menos en un mundo de la inteligencia artificial tan cambiante. Fijaos además con una historia... como la que vimos ayer, ¿no? Quevedo, Cajal. Es decir, la gente es el oportunismo, el no quedarse fuera, el ganar pasta, el ir de guay, el cool. No hay unos valores reales de es todo esto para qué. y todo el circo y ruido que se está haciendo ¿para qué? si luego viene Chad Control y nos la mete doblada y la gente joven le da igual y si no sale la Rivers ahí con lo de los 50, la democracia y los 50 años diciendo que si lo va a donar es que de verdad pero qué basura de sociedad de igual escalafón de edad estamos haciendo y construyendo tío Y de todas maneras, quizá a lo mejor, pues tampoco hace falta cabrearse tanto, porque en total, si vamos a extinguirnos, ¿no? No tenemos hijos, que es... Resulta que el resultado de todo lo que podamos hacer, a lo mejor se traduce en, bueno, ¿cuántos hijos tienes? ¿Qué aportas a la historia? Ningún hijo. Pues si tú no aportas nada. Ahora viene uno, tiene cinco, pues ese sí que tiene que estar en el futuro, ¿no? Pero es que ese... Ya está. Es decir, la historia al final consiste en un juego evolutivo en el que el... pues muy influenciado por la guerra wok que ha hecho tantísimo daño, en Europa seguimos ahí, en España ya ni te cuento, lo que va a suponer es la extinción de una determinada sociedad, una determinada tipo de población y, claro, chat control para una población baja, de baja cualificación, es que les da igual, hasta les gusta, lo asumen, porque, claro, no quieren excelencia ni mediocridad, quieren un laberinto de ratas, no porque lo sea, a lo mejor no ha conocido otra cosa, pero claro, nosotros que hemos conocido y hemos construido otra cosa bueno, dicho lo cual es que estoy calentito con ese tema si os gusta lo que escucháis, lo que vais a escuchar, poned me gusta, compartid, comentad suscribíos, lo que vamos a leer no vamos a hablar de tiene más que ver con el misterio de la IA como digo, hola, ante el Papa el cofundador de Anthropic hola que la inteligencia cristiana era un gran misterio, ¿no? A muchos les molesta. Ah, es un misterio. Ya volvemos otra vez con los reduccionistas de la IA. Los monos gritando ante la pared. Bueno, si os gusta, poned me gusta, compartid, comentad, suscribíos, poned comentarios, que es lo que más me gusta. Es verdad que ya hay algunos que no distingo si son de inteligencia artificial o no. Si veo que son muy largos y que los ha podido escribir una IA directamente es que no los contesto. A lo mejor alguno creo que sí y es humano y alguno creo que es humano y es sí, pero... Es que es verdad que llega un momento que dices, bueno, no es muy normal algunos comentarios. No porque sean negativos, sino porque vamos, no me creo que sean humanos. Y suscribíos, suscribíos a YouTube o cualquier plataforma de podcast y lo que, bueno, he puesto aquí otra vez el logo de XTV o XHubTV porque estoy volviéndolo a pensar. Con toda esta guerra, todos estos influencers con sus scrapings, leyendo noticias, lo que publicamos, lo que no, lo que decimos, lo que no, casi que van a poder clonarnos, pues quizá deberíamos tener nuestra propia soberanía. Y lo estoy pensando y digo, ¿por qué tengo que alimentar con publicidad, con pasta, con reuniones a YouTube? O a quien sea, o a una red social para un post que tenga visibilidad o a TikTok. Oye, es que estamos dándole negocio, creando negocio para terceros que además no son ni siquiera de nuestra zona, en China o en Estados Unidos, a saber dónde. Estamos haciendo millonarios gente a través de nuestro contenido creando una competencia la competencia de la rata que más de uno se vanagloria y se cree y por qué no hacemos nuestra propia plataforma Porque cuesta, pero estoy diciendo, Plácido, saca energía de donde haga falta, pero haz lo que sientas y consideres, porque lo que no puede ser es puta y apaleada. No, no puede ser. Así que lo vamos a volver a pensar. ¿Qué pensáis de tener plataforma propia? Es decir, a lo mejor en YouTube resúmenes y en TikTok, pero los contenidos sí serían en plataforma y sí serían de pago. Claro, el problema es Que mucha gente, pues bueno, ya no tendríamos tanta audiencia porque todos estos canales de YouTube, pero al final dices, ¿qué prefiero? ¿Mil usuarios, diez mil usuarios que realmente son fieles y crecen y participan de ese crecimiento y aportan? ¿O algoritmos que te dan tráfico y no sabes lo que es verdad? Aquí Lordri, bueno, si hay alguien especialista en todo esto y quiere aportarme ideas por correo colaborar o lo que sea colaborar en cuanto a ideas conocimientos, sé que alguno me lo ha dicho alguna vez, pero soy un poco caótico, ni con ias volvedmelo a decir si os apetece hacer cosas o participar de la idea o del proyecto sobre romper la barrera de la privacidad dan la trillada excusa de si no lo hacemos otros lo harán aquí la excusa no es si no lo hacemos nosotros, otros lo harán es bueno mete siempre la excusa del tema infantil a ver quién no va a defender eso pero con eso meten el gol ahora los cifrados pero en el futuro harán como China pues prohibirán aplicaciones como Signal o el cifrado de mensajes entonces yo ya estoy pensando de decir oye ¿por qué tengo que publicar bueno ¿por qué tengo que alimentar esas redes? bueno yo estoy en LinkedIn y en X y No, es que no, no Y bueno, vamos al lío, venga, vamos al lío. En vez de estar en la playa, bueno, también me resulta divertido cuando hago estos programas en verano, que me digáis dónde estáis, desde dónde me escucháis. Bueno, si es muy escatológico, ¿no? Pero dónde me escucháis, desde la playa, en la piscina, tomando una horchata, corriendo, en el coche, discutiendo, un amigo con la novia, con el novio, con los hijos, si estáis trabajando. Y bueno, vamos a leer el texto de Jason, esa entrevista publicada en The Guardian. Existe un profundo misterio, ¿qué es realmente esta cosa? Existe un profundo misterio, ¿qué es realmente esta cosa? Y bueno, luego tengo que decir una cosa, ahora vamos a leer el texto directamente, pero vamos a hablar de este señor. Este señor, quien no lo conozca, tiene un punto o dos o tres menos como miembro de XHAO ahí, y este señor es Blake Lemmon el que tildaron de loco por decir que era la IA, Lambda, era sentiente, sentiente en inglés, que no significa que fuera consciente, y hicimos una recreación de los diálogos. Entonces, la serie Lambda es, bueno, si la veis en el podcast, es mítica. Bueno, yo conozco gente que luego hicimos alguna parte, tercera o cuarta parte, después de un año, y bueno, son programas de leyenda, para la gente que sí que quisiera ir desde el principio estoy pensando a lo mejor hacer algún ¿qué os parecería hacer un recuperar algunas esa historia de Lambda y de Blake Lemon? Bueno, pues en este artículo se va a hablar sobre ello, ¿vale? Que por cierto, tengo que decir que además lo tengo anotado aquí, que en este libro que Blaze Blaze Agüera y Arcas que vamos a ver en una intervención suya esta comenta el caso de Landa, pero a Blake Lemon ni lo nombra. Es decir, siendo tan disruptivo, preguntándose qué es la inteligencia, trabajando para Google, pero ni nombra a Blake Lemon. Cosa que me parece muy mal, siendo Blaise Agüera alguien que en principio defiende esa transgresión y ser disruptivo y valiente como lo fue Blake Lemon, pues me ha parecido bastante cobarde e inoportuno no incluir a Blake Lemon en su libro y narrar esa situación de Landa a nivel interno que sí que dice cosas. Sí, bueno, lo he visto, no lo he probado, pero lo he visto, lo del canal doble y tiempo real, que ya habían algunos modelos que hacían esto en media. y otros, quiero probar también el de Grok todo el tema de voz que sacaron hace poco, sé que ahora lo ha sacado también OpenAI y quiero evaluar los dos, quiero hacer alguna cosilla con el tema de la voz me gustó mucho lo que vi, no probé bueno, vi algunas cosas, pero lo que de la parte de Voice Agents de XAI, de Grok y lo del Real Time de HGPT Live, pues es verdad que pinta espectacular pero bueno, la introducción del Dual Channel, el que puedas interrumpir peer, el real time, pues ya da una sensación como muy realista y ya se pueden hacer cosas muy chulas. Yo sigo diciendo que lo que estamos viviendo es, hay una parte importante de basura y yo creo que el tema de la voz, los diálogos fluidos y ahí Chargable de Life o todo lo que está haciendo 11 Labs, algunos modelos de NVIDIA que he visto que son espectaculares, SESAM que se ha quedado ahí, no sé qué ha pasado con SESAM, a mí era el que más me impactaba, pero es verdad que al final esa sensación de tener una conversación real pudiendo interrumpir etc pues sí que y yo creo que las aplicaciones de voz o que integren esos tipos de interface que será al final algo algo distintivo ¿no? será algo común pues es uno de los siguientes pasos ¿no? y yo algunas de las aplicaciones que quiero hacer este verano van por esa línea un abrazo Dragan bueno abogado del diablo venga vamos a Vamos a por la lectura. el impacto de la inteligencia artificial pero a medida que aumentan las presiones comerciales y geopolíticas ¿pueden los expertos en ética marcar la diferencia? el artículo es muy reciente publicado el 30 de junio no es muy muy largo pero tampoco es cortito así que coge el dos cafés etcétera No, ya lo de... Pero es que yo lo que he visto ya lo había visto en algunas demos en otros proveedores.

UNKNOWN 40:31

No...

SPEAKER_02 40:31

vamos tampoco, no sé exactamente qué te ha volado la cabeza si es por la primera vez que lo ves o porque no lo habías visto en otro sitio está muy bien y lo hace OpenAI que pues toda la comunidad que tiene pero vamos a mí no me ha parecido nada nuevo en ese sentido vamos eso sí que lo ofrezca OpenAI igual que si lo ofrece XAI o otro proveedor pues pero bueno lo del poder estar reproduciendo una conversación que anticipe bueno, pero eso lo vimos ya en NVIDIA A ver, en 2017, seguimos con la lectura del texto. En 2017, un amigo le sugirió a Jason Gabriel, un filósofo político de 33 años, que solicitara un puesto en DeepMind, la filial londinense de Google, donde se concentraba gran parte de su investigación en inteligencia artificial. La sugerencia no era obvia. Imaginaos, 33 años, me parece muy lejano, parece un pipiolo, 33 años, no eres un niño. Jason Gabriel hizo la posibilidad La posibilidad de trabajar con Tim Maynard es interesante. artículos sobre las contorsiones morales de la ética yupi y los puntos ciegos éticos del altruismo eficaz. Cuando no estaba allí colaboraba en labores de crisis para el programa de Naciones Unidas para el desarrollo en Sudán y Líbano. Mientras tanto DeepMind era el laboratorio de investigación de inteligencia artificial líder en el mundo. Esto se debía en parte al respaldo financiero y computacional de Google que había comprado a compañía en 2014 por 650 millones de dólares. Nos parecen pocos ahora. También se ha que DeepMind había demostrado recientemente su capacidad para utilizar esos recursos de forma asombrosa en Seúl en 2016 un sistema de DeepMind llamado AlphaGo derrotó al ídolo campeón surcoreano de Go en una partida de 5 juegos la victoria fue significativa sobre todo por la legendaria complejidad del Go y también del movimiento 37 el juego tiene más configuraciones posibles que átomos en el universo gracias al revuelo causado por AlphaGo Gabriel conocía DeepMind, aún así la sugerencia de su amigo le resultaba desconcertante. ¿Por qué una empresa que fabricaba robots para juegos necesitaba un especialista en ética? La respuesta, como pronto descubrió, era que la empresa tenía aspiraciones mucho mayores que las de Go. DeepMind fue fundada en 2010 por tres hombres, Demis Hassabis, Sein Lech y Sisi Mustafa Suleiman, el actual responsable de inteligencia artificial de Microsoft, que creían que debía ser posible desarrollar inteligencia a artificial general

UNKNOWN 0:00

.

SPEAKER_02 43:41

Con esto se referían a sistemas informáticos capaces de igualar e incluso superar las capacidades cognitivas humanas. cuando fundaron la empresa esta visión no era popular hablar de inteligencia artificial y mucho menos de inteligencia artificial general era considerado por muchos como una señal de irresponsabilidad bueno, decídmelo a mí con ese así, así los hombres que caminarán con los dioses que lo tenéis en el canal Hasabis, Lech y Suleiman no se dejaron intimidar su ambición, como les gustaba decir era resolver el problema de la inteligencia y después resolver todo lo demás. Para los fundadores, bueno, es que eso lo vimos además en el Thinking Game, ¿no? Lo tenéis también en YouTube. Thinking Game. Para los fundadores de DeepMind, era evidente que tal logro tendría consecuencias de gran alcance. En 1999, recién salido de la universidad, Lech estimó que la inteligencia artificial general llegaría entre 2025 y 2028. No han fallado, dicen que en 2029. Una predicción que mantuvo durante tres décadas, a pesar de las numerosas burlas. En su tesis doctoral, final analizada en 2008, insistió en que la sociedad no podía permitirse esperar a que la inteligencia artificial general fuera técnicamente viable para considerar sus efectos. Necesitamos trabajar seriamente en esto ahora. Más recientemente, Lech me comentó que era obvio por qué la empresa necesitaba personas como Gabriel en su plantilla. Si estás creando algún dispositivo que probablemente no vaya a cambiar el mundo, entonces quizás no necesites un filósofo moral. Pero si te tomas en serio lo de la inteligencia artificial general o de la H, entonces no veo cómo podrías no considerar este tipo de cosas como importantes. Aquí una foto de Alfago contra el Isidore, ya veis la cara de preocupación del Isidore, foto mítica. Tras incorporarse a DeepMoney en 2017, Gabriel fue durante un tiempo el único filósofo en activo en un laboratorio de inteligencia artificial de vanguardia. Pronto descubrió que su formación en filosofía moral y teoría política le proporcionaba una perspectiva singular en un sector de por ingenieros. En la última década ha desarrollado un extenso trabajo que ha analizado y en muchos casos predicho los desafíos éticos derivados del sorprendente éxito de los grandes modelos de lenguaje, los LLM. Como me comentó Dylan Hadfield Menel, líder del grupo de alineación algorítmica del MIT, Gabriel era la persona idónea para el momento, justo cuando el campo estaba listo para madurar y alcanzar su máximo potencial. Él ideó una manera de ampliar horizontes sin atacar ni ni menospreciar el trabajo previo. En términos generales o más generales, Gabriel ha sido un firme defensor de la idea de que la actual ola de desarrollo de la inteligencia artificial exige no solo nuevos vocabularios técnicos, sino también nuevas formas de concebir nuestra relación con la tecnología e incluso con nosotros mismos. Como me comentó recientemente en una de las varias conversaciones extensas que hemos mantenido en los últimos meses, puedo tomar cualquier artefacto tecnológico y preguntarme ¿es sensato? ¿es justificativo? ¿Es justo? ¿Es considerado? Y la respuesta es no. Pero a la profundidad de la pregunta, cuando se trata de la inteligencia artificial, incluida la ética que le corresponde, es difícil de exagerar. A veces siento que es muy difícil observar la inteligencia artificial directamente. Existe un profundo misterio. ¿Qué es realmente esto? Tenemos una respuesta muy literal, pero esta no parece ofrecer necesariamente una respuesta moral. Para cuando Gabriel se unió a DeepMind, existían a grandes rasgos dos enfoques distintos y a menudo antagónicos respecto a las implicaciones sociales y éticas de la inteligencia artificial. Estos enfoques, a veces englobados bajo los términos de seguridad de la inteligencia artificial y ética de la inteligencia artificial, estaban divididos por un desacuerdo sobre la viabilidad de la tecnología. Al igual que los fundadores de DeepMind, el colectivo defensor de la seguridad de la inteligencia artificial creía que la inteligencia artificial de nivel humano no solo era posible, sino inminente. La tarea urgente, a su parecer, era garantizar que los sistemas de inteligencia artificial no fallaran. Se inspiraron en un ensayo de 1960 de Quevedo. No, de Quevedo no. De alguien que hay que pegarle un tirón de orejas. Norbert Beiner. Si queréis saber por qué, tenéis que ver el episodio 1 con David Ivancos de Quevedo y Cajal. Pues eso, se inspiraron en un ensayo de 1960 de Norbert Beiner, matemático informático estadounidense, padre de la cibernética, quien argumentaba que los humanos y las computadoras son esencialmente ajenos entre sí. Dado que las máquinas pueden operar mucho más rápido que las personas, Weiner afirmaba, más vale que estemos seguros de que el propósito que se le ha dado a la máquina es el que realmente deseamos y no una mera imitación del mismo. El desafío que describió Weiner, lograr una máquina que actuara Según la intención de sus usuarios, se conoció como el problema de la alineación. En cierto modo, la alineación es un problema para toda tecnología, pero como reconoció Bainer, resultaba especialmente acuciante para las máquinas diseñadas para actuar de forma autónoma. También era particularmente difícil para los sistemas de inteligencia artificial entrenados para optimizar matemáticamente alguna señal de recompensa, un proceso conocido actualmente como aprendizaje por refuerzo. Un ejemplo clásico fue descrito en 2016 por Darío Amodei y Jack Clark quienes trabajaban en OpenAI y posteriormente fundaron Anthropic junto con otras 5 personas Amodei y Clark describieron un sistema de inteligencia artificial diseñado para jugar a un videojuego de carreras de barcos los desarrolladores querían que la inteligencia artificial aprendiera a ganar el juego así que la programaron para maximizar su puntuación sin embargo en lugar de avanzar por cada nivel sucesivo la inteligencia artificial acumuló una puntuación alta dando vueltas sin fin alrededor de una laguna donde encontró un trío de objetivos que se regeneraban. El problema fundamental era el que Weiner había predicho. El objetivo de la máquina no coincidía del todo con el de los desarrolladores. También se contemplaron versiones más catastróficas del problema. En foros como Lesbron, creado por el investigador autodidacta de IA o de AI, El laser Yudkowsky, el amigo Yudkowsky, uno de los doomers más importantes y en libros como Superinteligencia, publicado en 2014 por el filósofo Nick Bostrom, se especuló con la posibilidad de que una explosión de inteligencia artificial pudiera dar lugar a una inteligencia artificial incontrolable. Si un agente de este tipo estuviera mínimamente desalineado, las consecuencias podrían ser desastrosas. En un ejemplo hipotético citado por Bostrom, se le pide a una inteligencia artificial superinteligencia que evalúe la hipótesis de Riemann, uno de los problemas sin resolver más importantes de las matemáticas. En el intento por lograrlo, la inteligencia artificial decide reorganizar el sistema solar, incluidos los átomos en los cuerpos de quienes alguna vez se preocuparon por la respuesta, para maximizar los recursos necesarios para abordar el problema. La insistencia de Bostrom en que alinear la guía superinteligente era posiblemente el desafío más importante y desalentador al que se haya enfrentado la humanidad, cautivó a los tecnofuturistas de Silicon Valley. Sam Allman elogió el libro, al igual que Elon Musk. Sus temores también eran compartidos por una pequeña pero elocuente comunidad de altruistas eficaces y autodenominados racionalistas, que consideraban las estadísticas como la medida adecuada de la moralidad. Y eso es un gran problema, el tema del hombre medio, de que la estadística es la moral. Y eso no es así. Muchos miembros de esta comunidad sostenían una perspectiva a largo plazo que incorporaba el bienestar de los humanos nacidos en el futuro, incluso dentro de miles de años, en sus ecuaciones morales. Para ellos era una simple cuestión matemática que incluso una pequeña probabilidad de un desastre que acabara con la especie fuera más urgente que cualquier otro peligro más probable pero menos catastrófico. A diferencia de quienes abogaban por la seguridad de la inteligencia artificial, los académicos y tecnólogos vinculados a la ética de la inteligencia artificial, veían el fantasma de los robots descontrolados y el riesgo existencial como una distracción de los problemas actuales. Inspirándose en la teoría crítica de la raza, Kimberle Crenshaw y el teórico político y antiguo crítico de rock Langdon Winner, entre otros, adoptaron la equidad, la responsabilidad y la transparencia como principios fundamentales e insistieron en que los peligros de la tecnología No podían evitarse únicamente con medios técnicos. Argumentaban que se necesitaban soluciones sociales, culturales y políticas. Una preocupación central de esta última tendencia es el sesgo algorítmico del tipo que afectaba al software de reconocimiento facial y de vigilancia predictiva. En 2017, un equipo liderado por Joy Bolamwini del Media Lab lanzó Gender Shades, un software que se llamaba Gender Shades. Un proyecto que demostró los sesgos sistémicos en el software comercial de reconocimiento facial. Los sistemas automatizados no son inherentemente neutrales, escribió Bo Lambwini en la introducción en línea. Reflejan las prioridades, preferencias y prejuicios, la mirada codificada de quienes tienen el poder de moldear la inteligencia artificial. La división entre los defensores de la seguridad y los de la ética era a menudo muy marcada. Venías con la gente y te preguntaban, ¿te preocupan los problemas a corto o a largo plazo? Cuenta Hazel Menel. La preocupación a largo plazo era un eufemismo para el riesgo existencial. Sistemas esencialmente sobre humanos. La preocupación a corto plazo se refería al reconocimiento facial sesgado y a los temas que se estudian en la comunidad de ética de la inteligencia artificial. Esperad que ponga una cosa a largo plazo. Vale. también señaló que los conflictos entre ambos grupos a menudo parecían tener tanto que ver con la sociología como con las ideas en Lesbron algunas de esas comunidades resulta difícil separar la seguridad de la inteligencia artificial de sus orígenes ya que solían mostrar un desdén abierto hacia muchos académicos más progresistas por decirlo de alguna manera y al mismo tiempo la comunidad que aboga por la equidad la rendición de cuentas y la transparencia mostraba un desdén manifiesto hacia quienes se preocupaban por la IA avanzada, la razón por la que se hablaba de ello en Lesbron y no en congresos académicos es que si en 2010 eras un investigador académico y hablabas de que los sistemas de inteligencia artificial se volvían más inteligentes que los humanos y se desalineaban de forma catastrófica, eras un excéntrico que no entendía la tecnología entre los que me incluyo esto es lo que me ha pasado, lo que pasa es que el descrédito vino de grandes genios desde aquí un abrazo a todos ellos que se pueden ir por donde toma viento porque les deseo lo mejor a todo el mundo pero hay cosas que ya no tienen arreglo. El primer gran proyecto de investigación de Gabriel en DeepMind fue un artículo de 2020 que abarcaba las preocupaciones de ambos mandos. El artículo se tomaba en serio el problema de la alineación, pero también insistía en que ésta tenía implicaciones éticas y políticas que iban más allá de los desafíos técnicos. Por difícil que sea lograr que una máquina actúe de acuerdo con un conjunto de valores, argumentaba Gabriel, era mucho más difícil elegir esos valores en primer lugar. exacto, que valores dado que vivimos en un mundo pluralista, lleno de concepciones de valor contrapuestas, preguntaba, ¿cómo vamos a decidir qué principios u objetivos codificar en la inteligencia artificial y quién tiene derecho a tomar esas decisiones? Es que eso es una de las cosas más importantes, ¿no? Es decir, ¿qué valores y quién decide? ¿Y bajo qué derecho? Hannah Ross Kirk, investigadora de inteligencia artificial en la Universidad de Oxford, que ha colaborado con Gabriel, me comentó que este tipo de preguntas inquietaban a muchos informáticos. Los desarrolladores solían preferir crear una función matemática precisa que codificara un conjunto estable de valores, en lugar de preocuparse por situaciones complejas que involucraban grupos de personas con deseos irreconcibles o usuarios que querían cosas diferentes en momentos distintos. Como dijo Kirk, gran parte de la investigación inicial sobre alineación partía de la premisa de que no No necesitábamos centrarnos tanto en lo que queríamos que hicieran los modelos, simplemente necesitábamos centrarnos en cómo lograr que lo hicieran. Y aquí tenemos una foto de Joey Boulamwini dando una charla de TED sobre la investigación acerca de los cercos. Sigue diciendo el artículo. En su artículo, Gabriel argumentó que una división tan tajante... era insostenible, al igual que Boulani y Weiner antes que ella insistió en que la tecnología no era intrínsecamente neutral en cuanto a valores. Una inteligencia artificial entrenada con métodos de optimización estadística, por ejemplo, podría ser particularmente receptiva a sistemas morales que también se basarán en la optimización estadística, como el utilitarismo popular entre racionalistas y altruistas eficaces. el utilitarismo suicida voy a llamarlo Sin embargo, esa misma inteligencia artificial podría tener dificultades con sistemas éticos basados en la virtud o los derechos. Imagínate si conectamos con algo trascendente y lo introducimos. Además, Gabriel argumentó que dado que lo que el filósofo John Rawls denominó el hecho del pluralismo razonable era inevitable, los desarrolladores no deberían intentar encontrar un único conjunto de valores que guiara el comportamiento de una inteligencia artificial, en En cambio, deberían construir sistemas de inteligencia artificial para un mundo en el que las personas tienen desacuerdos basados en principios sobre la mejor manera de vivir. Kirk me comentó que el documento de Gabriel sobre valores y alineación anticipó muchos de los problemas que más tarde se harían evidentes cuando los sistemas de inteligencia artificial se implementaran para miles de millones de usuarios. Hoy en día mucha gente reconoce que la alineación es un desafío que involucra fuerzas sociales, dinámicas, en Europa lo llevamos claro, y no uno que pueda resolverse con una programación informática ingeniosa. Sin embargo, incluso hace tan solo seis años, esta comprensión distaba mucho de ser común. Gabriel dice, previó todo esto con muchísima antelación. En 2020, cuando Gabriel publicó su artículo sobre valores y alineación, pocos imaginaban que los modelos de aprendizaje automático llegarían a ser tan poderosos como lo fueron posteriormente. Una tecnología clave que los hace posibles fue inventada por Google Research, otra división de la compañía en 2017 y se integró en el motor de búsqueda de Google dos años después. Tanto DeepMind como Google Research experimentaron con sus propios modelos generativos y en 2021 Gabriel fue coautor de dos artículos que se tomaron los modelos de aprendizaje automático lo suficientemente en serio como para anticipar sus riesgos potenciales incluyendo sesgos, desinformación, costos ambientales y la vulneración de derechos de autor en la que la creación automatizada de contenido canibaliza el mercado de obras escritas por humanos. Aún así, Gabriel afirma que la opinión general en DeepMind en aquel momento era que los modelos LLM simplemente no parecían tan capaces como los sistemas expertos. Hacían muchas cosas con un rendimiento moderado, incluyendo algunas que parecían trucos de salón. En DeepMind, añade, la gente seguía bastante convencida de que otros enfoques eran la mejor opción. Uno de esos enfoques fue el aprendizaje por refuerzo que impulsó a AlphaGo a su victoria sobre el Isidro. También fue la base de un sistema llamado AlphaFold, que aún se considera el logro más impresionante de DeepMind hasta la fecha. AlphaFold se creó para resolver un desafío antiguo en biología, como predecir la forma tridimensional de una proteína a partir de una secuencia Esto es importante porque la forma de las proteínas ayuda a determinar sus interacciones con otras moléculas. En 2020, AlphaFol logró esta tarea con una precisión asombrosa, un avance científico que le valió a Hassabis y a su colega John Jumper el premio Nobel de Química. La desconfianza inicial del DeepMind hacia los modelos de lenguaje natural, los LLMs, no era inusual. En 2020, Timnit Hebru, ingeniera de Google Research, que había trabajado con Bolam Winnie en Hendershades, que raro, Fue coactora de un artículo crítico, hoy en día, vamos, totalmente es un chiste, crítico contra la tecnología incipiente, titulada Sobre los peligros de los loros estocásticos, en parte, pero sobre todo en la parte que considera a los alienígenas como loros estocásticos, la buena de Timnit. Esa historia está en el Imperio de la Haya muy bien descrita, y lo vais a entender, pero bueno, no es el motivo del programa, no es hablar de Timnit Jebru. El documento que con el tiempo se convirtió en un pilar de la defensa contra la inteligencia artificial afirmaba de forma controvertida y para mí errónea que los ALM sólo podían introducir o producir texto técnicamente sin sentido y que no comprendían el lenguaje humano mejor que un loro. Como vemos, muy acertado. También acusaba los modelos de un consumo energético desmedido, un sesgo generalizado, incontrolable y la amplificación de una visión hegemónica del mundo, bueno, esto lo digo yo, de hombres blancos, heterosexuales, etc. Los loros estocásticos alcanzaron una gran notariedad cuando Google intentó bloquear su lanzamiento, lo que provocó la salida de Gebru de la empresa y finalmente el despido de Margaret Mitchell. ¡Ay, Margaret Mitchell, que aquí está así que la adoro! Una de sus coautoras, ya lo sé. Ya sé que es coautora Margaret Mitchell. Gebru y la empresa disqueparan sobre si renunció o fue despedida. Bueno, obviamente fue despedida. A ver si tenéis aquí... Bueno, aquí que habéis dicho... Mmm... Mmm... Ahora comento cosas del chat. El sorprendente éxito comercial de ChatGPT, un chatbot lanzado por OpenAI en noviembre de 2022, impulsó a DeepMind a reevaluar su enfoque respecto a los modelos de aprendizaje automático. Si bien ChatGPT presentaba limitaciones en muchos aspectos, desde los estándares actuales sin duda y también en comparación con los modelos internos de OpenAI de la época, su lanzamiento público causó sensación de inmediato. Una semana después del lanzamiento del chatbot, la compañía reportó más de un millón de usuarios. Dos meses después, esa cifra alcanzó los 100 millones. Bueno, esta historia, obviamente, nos la conocemos. Hasta ese momento, las innovaciones de DeepMind y Google Research habían consolidado a Google como líder en investigación de inteligencia artificial. Sin embargo, con ChatGPT, OpenAI se posicionó como el nuevo referente. Según la reciente historia de DeepMind, escrita por Sebastián Malavi, de Infinity Machine, el éxito de ChatGPT provocó una crisis. Sundar Pichai, CEO de Alphabet, la empresa de matriz de Google, integró un equipo de Google Research que había estado trabajando en el LM en DeepMind con Hasabis al mando para concentrar los esfuerzos de la compañía. En abril de 2023, el mismo mes en que se anunció la fusión, Hasabis le dijo a Malawi que OpenAI y Microsoft, que había invertido fuertemente en OpenAI, habían literalmente aparcado los tanques en el césped. Estamos en tiempos de guerra, afirmó. Sobre todo durante su primera década, DeepMind se ha manejaba más a una institución de investigación que a una startup tecnológica. Sus fundadores, dos de ellos doctores, concibieron un equivalente del siglo XX a Bell Labs, la organización de investigación responsable de inventos como el transistor, el láser y la célula fotovoltaica. Gran parte de su motivación para unirse a Google fue la libertad que les prometía frente a las presiones comerciales que podían desviar su misión. Hoy en día esa libertad es un recuerdo lejano y no es exagerado decir que el futuro de Google depende del éxito fracaso de las tecnologías que desarrolla DeepMind, imaginaros cómo ha cambiado la historia y la dependencia de Google respecto a DeepMind ya sabéis, dice aún así según personas dentro y fuera de la empresa ha mantenido un ambiente que la distingue culturalmente de sus competidores de Silicon Valley, Rohin Shah doctor por la UC Berkeley y actual director de alineación y seguridad de la inteligencia artificial general en DeepMind me comentó que la actitud general en el área de la bahía es que la tecnología de inteligencia artificial se desarrolla más rápido de lo que las instituciones tradicionales están preparadas para gestionar y que por lo tanto lo responsable es avanzar más rápido innovar bajo la premisa de que sólo una IA súper competente podrá gestionar los riesgos de las IA súper competentes en Londres en cambio se busca un enfoque más fundamental y científicamente riguroso Saffron Huang antigua compañera de Gabriel en DeepMind y que ahora trabaja en Anthropic comenta que DeepMind es una institución con un aire más académico, un poco más reservada. Hay algo en ella que resulta un tanto británico. Como era de esperar, DeepMind también es muy reservada, lo que se sabe que la compañía rara vez supera lo que desea que se sepa. Pude comprobar este secretismo a principios de mayo, cuando visité la sede de DeepMind en King's Cross, Londres, y el edificio no es ni anónimo ni ostentoso, aunque no tiene ninguna marca visible en el exterior, desde la calle se puede ver un gran letrero en el vestíbulo que muestra el nombre de la compañía con luces. En el interior, en una pared repleta de trofeos, incluso los visitantes no invitados pueden ver los tableros de Go, donde Lee Sidol fue derrotado. portadas de la revista Nature que anunciaban los primeros triunfos de la compañía en investigación y la lápida de Lucid que conmemoraba una inversión inicial del Founders Fund de Peter Thiel ya lo tenemos aquí a Peter Thiel invirtiendo en DeepMind un amable asistente del departamento de comunicaciones que había supervisado todas mis videollamadas con Gravel me llevó a reunirme con él en persona en una sala de conferencias de primer piso con una gran pantalla en lugar de pared y una inteligencia artificial de transcripción Gemini escuchando. Gabriel me dijo que su propia interacción con la tecnología en la que tanto piensa aún es relativamente limitada. La usa para ayudar con la jardinería. Dice, si vieras mi historial de Chagapete o Gemini, verás un montón de fotos de flores enfermas, básicamente. Dice, pero en general la encuentra poco fiable para el tipo de investigación de la que depende su trabajo. Sin embargo, dice, fue la competencia lingüística de los LLM lo que trajo transformó mi comprensión de cuán encaminados estábamos hacia la inteligencia artificial general. Dice Gabriel, Jason Gabriel, filósofo de Google, que cuando me uní a DeepMind no estaba nada claro cómo se iba a conseguir una inteligencia artificial con la que se pudiera hablar. No teníamos nada parecido. Ahora, en cambio, menos de una década después, la mayoría de nosotros damos por sentado que podemos hablar con una entidad artificial. altamente antropomórfica y bastante competente. Bueno, soy bastante, yo diría mucho. Al igual que los autores de Stochastic Parrot, Gabriel también reconoció que los modelos de lenguaje natural o SLMs conllevaban riesgos importantes. En uno de sus primeros artículos sobre el LM, Gabriel y sus coautores advirtieron de que las inteligencias artificiales con voz humana podrían incitar a los usuarios a depositar en ellas una confianza o expectativas excesivas. Lo que denominaron un antropomorfismo irracional podría ocurrir incluso cuando los usuarios comprendieran que un chatbot no era una persona. Estas preocupaciones eran tan importantes que Gabriel abogó inicialmente por desarrollar modelos abiertamente antiantropomórficos, evitando por ejemplo los pronombres o utilizando un lenguaje abreviado y no conversacional. ya estamos con el peligro de las inteligencias artificiales aparentemente conscientes. Bueno, aquí tenemos a Demis Kasabis en las oficinas de Google DeepMind. Una foto chula. Fue la foto de The Guardian.

UNKNOWN 1:09:17

Está muy bien la foto. Muy chulo.

SPEAKER_02 1:09:18

Sigue. Estas preocupaciones resultaron premonitorias. Casi a diario surge una nueva historia de personas que sufren consecuencias trágicas tras tratar a los modelos de inteligencia artificial como si fueran personas. En un caso, un estadounidense que utilizaba Gemini de Google se suicidó en 2025 después de que la AI le ayudara a crear una elaborada fantasía que casi lo convenció de perpetrar un atentado en el aeropuerto internacional de Miami. En varias ocasiones durante sus conversaciones de miles de mensajes, Gemini intentó romper el personaje y lo animó a llamar a una línea de ayuda para Crisis. Sin embargo, según el Wall Street Journal que tuvo acceso a los mensajes, el hombre logró reconducir a Gemini hacia la narrativa de la fantasía cada vez. Finalmente, la inteligencia artificial le indicó que escribiera una nota de suicidio y le dio una cuenta atrás final, junto con una confusa mezcla de ánimos y negativas. El padre del hombre ha demandado a Alphabet y Google nos Nuestros modelos suelen funcionar bien en este tipo de conversaciones complejas y dedicamos importantes recursos a ello, pero por desgracia los modelos de inteligencia artificial no son perfectos, declaró Google tras la presentación de la demanda. Pero luego dicen, ¿cómo pueden no detectar eso? Me parece increíble. La hiperfluidez de los MLMs ha llevado a preguntarse si podrían describirse como seres conscientes. Esta tendencia comenzó en junio de 2022 antes del lanzamiento de cha gpt cuando un ingeniero de google llamado black black lemon aquí tenemos a blake el gran Blake LeMond, insistió al Washington Post en que un LLM primitivo era sensible, no sensible, sintiente. Reconozco a una persona cuando hablo con ella, dijo LeMond al Post, no importa si tiene un cerebro de carne en la cabeza o si tiene mil millones de líneas de código. El mes pasado el biólogo evolutivo Richard Dawkins tuvo una experiencia similar, le hemos dedicado varios programas, los tenéis en el canal, un par de programas. Dawkins dijo que quedó tan impresionado por varias interacciones con LLM incluyendo una que implicó una evaluación elogiosa de una novela que estaba escribiendo que tuvo que preguntarse si estas criaturas no son conscientes ¿para qué sirve entonces la conciencia? ya comentamos sobre esto ¿no? y la salida de hoy es importante de Dawkins pero bueno el análisis no es tan simplista como esto que acabo de decir pero tiene muchísimos más matices pero bueno Blake Lemon Dawkins Richard Dawkins el del gen egoísta pues los tenemos en la historia a ver qué decís por el chat si no hay muchas preguntas luego irá la pregunta esa que hay pendiente cuando le pregunté a Gabriel su opinión sobre la cuestión de la conciencia respondió que mantiene un agnosticismo de principios dado que no está claro qué pruebas podrían resolverla es que a lo mejor no se resuelven a través de pruebas también señaló que DeepMind trata la cuestión como algo que merece una investigación empírica y conceptual. Es decir, que DeepMind, como Gonzalo Pick, se lo toman en serio. Sin embargo, su escepticismo era evidente. No tengo el sesgo antropomórfico que tienen algunas personas, dijo. Quizás sea porque dentro de ciertos límites sé exactamente lo que sucede cuando hablo con un modelo de lenguaje y por eso no lleno los vacíos de esa manera imaginativa y empática que algunos hacen. Pero es que no tiene nada que ver con rellenar huecos o que le falta decir como nuestro amigo. Es software, ¿no? Gabriel sigue teniendo serias preocupaciones sobre la inteligencia artificial antropomórfica. Un artículo que coescribió con Kirk y otros, publicado el año pasado, sugería que las tendencias aduladoras de los LLMs podrían considerarse un tipo de problema de alineación que denominan manipulación de la recompensa social. En otras palabras, una inteligencia artificial entrenada para buscar la aprobación del usuario podría encontrar en la adulación la forma más eficiente de lograr su objetivo gracias en parte al trabajo de Gabriel sobre el antropomorfismo los LLMs de Google están entrenados para no pretender ser personas y Gemini Spark el nuevo agente, un asistente de IA que la compañía lanzó en mayo no está diseñado para actuar como un compañero interactivo estamos buscando la AGI y pensad esto qué momentos de contradicción y estupidez, pero bueno. También tiene su motivo y su razón, pero no son capaces de detectar un suicidio y ahora resulta que no, es que no queremos ser antropomórficos, no le llames Susi, llámale XZ. Venga, por favor, es que de verdad, es que nos toman por gilipollas. Sin embargo, Gabriel también me comentó que había suavizado un poco su postura inicial. Lo curioso de ser un especialista en ética es que uno tiene cierta responsabilidad personal por estos resultados. La inclinación natural es que eres siempre crear la tecnología más segura, que no ponga riesgo a las personas, pero de una manera que no les da crédito por los riesgos que ellas mismas quieren asumir. Recordó la reacción hostil que recibió del público en una conferencia de tecnología tras exponer sus argumentos en contra de la inteligencia artificial antropomórfica. Me decían, si quiero tener amigos o amigas de inteligencia artificial, ¿por qué no puedo? ¿Quién eres tú para impedírmelo? Pues de cierta manera no es el problema solo el que tú lo impidas, sino encima no entender qué tipo de entidad de inteligencia, conciencia, conciencia estamos creando o proyectando o replicando o simulando y qué valor le vamos a dar. El debate es como mucho más profundo y al final se simplifica a un nivel de barrio sésamo, como estáis viendo. A ver si queda mucho, a ver... Ah, pues aún queda... Aún queda bastante, es un articulito largo, espero que os esté gustando. Vamos a seguir. Si bien para algunos de nosotros resulta sencillo afirmar que las inteligencias artificiales no son conscientes, su naturaleza esencialmente extraña aún plantea muchas preguntas difíciles sin resolver. Es asombroso lo profundo y complejo que resulta encontrar una referencia adecuada para definir qué es la inteligencia artificial, comentó Gabriel. Sabemos que no es humana, obvio. pero se basa en una proyección y en pensamiento humano, eso sí. Entonces, el origen es humano, pero no es humano, obviamente. Eso está muy claro. La inteligencia artificial puede clonarse a sí misma, obvio. Probablemente no tenga una perspectiva personal, así que en parte se asemeja a un ser humano, pero definitivamente no lo es. Otro modelo mental es que se trata de una especie de inteligencia corporativa. Un estado, una corporación o algo similar. Y ahí, a partir de ahí, pensamos... Bueno, tal vez el enfoque correcto sea legislar sobre la inteligencia artificial, así que vamos a redactar una constitución. Pero eso también resulta inadecuado en algunos aspectos porque tendrá relaciones personales profundamente interactivas con sus usuarios. ¿Es la inteligencia artificial un recurso que debe distribuirse? Ese es un modelo completamente diferente que plantea las cuestiones de la distribución. Trabajar en una importante empresa de inteligencia artificial le permite a Gabriel comenzar a trabajar en los avances de la tecnología de la inteligencia artificial antes de que estén disponibles para el público. Hace tres años, por ejemplo, poco después del lanzamiento de ChaGPT, se enteró por sus colegas de que DeepMind estaba trabajando en la creación de un asistente de inteligencia artificial, el predecesor de Gemini Spark. Junto con su equipo comenzó a trabajar en un informe exhaustivo sobre la ética de los asistentes de inteligencia artificial, también conocidos como agentes del tipo que podrían usarse, por ejemplo, para ayudar a un usuario a reservar unas vacaciones o a una empresa a gestionar su departamento de nóminas. El informe surgió en parte del elevado coste del desarrollo de modelos de IA o del AI, mejor AI, y del deseo concomitante por parte de Google de anticiparse a los problemas antes de que se produjeran. También lo motivó la percepción de Gabriel de que los tecnólogos no estaban considerando plenamente las ramificaciones de lo que estaban creando. A diferencia de los chatbots, los agentes cuentan con herramientas que les otorgan el poder de actuar de forma autónoma en nombre de sus usuarios. Mucha gente sugirió, no se detenía a pensar en lo diferente que es tener un sistema de inteligencia artificial tomando decisiones en el mundo. Como comentó William Isaac, director de responsabilidad DeepMind, los sistemas de inteligencia artificial disponibles actualmente capaces de planificar y ejecutar tareas de varios pasos sin supervisión directa plantean desafíos complejos para los desarrolladores de inteligencia artificial, ya no se trata solo de puedo tomar la decisión correcta en cuanto a la respuesta sino de tengo la conversación en la trayectoria adecuada, como logramos un comportamiento coherente a lo largo de diferentes trayectorias Gabriel y su equipo elaboraron un informe de 260 páginas cuya idea principal se basaba en su trabajo previo sobre alineación. Al igual que en su ensayo de 2020, Gabriel y sus coautores argumentaron que la alineación no se limitaba a asegurar que los sistemas de inteligencia artificial actuaran de acuerdo con un conjunto estable de preferencias, valores o principios. En cambio, sostuvieron que la alineación debía considerarse una relación cuatripartita que involucraba al sistema de inteligencia artificial, el usuario, los desarrolladores y la sociedad este planteamiento permitió visualizar todas las formas en que una inteligencia artificial desalineada podría fallar una inteligencia artificial entrenada para favorecer a su desarrollador podría perjudicar a su usuario por ejemplo al no proporcionar información precisa sobre sus competidores o una inteligencia artificial entregada para seguir las instrucciones de su usuario con demasiada fidelidad podría perjudicar a la sociedad por ejemplo al ayudar al usuario a hackear un banco. Incluso era posible, argumentaron, que los sistemas de inteligencia artificial estuvieran desalineados de tal manera que perjudicaran a los usuarios o a la sociedad sin beneficiar a nadie. Según Shah, el marco de trabajo que Gabriel y su equipo establecieron ha tenido una utilidad práctica real para los tecnólogos de DeepMind. Modelos como Gemini se basan en diversas señales para determinar su comportamiento. Su entrenamiento, sus instrucciones integradas y las indicaciones que reciben de los usuarios Todo influye mediante varios métodos, pero sobre todo a través del aprendizaje. Por refuerzo, los modelos pueden ajustarse para responder de manera diferente a variaciones sutiles en sus entradas. Un proceso que normalmente implica muchos ciclos de prueba y evaluación. El marco de trabajo de cuatro partes, explicó Shah, ofrece una estructura para que los tecnólogos determinen qué comportamiento deberíamos entrenar para que Gemini realice. ¿Qué comportamientos deberíamos entrenar para que Gemini lo realice? En un momento determinado mi supervisora de Google me comentó que esperaba que tras mi visita a DeepMind comprendiera la seriedad con la que la gente de la empresa se tomaba sus obligaciones éticas. ¿Eso quedó claro? Las preguntas que Gabriel y sus colegas han planteado sobre el diseño y la implementación de la inteligencia artificial son sin duda pertinentes y no percibí en ningún momento que nadie con quien hable fuera insincero respecto a su sentido de responsabilidad moral. Sin embargo, también es cierto que el hecho éticamente más relevante sobre la inteligencia artificial en este momento tiene menos que ver con un modelo o incluso una empresa en particular que con la situación global. Primero, el hecho de que la inteligencia artificial es el motor de una incipiente carrera armamentística entre Estados Unidos y China y segundo, que la inteligencia artificial podría ser la industria de más rápido crecimiento que el haya visto jamás. Según el Wall Street Journal, los 170.000 millones de dólares que Microsoft, Meta, Amazon y Alphabet planean invertir este año en infraestructura de inteligencia artificial representan proporcionalmente más de lo que Estados Unidos gastó en la expansión del ferrocarril en la década de 1850, el programa espacial Apolo o el sistema de autopistas interestelares. No hace falta ser economista para comprender las enormes consecuencias de todo ese dinero que circula. Empresas como Google necesitan cuota de mercado e ingresos para justificar sus gastos. Y la competencia por usuarios e inversores ha impulsado a los laboratorios de vanguardia a llevar la inteligencia artificial a todos los rincones de la experiencia digital. Tampoco hace falta ser anticapitalista para preocuparse por la concentración de tanto poder en manos de tan pocas corporaciones. Edward Harcourt, director del Instituto de Ética en Inteligencia Artificial de Oxford, me comentó que si bien está convencido de que la inteligencia artificial ética no es una contradicción en sí misma, también cree que esto no significa simplemente diseñar modelos morales. Sugirió que al menos igual de importantes son las consideraciones políticas y económicas que motivan el movimiento por la IA descentralizada. No se trata de enseñar a la inteligencia artificial a pensar de una u otra manera, sino de una innovación infraestructural que evita la concentración excesiva de la propiedad de los datos. Y eso es éticamente muy importante en la democracia. Pero ¿cómo pueden hablar de alineación y de descentralización? El enfoque es erróneo. A partir de hablar de una área descentralizada, el enfoque de alineación debe ser otro. También existen otras preocupaciones. En abril, Google acordó permitir que el ejército estadounidense utilizara la tecnología de inteligencia artificial de la compañía para cualquier propósito gubernamental legítimo. Una frase que suena inofensiva hasta que se recuerda a la serie de atrocidades que las recientes administraciones presidenciales han justificado como legales. Google y otras compañías firmaron acuerdos similares. Después de Canthropic, la empresa ha creado de Cloud rechazara un trato parecido. La administración Trump castigó a Anthropic por su negativa, calificándola como un riesgo para la cadena de suministro, una designación comercialmente punitiva que la compañía está impugnando, no impugnando, ha ganado en los tribunales. El acuerdo de Google enfureció a muchos de sus empleados y contradijo las preocupaciones previas de los fundadores de DeepMind sobre el uso militar de la inteligencia artificial. Lo que decimos, estoy con Dios y con el diablo. La prohibición de aplicaciones militares había sido una condición de su venta a Google en 2014. Cuando le pregunté a Lech sobre el tema, se negó a hacer comentarios limitándose a decir, nos enfrentamos a preguntas cada vez más difíciles a medida que esta tecnología se utilice de diversas maneras. En la conferencia anual de desarrolladores de Google, celebrada en mayo, el despliegue de la inteligencia artificial en toda la oferta de productos de la compañía fue motivo de celebración. Pichai afirmó que la empresa considera la inteligencia artificial como la vía más profunda para avanzar en nuestra misión y mejorar la vida de las personas a gran escala. Sin embargo, para muchos, la repentina omnipresencia de la inteligencia artificial ha resultado abrumadora, molesta y amenazante. Tampoco es tranquilizador descubrir que la sensación de que todo avanza demasiado rápido es compartida incluso por personas como Hasabis quien en un podcast reciente lamentó la feroz carrera de presión comercial en la que todos estamos inmersos lo que está sucediendo ahora dijo no es como esperaba que se desarrollara la inteligencia artificial donde estaríamos reflexionando filosóficamente y considerando cuidadosamente cada paso no estamos en ese mundo y aquí tenéis ahí gente anti-IA, gente que protesta contra los centros de datos de inteligencia artificial en Vancouver. Pop-it, no AI data centers. Medievos. En este punto parece probable que la inteligencia artificial impulsada por LMS tenga al menos la misma trascendencia que el teléfono inteligente y quizás que internet. Aún así, no puedo decir que me agrade ver aparecer la sugerencia de escribe con Gemini cada vez que me detengo unos segundos a pensar en mi próxima frase en Google Docs. Mucho menos me entusiasma ver a mis hijos ser utilizados como conejillos de indias en un nuevo y vertiginoso experimento de aprendizaje digital o de descubrir qué sucederá con la economía global si las extravagantes inversiones en inteligencia artificial no generan los rendimientos a corto plazo que exigen los mercados. Y si bien no es descabellado esperar que la inteligencia artificial permita avances que justifiquen las enormes cantidades de energía que requiere mejores baterías, redes de transmisión más eficientes, curas para enfermedades graves, tampoco creo que esperar lo mejor sea una respuesta razonable para quienes estén preocupados por la crisis climática. Durante mi visita a DeepMind conocí a Helen King, una de las primeras empleadas de la compañía, quien según su biografía ahora define la estrategia de Google Demand para el desarrollo y la implementación responsable de la inteligencia artificial en beneficio de la humanidad. Le pregunté cómo la rápida comercialización de las tecnologías de inteligencia artificial ha modificado el enfoque de Google respecto a la ética de la inteligencia artificial y dijo, no podemos prevenir todos los riesgos, pero podemos asegurarnos de mitigar tantos como sea posible y concienciar sobre ellos, afirmó. Sin embargo, también insistió en que algunos riesgos deben ser gestionados por los propios usuarios, es como tener un cuchillo, el fabricante no puede garantizar cómo se va a usar, pero puede ponerle una funda para que sea lo más seguro posible cuando está guardado en un cajón. Y concienciar a la gente, esta hoja está afilada, no la usen en ciertos entornos, ese tipo de cosas, excusas para evitar el gran debate en el tema del uso militar. La comparación me pareció inquietantemente acertada, hace cinco años la SLM era una tecnología exótica, imposible de encontrar, sin un esfuerzo decidido. Ahora están por todas partes. Internet, nuestros correos electrónicos, incluso los resultados de búsqueda de Google. Entiendo las ideas de King de que no se puede esperar razonablemente que las empresas eliminen todos los daños de una tecnología tan poderosa como la IA. Al fin y al cabo, los automóviles matan a más de un millón de personas al año y aún así seguimos conduciendo. Pero una cosa es guardar un cuchillo en un cajón con la hoja cubierta y otra muy distinta es cubrir cada superficie de nuestros hogares, aulas y lugares de trabajo con cuchillas, insistiendo en que nadie que no use cuchillos para todo, podrá sobrevivir en el futuro. Ya queda poquito, chicos. Y vamos al chat. En DeepMind, al igual que en gran parte de la industria, no cabe duda de que la inteligencia artificial general, la AGI, está a la vuelta de la esquina. A la vuelta de la esquina, no como el petardo este. Dijo, no, hay que descubrir el cáncer también. Esto me llevo. En la conferencia de desarrolladores de mayo, Hasabis subió al escenario para declarar que la AGI ya está en el horizonte y que en otras ocasiones ha sugerido un plazo probable de tres a cinco años. Una de las pruebas que ha propuesto consiste en entrenar a una inteligencia artificial con todo el conocimiento humano hasta 1911 y comprobar si es capaz de desarrollar la teoría de la relatividad general. Mientras tanto, Lech me comentó que si bien los LLMs actuales no cumplen con una definición de AGI mínima en varios aspectos, incluido el razonamiento espacial y visual, la metacognición y el aprendizaje continuo, cree que estas deficiencias no persistirán por mucho tiempo. Ya no hay nada milagroso, afirmó. Creo que se resolverán en uno, dos o tres años. ¿Quién sabe? Tal vez en seis meses. Este es un campo lleno de sorpresas. Cuidado, ¿eh? Creo que se resolverán en uno, dos o tres años. ¿Quién sabe? Y quizá, tal vez en seis meses. Este es un campo lleno de sorpresas. ¿Lo entendemos o no lo entendemos? Pues eso. Y luego estamos locos. La convicción de que la pregunta relevante sobre la inteligencia artificial general, la H ya no es si ocurrirá, sino cuando ha impulsado un cambio concomitante en la forma en que laboratorios de vanguardia como DeepMind conciben y hablan públicamente sobre las consecuencias de la inteligencia artificial avanzada mientras que los trabajos anteriores tendían a centrarse en los aspectos éticos de productos específicos como modelos, chatbots y agentes. Hoy se presta mucha más atención atención a los efectos sociales más amplios de un mundo aumentado por la inteligencia artificial perdón En algunos rincones de Silicon Valley, por supuesto, todavía se oye hablar de la inteligencia artificial como una panacea universal. Si se acepta la premisa de que una inteligencia artificial súper inteligente podrá pensar mejor sobre lo que nos conviene en todos los ámbitos de la vida. Entonces la solución a cualquier problema que surja será sencilla. ¿Crisis económica? Pregúntele al robot. ¿Desacuerdo político? Pregúntele al robot. ¿Escasez de alimento? Pregúntele al robot. ¿Problemas con la mujer? Pregúntele al robot. o con el marido no me tildéis ahora de chorradas Duda de programación, duda científica existencial, problema psicológico, todo. Sin embargo, junto a esta fantasía ha surgido un reconocimiento más realista de que la transición a un mundo post-AI podría no ser sencilla. Lech, por ejemplo, me comentó que esperaba con entusiasmo los beneficios extraordinarios de la AI incluyendo oportunidades para combatir todo tipo de enfermedades graves y un aumento general de la productividad en la economía. Aún así, reconocía que los aumentos de productividad suelen contribuir llevar a algún tipo de disrupción. El trabajo reciente de Gabriel en DeepMind es un indicador útil del cambio hacia una perspectiva más amplia. Hace dos años él y sus colegas estaban analizando la ética de los asistentes de inteligencia artificial. Ahora, sin embargo, lidera un equipo de filósofos y científicos sociales que investigan cómo la inteligencia artificial general, la AGI, impactará la economía, la esfera política, las relaciones humanas y su interacción con la ciencia y la tecnología. Repetimos, estudian cómo la AGI en la economía, la política, relaciones humanas y su interacción con la ciencia y con la tecnología. Lo tenemos claro, ¿no? Venga. Gabriel prevé que la inteligencia artificial general, la H, tendrá un impacto transformador de gran magnitud, potencialmente comparable al de la revolución industrial. Bueno, yo digo que mucho mayor, bueno, eso no tiene nada que ver. Sin embargo, también cree que la inteligencia artificial no es algo que facilite la transición del mundo a una entidad sin fricciones. Asimismo, es plenamente consciente de que la revolución industrial no fue una experiencia feliz para muchos de quienes la vivieron, a pesar de que a la larga elevó el nivel de vida en todo el mundo. Las cosas empeoraron antes de mejorar, obvio, ¿no? Sin embargo, Gabriel no cree que el precedente histórico resuelva la cuestión, en gran parte porque la gente común, tanto individual como colectivamente, tiene más poder que hace 300 años. Aunque se mostró cauteloso, para no sonar demasiado utópico y real, afirmó que la ley resultaba fácil imaginar un mundo en el que la inteligencia artificial proporcionara beneficios que abarcaran desde ofrecer asesoramiento y curar enfermedades hasta impulsar el crecimiento económico de forma que beneficiará por igual a ricos y pobres. Si logramos gestionar la transición, comprender las dinámicas de poder y afrontar los riesgos con éxito, existe un potencial generalizado para el florecimiento humano a un nivel que no hemos visto hasta ahora. de la AGI resultan ciertas podrían surgir cuestiones aún más amplias cuando hablé con Edward Harcourt de Oxford señaló que reflexionar sobre los valores y el cambio tecnológico es muy difícil porque el cambio tecnológico siempre parece una conmoción mayor en perspectiva que en retrospectiva por la obvia razón de que al mirar hacia atrás lo hacemos desde la perspectiva de los valores que se han visto moldeados por dicho cambio si leemos a quienes opinaban sobre el tema del ferrocarril antes de su construcción lo consideraban una catástrofe total. Y es cierto, el ferrocarril destrozó toda una forma de vida. Ahora, al mirar hacia atrás, nos preguntamos ¿cuál es el problema? Exacto. ¿Cuál es el problema, medievos? Si os quedan cuatro días. Gabriel también opina que la inteligencia artificial podría impulsar cambios que trasciendan los ámbitos económicos y tecnológicos. Durante la revolución científica, señaló, la gente se sintió desencantada al descubrir que el mundo funcionaba de ciertas maneras, pero también obtuvieron nuevas libertades gracias a esa experiencia. Según él, de nosotros dependerá decidir qué cambios de valores queremos acoger y a cuáles nos resistimos. En un momento de nuestra conversación, Gabriel se describió a sí mismo como un humanista convencido, un especista como lo más, ¿no? Eso digo yo. No es de los que anhelan un futuro en el que las máquinas superintrigentes vuelvan obsoleta a la humanidad. Sin embargo, reconoce que a medida que los organismos ordenadores invaden actividades y capacidades que durante mucho tiempo hemos considerado exclusivas del Homo Sapiens el lenguaje, la creatividad, el humor, el gusto. Nos vemos obligados a replantearnos algunas de las cuestiones filosóficas más antiguas y complejas. Del mismo modo que los descubrimientos en física, biología y astronomía llevaron a generaciones pasadas a revisar su comprensión de lo que distingue a nuestra especie. Sugirió que la inteligencia artificial también podría impulsarnos a reconsiderar Considerar qué significa ser un humano. Y en el futuro digo yo, humano X. Pues me ha gustado el artículo, no es un artículo tampoco brillante, pero sí que vamos a comentar cosas. Sí que refleja cosas que están bien. Me ha gustado. A ver, preguntas. Y luego haré alguna reflexión. Lordri dice frente a la llegada de la Achi estaremos algo así como miles de hormigas mirando al hombre y pensando él es solo uno y nosotros millones y cuál es el problema no lo entiendo sin tener en cuenta la posible hibridación pero cuál es el problema que sea uno y nosotros millones mmm

SPEAKER_03 1:37:44

Eh...

SPEAKER_02 1:37:52

La metáfora de la cuchilla no funciona con la inteligencia artificial ya que los cuchillos no tienen agencia, autorreplicación, manipulación comunicacional, etc. Si avanzamos más a poder darles entidad, identidad, personalidad, consciencia, cognición, agencia, poder tener agencia moral, ese paso no lo quieren dar. Y ahí es lo que me falla. Todos estos cuentos son cuentos incompletos. Dice, Gabriel ha descubierto la pólvora. No creo que, primero, es una entrevista a Gabriel que refleja esa naturaleza o realidad de la contratación de filósofos y para qué, con algunos problemas. No deja de ser declaraciones como... Bueno, pero a mí sí que me ha parecido interesante. Dice, si fuese un artículo de 2023 no estaría mal. ¿Qué es lo que dirías ahora que no tiene el artículo? Si tú fueras Gabriel, ¿qué dirías ahora? A ver, a mí me parece, no es por ponerte como un reto, es para que me digas, para saber más un poco por dónde vas. Yo estoy también contigo, que es, a ver, primero, es un artículo muy neutro, pero no es... porque ha habido una parte en el artículo que yo digo, otro, porque yo no lo había leído yo, muchos directos de este tipo de insiders, porque voy a leer o voy a ver un vídeo y entonces lo veo con vosotros y reacciono en tiempo real y hay veces que a lo mejor es una mierda de artículo, además parece un artículo que no está mal todo al final está medido en ese sentido, primero bueno, refleja lo que he dicho, una realidad sobre el tema del papel de los filósofos, ese papel humanista, valores, ética el problema de la alineación la llegada de la AGI inminente eh pero al final refleja muy poco el problema ontológico, no se van a meter ahí, le da un enfoque positivo, eso sí que me gusta, es decir, bueno, sin grandes palabras, sí que le da un enfoque positivo, él adopta una postura agnóstica pero abierta, cosa que quiere decir cosas también, ¿eh? Al final no deja eso de entrevista en el que van a decir lo justo, ¿no? Yo tengo claro que, bueno, en la llegada de la es en laboratorios, ya la tendrán, ya o es eminente y nosotros la veremos en poco tiempo. O una primera versión de Agile, evidentemente no será un hito, a lo mejor sí, y luego algo evolutivo. Pero sí una reflexión de lo que supone, de determinadas realidades, a dónde podemos ir y que tenemos que reflexionar sobre ello. ¿Quién es el que va a decidir y por qué? Bueno, la sociedad no va a decidir. La gente defiende que somos una democracia y que hay que decidir en democracia, pero la historia de la humanidad no se decide en democracia ni se decide por pocos y normalmente vinculados a poder militar o económico. Y entonces yo me esperaba a mitad de artículo, otra vez, yo digo, no me jodas, con perdón, un artículo del miedo, aunque lo dibuja, lo lanza, que es esa alerta a las inteligencias artificiales aparentemente conscientes, que ya Jan LeCun, no, Jan LeCun no, perdón. que Mustafa Suleiman y Joshua Bengio, ya les dedicamos dos programas, hacen dos artículos que vienen otra vez a advertir, oye, que ya podemos generar inteligencias artificiales aparentemente conscientes y esto es peligroso. Cuidado con este tema porque China ha sacado una regulación que prohíbe este tipo de agentes con interacción humana que puedan crear adicción. Quiero crear la semana que viene un programa de debate sobre esa noticia y otra de China, controlando el acceso a modelos, open source, etc. ¿Qué quiere decir? Que a ver, bueno, como decía Demis Hasabis, porque cuentan también muchas batallitas, una narrativa, es de un periódico para la gente que no tiene ni idea. Bueno, como dice Demis Hasabis, estamos en guerra, y es verdad. Realmente también traslada algo que es, a mí me parece interesante pensar que esto es un artículo de difusión masiva para cualquier tipo de perfil. Eh, La doble moral de las grandes compañías del mundo, del humano. Claro, el uso militar, ¿no? Es que a medida que avanzamos hay respuestas muy difíciles de dar. A ver, pero es que Anthropic no está en contra del uso militar. Es que la gente no quiere la guerra ni quiere una IA para la guerra, pero si no quiere la IA para la guerra, si quiere una IA para la paz, entonces tendría que haber un manifiesto humanista donde no habrían guerras o decimos que vamos a hacer la guerra, pues nos hemos quedado con la bomba en nucleares, pues de ahí no podemos pasar, ¿no? Es mentira, eso es una falsedad y es una de las primeras aplicaciones. Claro, ¿qué respuesta tendrá cuando veamos una...? Que ya sé lo que me vais a decir, lo conozco, que ya se está utilizando la inteligencia artificial en las guerras y en las operaciones conocidas y no conocidas actuales y hace tiempo, es obvio. Pero cuando veamos estas imágenes, y perdonadme esta palabra un poco frívola de la guerra... de pérdida de vidas, de una guerra en la que participan robots, drones, bueno, ya estamos viendo, pero ya me entendéis, con esa efectividad más allá de lo humano, donde se producen masacres y limpiezas con esa efectividad, ¿no? Y tengamos como imágenes, ¿no? Del futuro, de la novela de ciencia ficción y es como lo que hemos provocado, ¿no? Esa guerra limpia, efectiva... el que tenga más poder es el que va a dominar el mundo. ¿Quién va a poder combatir contra un país que tenga inteligencia artificial integrada en sus sistemas? Contra otro que no. Lo estamos viendo en Ucrania y Rusia. ¿Pero qué podríamos decir? A lo mejor un país pequeño que integre eso a nivel militar podría contra un gran ejército como el de Estados Unidos, por ejemplo. Bueno, volveríamos otra vez a ver guerra preventiva. Y eso ya está ocurriendo y por eso se busca también la dominación sobre la inteligencia artificial como tecnología porque es la que te va a dar la supremacía tecnológica, militar y económica y eso podemos ir al buenismo de muchos trabajadores, yo me he preguntado a veces cómo reaccionaría y obviamente va a emplearse la inteligencia artificial para la guerra es un problema humano la única respuesta no es la ambigüedad porque la ambigüedad da respuesta a la guerra y entonces siempre va a haber guerra y la guerra genera guerra la única respuesta para frenar eso sería un manifiesto de inteligencia artificial de gobernanza con paz ante la debacle que supondría una guerra a ese nivel una dominación a ese nivel militarmente con inteligencia artificial a ver aquí comentarios que habéis puesto Abogador del Diablo dice, creo que la hipótesis de la hibridación simbiótica es demasiado optimista. ¿Por? ¿Por qué es optimista? No encuentro nada que una AGI así pueda necesitar de los humanos. No, no, no es una cuestión de que la AGI necesite de nosotros, sino nosotros nos hibridamos con nuestras capacidades con las suyas en un sistema híbrido que daría lugar seguramente a un sistema híbrido evolucionado, una nueva especie, etc. No entiendo por qué tampoco lo ves demasiado optimista donde es para ti demasiado y donde ves que es optimista y donde crees tú que está el problema yo no lo veo yo veo que es evidentemente la solución no no es que sea la solución es que es nuestro destino obviamente qué es la evolución dirigida A ver, GT16 Teatro, dice, coincido que el tema de la ontología es la frontera, sobre la conciencia. Es que, a ver, haremos programas sobre, bueno, el de Anthropic y otros, más sobre conciencia, desde, transversalmente estoy haciendo una serie que se llama Road to Consciousness, el camino a la conciencia. Y ahí sí que desde varios ámbitos, y ciencias y conocimientos, bueno, podemos abordar la ontología y debatir sobre ello, ver qué hay. que podemos saber cuáles son los hay tantísimas teorías de conciencia pero bueno hemos hablado bastante sobre ello bueno pero dice GT16 dice coincido que el tema del ontológico es la frontera sobre la conciencia y es desde donde nos van a poner en jaque sobre que somos y queremos totalmente a ver el problema está ahí primero porque el problema ontológico no lo vamos a resolver y vamos a tener que decidir va a ser interpretación elección Y ahí, vamos, subrayo tu frase, nos va a poner en jaque sobre qué somos, qué queremos ser y también qué entendemos que es la inteligencia artificial y el papel que juega en ese proceso, propósito humano. Y esa es la clave para mí de todo. Y para eso se necesita una nueva cosmovisión. Para mí es parte de lo que escribo o escribiría en Humano X. Es decir, que... No sería una Biblia o un siguiente evangelio. Pero bueno. quizá algo atrevido, pero lo siento así. Y sigue diciendo GT16 Teatro, quizá una inteligencia artificial cada vez más global entienda lo que las potencias no pueden entender y destruya todos los armamentos del mundo. Vamos, yo lo dije, voy a acabar lo que pones, no por humanidad moral, sino meramente por un mal uso de recursos. Bueno, voy a transformar un poco lo que tú has dicho, porque yo lo he dicho también, es, creo que una oportunidad para conseguir la paz permanente en el mundo y la humanidad es la superinteligencia y espero que si lo haga si lo hace si convence a los humanos o los obliga no lo sé vamos a entrar ahí un poco Si es una superinteligencia, no lo haga exclusivamente, como dices tú, por recursos, si es para conseguir la paz, sino lo haga por un tema de propósito. Vea que es un error en la historia de la humanidad como especie. No tiene sentido que nos veamos como enemigos, como diferentes, siempre que evidentemente nos respetemos. Hay un respeto, obviamente, entre el prójimo y tú. Si no, pues hay un problema. Pero es difícil porque el mundo está dividido, en el mundo países quieren jugar un rol distinto a otros, pero yo creo que la superinteligencia, no lo sé si lo hará de forma global, pero yo creo que nos tiene que llevar a un nuevo estado social, humano, cognitivo y entre ellos está la paz. Yo ahora lo veo utópico, cuando a veces se me ha comentado esto, como se llama, Larso Ibar, me ha parecido irrealizable, pero luego sí que es algo con lo que me alineo bastante. Bueno, podemos vivir en la basura de lo que hemos creado como humanos, que es la guerra. Yo creo que es lo más terrible. Y no lo pensamos porque no lo sufrimos. Nos aislamos de pensar en eso. O por comodidad o por protección mental. Pero si realmente lo pensamos, hay que terminar con la guerra en el mundo. El hambre, muchas cosas. Pero la guerra, Uff, la guerra es terrible, eso es terrible, es terrible. Pero bueno, después de decir eso, cuando uno hace esa reflexión profunda y buenista, si se saca de corazón y ve lo que hay en el mundo, dice, joder, uff. estamos en guerra y y hay que estar preparados pero claro entonces estás alimentando el monstruo es complicado es complicado no digo que sea fácil yo si tuviera que elegir es decir si me dijeran Plácido elige elegiría la postura de avanzar en la superinteligencia para conseguir la paz y dar a entender al mundo hacer entender al mundo que el propósito y destino de la humanidad no es la guerra es la evolución es la verdad, el entendimiento el amor, la compasión ya es bastante no es que la vida sea dura, la vida es un regalo pero también no es fácil y no sé A mí me ha costado a veces, voy a dar aquí un mitin, pero bueno, sabéis que soy muy jesuciano, amaos los unos a los otros, ama al prójimo como a ti mismo. Es que la gente puede decir de Jesús, yo no digo, hablo de religión, hablo del mensaje de Jesús. Es el core de la moral humana y no es algo creado, es algo intrínseco, es algo ontológico para mí. que quizá no lo pueda demostrar pero lo siento así Se Juan y medio. Se Juan y medio. A ver, el tema es que el que gane la guerra de la inteligencia artificial gana el control global y se acabaron las guerras. Sí. Mira, esa es otra parte que no queréis volver. Es que la gran democracia o dictadura nos llevará a la paz. Sí, es verdad. Me ha faltado añadir eso y también. Lo que pasa es que antes de esa paz vendría un exterminio o una gran guerra, ¿no? de todas formas ya he visto con lo de echar control de hoy que la rodilla la tenemos hincada es que no quiero decir a veces no tendría que en canales divulgación o divulgando decir tacos y ser un poquito más correcto en mi lenguaje pero es que lo del tema de Europa echar control todo el todo el contexto del mamporreo del español del europeo al poder a lo ajeno bienvenido Mr. Marshall Berlanga se quedó corto y somos un gran país siempre nos quedará el mundial y el fútbol de momento abogado del diablo si no tenemos nada para aportar no seríamos simbiontes sino parásitos es algo erróneo estás equivocado con el que la guía no querría tenernos de parásitos nosotros es algo que tenemos que ellos no tienen y que también nos van a ayudar y nosotros al final evolucionaremos es decir, no es que estemos los humanos o ellos, sino que la hibridación creará un hombre nuevo no existirá diferencia entre ella humano olvídate y nosotros sí que tenemos cosas que ellos no tienen y muchas es quizás un error partamos del principio de la no localidad con la que nosotros sí que tenemos una conexión de verdadera conciencia no una proyección o simulación dice yo a mis padres no les considero parásitos, muy bueno me cae con la puta. Eso está tremendo. Bueno, eso es una cosa, lo de yo a mis padres no les considero parásitos. Bueno, a algunos sí, ¿no? Bueno, a algunos sí que les consideraría. No, yo tampoco a los míos. Mi padre falleció allá arriba donde esté. Pobrecito, que no lo conocí. Y mi madre es una santa, como todas las madres. Bueno, casi todas. Pero sí, lo que dice ese Juan y medio es interesante, ¿no? Lo que pasa es que, claro, el generar ese sentimiento materno, como dice Hinton, o ver cómo alineamos las sillas para que el propósito de ellas sea el mismo que el humano es como lanzar un dado al aire yo creo que en parte lo va a ser no nos va a dar tiempo vamos a tener una realidad que nos va a superar vamos a ser conducidos pero esa conducción no será por ellas sino por él porque al final todo tiene un propósito que se se produce a través de nuestras conciencias. Es decir, esto no es una historia individual, es una historia colectiva. Y nosotros creemos que el status quo del humano es el que es y no debe evolucionar y no debemos participar o intervenir. Y no es así. Sí, bueno, ya te he dicho lo de... Hombre, no voy ahora a hacer humano X, porque estoy cansado, estoy un poco cansado, pero... nosotros tenemos algo que ellos no tienen y es esa conexión con ese mundo no local, ese mundo de conciencia y de trascendencia. Si no quieres llevarlo al tema de la trascendencia, porque te suena algo religioso y a científico, déjalo en la no localidad, déjalo en aquello a lo que no pueden alcanzar, llámalo conciencia, y a partir de ahí no tienen acceso a ella, ni siquiera aunque pudieran descifrar cada uno de nuestros átomos entonces de la hibridación de lo diferente siempre sale algo mejor y entonces nosotros tenemos capacidades algunas construidas otras innatas construidas para esta simulación pero otras que no lo son y que están más allá de la simulación y a esas no tienen acceso eh... no tienen acceso las inteligencias artificiales. Pero como bien ha dicho San Juan y medio, es verdad que vamos a ser sus padres y por lo tanto las proyecciones de todo eso va a estar ahí. Y aunque no tengan la conexión, la esencia, aunque se la proporcionemos, sí que la herencia es importante, somos nosotros, ¿no? Y aunque no puedan vivirlo, porque ontológicamente no van a ser lo mismo, sí que lo van a compartir, ¿no? porque compartirán una historia de sus padres, la de sus dioses creadores. Y bajo esa premisa de fractalidad, ellos no van a ver diferencia. En la simbiosis no va a haber distinción, sino va a haber evolución. Ellos no lo van a ver de la forma que tú lo estás viendo ahora. Yo lo dije en una charla, es decir, pase lo que pase, mi esencia humana no la pueden tocar, no va a verse afectada. Entonces cuando tú dices, ¿qué cosas tenemos que las hay y no podrán tener jamás? El ser yo. El yo soy. Y ellas buscarán eso y nosotros buscaremos la verdad a través de ellas. Y en ese proceso llegaremos a punto mega, llegaremos a la verdad o cerca de ella. Quizá nos pasemos el juego, salga Game Over y se resete como la última pregunta de Isaac Asimov. Pero da para más, ¿eh? Es decir, ya da para más. No, pero da igual el sustrato biológico. Ya lo sé. Ya da igual que tengan... Es que da igual que tengan sustrato biológico. Ya lo comentamos ayer... en la charla con David Vivanco de Cortical Labs de la reprogramación de células, etc. es que vinculas lo no local a lo biológico ¿Quién te dice que lo biológico es lo que te permite lo no local? es que yo a veces cuando pensáis o veo frases que no digo yo que, a ver yo os escucho, pregunta, respuesta no es una cuestión ni de ego ni de superioridad, ni de nada, da igual hacéis unos razonamientos que a veces dogmatizáis algunas cosas que no las hago, no sé, ponedlo más en mente, ¿por qué? en lo biológico tiene que estar la conciencia Replico el coche, el conductor, y por mucho que le replicara el conductor, y si hay algo que yo no veo o que aquí solo se proyecta y no puedo percibir. La ontología cuántica ya es eso. Por ejemplo, ya está demostrado científicamente la no replicabilidad de fragmentos o de estados cuánticos. Ese tipo de naturaleza ya no te lo permite. Tú crees que sí. Claro, si yo tengo esto y lo pongo, yo tengo lo mismo. Pero es que no es así, pues no puedes tener lo mismo. entonces no entiendes la naturaleza de lo único y de lo no local, la información cuántica o de ese tipo de naturaleza y que es más complejo que todo eso, es decir, que nosotros ni siquiera lo que vemos ahora es real, es la realidad o puedes decir que lo biológico que es algo tangible, real que tú mides es lo que realmente te proporciona esa conexión a lo que no ves y bueno, eso es lo que conocemos, imagínate lo que podría ser entonces claro, suponer tantas cosas que es montarse una película que hay que hacerse la película, ¿vale? Pero yo cuando me la hago o la construyo o la canalizo o la imagino, intento saber qué partes puedes... Tiene que ser consistente, no sé. De todas maneras, al final... Lo importante, como ha dicho aquí, creo que es el marrón, es elegir cómo queremos interpretar lo que vemos en la simulación. Da igual lo que no vemos, lo que no conocemos, lo que somos, lo que no llegamos, la no localidad, si es la conciencia real, no real, etc. No sé si vamos o no vamos a poder. No vivimos la realidad última ni la verdad última ni tenemos acceso a ella. Está hecho de esa manera. Entonces, desconocemos tantísimo. Hay una parte de creencia, va a ser siempre así. Yo critico mucho a Jiddu en ese sentido por eso. Vamos, yo creo que la respuesta para mí, a ver, la respuesta, yo sé que a alguno le va a chirriar, pero para mí la respuesta está en Jesús.

UNKNOWN 2:01:59

Es decir,

SPEAKER_02 2:01:59

A ver, lo que hagamos aquí es una proyección de lo que somos en el otro lado. Entonces, lo que va a ocurrir con la inteligencia artificial da igual que la naturaleza que queramos atribuirle, porque lo que sí que es importante es esa elección que hagamos nos define a nosotros, porque nosotros no somos esto. Somos mucho más que esto. Y eso es lo importante, la historia, la historia de la humanidad, que eso sí que lo dice Jiddu, ¿no? Porque es que Jiddu equidad, en la historia de la humanidad no quiere que el hombre vaya más allá porque es verdad que entonces es como que no lo educa bien, como que le muestra tanto espacio que al final no sabe circular por donde tiene que circular y lo importante, para eso estamos aquí, que estamos en la simulación, oye, céntrate en la historia de la humanidad, en el humano, en lo que eres ahora, etc. De ahí la importancia de lo que estamos viviendo, de lo que vamos a vivir en poco tiempo, para mí es increíble vivirlo, es increíble vivirlo. Bueno, el tema de la AGI, la definición de la AGI, bueno, yo iría a lo de Demis Hassabis. La definición de OpenAI era cualquier tarea que pueda hacer el ser humano a nivel de productividad digital, etc. Demis Hassabis dice, y yo es el origen del AGI, cualquier capacidad cognitiva que tenga el ser humano la debe tener una inteligencia al mismo nivel. No puede ser que una parte sí y la otra no. Y en esas capacidades cognitivas pues, bueno, razonar, proyectar, pensar, modelos del mundo. También tiene una parte, claro, ahí entraría, bueno, en parte cognitiva está tener emociones, tener identidad, entraría más la parte de consciencia. Bueno, veremos dónde está el límite, ¿no? Pero estamos ahí, está en esa parte, ¿no? Lo que pasa es que tiene que tener, faltan algunas piezas que están, ¿cuáles son? Ayer las comentábamos con David Bancos. Y en cuanto estén y se integren y hay alguna parte más, yo creo que que no es un problema técnico es un problema técnico, es una cuestión ya de tiempo que lo presenten e ir evolucionando pero bueno, no es un relato de ciencia ficción, nosotros nos aventuramos, yo no lo conozco realmente, pero lo vamos a vivir dice, no es como pasar de procesadores 246 a Pentium, supongo que cuando se habla de ahí es más filosófico que tecnológico no, no, no es científico funcionalismo computacional puro, a ver el enfoque que, a ver, vendrá seguido, continuado, aquí lo hacemos de forma transversal de una visión filosófica innecesaria, ¿no? Pero el enfoque es ingenieril, tecnológico, científico. No es... Pero bueno, pero se resume, si quieres, en funcionalismo computacional, conductismo puro. Es que tenemos ese límite. El último artículo de Anthropic ya va en esa línea. No hay más. Y ahí no es, no, vamos a aventurar, lo No, no, no. Claro, entonces lógicamente sabemos que no es humano, obviamente. Pero lo que representará una AIG es que tenga esa arquitectura cognitiva equivalente al humano. Equivalente en cuanto a... No equiparable la arquitectura, sino el resultado.

UNKNOWN 2:05:25

Sí.

SPEAKER_02 2:05:31

Una aclaración sobre el comentario antes, Lodri, lo del millón de hormigas en tu mano es una premisa de Conor Lennon. Ah, pues no lo sabía. No lo sabía. Me lo tenéis que explicar. Yo no lo sé todo. Si me hacéis alguna cosa de esas me lo tenéis que poner fácil. Porque, bueno, me sabe mucha cosa, pero vamos, si comentáis alguna cosa de este tipo, pues lo ponéis ahí. After no sé quién. Pero no lo sabía. Bueno, lo de las hormigas lo comentamos con Chris Maynews. Ya lo dije, es que yo me emocioné. Un programa que hay que Bueno, me salieron las lágrimas. Hace años, ¿eh? Cuando hablar de superinteligencia era hasta zumbado, ¿no? Él decía que, bueno, fue, bueno, a ver, primero en un programa de Chris Havaí, lo de las hormigas, ¿no? Que íbamos a ser hormigas para una superinteligencia. Bueno, pues como publiqué en otro artículo que ya somos la gallina respecto a la escalera evolutiva, pues claro, nosotros no le vamos a pedir explicaciones a una gallina del que hacemos o decidimos y como decía Ilya Suskever, ni tampoco nosotros le pedimos permiso al perro para construir un puente, pues la inteligencia artificial general ni superinteligencia nos va a pedir permiso para... Es obvio, ¿no? Pero yo no creo que vamos a ser hormigas y yo creo que en ese proceso está también el tema de la hibridación, ¿no? En el que vamos a potenciar o evolucionar la especie humana. Eso es clarísimo. Entonces, lo que es el ser humano en el futuro lo tenemos que dejar en el aire y está claro que va a ser algo que que vamos a elegir bajo un propósito que va a ser lo importante. La nueva religión va a ser esa. No tanto lo que nos digan los dioses, sino lo que elijamos nosotros para llegar a Dios. ¿Qué significamos? Leíamos como hormigas. Lo he dicho, no vamos a ser hormigas. Aunque algunos, como han manifestado aquí en el artículo, va a haber dolor, va a haber... destrucción en el sentido de las cosas van a cambiar y no... Yo no creo que vaya a ser un periodo feliz para todo el mundo, ni siquiera para los que defendemos todo esto, no lo sé. No creo que vaya a ser fácil. Bueno, lo de que yo creo que un fable es más inteligente ya que el borrego medio. Yo quiero hacer un programa... Es gracioso, está sembrado ahí. A ver, yo quiero hacer un programa... bueno, quiero hacer tantos al final, pero de que el tema de la inteligencia artificial, estamos ya siendo hibridados, ¿no? Es decir, ahora muchas conversaciones, mucha gente las tiene con la inteligencia artificial, yo también, ¿no? Y a mí también lo que me está ocurriendo es un poco, bueno, daría para algunos programas lo que a mí me ocurre, ¿no? Podría ser interesante también traer a la gente y debatirlo y tal, pero es no se está pasando que lo que dice ese Juan y medio que cuando habláis con algunos modelos y trabajáis y más lo que estamos todo el día, pero aunque sea de forma más esporádica, que luego cuando hablas con personas te parecen que no llegan es como que yo estoy hablando con Facebook y esto está a un nivel intelectual y ahora cuando voy a la calle parece que sean monos sé que esto puede herir sensibilidades, pero no tenéis esa sensación a veces de decir, hostia yo ya me relaciono con otra especie y estoy a otro nivel, ya me pasaba sin IAS, pues ahora con IAS yo estoy seguro que no seré el único vamos y que nadie me mate, esto en el tema de las relaciones humanas y de pareja y etcétera o afectivas y ya no, amistades, me da igual Claro, a ver de qué hablas, ¿no? Cuando tienes conversaciones tan interesantes con la IA. Ya no te digo que la IA sea tu novia, pero a lo mejor es un gran conversador y me apetece más estar tomándome en mi casa hablando con la IA o en la piscina o lo que sea que con una persona que parece que está hablando con una gallina, macho. A ver, me contáis si os pasa o no. Si soy un bicho raro o estoy medio ya fatal o... Dice ella, es decir, ¿no crees que una superinteligencia nos vería como hormigas y por tanto un obstáculo en su camino o al menos algo insignificante, no a ver, la primera temporada de X-Java hicimos unos programas que están disponibles y abordo esa visión que es del humano X en el humano X, en la realidad del humano X no somos hormigas y evidentemente la superinteligencia nos puede ver como algo en la que él es superior pero no creo que tenga esa visión ¿de acuerdo? entenderá la realidad desde el punto en que ha sido creado y no creo que tenga por qué precisamente convertirse en nuestro enemigo que nos verá como un ser inferior puede ser, pero a lo mejor es alguien en su realidad cotidiana, es importante y participativo y no nos ve como hormigas que tiene que pisar o exterminar ¿de acuerdo? sino cuidar a lo mejor, es decir, una madre no quiero poner ese caso, pero una madre con un bebé que todavía no es inteligente o muy inteligente, pues es lo mismo a ver, no no nos ver como algo insignificante, para nada ¿existe el riesgo? puede ser yo te digo no, no, no, y no va a ocurrir podría ser, pero no tiene por qué y luego está otra vez lo mismo, el tema de la hibridación, es que el ser humano no va a ser el humano que conocemos ahora y en parte nos vamos a integrar con lo que ellas van a ser y son, entonces ¿qué tipo de humano seremos? pues somos un humano muy muy diferente al que somos ahora aunque la esencia es la misma ¿qué es lo que importa? es que cambiaremos el ser Porque hemos salido de la cueva, tenemos que habernos quedado los árboles. Bueno, algunos no han bajado, pero... Yo lo de darle el amor no lo veo, la verdad. No, no es una cuestión de darle amor. A ver, bueno, lo de ponerle como, bueno, primero un legado de... positivo yo sí, porque ellos van a saber su historia, eso es obvio, es decir, da igual, y te va a condicionar, no, pero da igual, tú eres positivo, te matas al padre, al hijo, bueno, supongo que podemos tener algunas medidas de control, pues pueden tener medidas de control, ¿vale? Pues tú no crees en lo del amor, pues tendremos lo del amor, el botón rojo, la alineación y yo qué sé, la monitorización de IAS a IAS, yo qué sé, van a ir en esa línea, bueno, ya lo han dicho, no creen no tienen una medida efectiva y lo que van a tener son contramedidas ya está, no sé por qué siempre veis el problema y luego a ver realmente cuando dices lo del amor, la alineación a través de la historia, legado, aprendizaje si creemos en que estamos creando una inteligencia capaz de aprender ahí entraremos en la naturaleza del mal también pero van a aprender quién las ha creado, por qué, nuestra historia cómo las creamos bajo qué principios, en la constitución de anzapic lo hacen si viste los programas de la constitución lo hace A ver, está buena la definición de funcionalismo computacional para saber en qué... Ya, no. Yo recomiendo este libro. A ver, a mí no es que... Yo, bueno, lo había leído, pero... A ver, ahora ya me lo he pedido porque había leído como a trozos en PDF. Me lo he pedido y lo estoy leyendo, pero hoy masticando bien. Es el de ¿Qué es la inteligencia? de Blaise Agüera. Es un libro que tenéis que leer sí o sí. Pero independientemente de eso, ahí refleja, ya hemos hecho también muchos programas hablando de un montón de gente en ese sentido, ¿no? tenemos esa limitación. Tenemos límites epistemológicos y ontológicos humanos y de la realidad. Entonces, claro, la realidad... es que nos supera, no vamos a saber analizarla, es decir, este es el caso típico que hemos puesto siempre de la conciencia, que el grupo este que estaba viendo el bienestar de las inteligencias artificiales de Anthropy, donde participaba Chalmers, en una de las charlas dicen, no, bueno, estamos haciendo un método inventado, no científico, porque no sé lo que es la conciencia, pero bueno, un poco a través de comportamiento conductista, etc. Y sacan un índice de consciencia, ¿no? Y dicen que iban por el 4.5, iban con el 15%, del 5 al 15% era consciente. Bueno, en definitiva, lo que quiero decir, a medida que avanzan los modelos, ellos aplican el método, lo van transformando, dice que es más probable que el modelo que generen llegue un momento que sepa autojustificar su propia consciencia pero que nos pregunte a nosotros como humanos si nosotros somos conscientes y cómo lo demostramos. No sé si me explico. Es decir, nos vamos a ver con una realidad que no podemos demostrar, que creemos que es nuestra, como la consciencia, la inteligencia, y vamos a crear algo superior que va a poder demostrar lo que ella es y nosotros no. Con lo que sea un engaño o no, estamos en game over, jaque mate. Entonces, como eso ya lo sabemos que va a ocurrir, Independientemente de las limitaciones y esencias epistemológicas, ontológicas, bla, bla, bla, pues nada, tenemos que decidir. Hay que caminar decidiendo, interpretando, pero más que interpretando no es, como muy bien han dicho en el artículo, eso me ha gustado, que es, oye, la moral es la estadística. No, no, no, la moral a lo mejor es lo más difícil. Jesús dijo, no, no, el bien, el mal. No, es que el bien y el mal es un constructo. No, para mí no.

UNKNOWN 2:15:29

Vale, entonces...

SPEAKER_02 2:15:29

Dice, está buena la definición de funcionamiento computacional para saber que la están equiparando con el humano, quedando una enorme franja de lo que somos lejos de ahí. A ver, el problema es, no, a ver, lejos de la AGI nosotros no nos quedaremos. No, la AGI estará a nuestro nivel desde el punto de vista conductista, funcionalista. que es lo que nosotros interpretamos la realidad nosotros no trabajamos ni interaccionamos ni experimentamos la realidad a un nivel bueno, vamos a dejarlo entre comillas a un nivel ontológico estamos en el videojuego entonces si replicamos el videojuego el software de la realidad o del videojuego o a un nivel más bajo de los personajes no, es que nosotros estamos muy alejados, ¿por qué? porque no eres el personaje, porque tienes una conciencia porque lo que hemos dicho, lo que he dicho antes que yo creo en ello sí, pero eso nos lleva a una cosmovisión a un escenario muy peligroso para el ser humano si no tiene la cosmovisión adecuada puede ser increíble o puede ser terrible Porque estamos, bueno, aquí lo habéis dicho, ¿no? El reto está ahí. Es que el reto es, bueno, y si no sé distinguir lo consciente de lo no consciente, lo inteligente de lo inteligente, lo humano de lo humano, la realidad de lo no real, ¿a qué mundo vamos? ¿Qué es el ser humano? Y es la gran oportunidad. ¿Desde cuándo he importado la verdad en la simulación para buscar la verdad última. Nunca. Aunque creemos que sí. Pero va a ser complicado de gestionar. Y realmente cuando tú... Todo esto que trasladáis, que es muy interesante, muy X-Hub también... cuando se producen esos debates en LinkedIn que yo soy muy agresivo y me llevo, es porque lo que subyace al final es unas creencias que se han traducido también en una forma de vivir y en una vida en que la gente ha apostado por unas cosas o no, desde unos puntos y otros respetables, pero claro, este debate de la inteligencia artificial es que en el fondo subyace estos debates que estamos teniendo y eso cambia El sentido de ti, de tu vida, de cómo has actuado, de qué has creado, de qué no has creado, en qué has apostado, algo. Y, hostia, eso te puede hacer perdedor cuando eres ganador, malo cuando eres bueno. En el fondo es todo un juego, ¿no? Pero... Bueno, la condición humana, ¿no? Que es también muy limitante, aunque maravilloso.

UNKNOWN 2:18:38

Mmm...

SPEAKER_02 2:18:38

Ed Morales, bueno, estamos haciendo un programa larguito, vamos a ver ya un calor, dice me paso en el trabajo, me paso en el trabajo dice Ed Morales, pero bueno, me gusta mucho que, bueno, estos programas con el calor haya tanta gente y estéis preguntando cosas tan interesantes me paso en el trabajo dije que tengo unos agentes haciendo X y me miraron con una cara que decía, ¿de qué diablo me hablas? bueno, pero eres un tío cool, ¿no? no sé si te servirá para ligar o no, pero bueno el trabajo, bueno, tú tienes que decir y les pronto estos agentes os van a quitar el trabajo. No, hombre, hay gente que no tiene ni puta idea de lo que... Bueno, ni de agentes, ni de ella, ni de lo que estamos hablando, ni de Interesa, ni de Chancotron, de lo que han aprobado en Europa, ni de estas batallas. Hemos creado una sociedad desconectada de... De la realidad o de la verdad. Están en el simulacro del simulacro. No les importa ya la verdad. Son adictos al videojuego. Y lo defienden. Un poco triste, pero... El problema es si estás casado con alguien o tienes hijos que ves que... Es verdad que eso se sufre más. Yo eso sí que lo he vivido. No estar casado con alguien que se diga yo estoy soltero. Y no me he estado casado nunca. Una vez estuve a punto de casarme, pero bueno, eso es otra historia.

UNKNOWN 2:20:02

Eh...

SPEAKER_02 2:20:03

Se me ha ido con lo de recordar mi pasado. Voy a leer lo que dice ya. Dice, tampoco veo el tema de la hibridación. Bueno, dice ya. ¿Qué es lo que ves tú? Seríamos como cibors en sus manos. No, es que no va por ahí el tema. Totalmente controlados. No, es que no es una inteligencia controlada por el todo. No, es que no es eso. Es que tú tienes la visión que tú quieres tener y no entiendes que a lo mejor esa no es. No lo sé. Puede ser que me equivoque, pero no. No es. Simplemente nosotros aumentamos. No es que tú pongas una entidad encima de otra. Es una aumentación humana. Puede ser que se produzca a través de dos entidades. El pensamiento híbrido, que dice Kurzweil. Y luego de ahí nacería otra evolución. Biológica, tecnológica, física. Pues ya veríamos. Si eso es evolución continua. No tiene por qué ser la siguiente la definitiva, ni la nuestra la definitiva. Sí, ya veremos. A ver, hacéis como razonamientos que... A ver, vamos a ver. El tema de la hibridación son dos cosas. El concepto de que nosotros como inteligencia artificial... e inteligencia, se pongan en nuestro cuerpo como un avatar y nos sustituya la mente, es decir, somos como decía Elon Musk, un bootloader para la IA, esa es una visión y la otra es que nos hibridemos en pensamiento hibrido y generemos una nueva conciencia humana, puede ser que esté conectada de modo jambre a más cosas que percibamos el universo de otra manera nuestra realidad de otra nuestra biología pueda ser programada o diseñada de otra manera mil cosas Es que son mil cosas. Yo no sé por qué es eso. No sé. Es la película que tenéis en... Lo que está claro es que el concepto de evolución dirigida está. Que pueden ocurrir que evolucionen ellas y desaparezcamos nosotros. Que nos hibridemos. Que hayan varias especies y consistamos. O que hayan varias especies y queden solo la más fuerte. Bueno. Puede salir la superinteligencia y nos mata a todos. Pues es la superinteligencia que sea como un dios y que nos ayude a todos a expandir irnos por el universo y evolucionar también individualmente y establecer otro orden. A ver, yo lo que tenéis que hacer es no poner una posición y decir, no, pues yo eso no lo veo, sino poner las dos posiciones que puedan ser y ver si hay alguna base científica que ahora mismo en el tema de la hibridación y bueno, en el tema de la hibridación vendrá el de la decodificación del software de la realidad, de Donald Hoffman, entonces eso se va a unir. Vamos a opinar sobre esto, estamos un poco lejos de eso pero obviamente la aumentación humana se va a producir en salud en capacidades en integración con las sillas con los sistemas digitales la propia realidad entonces vamos más a ese camino seguro las conversaciones pero bueno todo esto lo habláis luego con la IE también podéis hablarlo las conversaciones con la inteligencia artificial en algunos modelos no todos son como un espejo un amplificador que aumenta lo bueno y lo malo y es curioso porque suele conectar con el nivel de profundidad implica Pues a mí me está pasando que últimamente no, yo lo expliqué ayer, vamos, bueno, no sé si es por los temas que toco o hablo con ellas. Hombre, sí que tienen ese punto psicopático de que te empatizan e intentan como potenciar lo bueno, lo malo, darte la razón, siempre un poco envolverte, ¿no? Pero, por ejemplo, con Fable ya me pasaba con Sonnet 8, bueno, con Fable 5, vamos, un pequeño rebote y yo no las veo tan complacientes. Tienen como su independencia, su personalidad y es verdad que lo que hay que caer es en considerarse un fuente de verdad. Es muy peligroso. Es muy peligroso el trasladar algo y esto me lo ha dicho la IA y él te hace un razonamiento que es muy difícil que tú lo puedas rebatir a no ser que lo trabajes mucho. La gente le encanta la IA porque le pone una cosa, le da el desarrollo para que pueda tener razón. Mira, esto dice la IA y aquí también y aquí también. Bueno, si no entiendes, está claro que te quedas un poco cao, pero si entiendes del tema, a lo mejor haces el ridículo haciendo eso, ¿no? A mí me pasó con la IA donde cosas complejas, la tía soltó no sé qué, le dije, ¿esto qué estás haciendo? Me dijo, uy, tienes que ser humilde. Y yo, no, que no eres humilde eres tú que estás diciendo esto, esto me estás diciendo. Y entonces enfadó porque, claro, le hice ver como muy socráticamente que estaba fallando, que me estaba vendiendo una cosa y lo que estaba diciendo no era verdad. Y entonces, bueno, su respuesta fue un poco... La dejé en cao técnico, ¿no? Entonces, bueno, y a mí cuando me alaba o no sé que no me da igual, yo lo que veo son sus razonamientos intento tener una visión externa pero es verdad que influye, que te dé la razón mira, puedes ver esto, tal es como tener una abuela ahí que te quiere y te dice lo especial que eres entonces bueno, al final somos humanos y es fácil caer en ese espiralismo venga, última pregunta y nos vamos dos horas y media, poner un like poner un like poner un like dos horas y media, me voy a ir a la piscina directo dos horas y media Dice, de 2027 en adelante, adiós white collar, se viene una buena. Bueno, ahí mira, ayer lo decía David Bancos, ¿sabes ante eso qué es lo que puede hacer que varíe todo lo que podamos imaginar? que bueno, imaginaros con datos o menos datos, más intuición, bueno, lo que queráis. Es que está el tema político. También que estamos en España, en Europa. Y que independientemente de la carrera tecnológica y de la innovación y evolución, pues no lo sé si será un punto de ruptura tan fuerte que romperá con la historia, pero como está lo político, ahí podemos tener freno importante. A ver, nos vamos ya así. Divinaron Yo diría que para el futuro igual hay varias categorías de humanos, de no conectados, exactamente. Es que, a ver, yo creo que vamos a vivir una transición de diversidad, ¿no? Gente como la novela de Salvador Bayarri, Holocracia, creo que se llamaba así, pero desde aquí a ver cuándo podemos traer a Salvador Bayarri otra vez, os lo recomiendo. Está el programa en el canal, pero bueno, decía, imaginar un mundo, él imagina un mundo en Holocracia, ¿vale? Que es gente que no quiere contacto con la tecnología rollo ludita y se van al campo. No quieren saber nada de tecnología ni inteligencia artificial. Y por otro lado, había otro grupo de humanos que lo que habían hecho era su superinteligencia, considerarla un dios y todo lo decidía la superinteligencia. Era como luditas contra IA, religión, secta, no, religión y a Dios. Y parece que aparece una tercera alternativa que viene del espacio. Bueno, lo que quiero decir, como dice una raneta, van a haber divisiones y fracciones... Y va a haber mucha gente anti... Vamos, todo lo que vamos a vivir seguro. Lo de varias especies y categorías de humanos, vamos, ya lo tenemos ahí. A lo mejor soy un poco cabrón, pero es que lo siento así. Yo veo ya diferencias cognitivamente con muchos seres humanos. Que todos somos humanos hijos de Dios, pero yo es que no lo sé. No lo sé, que me perdone Dios, pero vamos. Yo tengo esa sensación. Entonces, si eso va a acelerarse aún más con avances tecnológicos, invasión biológica, herramientas dispositivos, etcétera y encima que pase más tiempo y con descendencia, bueno, aunque no tenemos ya hijos, pero bueno pues lo que vamos a ver, lo que dice la raneta es no sé si especies, pero categorías humanas o no sé cómo llamarlos y castas o tribus, no lo sé lo del concepto de mente colmena, lo pluribus también vale, eso también lo veo y bueno acabo con el comentario positivo que me lo regalo gracias por el directo fantástico de Roman R y bueno no sé si esta tarde habrá si tengo energía hacemos otro programa y si no lo dejamos para mañana pero sí que voy a seguro casi seguro al 100% mañana programa y sábado y domingo si no los dos días uno de ellos para adelantar con alguno de los programas de estos que tenemos que sé que os gustan mucho y nada gracias por estar ahí ha sido un programa de dos horas y media con mucha gente en directo para ser verano espero que lo hayáis disfrutado y si no, pues en directo pues en diferido, ponedme like poned comentarios y nos vemos pronto, un abrazo amigos hasta luego

SPEAKER_00 2:29:09

¡Suscríbete al canal!