T6.E119. INSIDE X DARIO AMODEI Políticas sobre el crecimiento exponencial (Episodio 2/2)

# TEMA 
DARIO AMODEI Políticas sobre el crecimiento exponencial

# PRESENTA Y DIRIGE 
🧠Plácido Doménech Espí
⭐Creador de xHUB.AI
🏢CEO MXND.AI : Software + AI
✉️placido.domenech@mxnd.ai

# xHUB.AI
xHUB.AI es una comunidad de Inteligencia Artificial y Ciencias transversales de habla hispana.

# REDES SOCIALES
🌐 youtube : xhubai
🌐 X  :   xhub_ai | placidodomenech
🌐 twitch :   xhub_ai | placidodomenech
🌐 instagram :   / xhub_ai | placidodomenech
🌐 discord : Pídenos acceso mediante DM en redes sociales.

# PODCAST
🎧 buzzsprout : https://xhubai.buzzsprout.com/
🎧 spotify : https://open.spotify.com/show/2SPqvrGGvZkALTy6jSokxI?si=1927a4d04b5145c4
🎧 apple : https://podcasts.apple.com/es/podcast/xhub-ai/id1576725819
🎧 amazon music : https://music.amazon.com/podcasts/e4ff4e8c-4efb-4aed-907e-09b2b1d7aa86
🎧 ivoox : https://go.ivoox.com/sq/1337641

# APÓYANOS
Si te ha gustado nuestro contenido, apoya a la comunidad y el canal de xHUB.AI:
❤️BuyMeACoffe : https://www.buymeacoffee.com/xhubai
❤️Paypal : pladoes@gmail.com
❤️ivoox Podcast : https://www.ivoox.com/support/1337641

# CONTACTAR
¿Quieres anunciarte, alguna propuesta interesante o consulta? Envíanos un correo.
✉️ Correo : xhubai.spain@gmail.com💬

Transcript

SPEAKER_02 0:00

Conectando. Tu cuerpo. Conectando. Tu mente. Sincronizando. Tu alma. Entrando en la simulación. Bienvenidos al podcast de X-Hub AI. Bienvenidos a la nueva era de la inteligencia artificial. Ingeniería de la humanidad. Creación de la humanidad X. La nueva está llegando.

SPEAKER_00 1:06

es doblar la cuchara. Eso es imposible. En vez de eso, solo procura comprender la verdad.

SPEAKER_01 1:15

¿Qué verdad?

SPEAKER_00 1:17

Que no hay cuchara.

SPEAKER_02 1:22

¿Que no hay cuchara?

SPEAKER_00 1:23

Si lo haces verás que no es la cuchara la que se dobla, sino tú mismo.

SPEAKER_01 1:31

Hola, buenas tardes a todos amigos. ¿Qué tal? ¿Cómo estáis? Hora del café. Soy Plácido de Menech y hoy tenemos la continuación del InsideX de ayer. Un InsideX súper interesante porque es sobre un artículo publicado por el CEO de la compañía del momento, inteligencia artificial Anthropic, y el CEO del momento, Darío Amodei. Un artículo, se suponía que breve, pero no lo es tanto, de cinco puntos. Leímos los dos primeros vamos por los siguientes políticas sobre el crecimiento exponencial de la inteligencia artificial ayer hicimos el episodio 1 y el episodio 2 bueno, podéis uniros hacerme compañía independientemente de que hayáis escuchado un episodio o el otro son bloques, pero bueno, si estáis escuchándolo en podcast y no habéis escuchado el primer episodio pues escuchar el primer episodio siempre será mejor, pero bueno, venimos de no voy a recordar todo lo que recordamos en el episodio 1, pero venimos de la presentación de Claude fable, mitos ese par en el desarrollo de la inteligencia artificial que hicimos un programa el lunes y bueno, vamos a decir cuatro cositas y seguimos con la lectura este es un programa de XHABAI, la comunidad de inteligencia artificial y ciencias transversales de habla hispana, sexta temporada y si queréis entrar en la comunidad de Discord, es gratuito no vendemos nada, recursos, no cursos podéis entrar me enviáis un mensaje directo en un correo, ya estáis dentro y a disfrutar. Vamos para 600 miembros. Bueno, anunciaros. No sé si tendría que haberlo hecho ya o empezamos en julio. Bueno, el verano empezaremos en julio, julio-agosto. En XHABA y no paramos en verano. vais a tener ración de xHab ahí. Por cierto, volveré a poner las slides de apoyo por PayPal, por BuyMeACoffee, por Patreon, porque bueno, hay que monetizar. No me voy de vacaciones y al menos que me pueda comprar el Apple, el portátil, el M5 Max. Bueno, es una broma. Obviamente cualquier apoyo es bienvenido y lo necesitamos, pero estamos aquí para divulgar, para aprender, para enseñar, para divertirnos, para compartir para debatir, para discutir para matarnos aquí, esperemos que no porque está el tema bastante polarizado pero bueno, lo dicho, me enviáis un mensaje por mensaje directo en redes sociales, Linkedin, X, Instagram también podéis y si no, pues un correo electrónico, os paso un enlace y ya estáis dentro, en Discord y si os gusta lo que veis, lo que habéis visto lo que conocéis de XHabay, poned un me gusta, compartid, comentad, suscribíos ya sea en el canal de YouTube, que vamos para 60.000 miembros, pues está muy bien. Esperemos llegar a 100.000, es el objetivo antes de final de año y lo celebramos. Por cierto, no hemos hecho un programa de 50.000 suscriptores, pero yo creo que deberíamos hacerlo en los 100.000. Yo creo que las fiestas deben ser de cosas grandes. Yo creo que los 100.000 suscriptores sí que se merece una fiesta y los 50.000 es una celebración de equipo pequeño. Vamos a dejarlo para 100.000, que yo creo que con vuestra ayuda lo vamos a conseguir pronto. Lo he dicho me gusta, compartid, comentad, suscribíos en Youtube o en cualquier plataforma de podcast y vamos a pues a seguir leyendo el artículo que tenéis en el blog de Darío Amodei vamos por el a ver un segundo a ver a ver Punto 3. Vamos a ir al punto 3. Leímos la regulación y seguridad pública. Leímos también el punto 2, macroeconomía y política fiscal. Realmente es un artículo, como suelen ser los de Darío Modé, imperdible. Os recomiendo tanto que me escuchéis como que... Bueno, lo podáis leer una segunda lectura vosotros mismos, pues genial. No es lo mismo opinar a partir de un artículo, un resumen, un clickbait, que leáis vosotros de primera mano la información. Vamos a ello. Punto 3 de 5, acelerar el impacto positivo de la inteligencia artificial. Dice Darío Modéis que así como debemos lidiar con el equilibrio entre innovación y seguridad para la inteligencia artificial, debemos abordar el mismo equilibrio para las tecnologías que probablemente se verán aceleradas por ella. como la biomedicina, la energía o la ciencia de los materiales. Pero si bien la inteligencia artificial probablemente presente desafíos novedosos que surgen muy rápidamente y para los que no tenemos experiencia previa, otros campos acelerados por la inteligencia artificial probablemente se enfrenten a un problema muy diferente. Sistemas regulatorios diseñados para un ritmo de innovación más lento y que no están preparados para gestionar la avalancha de nuevos productos y avances que traerá la inteligencia artificial. La inteligencia artificial también puede hacer que estas tecnologías derivadas sean más seguras y predecibles, de una manera que contradice las suposiciones escépticas de agencias reguladoras como la Administración de Alimentos y Medicamentos, la FDA. Por lo tanto, lo que respecta a las aplicaciones posteriores de la inteligencia artificial, a diferencia de la inteligencia artificial en sí misma, me preocupa más que el marco regulatorio ralentice el progreso debido a su incapacidad para gestionar el ritmo acelerado del cambio, que es su incapacidad para abordar el cambio. riesgos importantes. Lo último que deseamos es que los beneficios de la inteligencia artificial se vean frenados mientras sus riesgos se ciernen sobre nosotros, por lo que es fundamental actuar ante este problema cuanto antes. El problema y sus soluciones se manifestarán de manera diferente en cada área de la ciencia, el comercio y la tecnología, por lo que me centraré en un área ilustrativa que es la innovación biomédica. Esto se debe tanto a que probablemente será la fuente de los mayores beneficios humanitarios de la inteligencia artificial como a que es un área donde la regulación es particularmente compleja. No sabemos con exactitud cómo la inteligencia artificial acelerará la innovación biomédica, pero parece probable que incrementar considerablemente el ritmo al que los nuevos fármacos candidatos ingresan al proceso de aprobación regulatoria, es incrementar el ritmo de esos nuevos fármacos, aumentar la magnitud de los efectos y mejorar los perfiles de seguridad de los nuevos fármacos. Gracias a una mejor optimización y posiblemente a una mejor comprensión de su biología subyacente. Desarrollar fármacos candidatos para enfermedades que nunca antes han sido tratadas con éxito. Lo comentamos el otro día en Xtalks, creo que con Emilio. Dice crear rápidamente nuevas formas de terapia de manera similar a como los anticuerpos, los péptidos y las terapias celulares se han convertido en nuevas categorías de tratamiento en las últimas décadas. Algunos de estos avances acelerarán naturalmente los plazos regulatorios y necesidad de cambios estructurales. Los fármacos con mayor efecto pueden dar lugar a ensayos clínicos más pequeños y menos costosos y activar mecanismos para una aprobación acelerada. Sin embargo, el sistema de tratamiento El sistema regulatorio actual está diseñado para aplicar un alto nivel de escrutinio y numerosas etapas de prueba, bajo la premisa de que los fármacos candidatos, a menudo no funcionan, de menudo, presentan graves problemas de seguridad, incluso cuando sí lo hacen. Tanto en la FDA como en la Agencia Europea de Medicamentos, EMA, el tiempo típico para que un fármaco candidato complete el proceso regulatorio es de 7 a 8 años. El tema de los fármacos, principal. La industria farmacéutica, las industrias farmacéuticas. Con la iglesia hemos topado. Dice, en parte, estos 7-8 años es debido a estas premisas pesimistas. Sin reformas, la inteligencia artificial colapsará o sobrecargará este sistema. Obviamente no queremos cambiar las cosas de forma que provoque una proliferación de medicamentos milagrosos o incidentes de seguridad generalizados, pero algunas reformas relativamente sencillas podrían hacer que la FDA la EMA y agencias similares se adapten mejor a una rápida aceleración científica impulsada por la inteligencia artificial en caso de que ésta se produjera muchos de los pasos del proceso clínico que antes requerían experimentos costosos y lentos pronto podrán realizarse mediante simulación o análisis con inteligencia artificial los órganos o los organismos reguladores deberían considerar la posibilidad de desarrollar estándares desde ahora para la aceptación de estos métodos. Esto permitiría su rápida adopción una vez que demuestren su eficacia en lugar de prolongar el periodo de realización de pruebas innecesarias. Algunos ejemplos de áreas donde esto podría aplicarse son el modelado farmacodinámico y farmacocinético PD y PK basado en inteligencia artificial, predicción toxicológica para evitar la necesidad de realizar estudios toxicológicos en múltiples especies animales, una selección de dosis más precisas reduce la necesidad de utilizar rangos de dosis amplios en los ensayos clínicos. Validación de biomarcadores mediante el análisis de grandes conjuntos de datos y grupos de control sintéticos en ensayos clínicos para reducir la necesidad de reclutar más participantes. Desarrollo de criterios de valoración indirectos especialmente importantes en el envejecimiento y la neurodegeneración. Más allá de estos ejemplos concretos, las agencias también deberían considerar mecanismos más radicales y flexibles para la aprobación acelerada. Si mis predicciones sobre la inteligencia artificial son correctas pronto habrá muchos casos de intervenciones que funcionen de forma inesperada y eficaz y el sistema regulatorio debería estar preparado para tomarlas en serio y no adoptar una postura de escepticismo excesivo. La aceleración biomédica debería incrementar sustancialmente los beneficios de la inteligencia artificial pero cabe destacar que también podría contribuir a reducir sus riesgos. La reforma de los procesos de aprobación biomédica podría ser útil para la biodefensa y el progreso biomédico impulsado por la inteligencia artificial y también podría mejorar la salud mental, lo que podría tener un efecto estabilizador en la sociedad. Bueno, dos temas en este punto 3 que es los fármacos, la farmacología viniendo de la pandemia, miedo le tengo pero obviamente el tema de la aceleración y desarrollo de fármacos a medida o mejores en escenarios que a lo mejor son muy costosos o por ser minoritarios no llegan o no llegan a tiempo pues creo que aunque con miedo y respeto pues es un área en que tenemos que apostar en salud y bueno nombran obviamente el tema de la biotecnología la biomedicina la biodefensa y temas de salud mental un segundo un segundo le doy una entrega aquí de Amazon entonces no se me vaya porque creo que son libros y pues nada si hacemos una pausa porque sube me dan el libro y ya está y quedamos en el punto 4 ¿qué opináis al respecto? cosas del directo, nada, van a entrenar los libros ya es simplemente en los DANE y seguimos, buenas tardes Agustín Sanfra y nada, vamos es el punto 3, es acelerar el impacto positivo en la inteligencia artificial me ha chocado que lo hayan centrado tanto en el tema de la, todo el tema bio salud, biomedicina, también todo el tema militar o de bioseguridad, biodefensa biotecnología en definitiva vamos a esperar que suban Me entreguen el paquete y seguimos con el punto 4. Estas son las cosas del directo. Estas son las cosas del directo y también de la magia del directo. Bueno, ya tenemos paquetito de la magia. Ya tenemos paquetito de Amazon con libros. A ver, venga, vamos a poner por la espera, disculpad, ya estamos al 100% con vosotros. Dice Agustín Sanfras, ¿sería justo que un fármaco descubierto por inteligencia artificial se apunte la patente una farmacéutica? Bueno, va a ocurrir, va a ocurrir. A tal nivel que aquel que controla la inteligencia artificial, pues bueno, el tema de la guerra de patentes con inteligencia artificial es un gran tema. Es un gran tema porque, claro, puede colapsar, convertir la carrera de la inteligencia artificial en una carrera de patentes y en un bloqueo del conocimiento en vez de una democratización y potenciación del mundo o del bien común. Es muy buena pregunta. Yo creo que evidentemente se contesta por sí sola, pero yo creo que es inevitable. una guerra perdida seguramente seguramente no lo sé pero importante importante punto 4 el estado y las libertades civiles a ver qué dice darío moda y dice todos todo sistema de gobierno debe afrontar la cuestión del poder del estado y sus límites el estado tiene un interés legítimo a menudo existencial en proteger a su población de amenazas internas y externas pero otorgarle demasiado poder es el camino a la tiranía de la concentración la concentración de poder no las democracias modernas han logrado en gran medida mantener este equilibrio con éxito, pero es un equilibrio precario incluso en las mejores circunstancias. Su cumplimiento ha requerido un amplio entramado legal y constitucional desarrollado a lo largo de siglos, por ejemplo en Estados Unidos las enmiendas primera, cuarta y quinta, la ley poscomitatus, la ley fisa, etc. La amenaza, la inteligencia artificial amenaza con alterar este equilibrio y al mismo tiempo aumenta drásticamente los riesgos, pero si reaccionamos con rapidez y estamos a la altura de las circunstancias podemos usar la inteligencia artificial para crear un mundo con garantías de libertad más sólidas y duraderas y una mejor defensa contra las amenazas que nunca antes habíamos tenido. Una inteligencia artificial poderosa en manos equivocadas podría convertirse en la herramienta definitiva de la autocracia y nuestras protecciones legales y constitucionales actuales no están completamente preparadas para contrarrestar esta amenaza. Fundamentalmente el enorme retorno de la inteligencia en términos de poder en el mundo combinado con el rápidos ritmos de progreso de la inteligencia artificial crea una tormenta perfecta para una toma de poder sorpresiva por parte de diversos actores peligrosos, o bueno, peligrosos que es que no sean Estados Unidos. El peligro podría adoptar diversas formas tecnológicas u operativas específicas, pero todas comparten la idea de que la inteligencia artificial podría conferir repentinamente un poder enorme, eludiendo los mecanismos existentes de control democrático. Un ejército de drones totalmente automatizado, que hoy suena a ciencia ficción, no, no, no suena a ciencia ficción, la ciencia ficción, pero bueno, podría en el futuro obedecer órdenes ilegales y permitir que los gobiernos afiancen unilateralmente su poder. Es más probable que los humanos con formación profesional se opongan a tales órdenes ilegales. Una inteligencia artificial centrada en la vigilancia podría analizar información ampliamente disponible a gran escala y utilizarla para inferir los detalles más íntimos de la vida de cada ciudadano, una capacidad tecnológica no completada por la legislación actual sobre libertades civiles. Todo esto podría ocurrir un muy rápidamente o en secreto, por lo que es importante fortalecer de forma proactiva el compromiso de las democracias con las libertades civiles. A continuación presentamos algunas ideas políticas que deberíamos considerar. Es necesario establecer normas de rendición de cuentas fiables para las armas totalmente autónomas. Bueno, vamos a un punto que fue muy crítico por el que se creó esta disputa con el Departamento de Guerra de la Administración Trump. Vamos a ver, dice, es necesario establecer normas de rendición de cuentas fiables para las armas totalmente autónomas. Estas armas y en especial los sistemas autónomos que las coordinan o dirigen deben someterse a mecanismos de rendición de cuentas constitucionales y de mando. supervisión humana superior en lugar de seguir órdenes ciegamente. Esto podría implicar que un panel de revisión jurídica o el poder judicial debidamente diseñados tengan un mecanismo de control para desactivarlas, que los propios sistemas estén intrínsecamente entrenados para buscar y responder a la autoridad de supervisión legítima o ambas cosas. Prohibir el uso interno de armas totalmente autónomas. Si bien existen argumentos legítimos que justifican la necesidad de armas totalmente autónomas para defenderse de adversarios extranjeros, como está ocurriendo en la invasión rusa de Ucrania, no hay justificación para su uso contra ciudadanos estadounidenses. Las Fuerzas Armadas ya tienen ciertas limitaciones en su capacidad para operar dentro del territorio nacional, pero lo ideal sería que estas armas también estuvieran prohibidas en las fuerzas del orden. Es decir, lo que no dijo el Papa, pide prohibir el uso interno de armas, interno, de armas totalmente autónomas. es decir, contra el enemigo sí, pero a nivel interno no. Cerrar la laguna legal que permite la recopilación masiva de datos y la intermediación de los mismos. Según la legislación actual, los datos que los estadounidenses comparten con empresas privadas, con los proveedores de internet, pueden comprarse y utilizarse para análisis masivos en el ámbito de la vigilancia interna y la aplicación de la ley. Esta laguna en la protección de la privacidad es anterior a la inteligencia artificial, pero esto o esta aumentará considerablemente los riesgos al hacer que el análisis masivo de dicho datos sea mucho más revelador y útil en el pasado esta laguna legal debe cerrarse derechos públicos otra sección los derechos públicos al asesoramiento de inteligencia artificial durante acciones gubernamentales adversas como principio general parece importante que toda persona u organización que sea objeto de acciones gubernamentales adversas por ejemplo regulatorias o legales tenga acceso a una inteligencia artificial al menos tan capaz como la que el gobierno con la que el gobierno está autorizado a utilizar en dicha acción Esto implicaría no otorgar al gobierno una ventaja injusta, lo que socavaría efectivamente los derechos legales de los ciudadanos. Esto podría añadirse como una extensión o interpretación de la ley de procedimiento administrativo, las garantías procesales o el derecho a la representación legal consagrado en la sexta enmienda. Fijaos. Es decir, el no contar con una inteligencia individual que toda persona u organización que sea objeto de acciones gubernamentales adversas tenga acceso a una ley al menos tan capaz como la que él tiene el gobierno. Esto es un poco utópico, ¿no? Esto es muy utópico. No digo que no esté mal, pero es utópico. Pero es verdad que si no se consigue eso, estaríamos entrando en una desigualdad entre ciudadanos y sistema, ¿no? Aún mayor. Finalmente, cabe destacar que los gobiernos no son las únicas entidades de las que debemos desconfiar en lo que respecta a la toma del poder por parte de la inteligencia artificial. En diversos momentos de la historia, como la Edad Dorada en Estados Unidos o la Compañía Británica de las Indias Orientes las empresas han alcanzado tal poder que han llegado a controlar el estado o adoptar características cuasi estatales. La inteligencia artificial pronto será tan capaz que me preocupa que no se pueda confiar plenamente ni a gobiernos ni a empresas y que sea necesario establecer controles y equilibrios para cada uno. La regulación es una de las soluciones para controlar a las empresas y mis ideas al respecto se encuentran en la sección 1 pero también es importante que las empresas de inteligencia artificial cuente con una mayor separación de poderes y responsabilidades que la que suelen tener las entidades privadas. El fideicoísmo de beneficios a largo plazo de Anthropic, un órgano de gobierno independiente diseñado para garantizar que la empresa cumpla con su misión, es un ejemplo de esta estructura y el sector debería seguir explorando mecanismos que vayan más allá. Lograr el equilibrio adecuado de modo que tanto las empresas como el gobierno cuenten con controles efectivos sobre sus poderes es fundamental bueno este punto 4 es controvertido porque rendición de cuentas por tema de armas totalmente autónomas, prohibir el uso interno de armas totalmente autónomas cerrar la laguna legal de bueno todo lo que les vino de cara o se opusieron en ese acuerdo con el departamento de guerra pues es lo que están exponiendo aquí y lo mismo este último punto pues está muy bien para la sociedad pero bueno me parece utópico en el sentido de que no creo que un ciudadano no da pie cuente con o tenga acceso a una inteligencia artificial igual de capaz que la que tiene el gobierno vamos no lo creo un poco utópico no sé qué pensáis por aquí punto y último número 5 Garantizar el liderazgo de las democracias se ha convertido en un instinto común, quizás derivado de la experiencia reciente con Internet y las telecomunicaciones, considerar las nuevas tecnologías desde una perspectiva geopolítica como instrumentos de política comercial, con el objetivo de difundir nuestro conjunto de tecnologías por todo el mundo. Pero estoy firmemente convencido de que la inteligencia artificial es algo mucho más profundo, algo que redefine por completo el panorama y entorno a lo cual debe diseñarse todo. estrategia geopolítica futura como las armas nucleares pero potencialmente incluso más si la inteligencia artificial realmente se convierte pronto en un país de genios en un centro de datos allí o así o algo remotamente parecido entonces es probable que se convierta en la principal fuente de poder militar y económico para cualquier nación en un país virtual de 100 millones de genios 10 millones podrían dedicarse a la estrategia militar 10 millones a la fabricación de drones 10 millones a la investigación y desarrollo de armas 10 millones a la recopilación y análisis de inteligencia, 10 millones al avance científico general y así sucesivamente. Una nación que posee una inteligencia artificial poderosa y se enfrenta a una que carece de ella o incluso una que está tres años por detrás de la inteligencia artificial podría ser el equivalente a un ejército de marines de la Segunda Guerra Mundial enfrentándose a un ejército de espadachines medievales. Además, si la inteligencia artificial permite formas de represión autocrática más profundas y potencialmente permanentes, resulta aún más es importante que las naciones más poderosas del mundo sean democracias o al menos que existan sólidas protecciones contra la represión impulsada por la inteligencia artificial. Esto también aumenta la urgencia de una estrategia geopolítica bien definida. Las democracias deberían buscar formar una coalición global centrada en el desarrollo de la inteligencia artificial, de acuerdo con sus valores comunes intentando progresivamente atraer al resto del mundo, haciendo cada mes más atractivo formar parte de la coalición y La coalición debería ser una internacionalización coordinada de las ideas políticas sobre inteligencia artificial analizadas en las secciones 1 a 4, además de un esfuerzo por controlar la cadena de suministro fundamental para el desarrollo de la inteligencia artificial, compartiéndola dentro de la coalición y negándosela a quienes estén fuera de ella. Algunos principios y objetivos operativos podrían incluir gestionar la cadena de suministro de inteligencia artificial, Los miembros de la coalición de confianza deberían compartir libremente chips y equipos de fabricación de semiconductores MS entre sí, al tiempo que colaboran para impedir que sus adversarios los obtengan. Los controles de exportación estadounidenses sobre chips de vanguardia y MS a China han contribuido significativamente al liderazgo general de Estados Unidos en inteligencia artificial y estas políticas deben ampliarse, reforzarse y coordinarse con otros estados afines. Legislaciones pendientes como Match y Overseas constituyen un buen primer paso y las democracias aliadas deben considerar medidas similares otro punto coordinación para abordar los riesgos de la inteligencia artificial las políticas para abordar los riesgos biológicos de ciberseguridad y de autonomía descritos en la sección 1 serán más eficaces y menos onerosas para la industria si se coordinan internacionalmente esto permitiría a las empresas cumplir con estándares compatibles y a los reguladores aprender unos de otros sobre la mejor manera de medir y mitigar estos riesgos. Las fuerzas del orden y los organismos de inteligencia también deberían colaborar más estrechamente para rastrear y neutralizar las amenazas de uso indebido como los intentos de los terroristas de crear armas biológicas con inteligencia artificial. Compartir los beneficios de la inteligencia artificial. Las políticas comerciales y regulatorias pueden utilizarse para facilitar una difusión más rápida de los beneficios económicos de la inteligencia artificial dentro de la coalición compartiendo experiencias sobre cómo acelerar la innovación. La coordinación de enfoques para una implementación beneficiosa podría ayudar a llevar los beneficios de la inteligencia artificial a los países en desarrollo. Por ejemplo, la armonización de los regímenes de aprobación médica podría conducir a pruebas y aprobaciones más rápidas y eficaces de medicamentos basados en la inteligencia artificial, como se analizó en la sección 3. Defensa, otro punto, defensa Y más de... jajajaja otro punto rechazo a la represión impulsada por inteligencia artificial los miembros de la coalición deberían rechazar la tiranía ultra represiva de alta tecnología basada en inteligencia artificial sobre la que advertí en la adolescencia de la tecnología y deben contar con salvaguardias o salvaguardas similares a las que describí en la sección 4 otro punto cooperación macro económica la crisis de empleo o de estabilidad laboral como cualquier otra crisis económica pueden propagar A través de las fronteras, por lo tanto, los países tienen un interés común en colaborar para coordinar políticas de apoyo y estabilización macroeconómica como las descritas en la sección 2 para contrarrestar cualquier efecto negativo sobre el empleo. El objetivo, y acaba el punto 5, el objetivo debe ser hacer que la pertenencia a la coalición sea lo más atractiva posible. Hay la coalición, coalición internacional o coalición de países democráticos o amigos de Estados Unidos. Y dejar claros los costos de permanecer fuera de ella. Una amenaza casi, ¿no? Y dejar claros los costos de permanecer fuera de ella. Ahí sí que valdría lo de los drones a nivel masivo y autónomo y a saco. La coalición se basaría en la coordinación entre estados soberanos conservando cada nación plena autoridad sobre sus propios asuntos podría crecer de forma gradual comenzando con democracias ideológicamente afines que estarán naturalmente dispuestas a unirse y acogiendo progresivamente a países menos afines pero dispuestos a cumplir con los estándares de la coalición a cambio de los enormes beneficios de la membresía, es decir que aquí la democracia se va a tomar viento, es la coalición idealmente el mundo entero se uniría a Pero incluso si eso no es posible, la construcción de la coalición coloca a las democracias en la mejor posición para contener y superar a los regímenes que siguen comprometidos con la represión. Tremendo, ¿eh? Vamos, que lo que quieren en definitiva es una coalición internacional que... regule pues todo el tema de la inteligencia artificial toda la cadena de suministro los riesgos de la IA los beneficios de la IA una defensa unitaria de esos países o alianza de países y democracias de la IA un rechazo a toda la tiranía de la inteligencia artificial pero bueno si estás dentro de la coalición y una cooperación macroeconómica es decir toda esa alianza de inteligencia artificial supondría también esa coalición una cooperación o un estado macroeconómico ¿Qué os parece? Tremendo, ¿no? Es decir, como veis, Darío Modé lo tiene muy claro. Yo creo que además lo tiene muy, muy, muy claro. Lo tiene muy claro. Vamos a ver las conclusiones, vamos a ver las conclusiones, si tenéis preguntas ahora en el chat. La conclusión dice, es una ventana, la titula una ventana de oportunidad, dice el progreso exponencial de la inteligencia artificial ha generado una urgencia y un ritmo de cambio que el proceso de formulación de políticas normalmente no está preparado para afrontar, pero también ha creado una oportunidad única. La confluencia de pruebas claras y presentes de los riesgos de la inteligencia artificial un primer atisbo de su potencial tanto para la creación de valor económico como para la disrupción económica y una notable reacción pública contra los enfoques no regulados de la inteligencia artificial han creado una situación en la que los responsables políticos están inusualmente abiertos a acciones con visión de futuro. Barbol y su bosque están despertando. En los círculos de la industria de la inteligencia artificial se ha popularizado la idea de que esto es un problema de relaciones públicas. Se dice que la inteligencia artificial necesita mejor marca que tengo. Rechazo por completo este planteamiento. La gente está preocupada por la inteligencia artificial porque percibe correctamente que sus riesgos son reales, no porque los directores ejecutivos de inteligencia artificial no hayan sido lo suficientemente optimistas. Creo que es mi deber como líder de inteligencia artificial seguir siendo transparente sobre estos riesgos y la preocupación pública en respuesta a esta transparencia constituye una rendición de cuentas democrática que funciona como debe. El reto principal consiste en canalizar esta preocupación hacia soluciones constructivas y evitar que degenere en ira y violencia sin sentido. Esto es lo que está ocurriendo y va a ocurrir, que el reto principal consiste en canalizar esta preocupación hacia soluciones constructivas y evitar que degenere en ira y violencia sin sentido. Es lo que estamos viendo en España alrededor de la inteligencia artificial, la imbecilidad absoluta. Tengo que decirlo, lo siento, siento emplear estas palabras, pero creo lo que acabo de decir. Soy optimista respecto a la búsqueda de soluciones, ya que muchos de estos problemas, desde abordar el desplazamiento laboral hasta las pruebas previas al lanzamiento de modelos, pasando por los controles de exportación de chips y otras cuestiones políticas relacionadas con la inteligencia artificial, como el consumo de energía, gozan de un amplio respaldo político y existe en este aspecto un futuro ambicioso pero realista en el que una amplia coalición, volvemos otra vez a la coalición, no partidista, es decir, ni política ni democracia, impulsada por el reconocimiento directo de los desafíos que plantea la inteligencia artificial propiciará la adopción de políticas sensatas y con visión de futuro mucho más rápidamente de lo habitual. Cuanto antes lo logremos, antes podremos disfrutar todos de los increíbles beneficios de la inteligencia artificial. El resumen de este artículo podría decirse que Darío Amodei lo que está proponiendo es una coalición global, una nueva forma de gobernanza y un nuevo sistema político que tiene que ver con una alianza basada en la potencialidad de la inteligencia artificial y no en los riesgos y en definitiva lo que él dice es vamos a unirnos alrededor de la inteligencia artificial para ser más, controlarla y potenciarla y crear un estado una alianza global, mundial alrededor de políticas que sean afines y bueno, ya poco a poco se irá uniendo todo el mundo y eso supondrá un estado económico y una potencia mayor aún que la de Estados Unidos obviamente, pero impulsada sometida, propiciada por el mundo anglo, en este caso el mundo americano, Estados Unidos, que no es lo mismo. Me gustaría agradecer, bueno, a varias, Alain Dafoe, Mariano, Richard, Brad Carson, bueno, a varios, a miembros de Anthropic, bueno, hace varias referencias a varios de sus trabajos, pues un artículo imperdible, yo creo que me parece que es otro artículo brillante después de de ese primer artículo de las gracias de no me acuerdo el título exactamente pero es el previo al de la adolescencia de la tecnología que hicimos un artículo y este nuevo artículo que no es tan extenso política sobre el crecimiento exponencial de la inteligencia artificial que bueno es un título un poco camuflado yo creo que podría titularse el futuro de la inteligencia artificial pasa por una coalición o coalición global de inteligencia artificial el fin de las demogracias el inicio de un nuevo una nueva forma de poder donde las sinergias entre lo público y lo privado se estrechan, donde las empresas que desarrollan inteligencia artificial tienen un papel activo en todo lo que es la implementación, desarrollo, investigación, pero también el uso de estas tecnologías. En definitiva, nueva era, nuevos protagonistas y una solución que, con matices, yo estoy bastante alineado con Darío Amodei. Es decir, el sistema actual no nos va a permitir aprovechar la inteligencia artificial En nuestro caso España iríamos a un país ludita con influencers aplaudiendo lo que se hace en ese país ludita y lo que diga Europa más, todo el departamento o área Legal Tech apoyando una IA controlada, regulada, con una visión de herramienta sometida, como la institución eclesiástica dice, a un servicio al humano, para nada, entendiendo este nuevo paradigma, para nada. nada, entendiéndolo como una evolución humana, para nada, entendiéndolo como más allá de lo humano, para nada como una nueva era. Es simplemente un nuevo world que podemos utilizar en contextos concretos. Esto es lo que quieren que compremos. Y Darío Modell no tiene esa visión. Darío Modell es muy conocedor, aunque no emplee la palabra allí, de que estamos cerca, o si no la tienen ya, de esa superinteligencia, inteligencia artificial avanzada, que supone esa singularidad para el ser humano, para el desarrollo de la civilización, nuevo proyecto civilizatorio. Y ese nuevo proyecto civilizatorio requiere cambios y reestructuraciones. Algunos serán cambios otros cambios drásticos donde habrá destrucción de lo antiguo y creación de lo nuevo y habrá dolor y oposición y violencia seguramente también. Esto lo sabe Darío Modé y la única forma o él entiende es que es la participación primero de las grandes compañías que desarrollan esta tecnología y por otro lado la alianza coalición de democracias, gobiernos, en pro de crear ese nuevo proyecto civilizatorio impulsado por inteligencia artificial. Para lo bueno, para las oportunidades y posibilidades y también para los riesgos y peligros, incluido el tema militar. ¿Qué os ha parecido, amigos? Yo creo que, bueno, no... cuarenta y pico minutos, si tenéis alguna pregunta yo creo que da para mucha reflexión quiero hacer un programa que lo íbamos a hacer el jueves sobre las empresas no humanas de Milley, donde están apuntándose la élite tecnológica Elon Musk Peter Thiel, ahí hay un movimiento también importante ¿qué pensarán países que no estén tan alineados ideológicamente a lo que plantea Darío Amodei. ¿Qué pensará España o Europa al respecto de este tipo de planteamientos? ¿Serían un país aliado? ¿Qué pensará China? ¿Estará China en esa alianza coalición que plantea Estados Unidos? Porque dice que si no está quien no esté en la coalición hay que hacerle ver el precio de no estar en esa coalición. A ver... Dice que además, dice Darío Amodei, que es el momento en que la humanidad podría unirse. yo estoy de acuerdo a ver yo aquí también estoy de acuerdo con Agustín dice desde luego es una salida muy buena mejor que una guerra pues no sé si va a ser una salida yo lo tendría que reflexionar más profundamente pero así a bote pronto apoyaría una apoyaría una alianza una coalición en esta línea siempre bajo la transparencia porque esto da poder mucho poder al sistema y nos podría llevar a una sociedad mucho más mucho menos libre pero mucho menos bueno conectada a la verdad pero también es verdad que sin una coordinación sin una estrategia, sin nuevas políticas sin nuevas ideas quizá vayamos a una guerra como dice Agustín, estoy de acuerdo este escenario plantea o una guerra donde suelo poder quedar uno o una gran coalición yo espero, esperemos que sea una coalición, una alianza global, pero ¿Quién está detrás? Estados Unidos. ¿Qué significa esto? ¿Estados Unidos quiere una alianza de igual-igual o una alianza de él-él? el líder y el resto de los súbditos. Si es una alianza, operación, colaboración de igual a igual, bueno, puede ser interesante. Pero si se plantea una desigualdad de poder entre el imperio estadounidense y los súbditos, ¿qué pensáis o qué haríais? Entender que es una salida buena porque no es una guerra, sabiendo que, entendiendo la idiosincrasia de Estados Unidos demostrada por su historia y sus últimos movimientos, en el que sabemos muchas veces o no quién está detrás, o una guerra o división. ¿Qué plantearíais? Yo creo que abogaría por una coalición. en línea de Darío Amodei, pero siendo fuerte individualmente. Es decir, vamos a ser fuertes individualmente y vamos a plantear esa alianza, pero desde un punto de igualdad, no de ser súbditos, sino de tener protagonismo en esa alianza. Y yo creo que Europa, China, Estados Unidos, podrían intentar llegar a esa coalición o a esa alianza donde se regularan estos términos. Y se impulsara, no solo se regulara o se controlara, sino además se impulsara en el resto de posibilidades Y que el ludismo europeo, español, el catequismo... de la sociedad que no entiende pues aceptaría esto porque como es algo global y hay una alianza todo el progreso no se cuestionaría no entraría en cuestionamiento desde el paradigma antiguo o desde estos medievos que se creen los defensores de la humanidad del humanismo suicida entonces me parece que es una dirección como todo con riesgos, con matices y con claroscuros pero Yo creo que Darío Modello está ejerciendo aquí un liderazgo que en otros no se ha visto. Creo que si se sumaran Elon Musk... algunas otras compañías, bueno, está Google, OpenAI, pero si hubiera un cierto apoyo de varias compañías importantes y mostraran unidad en este sentido y avance como está haciendo Anthropic en el desarrollo tecnológico, yo creo que sí que podrían forzar esa coalición. Que como dices, supondría también un macroestado económico. ¿Lo tienen? ¿Queréis que diga lo que pienso ahora? Que está todo muy bien. ¿Qué es Esto es un discurso y narrativa preparada porque ellos ya saben muy bien lo que nos viene y lo que va a suceder. Entonces prácticamente nos lo van anticipando y lo van soltando para que lo vayamos digiriendo. Pero obviamente lo que van a plantear es eso. Una coalición, una alianza, sabiendo que quien no está en esa alianza es una guerra. Los de la alianza y los que no están en la alianza son el enemigo. Y van a estar en esa línea. Van a estar en esa línea. una narrativa de falsa bandera jugando buenos contra malos y utilizándose unos con otros para en definitiva contar un cuento que la sociedad acepte y ellos hacer pues lo que pretenden, un reset un nuevo proyecto civilizatorio con un reset económico eso es lo que pienso, dicho lo cual pues me ha parecido un artículo imprescindible y de obligada lectura, espero que os haya servido pues bueno estos dos episodios para para reflexionar y bueno, lo podéis poner en comentarios si tenéis podéis poner un me gusta si podéis poner un me gusta o poner cualquier comentario en el programa pues os lo agradecería poned me gusta, dadle a la campanita también, suscribíos y gracias por estar ahí y nos vemos a lo mejor nos vemos mañana porque es verdad que a mí me coge mono cuando pasan muchos días y pasar por aquí y hay muchísimos temas hay una entrevista de Darío Modé con la hermana que es interesante Tenemos un programa de conciencia de Geoffrey Hinton pendiente por el que recibí insultos en catalán. Desde aquí os quiero a todos. Un abrazo. Nos vemos. Si no hace mucho calor, nos vemos mañana. Un abrazo a todos, amigos.

SPEAKER_02 45:56

Bye. Bye.