#5.20 Hackear o Proteger: Estrategias de Ciberseguridad para LLMs

En este episodio del podcast de Charlas Técnicas AWS, entrevistamos a Jordi García Castillón, reconocido experto en ciberseguridad e inteligencia artificial. Juntos desvelamos los desafíos y amenazas que enfrentan los grandes modelos de lenguaje (LLMs) en la actualidad, explorando cómo prevenir ataques como la inyección de prompts y el envenenamiento de datos. 

Descubriremos las mejores prácticas, frameworks y herramientas para proteger tus aplicaciones basadas en IA, ynos adentraremos en temas emergentes como la orquestación de agentes autónomos y su impacto en infraestructuras modernas. Además, aprenderemos sobre el desarrollo de soluciones de ciberseguridad innovadoras conAmazon Bedrock.

Si quieres entender cómo la IA está transformando la ciberseguridad y prepararte para los retos del futuro, este episodio es una parada obligatoria.

Tabla Contenidos:

• [00:00] Introducción y presentación de Jordi García Castellón.
• [01:51] Principales vectores de ataque en modelos de lenguaje.
• [02:29] Técnicas de hacking y amenazas emergentes.
• [04:59] Cómo la ingeniería social aprovecha modelos de lenguaje.
• [11:09] Envenenamiento de datos: riesgos y prevención.
• [14:55] Frameworks de seguridad para proteger LLMs.
• [18:27] Estrategias para proteger infraestructuras en AWS.
• [22:57] Desarrollo de aplicaciones de ciberseguridad con Amazon Bedrock.
• [27:51] IA consciente y personalidad: un debate ético.
• [29:37] Elon Musk y la integración de IA en proyectos innovadores.
• [32:21] Tamaño vs. eficiencia en modelos de IA.
• [33:44] Cómo la IA está transformando la ciberseguridad.
• [35:47] Optimización y entrenamiento de modelos para mayor seguridad.
• [39:40] Agentes autónomos y el futuro de la orquestación en IA.
• [51:31] Conclusiones y recomendaciones.

Redes Sociales del Invitado:

• LinkedIN: https://www.linkedin.com/in/gcjordi/
• Twitter: https://x.com/gcjordi
• Hashnode: https://gcjordi.hashnode.dev/ 
• Dev.to: https://dev.to/gcjordi 

🔗 Links mencionados en este episodio:

• Atlas Mitre Attack: https://atlas.mitre.org/
• OWASP LLMs: https://owasp.org/www-project-top-10-for-large-language-model-applications/
• AWS Well-Architected Framework usando Bedrock:https://aws.amazon.com/blogs/machine-learning/achieve-operational-excellence-with-well-architected-generative-ai-solutions-using-amazon-bedrock/

✉️ Si quieren escribirnos pueden hacerlo a este correo: podcast-aws-espanol@amazon.com

Podes encontrar el podcast en este link: https://podcast.marcia.dev/
O en tu plataforma de podcast favorita

Más información y tutoriales en el canal de youtube de Charlas Técnicas

☆☆ NUESTRAS REDES SOCIALES ☆☆

🐦Guille LinkedIn:   https://www.linkedin.com/in/gruizesteban/

🐦 Isa LinkedIn: https://www.linkedin.com/in/isahuerga/

🐦 Marcia LinkedIn:   https://www.linkedin.com/in/marciavillalba/

🐦 Podcast Charlas Técnicas:  https://www.linkedin.com/company/podcast-aws-es

#charlasTecnicas