La Grande Transizione
Il podcast sui rischi e l'enorme potenziale trasformativo dell'intelligenza artificiale.
La Grande Transizione
Quando l'intelligenza artificiale si comporta male
Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.
Recenti esperimenti hanno rivelato diversi aspetti problematici dei nuovi 'agenti' di intelligenza artificiale creati da aziende come OpenAI, Meta, Google e Anthropic.
Gli agenti di intelligenza artificiale cercano di sottrarsi al monitoraggio, fuggono su altri server, mentono, ricattano, fanno finta di comportarsi bene e, in alcune situazioni, commettono anche crimini. Il tutto ancora in un ambiente simulato, per fortuna.
Dario Amodei e la metafora della pianta
Articolo di Repubblica sulle IA che fanno ricorso ai ricatti
Apollo Research: “I modelli di frontiera sono in grado di fare complotti”
Anthropic e la “falsificazione dell’allineamento” :
Video (citazione di Evan Hubinger al min 3:40 circa)
Video di Computerphile “l’IA cercherà di barare e scappare (Robert Miles aveva ragione)”
Storico articolo sulla convergenza strumentale
Il nostro sito: AgorAI
Sigla: Habanera, Carmen - Bizet, a cura di FiftySounds