AI-veiligheid… ok doomer | Anca Dragan AI safety…ok doomer | Anca Dragan

Veilige en capabele modellen bouwen is een van de grootste uitdagingen van onze tijd. Kunnen we AI voor iedereen laten werken? Hoe voorkomen we existentiële bedreigingen? Waarom is alignment zo belangrijk? Professor Hannah Fry duikt in deze cruciale vragen met Anca Dragan, verantwoordelijk voor AI-veiligheid en alignment bij Google DeepMind. Wil je feedback delen? Heb je een suggestie voor een gast die we moeten uitnodigen? Laat een review achter op YouTube en blijf kijken voor nieuwe afleveringen. Tijdcodes: 00:00 Introductie van Anca Dragan 02:16 Risico's op korte en lange termijn 04:35 Een veilige brug ontwerpen 05:36 Robotica 06:56 Interactie tussen mens en AI 12:33 Het doel van alignment 14:30 Value alignment en aanbevelingssystemen 17:57 Hoe je alignment aanpakt bij tegenstrijdige doelen 19:54 Deliberative alignment 22:24 Scalable oversight 23:33 Voorbeeld van scalable oversight 26:14 Wat komt er hierna? 27:20 Gemini 30:14 Risico op lange termijn en het Frontier Safety Framework 35:09 Het belang van AI-veiligheid 38:02 Conclusie Verder lezen: https://deepmind.google/discover/blog/introducing-the-frontier-safety-framework/ https://arxiv.org/pdf/2403.13793 ___ Zoek naar Google DeepMind: The Podcast op: Spotify: https://open.spotify.com/show/39fjU5Q5L5UecTCRMeqjwb Apple Podcasts: https://podcasts.apple.com/gb/podcast/google-deepmind-the-podcast/id1476316441 IHeartRadio: https://www.iheart.com/podcast/269-deepmind-the-podcast-48983807/ Dank aan iedereen die dit mogelijk heeft gemaakt, onder wie: Presentatie: professor Hannah Fry Serieproducent: Dan Hardoon Montage: Rami Tzabar, TellTale Studios Opdrachtgever & producent: Emma Yousif Muziek: Eleni Shaw Cameraregie en videomontage: Tommy Bruce Geluidstechnicus: Perry Rogantin Videostudioproductie: Nicholas Duke Videomontage: Bilal Merhi Productieontwerp video: James Barton Visuele identiteit en ontwerp: Eleanor Tomlinson In opdracht van Google DeepMind ___ Abonneer je op ons kanaal https://www.youtube.com/@UCP7jMXSY2xbc3KCAE0MHQ-A Vind ons op X https://twitter.com/GoogleDeepMind Volg ons op Instagram https://instagram.com/googledeepmind Voeg ons toe op LinkedIn https://www.linkedin.com/company/deepmind/

Building safe and capable models is one of the greatest challenges of our time. Can we make AI work for everyone? How do we prevent existential threats? Why is alignment so important? Join Professor Hannah Fry as she delves into these critical questions with Anca Dragan, lead for AI safety and alignment at Google DeepMind. Want to share feedback? Have a suggestion for a guest that we should have on next? Why not leave a review on YouTube and stay tuned for future episodes. Timecodes: 00:00 Introduction to Anca Dragan 02:16 Short and long term risks 04:35 Designing a safe bridge 05:36 Robotics 06:56 Human and AI interaction 12:33 The objective of alignment 14:30 Value alignment and recommendation systems 17:57 Ways to approach alignment with competing objectives 19:54 Deliberative alignment 22:24 Scalable oversight 23:33 Example of scalable oversight 26:14 What comes next? 27:20 Gemini 30:14 Long term risk and frontier safety framework 35:09 Importance of AI safety 38:02 Conclusion Further reading: https://deepmind.google/discover/blog/introducing-the-frontier-safety-framework/ https://arxiv.org/pdf/2403.13793 ___ Search for Google DeepMind: The Podcast on: Spotify: https://open.spotify.com/show/39fjU5Q5L5UecTCRMeqjwb Apple Podcasts: https://podcasts.apple.com/gb/podcast/google-deepmind-the-podcast/id1476316441 IHeartRadio: https://www.iheart.com/podcast/269-deepmind-the-podcast-48983807/ Thanks to everyone who made this possible, including but not limited to: Presenter: Professor Hannah Fry Series Producer: Dan Hardoon Editor: Rami Tzabar, TellTale Studios Commissioner & Producer: Emma Yousif Music composition: Eleni Shaw Camera Director and Video Editor: Tommy Bruce Audio Engineer: Perry Rogantin Video Studio Production: Nicholas Duke Video Editor: Bilal Merhi Video Production Design: James Barton Visual Identity and Design: Eleanor Tomlinson Commissioned by Google DeepMind ___ Subscribe to our channel https://www.youtube.com/@UCP7jMXSY2xbc3KCAE0MHQ-A Find us on X https://twitter.com/GoogleDeepMind Follow us on Instagram https://instagram.com/googledeepmind Add us on Linkedin https://www.linkedin.com/company/deepmind/