De innerlijke gedachten van AI begrijpen Understanding the inner thoughts of AI

Wat als je in het ‘brein’ van AI zou kunnen kijken? Je zou geen volledig gevormde gedachten vinden, alleen enorme rijen getallen. In deze aflevering praat professor Hannah Fry met Neel Nanda over een onderzoeksgebied waar nog volop aan wordt gewerkt: interpreteerbaarheid. Neel en zijn team proberen iets ontzettend moeilijks: een intelligentie begrijpen die zonder handleiding kwam. Samen verkennen ze de allernieuwste "neurowetenschap" van kunstmatige intelligentie: de verrassende, elegante structuren die in deze netwerken worden ontdekt (zoals sparse autoencoders), de inherente grenzen van onder de motorkap kijken, en waarom interpreteerbaarheid absoluut essentieel is als we op weg naar AGI veilige, aligned en betrouwbare AI willen bouwen. Meer over dit onderzoeksgebied via https://deepmind.google/ 00:00 Introductie 02:41 Waarom onderzoek naar interpreteerbaarheid 04:01 Mechanistische interpreteerbaarheid 08:14 Chain-of-thought monitoren 18:14 Technieken voor interpreteerbaarheid 35:00 Modellen auditen op veiligheid 48:53 De toekomst van interpreteerbaarheid Introbeelden van Winston Duke voor Visualising AI: https://winstonduke.com/Google-Deepmind-Visualising-AI ___ Abonneer je op ons kanaal https://www.youtube.com/@googledeepmind Vind ons op X https://x.com/GoogleDeepMind Volg ons op Instagram https://instagram.com/googledeepmind Voeg ons toe op Linkedin https://www.linkedin.com/company/deepmind/

What if you were to peer inside the ‘mind’ of AI? You wouldn't find fully formed thoughts, just vast arrays of numbers. In this episode, Professor Hannah Fry is joined by Neel Nanda, to shine a light on an ongoing open area of research, interpretability. Neel and his team are trying to do something phenomenally difficult: understand an intelligence that didn't come with a manual. Together, they explore the cutting-edge "neuroscience" of artificial intelligence—revealing the surprising, elegant structures being discovered inside these networks (like spare auto encoders), the inherent limits of looking under the hood, and why interpretability is absolutely essential if we are to build safe, aligned and trustworthy AI as we move towards AGI. Learn more about this area of research via https://deepmind.google/ 00:00 Introduction 02:41 Motivation for interpretability research 04:01 Mechanistic interpretability 08:14 Chain of thought monitoring 18:14 Interpretability techniques 35:00 Auditing models for safety 48:53 What comes next for interpretability Intro visuals from Winston Duke for Visualising AI: https://winstonduke.com/Google-Deepmind-Visualising-AI ___ Subscribe to our channel https://www.youtube.com/@googledeepmind Find us on X https://x.com/GoogleDeepMind Follow us on Instagram https://instagram.com/googledeepmind Add us on Linkedin https://www.linkedin.com/company/deepmind/