DeepMind x UCL | Deep Learning Lectures | 11/12 | Moderne latente-variabelenmodellen DeepMind x UCL | Deep Learning Lectures | 11/12 | Modern Latent Variable Models

In dit college verkent DeepMind Research Scientist Andriy Mnih latente-variabelenmodellen, een krachtig en flexibel framework voor generatieve modellering. Na een introductie van dit framework en van het begrip inferentie, dat er centraal in staat, richt Andriy zich op twee soorten moderne latente-variabelenmodellen: inverteerbare modellen en onhandelbare (intractable) modellen. Speciale aandacht gaat naar het begrijpen van variationele inferentie als sleutel tot het trainen van onhandelbare latente-variabelenmodellen. Let op: dit college werd oorspronkelijk aangekondigd als college 9. Download de slides hier: https://storage.googleapis.com/deepmind-media/UCLxDeepMind_2020/L11%20-%20UCLxDeepMind%20DL2020.pdf Lees hier meer over hoe DeepMind wetenschap toegankelijker maakt: https://deepmind.com/about#access_to_science Over de spreker: Andriy Mnih is Research Scientist bij DeepMind. Hij werkt aan generatieve modellering, representation learning, variationele inferentie en gradiëntschatting voor stochastische rekengrafen. Hij promoveerde aan de University of Toronto op het leren van representaties van discrete data, begeleid door Geoff Hinton. Voordat hij bij DeepMind kwam, was Andriy postdoconderzoeker bij de Gatsby Unit van University College London, waar hij met Yee Whye Teh werkte. Over de collegereeks: De Deep Learning Lecture Series is een samenwerking tussen DeepMind en het UCL Centre for Artificial Intelligence. In het afgelopen decennium is deep learning uitgegroeid tot het toonaangevende paradigma in kunstmatige intelligentie, waarmee we complexe functies uit ruwe data kunnen leren met ongekende nauwkeurigheid en schaal. Deep learning is toegepast op problemen in objectherkenning, spraakherkenning, spraaksynthese, voorspellingen, wetenschappelijk rekenen, besturing en nog veel meer. De toepassingen die daaruit voortkomen raken ons allemaal, op gebieden als gezondheidszorg en medisch onderzoek, mens-computerinteractie, communicatie, transport, natuurbehoud, productie en vele andere terreinen. Als erkenning van deze enorme impact ging de Turing Award van 2019, de hoogste onderscheiding in de informatica, naar pioniers van deep learning. In deze collegereeks geven onderzoekers van het toonaangevende AI-onderzoekslab DeepMind 12 colleges over een boeiende selectie onderwerpen in deep learning, van de basis van het trainen van neurale netwerken via geavanceerde ideeën over geheugen, attention en generatieve modellering tot het belangrijke onderwerp verantwoord innoveren.

This lecture, by DeepMind Research Scientist Andriy Mnih, explores latent variable models, a powerful and flexible framework for generative modelling. After introducing this framework along with the concept of inference, which is central to it, Andriy focuses on two types of modern latent variable models: invertible models and intractable models. Special emphasis is placed on understanding variational inference as a key to training intractable latent variable models. Note this lecture was originally advertised as lecture 9. Download the slides here: https://storage.googleapis.com/deepmind-media/UCLxDeepMind_2020/L11%20-%20UCLxDeepMind%20DL2020.pdf Find out more about how DeepMind increases access to science here: https://deepmind.com/about#access_to_science Speak Bio: Andriy Mnih is a Research Scientist at DeepMind. He works on generative modelling, representation learning, variational inference, and gradient estimation for stochastic computation graphs. He did his PhD on learning representations of discrete data at the University of Toronto, where he was advised by Geoff Hinton. Prior to joining DeepMind, Andriy was a post-doctoral researcher at the Gatsby Unit, University College London, working with Yee Whye Teh. About the lecture series: The Deep Learning Lecture Series is a collaboration between DeepMind and the UCL Centre for Artificial Intelligence. Over the past decade, Deep Learning has evolved as the leading artificial intelligence paradigm providing us with the ability to learn complex functions from raw data at unprecedented accuracy and scale. Deep Learning has been applied to problems in object recognition, speech recognition, speech synthesis, forecasting, scientific computing, control and many more. The resulting applications are touching all of our lives in areas such as healthcare and medical research, human-computer interaction, communication, transport, conservation, manufacturing and many other fields of human endeavour. In recognition of this huge impact, the 2019 Turing Award, the highest honour in computing, was awarded to pioneers of Deep Learning. In this lecture series, research scientists from leading AI research lab, DeepMind, deliver 12 lectures on an exciting selection of topics in Deep Learning, ranging from the fundamentals of training neural networks via advanced ideas around memory, attention, and generative modelling to the important topic of responsible innovation.