DeepMind x UCL | Deep Learning Lectures | 9/12 | Generative adversarial networks DeepMind x UCL | Deep Learning Lectures | 9/12 | Generative Adversarial Networks

Generative adversarial networks (GAN's), voor het eerst voorgesteld door Ian Goodfellow et al. in 2014, zijn uitgegroeid tot een van de meest veelbelovende benaderingen voor generatief modelleren, vooral voor beeldsynthese. In hun meest basale vorm bestaan ze uit twee "concurrerende" netwerken: een generator die data probeert te maken die lijkt op een gegeven dataverdeling (bijvoorbeeld afbeeldingen), en een discriminator die voorspelt of zijn input uit de echte dataverdeling komt of van de generator. Zo stuurt de discriminator de generator richting steeds realistischere samples, naarmate die de discriminator beter leert te "misleiden". Dit college behandelt de theorie achter deze modellen, de moeilijkheden bij het optimaliseren ervan en theoretische en empirische verbeteringen op het basisraamwerk. Ook komen state-of-the-art-toepassingen aan bod van dit raamwerk op andere probleemformuleringen (bijvoorbeeld CycleGAN), domeinen (bijvoorbeeld video- en spraaksynthese) en het gebruik ervan voor representation learning (bijvoorbeeld VAE-GAN-hybrides, bidirectionele GAN). Let op: dit college stond oorspronkelijk aangekondigd als nummer 11 in de reeks. Download de slides hier: https://storage.googleapis.com/deepmind-media/UCLxDeepMind_2020/L9%20-%20UCLxDeepMind%20DL2020.pdf Lees hier meer over hoe DeepMind wetenschap toegankelijker maakt: https://deepmind.com/about#access_to_science Over de sprekers: Jeff Donahue is research scientist in het Deep Learning-team van DeepMind en richt zich momenteel op adversarial generatieve modellen en unsupervised representation learning. Hij werkte aan de projecten BigGAN, BigBiGAN, DVD-GAN en GAN-TTS. Hij promoveerde aan UC Berkeley op visual representation learning, met projecten als DeCAF, R-CNN en LRCN: enkele van de vroegste toepassingen waarbij diepe visuele representaties werden overgedragen naar klassieke computer vision-taken zoals objectdetectie en het genereren van bijschriften bij afbeeldingen. In Berkeley leidde hij ook mede de ontwikkeling van het deep learning-framework Caffe, dat in 2017 de Mark Everingham Prize kreeg voor bijdragen aan de computer vision-gemeenschap. Mihaela Rosca is research engineer bij DeepMind en promovenda aan UCL. Ze richt zich op onderzoek naar generatieve modellen en probabilistisch modelleren, van variationele inferentie tot generative adversarial networks en reinforcement learning. Voordat ze bij DeepMind kwam, werkte ze bij Google aan het oplossen van taken in natuurlijke taalverwerking met deep learning. Ze heeft een MEng in Computing van Imperial College London. Over de collegereeks: De Deep Learning Lecture Series is een samenwerking tussen DeepMind en het UCL Centre for Artificial Intelligence. In het afgelopen decennium is deep learning uitgegroeid tot het toonaangevende paradigma binnen de kunstmatige intelligentie. Het stelt ons in staat om complexe functies te leren uit ruwe data, met een ongekende nauwkeurigheid en schaal. Deep learning wordt toegepast op objectherkenning, spraakherkenning, spraaksynthese, voorspellingen, wetenschappelijk rekenen, besturing en nog veel meer. De toepassingen die daaruit voortkomen raken ons allemaal: in de zorg en medisch onderzoek, mens-computerinteractie, communicatie, transport, natuurbehoud, productie en talloze andere domeinen. Als erkenning van die enorme impact ging de Turing Award van 2019, de hoogste onderscheiding in de informatica, naar de pioniers van deep learning. In deze collegereeks geven onderzoekers van het toonaangevende AI-onderzoekslab DeepMind 12 colleges over een boeiende selectie van onderwerpen binnen deep learning: van de basis van het trainen van neurale netwerken, via geavanceerde ideeën rond geheugen, attention en generatieve modellen, tot het belangrijke onderwerp van verantwoord innoveren.

Generative adversarial networks (GANs), first proposed by Ian Goodfellow et al. in 2014, have emerged as one of the most promising approaches to generative modeling, particularly for image synthesis. In their most basic form, they consist of two "competing" networks: a generator which tries to produce data resembling a given data distribution (e.g., images), and a discriminator which predicts whether its inputs come from the real data distribution or from the generator, guiding the generator to produce increasingly realistic samples as it learns to "fool" the discriminator more effectively. This lecture discusses the theory behind these models, the difficulties involved in optimising them, and theoretical and empirical improvements to the basic framework. It also discusses state-of-the-art applications of this framework to other problem formulations (e.g., CycleGAN), domains (e.g., video and speech synthesis), and their use for representation learning (e.g., VAE-GAN hybrids, bidirectional GAN). Note: this lecture was originally advertised as number 11 in the series. Download the slides here: https://storage.googleapis.com/deepmind-media/UCLxDeepMind_2020/L9%20-%20UCLxDeepMind%20DL2020.pdf Find out more about how DeepMind increases access to science here: https://deepmind.com/about#access_to_science Speaker Bios: Jeff Donahue is a research scientist at DeepMind on the Deep Learning team, currently focusing on adversarial generative models and unsupervised representation learning. He has worked on the BigGAN, BigBiGAN, DVD-GAN, and GAN-TTS projects. He completed his Ph.D. at UC Berkeley, focusing on visual representation learning, with projects including DeCAF, R-CNN, and LRCN, some of the earliest applications of transferring deep visual representations to traditional computer vision tasks such as object detection and image captioning. While at Berkeley he also co-led development of the Caffe deep learning framework, which was awarded with the Mark Everingham Prize in 2017 for contributions to the computer vision community. Mihaela Rosca is a Research Engineer at DeepMind and PhD student at UCL, focusing on generative models research and probabilistic modelling, from variational inference to generative adversarial networks and reinforcement learning. Prior to joining DeepMind, she worked for Google on using deep learning to solve natural language processing tasks. She has an MEng in Computing from Imperial College London. About the lecture series: The Deep Learning Lecture Series is a collaboration between DeepMind and the UCL Centre for Artificial Intelligence. Over the past decade, Deep Learning has evolved as the leading artificial intelligence paradigm providing us with the ability to learn complex functions from raw data at unprecedented accuracy and scale. Deep Learning has been applied to problems in object recognition, speech recognition, speech synthesis, forecasting, scientific computing, control and many more. The resulting applications are touching all of our lives in areas such as healthcare and medical research, human-computer interaction, communication, transport, conservation, manufacturing and many other fields of human endeavour. In recognition of this huge impact, the 2019 Turing Award, the highest honour in computing, was awarded to pioneers of Deep Learning. In this lecture series, research scientists from leading AI research lab, DeepMind, deliver 12 lectures on an exciting selection of topics in Deep Learning, ranging from the fundamentals of training neural networks via advanced ideas around memory, attention, and generative modelling to the important topic of responsible innovation.