DeepMind x UCL | Deep Learning Lectures | 12/12 | Verantwoord innoveren DeepMind x UCL | Deep Learning Lectures | 12/12 | Responsible Innovation

Wat kunnen we doen om algoritmes te bouwen die veilig, betrouwbaar en robuust zijn? En wat zijn de verantwoordelijkheden van technologen die op dit gebied werken? In deze talk verkennen Chongli Qin en Iason Gabriel deze vragen in twee delen — met elkaar verbonden door de lens van verantwoord innoveren. In het eerste deel onderzoekt Chongli waarom en hoe we algoritmes kunnen ontwerpen die veilig, betrouwbaar en te vertrouwen zijn, vanuit het perspectief van specificatiegedreven machine learning. In het tweede deel kijkt Iason nader naar de ethische dimensies van machine learning, naar de verantwoordelijkheid van onderzoekers en naar processen die ethische afwegingen op dit gebied kunnen structureren. Samen laten ze zien dat er belangrijke maatregelen zijn die we kunnen, en moeten, nemen — als we systemen willen bouwen die goed zijn voor de samenleving. Download de slides hier: https://storage.googleapis.com/deepmind-media/UCLxDeepMind_2020/L12%20-%20UCLxDeepMind%20DL2020.pdf Lees hier meer over hoe DeepMind wetenschap toegankelijker maakt: https://deepmind.com/about#access_to_science Over de sprekers: Chongli Qin is research scientist bij DeepMind. Ze richt zich vooral op het bouwen van veiligere, betrouwbaardere en beter te vertrouwen machine learning-algoritmes. De afgelopen jaren heeft ze bijgedragen aan het ontwikkelen van algoritmes die neurale netwerken robuuster maken tegen ruis. Een belangrijk deel van haar onderzoek richt zich op functionaalanalyse: eigenschappen van neurale netwerken die de robuustheid vanzelf kunnen vergroten. Ook heeft ze bijgedragen aan wiskundige frameworks om te verifiëren/garanderen dat bepaalde eigenschappen gelden voor neurale netwerken. Voordat ze bij DeepMind kwam, studeerde Chongli in Cambridge, waar ze de mathematics tripos en scientific computing volgde, waarna ze promoveerde in de bio-informatica. Iason Gabriel is Senior Research Scientist bij DeepMind, waar hij in het team voor ethisch onderzoek werkt. Zijn werk richt zich op de toegepaste ethiek van kunstmatige intelligentie, mensenrechten en de vraag hoe je technologie in lijn brengt met menselijke waarden. Voordat hij bij DeepMind kwam, was Iason Fellow in Politics aan St John’s College, Oxford, en lid van het Centre for the Study of Social Justice (CSSJ). Hij promoveerde in de politieke theorie aan de University of Oxford en werkte een aantal jaren voor de Verenigde Naties in postconflictgebieden. Over de collegereeks: De Deep Learning Lecture Series is een samenwerking tussen DeepMind en het UCL Centre for Artificial Intelligence. In het afgelopen decennium is deep learning uitgegroeid tot het toonaangevende paradigma in kunstmatige intelligentie, waarmee we complexe functies uit ruwe data kunnen leren met ongekende nauwkeurigheid en schaal. Deep learning is toegepast op problemen in objectherkenning, spraakherkenning, spraaksynthese, voorspellingen, wetenschappelijk rekenen, besturing en nog veel meer. De toepassingen die daaruit voortkomen raken ons allemaal, op gebieden als gezondheidszorg en medisch onderzoek, mens-computerinteractie, communicatie, transport, natuurbehoud, productie en vele andere terreinen. Als erkenning van deze enorme impact ging de Turing Award van 2019, de hoogste onderscheiding in de informatica, naar pioniers van deep learning. In deze collegereeks geven onderzoekers van het toonaangevende AI-onderzoekslab DeepMind 12 colleges over een boeiende selectie onderwerpen in deep learning, van de basis van het trainen van neurale netwerken via geavanceerde ideeën over geheugen, attention en generatieve modellering tot het belangrijke onderwerp verantwoord innoveren.

What can we do to build algorithms that are safe, reliable and robust? And what are the responsibilities of technologists who work in this area? In this talk, Chongli Qin and Iason Gabriel explore these questions — connected through the lens of responsible innovation — in two parts. In the first part, Chongli explores the question of why and how we can design algorithms that are safe, reliable and trustworthy through the lens of specification driven machine learning. In the second part, Iason looks more closely at ethical dimensions of machine learning, at the responsibility of researchers, and at processes that can structure ethical deliberation in this domain. Taken together, they suggest that there are important measures that we can, and should, put in place — if we want to build systems that are beneficial to society. Download the slides here: https://storage.googleapis.com/deepmind-media/UCLxDeepMind_2020/L12%20-%20UCLxDeepMind%20DL2020.pdf Find out more about how DeepMind increases access to science here: https://deepmind.com/about#access_to_science Speaker Bios: Chongli Qin is a research scientist at DeepMind, her primary interest is in building safer, more reliable and more trustworthy machine learning algorithms. Over the past several years, she has contributed in developing algorithms to make neural networks more robust to noise. Key parts of her research focuses on functional analysis: properties of neural network that can naturally enhance robustness. She has also contributed in building mathematical frameworks to verify/guarantee that certain properties hold for neural networks. Prior to DeepMind, Chongli studied in Cambridge, where she studied the mathematics tripos and scientific computing before doing a PhD in bioinformatics. Iason Gabriel is a Senior Research Scientist at DeepMind where he works in the ethics research team. His work focuses on the applied ethics of artificial intelligence, human rights, and the question of how to align technology with human values. Before joining DeepMind, Iason was a Fellow in Politics at St John’s College, Oxford, and a member of the Centre for the Study of Social Justice (CSSJ). He holds a doctorate in Political Theory from the University of Oxford and spent a number of years working for the United Nations in post-conflict environments. About the lecture series: The Deep Learning Lecture Series is a collaboration between DeepMind and the UCL Centre for Artificial Intelligence. Over the past decade, Deep Learning has evolved as the leading artificial intelligence paradigm providing us with the ability to learn complex functions from raw data at unprecedented accuracy and scale. Deep Learning has been applied to problems in object recognition, speech recognition, speech synthesis, forecasting, scientific computing, control and many more. The resulting applications are touching all of our lives in areas such as healthcare and medical research, human-computer interaction, communication, transport, conservation, manufacturing and many other fields of human endeavour. In recognition of this huge impact, the 2019 Turing Award, the highest honour in computing, was awarded to pioneers of Deep Learning. In this lecture series, research scientists from leading AI research lab, DeepMind, deliver 12 lectures on an exciting selection of topics in Deep Learning, ranging from the fundamentals of training neural networks via advanced ideas around memory, attention, and generative modelling to the important topic of responsible innovation.