Aflevering 15 - Een kijkje in de Model Spec Episode 15 - Inside the Model Spec

Hoe meer AI kan, hoe meer we ons moeten afvragen wat het wel en niet zou moeten doen. In deze aflevering praat OpenAI-onderzoeker Jason Wolfe met presentator Andrew Mayne over de Model Spec, het openbare kader dat het beoogde gedrag van modellen vastlegt. Ze bespreken hoe de Model Spec in de praktijk werkt, onder meer hoe de commandostructuur conflicten tussen instructies afhandelt, en hoe OpenAI hem doorontwikkelt op basis van feedback, gebruik in de praktijk en nieuwe modelcapaciteiten. Meer over onze aanpak van de Model Spec: https://openai.com/index/our-approach-to-the-model-spec/ Hoofdstukken 00:00 Introductie 01:10 Wat is de Model Spec? 03:55 Hoe werkt de Model Spec in de praktijk? 06:26 Transparantie: waar je de Model Spec leest en feedback geeft 07:51 Hoe is de Model Spec ontstaan? 10:02 Hoe vertaalt de spec zich naar modelgedrag? 11:26 Wat is de hiërarchie / commandostructuur? 13:35 Randgevallen zoals de Kerstman 17:41 Hoe ontwikkelt de Model Spec zich in de loop van de tijd? 19:59 Wat gebeurt er als modellen het niet eens zijn met de spec? 22:05 Hoe volgen kleinere modellen de spec? 23:16 Is chain-of-thought nuttig voor alignment? 24:16 Model Spec vs. de Constitution van Anthropic 26:28 Wat verraste je het meest? 26:56 Hoe bepaal je de reikwijdte van de spec? 27:44 Wat is de toekomst van de Model Spec? 31:16 Hoe moeten developers over de spec denken? 34:44 De wetten van Asimov vs. de Model Spec 37:16 Zou AI een Human Spec kunnen schrijven?

The more AI can do, the more we need to ask what it should and shouldn’t do. In this episode, OpenAI researcher Jason Wolfe joins host Andrew Mayne to talk about the Model Spec, the public framework that defines intended model behavior. They discuss how the Model Spec works in practice, including how the chain of command handles conflicts between instructions, and how OpenAI evolves it based on feedback, real-world use, and new model capabilities. More on our approach to the Model Spec: https://openai.com/index/our-approach-to-the-model-spec/ Chapters 00:00 Introduction 01:10 What is the Model Spec? 03:55 How does the Model Spec work in practice? 06:26 Transparency: Where to read the Model Spec & give feedback 07:51 How did the Model Spec originate? 10:02 How does the spec translate into model behavior? 11:26 What is the hierarchy / chain of command? 13:35 Handling edge cases like Santa Claus 17:41 How does the Model Spec evolve over time? 19:59 What happens when models disagree with the spec? 22:05 How do smaller models follow the spec? 23:16 Is chain-of-thought useful for alignment? 24:16 Model Spec vs Anthropic’s Constitution 26:28 What surprised you most? 26:56 How do you define the scope of the spec? 27:44 What is the future of the Model Spec? 31:16 How should developers think about the spec? 34:44 Asimov’s laws vs Model Spec 37:16 Could AI write a Human Spec?