Adjoint Sampling: een doorbraak in zeer schaalbare, door beloning gestuurde generatieve modellen | AI at Meta Adjoint Sampling: A Breakthrough in Highly Scalable, Reward-Driven Generative Modeling | AI at Meta

De meeste bekende generatieve modellen nemen data op en produceren nieuwe samples die de patronen nabootsen die ze in die data vinden. In gespecialiseerde toepassingen is er soms maar heel weinig of helemaal geen trainingsdata beschikbaar, waardoor het trainen van zulke modellen onpraktisch kan zijn. In plaats daarvan is er alleen een scalair beloningssignaal dat controleert of het model goede samples produceert. Voorbeelden van toepassingen zijn het fine-tunen van generatieve modellen voor beeld en video of het leren samplen uit foundation models voor natuurkunde of scheikunde. Adjoint Sampling biedt een oplossing met een zeer schaalbaar, op beloning gebaseerd doel om generatieve modellen zonder enige data te trainen. In plaats van patronen te zoeken in bestaande data, vindt Adjoint Sampling patronen door zijn eigen samples stap voor stap te verfijnen op basis van een gegeven reward model. Op basis van theoretische fundamenten die bij FAIR zijn ontwikkeld, leidt Adjoint Sampling tot een zeer schaalbaar, praktisch algoritme en kan het de basis worden voor verder onderzoek naar zeer schaalbare, door beloning gestuurde generatieve modellen. Lees meer: https://ai.meta.com/blog/meta-fair-science-new-open-source-releases/ Abonneer je: https://www.youtube.com/aiatmeta?sub_confirmation=1 Meer over ons werk: https://ai.meta.com Volg ons op Twitter: https://twitter.com/aiatmeta Volg ons op Facebook: https://www.facebook.com/aiatmeta Verbind met ons op LinkedIn: https://www.linkedin.com/showcase/aiatmeta/ Meta wil de wereld dichter bij elkaar brengen door AI verder te ontwikkelen, betekenisvolle en veilige ervaringen mogelijk te maken en open onderzoek te doen.

Most well-known generative models take in data and produce fabricated samples that mimic the patterns they find in the data. In specialized applications, there may be extremely limited or zero training data available, so training these models can be impractical. Instead, only a scalar reward signal is provided that verifies whether the model is producing good samples. Example applications include fine-tuning image and video generative models or learning to sample from physical or chemistry foundation models. Adjoint Sampling presents a way forward using a highly scalable, reward-based objective to train generative models without any data. Rather than finding patterns in existing data, Adjoint Sampling finds patterns by iteratively refining its own samples according to a provided reward model. Based on theoretical foundations developed at FAIR, Adjoint Sampling leads to a highly scalable practical algorithm and can become the foundation for further research into highly scalable reward-driven generative modeling. Read more: https://ai.meta.com/blog/meta-fair-science-new-open-source-releases/ Subscribe: https://www.youtube.com/aiatmeta?sub_confirmation=1 Learn more about our work: https://ai.meta.com Follow us on Twitter: https://twitter.com/aiatmeta Follow us on Facebook: https://www.facebook.com/aiatmeta Connect with us on LinkedIn: https://www.linkedin.com/showcase/aiatmeta/ Meta focuses on bringing the world together by advancing AI, powering meaningful and safe experiences, and conducting open research.