Hoe kunnen aanpassingen aan de Llama 3-tokenizer de inferentiekosten verlagen? #llama3 How can changes to the Llama 3 tokenizer help drive down inference costs? #llama3

Met Llama 3 zijn we overgestapt van SentencePiece naar Tiktoken. Aston Zhang, auteur van D2L en onderzoeker in het Llama-team bij Meta, vertelt wat meer over de efficiëntiewinst die dit oplevert, en hoe het zorgt voor betere prestaties en mogelijk lagere inferentiekosten. -- Abonneer je: https://www.youtube.com/aiatmeta?sub_confirmation=1 Meer over ons werk: https://ai.meta.com Volg ons op Twitter: https://twitter.com/aiatmeta Volg ons op Facebook: https://www.facebook.com/aiatmeta Volg ons op LinkedIn: https://www.linkedin.com/showcase/aiatmeta/ Meta wil de wereld dichter bij elkaar brengen door AI verder te ontwikkelen, betekenisvolle en veilige ervaringen mogelijk te maken en open onderzoek te doen.

With Llama 3 we switched from using SentencePiece to Tiktoken. Aston Zhang, author of D2L and researcher on the Llama team at Meta shared a little bit more on some of the efficiencies this is leading to and how it's enabling stronger performance and potentially driving down inference costs. -- Subscribe: https://www.youtube.com/aiatmeta?sub_confirmation=1 Learn more about our work: https://ai.meta.com Follow us on Twitter: https://twitter.com/aiatmeta Follow us on Facebook: https://www.facebook.com/aiatmeta Connect with us on LinkedIn: https://www.linkedin.com/showcase/aiatmeta/ Meta focuses on bringing the world together by advancing AI, powering meaningful and safe experiences, and conducting open research.