Architectuur van Meta's eerste generatie AI-inferentieversneller Architecture of Meta's First-Generation AI Inference Accelerator

Meer details over MTIA, de Meta Training and Inference Accelerator ➡️ https://bit.ly/3IUyYXd Een nadere blik op de architectuur van Meta's eerste generatie AI-inferentieversneller. MTIA v1 is een op maat ontworpen ASIC, gebouwd met de eisen van de volgende generatie aanbevelingsmodellen in gedachten. De versneller is gebouwd op het 7nm-procedé van TSMC met een TDP van 25W en levert 102,4 TOPS bij INT8-precisie en 51,2 TFLOPS bij FP16-precisie. We delen meer details over dit werk op #ISCA2023. -- Abonneer je: https://www.youtube.com/facebookai?sub_confirmation=1 Meer over ons werk: https://ai.facebook.com Volg ons op Twitter: https://twitter.com/AIatMeta Volg ons op Facebook: https://www.facebook.com/AIatMeta Volg ons op LinkedIn: https://www.linkedin.com/showcase/AIatMeta/ We werken bij Meta aan AI en brengen de wereld samen door AI verder te ontwikkelen, zinvolle en veilige ervaringen mogelijk te maken en open onderzoek te doen.

More details on MTIA, Meta Training and Inference Accelerator ➡️ https://bit.ly/3IUyYXd A closer look at the architecture of Meta's first-generation AI inference accelerator. MTIA v1 is a custom-designed ASIC built with next-generation recommendation model requirements in mind. The accelerator is built on TSMC's 7nm process at a 25W TDP and provides 102.4 TOPS at INT8 precision and 51.2 TFLOPS at FP16 precision. We're sharing more details on this work at #ISCA2023. -- Subscribe: https://www.youtube.com/facebookai?sub_confirmation=1 Learn more about our work: https://ai.facebook.com Follow us on Twitter: https://twitter.com/AIatMeta Follow us on Facebook: https://www.facebook.com/AIatMeta Connect with us on LinkedIn: https://www.linkedin.com/showcase/AIatMeta/ Working on AI at Meta, we're bringing the world together by advancing AI, powering meaningful and safe experiences, and conducting open research.