Meta раскрывает свой второй специальный процессор

Мета "MTIA" V1 (Meta Training and Inference Accelerator) штамп

Когда большинство людей думают о Meta, они думают о ее приложениях, включая Facebook, Instagram, WhatsApp или предстоящую метавселенную. Многие не знают, что компания спроектировала и построила одни из крупнейших и самых современных центров обработки данных в мире для предоставления этих услуг.

В отличие от поставщиков облачных услуг, таких как AWS, GCP или Azure, Meta не нужно раскрывать подробности о выборе микросхем, инфраструктуре или конструкции центра обработки данных, за исключением проектов OCP, чтобы произвести впечатление на покупателей. Мета-пользователи хотят лучшего и более последовательного опыта, не заботясь о том, как это происходит.

Беспрецедентные раскрытия информации

Отсутствие подробностей сегодня изменилось благодаря тому, что я считаю беспрецедентным раскрытием новейшего ускорителя вывода искусственного интеллекта компании, находящегося в производстве видеотранскодера, архитектуры центра обработки данных нового поколения, предназначенной для искусственного интеллекта, и подробностей второго этапа исследования 16 000 графических процессоров искусственного интеллекта. суперкомпьютер, первая фаза которого легла в основу модели генеративного искусственного интеллекта LLaMA.

Это раскрытие должно представлять интерес для заинтересованных сторон Meta, включая инвесторов, поскольку это влияет на время выхода на рынок, дифференциацию и стоимость.

Ранее на этой неделе я встретился с Алексисом Бьорлином, вице-президентом по инфраструктуре Meta, чтобы рассказать о комплексном подходе компании к своим микросхемам и получить более подробную информацию о ее новом искусственном интеллекте и видеоускорителе.

Я впечатлен прогрессом Меты, но это только начало.

Комплексный подход Meta

Прежде чем перейти к «MTIA» или «Meta Training and Inference Accelerator», я хотел бы рассмотреть подход Meta к кремнию. Я рад сообщить, что кремниевая стратегия не изменилась с тех пор, как я общался с компанией полтора года назад. Вы можете прочитать эту запись здесь. Meta продолжит закупать тонны торгового кремния у AMD, Broadcom, Intel, Marvell и NVIDIA. Тем не менее, компания будет разрабатывать собственные решения для уникальных рабочих нагрузок, в которых полупроводниковые решения для коммерческих предприятий не являются оптимальными для обеспечения наилучшей производительности на ватт и совокупной стоимости владения.

Для меня этот подход имеет стратегический смысл, поскольку Meta использует «полный стек» инфраструктурного подхода, владея почти каждым уровнем стека, от инфраструктуры до приложения и всего, что между ними. Когда отраслевые стандарты оптимизируются для полного стека, он их использует, а когда нет, он помогает создавать отраслевые стандарты, такие как OCP и PyTorch.

Приложения и сервисы Meta уникальны и работают в невероятных масштабах, что, я считаю, увеличивает потребность и преимущества специализированных микросхем. Пользователи Facebook и Instagram просматривают огромное количество видео и постоянно получают рекомендации людей, с которыми можно связаться, публикации, с которыми можно взаимодействовать, и, конечно же, рекламу, на которую можно нажать. Вы можете себе представить, как метавселенная и генеративный искусственный интеллект, наполненные искусственным интеллектом, вызовут потребность в более энергоэффективных и более оптимизированных решениях.

MSVP: метамасштабируемый видеопроцессор

MTIA — не первый специализированный чип Meta. MSVP, или «Метамасштабируемый видеопроцессор», находится в производстве. Некоторые подробности о видеотранскодере появились в прошлом году, но сегодня компания решила раскрыть еще больше.

По данным Meta, пользователи Facebook тратят 50% своего времени на просмотр 4 миллиардов видео в день. Каждое видео сжимается после загрузки, сохранения, а затем распаковывается в подходящий формат, когда пользователь хочет его просмотреть. Эти видео перекодируются (сжимаются/распаковываются) с использованием стандартных форматов, таких как H.264 и VP9. Хитрость заключается в том, чтобы быстро уменьшить размер файла, быстро сохранить его и транслировать в максимально возможном качестве для соответствующего устройства (например, телефона, планшета, ПК) с максимально возможным качеством.

Упакованный чип Meta MSVP V1 (Meta Training and Inference Accelerator).

Этот тип характеристики рабочей нагрузки идеально подходит для ASIC (интегральной схемы специального назначения), рабочей нагрузки, которая требует максимальной эффективности в соответствии с фиксированным стандартом. ASIC являются наиболее эффективными, но не такими программируемыми, как CPU или GPU. Когда видеостандарт изменится с H.264 и VP9 на AV1, что, скорее всего, произойдет в будущем, Meta потребуется создать новый ASIC, новую версию MSVP.