Революция в ИИ-инфраструктуре: 3-нанометровый техпроцесс и пятикратное увеличение кэша Graviton5 обещают беспрецедентную скорость для будущих ИИ-сервисов.
Meta заключила масштабное соглашение с Amazon, предусматривающее развертывание десятков миллионов процессорных ядер AWS Graviton. Эти мощные чипы значительно укрепят вычислительную базу компании, необходимую для создания нового поколения ИИ-сервисов. Речь идет о широком спектре задач: от усовершенствованного поиска и генерации кода до многошаговых агентов, способных оперативно планировать действия и выполнять сложные задачи. Данная сделка не только углубляет многолетнее партнерство Meta с Amazon Web Services, но и сигнализирует о существенных изменениях в подходе к ИИ-инфраструктуре.
До недавнего времени основное внимание в ИИ-индустрии уделялось графическим процессорам (GPU), которые незаменимы для обучения масштабных моделей. Однако после запуска готовых ИИ-продуктов нагрузка на вычислительные системы меняется. Теперь требуется оперативно обрабатывать запросы, запускать сложные цепочки рассуждений, эффективно работать с данными, координировать многочисленные операции и предоставлять результаты миллиардам пользователей. Для выполнения этих задач необходимы не только GPU, но и высокопроизводительные центральные процессоры.
Amazon планирует начать поставки с десятков миллионов ядер Graviton, с возможностью дальнейшего увеличения объемов по мере роста вычислительных потребностей Meta. Эти процессоры будут поддерживать разнообразные нагрузки, связанные с ИИ-сервисами компании. Учитывая, что Meta управляет платформами с миллиардной аудиторией, даже незначительное повышение скорости или снижение энергопотребления на одном уровне инфраструктуры приносит колоссальный эффект в масштабе всей системы.
Graviton представляет собой собственную линейку серверных процессоров Amazon, разработанных на архитектуре Arm. AWS активно позиционирует эти чипы как более быстрые, экономичные и энергоэффективные решения для облачных задач, превосходящие многие традиционные серверные процессоры. В контексте ИИ-инфраструктуры экономия перестает быть второстепенным фактором, превращаясь в ключевой элемент стратегии. Современным дата-центрам требуется все больше энергии, больше стоек и, что крайне важно, более предсказуемая производительность.
Новейший Graviton5 производится по передовому 3-нанометровому техпроцессу и оснащен 192 ядрами. Amazon утверждает, что его производительность возросла до 25% по сравнению с предыдущим поколением. Кроме того, новый чип обладает в пять раз большим объемом кэша, чем его предшественник. Увеличенный кэш позволяет процессору значительно быстрее получать доступ к данным, а сокращенные задержки между ядрами критически важны для систем, где множество взаимосвязанных задач обрабатываются параллельно.
Amazon также отмечает снижение задержек при обмене данными между ядрами до 33%. Для ИИ-сервисов этот показатель напрямую определяет скорость ответа пользователю. ИИ-агент, выполняющий поиск информации, написание кода, проверку шагов и вызов внешних инструментов, постоянно переключается между различными операциями. Чем быстрее инфраструктура способна связывать эти процессы, тем короче становится пауза между пользовательским запросом и полученным результатом.
Graviton функционирует в тесной связке с AWS Nitro System – это аппаратно-программная платформа Amazon, обеспечивающая безопасность, сетевые функции и высокую производительность в облаке. Процессоры также поддерживают технологию Elastic Fabric Adapter, предназначенную для низколатентной связи серверов в крупных кластерах. Такие кластеры необходимы, когда одна задача распределяется между множеством машин, и критически важно, чтобы обмен данными не замедлял весь процесс.
Эта сделка наглядно демонстрирует, что гонка в сфере ИИ уже не ограничивается лишь приобретением GPU для обучения моделей. Современные агентные системы требуют способности планировать, рассуждать, генерировать код и выполнять сложные последовательности действий. После завершения обучения модели основная нагрузка смещается на инференс – процесс работы готовой модели с реальными запросами пользователей. На данном этапе центральные процессоры, объем памяти, скорость сети и общая энергоэффективность приобретают все более значимую роль.
Для Meta диверсификация источников вычислительной мощности стала стратегически важной задачей. Компания стремится избежать зависимости от одного типа чипов или единственного поставщика, особенно в условиях, когда спрос на ИИ-ресурсы опережает темпы строительства новых дата-центров. Graviton предоставляет Meta дополнительную возможность для масштабирования CPU-нагрузок, лежащих в основе агентного ИИ.
Для Amazon это соглашение с Meta является мощным публичным подтверждением успешности их стратегии по развитию собственных процессоров. Хотя Graviton уже давно активно используется внутри AWS, развертывание десятков миллионов ядер для одного из крупнейших потребителей ИИ-инфраструктуры выводит эту линейку на совершенно новый уровень. Amazon убедительно демонстрирует, что конкуренция в сфере ИИ разворачивается не только вокруг дорогостоящих ускорителей, но и вокруг всей вычислительной основы: центральных процессоров, сетевых решений, кэш-памяти, энергопотребления и общей стоимости обработки каждого запроса.
