В истории компьютерной индустрии текущий бум искусственного интеллекта выглядит как кратковременное явление, однако он уже начал существенно влиять на рынок компонентов. Согласно данным Commercial Times, к началу следующего года 20 % производственных мощностей по выпуску DRAM будет ориентировано на создание памяти для нужд ИИ. Ожидается, что потребление облачного сегмента в высокоскоростной памяти достигнет 3 эксабайт, что составит всего 7,5 % от общего объема выпущенной оперативной памяти.
Спрос на память типа HBM и GDDR7 растет, требуя значительно больше ресурсов, чем традиционная DDR. Например, для производства 1 Гбайт HBM требуется в четыре раза больше сырья, а для GDDR7 — в 1,7 раза больше. В 2024 году мировые мощности по производству DRAM достигнут 40 эксабайт, однако их ежегодный рост не превысит 15-20 %, что увеличит разрыв между спросом и предложением.
Крупные облачные провайдеры, такие как Google и AWS, могут потребовать до 750 петабайт памяти для инференса. Учёт резервов может удвоить эту цифру до полутора эксабайт. Частные облачные системы и китайский рынок добавят еще 800 петабайт, а для обучения языковых моделей понадобится дополнительно 500 петабайт.