Я могу сказать вам, чем, вероятно, закончится бум центров обработки данных,
ориентированных на искусственный интеллект, но я не могу сказать, когда
именно. Внедрение больших языковых моделей осуществлялось методом грубой силы:
большие, быстрые и дорогие графические процессоры от Nvidia обрабатывают
триллион параметров, используя огромные объемы памяти, размещенные в центрах
обработки данных с жидкостным охлаждением и потреблением гигаватт, и все это
по запредельной цене. Это определенно напоминает старые мэйнфреймы IBM.
Будьте осторожны с экстраполяцией чего-либо из сегодняшних цен. В случае с ИИ,
как и со всеми новыми технологиями, начинается этап совершенствования —
подобно тому, как мэйнфреймы уступили место более дешевым мини-компьютерам,
микропроцессорам, веб-серверам и теперь уже архитектурам ИИ. Цены на токены ИИ
падают, но, как ожидается, их падение будет быстрее, чем многие предполагают.
Рост технологий никогда не бывает прямолинейным.
Девизом Кремниевой долины на протяжении десятилетий были: меньше, дешевле,
быстрее, лучше. Я попросил венчурного капиталиста Стива Джурветсона перевести
это в цифры. «Мы часто наблюдаем технологический сдвиг, когда новый подход в
10 раз лучше. Он может быть в 10 раз эффективнее или в 10 раз дешевле, иногда
и то, и другое». Он называет это «фактором 10».
И это происходит. На прошлой неделе, по данным OpenRouter, OpenAI и Anthropic
взимали за некоторые свои модели надбавку — от 1 до 2 долларов за миллион
входных токенов. Сравнимые китайские модели с открытым исходным кодом, такие
как GLM от Z.ai и Qwen от Alibaba , взимали от 6 до 12 центов, что примерно на
90% меньше — переломный момент в 10 раз. Американские лаборатории ИИ увеличили
свою долю рынка с 70% в прошлом году до 30% сегодня. Все они продолжают расти.
Но цены имеют значение.
Архитектура ИИ развивается. Вместо триллиона параметров эффективные небольшие
языковые модели могут использовать 70 миллиардов и работать на компьютерах
Apple Mac. Эти локальные модели не имеют никаких дополнительных затрат, кроме
стоимости оборудования и электроэнергии.
Но ведь они, должно быть, менее функциональны, чем большие языковые модели,
верно? Не совсем. Исследователи из Стэнфорда показали, что локально работающая
небольшая языковая модель «может успешно отвечать на 88,7% запросов в чате и
запросов на логическое мышление за один ход». Нет сомнений, что
высокопроизводительные модели всегда будут работать в центрах обработки
данных. IBM по-прежнему продает мэйнфреймы. Но рост будет происходить в других
областях.
Где? Еще одна поговорка из Силиконовой долины, которой я руководствуюсь:
интеллект перемещается на периферию сети. Настоящий прорыв произойдет, когда
надежные модели ИИ начнут работать на смартфонах. Это уже начинается. В
сентябре калифорнийская компания PrismML выпустила сжатую версию популярной
модели ИИ с открытым исходным кодом Qwen3.8 27B. Компании удалось уменьшить ее
размер до менее чем 6 гигабайт. Это означает, что она подходит не только для
ПК, но и для высококлассных смартфонов. Объем памяти уменьшен примерно в 9-10
раз. Вот вам и множитель 10.
Технологии не стоят на месте. Компания Qualcomm недавно анонсировала новый
нейронный процессор Snapdragon (NPU) для смартфонов. Используя модель, которую
компания называет «смесью экспертов», он может запускать модель искусственного
интеллекта с 30 миллиардами параметров в 3 гигабайтах памяти. По данным Deep
View, самая большая модель ИИ на телефоне имела четыре миллиарда параметров и
была реализована на чипе Apple A20 Pro. Qualcomm обеспечивает 7,5-кратное
увеличение производительности.
Количество нейронных процессоров (NPU), таких как новый Snapdragon от Qualcomm
и тензорные чипы Google в телефонах Pixel, растет. То же самое относится и к
новейшим чипам Apple серий M и A, способным запускать модели искусственного
интеллекта локально на iPhone — возможно, именно поэтому Apple не
присоединилась к ажиотажу вокруг инвестиций в центры обработки данных для ИИ.
Стартап Reflection AI, поддерживаемый Nvidia, утверждает, что может достичь
уровня ведущих китайских моделей ИИ с открытыми весами, используя при этом «в
3-4 раза меньше вычислительных ресурсов для вывода». И всё? Всего в 3 или 4
раза? Разбудите меня, когда разница достигнет 10 раз. Учитывая темпы развития
ИИ, это может произойти к концу года.
Агенты сейчас в моде, от Muse от Meta до Grokbot от xAI. Они работают на
виртуальных машинах в центрах обработки данных, но вызывают множество опасений
по поводу конфиденциальности. Недавно стартап Perplexity объединился с Nvidia
для запуска агентов на ПК. Нулевая стоимость токенов. И вы владеете своими
данными.
Я часто слышу, что если токены подешевеют, спрос вырастет. Это парадокс
Джевонса. Конечно, эластичность работает. Но если цены упадут на 90%, спрос
должен вырасти на 900%, чтобы остаться на прежнем уровне. Помните, как спрос
на интернет рос, в то время как обремененная долгами компания Global Crossing
потерпела сокрушительный крах из-за слишком быстрого падения цен? Исторически
сложилось так, что полупроводники дешевели на 30% каждый год. Когда цены
падали более чем на 50%, случалась катастрофа: закрывались заводы и компании
разорялись.
Достигнет ли 2027 год пика развития центров обработки данных? Опять же, сроки
под вопросом. Текущий спрос огромен, но расходы — это игра на выживание, пока
не начнут действовать улучшения в десять раз, и цены не рухнут. Это может
спровоцировать цепную реакцию остановок строительства центров обработки данных
и дефолтов по долгам, даже несмотря на рост спроса на токены.
Да, обучение моделей, разработка лекарств и получение таких наград, как
недавно решенные уравнения Навье-Стокса, требуют высокопроизводительных
процессоров в центрах обработки данных. Но чат-боты, агенты и другие задачи,
вероятно, будут все чаще выполняться на ПК, телефонах, умных очках и любых
новых гаджетах, которые Кремниевая долина изобретет в течение следующего
десятилетия. Я слышал, что это называют «Великой миграцией». Коэффициент 10,
упомянутый г-ном Джурветсоном, сейчас очевиден, как это часто бывает, но
игнорируется. Изменения не происходят в одночасье. Они происходят постепенно,
а затем внезапно.
Перевод статьи The Wall Street Journal
Комментарии
Отправить комментарий