Последняя модель OpenAI изменит экономику программного обеспечения. Чем больше модель искусственного интеллекта рассуждает, тем больше вычислительной мощности ей требуется.
Иллюстрация: Мариаэлена Капути. The Economist
Когда за несколько дней до Рождества компания OpenAI анонсировала новую генеративную модель искусственного интеллекта (ИИ) под названием o3, это вызвало как воодушевление, так и скептицизм. Воодушевление тех, кто ожидал, что её способность к рассуждению станет большим шагом на пути к сверхчеловеческому интеллекту, некоторые считали, что это будет более значимым событием, чем запуск OpenAI ChatGPT в 2022 году. Скептицизм возник из-за того, что OpenAI не обнародовала его и имела все основания преувеличивать новаторскую роль компании в области ИИ, чтобы снискать расположение Дональда Трампа, нового президента.
Однако с тех пор появился один консенсус. Модель, как и её предшественница o1 (o2 не упоминается, потому что так называется европейская мобильная сеть), даёт лучшие результаты, чем больше «думает» в ответ на запрос. Чем больше «думает», тем больше требуется вычислительной мощности — и тем выше стоимость запроса. В результате происходят большие изменения в экономике самой цифровой экономики, которая была построена на предоставлении дешёвых услуг большому количеству людей с низкими предельными издержками благодаря бесплатному распространению в интернете. С каждым разом, когда модели становятся дороже в использовании, эпоха нулевых предельных издержек уходит всё дальше в прошлое.
Инвесторы оценивают OpenAI как перспективную технологию: по результатам недавнего сбора средств его стоимость составляет 157 млрд долларов. Они надеются, что благодаря успеху таких продуктов, как ChatGPT, OpenAI станет следующим технологическим гигантом с капитализацией в 1 триллион долларов. Но более высокая стоимость современных моделей, а также давление со стороны поставщиков, дистрибьюторов и конкурентов говорят о том, что создание моделей может не дать тех преимуществ, которыми обладают технологические гиганты.
«Одна очень важная вещь, которую нужно понять о будущем - экономика ИИ вот-вот полностью изменится», — сказал Франсуа Шолле, опытный исследователь ИИ.
Примеры задач на визуальное мышление для продвинутого искусственного интеллекта. Ответ - те же светло-голубые квадраты, что и на входе, с добавлением тёмно-голубых квадратов, образующих четыре блока по два квадрата. The Economist
Шолле способствовал росту интереса к o3. В июне он объявил о присуждении премии в размере 1 млн долларов моделям, которые смогут пройти испытание, созданное им пятью годами ранее, под названием “Корпус абстракций и рассуждений”, или ARC. Это множество простых на вид головоломок с визуальным мышлением (см. иллюстрацию), которые должны быть “простыми для людей и невыполнимыми для современного искусственного интеллекта”. Простота относительна — в сентябрьском исследовании люди, набранные онлайн, набрали 60-70% баллов по тесту. Награда была сложной не только сама по себе. Шолле сказал, что решение задачи ARC стало “критическим” шагом на пути к созданию искусственного интеллекта в целом, что означает, что машины превосходят людей во многих задачах.
Шесть месяцев спустя OpenAI успешно прошел тест. По словам Шолле, его модель o3 достигла показателя "прорыв" в 91,5%. Успех в тестировании продемонстрировал постепенные изменения в способности ИИ адаптироваться к новым задачам. Новая модель не просто лучше, она отличается от других. Как и в случае с o1, здесь используется подход «вычисления во время тестирования», который даёт лучшие результаты, чем больше времени тратится на вывод (когда обученная модель ИИ отвечает на запросы). Вместо того, чтобы просто выдавать ответ так быстро, как только может, o3, по сути, заставляет модель ИИ тщательнее обдумывать вопрос. 
В своём длинном посте Франсуа Шолле сказал, что продолжит активно участвовать в проекте Keras. Express/LinkedIn
Именно здесь и возникают более высокие затраты. Шолле установил лимит в 10 000 долларов на сумму, которую участники могут потратить на вычислительные мощности для ответа на 400 вопросов в его задании. Когда OpenAI представила модель, не выходящую за рамки лимита, она потратила 6677 долларов (около 17 долларов за вопрос), чтобы набрать 82,8%. Результат в 91,5%, достигнутый o3, был получен за счёт превышения бюджета. Компания не раскрыла сумму, которую потратила, но сообщила, что в дорогостоящей версии процесса использовалось в 172 раза больше «вычислений», чем в более дешёвом подходе, что предполагает примерно 3000 долларов за решение одного запроса, на которое у людей уходят секунды.
Конечно, прошлые модели ИИ уже бросали вызов норме низкой себестоимости в индустрии программного обеспечения, потому что для ответов на запросы требовалось значительно больше вычислительной мощности, чем при использовании аналогичных инструментов, таких как поисковая система. Но затраты на создание больших языковых моделей и их использование были достаточно низкими в абсолютном выражении, чтобы OpenAI всё ещё могла предоставлять бесплатный доступ.
С последними моделями это уже не так. OpenAI предоставляет «профессиональную» версию модели o1 только пользователям, которые платят 200 долларов в месяц (и теряет деньги, по словам Сэма Альтмана, своего руководителя, потому что клиенты тратят на запросы больше, чем компания планировала). Пьер Феррагу из аналитической компании New Street Research считает, что OpenAI может взимать до 2000 долларов в месяц за полный доступ к o3.
Сила таких моделей заключается в том, что они приближают «законы масштабирования» отрасли к конечному пользователю. До сих пор прогресс в области ИИ зависел от более масштабных и эффективных обучающих процессов, когда больше данных и вычислительной мощности создавали больше интеллекта. Но после обучения модели было трудно эффективно использовать дополнительную вычислительную мощность. Как показывает успех o3 в конкурсе ARC, это уже не так. Законы масштабирования, по-видимому, перешли от моделей обучения к логическому выводу.
Такие изменения меняют экономику, с которой сталкиваются разработчики моделей, такие как OpenAI. Зависимость новых моделей от большей вычислительной мощности укрепляет позиции их поставщиков, таких как Nvidia, производителя специализированных чипов для ИИ. Это также выгодно дистрибьюторам моделей ИИ, в частности поставщикам облачных услуг Amazon, Microsoft и Alphabet (материнская компания Google). И это может помочь оправдать вложения этих технологических гигантов в центры обработки данных, потому что для более сложных вычислений потребуется больше вычислительной мощности. OpenAI будет испытывать давление с обеих сторон.
Кроме того, существует конкуренция. Google выпустила собственную модель логического вывода под названием Gemini 2.0 Flash, и другие технологические компании, вероятно, тоже выпустят свои модели. Ожидается, что за ними последуют модели с открытым исходным кодом. Клиенты смогут использовать несколько моделей от разных поставщиков. И хотя модели генеративного ИИ могут немного улучшаться благодаря взаимодействию с клиентами, им не хватает настоящего сетевого эффекта (когда сервис становится намного лучше, чем больше у него пользователей), в отличие от продуктов, созданных Google и Facebook в прошлую эпоху.
Высокие предельные издержки означают, что разработчикам моделей придется создавать значимую ценность, чтобы устанавливать премиальные цены. Лань Гуань из консалтинговой компании Accenture надеется, что такие модели, как o3, будут поддерживать ИИ-агенты, которые частные лица и компании будут использовать для повышения своей производительности. Даже высокая цена за использование логической модели может оказаться оправданной по сравнению со стоимостью найма, скажем, полноценного доктора философии по математике. Но это зависит от того, насколько полезны модели. 
Лань Гуань Лан Гуан, директор компании Accenture
Различные варианты использования также могут привести к большей фрагментации. Джереми Шнайдер из консалтинговой компании McKinsey говорит, что для предоставления услуг искусственного интеллекта корпоративным клиентам потребуются модели, которые будут специализированы для нужд каждого предприятия, а не универсальные, такие как ChatGPT.
Вместо того, чтобы быть монополизированной одной компанией, некоторые ожидают, что создание моделей будет больше похоже на традиционную олигополию с высокими барьерами для входа на рынок, но без удушающей хватки — или монопольной прибыли. На данный момент лидером является OpenAI, но один из его главных конкурентов, Anthropic, как сообщается, собирает средства при оценке в 60 миллиардов долларов, а xAI, контрольный пакет акций которой принадлежит Илону Маску, стоит 45 миллиардов долларов. Это говорит о том, что на них тоже возлагают большие надежды. С помощью o3 OpenAI продемонстрировал своё техническое превосходство, но его бизнес-модель остаётся непроверенной.
По материалам The Economist
