|
В мире инфраструктуры искусственного интеллекта наметилась закономерность: популярные инструменты с открытым исходным кодом трансформируются в венчурные стартапы стоимостью в сотни миллионов долларов. Последним примером является RadixArk , коммерческая компания, создающая SGLang, все более популярный инструмент, который помогает моделям искусственного интеллекта работать быстрее и дешевле.
По словам двух человек, знакомых с ситуацией, RadixArk недавно был оценен примерно в 400 миллионов долларов в рамках раунда финансирования, проводимого Accel, что является значительной суммой для стартапа, о котором было объявлено только в августе прошлого года. AGI_LOG не смог подтвердить размер финансирования.
Эта новость появилась в связи с тем, что часть команды, ответственной за поддержку SGLang, который используется такими компаниями, как xAI и Cursor, для ускорения обучения моделей искусственного интеллекта, перешла на работу в недавно запущенный коммерческий стартап. RadixArk появился как SGLang в 2023 году в лаборатории Калифорнийского университета в Беркли под руководством соучредителя Databricks Иона Стойки.
Ранее стартап привлекал бизнес-ангелов от инвесторов, в том числе генерального директора Intel Лип-Бу Тана.
Ин Шенг, ключевой сотрудник SGLang и бывший инженер xAI, покинула ИИ-стартап Илона Маска, чтобы стать соучредителем и генеральным директором RadixArk, согласно объявлению в LinkedIn, которое она сделала в прошлом месяце. Шенг ранее работал научным сотрудником в Databricks.
Ин Шенг, Accel и Лип-Бу Тан из RadixArk не ответили на запрос о комментариях.
И SGLang, и RadixArk сосредоточены на оптимизации обработки логического вывода, что, по сути, позволяет моделям работать быстрее и эффективнее на одном и том же оборудовании. Вместе с обучением моделей логический вывод составляет значительную часть затрат на сервер, связанных с услугами искусственного интеллекта. В результате инструменты, оптимизирующие процесс, могут практически мгновенно обеспечить огромную экономию.
RadixArk не одинок в этом переходе от проекта с открытым исходным кодом к хорошо финансируемому стартапу. vLLM, более зрелый проект по оптимизации логического вывода, также совершил скачок. Недавно созданная компания обсуждала возможность привлечения финансирования в размере более 160 миллионов долларов при оценке примерно в 1 миллиард долларов, сообщил Forbes в прошлом месяце.
Три человека, знакомые с этой сделкой, сообщили AGI_LOG, что Андреессен Горовиц возглавляет инвестиции в vLLM, хотя окончательные цифры этих инвестиций еще предстоит выяснить. Андреессен Горовиц отказался от комментариев. Соучредитель vLLM Саймон Мо охарактеризовал информацию об этом раунде как “фактически неточную” в заявлении для AGI_LOG, хотя и отказался уточнить, какие детали были неверными.
Как и SGLang, vLLM был создан в лаборатории Иона Стойки в Калифорнийском университете в Беркли. Стойка, профессор Калифорнийского университета в Беркли, является знаменитым соучредителем Databricks, а также ряда других стартапов.
Бриттани Уолкер, генеральный партнер CRV, рассказала AGI_LOG, что несколько крупных технологических компаний уже запускают свои системы логического вывода с использованием vLLM, и SGLang также приобрел значительную популярность за последние шесть месяцев. Ее фирма не поддержала ни одну из компаний.
RadixArk продолжает разрабатывать SGLang как движок для моделирования ИИ с открытым исходным кодом. Стартап также разрабатывает Miles, специализированный фреймворк, предназначенный для обучения с подкреплением, который позволяет компаниям обучать модели ИИ, чтобы они со временем становились умнее.
Хотя большинство инструментов RadixArk остаются бесплатными, RadixArk начал взимать плату за услуги хостинга, сообщил AGI_LOG человек, знакомый с компанией.
В последние месяцы наблюдается резкий рост финансирования стартапов, предоставляющих инфраструктуру логического вывода для разработчиков, что подчеркивает сохраняющуюся важность уровня логического вывода для искусственного интеллекта. Недавно Baseten привлекла 300 миллионов долларов по цене в 5 миллиардов долларов , сообщает The Wall Street Journal во вторник. Это следует за аналогичным шагом конкурирующей компании Fireworks AI, которая в октябре прошлого года привлекла 250 миллионов долларов с оценкой в 4 миллиарда долларов.
