|
Адъюнкт-профессор Стэнфорда и успешно покинувший свой пост основатель Зейн Асгар только что привлек 80 миллионов долларов из серии А для стартапа, который решает проблему узких мест в системе искусственного интеллекта. Раунд проводился компанией Menlo Ventures.
Компания Gimlet Labs создала, как она утверждает, первое и единственное “мультикремниевое облако логического вывода”, которое представляет собой программное обеспечение, позволяющее одновременно выполнять нагрузку на ИИ на различных типах оборудования. Это позволяет распределить работу ИИ-приложения между традиционными процессорами и графическими процессорами, настроенными на ИИ, а также системами с большим объемом памяти.
“В основном мы используем любое другое доступное оборудование”, - сказал Асгар AGI_LOG.
Один агент может выполнять несколько этапов, и каждый из них “требует разного оборудования: логический вывод связан с вычислениями, декодирование - с памятью, а вызовы инструментов - с сетью”, - пишет ведущий инвестор Тим Талли из Menlo в своем блоге о финансировании.
Пока ни один чип не справляется со всем этим, но по мере выпуска нового оборудования и перераспределения устаревающих графических процессоров “парк мультикремниевых процессоров готов - не хватает только программного обеспечения, чтобы все заработало”. Талли считает, что именно это предлагает Gimlet Labs.
Если текущая тенденция к увеличению объема вычислений при развертывании сохранится, по оценкам McKinsey к 2030 году расходы на центры обработки данных составят почти 7 трлн долларов. Асгар говорит, что приложения используют существующее оборудование, которое уже развернуто, “где-то от 15 до 30 процентов” времени.
“Можно подумать и по-другому: вы тратите сотни миллиардов долларов впустую, потому что просто оставляете ресурсы без работы”, - сказал он. “Наша цель состояла в том, чтобы попытаться выяснить, как сегодня можно повысить эффективность работы с ИИ в 10 раз”.
Поэтому он и его соучредители Мишель Нгуен, Омид Азизи и Натали Серрино приступили к созданию программного обеспечения для оркестровки, которое распределяет рабочие нагрузки агентов таким образом, чтобы их можно было одновременно распределять по всем видам оборудования.
В Gimlet Labs утверждают, что это решение значительно ускоряет логический вывод с помощью искусственного интеллекта в 3-10 раз при тех же затратах и мощности. Gimlet утверждает, что оно может даже разделить базовую модель таким образом, чтобы она работала на разных архитектурах, используя лучший чип для каждой части модели.
Компания уже сотрудничает с производителями чипов NVIDIA, AMD, Intel, ARM, Cerebras и d-Matrix.
Продукт Gimlet, поставляемый либо в виде программного обеспечения, либо через API в собственное облако Gimlet Cloud, не предназначен для рядовых разработчиков приложений искусственного интеллекта. Это для крупнейших лабораторий по моделированию искусственного интеллекта и центров обработки данных.
Компания публично запустила в октябре, получив, по ее словам, восьмизначную выручку (то есть не менее 10 миллионов долларов). Асгар сказал, что за последние четыре месяца его клиентская база увеличилась более чем вдвое и теперь включает в себя крупного производителя моделей и чрезвычайно крупную компанию по облачным вычислениям, хотя он отказался назвать их имена.
Соучредители ранее работали вместе в Pixie, стартапе, который создал инструмент наблюдения с открытым исходным кодом для Kubernetes. Pixie была приобретена компанией New Relic в 2020 году, всего через два месяца после того, как она запустила серию A стоимостью 9 миллионов долларов под руководством Benchmark. (Компания Pixie's tech теперь является частью организации с открытым исходным кодом, которая курирует Kubernetes.)
После того, как Асгар случайно встретился с Талли около года назад, а также получил ангельские инвестиции от профессоров Стэнфорда, венчурные инвесторы начали звонить. После запуска на стол Асгара лег список участников. Когда венчурный инвестор услышал, что Асгар рассматривает предложения, “мы получили довольно большой объем финансирования”, и количество заявок быстро превысило предложение, сказал он.
Благодаря предыдущему стартап-проекту стартап привлек в общей сложности 92 миллиона долларов, в том числе от множества "ангелов", таких как Билл Кофран из Sequoia, профессор Стэнфорда Ник Маккаун, бывший генеральный директор VMware Рагу Рагурам и генеральный директор Intel Лип-Бу Тан. В настоящее время в компании работают 30 человек.
Среди других инвесторов - Factory, возглавлявший проект seed, Eclipse Ventures, Prosperity7 и Triatomic.
