|
Большая часть разговоров об ИИ сегодня сосредоточена на наращивании облачных мощностей и создании крупных центров обработки данных для запуска моделей. Такие компании, как Apple и Qualcomm, находятся на ранних стадиях создания более полезного ИИ на устройствах. Несмотря на все это, техническая команда из 14 человек лондонской компании Mirai работает над улучшением работы моделей на телефонах и ноутбуках.
Компания Mirai, финансируемая Uncork Capital за счет начального раунда финансирования в размере 10 миллионов долларов, была основана Димой Швецем и Алексеем Моисеенковым в прошлом году. Оба основателя имеют опыт создания масштабируемых потребительских приложений. Шевц стал соучредителем приложения для обмена лицами Reface, , которое было поддержано a16z. Позже Шевц также стал консультантом венчурной компании. Моисеенков был генеральным директором и соучредителем приложения Prisma, созданного в прошлом десятилетии для создания вирусных ИИ-фильтров.
По словам Швеца, как разработчики-потребители, они оба задумывались об искусственном интеллекте и машинном обучении на устройствах еще до того, как генеративный ИИ стал популярным.
“Когда мы встретились в Лондоне, мы начали болтать о технологиях и поняли, что в условиях ажиотажа вокруг gen AI и все большего внедрения искусственного интеллекта все говорят об облаке, о серверах, о появлении AGI. Но не хватает встроенного искусственного интеллекта для потребительского оборудования”, - сказал он AGI_LOG.
Шевц и Моисеенков хотели использовать искусственный интеллект для создания конвейера, который позволил бы им выполнять сложные задачи на телефоне, что привело их к созданию Mirai. Когда они спросили других разработчиков потребительских приложений, они услышали, что многие также хотели бы улучшить оптимизацию затрат и повысить маржу за использование токенов.
Сегодня Mirai разрабатывает платформу для моделей, чтобы они могли лучше работать на устройствах. Компания разработала механизм логического вывода для Apple Silicon, который оптимизирует производительность устройств. С новым пакетом SDK разработчики смогут интегрировать среду выполнения в свои приложения всего несколькими строками, говорится в сообщении компании.
“Одна из причин, по которой мы основали компанию, заключалась в том, что мы хотели предоставить разработчикам опыт [интеграции] в виде восьми строк кода…по сути, вы переходите на нашу платформу, интегрируете ключ и начинаете работать с обобщением, классификацией или любым другим способом использования”, - сказал Шевц.
Стартап создал этот движок в Rust, который, по их утверждению, может увеличить скорость генерации модели до 37%. Компания заявила, что, настраивая модель для платформы, она не изменяет вес модели, чтобы гарантировать отсутствие потери качества вывода.
В настоящее время Mirai stack фокусируется на улучшении текстовых и голосовых функций на платформе, а в будущем планирует поддерживать vision. Команда начала работать с поставщиками моделей frontier, чтобы настроить их модели для использования в edge, и ведет переговоры с различными производителями чипов. Позже компания планирует перенести свой движок и на Android.
Кроме того, Mirai планирует выпускать тесты на устройствах, чтобы производители моделей могли тестировать производительность на устройствах. Шевтс признает, что не вся работа с ИИ может быть выполнена на устройстве. Чтобы обеспечить смешанный режим работы, команда создает уровень согласования для отправки запросов, которые не могут быть выполнены на устройстве, в облако.
Хотя стартап пока не работает напрямую с приложениями, его движок, как нам сказали, может обеспечить работу помощников на устройствах, транскриберов, переводчиков и приложений для чата.
Энди Маклафлин (Andy McLoughlin), управляющий партнер Uncork Capital, отметил, что в последнее десятилетие он инвестировал в компанию, занимающуюся передовым машинным обучением. Он сказал, что компания пришла к этому рано и в итоге продала свой бизнес Spotify. По его мнению, в современном мире ситуация иная.
“Учитывая стоимость облачных вычислений, что-то должно измениться… На данный момент венчурные инвесторы с радостью продолжают финансировать ракетные компании, тратя непомерные суммы на облачные вычисления. Но это ненадолго — в какой-то момент люди сосредоточатся на экономике, лежащей в основе этих предприятий, и поймут, что что-то должно измениться”, - сказал он. “Похоже, что каждый производитель моделей захочет выполнять часть своих задач по логическому выводу на самом переднем крае, и Mirai чувствует себя в очень выгодном положении, чтобы удовлетворить этот спрос”.
В стартовом раунде Mirai также приняли участие частные лица, в том числе генеральный директор Dreamer Дэвид Синглтон, партнер YC Франсуа Шобар, соучредитель Snowflake Марцин Жуковски, соучредитель ElevenLabs Мати Станишевски, бывший менеджер по продуктам Google AdSense и член правления Coinbase Гокул Раджарам, инвестор Groq Скутер Браун, Turing.com Технический директор Виджай Кришнан, Theory Forge Ventures Бен Парр и Мэтт Шлихт, а также бывший технический руководитель Netflix Адитья Джами.
