|
Электричество является ключевым сырьем для искусственного интеллекта, но новые технологии обработки данных превосходят возможности операторов центров обработки данных по управлению своими взаимоотношениями с энергосистемой, вынуждая их снижать скорость на целых 30%.
“На этих фабриках искусственного интеллекта тратится так много энергии”, - сказал генеральный директор Nvidia Дженсен Хуанг во время основной речи на ежегодной конференции клиентов GTC. “Каждый неиспользованный ватт - это потерянный доход”, - заявила компания во время ежегодной презентации.
Сегодня стартап Niv-AI вышел из тени с начальным финансированием в размере 12 миллионов долларов, чтобы решить эту проблему путем точного измерения энергопотребления графического процессора с помощью новых датчиков и разработки инструментов для более эффективного управления.
Стартап из Тель-Авива был основан в прошлом году генеральным директором Томером Тимором и техническим директором Эдвардом Кизисом при поддержке Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward и Aurora Capital Partners. Компания отказалась сообщить о своей оценке.
Поскольку frontier labs совместно использует тысячи графических процессоров для обучения и запуска продвинутых моделей, возникают частые скачки энергопотребления в миллисекундном масштабе, когда процессоры переключаются между вычислительными задачами и взаимодействием с другими графическими процессорами.
Из-за таких скачков напряжения центрам обработки данных сложно управлять энергопотреблением, которое они получают от сети. Чтобы избежать дефицита электроэнергии, центры обработки данных оплачивают временные хранилища энергии для покрытия скачков напряжения или ограничивают использование графических процессоров. В обоих случаях окупаемость инвестиций в дорогостоящие чипы снижается.
“Мы просто не можем продолжать строить центры обработки данных так, как строим их сейчас”, - говорит Лиор Хэндлсман, партнер Grove Ventures, который входит в совет директоров Niv.
Первый шаг в реализации плана Niv - понять, что происходит; в настоящее время компания внедряет датчики на уровне стойки, которые определяют энергопотребление на миллисекундном уровне, на графических процессорах, которыми она владеет, и совместно с партнерами по разработке. Цель состоит в том, чтобы понять специфические характеристики различных задач глубокого обучения и разработать методы смягчения последствий, которые позволят центрам обработки данных задействовать больше имеющихся мощностей.
Естественно, инженеры рассчитывают построить модель искусственного интеллекта на основе собранных ими данных с целью обучения его прогнозированию и синхронизации энергозатрат в центре обработки данных — “второго пилота” для инженеров центров обработки данных.
Ожидается, что в ближайшие шесть-восемь месяцев Niv установит операционную систему в нескольких центрах обработки данных в США. Это привлекательная идея, поскольку компании, пытающиеся построить новые центры обработки данных, сталкиваются со сложностями в землепользовании и цепочках поставок. Основатели рассматривают свой конечный продукт как недостающий “интеллектуальный уровень” между центрами обработки данных и электрической сетью.
“На самом деле сеть боится, что центр обработки данных будет потреблять слишком много энергии в определенное время”, - сказал Тимор AGI_LOG. “Проблема, которую мы рассматриваем, имеет две стороны. Одна из них заключается в том, чтобы помочь центрам обработки данных использовать больше графических процессоров и, как мы надеемся, увеличить мощность, за которую они уже платят. С другой стороны, вы также можете создавать гораздо более ответственные профили энергопотребления между центрами обработки данных и сетью”.
