Революция в AI-вычислениях: интервью с Филлипом Берром, руководителем продукта Lumai

Опыт Филлипа Берра и видение Lumai

Филлип Берр, обладающий более чем 25-летним опытом в глобальном управлении продуктами и лидерстве в полупроводниковой и технологической индустрии, возглавляет разработку продуктов в Lumai. Lumai — британская компания, разрабатывающая 3D оптические вычислительные процессоры для ускорения задач искусственного интеллекта. Их технология использует световые лучи в трех измерениях для выполнения матрично-векторных умножений, обеспечивая до 50 раз большую производительность и на 90% меньшую энергоёмкость по сравнению с традиционными кремниевыми ускорителями. Это особенно важно для задач AI-инференса, включая большие языковые модели, и значительно снижает энергозатраты и экологический след.

От исследований Оксфорда к коммерческому успеху

Идея Lumai возникла из исследований в Оксфордском университете благодаря стипендии 1851 Research Fellowship доктора Сяньсина Го. Основатели, включая доктора Го и доктора Джеймса Спалла, доказали, что использование света для вычислений в AI может значительно повысить производительность и энергоэффективность. Осознав ограничения кремниевых решений, они выбрали оптические вычисления и, получив поддержку венчурных инвесторов, привлекли более 10 миллионов долларов для масштабирования технологии.

Присоединение к Lumai: команда и технология

Филлип Берр пришел в Lumai из-за сильной команды экспертов в оптике, машинном обучении и центрах обработки данных из таких компаний, как Meta, Intel и IBM. Он уверен, что будущее AI требует инноваций, и предложение Lumai — 50-кратное повышение производительности при снижении стоимости в 10 раз — было слишком привлекательным.

Преодоление препятствий от лаборатории к рынку

Главное техническое достижение — доказать, что оптика может эффективно выполнять матрично-векторные умножения. Основной вызов — убедить инвесторов и партнеров, что подход Lumai с 3D оптикой отличается и масштабируем, в отличие от предыдущих 2D решений. Ключевыми были опыт инженеров и разработка программного обеспечения, совместимого с популярными AI-фреймворками.

Объяснение 3D оптического матрично-векторного умножения

AI-системы выполняют множество математических операций матрично-векторного умножения. В Lumai данные кодируются в световые лучи, которые проходят через трехмерное пространство, взаимодействуют с линзами и материалами, выполняя вычисления. Использование трех измерений позволяет обрабатывать больше информации за один луч, повышая эффективность и снижая энергозатраты и время.

Преимущества по сравнению с кремниевыми GPU и интегрированной фотоникой

Технологический прогресс кремния замедлился, и каждый прирост производительности GPU требует значительно больше энергии. Оптический процессор Lumai практически не потребляет энергию во время вычислений, достигая свыше 1000 операций на световой луч за цикл. Такая масштабируемость недостижима для интегрированной фотоники из-за физических ограничений и шума сигнала.

Почти нулевая задержка при AI-инференсе

Процессор Lumai выполняет операцию матрично-векторного умножения размером 1024 x 1024 за один цикл, в отличие от кремниевых решений, которые разбивают матрицы на части и обрабатывают их последовательно. Это снижает задержки, объем используемой памяти и энергопотребление, делая AI более доступным и устойчивым.

Интеграция в инфраструктуру дата-центров

Процессор выполнен в формате PCIe-карты, которая помещается в стандартный 4U шкаф вместе с CPU, используя стандартные сетевые интерфейсы и ПО. Lumai сотрудничает с поставщиками оборудования для обеспечения бесшовной интеграции.

Решение проблемы энергопотребления дата-центров

Потребление энергии дата-центрами в США прогнозируется утроиться к 2028 году. Lumai предлагает устойчивое решение для AI, существенно снижая энергозатраты. Оптические вычисления — перспективный путь решения энергетического кризиса в AI.

Масштабируемость за пределами кремния и фотоники

Lumai планирует увеличить производительность за счет повышения оптической тактовой частоты и ширины векторов без увеличения энергопотребления. Кремний и фотоника не способны обеспечить подобный рост из-за фундаментальных ограничений.

Будущее оптических вычислений в AI и индустрии

Оптика станет ключевой во всех аспектах дата-центров: оптические соединения, сети, коммутация и AI-вычисления. Это позволит преодолеть замедление кремниевой технологии и ограничения медных соединений, обеспечивая более быстрый, эффективный и доступный AI.

Для дополнительной информации рекомендуем посетить сайт Lumai.