Nature Photonics: Инженеры создали эффективные оптические нейронные сети

Исследователи EPFL создали программируемый фреймворк, который позволяет преодолеть ключевое вычислительное ограничение в системах искусственного интеллекта на основе оптики. В экспериментах по классификации изображений они использовали рассеянный свет от маломощного лазера для точных и масштабируемых вычислений, потребляя при этом меньше энергии, чем электроника.

Рост цифровых систем искусственного интеллекта увеличивает количество необходимой энергии для их обучения и работы, что приводит к выбросам углекислого газа. Исследования показывают, что если производство серверов искусственного интеллекта будет продолжаться нынешними темпами, то к 2027 году их годовое потребление энергии может превысить потребление небольшой страны. Глубокие нейронные сети, созданные по аналогии с архитектурой мозга, особенно энергоёмки из-за миллиардов связей между слоями нейроноподобных процессоров.

Исследователи стали активнее внедрять оптические вычислительные системы, которые существуют с 1980-х годов. В этих системах для обработки данных используются фотоны. Свет может выполнять вычисления быстрее и эффективнее электронов, но есть проблема, которая мешает оптическим системам превзойти электронные.

Кристоф Мозер, руководитель лаборатории прикладных фотонных устройств инженерной школы EPFL, объясняет: чтобы классифицировать данные в нейронной сети, каждый узел должен принять решение — срабатывать или нет, основываясь на входных данных. При этом выходной сигнал не прямо пропорционален входному.

Мозер говорит, что для нелинейных преобразований в оптических системах нужны мощные лазеры. Но он вместе с другими исследователями разработал новый энергоэффективный метод таких вычислений. Он основан на кодировании данных (например, пикселей изображения) в пространственной модуляции маломощного лазерного луча. При отражении от самого себя луч умножает пиксели нелинейно.

Наш метод, проверенный на трёх разных наборах данных для классификации изображений, показал себя как масштабируемый и в 1000 раз более энергоэффективный, чем современные цифровые сети. Это делает его перспективным решением для создания оптических нейронных сетей, — говорит Псалтис.

Исследование, поддержанное грантом Sinergia Швейцарского национального научного фонда, недавно было опубликовано в журнале Nature Photonics.

Простое структурное решение

В отличие от заряженных электронов, фотоны в природе не взаимодействуют друг с другом. Поэтому для нелинейных преобразований в оптических системах учёным приходится создавать условия для их взаимодействия. Например, они используют достаточно интенсивный свет, чтобы изменить оптические свойства стекла или другого материала, через который он проходит.

Учёные нашли способ обойтись без мощного лазера. Они просто закодировали пиксели изображения на поверхности маломощного лазерного луча. Если повторить эту процедуру дважды, изменив траекторию луча в кодере, пиксели умножатся сами на себя, то есть возведутся в квадрат. Возведение в квадрат — это нелинейное преобразование, поэтому такая модификация позволяет выполнять вычисления для нейронной сети с меньшими затратами энергии. Кодирование можно провести два, три или даже десять раз, чтобы увеличить точность вычислений и степень нелинейности.

По словам Псалтиса, их система требует на восемь порядков меньше энергии для оптического вычисления умножения по сравнению с электронной системой.

Мозер и Псалтис отмечают, что масштабируемость и низкое энергопотребление — главные преимущества их подхода. Они стремятся создать гибридные электронно-оптические системы, чтобы снизить энергопотребление цифровых нейронных сетей. Но для этого потребуются дальнейшие инженерные исследования. Например, исследователи уже работают над созданием компилятора, который будет переводить цифровые данные в код для оптических систем.

12.08.2024