Биовдохновлённые архитектуры ИИ

Нейроморфная инженерия начинается с наблюдения о стоимости. В обычном ускорителе арифметика дёшева, а перемещение операндов дорого: выборка веса из внешней памяти обходится на порядки дороже, чем питаемое ею умножение. Тактируемая архитектура платит эту цену каждый такт и каждым блоком независимо от того, изменилось ли что-нибудь во входных данных. Биологический нейрон устроен наоборот: он молчит и почти ничего не потребляет, пока не придёт событие.

Куда на самом деле уходит энергия#

Импульсная сеть кодирует информацию во временах дискретных событий, а не в непрерывных значениях активаций. Отсюда два следствия. Первое: импульс не несёт величины, поэтому принимающий нейрон прибавляет хранимый вес к своему мембранному потенциалу, а не умножает, — накопление заменяет умножение с накоплением. Второе и более важное: вычисление происходит только там и тогда, где случился импульс. Если сцена в основном статична, большая часть массива не делает ничего и потребляет лишь ток утечки. Память при этом размещена рядом с вычислителем, так что веса никуда не едут.

Экономия, следовательно, обусловлена разрежённостью, и как раз это обычно замалчивают. Подайте на нейроморфный чип плотные кадры обычной камеры — и преимущество почти исчезнет: вход придётся преобразовывать в импульсные потоки, и сеть станет активна повсюду. Приложения, где аргумент выполняется, — те, у которых событийный вход возникает естественно (камеры, сообщающие об изменении яркости отдельного пикселя, а не кадры; распознавание ключевых слов; мониторинг вибрации и радарных сигнатур) и где бюджет мощности лежит в микроваттном или милливаттном диапазоне, куда обычный чип не проходит. Это довод о краевых сенсорах, а не о центре обработки данных.

У обучения нет биологической реализации#

Обратное распространение ошибки требует, чтобы каждый синапс знал веса, которых он не касается: сигнал ошибки нужно провести назад через транспонированную матрицу прямых весов. Механизма, переносящего веса подобным образом, в мозге не известно, и эта проблема транспорта весов вместе с необходимостью удерживать все прямые активации до обратного прохода — причина, по которой метод не считают моделью биологического обучения.

Есть и жёсткое математическое препятствие, специфичное для импульсов. Нейрон срабатывает при переходе мембранного потенциала через порог, то есть ступенькой; её производная всюду равна нулю и не определена в точке порога, поэтому градиенты обнуляются. Обучение с суррогатным градиентом принимает это и жульничает намеренно: прямой проход использует настоящий порог, а обратный подставляет вместо ступеньки производную гладкой функции — сигмоиды или треугольного окна. Работает это достаточно хорошо, чтобы почти вся публикуемая точность импульсных сетей получалась именно так. Чем этот приём не является — так это правилом обучения, которое мог бы исполнять сам чип: обучение по-прежнему идёт офлайн, в обычном фреймворке глубокого обучения и на обычном оборудовании, а на устройство попадают только готовые веса. Локальные правила на кристалле, включая пластичность, зависящую от времени импульсов, на задачах с учителем остаются далеко позади.

Разрыв, удерживающий технологию в лаборатории#

Общего программного слоя нет. У каждого семейства чипов — исследовательских вроде Loihi и SpiNNaker, коммерческих краевых устройств нескольких поставщиков — свой инструментарий, своя модель нейрона, своя квантизация и свои ограничения на разветвление и объём памяти ядра. Модель не компилируют, а портируют. Тесты производительности между платформами несопоставимы, поэтому заявление об энергопотреблении редко бывает измерением при равных условиях. Именно отсутствие общей основы, а не физика приборов, и удерживает нейроморфные компоненты вне промышленных систем.