Китайские учёные ускорили обработку изображений ИИ в 149 раз
Исследователи Пекинского университета создали оптоэлектронную систему, которая в лабораторном тесте выполнила отдельную задачу искусственного интеллекта почти в 149 раз быстрее одной видеокарты. Прорыв обеспечили не более мощные вычислительные ядра, а передачу данных между чипами с помощью света. Об этом сообщает National Science Review.
Система состоит из пяти программируемых FPGA-чипов. Каждый из них выполнял отдельный пласт пятислойной нейросети, предназначенной для устранения шума из изображений. Промежуточные результаты передавались непосредственно следующему процессору через кремниевые фотонные модули и оптический коммутатор.
Такой подход позволил снизить задержки, связанные с так называемой стеной памяти. В обычной архитектуре процессор после каждого этапа записывает данные во внешнюю память, а затем снова их считывает. При сложных вычислениях эти операции могут занимать больше времени, чем непосредственная обработка информации.
Китайская система образует оптический конвейер: пока один чип обрабатывает очередное изображение, другие одновременно выполняют следующие этапы вычислений. Фотонные приемники обеспечивают передачу данных со скоростью до 400 Гбит/с, а коммутатор с 16 входами и 16 выходами теоретически поддерживает совокупную пропускную способность до 6,4 Тбит.
В ходе эксперимента система обработала тысячу изображений размером 32 на 32 пикселя за 105,16 микросекунды. Видеокарте для выполнения той же задачи понадобилось 15,643 миллисекунды. В то же время, вычислительная мощность экспериментальной установки составляла около 1,97 терафлопса - лишь 11,6% от теоретической мощности использованной для сравнения видеокарты.
Результаты обработки на двух системах практически не отличались. По данным авторов, передача информации через оптическую сеть не привела к заметным ошибкам в конечных изображениях.
В то же время, исследование не означает, что китайские ученые уже создали универсальный чип, который в 149 раз превосходит современные GPU. Предпочтение зафиксировали на одной специализированной задаче – обработке небольших изображений с помощью предварительно обученной нейросети. Само обучение модели происходило отдельно.
Главное значение разработки состоит в способе объединения многих относительно небольших процессоров. В перспективе оптические соединения могут сократить задержки и энергопотребление дата-центров, систем автономного транспорта, промышленной автоматики и других устройств, которым необходима быстрая локальная обработка данных.
