Китайські вчені прискорили обробку зображень ШІ у 149 разів

Дослідники Пекінського університету створили оптоелектронну систему, яка в лабораторному тесті виконала окреме завдання штучного інтелекту майже у 149 разів швидше за одну відеокарту. Прорив забезпечили не потужніші обчислювальні ядра, а передавання даних між чипами за допомогою світла. Про це повідомляє National Science Review.

Система складається з п'яти програмованих FPGA-чипів. Кожен із них виконував окремий шар п'ятишарової нейромережі, призначеної для усунення шуму із зображень. Проміжні результати передавалися безпосередньо до наступного процесора через кремнієві фотонні модулі та оптичний комутатор.

Такий підхід дозволив зменшити затримки, пов'язані з так званою стіною пам'яті. У звичайній архітектурі процесор після кожного етапу записує дані до зовнішньої пам'яті, а потім знову їх зчитує. Під час складних обчислень ці операції можуть займати більше часу, ніж безпосередня обробка інформації.

Китайська система натомість утворює оптичний конвеєр: поки один чип обробляє чергове зображення, інші одночасно виконують наступні етапи обчислень. Фотонні приймачі забезпечують передавання даних зі швидкістю до 400 Гбіт/с, а комутатор із 16 входами та 16 виходами теоретично підтримує сукупну пропускну здатність до 6,4 Тбіт/с.

Під час експерименту система обробила тисячу зображень розміром 32 на 32 пікселі за 105,16 мікросекунди. Відеокарті для виконання того самого завдання знадобилося 15,643 мілісекунди. Водночас обчислювальна потужність експериментальної установки становила близько 1,97 терафлопса - лише 11,6% від теоретичної потужності використаної для порівняння відеокарти.

Результати обробки на двох системах практично не відрізнялися. За даними авторів, передавання інформації через оптичну мережу не спричинило помітних помилок у кінцевих зображеннях.

Водночас дослідження не означає, що китайські науковці вже створили універсальний чип, який у 149 разів перевершує сучасні GPU. Перевагу зафіксували на одному спеціалізованому завданні - обробці невеликих зображень за допомогою попередньо навченої нейромережі. Саме навчання моделі відбувалося окремо.

Головне значення розробки полягає у способі об'єднання багатьох відносно невеликих процесорів. У перспективі оптичні з'єднання можуть скоротити затримки та енергоспоживання дата-центрів, систем автономного транспорту, промислової автоматики й інших пристроїв, яким потрібна швидка локальна обробка даних.