, , , ,

"Использование OpenMP для ускорения процесса обучения нейронных сетей". Алексей Александрович Пазников, СПбГЭТУ «ЛЭТИ», 30.6.2023

etu_mohammed_202306.pdf

Состав коллектива

Аннотация

В данной работе исследован параллельный алгоритм обучения нейронных сетей с применением техники мини-пакетного подхода. Этот алгоритм предназначен для вычислительных систем с общей памятью и применяется к большим реальным данным, таким как социальные сети и веб-графы. В отличие от существующих методов мини-пакетного обучения, предложенный подход исключает определенные пакеты на основе их оценки потерь или производительности, вместо обучения всех пакетов на протяжении всего процесса обучения. Разработанный алгоритм реализован программно с использованием многопоточности на основе стандарта OpenMP. Экспериментальная оценка на задаче бинарной классификации с использованием реальных данных показала ускорение процесса обучения по сравнению с аналогичными методами. Ключевые слова: параллельные вычисления, машинное обучение, нейронные сети, OpenMP, многопоточность, контролируемое машинное обучение.

Грантовая поддержка

Публикации