Работа направлена на разработку и исследование схемы обработки оптических сигналов в приемнике системы связи, основанной на глубоких свёрточных нейронных сетях и имитирующей метод обратного распространения сигнала. Для данной схемы проведена оценка эффективности компенсации нелинейных искажений в линии связи со спектральным уплотнением каналов.