В связи с постоянно возрастающим спросом на пропускную способность оптических каналов возможность конструктивного использования нелинейных эффектов в волоконно-оптических системах с использованием новых концепций, таких как нелинейное преобразование Фурье (nonlinear Fourier transform – NFT), в последнее время стала предметом исследований. Одной из важнейших проблем при использовании NFT для обработки и передачи оптических сигналов является чувствительность систем на основе NFT к отклонениям оптических каналов от идеализированной модели, при этом шум является одной из основных проблем. В данной работе мы предлагаем архитектуру нейронной сети (neural network – NN), которая позволяет прогнозировать непрерывный нелинейный спектр оптических сигналов и выполнять обратное NFT для модуляции сигнала. Среднее значение относительной ошибки предсказания непрерывного спектра нейронной сетью при вычислении прямого NFT составило 2.68e-3. Для обратного преобразования среднее значение относительной ошибки предсказания сигнала равнялось 1.62e-4.