Руководство. Генеративно-состязательные сети

Набор данных MNIST доступен в репозитории MLDatasets. При первом создании экземпляра вам будет предложено его скачать. Дайте согласие.

Сети GAN можно обучать в неконтролируемом режиме. Поэтому оставьте только изображения из набора данных, исключив метки.

После загрузки обучающих данных необходимо нормализовать значения в диапазоне [0:1] к значениям в диапазоне [-1:1]. Обучение сетей GAN связано с известными сложностями, и такая нормализация является одним из рекомендуемых приемов. Нормализованные данные используются для определения загрузчика данных, который отвечает за формирование пакетов и перемешивание данных.

В стандартной сети GAN и дискриминатор, и генератор представляют собой обычные многослойные перцептроны с прямой связью. Для обеспечения нелинейности модели мы используем блоки линейной ректификации с утечками leakyrelu.

В данном случае коэффициент α (в leakyrelu ниже) устанавливается равным 0,2. Проведенные ранее эксперименты показали, что это значение обеспечивает эффективное обучение сети. Также было выявлено, что функция предотвращения переобучения обеспечивает хорошее обобщение обученной сети, поэтому мы используем ее ниже. Предотвращение переобучения обычно активно при обучении модели и неактивно при выводе. При вызове модели в градиентном контексте Flux автоматически активирует режим обучения. В качестве конечной нелинейности мы используем функцию активации sigmoid.

Генератор определим сходным образом. Эта сеть сопоставляет латентную переменную (переменную, которая не наблюдается напрямую, а выводится) с пространством изображений, и мы задаем входное и выходное измерения соответствующим образом. tanh приводит вывод последнего слоя к значениям в диапазоне [-1:1], то есть в том же диапазоне, к которому были приведены обучающие данные.

Для обучения дискриминатора ему предоставляются реальные данные из набора данных MNIST и искусственные данные, на основе которых он пытается спрогнозировать правильные метки для каждого образца. Разумеется, правильными метками являются 1 для данных в пределах распределения и 0 для данных вне распределения, поступивших от генератора. В качестве функции потерь выбрана бинарная перекрестная энтропия. Хотя в документации Flux предлагается использовать бинарную перекрестную энтропию на основе логистической регрессии, обучение GAN с этой функцией потерь представляет сложность. Эта функция возвращает потери дискриминатора в целях регистрации. Потери можно вычислить в том же вызове, в котором вычисляется откат, а откат можно получать непосредственно из Zygote вместо вызова Flux.train! для модели. В таком случае для вычисления градиентов функции потерь с учетом параметров дискриминатора достаточно вычислить откат с начальным градиентом 1,0. Эти градиенты используются для обновления параметров модели

Теперь нужно определить функцию для обучения сети генератора. Задача генератора состоит в том, чтобы обмануть дискриминатор, поэтому генератор получает одобрение, когда дискриминатор с высокой вероятностью определяет образец как подлинный. В функции обучения необходимо сначала произвести выборку шума, то есть данных с нормальным распределением. Это необходимо сделать за пределами отката, так как градиенты необходимо получить не относительно шума, а относительно параметров генератора. Внутри отката необходимо сначала применить генератор к шуму, так как градиент будет браться с учетом параметров генератора. Кроме того, необходимо вызвать дискриминатор, чтобы вычислить функцию потерь внутри отката. При этом следует не забыть отключить слои предотвращения переобучения дискриминатора. Для этого дискриминатор переводится в режим проверки перед откатом. Сразу после отката он возвращается в режим обучения. Затем мы вычисляем откат, как и ранее, вызываем его с начальным градиентом 1,0, обновляем параметры сети генератора и возвращаем потери.

Теперь мы готовы обучить сеть GAN. В цикле обучения мы отслеживаем потери генератора и дискриминатора на уровне образца, используя пакетные потери, возвращаемые двумя определенными выше функциями обучения. В рамках каждой эпохи мы производим итерацию по мини-пакетам, предоставленным загрузчиком данных. Перед вызовом функций обучения требуется минимальная обработка данных.

При гиперпараметрах, приведенных в этом примере, генератор выдает полезные изображения примерно после 1000 эпох. А после 5000 эпох результат внешне неотличим от реальных данных MNIST. При использовании GPU Nvidia V100 и ЦП Power9 2,7 ГГц с 32 аппаратными потоками 100 эпох обучения занимают примерно 80 секунд. Степень использования GPU составляет 30—​40 %. Чтобы чаще проверять состояние сети во время обучения, можно задать, например, значение output_period=20. Обучать GAN с использованием ЦП не рекомендуется, так как каждая эпоха при этом занимает примерно 10 минут.

Ниже показано, как могут выглядеть изображения, полученные после различного числа эпох.