内容

• パート1： はじめに
  
  
• パート2： 多様体学習と潜在変数
  
  
• パート3：可変可変エンコーダー（ VAE ）
  
  
• パート4： 条件付きVAE
  
  
• パート5： GAN （Generative Adversarial Networks）とテンソルフロー
  
  
• パート6： VAE + GAN
  
  

最後の部分では、隠し変数とは何かについて説明し、その分布を調べました。また、通常の自動エンコーダーでは隠し変数の分布から新しいオブジェクトを生成することは困難であることに気付きました。 新しいオブジェクトを生成するには、 潜在変数のスペースが予測可能でなければなりません。



変分オートエンコーダーは、特定の隠された空間にオブジェクトを表示し、それに応じてそこからサンプリングすることを学習するオートエンコーダーです。 したがって、 変分オートエンコーダーも生成モデルのファミリーに属します。







[2]からの図



いずれか1つのディストリビューションを持つ 、あなたは任意の他のものを得ることができます たとえばみましょう -正規正規分布、 -ランダム分布も、見た目は完全に異なります









上記の例[1]



したがって、正しい関数を選択すると、通常のオートエンコーダーの隠し変数のスペースを、たとえば分布が正規の場所など、適切なスペースにマッピングできます。 そして戻って。



一方、隠されたスペースを別のスペースに表示することを特に学ぶ必要はありません。 有用な隠しスペースがある場合、正しい自動エンコーダーはそれらを途中で学習しますが、最終的に必要なスペースに表示します。

---

以下はVAEの基礎となる複雑ですが必要な理論です。 私は、 [1、Variation Autoencodersのチュートリアル、Carl Doersch、2016]から最も重要なものを絞り出そうとしました。



させる 隠された変数であり、 -データ。 例として描かれた数字を使用して、サンプルを生成した自然な生成プロセスを考えます。

• 写真内の数字の画像の確率的分布、すなわち 原則として図の特定の画像が描かれる確率（絵が図のように見えない場合、この確率は非常に小さく、逆も同様です）
  
  
• -隠れた要因の確率分布、たとえば、ストロークの太さの分布、
  
  
• -与えられた隠された要因の画像の確率分布、同じ要因は異なる画像につながる可能性があります（同じ条件で同じ人が正確に同じ数字を描くわけではありません）。
  
  

想像してみて いくつかの生成関数の合計として そしていくつかの複雑なノイズ









私たちは、いくつかのメトリックがトレーニングに近いオブジェクトを作成する人工的な生成プロセスを構築したい 。









そしてまた









-モデルが表す関数のファミリー、および -そのパラメーター。 メトリックを選択して、どのようなノイズが私たちに見えるかを選択します 。 メトリック 、その後、通常のノイズを考慮してから：









最尤法の原理に基づいて、最適化することは私たちに残っています 最大化するために 、つまり サンプルからのオブジェクトの出現の確率。



問題は、積分を直接最適化できないことです（1）。空間は高次元である可能性があり、多くのオブジェクトがあり、メトリックは悪いです。 一方、考えてみると、それぞれの特定の 非常に小さなサブセットのみが結果として得られます 残りのために ゼロに非常に近くなります。

最適化するときは、良いものからのみサンプリングするだけで十分です。 。



知るために サンプリングし、新しいディストリビューションを導入する必要があります どの依存 分布を表示します それはこれにつながる可能性があります 。



最初に、Kullback – Leibler距離（2つの分布の「類似性」の非対称尺度、詳細[3] ）を記述します。

そして本物の ：









ベイズ公式を適用します。









カルバック・ライブラー距離をもう1つ選びます。









その結果、IDを取得します。

---

---

このアイデンティティは、 バリエーション自動エンコーダーの基礎であり、 そして 。



させる そして パラメーターに依存します。 そして 、そして -通常 次に取得します：









取得したものを詳しく見てみましょう。

• 第一に 、 疑い深くエンコーダーとデコーダーに似ています（より正確には、デコーダーは 式で ）、
  
  
• アイデンティティの左側-トレーニングサンプルの要素に対して最大化する値 +何らかのエラー うまくいけば、十分な容量を持つ 0になる
  
  
• 右側は勾配降下法で最適化できる値です。最初の項は予測の質の意味を持ちます 値デコーダ 2番目の項は、分布間の距離KL エンコーダーが特定のものについて予測するもの 、および配布 すべてのために すぐに。
  
  

勾配降下で右側を最適化できるようにするために、次の2つのことに対処します。

1.より正確には、

通常 正規分布により選択：









つまり、それぞれのエンコーダ 2つの値を予測：平均 とバリエーション 値が既にサンプリングされている正規分布。 すべてこのように機能します：







[2]からの図



個々のデータポイントごと エンコーダは正規分布を予測します









限界分布の場合 ： それは式に由来し、それは驚くべきことです。







[2]からの図



同時に 次の形式を取ります。

2.エラーを拡散する方法を見つけます

事実は、ここでランダムな値をとることです デコーダーに送信します。

ランダムな値を介してエラーを直接伝播することは不可能であることは明らかであるため、いわゆる再パラメーター化の トリックが使用されます。



スキームは次のとおりです。





[1]からの図



左の写真はトリックのないスキームで、右の写真はトリックのあるスキームです。

サンプリングは赤で、エラー計算は青で表示されます。

つまり、実際には、エンコーダーによって予測された標準偏差を取得するだけです から乱数を掛ける 予測平均を追加します 。

両方のスキームでの直接伝播はまったく同じですが、エラーの逆分布は正しいスキームで機能します。



このような変分オートエンコーダーをトレーニングした後、デコーダーは本格的な生成モデルになります。 実際、主にデコーダを生成モデルとして個別にトレーニングするために、エンコーダも必要です。





[2]からの図







[1]からの図



しかし、エンコーダーとデコーダーがフルオートエンコーダーを形成する代わりに使用できるという事実は、非常に優れています。

ケラスのVAE

バリエーションオートエンコーダーとは何かを理解したので、 Kerasで作成します。



必要なライブラリとデータセットをインポートします。

 import sys import numpy as np import matplotlib.pyplot as plt %matplotlib inline import seaborn as sns from keras.datasets import mnist (x_train, y_train), (x_test, y_test) = mnist.load_data() x_train = x_train.astype('float32') / 255. x_test = x_test .astype('float32') / 255. x_train = np.reshape(x_train, (len(x_train), 28, 28, 1)) x_test = np.reshape(x_test, (len(x_test), 28, 28, 1))
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

主なパラメータを設定します。 ディメンション2の隠されたスペースを使用して、後でそこから生成し、結果を視覚化します。

注 ：Dimension 2は非常に小さいため、数値が非常にぼやけていると予想する必要があります。

 batch_size = 500 latent_dim = 2 dropout_rate = 0.3 start_lr = 0.0001
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

変分オートエンコーダーのモデルを書きましょう。



トレーニングをより速く、より良く行うために、 ドロップアウトとバッチ正規化レイヤーを追加します。



デコーダーでは、アクティベーションとして漏れやすいReLUを使用します。これは、アクティベーションなしの密なレイヤーの後に別のレイヤーとして追加します。

サンプリング関数はサンプリング値を実装します から 再パラメータ化トリックを使用します。



vae_lossは方程式の右側です：





損失としてさらに使用されます。

 from keras.layers import Input, Dense from keras.layers import BatchNormalization, Dropout, Flatten, Reshape, Lambda from keras.models import Model from keras.objectives import binary_crossentropy from keras.layers.advanced_activations import LeakyReLU from keras import backend as K def create_vae(): models = {} #  Dropout  BatchNormalization def apply_bn_and_dropout(x): return Dropout(dropout_rate)(BatchNormalization()(x)) #  input_img = Input(batch_shape=(batch_size, 28, 28, 1)) x = Flatten()(input_img) x = Dense(256, activation='relu')(x) x = apply_bn_and_dropout(x) x = Dense(128, activation='relu')(x) x = apply_bn_and_dropout(x) #    #  ,    ,    z_mean = Dense(latent_dim)(x) z_log_var = Dense(latent_dim)(x) #   Q    def sampling(args): z_mean, z_log_var = args epsilon = K.random_normal(shape=(batch_size, latent_dim), mean=0., stddev=1.0) return z_mean + K.exp(z_log_var / 2) * epsilon l = Lambda(sampling, output_shape=(latent_dim,))([z_mean, z_log_var]) models["encoder"] = Model(input_img, l, 'Encoder') models["z_meaner"] = Model(input_img, z_mean, 'Enc_z_mean') models["z_lvarer"] = Model(input_img, z_log_var, 'Enc_z_log_var') #  z = Input(shape=(latent_dim, )) x = Dense(128)(z) x = LeakyReLU()(x) x = apply_bn_and_dropout(x) x = Dense(256)(x) x = LeakyReLU()(x) x = apply_bn_and_dropout(x) x = Dense(28*28, activation='sigmoid')(x) decoded = Reshape((28, 28, 1))(x) models["decoder"] = Model(z, decoded, name='Decoder') models["vae"] = Model(input_img, models["decoder"](models["encoder"](input_img)), name="VAE") def vae_loss(x, decoded): x = K.reshape(x, shape=(batch_size, 28*28)) decoded = K.reshape(decoded, shape=(batch_size, 28*28)) xent_loss = 28*28*binary_crossentropy(x, decoded) kl_loss = -0.5 * K.sum(1 + z_log_var - K.square(z_mean) - K.exp(z_log_var), axis=-1) return (xent_loss + kl_loss)/2/28/28 return models, vae_loss models, vae_loss = create_vae() vae = models["vae"]
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

注 ：からサンプリングする関数を持つLambdaレイヤーを使用しました 基礎となるフレームワークから。これには明らかにバッチサイズが必要です。 このレイヤーが存在するすべてのモデルで、バッチのサイズだけを送信するように強制されます（つまり、 エンコーダーとvaeで ）。



最適化関数はAdamまたはRMSpropを使用し 、両方とも良好な結果を示します。

 from keras.optimizers import Adam, RMSprop vae.compile(optimizer=Adam(start_lr), loss=vae_loss)
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

さまざまな数字と数字の行を描画するためのコード





多くの場合、モデルをトレーニングするプロセスでは、 learning_rateの変更、中間結果の保存、モデルの保存、画像の描画など、いくつかのアクションを実行する必要があります。



これを行うために、 kerasには、トレーニングが始まる前にfitメソッドに渡されるコールバックがあります。 たとえば、学習プロセスで学習率に影響を与えるために、 LearningRateScheduler 、 ReduceLROnPlateauなどのコールバックがあり、モデルを保存します-ModelCheckpoint 。



TensorBoardで学習プロセスを監視するには、別のコールバックが必要です。 それは自動的にログファイルに時代の間で考慮されるすべてのメトリックと損失を追加します。



学習プロセスで任意の機能を実行する必要がある場合のために、 LambdaCallbackがあります。 たとえば、時代やバッチの間など、与えられたトレーニングの瞬間に任意の関数の実行を開始します。

学習プロセスに従い、数字がどのように生成されるかを研究します 。

 from IPython.display import clear_output from keras.callbacks import LambdaCallback, ReduceLROnPlateau, TensorBoard # ,     ,    figs = [] latent_distrs = [] epochs = [] # ,     save_epochs = set(list((np.arange(0, 59)**1.701).astype(np.int)) + list(range(10))) #       imgs = x_test[:batch_size] n_compare = 10 #  generator = models["decoder"] encoder_mean = models["z_meaner"] # ,       def on_epoch_end(epoch, logs): if epoch in save_epochs: clear_output() #   output #      decoded = vae.predict(imgs, batch_size=batch_size) plot_digits(imgs[:n_compare], decoded[:n_compare]) #   figure = draw_manifold(generator, show=True) #     z     epochs.append(epoch) figs.append(figure) latent_distrs.append(encoder_mean.predict(x_test, batch_size)) #  pltfig = LambdaCallback(on_epoch_end=on_epoch_end) # lr_red = ReduceLROnPlateau(factor=0.1, patience=25) tb = TensorBoard(log_dir='./logs') #   vae.fit(x_train, x_train, shuffle=True, epochs=1000, batch_size=batch_size, validation_data=(x_test, x_test), callbacks=[pltfig, tb], verbose=1)
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

これで、 TensorBoardがインストールされている場合、学習プロセスに従うことができます。



このエンコーダーが画像を復元する方法は次のとおりです。







そして、これはからのサンプリング結果です







数字を生成する学習プロセスは次のとおりです。





隠された空間でのコードの配布：





完全に正常ではありませんが、かなり近いです（特に、隠されたスペースの寸法が2だけであることを考慮して）。



TensorBoardの学習曲線







このようなタスクの次元2は非常に小さく、数値は非常にぼやけており、良い数値と数値の間には破れた数値も多数あることがわかります。

次のパートでは、目的のラベルの番号を生成する方法、破れたラベルを取り除く方法、およびスタイルをある数字から別の数字に転送する方法について説明します。

役立つリンクと文献

理論的な部分は次の記事に基づいています。

[1] Variation Autoencodersのチュートリアル、Carl Doersch、2016年、 https： //arxiv.org/abs/1606.05908

そして実際にはそれの要約です



Isaac Dykemanブログから多くの写真が撮影されています。

[2] Isaac Dykeman、 http： //ijdykeman.github.io/ml/2016/12/21/cvae.html



ロシア語のカルバック・ライブラー距離の詳細については、こちらをご覧ください。

[3] http://www.machinelearning.ru/wiki/images/d/d0/BMMO11_6.pdf



コードは、 Francois Cholletの記事に部分的に基づいています。

[4] https://blog.keras.io/building-autoencoders-in-keras.html



他の興味深いリンク：

http://blog.fastforwardlabs.com/2016/08/12/introducing-variational-autoencoders-in-prose-and.html

http://kvfrans.com/variational-autoencoders-explained/