「あなたのために記事を読む」という見出し。 2018年2月-3月

こんにちは、Habr！ チャンネル#article_essenseのOpen Data Scienceコミュニティのメンバーからの科学記事のレビューを引き続き公開しています。 誰よりも早くそれらを受け取りたい場合- コミュニティに参加してください！

今日の記事：

1. 多様な監督によるセマンティックセグメンテーションの学習 （マニトバ大学、上海大学、2018年）
2. TVAE：メトリック学習を使用したトリプレットベースの変分オートエンコーダー （Stanford University、2018）
3. 神経記号学習と推論：調査と解釈
4. ニューラルネットワークでの壊滅的な忘却の克服 （DeepMind、Imperial College London、2016年）
5. Deep Image Harmonization （カリフォルニア大学、Adobe、2017）
6. 加速勾配ブースティング （ソルボンヌ大学、2018年レンヌ大学）

---

1.多様な監督によるセマンティックセグメンテーションの学習

著者：Linwei Ye、Zhi Liu、Yang Wang（マニトバ大学、上海大学、2018年）

→オリジナル記事

レビュー作成者：Egor Panfilov（in slack egor.panfilov）

この記事では、著者は、セマンティックセグメンテーションのタスクでCNNを教えるためのアーキテクチャを提案します。これにより、トレーニング用にさまざまなタイプのマークアップ（ピクセルマスク、境界ボックス、画像全体のラベル）を持つデータを使用できます。

このアーキテクチャは、入力としてテンソル（h w 3）と発行テンソル（h w （C + 1））を受け取るFCNです。 元の画像と同じ空間寸法で。 次に、出力フィーチャマップを3つの目標で使用して損失を計算します：（1）L_image（グローバル平均プーリング->マルチカテゴリBCE損失）、（2）L_bbox、（3）L_pixel（平均ピクセルごとのBCE）。

L_bboxは、この記事で最も興味深い部分の1つです。 ここでの問題は、オブジェクトのbboxを損失スカラーに変換する方法です。 著者のアプローチは、bboxに基づいてオブジェクトの近似マスクを生成することです（Grabcut、MCG、単純なbbox塗りつぶし、およびUCM（ultrametric contour map）が試行されました）。 UCMは何よりもうまく機能しました。つまり、複数のbboxをオーバーラップするときに、ピクセルが各クラス（soft.segm。）で考慮されるバージョンです。 それが1つのクラス（hard.segm。）に割り当てられているオプションは、それ自体が少し悪いことを示しています。 UCMマスク生成は次のように機能します：（a）UCM輪郭の選択、（b）強度の正規化、（c）しきい値の3つの値の設定（1 / 4、2 / 4、3 / 4）、（d）同心円輪郭の塗りつぶしの開始一定の割合でエリアを離れるまで。 これらのゴミ箱のプライベートマスクの残りに不確実性ラベルを割り当てます-損失を計算するとき、それらを無視します。 ネットワーク予測と作成された参照マスクを使用して、損失を考慮します。

実験について：著者は、PASCAL VOC 2012でFCNとDeepLabを、さまざまなタイプのレイアウトを使用して、さまざまな比率（マスク：bbox：ラベル-1：1：1から1：5：10）でトレーニングしました。 結果は、bboxが非常に優れていることを示していますが、非常に酸性のマークアップ（ピクセルマスクが非常に少ない場合）を使用すると、画像レベルのラベルも役立ちます。

2. TVAE：メトリック学習を使用したトリプレットベースの変分オートエンコーダー

著者：Haque Ishfaq、Assaf Hoogi、Daniel Rubin（スタンフォード大学、2018年）

→オリジナル記事

レビュー作成者：Egor Panfilov（in slack egor.panfilov）

この記事では、スタンフォードからの新鮮な血がディープメトリックラーニングの分野に貢献しようとしています。 なぜ、何を実際に問題を解決しようとしているのかという質問に答えずに、著者は写真にVAEを使用し、ボットネクから平均ベクトルを引き出し（分散に注意を払わず）、さらにそれを3倍の損失に巻き込むことを提案します。 したがって、ネットワークは、L_tv_ae = L_reconstruction + L_KL + L_tripletの混合軌跡でトレーニングされます。

彼らは、MNISTで、20の理解できないネットワークに埋め込みの次元を、理解できないパラメーターで、理解できない時間でトレーニングします。 彼らはまた、悪魔がどのように知っているかを評価します-トリプレット損失がゼロであるトリプレットの割合をトレーニング後に計算することによって。 この「品質指標」の指標は改善されており、損失関数にその逆バージョンが追加され、それを最小化しようとしたため、一般的に予想されています。 最後の注意点は、不明な混乱を伴う2つのアプローチ（VAEとVAE +トリプレット）のt-SNE埋め込みです。 クラスクラスター（見たところ）はよりコンパクトに見えますが、1つのクラスが複数のクラスターで表される場合もかなり少なくなります。

3.ニューラルシンボリック学習と推論：調査と解釈

記事の著者：Besold、Garcez、Bader、Bowman、Domingos、Hitzler、Kuehnberger、Lamb、Lowd、Lima、de Penning、Pincas、Poon、Zaverucha

→オリジナル記事

レビュー作成者：Evgeny Blokhin（ ebt ）

このレビューでは、ニューラルシンボルコンピューティングについて、AIへの2つのアプローチを組み合わせようとする試みとして説明しています。 58ページあり、非常に冗長です。2つの部分で最も短い要約を示します。 パート1.（編集済み）。

一方で、ロジック（記号）は「コンピューターサイエンスの計算」であり、何十年もの間、「ボールルール」のロジックは積極的に開発されてきました（GOFAIを参照）。 今日、一時的、非単調、記述的およびその他のタイプのロジックがあります。 知識管理は決定論的なプロセスです。 一方、機械学習（コネクショニズム）は統計的な性質を持っています。 非常に一般的な意味では、これらは2つの同等のアプローチです。これらは計算可能であり、有限オートマトンで表すことができます。 ニューラルネットワークは新しいアプローチではありません。 一般に、広範な表現力の推論は、ニューラルシンボリックネットワークによって実行できます。ここで重要なのはモジュール性です。

たとえば、尊敬されるヒントンと彼の深いトレーニングについて言えば、シンボリック知識に関与するサブネットが相互に再帰的に形成される場合、ニューラルシンボルネットワークを線維化（線維化、バンドル）として想像できます。 変数X、Y、およびZと、P（X、Y）およびQ（Z）の概念を担当する2つのサブネットを想像してください。 次に、ファイブリングのメタネットワークは、P（X、Y）^ Q（Z）-> R（X、Y、Z）となるように、PとQを新しい概念R（X、Y、Z）にマッピングします。 実際の実装は非常に困難ですが。 認知モデルは、観測可能なデータの複雑な関係を処理する必要があります（戦術的操縦、安全運転など）。 残念ながら、専門家はこれを非決定的かつ主観的に（たとえば、ストレスや疲労に基づいて）行うことが多く、この経験をモデルに伝える方法は明確ではありません。

もう1つの例は、Sutskever、Hinton and Taylor（2009）のBoltzmannの再帰的時間制限マシン（RBM）に基づくNSCA（Neural Symbolic Cognitive Agent）アーキテクチャです。 2層RBMネットワークは、重みを変更することで時相論理の形式でいくつかの知識を受け取り、入力ベクトルに応じた重みによる出力量の計算は確率論的議論です。 したがって、時相論理規則はRBMの重みによって定義されます。 NSCAアーキテクチャは、運転シミュレータ、DARPA Mind's Eyeプロジェクト、およびVisual Intelligenceシステムで使用されました。 また、2014年には、自動車のCO2削減システムに関与しました。 NSCAにはまだ多くの未解決の問題があることが示唆されていますが、現在はHintonとSalakhutdinovのディープボルツマンマシンと統合されています。

神経記号システムは、認知科学と神経科学に由来します。 人間の思考の最初の理論は、1983年にジョンソンとレアードによって策定されました。これまで、中心的な問題は、神経結合のメカニズム（結合問題）です。 分離された画像がどの程度正確に適合するか。 たとえば、ニューラルリンクの接続コードの理論は、既存の人工ニューラルネットワーク（ANN）に最も近いです。 この理論によると、脳内のニューロンには単一の結合リソース（組み合わせ爆発）はありませんが、スケーラブルな分散表現があり、さらに、偶発的に発生し、効果的に識別されるものもあります。 しかし、神経科学は一般に、現代のANNを拒否して思考を説明しますが、その長所は認めています。 だから、1988年以来、FodorとPylyshynは、思考は本質的に象徴的であると主張しており、ソフトウェアとハ​​ードウェアとの面白い類似性を引用しています。 機能的な複雑さはソフトウェアにあり、本質的に記号であり、アルゴリズムはハードウェアでの表現ではなくソフトウェアによって決定されます。 さらに、現代の実験では、人は認知問題を解決するためにルールを使用する傾向があり、これらのルールは個別であり、IQと相関していることが示されています。 さらに、前頭葉の計画とローカライズを担当する中央実行機能があります。 さらに、言語形態が規則に基づくのか、それとも連想に基づくのかについて、心理言語学者の間でまだ議論があります。 最後に、コネクショニズムは、多くの認知能力の代表的な構成的性質を反映していません（「Ivan loves Masha！」のイヴァン=「Masha loves Ivan」のイヴァン）。 現代のANNの概念では、上記の側面は不溶性です。

現代のANNの論理的推論は、次のように提示されます（Pinkas and Lima、1991-2013を参照）。 私たちの仕事は、一次論理で知識ベースを描き、対称的な重み行列（たとえば、RBM）を持つANNを取ることだと言います。 知識ベースは、ニューロンの重みまたは活性化によって表されます。 次に、ANNはエネルギー関数の勾配降下を実行しますが、そのグローバルな最小値は推論の連鎖の結論です。

第2部では、ANNの1次の推論と論理演算の例、マルコフ論理ネットワーク、LSTMを使用する他のアプローチの例、将来の困難と予測。

4.ニューラルネットワークでの壊滅的な忘却の克服

著者：ジェームズカークパトリック他 等 （DeepMind、インペリアルカレッジロンドン、2016年）

→オリジナル記事

レビュー作成者：Yana Sereda（in slack @ yane123）

すべてのネットワークパラメータが学習タスクAの生産性にとって等しく重要であるとは限らないという仮定を立てました。学習アルゴリズムを変更して、学習済みタスクの「重要な」重みを特定し、過去の重要度に応じて強力な変更から保護することを決定しました学習したタスク。

これは、損失関数にペナルティを追加することで達成されました。 パラメーター（重みまたはバイアス）の変更に対するペナルティーは、変更の2乗に比例して選択されます。 比例係数（つまり、問題Aのパラメーターの重要性の指標）は、このパラメーターと問題Aのデータセットに対して計算されたフィッシャー情報です。1次導関数は、フィッシャー行列を計算するのに十分です。

タスクAとBの後、問題Cのネットワークを学習し始めた場合、損失関数はそれぞれ3項になります（損傷A、損傷B、およびソリューションCの品質）。

彼らは、異なる問題を解決するために、ネットワークによる同じ重みの再利用の程度を測定する方法、「フィッシャーのオーバーラップ」も提案しました。

実験：合成、ムニステ、アタリについて

5.深い画像の調和

記事の著者：Yi-Hsuan Tsai、Xiaohui Shen、Zhe Lin、Kalyan Sunkavalli、Xin Lu、Ming-Hsuan Yang（カリフォルニア大学、アドビ、2017年）

→オリジナル記事

レビュー作成者：Arseniy Kravchenko（in slack @arsenyinfo）

ある画像からオブジェクトを切り取って別の画像に貼り付けると、きれいではないと推測するのは簡単です。光、影などの違いが目を引きます。 彼らの活動を隠すために、Photoshopマスターはいくつかの曲線をひねりますが、DLの少年には代替ソリューションがあります。

貧弱に撮影された写真をほぼ実際の写真に変えるエンドツーエンドのネットワークをトレーニングしましょう。 データの問題：ここでは、教師あり学習用の古典的なX、Yペアはありません。 しかし、そのようなデータを生成することはできます：COCOなどのデータセットから写真を撮り、マスクでオブジェクトを選択し、それを「台無しにする」-色特性を転送します（たとえば、ヒストグラムマッチングを使用しますが、著者はより高度な手法を使用しました）。 なぜなら COCOの多様性は十分ではありません。同様に歪んだ画像をちらつきから取り除き、フィルターで除外しましょう（hello、＃proj_kaggle_camera！）美学予測モデルにうんざりします。

これで、ネットワークエンコーダーデコーダーアーキテクチャを学習できます。unet：通常のL2損失を使用して、歪んだ画像+歪みマスクを元の画像に変換します。 品質をさらに向上させるために、マルチタスク学習に取り組みます。セマンティックセグメンテーションを担当する2番目のデコーダブランチを追加し、損失ではそれぞれクロスエントロピーを追加します。 結果のアーキテクチャは次のようになります

写真は本当にクールに見えます。

著者はモデルと重量をCaffeに投稿しましたが、致命的な欠陥もあります-私は個人的にはまだモデルを持ち上げることができませんでした（私はcaffeの何らかの修正バージョンが必要なようですが、どれが明確ではありません）。

6.加速勾配ブースティング

記事の著者：GérardBiau、BenoîtCadre、LaurentRouvìère（ソルボンヌ大学、2018年レンヌ大学）

→オリジナル記事

レビュー作成者：Artem Sobolev（asobolev slack ）

最適化理論は、勾配降下がかなり遅い手順であることを知っています。 いわゆる ニュートンの方法。ヘッセ行列を使用してパラメーターの変化の方向を修正しますが、計算がより複雑で、追加の計算が必要です。 一次の方法、すなわち 勾配と関数値のみを使用して、最適な（特定のクラスの問題に対する）収束率は、Nesterovの高速勾配法です。

この記事では、この最適化手法を勾配ブースティングに挿入することを提案します。 単純であると考えられます：この方法はより速く収束します。つまり、このような高速勾配ブーストは、より少ないアンサンブルモデルでより良い品質を持つはずです。

著者は、通常の勾配ブースティングと比較して、いくつかの実験を行った。 使用されたデータは奇妙でした。いくつかの合成データセットと5つのUCIリポジトリ。 実際、著者は高速勾配ブースティングが通常よりもはるかに高速にトレーニングされることを示しています（図3）が、合成データでこれを示しています。 一般に、彼らの実験の結果によると、著者は、この方法はそれほどうまく機能せず、学習率に対する感度が低く、アンサンブルで使用するモデルが少ないと主張しています。