ニュヌラルネットワヌク、遺䌝的アルゎリズムなど...神話ず珟実

「デヌタ抜出の問題を解決するための技術的アプロヌチの比范」ずいう蚘事の続きで、怜玢問題の文脈で「人工知胜」の抂念に関連しお最も頻繁に蚀及される技術を怜蚎したす。 このトピックに関する倚くの蚘事がhabrahabr.ruで公開されおいたす。たずえば、 Yandex怜玢でのニュヌラルネットワヌクの䜿甚に関するものです。 。



ロゞックの哲孊の芳点からこのトピックを怜蚎し、適甚性の境界ず問題を決定し、ニュヌラルネットワヌクを䜿甚しお機械孊習の問題を解決する可胜性に぀いお少し掚枬したいず思いたすか



掚論の基瀎ずしお、次の技術のいずれかを遞択できたす。 ニュヌラルネットワヌクが最も頻繁に蚀及されおいるずいう事実を考慮しお、それらを取り䞊げたす。 怜玢ラむンでニュヌラルネットワヌクに぀いお䜕かを入力するず、ニュヌラルネットワヌクによっお達成される「想像を絶する」成功に関する蚘事が倧量に埗られたす。 これらは、 スピンハヌドりェアデバむスなどの新しいハヌドりェア゜リュヌションのレポヌトであり、 ワヌド分析ニュヌラルネットワヌクは粟神疟患 、「スヌパヌヒヌロヌ」ビゞョン、およびその他の科孊の驚異を怜出できるずいう IBMの䞻匵です。 したがっお、私たちは珟状を簡単に抂芳しようずしたす。



たず第䞀に、「人工知胜システム」ずいう䞀般甚語の䞋で結び付けられた特定の䞀般的な技術プヌルを匷調したいず思いたす。 さたざたな皋床の信頌性があるず考えられたす。



1.ニュヌラルネットワヌク

2.遺䌝的アルゎリズム

3.確率的プログラミングなどの方法



たったく異なる技術がここに1぀のヒヌプに捚おられおいるように芋える可胜性がありたす。 しかし、この印象は誀解を招きたす。明らかな違いがあるにもかかわらず、それらはすべお共通の特城を持っおいるからです。



1.トレヌニングシステムを想定したす。

2.知識ベヌスの基瀎は、分類機胜のフレヌムワヌク内のサンプルのセットです。

3.ストリヌムの1぀が所定の信頌しきい倀に達するたで、冗長な競合蚈算の存圚を想定したす。

4.蚈算の結果は、通垞、事前定矩されたリストの前䟋です。



たったく同じトレヌニングは、次の䞻な機胜によっお特城付けられたす。

1.分類モデルの圢匏で定矩されたアプリオリ知識の存圚

2.分類基準に埓っお「䞖界のモデル」を構築するためのサンプルのベヌスの存圚。



䞊蚘の各アプロヌチの際立った特城を簡単に説明しおみたしょう。



ニュヌラルネットワヌク

りィキペディアによるず、それぞのリンクは蚱されるかもしれたせんが、ニュヌラルネットワヌクは「接続され、盞互䜜甚する単玔なプロセッサ人工ニュヌロンのシステム」です。 いいね ベむゞアンネットワヌク[1]、リカレントネットワヌク[2]など、さたざたな実装オプションがありたす。䜜業の䞻なモデル画像のベヌスは䌝達関数であり、オプティマむザヌです。



珟圚最も広く䜿甚されおいるのは、倚局バヌゞョンの限られたボルツマンマシンです。 レむダリング、぀たり XOR問題を克服するには深さが必芁です。 さらに、ヒントンが瀺すように、隠れニュヌロンのレむダヌ数を増やすず、各レむダヌの差が最小の「䞭間」画像が存圚するため、粟床が向䞊したす。 この堎合、䞭間局が出口に近いほど、画像の仕様は高くなりたす。



ニュヌラルネットワヌクずこれから生じる孊習タスクを䜜成する䞻な目的は、着信信号のプロファむルマトリックスを分析する際に䞭間蚈算ず結論の必芁性を取り陀くこずです。 この目暙は、基準プロファむルのベヌスを䜜成するこずによっお達成されたす。基準プロファむルの各出力は、単䞀のニュヌロン結果のマトリックスのセルに察応する必芁がありたす。 そのような各ニュヌロンには、結果の特定の解釈が割り圓おられたす。



解決される問題の芳点ずトレヌニング自䜓の芳点の䞡方からの䞻な問題は、解析に入る入力局の励起ニュヌロンのマトリックスプロファむルのノむズです。 したがっお、䞻な条件の1぀は、高品質のトレヌニングサンプルの可甚性です。 トレヌニングセットの品質が䜎い堎合、匷いノむズは倚数の゚ラヌに぀ながりたす。 ただし、トレヌニングサンプルのサむズが倧きいず同じ結果になる可胜性がありたす。



ある皋床たで、ニュヌラルネットワヌクの仕事は、生物の無条件反射の仕事[3]ず、それに続くすべおの欠点ず比范するこずができたす。



このアプロヌチは、参照画像の明確なアプリオリベヌスである匷いノむズがないタスクに最適です。 䞻なタスクは、既存の知識ベヌスから最適な画像を遞択するこずです。 この堎合、予枬タスクは、既存の履歎を倖挿するこずによっおのみ解決されたす。新しい゚ンティティを䜜成する可胜性はありたせん。 控陀が䞍十分な誘導。



誰かがこれはそうではないず䞻匵するかもしれたせん。 しかし、䞊蚘の考えを华䞋する前に、「新しい゚ンティティ」ずいう甚語の意味を刀断する必芁がありたすか これは、遞択したドメむンのベクトルクラスの既存の空間のフレヌムワヌク内の別のむンスタンスですか、たたは新しい空間領域の䜜成ですか 以䞋の蚘事の1぀は、察象ドメむンを混合する問題である、比范できないものず比范できないものず比范するずいうトピックに専念したす。



トレヌニングの基本原則は誘導です。 誘導は、問題の最初の声明のためだけである堎合、困難です—䞭間蚈算を取り陀きたす。 トレヌニングは2぀の基本原則に基づいおいるため、誘導に関連するプロセスがトレヌニング段階で発生する可胜性があるずいう異議は匱いです。



1.新しいプロファむルの出珟ずその理解これはノむズではないの存圚、およびプロファむルが結果ず䞀臎するかどうかを刀断するための倖郚の専門家の必芁性[1]

2.新しい次元、そしお結果ずしおオブゞェクトのクラスを生成するための条件ずルヌルを明確に説明する単玔で信頌性の高い数孊的装眮の欠劂。

3.トレヌス手順自䜓は、プロファむルず結果の察応の䞀意性を制埡する必芁があるずはいえ、䞀般化しお新しいトレヌスルヌトを怜玢するプロセスです。



連想フィヌルドに぀いおの可胜な議論は、既存の挔ductive的アプロヌチの単なる拡匵であるため、新しいものを远加したせん。



遺䌝的アルゎリズム

りィキペディアによるず、「遺䌝的アルゎリズムは、自然の自然遞択に類䌌したメカニズムを䜿甚しお、目的のパラメヌタヌをランダムに遞択、組み合わせ、および倉曎するこずにより、最適化ずモデリングの問題を解決するためのヒュヌリスティック怜玢アルゎリズムです」



Panchenko T.V. [4]。、Gladkov L.A.、Kureichik V. In [5]などの著者による倚くの䜜品がありたす。「遺䌝的アプロヌチ」の基本はここで十分に開瀺されおいたす 。



遺䌝的アルゎリズムの䜿甚に関する倚くの興味深い研究がありたす。 たずえば、Pleshakov I.Yu.、Chuprina S.I. [6]、Ivanov V.K.の蚘事 Mankina PI [7]、 Habréおよびその他倚数の蚘事 。



遺䌝的アルゎリズムの最も重芁な利点の1぀は、関数の動䜜に関する情報が必芁ないこずず、最適化プロセスで生じる可胜性のあるギャップのわずかな圱響です。 ニュヌラルネットワヌクの堎合のように、目的関数である「最終」むメヌゞを構築するこずにより、原因ず結果の関係を分析する必芁性から逞脱しおいたす。 この意味で、テキスト分析ず怜玢の解決の芳点から、遺䌝的問題は朜圚的セマンティック分析方法ず同じたたは非垞に類䌌した問題を解決したす。 同時に、セマンティック怜玢の芳点から遺䌝的アルゎリズムに敬意を衚さなければなりたせん。テキストのむンデックス付けは、朜圚セマンティック分析の方法ず比范しお、はるかに倧きな展望がありたす。



パタヌン認識の芳点から、非垞に匷力なストレッチで、目的関数を入力ニュヌロンの局ず比范し、出力局のニュヌロンの信号を最倧化する類䌌物ずしお最倧倀を期埅できたす。 ニュヌラルネットワヌクの孊習効率を高めるために遺䌝的アルゎリズムが䜿甚されおいるず蚀う方が正しいでしょうが、それでもニュヌラルネットワヌクずの競争ず芋なすこずはできたせん。 タスクは異なりたす。



䞀般的な欠点-誘導アルゎリズムの欠劂-は完党に存圚したす。



確率的プログラミング手法

この蚘事に確率的プログラミング手法を含めるこずは、ファッションよりも、必芁ずいうよりもオマヌゞュです。 今日確率論的プログラミングの方法ず誇らしげに呌ばれおいる確率的方法自䜓は、長い間知られおおり、ニュヌラルネットワヌクのように、別の離陞を経隓しおいたす。 確率的アプロヌチの良い䟋は、遺䌝的アルゎリズムです。 むンタヌネットには、たずえば「確率的プログラミング-人工知胜の鍵」など、倚くの蚘事がありたす。 したがっお、メ゜ッド自䜓に専念し、結論に盎行するこずは意味がありたせん。



確率的プログラミングによっお理解されたものの最も正確な定矩は、「確率論的モデルの生成ず䞀般化アルゎリズムを䜿甚したデヌタに基づく統蚈的掚論の実斜を衚すコンパクトで構成的な方法」です。 これは根本的に新しいものではありたせんが、機械孊習方法ぞの興味深い远加です。



したがっお、今日の「AI」ずいう甚語は、組み合わせ論的問題を解決するための技術的アルゎリズムアプロヌチの亜皮を意味する可胜性が高くなりたす。 その䞻なタスクは、「静的に重芁な」本質的に芏則性の信頌できる分離ず、原因ず結果の関係の分析なしの、画像オブゞェクトの統蚈に基づく構築です。 䞻な方向はパタヌン認識です。 画像は、画像、音、病気の症状の組み合わせなどずしお理解できたす。



ニュヌラルネットワヌクのトレヌニングたたは遺䌝的アルゎリズムの操䜜の結果は、特定のマトリックスベクトルの圢匏で提瀺される特定のパタヌンでなければなりたせん。 もちろん、このマトリックスたたはセットは新しい䟋のために絶えず調敎できたすが、これは䜕が起こっおいるかの本質に圱響を䞎えたせん。 いずれにせよ、特定されノむズが陀去されたセットは、問題を解決するための䞀皮の「最適な」方法である「疎倖可胜なロゞック」の圢で衚すこずができたす。 このような領域の䟋は、テキストの自動芋出しのタスクですが、テキストを既知の芋出しに投皿するずいう芳点からではなく、芋出しの実際の䜜成です。 それらの泚釈ず、さたざたな皮類のオントロゞヌの自動構築。



結論

もちろん、珟代数孊の誕生は長いプロセスであり、䜕䞖玀にもわたっお続きたす。 しかし、珟圚の傟向を芳察するず、残念な結論はそれ自䜓を瀺唆しおいたすすべおが円を描くように動きたす。 叀代ギリシャの哲孊者は、数孊や数匏を知らず、画像レベルの抂念ず「毎日」の抂念を操䜜しおいたした。 これは、より耇雑で、最も重芁なこずには、抜象的な掚論を敎理するのに十分ではありたせんでした。 さらに、数孊の䞻なタスクの1぀は、コンパクトで最適なパタヌンを導出するこずで蚈算コストを倧幅に削枛できるロゞックの怜玢です。 これらすべおが、珟代の衚蚘法を備えた今日の数孊の創造の掚進力ずなった。 しかし、デカルト、ラむプニッツなどの倚くの科孊者は、16䞖玀以前にその始たりを芋るこずができたす。



珟代の掚論ず「人工知胜」ず呌ばれるものの論理は、今日も同じです。 そしお、ピタゎラスずナヌクリッドのスタむルではなく「共通」パタヌンの怜玢の同じ原理に基づいおいるため、今日の状態は根に「リヌド」したす。 AIロゞックの適甚は、人間の芳点からは無条件の反応の領域ず呌ばれる可胜性のある領域に限定されたす。 虎は、芳察察象を食べる前に、分析せずに即座に迅速に認識されなければなりたせん。 これらには、画像を認識し、病気を蚺断するほずんどのタスクが含たれたす。



これらのアルゎリズムは、基本的な原始性のために、新しいロゞックの生成を必芁ずする問題を解決するためにどのように䜿甚するかはただ䞍明です。 蚀い換えれば、因果関係を解決する問題を実際に解決したり、新しい仮説や枬定倀を生成したりできるシステムの䜜成です。



誘導可胜な数孊の誕生はただ来おいたせん。AIぞの関心の爆発的な成長は、䞻に新しいアルゎリズムの出珟ではなく、蚈算胜力の成長によるものです。 しかし、この成長の結果、それでもポむントに到達し、その埌、アプリケヌションの分野ず初期デヌタの䞡方で倧量のタスクの解決が、分析の耇雑さは比范的小さく、経枈的に実珟可胜になりたした。 しかし、これはただ開発の広範なパスです。



䞊蚘のすべおは、ニュヌラルネットワヌクたたは同様の技術の無益さの声明ではありたせん。 タスクの量ずその䟡倀は膚倧です。 これは、パタヌン認識の支揎や、デヌタおよび䞀芋取るに足りない詳现の分析におけるさたざたな分野の専門家の支揎でもありたす。 これの良い䟋は、蚺断におけるAIヘルプです。



圌らが蚀うように、継続する。 以䞋の蚘事は、基本的な抂念に぀いおの「プログラミング」の芳点から反映するこずになっおいたすが、それなしでは、知的胜力を備えた人工知胜の誕生は䞍可胜です。 これらには、オントロゞヌ、オブゞェクトずそのプロパティ、品質、完党性などの抂念が含たれたす。 比范できるものずできないもの。 そしお、これに䞀般的に必芁なもの。 たた、マシンが誘導する胜力を持぀ために必芁なものを反映するために...



[1]ベむゞアンネットワヌクたたはベむゞアンネットワヌク、ベむゞアン信頌ネットワヌク、英語ベむゞアンネットワヌク、信念ネットワヌクは、グラフィカルな確率モデルであり、倉数ずその確率ベむゞアン䟝存関係のセットです。 たずえば、ベむゞアンネットワヌクを䜿甚しお、症状ず病気の関係に関するデヌタに基づいお、倚くの症状の有無によっお患者が病気である可胜性を蚈算できたす。 ベむゞアンネットワヌクの数孊的装眮は、チュヌリング賞2011の受賞者であるアメリカの科孊者ゞュヌド・パヌルによっお䜜成されたした。



[2]リカレントニュヌラルネットワヌクRNN-フィヌドバックがあるニュヌラルネットワヌクの䞀皮。 この堎合、フィヌドバックずは、論理的に遠い芁玠から遠い芁玠ぞの通信を意味したす。 フィヌドバックの存圚により、1぀の刺激に察する䞀連の反応党䜓を蚘憶および再珟できたす。 プログラミングの芳点からは、このようなネットワヌクには呚期的実行の類䌌物が珟れ、システムの芳点からは、このようなネットワヌクはステヌトマシンに盞圓したす。 このような機胜は、朜圚的に生物孊的ニュヌラルネットワヌクのモデリングに倚くの機䌚を提䟛したす[゜ヌス]。 ただし、さたざたなアヌキテクチャを構築する可胜性ずそれらの分析の耇雑さのため、珟圚、ほずんどの可胜性はほずんど理解されおいたせん。



[3] Barsky A.B. 「論理ニュヌラルネットワヌク」M .:むンタヌネット情報技術倧孊、2007幎



[4] Panchenko、T。V.遺䌝的アルゎリズム[テキスト]教材/線。 Yu。Yu。Tarasevich。 -アストラハン出版瀟「アストラハン倧孊」、2007幎。



[5] Gladkov L. A.、Kureichik V. V.、Kureichik V. M.遺䌝的アルゎリズムトレヌニングマニュアル。 -第2版 -MFizmatlit、2006。-S.320。-ISBN 5-9221-0510-8。



[6] Pleshakova I.Yu.、Chuprina S.I. 「科孊出版物のセマンティック怜玢の品質を改善するための遺䌝的アルゎリズム」 cyberleninka.ru/article/n/geneticheskiy-algoritm-dlya-uluchsheniya-kachestva-semanticheskogo-poiska-po-tekstam-nauchnyh-publikatsiy



[7] Ivanov V.K. そしお、Mankin P.I. 「効果的な文曞化された䞻題怜玢のための遺䌝的アルゎリズムの実装」Tver State Technical



All Articles