機械学習の概要

1.1はじめに

機械学習のおかげで、プログラマは考えられるすべての問題を考慮し、すべての解決策を含む指示を書く必要はありません。 代わりに、パターンを導き出し、それに基づいて予測を行う統計データを統合的に使用して、ソリューションを個別に見つけるためのアルゴリズムを備えたコンピューター（または別のプログラム）が配置されます。



データ分析に基づく機械学習の技術は、チェッカーをプレイするための最初のプログラムの開発を開始した1950年にさかのぼります。 過去数十年にわたって、一般原則は変わっていません。 しかし、コンピューターの計算能力の爆発的な成長のおかげで、コンピューターによって作成された法と予測はより複雑になり、機械学習を使用して解決される問題と問題の範囲が拡大しました。



機械学習のプロセスを開始するには、最初に、データセット（一定量のソースデータ）をコンピューターにダウンロードする必要があります。コンピューターでは、アルゴリズムが要求の処理を学習します。 たとえば、犬や猫の写真には、誰が属しているかを示すタグが既に付いている場合があります。 トレーニングプロセスの後、プログラム自体は、タグのコンテンツなしで、新しい画像で犬と猫を認識できるようになります。 学習プロセスは、予測が発行された後も継続します。プログラムによって分析されるデータが多いほど、目的の画像がより正確に認識されます。



機械学習のおかげで、コンピューターは顔だけでなく、風景、オブジェクト、テキスト、数字も写真や図面で認識することを学びます。 テキストについては、ここでは機械学習なしではできません。文法をチェックする機能は、テキストエディタや電話にも存在します。 また、単語の綴りだけでなく、文脈、意味の濃淡、その他の微妙な言語的側面も考慮されます。 さらに、人間の介入なしにニュース記事（経済学、スポーツなど）を書くことができるソフトウェアがすでにあります。

1.2機械学習タスクのタイプ

MLを使用して解決されるすべてのタスクは、次のカテゴリのいずれかに分類されます。



1） 回帰のタスクは、さまざまな属性を持つオブジェクトのサンプルに基づく予測です。 出力は実数（2、35、76.454など）である必要があります。たとえば、アパートの価格、6か月後のセキュリティの値、翌月の店舗の予想収入、ブラインドテスト中のワインの品質などです。



2） 分類のタスクは 、一連の特徴に基づいてカテゴリカル回答を取得することです。 回答の数には限りがあります（通常は「はい」または「いいえ」の形式）。写真に猫がいますか、画像が人間の顔、がんにかかっている患者ですか。



3） クラスタリングのタスクは、データをグループに分散することです。モバイルオペレーターのすべての顧客をソルベンシーレベルで分割し、スペースオブジェクトを1つまたは別のカテゴリ（惑星、星、ブラックホールなど）に割り当てます。



4） 次元を削減するタスクは 、後続の視覚化（データ圧縮など）の利便性のために、多数のフィーチャをより小さなフィーチャ（通常2〜3）に削減することです。



5） 異常を検出するタスクは 、標準ケースから異常を分離することです。 一見、分類タスクと一致しますが、重要な違いが1つあります：異常はまれな現象であり、機械学習モデルをドラッグしてそのようなオブジェクトを識別することができるトレーニング例は、非常に小さいか、単にないため、ここでは分類方法は機能しません。 実際には、そのようなタスクは、たとえば、銀行カードを使用した不正行為の特定です。

1.3基本的なタイプの機械学習

機械学習法を使用して解決されるタスクの大部分は、2つの異なるタイプに関連しています。教師との学習（教師あり学習）または教師なしの学習（教師なし学習）です。 ただし、この教師は、必ずしもコンピューターの上に立ってプログラムのすべてのアクションを制御するプログラマー自身ではありません。 機械学習の観点から見た「教師」とは、情報を処理するプロセスに人が介入することです。 両方のタイプのトレーニングで、マシンはパターンを分析して見つける初期データを提供します。 唯一の違いは、教師と一緒に学習する場合、反論または確認する必要がある多くの仮説があることです。 この違いは、例を使って簡単に理解できます。



教師との機械学習



モスクワの1万のアパートに関する情報があるとします：エリア、フロア、地区、家の駐車場の有無、地下鉄からの距離、アパートの価格など。パラメータによってアパートの市場価値を予測するモデルを作成する必要があります。 これは、教師による機械学習の理想的な例です。初期データ（サインと呼ばれるアパートメントとそのプロパティの数）があり、各アパートメントの準備ができた答えはコストです。 プログラムは回帰問題を解決する必要があります。



実践からの別の例：すべての彼の医学的指標を知っている、患者の癌の存在を確認または否定する。 テキストを分析して、受信メッセージがスパムかどうかを調べます。 これらはすべて分類タスクです。



教師なしの機械学習



教師なしのトレーニングの場合、既成の「正しい答え」がシステムに提供されない場合、すべてがさらに興味深いものになります。 たとえば、特定の人数の体重と身長に関する情報があり、これらのデータを3つのグループに分割する必要があります。各グループは適切なサイズのシャツを縫う必要があります。 これはクラスタリングタスクです。 この場合、すべてのデータを3つのクラスターに分割する必要があります（ただし、原則として、そのような厳密な、可能な唯一の分割はありません）。



サンプル内の各オブジェクトに数百の異なる機能がある場合に異なる状況をとると、主な問題はそのようなサンプルのグラフィック表示になります。 そのため、記号の数は2つまたは3つに減り、平面または3Dでそれらを視覚化することが可能になります。 これは、次元を削減するタスクです。

1.4機械学習モデルの基本アルゴリズム

1. 決定木



これは、ツリーグラフの使用に基づく意思決定支援方法です。潜在的な結果（イベントの発生確率を考慮）、効率、およびリソース消費を考慮した意思決定モデルです。



ビジネスプロセスの場合、このツリーは、明確な回答を必要とする最小数の質問（yesまたはno）で構成されます。 これらすべての質問に一貫して答えを出すことで、私たちは正しい選択をします。 決定木の方法論的な利点は、問題を構造化および体系化し、論理的な結論に基づいて最終決定が行われることです。



2.単純ベイズ分類



単純ベイズ分類器は、単純な確率的分類器のファミリーに属し、ベイズの定理に由来します。この場合、関数は独立とみなされます（これは厳密または単純な仮定と呼ばれます）。 実際には、機械学習の次の分野で使用されます。

• スパムメールの検出;
• テーマ記事へのニュース記事の自動リンク。
• テキストの感情的な色付けの識別;
• 画像内の顔やその他のパタ​​ーンの認識。

3.最小二乗法



少なくとも少し統計を勉強した人は誰でも線形回帰の概念に精通しています。 最小二乗もその実装オプションに属します。 通常、線形回帰は、多くの点を通る直線を近似する問題を解決します。 最小二乗法を使用してそれを行う方法は次のとおりです。直線を描画し、それから各ポイントまでの距離を測定し（ポイントとラインを垂直セグメントで接続）、結果の量を転送します。 その結果、距離の合計が最小になる曲線が望ましい曲線になります（この線は、真の値からの正規分布偏差で点を通過します）。



線形関数は通常、機械学習用のデータの選択に使用され、最小二乗法はエラーメトリックを作成してエラーを最小限に抑えるために使用されます。



4.ロジスティック回帰



ロジスティック回帰は、変数間の関係を決定する方法です。変数の1つはカテゴリに依存し、他の変数は独立しています。 このために、ロジスティック関数（累積ロジスティック分布）が使用されます。 ロジスティック回帰の実際的な重要性は、1つ以上の独立変数を含むイベントを予測するための強力な統計的手法であることです。 これは、次の状況で需要があります。

• クレジットスコアリング;
• 進行中の広告キャンペーンの成功を測定します。
• 特定の製品の利益予測。
• 特定の日付の地震の確率の評価。

5.サポートベクターメソッド（SVM）



これは、分類および回帰分析の問題を解決するために必要なアルゴリズムの集合です。 N次元空間にあるオブジェクトが2つのクラスのいずれかに属しているという事実に基づいて、サポートベクトルメソッドは次元（N-1）の超平面を構築し、すべてのオブジェクトが2つのグループのいずれかに表示されるようにします。 紙上では、これは次のように表すことができます。2つの異なるタイプのポイントがあり、それらを線形に分割できます。 このメソッドは、ポイントを分離することに加えて、各グループの最も近いポイントから可能な限り遠くになるように超平面を生成します。



SVMとその修正は、DNAスプライシング、写真からの性別の判別、Webサイトへの広告バナーの表示など、複雑な機械学習タスクの解決に役立ちます。



6.アンサンブルの方法



これは、多くの分類子を生成し、平均化または投票結果に基づいて新しく受信したデータからすべてのオブジェクトを分離する機械学習アルゴリズムに基づいています。 当初、アンサンブル法はベイジアン平均化の特殊なケースでしたが、その後より複雑になり、追加のアルゴリズムで大きくなりすぎました：

• ブースティング-分類器のアンサンブルを形成することにより、弱いモデルを強いモデルに変換します（数学的な観点から、これは改善された共通部分です）。
• バギング（バギング）-洗練された分類子を収集すると同時に、基本的なトレーニング（関連性の向上）をトレーニングします。
• 出力コーディングのエラー修正。

アンサンブル法は、スタンドアロンの予測モデルと比較してより強力なツールです。

• 各基本分類器のエラーを平均することにより、事故の影響を最小限に抑えます。
• 異なる仮説から始まるいくつかの異なるモデルは、別々に取られたものよりも正しい結果に到達する可能性が高いため、分散を低減します。
• 集合の範囲を超えることを除外します：集約された仮説が基本的な仮説の集合の外にある場合、結合された仮説の形成の段階で、何らかの方法を使用して展開され、仮説はすでにその中に含まれています。

7.クラスタリングアルゴリズム



クラスタリングは、多くのオブジェクトをカテゴリに分類することで構成されているため、各カテゴリ（クラスタ）で最も類似した要素が見つかります。



異なるアルゴリズムを使用してオブジェクトをクラスター化できます。 最も一般的に使用されるのは次のとおりです。

• 三角形の重心に基づいて;
• 接続に基づいて;
• 次元縮小;
• 密度（空間クラスタリングに基づく）;
• 確率的;
• ニューラルネットワークを含む機械学習。

クラスタリングアルゴリズムは、生物学（ゲノム内の遺伝子の数千個の要素との相互作用の研究）、社会学（ウォード法を使用した社会学研究の結果の処理、最小分散でほぼ同じサイズのクラスターをもたらす）および情報技術で使用されます。



8.主成分法（PCA）



主成分分析（PCA）は、直交変換の統計操作であり、何らかの方法で相互接続できる変数の観測値を一連の主成分（線形相関のない値）に変換することを目的としています。



PCAが適用される実際のタスクは、視覚化と、学習プロセスを促進するためのデータの圧縮、単純化、最小化の手順のほとんどです。 ただし、主成分分析の方法は、初期データの順序が悪い場合には適していません（つまり、この方法のすべての成分は高い分散によって特徴付けられます）。 そのため、その適用可能性は、対象分野をどの程度よく研究して記述したかによって決まります。



9.特異分解



線形代数では、特異分解（SVD）は、複素数または実数で構成される長方形行列の分解として定義されます。 したがって、次元[m * n]の行列Mは、M =UΣVのように展開できます。ここで、UとVはユニタリ行列で、Σは対角です。



特異分解の特殊なケースの1つは、主成分法です。 最初のコンピュータービジョンテクノロジーは、SVDとPCAに基づいて開発され、次のように機能しました。最初に、顔（または見つかった他のパターン）が基本的なコンポーネントの合計として表され、次にそれらの寸法が縮小され、サンプルからの画像と比較されました。 もちろん、機械学習における特異分解の最新のアルゴリズムは、前任者よりもはるかに複雑で洗練されていますが、全体としての本質は変わりました。



10.独立成分分析（ICA）



これは、ランダム変数、信号などに影響する隠れた要因を識別する統計的手法の1つです。ICAは多変量データベースの生成モデルを作成します。 モデルの変数にはいくつかの隠された変数が含まれており、それらを混合するためのルールに関する情報はありません。 これらの隠された変数は独立したサンプルコンポーネントであり、非ガウス信号と見なされます。



この方法に関連する主なコンポーネントの分析とは対照的に、独立したコンポーネントの分析は、特に古典的なアプローチが無力である場合に、より効果的です。 現象の隠れた原因を発見し、これのおかげで、天文学や医学から音声認識、自動テスト、金融指標のダイナミクスの分析に至るまで、さまざまな分野で幅広い用途を見出しています。

1.5実際のアプリケーションの例

例1.病気の診断



この場合の患者は対象であり、兆候はすべての症状、病歴、検査結果、すでに実施された治療措置です（実際には、病歴全体が正式なものであり、個別の基準に分類されます）。 性別、頭痛、咳、発疹などの徴候-いくつかの兆候はバイナリと見なされます。 状態の重症度（極端に重度、中程度など）の評価は序数の兆候であり、その他の多くは定量的です：薬の量、血中のヘモグロビンのレベル、血圧と脈拍の指標、年齢、体重。 これらの兆候の多くを含む患者の状態に関する情報を収集したら、それをコンピューターにダウンロードし、機械学習が可能なプログラムを使用して、次の問題を解決できます。

• 鑑別診断の実施（病気の種類の判定）;
• 最も最適な治療戦略を選択します。
• 病気の進行、その期間および結果を予測するため;
• 起こりうる合併症のリスクを計算します。
• 症候群の特定-特定の疾患または障害に関連する一連の症状。

医師は、各患者の一連の情報全体を即座に処理し、他の同様の医療記録を多数まとめて、すぐに明確な結果を出すことはできません。 したがって、機械学習は医師にとって不可欠なツールになりつつあります。



例2.鉱床の検索



ここでの特徴の役割は、地質調査によって得られた情報です：領土上の岩石の存在（およびこれはバイナリタイプの兆候）、それらの物理的および化学的特性（多くの定量的および定性的特徴に分解されます）。



トレーニングサンプルでは、​​2種類の前例が採用されています。ミネラルデポジットが正確に存在するエリアと、これらのミネラルが見つからなかった同様の特性を持つエリアです。 しかし、希少鉱物の抽出には固有の特性があります。多くの場合、兆候の数はオブジェクトの数を大きく上回り、従来の統計の方法はそのような状況にはあまり適していません。 したがって、機械学習では、すでに収集されたデータ配列のパターンを検出することに重点が置かれています。 このために、研究質問への回答を最も示唆する、最も有益な特徴セットが決定されます-指定された領域に特定の化石が存在するかどうか。 薬との類似性を引き出すことができます：預金はまた、独自の症候群を明らかにすることができます。 この分野で機械学習を使用することの価値は、得られた結果が実用的であるだけでなく、地質学者や地球物理学者にとって科学的に非常に興味深いことです。



例3.ローン候補者の信頼性と支払能力の評価



この問題は、ローンの発行に関わるすべての銀行が毎日直面しています。 このプロセスの自動化の必要性は、クレジットカードブームが米国およびその他の国で始まった1960-1970年代に長い間延期されました。



銀行からのローンをリクエストする人は対象ですが、兆候はこの個人か法人かによって異なります。 ローンを申請する個人の特徴的な説明は、記入するアンケートのデータに基づいて形成されます。 次に、アンケートに、銀行がチャネルを通じて受け取る潜在的なクライアントに関するその他の情報が追加されます。 それらのいくつかは、バイナリ記号（性別、電話番号の入手可能性）に関連し、他は順序記号（教育、位置）に関連し、それらのほとんどは定量的です（ローン額、他の銀行が負う全額、年齢、家族の数、収入、年功）または名義（名前、雇用会社の名前、職業、住所）。



機械学習の場合、信用履歴がわかっている借り手を含むサンプルが描画されます。 すべての借り手はクラスに分けられます。最も単純な場合、「良い」借り手と「悪い」借り手の2つがあり、融資を許可するという肯定的な決定は「良い」借り手にのみ行われます。



クレジットスコアリングと呼ばれるより高度な機械学習アルゴリズムは、各属性の借り手ごとに条件付きポイントを獲得します。ローンを付与するかどうかは、獲得したポイントの量によって決まります。 機械学習中、クレジットスコアリングシステムはまず各特性に一定数のポイントを割り当ててから、ローン発行の条件（期間、金利、およびローン契約に反映されるその他のパラメーター）を決定します。 しかし、ユースケースに基づいた別のシステム学習アルゴリズムもあります。



PS次の記事では、数学的部分やPythonでの実装など、機械学習モデルを作成するためのアルゴリズムをさらに詳しく調べます。