Rの例でユーザーの身体活動を認識する

ユーザーの身体活動を認識するタスク（Human Activity RecognitionまたはHAR）は、教育タスクとしてのみ以前に私に出くわしました。 100を超える機械学習アルゴリズムの便利なラッパーであるCaret R Packageの可能性を発見したので、HARでも試してみることにしました。 UCI Machine Learning Repositoryには、このような実験用のデータセットがいくつかあります。 ダンベルに関するトピックは私にはあまり似ていないため、 スマートフォンユーザーの活動を認識することにしました 。

データ

このセットのデータは、ベルトに取り付けられたSamsung Galaxy S IIを使用した30人のボランティアから取得されました。 ジャイロスコープと加速度計からの信号は特別に処理され、561個の標識に変換されました。 このために、多段階フィルタリング、フーリエ変換、およびいくつかの標準的な統計変換が使用されました。数学的な期待値からベクトル間の角度の計算まで、合計17の関数が使用されました。 処理の詳細を見逃します;それらはリポジトリで見つけることができます。 トレーニングサンプルには7352ケース、テストケース-2947が含まれています。両方のサンプルには、6つのアクティビティ（walking、walking_up、walking_down、sitting、standing、laying）に対応するラベルが付いています。



実験の基本的なアルゴリズムとして、ランダムフォレストを選択しました。 選択は、561個の変数から属性を個別に選択する見通しが少し怖かったため、RFには変数の重要性を評価するための組み込みメカニズムがあり、私が経験したかったという事実に基づいていました。 また、サポートベクターマシン（SVM）を試してみることにしました。 これは古典的なものであることは知っていますが、以前に使用する必要はありませんでした。両方のアルゴリズムのモデルの品質を比較することは興味深いものでした。



データを含むアーカイブをダウンロードして解凍した後、それをいじる必要があることに気付きました。 セットのすべての部分、標識の名前、活動ラベルは異なるファイルにありました。 R環境にファイルをアップロードするために、 read.table（）関数を使用しました。 変数名が重複していることが判明したため、文字列から因子変数への自動変換を禁止する必要がありました。 さらに、名前に無効な文字が含まれていました。 この問題は、 sapply（）関数を使用する次の構成によって解決されました。Rでは、標準のforループがよく置き換えられます。

editNames <- function(x) { y <- var_names[x,2] y <- sub("BodyBody", "Body", y) y <- gsub("-", "", y) y <- gsub(",", "_", y) y <- paste0("v",var_names[x,1], "_",y) return(y) } new_names <- sapply(1:nrow(var_names), editNames)
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

rbind（）およびcbind（）関数を使用して、セットのすべての部分を接着しました。 最初は同じ構造の行を接続し、2番目は同じ長さの列を接続します。

トレーニングサンプルとテストサンプルを準備した後、データの前処理の必要性について疑問が生じました。 ループ内でran​​ge（）関数を使用して、値の範囲を計算しました。 すべての符号が[-1.1]内にあるため、正規化もスケーリングも必要ないことが判明しました。 次に、強く偏った分布の兆候をチェックしました。 これを行うには、 e1071パッケージの歪度（）関数を使用しました。

 SkewValues <- apply(train_data[,-1], 2, skewness) head(SkewValues[order(abs(SkewValues),decreasing = TRUE)],3)
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

Apply（）は、 sapply（）と同じカテゴリの関数で、列または行で何かを行う必要があるときに使用されます。 train_data [、-1]-従属変数Activityのないデータセット2は、列の値を計算する必要があることを示します。 このコードは、3つの最悪の変数を出力します。

 v389_fBodyAccJerkbandsEnergy57_64 v479_fBodyGyrobandsEnergy33_40 v60_tGravityAcciqrX
 14.70005 12.33718 12.18477 

これらの値がゼロに近いほど、分布の歪みは小さくなりますが、ここでは、率直に言ってかなり大きくなります。 この場合、キャレットにはBoxCox変換の実装があります。 ランダムフォレストはそのようなことに敏感ではないことを読んだので、サインをそのままにして、SVMがこれをどのように処理するかを確認することにしました。



モデルの品質基準として、精度または忠実度、精度またはカッパ許容基準を選択します。 ケースがクラス間で均等に分散されていない場合、カッパを使用する必要があります。これは、特定のクラスをランダムに「引き出す」確率のみを考慮した同じ精度です。 [アクティビティ]列の概要（）を実行した後、分布を確認しました。

      WALKING WALKING_UP WALKING_DOWN SITTING STANDING LAYING 
         1226 1073 986 1286 1374 1407

ケースはほぼ同じように配布されますが、walking_down（ボランティアの一部は明らかに階段を降りるのを好まなかった）を除き、これは精度を使用できることを意味します。

トレーニング

属性の完全なセットでRFモデルをトレーニングしました。 このため、Rで次の構成が使用されました。

 fitControl <- trainControl(method="cv", number=5) set.seed(123) forest_full <- train(Activity~., data=train_data, method="rf", do.trace=10, ntree=100, trControl = fitControl)
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

k = 5でk分割交差検証を提供します。 デフォルトでは、異なるmtry値を持つ3つのモデル（セット全体からランダムに選択され、ツリーの各ブランチの候補と見なされる属性の数）がトレーニングされ、その後、精度によって最適なモデルが選択されます。 すべてのモデルのツリーの数は同じntree = 100です。



テストサンプルのモデルの品質を判断するために、キャレットからconfusionMatrix（x、y）関数を取得しました。xは予測値のベクトル、yはテストサンプルの値のベクトルです。 配信の一部を次に示します。

              参照先
予測WALKING WALKING_UP WALKING_DOWN SITTING STANDING LAYING
  ウォーキング482 38 17 0 0 0
   WALKING_UP 7 426 37 0 0 0
   WALKING_DOWN 7 7 366 0 0 0
  座る0 0 0 433 51 0
  スタンディング0 0 0 58 481 0
  敷設0 0 0 0 0 537
全体的な統計
               精度：0.9247          
                  95％CI：（0.9145、0.9339）

Intel Core i5を搭載したラップトップで、一連の症状のトレーニングに約18分かかりました。 doMCパッケージを使用して複数のプロセッサコアを使用することで、OS Xで数倍高速に実行できますが、Windowsの場合、そのようなことはありません。



Caretは、いくつかのSVM実装をサポートしています。 私はsvmRadial（カーネルを備えたSVM-放射基底関数）を選択しました。これはキャレットでより頻繁に使用され、データに関する特別な情報がない場合の一般的なツールです。 モデルをSVMでトレーニングするには、 train（）関数のmethodパラメーターの値をsvmRadialに変更し、do.traceおよびntreeパラメーターを削除するだけです。 アルゴリズムは次の結果を示しました。テストサンプルの精度-0.952。 同時に、5回の相互検証を使用したモデルのトレーニングには7分強かかりました。 私はメモを残しました：ランダムフォレストをすぐに掴まないでください。

変数の重要性

RFの変数の重要性の組み込み評価の結果は、キャレットパッケージのvarImp（）関数を使用して取得できます。 フォームプロット（varImp（model）、20）の構築により、最初の20個の特徴の相対的な重要度が表示されます。



名前の「Acc」は、この変数がジャイロスコープからの加速度計「ジャイロ」からの信号をそれぞれ処理することによって取得されたことを意味します。 グラフをよく見ると、最も重要な変数の中にジャイロスコープからのデータがないことがわかります。これは個人的には驚くべきことであり、説明することはできません。 （「ボディ」と「重力」は加速度計からの信号の2つの成分であり、tとfは信号の時間領域と周波数領域です）。



重要度によって選択されたRF属性への代入は無意味な演習であり、彼はすでにそれらを選択して使用しています。 ただし、SVMを使用すると解決できます。 最も重要な変数の10％から始めて、精度を制御するたびに10％ずつ増加し始め、最大値を見つけ、最初にステップを5％に、次に2.5％に、最後に1つの変数に減らしました。 その結果、最大精度は約490の兆候であり、0.9545に達しました。これは、兆候の完全なセットの値よりも4分の1パーセント（正確に分類されたケースの追加ペア）よりも優れています。 キャレットにはRFE（再帰的機能除去）が実装されているため、この作業を自動化できます。キャレットは再帰的に各変数を削除および追加し、モデルの精度を制御します。 これには2つの問題があります。RFEの動作が非常に遅い（内部にランダムフォレストがある）、属性とケースの数が似ているデータセットの場合、プロセスには約1日かかります。 2番目の問題は、トレーニングサンプルの精度です。これは、RFEが評価するもので、テストの精度とはまったく異なります。



varImpから抽出し、特定の数の属性の名前を重要度の高い順に並べるコードは次のようになります。

 imp <- varImp(model)[[1]] vars <- rownames(imp)[order(imp$Overall, decreasing=TRUE)][1:56]
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

機能フィルタリング

私の良心をクリアするために、私は標識を選択する他の方法を試すことにしました。 Kullback-Leiblerダイバージェンスの同義語である情報ゲイン比（翻訳では情報ゲインまたは情報ゲインとして検出されます）の計算に基づいて、サインのフィルタリングを選択しました。 IGRは、2つの確率変数の確率分布間の差の尺度です。



IGRを計算するために、 FSelectorパッケージのinformation.gain（）関数を使用しました。 パッケージにはJREが必要です。 ところで、エントロピーと相関に基づいて機能を選択できるツールが他にもあります。 IGR値は、分布間の「距離」の逆数であり、[0,1]で正規化されています。 1つに近いほど良い。 IGRを計算した後、変数のリストをIGRの降順で並べました。最初の20は次のようになりました。



IGRは「重要な」属性の完全に異なるセットを提供し、重要な属性と一致するのは5つだけです。 上部に再びジャイロスコープはありませんが、Xコンポーネントには多くの兆候があります。 IGRの最大値は0.897、最小値は0です。記号の順序付きリストを受け取ったので、重要度だけでなくそれに対処しました。 SVMとRFでテストしましたが、精度を上げるためにはあまりうまくいきませんでした。



同様の問題の機能の選択が常に機能するとは限らず、少なくとも2つの理由があると思います。 最初の理由は、フィーチャの構築に関連しています。 データセットを準備した研究者は、センサーからの信号からすべての情報を「生き残らせる」ことを試み、おそらく意識的にそれを行いました。 いくつかの兆候はより多くの情報を提供し、いくつかはより少ない情報を提供します（IGRがゼロに等しいことが判明した変数は1つだけです）。 これは、IGRのさまざまなレベルで特性の値をプロットすると明確に見られます。 明確にするために、10番目と551番目を選択しました。 IGRが高い標識の場合、ポイントは視覚的に十分に分離可能であり、IGRが低い場合は色の混bleに似ていますが、明らかに有用な情報の一部が含まれていることがわかります。





2番目の理由は、従属変数が3つ以上のレベルを持つ要因であるためです（ここでは6つ）。 1つのクラスで最大の精度を達成することにより、別のクラスでパフォーマンスが低下します。 これは、同じ精度で2つの異なるフィーチャセットの不一致マトリックスに表示できます。

精度：0.9243、561変数
              参照先
予測WALKING WALKING_UP WALKING_DOWN SITTING STANDING LAYING
  ウォーキング483 36 20 0 0 0
   WALKING_UP 1 428 44 0 0 0
   WALKING_DOWN 12 7356 0 0 0
  座っている0 0 0 433 45 0
  立っている0 0 0 58 487 0
  敷設0 0 0 0 0 537

精度：0.9243、526変数
              参照先
予測WALKING WALKING_UP WALKING_DOWN SITTING STANDING LAYING
  ウォーキング482 40 16 0 0 0
   WALKING_UP 8 425 41 0 0 0
   WALKING_DOWN 6 6 363 0 0 0
  座っている0 0 0 429 44 0
  立っている0 0 0 62488 0
  敷設0 0 0 0 0 537

上のバージョンでは、最初の2つのクラスでエラーが少なく、下のバージョンでは3番目と5番目です。



要約すると：

1. SVMは私のタスクでランダムフォレストを「作成」しました。2倍の速度で動作し、より良いモデルを提供します。

2.変数の物理的な意味を理解することは正しいでしょう。 また、一部のデバイスのジャイロスコープでは保存できるようです。

3. RFからの変数の重要性を使用して、他のトレーニング方法で変数を選択できます。

4.フィルタリングに基づく属性の選択により、モデルの品質が常に向上するわけではありませんが、品質をわずかに低下させてトレーニング時間を短縮することにより、属性の数を減らすことができます（20％の重要な変数を使用すると、SVMの精度は最大値のわずか3％でした）。



この記事のコードは私のリポジトリにあります 。



いくつかのサイトリンク：

• Caret Rパッケージを使用した機能選択
• ランダムフォレスト 、レオ・ブレイマン、アデル・カトラー

UPD：

kenomaのアドバイスで、主成分分析（PCA）が実行されました。 キャレットのpreProcess関数でオプションを使用しました。

 pca_mod <- preProcess(train_data[,-1], method="pca", thresh = 0.95) pca_train_data <- predict(pca_mod, newdata=train_data[,-1]) dim(pca_train_data) # [1] 7352 102 pca_train_data$Activity <- train_data$Activity pca_test_data <- predict(pca_mod, newdata=test_data[,-1]) pca_test_data$Activity <- test_data$Activity
      
      

        
        
        
      

    
        
        
        
      
      

        
        
        
      

    
     

カットオフ0.95では、102個のコンポーネントが見つかりました。

テストセットのRF精度：0.8734（フルセットで5％低い精度）

SVM精度：0.9386（1パーセント低い）。 この結果はかなり良いと思うので、ヒントは役に立ちました。