MentorHackの結果：ダイアログからタスクを抽出するチャットボット、キャリアパスとコマンドを構築するサービス

最近、 MentorHackという組織に参加しました。これは、企業環境、起業家精神、教育におけるメンタリングのためのサービスを作成するハッカソンです。



ハッカソンについて少し説明します：平日を通して、FSOは、通信からタスクを自動的に選択するチャットボット、勝者へのフォーラム、将来の希望のポジションへのキャリアパスを構築し、プロジェクトのためにチームを編成するサービスをチェックします。







まず、ハッカソンのベーストラックには2つの従来のテーマ領域があったことを思い出してください。500,000ルーブルの賞金プールを備えたAIボスのあらゆる種類のマッチングと要素です。



同様に2つの同様に大規模な特別ノミネート：

• 現在の履歴書から希望の仕事までのキャリアパスを構築するタスクを備えたSuperJobで、賞金も500 tr
• プロジェクトの説明と賞金300 trの候補者の概要に基づいて、プロジェクトのチームを編成するタスクを持つBusinessChain

200人というかなりの数の参加者がいたので、ハッカソンプロセスの参加者を除外することが決定されました。 このため、1日目と2日目に、プロジェクトの完全性を評価するために、参加者と彼らのアイデアと現在実装されている機能について話し合いました。 彼らは、さまざまな企業のキュレーターと警備員を突破する資金の会社で非常に元気に歩いていましたが、ほとんどのチームはそのような形式の準備ができていませんでした-プレゼンテーションプレゼンテーションの古き良き形式が期待されていました。 30チームが決勝戦に出場し、20名のドロップアウトについて多くの喜びの感情を感じ、コードの代わりにデザイナーから方法論の概念と表を記入できないという事実について話しました。

最終的に、審査員は4つの基準に従ってチームを評価しました。



-技術的な実装、

-学習レベル、

-関連性と関連性、

-商業的可能性とスケーラビリティ。







予想どおり、実際、ほとんどの場合、,審員は実際に各チームに1つのマークを付けて、一般的な印象-好き/嫌いを表すため、4つの基準のスコアは非常に近かった。



最終評価のために、審査員の意見は、コードの品質とパフォーマンスに関するキュレーターの評価を平均しました。







グラフは、優れたプロジェクトがプレゼンテーションと技術的な実装の両方でほぼ常に高い評価を得ていることを示しています。 別の娯楽は、インターネットがなく、多目的なパビリオンの音を処理するプリンタがない状態で、20人の裁判官の見積もりをリアルタイムで処理することでした。 しかし、私たちはexel用にいくつかのマシンドライバーを入れて管理し、最終的にこれらの評価を得ました。

彼らのプロジェクトの勝者

ジェットレックス



Notaプロジェクトは、自然言語でチャットを操作するためのボットアシスタントであり、対応する配信されたタスクを強調しています。 始めるには、チャットにNotaを追加してTrelloに登録する必要があります。 その後、ボットは何をすべきかを教えてくれます-それは簡単です。







チャットに追加すると、ボットは、あるユーザーが別のユーザーにタスクを設定するメッセージを検出します。 このメッセージでは、Notaは期限と請負業者を決定し、受信したデータに基づいてtrelloでタスクを作成します。 同時に、Nota自体は、タスクの本質に基づいて、ニューラルサマライザを使用してタスクの名前を生成します。 Notaは、通常のメッセージとフラッドを実際のタスクと区別します。



たとえば、「@ viktorboyko09、来週の四半期報告書を準備してください。昨日Skypeで話した報告書」というテキストから。 NotaはTrelloで、「レポート準備」という名前でタスクを実行します。これは「2018年2月26日まで有効です（Notaはタスクの設定日から7日間カウントされます）」、責任のある「Victor Boyko」、および元のテキストに対応する説明です。







分類子をトレーニングするために、フォーラムdrom.ru、moskvaforum.ru、women.ru、antiwomen.ru、yourdomain.ruからのメッセージに基づいてデータセットが作成されました。これはタスクではないメッセージを判別するためです。 また、タスクの例として、youdo.ruおよびfl.ruからのメッセージが収集されました。 その結果、3500万件以上のサンプルが収集され、そのうち300万件がタスクでした。 サマライザ（OpenNMT実装のseq2seq）のトレーニングに使用したのは、タスクとその見出しに関するデータでした。 競技中に、タスクはしばしば命令的なムードで正確に提示され、データセット内のタスクは不定詞の動詞を使用していることがわかりました（たとえば、「[need] paint the fence」）。 そのため、私たちはデータセットを、命令的なムードの動詞を持つメッセージで増強することにしました。 これは、pymorphy2（関数inflect）を使用して簡単に実行できることが判明しました。 ここでデータセットを検索します。

サマライザートレーニング- トレーニングとテスト 。

分類子トレーニング- トレーニングとテスト 。



線形カーネルを備えた一時的なtfidf + SVM分類器は、その後CNN分類器に置き換える必要があります。 しかし、これは起こらず、一時的なオプションが最終決定のままでした。なぜなら、神経分類器は競技終了後わずか1日で学習したからです。



チームメンバーはさまざまな言語で記述したため、アーキテクチャへのサービスアプローチを選択しました。 サービスアーキテクチャにより、Python（合計、NER、およびフレーズの分類のサービス）、Go（Telegramの入出力）、Node.js（Trelloの入出力）で記述されたモジュールを簡単に組み合わせることができました。 サービス間のIPCは、標準の入出力ストリームに基づいて構築されました。



グループにmanager_assist_botを追加して、ボットを試すことができます。 Notaのデモバージョンとして、Trelloはすべてのタスクを1つの共通ボードに追加します。



トグラ



私たちは、スキルに適した空席を候補ごとに選択し、各方向のさらなるキャリアパスを示し、また、希望するポジションに到達するために引き上げる必要があるスキルを説明できるシステムを開発しました。 jsonの履歴書と空席、解決策を考え出す時間がありませんでした。経験を実際の仕事と比較することは論理的であると考えました。これは、仕事を必要とするスキルを得る人の年表のアイデアを与えるからです 雇用主。



主な問題は、データの量でした（それぞれ250,000の空席と履歴書。履歴書ごとに、職務経験は少なくとも3〜4ポジション、時には50まで）。 比較のためにword2vecを使用する場合、1日以上かかりますが、これはハッカソンでの最適なステップではありません。 したがって、TF-iDFを使用した履歴書で、職務経験についてほぼ同様の空席が見つかり、最終的な回答（適切かどうかにかかわらず）からword2vecが得られました。 空室を照合したら、空室の候補から要件フィールドからスキルを引き出します。 正規表現、ロジック、ブラックマジックの助けを借りてこれを行いました。 すべての要件は派生スタイルで記述されていたため、ロジックと正規表現は非常に長い間調整する必要がありました。 20のifと正規表現の雲の後、スキルのようなものを多少引き出しました。 もちろん、もっとインテリジェントなこともできます。たとえば、すべてのスキルをマージしたり、ストップワードでたくさん遊んだりできますが、1日もかからなかったので、次の作業段階に進みました。 データセットの各空席は抽象的な領域（マネージャー、アシスタントなど）と比較されたため、各領域の最も一般的なスキルを計算しました。 次に、これらのスキルのベクトルの平均を取り、それを職業ベクトルと呼びました。



ここで、たとえば、弁護士のトップ10のスキル：







さらに、ユーザーがスキルを入力すると、同じ魔法と正規表現を使用して「実際の」（私たちの）スキルを引き出し、ベクターを取得し、平均してコサインを使用して職業ベクトルまでの距離を調べます。 したがって、スキルがどの領域に適合するかを知ることができます。 SuperJobは次のステップを予測することにもっと興味があり、勝ちたいと思ったので、すべてのキャリアパスを取り、スキルのダイナミクスと職業の年表を調べることにしました。 なぜなら 私たちは空席で働いた経験の各行を比較し、空席は職業と比較されます-私たちにとって、キャリアパスは時系列の職業のセットにすぎません。 1人の履歴書の場合は次のようになります。







その後、「正しい」キャリアパスを特定しました。 これは私たちのプロジェクトの中で最も興味深く泥だらけの部分です。 事実は、キャリアの成長が何であるかはあまり明確ではないということです。 特に、コードでのキャリア成長の感覚を伝える方法は理解できません。 ハッカソン終了の7時間前の長い議論の後、現在の職業からの移行頻度に応じて職業レベルを割り当てることが決定されました。



たとえば、CEO-レベル10、ドライバー-レベル1。そして、次のようになりました。







興味深い問題がここに隠されています-それは人々が常に私たちのパラダイムで開発するわけではないことがわかります。 そして、時には彼らはマネージャーや銀行家になった後にドライバーになったり、履歴書に完全なナンセンスを書いたりします-そして私たちは互いに関係のない40の空室を取得します。 したがって、キャリアパスの妥当性を確認するために、いくつかの条件を記述する必要がありました。



-パスは、予測可能な数の遷移（たとえば、3から8）を取る必要があります。

-次の各位置は、前の位置と一致しない場合、1〜3レベル高くする必要があります。



キャリアパスを受け取ったら、現在の職業からパスを構築し、ユーザーのスキルに基づいて空席を推奨できます。



スキルマップの作成の例：

• スピーチおよび組織能力は監督カードです。
• ロシア語と文章を書く- ジャーナリストの地図 。

複数の受賞者のプロジェクトの説明



カナッペ



私たちの仕事は、特定のプロジェクトのチームを空席の形で集めることでした。



私たちは2つの主要な基準に従ってチームを編成しました。すべての必要なスキルと互換性を関心ごとにカバーします。



resume2vecのカスタム実装は、空席に適した人を「スマートに」検索するために作成されました。 次のように機能します。

1. 履歴書付きのデータセットからスキルを解析し、
2. 頂点がサマリーであり、エッジがそれらの間の類似性であるグラフを作成し、 この記事で説明されているnode2vecテクノロジーを使用します 。 2番目の部分では、VKontakteを解析し、サブスクリプションとユーザーグループによって関心を判断するチャットボットを作成しました。

チームアップ



履歴書チームを編成するサービスに取り組みました。 データベースの人々は、コンピテンシーによってフィルタリングされ、ランク付けされました。 人間の分析では、関心事に関する質問への回答が使用され、word2vecを使用して回答がベクトル化され、フィルターされた回答の中で最も近くなりました。 ApplyMagicSauce APIを使用して、同じ問題に基づいてOCEANスキームに従って追加のタイプが決定されました。 就業経験合計に対する年齢の比率もランキングに使用されました。 各人の最終的な速度は、これら3つのパラメーターの加重合計です。



いいね



先進的な企業では、プロジェクトコードの品質を監視する必要があります。 外部の専門家が優れた分析を提供できます。 この分析が最も有用であるためには、専門家の能力がチームの能力と一致することが必要です。 これを行うために、機械学習を使用してコンテンツと説明のプロジェクトの類似度を決定するコード分析用のプラットフォームを開発しました。



ここまで読んで、他のプロジェクトとそのプレゼンテーションに精通したい場合は、ここにようこそ、ここでは、研究監督者を選択し、チームの効率を高め、メンターメンティをマッチングするためのサービスプロトタイプを見つけることができます。