Ingram MicroおよびOdin Automation

こんにちはHabr！ 私の名前はティムール・ハキミャノフです。オーディン・オートメーションの副社長であり、クラウドサービスとアプリケーションの配信プラットフォームの開発を指揮しています。 Runetの当社に関する情報は、世界中の150を超える通信事業者、ホスティング業者、プロバイダーが当社の製品を使用しているにもかかわらず、非常に希少です。 さらに、開発部門のほぼすべてがロシアにあります。 したがって、私は情報の空白を少し埋めて、私たちが誰で、何をしているのかをもっと詳しく説明したいと思います。



当社の製品は、クラウドサービスおよびアプリケーションの販売を自動化するプラットフォームです。 私たちは人々がビジネスを構築することに基づいてツールを販売しています。 これは箱入りの製品ではなく、単に購入して配送することはできないことを明確にする必要があります。 これを行うには、私たちと一緒に、既存のインフラストラクチャに応じてプラットフォーム構成を決定し、最終的なアーキテクチャを作成し、それに応じてプラットフォームを完成させ（カスタムソフトウェア開発）、さまざまなバックオフィスシステムと正しく構成して統合する必要があります。 そして、私の責任の1つは、主要なプラットフォームコンポーネントの開発を監督することです。 リリースも担当しています。つまり、チーム全体の作業プロセスを構築して、一定の規則性（現在は年に3〜4回）で顧客に提供できる製品アセンブリを作成しています。 Ingram Microの一員になって以来、私たちは主な顧客でした。 私たちには非常に厳格なルールがあります。リリースをリリースするとき、そもそもその上で更新されるのは私たちです。 以前は、リリースを非常に慎重に展開しました。つまり、最初は小規模な顧客に、次に多くの顧客に提供し、最大の顧客は約1年で更新されました。 今、その逆が真実です。 新しいリリースのリリース後、私たちの最大のインストールの1つであるIngram Microは、1か月以内にそれに切り替わります。 私たちが直面しているタスクと問題を明確にするために、最初に製品の歴史について話さなければなりません。

むかしむかし

1999年にPlesk社がノボシビルスクに登場し、PHPで書かれた同じ名前の製品をリリースしました。これは、内部プロセスを自動化できるホスティングコントロールパネルです。 パネルを作成した直後、ノボシビルスクは新しい製品であるPlesk 2を作成することを決定しましたが、すでにC ++およびJavaを使用しています。 これらは90年代後半に最も流行した技術でした。 しかし、彼らがこの2番目のバージョンを書いている間、2003年にPleskはSWsoftに買収されました。 ほぼ同時期に、SWsoftは単一のWebサーバーを自動化するソフトウェアを作成したドイツの会社Confixxと同様に、課金システムを買収しました。 その後、上記のすべての製品が統合され始めました。 その結果、サービスプロバイダーがサービスを管理するために必要なツールのセットがあります。Plesk2 Webホスティングプラットフォームは、後にParallels Operations Automationになり、Parallels Business Automation課金システムになりました。 ホスティング事業者は依然としてターゲットオーディエンスであり、コンテナ仮想化Virtuozzoに基づく仮想マシンと同様に、サイトとメールのホスティングを自動化しました。 コンテナが流行するずっと前からコンテナを扱っていました。

電気通信の魔法の世界

2000年代後半に、通信事業者の大規模な世界を発見しました。 同社のリーダーシップは、クラウドサービスとSaaSサービスの市場の可能性をこれがトレンドになるずっと前に認識し、ビジネスモデルを作り直し始めました。 プロバイダーがデータセンターまたはラックをデータセンターに購入してそこにサーバーを設置する場合、当社の製品はオンプレミスプラットフォームから、他の誰かが提供するクラウドサービスの販売を自動化するプラットフォームになりました。 プラットフォームの重要なコンポーネントはAPS標準です 。これは、外部サービスをプラットフォームに統合する方法を説明しています。 興味深い話は、この標準の出現です。 ウェブサイトホスティングサービスを提供したとき、最も人気のあるウェブサイトコンテンツ管理システムはWordPressとJoomlaでしたが、原則としてそれ以来ほとんど変化はありません。 また、APSは元々これらのWebアプリケーションをパックするために作成されたもので、ホスティングを販売するときにWordPressのインストールを1つのボタンで販売できます。 しかし、クラウドサービスに関する洞察が得られると、製品をプラットフォームに、APSをあらゆるサービスを統合するための標準に作り直し始めました。 誰でも-Office 365、Azure、またはある種のウイルス対策。



2000年代後半に通信市場にどのような変化がありましたか？ 彼らのサービスは、第一に、はるかに安価になり始め、第二に、ユーザーの請求が大幅に簡素化されました。 1990年代後半から2000年代初頭に、「最初から5番目まで、どの秒から充電を開始しますか？」というよくある質問がありました。 通話の最初の数分はいくらか費用がかかり、次の分は安くなる可能性があります。 この結果、通信事業者は多くの複雑なソフトウェア、その開発と運用の専門家を必要としていたため、加入者に正しい請求書を発行することができました。 近年、そうではありません。 今、私は月に400ルーブルを支払い、実際、無制限になります。 関税の複雑さが減り、どこかで使用する必要がある企業のITリソースが解放されました。 さらに、SkypeやWhatsAppなどの通信プログラムの出現により、音声とSMSによって生成されたお金の流れは劇的に枯渇し始めました。 通信会社は、データパイプ、インターネットのパイプ、ゼロマージンになるという差し迫った脅威を感じました。 したがって、彼らが自分たちのためにいくつかの新しい領域を発見し、現在行っているビジネスを多様化することが重要になりました。 たとえば、Beelineブランドの所有者であるVimpelComは最近Beonに名前を変更し、テレコムではなく、デジタルテクノロジーの分野に特化した会社としての地位を確立し始めました。 何年も前に、一部の通信会社のように、この傾向を理解していました。 そしてその結果、私たちは製品を新しいカテゴリーの顧客に向け直し始めました。 APS標準の2番目のバージョン（およびバージョン2.1および2.2）をリリースし、統合機能を拡張しました。 従来のサービス（Webサイト、メール、仮想マシンのホスティング）は、当社のプラットフォームに統合されたさまざまなクラウドサービスに置き換えられました。



これはどのような困難が生じましたか？ ホスティング事業者と通信事業者は根本的に異なります。 テレコムでは、すべてを何度も複製し、アクセスしやすく、認証され、文書化され、常にバックアップされる必要があります。 さらに、多くの異なる部門があり、多くの場合、互いに戦争をしている、下請け業者、悪夢のような官僚制です。 原則として、ホスティング事業者には小規模なチームがあり、少数の主要な人々だけがいます。管理者でさえ技術的に精通しています。 電気通信では、技術者は権力の上位階層に到達しません。 また、電気通信の場合、ERP、CRM、何らかの独自の請求書が既に存在し、顧客はシステムに個人アカウントとアカウントを持っています。 したがって、当社のソフトウェアの要件は、特に構成の柔軟性と統合機能、サポートされる負荷、請求の複雑さ、かなり複雑なプロセスの扱いやすさ、およびドキュメントの品質に関して、根本的に増加しています。

私たちのタスク

スケーリング

現在、システムでサポートされるユーザーの数を毎年2〜3倍に増やしています。また、ユーザー数の増加に伴い、ユーザーごとの特定のサービス数、およびサービス販売モデルの絶え間ない複雑さも増加しています。 一般に、システムの成長が線形から指数関数に変わるとき、誰もがいわゆるホッケースティック効果を待ち望んでいます（そして少し不安もあります）。 まず第一に、これらの期待はIoT（現時点では消費されるサービスの数が非常に急速に増加し始めることが予想されます）とデスクトップの最終的な死およびソフトウェア販売の従来のモデルに関連しています。

既存のシステムと統合する機能

先ほど言ったように、多くのお客様（テレコム）にはすでにBSSシステムの一部があり、プラットフォームはそれらと連携できるはずです。 最も単純な例は、テレコムがすでに数千万人のユーザーの巨大なデータベースを持っていることです。 SSOを使用してユーザーデータを取得できるように、当社の製品を既存のシステムに統合する必要があります。 そして、オプションが始まります-請求書を書く方法？ お支払い方法 私たちのコンポーネントを使用できます。SAPやOracle Financeなどの既存のシステムを使用できます。 私たち自身がユーザーのクレジットカードからお金を償却するか、支払いを担当するコンポーネントをオフにして既存のプロバイダーのインフラストラクチャを使用することができます。 ある時点まで、製品の動作を変更できる設定を使用してこの問題を解決しましたが、数年前に、より体系的なアプローチを選択しました-安定した文書化されたAPIを使用して相互に通信するマイクロサービスにプラットフォームを分割し、統合の無限の可能性を開きますしかし同時に、それは完全なリファクタリングを意味します。 そして、そうすることで、既存の顧客を壊してはならないことを理解する必要があります。

運営費

たとえば、解決するタスクの1つを説明します。 以前はどうでしたか？ 新しいリリースがリリースされたとき、ホストは最初にアップグレードと呼ばれるテストの準備をし、週末にそれを過ごし、しばらく緊張しました。何かが壊れた場合、彼はチケットと呪いで私たちを満たし、私たちはすべてをその場で修正し、さらにすべてを一緒に実行します。 テレコムはそうではありません：-システムのインスタンスは常に3つあります-Dev、Staging、およびProduction。 変更はまずDevで試行され、プロセスが文書化されます。 文書化されたプロセスは、その後ステージングでテストされ、実稼働に適用されます。 同じことは、新しいサービスを開始するとき、またはほとんどすべての構成を変更するときに起こります。



当社のソフトウェアはこのアプローチをサポートする必要があります。 つまり、システムオペレータの時間を節約するのに役立つはずです。 時間、つまりシステムの運用に費やされるお金は、システムがもたらす利益から差し引かれるからです。 そして、顧客が私たちに満足しているので、私たちの顧客が利益を上げることが重要です。 したがって、プラットフォームを最新の要件に適合させるために大量の作業を行います。DockerとKubernetesを使用して可能なすべてを自動化し、システム間で設定を同期する機能を追加します。 私たちは最近、著者の一人であるガーキンを解釈するキュウリを使用した組み込み自己テストシステムの特許を申請しました。

Age of Ingram Micro

2015年、Ingram Microに買収されました。IngramMicroは、その時点でプラットフォームに基づいてクラウドビジネスを立ち上げました。 Ingram Microは、IT製品およびサービスの世界最大の販売代理店であり、売上高が400億ドルを超え、130か国以上で事業を展開しているRambler's Fortuneのリストに載っています。 Ingramの従来のビジネスは、電気通信の問題にやや似たテストを受けています。鉄の売上は、特にサーバーセグメント（これが最も限界）で減少しています。 同時に、収入の大部分は、付随するソフトウェアの販売によるものでした。 現在、企業はサーバーハードウェアの購入を停止してクラウドに移行し、エンドユーザーはタブレットやスマートフォンに代わってパーソナルコンピューターをますます放棄し、ソフトウェア（Microsoft Officeなど）はラップトップを搭載したディスクではなく、サービスの形態のサブスクリプションモデルに従って販売されています。 見逃すのではなく、このトレンドをリードするために、Ingram Micro Cloud部門が設立されました。



Ingramは他のほとんどの顧客とは異なり、エンドユーザーではなく、中小企業ではなく、これらのサービスを再販する再販業者にサービスを販売しています。 他のソリューションと区別するプラットフォームの機能の1つは、プラットフォームにリセラーの無制限の階層を構築できることです。これにより、実際にIngramのニーズに合わせてシステムを使用できるようになりました。 このモデルのおかげで、多くの興味深い課金の問題が発生します。リセラーからエンドユーザーまで、Ingramからリセラーまで、サービスプロバイダーからIngramまでの売上を計算する必要があるからです。



より明確にするために、例を挙げて説明します。 マイクロソフトは、月に一度数千万ドルを請求します。 この時点で、すでに再販業者に請求書を発行し、販売量に応じて割引額を計算し、顧客向けに作成した請求書、顧客からお金を回収し、支払いを行っていない顧客のサービスをブロックし、これらすべての財務書類を調整する準備ができています。 これに既に作業している国の数（約30であり、この数は絶えず増加しています）を掛け、税金の計算、さまざまな方法と支払いのモデル、割引を追加すると、ここで何をしているのかを大体理解できます。 そして、はい、すべてのタイプのユーザーにパネルを、そしてそれぞれに与える必要があります（リセラー-サービスを販売する方が便利なパネル、エンドユーザー-あなたのサービスを管理し、財務報告を見て、新しいサービスを購入できるパネル）。

開発プロセスで最も難しい部分は何ですか？

私たちの仕事の特徴の1つは、合計1000万人以上の聴衆を持つ150人のクライアントが使用する製品を作ることです。 一部のシステムは10年以上前のものです。 同時に、顧客向けの個別のブランチはありません。全員が同じ製品を使用し、最新バージョンにアップグレードするため、変更の設計、テスト、顧客からのフィードバックの収集、分析に多くの注意が払われます。



300人を超える従業員が当社の製品に取り組んでおり、複数のチームに分散しています。互いに従属しているのではなく、並行して作業しています。 このような規模では多くのプロセスが5〜10人の従業員と並行して作業する場合とは大きく異なるため、このような企業構造の説明は別の話に値します。 長年にわたって、私はこの間ずっと実際に確認されてきたいくつかの信念を持っていました。 たとえば、チームのバランスをとろうとしています。 それらのほとんどすべてが任意のタスクを実行できます。 もちろん、一部のコンポーネントを他のコンポーネントよりもよく理解しています。 しかし同時に、一方のチームがこのコンポーネントを実行でき、もう一方のチームがこのコンポーネントだけを実行できるという人為的な分離はありません。 これにより、必要に応じてチーム間で従業員を自由に移動できます。 狭い専門分野がチームに現れると、特に人コンポーネント（他の人が何も知らない1つのコンポーネントを扱うプログラマー）が現れる場合、これはしばしば非常に有害なパターンです。 単独で、人々は過ちを犯し、徐々に狂気に陥る傾向があります;それがどんなに汚い音であっても、強さはチームにあります。



私の仕事の非常に重要な部分は、人々が周囲で何が起こっているか、つまり情報を共有することを知っていることです。 私が危機管理者として行動するときの定期的かつ悲しいかな瞬間を捨てれば、ほとんどの場合、チーム内でコミュニケーションを確立し、情報が自由に広がるのを助けます。 簡単に聞こえますが、悲しいかな、誰もが情報交換の必要性と重要性を理解しているだけではありません。 多くの場合、私たちにとって最も難しいことは、書くために書くか、何らかのフレームワークを勉強することではなく、最終結果がすべての人に合うように変更を調整することです。 はい、もちろん、私たちの地域には、誰かと話をしたくない人や、誰かに話すべきだとは思わない人がいます。 彼らは単に難しい仕事を与えられると主張し、静かにそれを解決します。 特定の問題に取り組み、2か月間タスクに没頭し、解決策を考え出すために、特定の数のそのような人々が必要です。 しかし、そのような人が多すぎてはならず、隔離の考えが他の人に感染することを許すべきではありません。 これらの2つのカテゴリを何らかの形で調整する必要があり、大多数は何をする必要があるかを話し、説明することを学ぶ必要があります。



しかし、誤解しないでください、もちろん、技術的なリテラシーが前提条件です。 個人的には、自分をプログラマーと呼ぶ人を困惑させて見ていますが、私の人生でデザインパターンGoFを読んだことはありません。彼らは基本的なソートの仕組みとアルゴリズムの複雑さの推定値を（少なくともおおよそ）知らず、少なくとも、コンピュータがどのように内部に配置されているのかはわかりません。pn遷移、パイプライン、レジスタとは何ですか。 最終的に、エンジニアとは、使用するものがどのように配置されているかを理解している人のことです（これは私自身の定義です）。



継続的な分析は効果的な作業に不可欠な要素であり、短期的および長期的な結果と意図の両方を分析する必要があります。 かなり標準的なイテレーションのレビューとスタンドアップに加えて、私たちは非常に有用なエクササイズを定期的に手配します-チームは過去1〜2年の成果を分析し、新しい機能がどのように使用されるかを確認します これは、物事の現実を理解するのに非常にクールです。 残念ながら、今後の作品の設計と議論はさらに有用な活動であり、残念なことに、困難なケースでは行き詰まりがちであり、カウボーイプログラミングほど楽しいものではないため、ここでは思いやりとファンのバランスを維持しようとします。



全体として、どういうわけか、今後の記事では、より具体的で詳細な詳細を使用して、当社に関する話を続けます。