システム負荷とSLA

負荷テストの種類SLA指標説明目標値、などLoad Testロードテスト(性能テスト)※サーバが受けるrequest数量Concurrency同時接続数Number of Virtual Usersアクセスしているユーザーの数 × アクセスされているファイル数例えば、10人 × 一つWebページ(HTML*1 CSS*1 JS*2 JPG*4) 80、webpackによって結合し、TPS1、QPS複数、・最大接続数RPSQueue(キュー)、且つ本番ではN台実機または仮想マシンと関係ある。・オンラインユーザ数(OU)RPS(秒毎にRequest数)Concurrency数ThinkTime(ユーザの二つアクションの間隔時間)・Cの概算は、OU×(10|-5%)、即ち、10WアカウントならWオンラインのうち、千人同時にアクション・CnL/T、即ち、日毎にユーザ数(login session)×ログインからログオフまでの時間(login session)主なユーザの利用時間帯・ビークCC 3×C平方根単台(デフォルト値)最大接続数は、DB、Tomcat、IISが約100200、Redisが4※CPUのCore数とクロック数、メモリと関連する。・IISは常に5000、Redis10万に至る・メモリ(G)でApacheサーバは約3000、Nginxサーバは3万・4Core16Gのサーバ(台)は20000ECサイトは常に2万/s応答時間(秒)RTはResponseTime・リクエストがリスポンスを送信してから、レスポンスを受信するまでの時間ネットワーク、サーバー処理時間、Webブラウザーに依存する。よくLANに実施するため、ネットワークの影響無し・想定される同時接続数によって、応答時間の確認。よく全体90%値の平均値を使う業務APIサーバには、最大Thread数(RT×業務件数)業務処理時間の合計TPSによってRTは通常時(同時接続ユーザー数50)秒以内ピーク時(同時接続ユーザー数100)7秒以内QPSによってRTは、常に100ms以内を目指す、300ms超えたらよくないエラー率(%)エラー率(%)失敗request数全てrequest数、※単なるにTPSが高くって、よいと言われなく、RTやTPSや失敗率は一緒に考えろシステム種別より異なり、常に0.1%、検索サイトなど余分であるが、金融システムは許さない。コストのバランスを取る。Stress Testストレステスト(限界テスト)※サーバは扱うrequest数量Throughputスループット(pv/s)RPSはRequest PerSecondTPS(byte/s)秒毎に完了したトランザクションの数、取扱量を示す。APサーバによく使う※トランザクションは複数な問い合わせを含む可能、例えば、ログイン、発注、約定まで・TPS Concurrency数(Thread数)平均RT(応答時間)、即ち、RTが短いほど、TPSが大きくなる※変動幅は大きくなら、システム環境がよくない、ハード故障を除いて、よくGC問題(JVMよりCLRが強い)Thread数別でラダーテストを行う、単台サーバの最適なTPSを測定し、サーバ台数を決める。・ネット通信量より、RPSはbyte/秒で表す・業務より、RPSはrequest/秒、ページ数/秒、人数/日、業務処理数/Hなどで表すPV日毎にWebページ閲覧、またはクリック回数・ピークTPSと日PVの比率はよく穏やかさので、例えば(Taobao)TPSPV111*3600個人またはNPO日毎に10万以下専門サイト日毎に数十万(zhihu)総合サイト日毎に数百万(Toutiaoは800万、ifengは500万)TopBaiduは20億、TickTokは億、TaobaoまたはJDは3.8億、QPS(byte/s)秒毎に完了したQuery(検索用SQLのみ、更新用SQL含まない)の数、Traffic量を示す。DNS、情報サイトまたはDBサーバによく使う・一つ画面を出す時、TPSでカウントし、複数なMicroまたはQueryを含むため、複数なQPSでカウントする。・28法則より、ビークQPS(日PV × 80%) (24*60*60s × 20% )、サーバ数ビークQPS単台サーバQPS例えば、日PV300万、QPS58の単台サーバに対して、ピークQPS(300万*80%)/(86400*20%)139、サーバ数139/583台一つThreadのQPS 1000ミリ秒RT(応答時間)ミリ秒、例えば、平均RT80msなら、QPSは12.5・(最優)Thread数はCPU、メモリ、IOなどと関係ある。(最優)Thread数を超えたら、RTが長く、QPSが落ちる。Webサイトの種類によってかなり差がある。・YouTube、Tiktokなどのビデオサイト百万千万・Wechat、WeiboなどのSNSサイト数十万百万、Hotニュースは千万超える。・株、為替取引システム数十万百万・ECサイト千⇒万⇒十万Taobao例えば、MySQLのQPS(8コア16G2000、16コア32G3000)RedisのQPS(6コア16G8万)リソース使用率CPU(分間または分間)実行中のプログラム(ユーザプロセスとシステムプロセス)がCPUの処理時間を占有している割合常に約75%、85%超えて長くと、キュー遅延が発生し、RTに影響する。メモリ(分間または分間)実行中のプログラムがメモリの全容量を占有している割合常に約70%、80%超えて長くと、CPU負荷が高くなる。ディスクIO秒毎に読み書き(I/O)の回数はIOPSと呼ばれる。よくDBサーバを評価するiowait率 50%の場合、CPUがIOの待ち時間は長いことutil率 70%の場合、ディスクの書き読みは頻繁すぎる。ネットワークデータ通信量は最大値を占有している割合常に5060%耐久テスト(連続稼働テスト)年間に中断の時間※999は52.6分、99999は5.26分適当な並行数にて長時間(824H)の連続稼働を行う、パフォーマンスの低下やメモリリークなどの問題が生じないこと、クラウドサービスなどの24H止まらずシステムを対象とする。AWS S3は99.999999999%1万件は1千万年を経て件しか無くさないEC2は99.99%ボリュームテスト―大量なデータが入った状態で劣化がないこと。スマホ、組込み系などの容量制限である機材を対象とする。―そのた※ミドルウエアの設定値JVMのGCGC回数、GC処理時間、Heap使用率などによって分析し、GC改善する上、RPSが高める。―ThreadPoolThread数、サイズ、優先度などによって分析し、パフォーマンス改善する上、RPSが高める。―JDBCDrive、Connection設定値、Statement(SQL処理タイプ)などによってDBパフォーマンス改善する上、RPSが高める。―https://qiita.com/s_yokoi/items/4e21aed46e561badce94https://blog.csdn.net/m0_69348079/article/details/131846719https://www.cnblogs.com/testwjr/p/9156705.htmlhttps://www.oracle.com/jp/technical-resources/articles/ats-tech/tech/useful-class-7.htmlhttps://www.oracle.com/jp/technical-resources/article/ats-tech/tech/useful-class-8.html