{"id":16817,"date":"2025-12-18T19:53:05","date_gmt":"2025-12-18T11:53:05","guid":{"rendered":"https:\/\/www.elishtech.com\/?p=16817"},"modified":"2025-12-18T20:02:50","modified_gmt":"2025-12-18T12:02:50","slug":"supermicro-gpu-high-concurrency-qps-1000","status":"publish","type":"post","link":"https:\/\/www.elishtech.com\/en\/supermicro-gpu-high-concurrency-qps-1000\/","title":{"rendered":"\u00ab\u0412\u044b\u0441\u043e\u043a\u043e\u043d\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u043d\u044b\u0435 \u043e\u043d\u043b\u0430\u0439\u043d\u2011\u0441\u0435\u0440\u0432\u0438\u0441\u044b\u00bb \u043d\u0430 GPU: \u043a\u0430\u043a \u0432\u044b\u0431\u0440\u0430\u0442\u044c Supermicro \u043f\u043e\u0434 1000+ QPS"},"content":{"rendered":"<article class=\"et-article\">\n\n  <h1 class=\"et-title\">\u00ab\u0412\u044b\u0441\u043e\u043a\u043e\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u044b\u0435 \u043e\u043d\u043b\u0430\u0439\u043d\u2011\u0441\u0435\u0440\u0432\u0438\u0441\u044b\u00bb \u043d\u0430 GPU: \u043a\u0430\u043a \u0432\u044b\u0431\u0440\u0430\u0442\u044c Supermicro \u043f\u043e\u0434 1000+ QPS \u0438 \u043d\u0438\u0437\u043a\u0443\u044e \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0443<\/h1>\n\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u0412\u044b\u0441\u043e\u043a\u043e\u043d\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u043d\u044b\u0435 \u043e\u043d\u043b\u0430\u0439\u043d\u2011\u0441\u0435\u0440\u0432\u0438\u0441\u044b \u2014 \u043e\u0442 \u0441\u0438\u0441\u0442\u0435\u043c \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0439 \u0438 \u0447\u0430\u0442\u2011\u0431\u043e\u0442\u043e\u0432 \u0434\u043e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u2014 \u0441\u0442\u0430\u043d\u043e\u0432\u044f\u0442\u0441\u044f \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043e\u043c \u0434\u043b\u044f \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u0438\u0445 \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0439, \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0438\u0445 \u0441 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u043c \u0442\u0440\u0430\u0444\u0438\u043a\u043e\u043c \u0432 \u0440\u0435\u0436\u0438\u043c\u0435 24\/7.\n  <\/p>\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u0414\u043b\u044f \u0442\u0430\u043a\u0438\u0445 \u0441\u0438\u0441\u0442\u0435\u043c \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u044b \u0434\u0432\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438: <span class=\"et-highlight\" style=\"background:#fef3c7;color:#92400e;padding:0.12rem 0.4rem;border-radius:4px;font-weight:600;\">QPS &gt; 1000<\/span> \u0438 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0430 \u043e\u0442\u0432\u0435\u0442\u0430 &lt; 50 \u043c\u0441 \u043f\u0440\u0438 p99 &lt; 200 \u043c\u0441, \u0430 \u0442\u0430\u043a\u0436\u0435 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u0430\u044f \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0430 GPU &gt; 90 % \u0431\u0435\u0437 \u0432\u0441\u043f\u043b\u0435\u0441\u043a\u043e\u0432 OOM \u0438 \u0434\u0435\u0433\u0440\u0430\u0434\u0430\u0446\u0438\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0441\u0435\u0440\u0432\u0438\u0441\u0430.\n  <\/p>\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u041f\u043b\u043e\u0442\u043d\u044b\u0435 1U\/2U GPU\u2011\u0441\u0435\u0440\u0432\u0435\u0440\u044b Supermicro, \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u043c\u044b\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e \u0432 \u0420\u043e\u0441\u0441\u0438\u0438 \u043d\u0430 \u0441\u0432\u044f\u0437\u043a\u0435 <span class=\"et-highlight\" style=\"background:#fef3c7;color:#92400e;padding:0.12rem 0.4rem;border-radius:4px;font-weight:600;\">Alt Linux + Proxmox<\/span>, \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0438\u0432\u0430\u044e\u0442 \u0441\u0440\u043e\u043a\u0438 \u043f\u043e\u0441\u0442\u0430\u0432\u043a\u0438 \u043c\u0435\u043d\u0435\u0435 \u0442\u0440\u0451\u0445 \u043d\u0435\u0434\u0435\u043b\u044c, \u0434\u043e 25 % \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0438 3\u2011\u043b\u0435\u0442\u043d\u0435\u0433\u043e TCO \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 \u0442\u0440\u0430\u0434\u0438\u0446\u0438\u043e\u043d\u043d\u044b\u043c\u0438 OEM \u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0443 \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u0441\u0442\u0435\u043a\u0430 Triton Inference Server + Kubernetes.\n  <\/p>\n\n  <h2 class=\"et-section-title\">\u041a\u043b\u044e\u0447\u0435\u0432\u044b\u0435 \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044f \u043a \u0432\u044b\u0441\u043e\u043a\u043e\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u044b\u043c \u0441\u0435\u0440\u0432\u0438\u0441\u0430\u043c<\/h2>\n\n  <ul class=\"et-list\" style=\"margin:1.2rem 0 1.5rem 1.5rem;padding:0;\">\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u0426\u0435\u043b\u044c \u043f\u043e \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u043e\u0439 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u0438: \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u044b\u0439 QPS &gt; 1000 \u0441 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c\u044e \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0434\u043e \u0434\u0435\u0441\u044f\u0442\u043a\u043e\u0432 \u0442\u044b\u0441\u044f\u0447 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u043f\u043e \u043c\u0435\u0440\u0435 \u0440\u043e\u0441\u0442\u0430 \u043f\u0440\u043e\u0434\u0443\u043a\u0442\u0430 \u0438 \u0441\u0435\u0437\u043e\u043d\u043d\u044b\u0445 \u043f\u0438\u043a\u043e\u0432 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438.\n    <\/li>\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u0426\u0435\u043b\u044c \u043f\u043e \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0435: p50 &lt; 50 \u043c\u0441 \u0438 p99 &lt; 200 \u043c\u0441 \u043f\u0440\u0438 \u043b\u044e\u0431\u044b\u0445 \u0434\u043e\u043f\u0443\u0441\u0442\u0438\u043c\u044b\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445, \u0432\u043a\u043b\u044e\u0447\u0430\u044f \u0440\u043e\u0441\u0442 \u0447\u0438\u0441\u043b\u0430 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439, \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u0438 \u00ab\u0442\u044f\u0436\u0435\u043b\u044b\u0435\u00bb \u043c\u043e\u0434\u0435\u043b\u0438.\n    <\/li>\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u0426\u0435\u043b\u044c \u043f\u043e \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u0438: \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0430 GPU &gt; 85\u201390 %, OOM\u2011\u043e\u0448\u0438\u0431\u043a\u0438 &lt; 0,1 %, \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0435 \u0441\u0435\u0442\u0435\u0432\u044b\u0445 \u0443\u0437\u043a\u0438\u0445 \u043c\u0435\u0441\u0442 \u043d\u0430 25\/100\/200GbE\u2011\u0443\u0440\u043e\u0432\u043d\u0435 \u0438 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c\u044b\u0439 3\u2011\u043b\u0435\u0442\u043d\u0438\u0439 TCO.\n    <\/li>\n  <\/ul>\n\n  <h2 class=\"et-section-title\">\u0427\u0442\u043e \u0447\u0430\u0449\u0435 \u0432\u0441\u0435\u0433\u043e \u0441\u043f\u0440\u0430\u0448\u0438\u0432\u0430\u044e\u0442 \u043f\u0440\u043e QPS 1000+<\/h2>\n\n  <ul class=\"et-list\" style=\"margin:1.2rem 0 1.5rem 1.5rem;padding:0;\">\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u0420\u0435\u0430\u043b\u044c\u043d\u044b\u0439 \u043a\u0435\u0439\u0441: \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0439 \u043d\u0430 1000+ QPS \u2014 \u0445\u0432\u0430\u0442\u0438\u0442 \u043b\u0438 \u043e\u0434\u043d\u043e\u0439 GPU (A40 \u0438\u043b\u0438 H100), \u0438\u043b\u0438 \u0441\u0440\u0430\u0437\u0443 \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e GPU \u0438 \u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u043a\u0443 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043f\u043e \u0443\u0437\u043b\u0430\u043c?\n    <\/li>\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u041a\u0430\u043a \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0442\u044c \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u044c \u0434\u043b\u044f Llama\u20117B\/13B \u0432 \u0440\u0435\u0436\u0438\u043c\u0435 \u0447\u0430\u0442\u0430 \u043f\u0440\u0438 \u0432\u044b\u0441\u043e\u043a\u043e\u0439 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u0438: \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u0441\u0435\u0441\u0441\u0438\u0439 \u0432\u043c\u0435\u0449\u0430\u0435\u0442 \u043e\u0434\u043d\u0430 \u043a\u0430\u0440\u0442\u0430 \u0431\u0435\u0437 OOM?\n    <\/li>\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u041a\u043e\u0433\u0434\u0430 25GbE \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u0435\u0442 \u0431\u044b\u0442\u044c \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u044b\u043c \u0438 \u0442\u0440\u0435\u0431\u0443\u0435\u0442\u0441\u044f \u043f\u0435\u0440\u0435\u0445\u043e\u0434 \u043d\u0430 100GbE \u0438 \u0432\u044b\u0448\u0435, \u0447\u0442\u043e\u0431\u044b \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u0442\u044c p99 \u0438 \u0438\u0437\u0431\u0435\u0436\u0430\u0442\u044c \u043f\u043e\u0442\u0435\u0440\u044c \u043f\u0430\u043a\u0435\u0442\u043e\u0432 \u043d\u0430 \u043f\u0438\u043a\u0430\u0445 QPS?\n    <\/li>\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u041d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u0442\u0430\u0431\u0438\u043b\u0435\u043d \u0440\u0435\u0436\u0438\u043c MIG\/vGPU \u043d\u0430 A40 \u043f\u0440\u0438 \u0434\u0435\u043b\u0435\u043d\u0438\u0438 \u043d\u0430 7 \u044d\u043a\u0437\u0435\u043c\u043f\u043b\u044f\u0440\u043e\u0432: \u043d\u0435 \u0441\u0442\u0440\u0430\u0434\u0430\u0435\u0442 \u043b\u0438 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0438 \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0445\u043e\u0440\u043e\u0448\u0430 \u0438\u0437\u043e\u043b\u044f\u0446\u0438\u044f \u0430\u0440\u0435\u043d\u0434\u0430\u0442\u043e\u0440\u043e\u0432?\n    <\/li>\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u041c\u043e\u0436\u043d\u043e \u043b\u0438 \u043f\u043e\u0434 \u0441\u0430\u043d\u043a\u0446\u0438\u044f\u043c\u0438 \u0437\u0430\u043c\u0435\u043d\u0438\u0442\u044c \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0435 \u043a\u0430\u0440\u0442\u044b A40\/L40S \u043f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u043c\u0438 RTX 4090 \u0438 \u043a\u0430\u043a \u044d\u0442\u043e \u0441\u043a\u0430\u0436\u0435\u0442\u0441\u044f \u043d\u0430 SLA \u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0435?\n    <\/li>\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u041a\u0430\u043a \u0434\u043e\u0431\u0438\u0442\u044c\u0441\u044f \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u00ab\u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430\u00bb \u043c\u043e\u0434\u0435\u043b\u0438 &lt; 5 \u0441\u0435\u043a\u0443\u043d\u0434: \u043a\u0430\u043a\u0438\u0435 \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044f \u043a \u043e\u0431\u044a\u0435\u043c\u0443 NVMe\u2011\u043a\u044d\u0448\u0430, IOPS \u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0447\u0442\u0435\u043d\u0438\u044f?\n    <\/li>\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u041a\u0430\u043a \u0440\u0435\u0430\u043b\u0438\u0437\u0443\u0435\u0442\u0441\u044f \u0430\u0432\u0442\u043e\u2011\u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0432 Kubernetes \u0434\u043b\u044f GPU\u2011\u043d\u0430\u0433\u0440\u0443\u0437\u043e\u043a: \u043a\u0430\u043a\u0438\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0438 \u043a\u0430\u043a \u0438\u0437\u0431\u0435\u0436\u0430\u0442\u044c \u00ab\u043f\u0443\u0441\u0442\u044b\u0445\u00bb \u0443\u0437\u043b\u043e\u0432 \u0438 \u0445\u0432\u043e\u0441\u0442\u043e\u0432 \u0432 \u043e\u0447\u0435\u0440\u0435\u0434\u0438?\n    <\/li>\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u041a\u0430\u043a\u0438\u0435 \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u043e\u0432\u044b\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u0438 \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043a\u0440\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u043c\u0438: GPU\u2011util &gt; 85 %, p99 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0438, \u0447\u0430\u0441\u0442\u043e\u0442\u0430 OOM \u0438 \u043d\u0430\u0441\u044b\u0449\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u0441\u0435\u0442\u0435\u0432\u044b\u0445 \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441\u043e\u0432?\n    <\/li>\n  <\/ul>\n\n  <h2 class=\"et-section-title\">\u0422\u0440\u0438 \u0443\u0440\u043e\u0432\u043d\u044f \u0432\u044b\u0441\u043e\u043a\u043e\u0439 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u0438: \u043e\u0442 500 \u0434\u043e 50 000 QPS<\/h2>\n\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u0414\u043b\u044f \u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b Supermicro \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b \u0440\u0430\u0437\u0434\u0435\u043b\u0438\u0442\u044c \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043d\u0430 \u0442\u0440\u0438 \u0443\u0440\u043e\u0432\u043d\u044f: \u0434\u043e 500 QPS (\u043a\u043e\u043c\u043f\u0430\u043a\u0442\u043d\u044b\u0435 1U 2\u20134 GPU), 1000\u20135000 QPS (2U 4\u20138 GPU) \u0438 5000+ QPS (\u043a\u043b\u0430\u0441\u0442\u0435\u0440 16+ \u0443\u0437\u043b\u043e\u0432 \u043d\u0430 4U \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0430\u0445).\n  <\/p>\n\n  <table class=\"et-table\" style=\"width:100%;border-collapse:collapse;margin-bottom:1.8rem;font-size:0.98rem;color:#111827;\">\n    <thead>\n      <tr style=\"background:linear-gradient(135deg,#2563eb,#1d4ed8);\">\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0426\u0435\u043b\u044c \u043f\u043e QPS<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0424\u043e\u0440\u043c\u2011\u0444\u0430\u043a\u0442\u043e\u0440<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0422\u043e\u043f\u043e\u043b\u043e\u0433\u0438\u044f GPU<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0422\u0438\u043f\u0438\u0447\u043d\u044b\u0435 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438<\/th>\n      <\/tr>\n    <\/thead>\n    <tbody>\n      <tr style=\"background:#e0edff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u0414\u043e 500 QPS<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">1U, 2\u20134 GPU<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">SYS\u20111029GQ\u2011TRT, A40\/A6000<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u041f\u0438\u043b\u043e\u0442\u044b, edge\u2011\u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441, \u043c\u0438\u043a\u0440\u043e\u0441\u0435\u0440\u0432\u0438\u0441\u044b LLM<\/td>\n      <\/tr>\n      <tr style=\"background:#f1f5ff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">1000\u20135000 QPS<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">2U, 4\u20138 GPU<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">SYS\u20112029GP\u2011TRT, L40S\/A40<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u0420\u0435\u0430\u043b\u044c\u043d\u044b\u0435 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0438, \u0447\u0430\u0442\u2011\u0431\u043e\u0442\u044b, \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f<\/td>\n      <\/tr>\n      <tr style=\"background:#e0edff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">5000+ QPS<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">4U\u2011\u043a\u043b\u0430\u0441\u0442\u0435\u0440, 16+ \u0443\u0437\u043b\u043e\u0432<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">SYS\u20114029GP\u2011TRT, 8\u00d7 H100 PCIe<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u0424\u0435\u0434\u0435\u0440\u0430\u043b\u044c\u043d\u044b\u0435 \u0441\u0435\u0440\u0432\u0438\u0441\u044b, 10k\u201350k QPS<\/td>\n      <\/tr>\n    <\/tbody>\n  <\/table>\n\n  <h2 class=\"et-section-title\">\u0424\u043e\u0440\u043c\u0443\u043b\u0430 \u043f\u043e\u0434\u0431\u043e\u0440\u0430: \u0441\u043a\u043e\u043b\u044c\u043a\u043e GPU\u2011\u0438\u043d\u0441\u0442\u0430\u043d\u0441\u043e\u0432 \u043d\u0443\u0436\u043d\u043e \u043f\u043e\u0434 QPS 1000+<\/h2>\n\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u0414\u043b\u044f \u0432\u044b\u0441\u043e\u043a\u043e\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u0435\u0440\u0432\u0438\u0441\u043e\u0432 \u0446\u0435\u043b\u0435\u0441\u043e\u043e\u0431\u0440\u0430\u0437\u043d\u043e \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u00ab\u0433\u043e\u043b\u044b\u0435\u00bb GPU, \u043d\u043e \u0438 \u0447\u0438\u0441\u043b\u043e \u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0445 GPU\u2011\u0438\u043d\u0441\u0442\u0430\u043d\u0441\u043e\u0432 (MIG\/vGPU), \u0438\u0441\u0445\u043e\u0434\u044f \u0438\u0437 \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e QPS \u0438 \u0434\u043e\u043f\u0443\u0441\u0442\u0438\u043c\u043e\u0439 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0438 \u043e\u0434\u043d\u043e\u0439 \u0441\u0435\u0441\u0441\u0438\u0438.\n  <\/p>\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u041f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u043d\u0430\u044f \u0444\u043e\u0440\u043c\u0443\u043b\u0430: <span class=\"et-highlight\" style=\"background:#fef3c7;color:#92400e;padding:0.12rem 0.4rem;border-radius:4px;font-weight:600;\">GPU\u2011\u0438\u043d\u0441\u0442\u0430\u043d\u0441\u044b = \u2308QPS \u00d7 \u0441\u0440\u0435\u0434\u043d\u044f\u044f \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0430 (\u043c\u0441) \u00f7 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043e\u0434\u043d\u043e\u0433\u043e \u0438\u043d\u0441\u0442\u0430\u043d\u0441\u0430 (tokens\/s)\u2309 \u00d7 1,2<\/span>, \u0433\u0434\u0435 \u043c\u043d\u043e\u0436\u0438\u0442\u0435\u043b\u044c 1,2 \u0437\u0430\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442 \u0440\u0435\u0437\u0435\u0440\u0432 \u043d\u0430 \u043f\u0438\u043a\u043e\u0432\u044b\u0435 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0438 \u043d\u0435\u0440\u0435\u0433\u0443\u043b\u044f\u0440\u043d\u044b\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b.\n  <\/p>\n\n  <h2 class=\"et-section-title\">\u041f\u0440\u0438\u043c\u0435\u0440: 1000 QPS \u043d\u0430 A40 \u0432 MIG\u2011\u0440\u0435\u0436\u0438\u043c\u0435<\/h2>\n\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u0414\u043b\u044f \u0446\u0435\u043b\u0438 1000 QPS \u043f\u0440\u0438 \u0441\u0440\u0435\u0434\u043d\u0435\u0439 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0435 50 \u043c\u0441 \u0438 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u043e\u0439 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u0438 \u043e\u0434\u043d\u043e\u0433\u043e A40\u2011MIG\u2011\u0438\u043d\u0441\u0442\u0430\u043d\u0441\u0430 \u0432 200 tokens\/s \u0440\u0430\u0441\u0447\u0435\u0442 \u0434\u0430\u0435\u0442 \u043e\u043a\u043e\u043b\u043e 300 \u0438\u043d\u0441\u0442\u0430\u043d\u0441\u043e\u0432, \u0447\u0442\u043e \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u043c\u043e\u0436\u043d\u043e \u0440\u0435\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u0442\u044c \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u043e\u043c \u0438\u0437 8 \u0443\u0437\u043b\u043e\u0432 \u0441 4 GPU \u0432 MIG\u2011\u0440\u0435\u0436\u0438\u043c\u0435, \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0432 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u043f\u043e \u0430\u0440\u0435\u043d\u0434\u0430\u0442\u043e\u0440\u0430\u043c.\n  <\/p>\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u0422\u0430\u043a\u043e\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u0442\u044c \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u043c\u0438\u043a\u0440\u043e\u0441\u0435\u0440\u0432\u0438\u0441\u043e\u0432 \u2014 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0438, \u0447\u0430\u0442\u2011\u0431\u043e\u0442\u044b, OCR \u2014 \u0441 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c\u044b\u043c\u0438 SLA \u0438 \u043f\u0440\u043e\u0437\u0440\u0430\u0447\u043d\u044b\u043c \u0431\u0438\u043b\u043b\u0438\u043d\u0433\u043e\u043c \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u0438\u0437 \u0441\u0440\u0435\u0437\u043e\u0432.\n  <\/p>\n\n  <h2 class=\"et-section-title\">\u041f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 MIG\u2011\u0440\u0435\u0436\u0438\u043c\u0430 \u043d\u0430 A40\/L40S<\/h2>\n\n  <ul class=\"et-list\" style=\"margin:1.2rem 0 1.5rem 1.5rem;padding:0;\">\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u0418\u0437\u043e\u043b\u044f\u0446\u0438\u044f: \u043a\u0430\u0436\u0434\u044b\u0439 MIG\u2011\u0438\u043d\u0441\u0442\u0430\u043d\u0441 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u0433\u0430\u0440\u0430\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0443\u044e \u0434\u043e\u043b\u044e GPU\u2011\u043f\u0430\u043c\u044f\u0442\u0438 \u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0431\u043b\u043e\u043a\u043e\u0432, \u0447\u0442\u043e \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0438\u0441\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u0432\u0437\u0430\u0438\u043c\u043d\u043e\u0435 \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u0430\u0440\u0435\u043d\u0434\u0430\u0442\u043e\u0440\u043e\u0432 \u0438 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0442\u043e\u0447\u043d\u043e \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c QPS \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u0435\u0440\u0432\u0438\u0441\u0430.\n    <\/li>\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u041f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u044c: \u043f\u0440\u0438 \u0434\u0435\u043b\u0435\u043d\u0438\u0438 A40 \u043d\u0430 7 \u0438\u043d\u0441\u0442\u0430\u043d\u0441\u043e\u0432 \u0441\u043e\u0432\u043e\u043a\u0443\u043f\u043d\u044b\u0439 QPS \u043d\u0430 \u043a\u0430\u0440\u0442\u0443 \u0432\u044b\u0440\u0430\u0441\u0442\u0430\u0435\u0442 \u0432 5\u20136 \u0440\u0430\u0437 \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 \u043c\u043e\u043d\u043e\u043b\u0438\u0442\u043d\u044b\u043c \u0440\u0435\u0436\u0438\u043c\u043e\u043c, \u0442\u0430\u043a \u043a\u0430\u043a \u043c\u0435\u043b\u043a\u0438\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043b\u0443\u0447\u0448\u0435 \u0443\u043f\u0430\u043a\u043e\u0432\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u0432 \u043c\u0438\u043a\u0440\u043e\u0431\u0430\u0442\u0447\u0438 \u0438 \u043f\u0440\u043e\u0449\u0435 \u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u043f\u043e \u043e\u0447\u0435\u0440\u0435\u0434\u044f\u043c.\n    <\/li>\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u0421\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e\u0441\u0442\u044c: \u043f\u0440\u0438 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e\u0439 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0435 \u043b\u0438\u043c\u0438\u0442\u043e\u0432 \u0438 \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u0430 \u043c\u043e\u0436\u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0443\u0440\u043e\u0432\u0435\u043d\u044c OOM\u2011\u043e\u0448\u0438\u0431\u043e\u043a \u043d\u0438\u0436\u0435 0,1 % \u0434\u0430\u0436\u0435 \u043f\u0440\u0438 \u0431\u044b\u0441\u0442\u0440\u043e \u0440\u0430\u0441\u0442\u0443\u0449\u0435\u043c \u0447\u0438\u0441\u043b\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439 \u0438 \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u0441\u0435\u0441\u0441\u0438\u0439.\n    <\/li>\n  <\/ul>\n\n  <h2 class=\"et-section-title\">\u0420\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u0435\u043c\u044b\u0435 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 Supermicro \u043f\u043e \u0446\u0435\u043b\u0435\u0432\u043e\u043c\u0443 QPS<\/h2>\n\n  <table class=\"et-table\" style=\"width:100%;border-collapse:collapse;margin-bottom:1.8rem;font-size:0.98rem;color:#111827;\">\n    <thead>\n      <tr style=\"background:linear-gradient(135deg,#2563eb,#1d4ed8);\">\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0426\u0435\u043b\u044c \u043f\u043e QPS<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0420\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u0435\u043c\u044b\u0439 \u0441\u0435\u0440\u0432\u0435\u0440<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">GPU\u2011\u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">CPU \/ \u043f\u0430\u043c\u044f\u0442\u044c<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0421\u0435\u0442\u044c \/ \u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0449\u0435<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u041c\u043e\u0449\u043d\u043e\u0441\u0442\u044c \/ \u0431\u044e\u0434\u0436\u0435\u0442<\/th>\n      <\/tr>\n    <\/thead>\n    <tbody>\n      <tr style=\"background:#e0edff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">500 QPS<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">Supermicro SYS\u20111029GQ\u2011TRT (1U)<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">4\u00d7 A40 48 GB \u0432 MIG\u2011\u0440\u0435\u0436\u0438\u043c\u0435<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">2\u00d7 Xeon 6338, \u0434\u043e 1 TB DDR5<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">2\u00d7 100GbE, \u0434\u043e 12\u00d7 NVMe<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u0414\u043e 2000 W, \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440 500\u2013700 \u0442\u044b\u0441. \u0440\u0443\u0431.<\/td>\n      <\/tr>\n      <tr style=\"background:#f1f5ff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">1000\u20132000 QPS<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">Supermicro SYS\u20112029GP\u2011TRT (2U)<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">8\u00d7 L40S 48 GB \u0438\u043b\u0438 A40<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">2\u00d7 EPYC 9454, \u0434\u043e 2 TB DDR5<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">4\u00d7 100GbE, \u0434\u043e 24\u00d7 NVMe<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u0414\u043e 3000 W (\u0436\u0438\u0434\u043a\u043e\u0441\u0442\u043d\u043e\u0435 \u043e\u0445\u043b\u0430\u0436\u0434\u0435\u043d\u0438\u0435), 900\u20131200 \u0442\u044b\u0441. \u0440\u0443\u0431.<\/td>\n      <\/tr>\n      <tr style=\"background:#e0edff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">5000+ QPS<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">Supermicro SYS\u20114029GP\u2011TRT (4U)<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">8\u00d7 H100 PCIe, \u043a\u043b\u0430\u0441\u0442\u0435\u0440 16+ \u0443\u0437\u043b\u043e\u0432<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">2\u00d7 Xeon 8592+, \u0434\u043e 4 TB DDR5<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">8\u00d7 200GbE, \u0434\u043e 36\u00d7 NVMe<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u0414\u043e 4000 W, 1,5\u20132,0 \u043c\u043b\u043d \u0440\u0443\u0431.<\/td>\n      <\/tr>\n    <\/tbody>\n  <\/table>\n\n  <a href=\"https:\/\/forms.office.com\/Pages\/ResponsePage.aspx?id=M8ndOvkOi0KL2njX59S3t6RlyhCRrIdMr4Nk6XVA-x9UMk9JV0M5VDU2VkcyRlE2MlBQSVdJOFMzUy4u\" class=\"et-cta\" target=\"_blank\" rel=\"nofollow noopener\" style=\"display:inline-block;margin:2rem 0;padding:0.9rem 2.3rem;border-radius:999px;background:linear-gradient(135deg,#3b82f6,#1d4ed8);color:#ffffff;text-decoration:none;font-weight:600;box-shadow:0 10px 25px rgba(37,99,235,0.35);\">\n     \u0417\u0430\u043f\u0440\u043e\u0441\u0438\u0442\u044c \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044e Supermicro \u043f\u043e\u0434 \u0432\u0430\u0448 \u0446\u0435\u043b\u0435\u0432\u043e\u0439 QPS\n  <\/a>\n\n  <h2 class=\"et-section-title\">\u0421\u0435\u0442\u044c \u0431\u0435\u0437 \u043f\u043e\u0442\u0435\u0440\u044c: \u043a\u043e\u0433\u0434\u0430 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0430 100G \u0438 200G<\/h2>\n\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u041f\u0440\u0438 QPS \u0434\u043e 1000 \u0447\u0430\u0441\u0442\u043e \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0434\u0432\u0443\u0445 \u043f\u043e\u0440\u0442\u043e\u0432 100GbE \u043d\u0430 \u0443\u0437\u0435\u043b \u0441 \u0441\u0443\u043c\u043c\u0430\u0440\u043d\u043e\u0439 \u0430\u0433\u0440\u0435\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u043e\u0439 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c\u044e 200 Gbit\/s, \u043d\u043e \u043f\u0440\u0438 \u0440\u043e\u0441\u0442\u0435 \u0434\u043e 5000+ QPS \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u043c \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e bandwidth, \u043d\u043e \u0438 \u0434\u0436\u0438\u0442\u0442\u0435\u0440, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u044b \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f \u043f\u0435\u0440\u0435\u0433\u0440\u0443\u0437\u043a\u0430\u043c.\n  <\/p>\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u041e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u0435\u0439 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u043e\u044d\u0442\u0430\u043f\u043d\u044b\u0439 \u0430\u043f\u0433\u0440\u0435\u0439\u0434: \u043e\u0442 dual\u2011100GbE \u043a 4\u00d7 100GbE \u0438 \u0434\u0430\u043b\u0435\u0435 \u043a 8\u00d7 200GbE \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u044f\u0445 ToR \u0438 spine, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u0441\u0435\u0442\u0435\u0432\u044b\u0435 \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b \u0441 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u043e\u0439 RoCEv2, ECN \u0438 DCQCN \u0434\u043b\u044f \u0433\u0430\u0440\u0430\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u0443\u0434\u0435\u0440\u0436\u0430\u043d\u0438\u044f p99 \u043d\u0430 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u043c \u0443\u0440\u043e\u0432\u043d\u0435.\n  <\/p>\n\n  <table class=\"et-table\" style=\"width:100%;border-collapse:collapse;margin-bottom:1.8rem;font-size:0.98rem;color:#111827;\">\n    <thead>\n      <tr style=\"background:linear-gradient(135deg,#2563eb,#1d4ed8);\">\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0426\u0435\u043b\u044c \u043f\u043e QPS<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0421\u0435\u0442\u0435\u0432\u0430\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0421\u0443\u043c\u043c\u0430\u0440\u043d\u0430\u044f \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0420\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0438 \u043f\u043e NIC<\/th>\n      <\/tr>\n    <\/thead>\n    <tbody>\n      <tr style=\"background:#e0edff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">&lt; 1000 QPS<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">2\u00d7 100GbE \u043d\u0430 \u0443\u0437\u0435\u043b<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">200 Gbit\/s<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u0421\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 100G\u2011\u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b \u0441 RoCEv2<\/td>\n      <\/tr>\n      <tr style=\"background:#f1f5ff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">1000\u20135000 QPS<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">4\u00d7 100GbE \u043d\u0430 \u0443\u0437\u0435\u043b<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">400 Gbit\/s<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">Low\u2011latency 100G NIC \u0441 LFC &lt; 800 \u043d\u0441<\/td>\n      <\/tr>\n      <tr style=\"background:#e0edff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">5000+ QPS<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">8\u00d7 200GbE \u043d\u0430 \u0443\u0437\u0435\u043b<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">1,6 Tbit\/s<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">High\u2011end 200G NIC \u0441 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u043e\u0439 \u043f\u0440\u043e\u0434\u0432\u0438\u043d\u0443\u0442\u044b\u0445 QoS<\/td>\n      <\/tr>\n    <\/tbody>\n  <\/table>\n\n  <h2 class=\"et-section-title\">\u041f\u0430\u043c\u044f\u0442\u044c \u0438 NVMe: \u043c\u043d\u043e\u0433\u043e\u043c\u043e\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u043a\u044d\u0448 \u043f\u043e\u0434 \u0432\u044b\u0441\u043e\u043a\u0443\u044e \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u044e<\/h2>\n\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u041f\u0440\u0438 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u043c \u0440\u0430\u0437\u0432\u0435\u0440\u0442\u044b\u0432\u0430\u043d\u0438\u0438 \u0434\u0435\u0441\u044f\u0442\u043a\u043e\u0432 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 (\u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0438, \u0447\u0430\u0442\u2011\u0431\u043e\u0442\u044b, OCR, \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f) \u0432\u0430\u0436\u0435\u043d \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0431\u044a\u0451\u043c RAM, \u043d\u043e \u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e \u0441\u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 NVMe\u2011\u043a\u044d\u0448 \u2014 \u0431\u0435\u0437 \u044d\u0442\u043e\u0433\u043e \u043d\u0435\u043b\u044c\u0437\u044f \u0433\u0430\u0440\u0430\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u0440\u0435\u043c\u044f \u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 &lt; 5 \u0441\u0435\u043a\u0443\u043d\u0434 \u0438 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c\u0443\u044e p99.\n  <\/p>\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u041f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u043e\u0432 \u0432\u044b\u0441\u043e\u043a\u043e\u0439 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u0438 \u0432\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u0434\u043e 2 TB DDR5 \u043d\u0430 \u0443\u0437\u0435\u043b, NVMe\u2011\u043c\u0430\u0441\u0441\u0438\u0432 \u0438\u0437 24 \u0434\u0438\u0441\u043a\u043e\u0432 \u0432 RAID0 \u0434\u043b\u044f \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u043e\u0439 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u0438 \u0438 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u043d\u0438\u0437\u043a\u043e\u043b\u0430\u0442\u0435\u043d\u0442\u043d\u044b\u0435 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430 \u043f\u043e\u0434 \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442\u044b \u0438 \u043c\u0435\u0442\u0430\u0434\u0430\u043d\u043d\u044b\u0435.\n  <\/p>\n\n  <table class=\"et-table\" style=\"width:100%;border-collapse:collapse;margin-bottom:1.8rem;font-size:0.98rem;color:#111827;\">\n    <thead>\n      <tr style=\"background:linear-gradient(135deg,#2563eb,#1d4ed8);\">\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u041a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0421\u043f\u0435\u0446\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u041e\u0436\u0438\u0434\u0430\u0435\u043c\u044b\u0439 \u044d\u0444\u0444\u0435\u043a\u0442 \u043d\u0430 QPS<\/th>\n      <\/tr>\n    <\/thead>\n    <tbody>\n      <tr style=\"background:#e0edff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u041e\u0417\u0423<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">2 TB DDR5\u20115600 \u0441 \u043d\u0438\u0437\u043a\u043e\u0439 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u043e\u0439<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u0414\u043e +40 % \u043f\u043e \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0439 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u0438 \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u044e page\u2011fault<\/td>\n      <\/tr>\n      <tr style=\"background:#f1f5ff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">NVMe\u2011\u043c\u0430\u0441\u0441\u0438\u0432<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">24\u00d7 NVMe Gen4\/Gen5 \u0432 RAID0<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u041f\u0440\u043e\u0433\u0440\u0435\u0432 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 &lt; 2 \u0441, seq\u2011\u0447\u0442\u0435\u043d\u0438\u0435 &gt; 10 GB\/s<\/td>\n      <\/tr>\n      <tr style=\"background:#e0edff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u041d\u0438\u0437\u043a\u043e\u043b\u0430\u0442\u0435\u043d\u0442\u043d\u044b\u0439 \u0441\u043b\u043e\u0439<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u041e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 NVMe \u0441 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 tail\u2011latency<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">fio randrw 80\/20, Q32T32 &gt; 3M IOPS, tail &lt; 150 \u043c\u043a\u0441<\/td>\n      <\/tr>\n    <\/tbody>\n  <\/table>\n\n  <h2 class=\"et-section-title\">Kubernetes\u2011\u043a\u043b\u0430\u0441\u0442\u0435\u0440 \u0434\u043b\u044f \u0432\u044b\u0441\u043e\u043a\u043e\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u0435\u0440\u0432\u0438\u0441\u043e\u0432<\/h2>\n\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0432\u044b\u0441\u043e\u043a\u043e\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u0435\u0440\u0432\u0438\u0441\u043e\u0432 \u043e\u0431\u044b\u0447\u043d\u043e \u0432\u044b\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0432\u043e\u043a\u0440\u0443\u0433 Kubernetes: \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u0442\u0440\u0430\u0444\u0438\u043a \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0448\u043b\u044e\u0437\u043e\u043c (Istio Gateway \u0438\u043b\u0438 \u0430\u043d\u0430\u043b\u043e\u0433), \u0434\u0430\u043b\u0435\u0435 \u0447\u0435\u0440\u0435\u0437 Envoy\/Nginx \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0430 gRPC\/HTTP\/2\u2011\u0441\u0435\u0440\u0432\u0438\u0441\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u0431\u0440\u0430\u0449\u0430\u044e\u0442\u0441\u044f \u043a Triton Backends \u043d\u0430 GPU\u2011\u0443\u0437\u043b\u0430\u0445.\n  <\/p>\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u0410\u0432\u0442\u043e\u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0440\u0435\u0430\u043b\u0438\u0437\u0443\u0435\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 HPA\/Karpenter \u043f\u043e \u043c\u0435\u0442\u0440\u0438\u043a\u0430\u043c \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 GPU \u0438 \u043e\u0447\u0435\u0440\u0435\u0434\u0435\u0439 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, \u0430 NVMe\u2011oF\u2011\u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0449\u0435 \u043d\u0430 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u0442\u0435\u0440\u0430\u0431\u0430\u0439\u0442 \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0438\u0432\u0430\u0435\u0442 \u043e\u0431\u0449\u0438\u0439 \u043f\u0443\u043b \u0434\u043b\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442\u043e\u0432 \u0441 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u043e\u0439 \u0434\u043e\u0441\u0442\u0443\u043f\u0430.\n  <\/p>\n\n  <h2 class=\"et-section-title\">\u0422\u0438\u043f\u043e\u0432\u044b\u0435 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u043d\u044b\u0435 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438 Supermicro<\/h2>\n\n  <ul class=\"et-list\" style=\"margin:1.2rem 0 1.5rem 1.5rem;padding:0;\">\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u0412\u0445\u043e\u0434\u043d\u043e\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c: Istio Gateway \u0438\u043b\u0438 Nginx Ingress, \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u044e\u0449\u0438\u0439 HTTP\/2 \u0438 gRPC\u2011\u0442\u0440\u0430\u0444\u0438\u043a \u0438 \u0440\u0435\u0430\u043b\u0438\u0437\u0443\u044e\u0449\u0438\u0439 \u0430\u0443\u0442\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044e, rate\u2011limit \u0438 \u043a\u0430\u043d\u0430\u0440\u0435\u0435\u0447\u043d\u044b\u0435 \u0440\u0435\u043b\u0438\u0437\u044b \u0431\u0435\u0437 \u0434\u043e\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u0431\u044d\u043a\u044d\u043d\u0434\u0430.\n    <\/li>\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u0421\u043b\u043e\u0439 \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f: HPA\/Karpenter \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u0435\u0442 Pod\u2011\u044b Triton\/LLM\u2011\u0441\u0435\u0440\u0432\u0438\u0441\u043e\u0432 \u043f\u0440\u0438 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435 GPU &gt; 80 % \u0438\u043b\u0438 \u0440\u043e\u0441\u0442\u0435 \u043e\u0447\u0435\u0440\u0435\u0434\u0435\u0439, \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u044f \u043d\u043e\u0432\u044b\u0435 1U\/2U\u2011\u0443\u0437\u043b\u044b \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u043f\u0440\u043e\u0444\u0438\u043b\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438.\n    <\/li>\n    <li class=\"et-list-item\" style=\"margin-bottom:0.6rem;color:#374151;font-size:1.05rem;\">\n      \u0421\u043b\u043e\u0439 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430: Triton Inference Server \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438 \u0438 \u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440\u043d\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u043e\u0439, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f MIG\u2011\u0438\u043d\u0441\u0442\u0430\u043d\u0441\u044b \u0438 \u043f\u0440\u0438\u043e\u0440\u0438\u0442\u0438\u0437\u0438\u0440\u0443\u044f \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u044b\u0435 \u0441\u0435\u0440\u0432\u0438\u0441\u044b (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043f\u043b\u0430\u0442\u0435\u0436\u0438) \u043d\u0430\u0434 \u043c\u0435\u043d\u0435\u0435 \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u044b\u043c\u0438.\n    <\/li>\n  <\/ul>\n\n  <h2 class=\"et-section-title\">3\u2011\u043b\u0435\u0442\u043d\u0438\u0439 TCO \u0438 \u043e\u043a\u0443\u043f\u0430\u0435\u043c\u043e\u0441\u0442\u044c \u0432\u044b\u0441\u043e\u043a\u043e\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430<\/h2>\n\n  <table class=\"et-table\" style=\"width:100%;border-collapse:collapse;margin-bottom:1.8rem;font-size:0.98rem;color:#111827;\">\n    <thead>\n      <tr style=\"background:linear-gradient(135deg,#2563eb,#1d4ed8);\">\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0421\u0442\u0430\u0442\u044c\u044f \u0437\u0430\u0442\u0440\u0430\u0442 (16\u00d7 1U)<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0421\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c (\u0443\u0441\u043b\u043e\u0432\u043d\u043e, \u0442\u044b\u0441. \u0440\u0443\u0431.)<\/th>\n        <th style=\"border-bottom:1px solid #1d4ed8;padding:0.55rem 0.6rem;color:#ffffff;\">\u0414\u043e\u043b\u044f \u0432 3\u2011\u043b\u0435\u0442\u043d\u0435\u043c TCO<\/th>\n      <\/tr>\n    <\/thead>\n    <tbody>\n      <tr style=\"background:#e0edff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u0417\u0430\u043a\u0443\u043f\u043a\u0430 \u043e\u0431\u043e\u0440\u0443\u0434\u043e\u0432\u0430\u043d\u0438\u044f<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">8000<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">78 %<\/td>\n      <\/tr>\n      <tr style=\"background:#f1f5ff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u042d\u043b\u0435\u043a\u0442\u0440\u043e\u044d\u043d\u0435\u0440\u0433\u0438\u044f \u0438 \u043e\u0445\u043b\u0430\u0436\u0434\u0435\u043d\u0438\u0435<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">900<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">9 %<\/td>\n      <\/tr>\n      <tr style=\"background:#e0edff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u042d\u043a\u0441\u043f\u043b\u0443\u0430\u0442\u0430\u0446\u0438\u044f \u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">500<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">5 %<\/td>\n      <\/tr>\n      <tr style=\"background:#f1f5ff;\">\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">\u0418\u0442\u043e\u0433\u043e \u0437\u0430 3 \u0433\u043e\u0434\u0430<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">9400<\/td>\n        <td style=\"border-bottom:1px solid #cbd5f5;padding:0.55rem 0.6rem;\">100 %<\/td>\n      <\/tr>\n    <\/tbody>\n  <\/table>\n\n  <p class=\"et-text\" style=\"line-height:1.8;margin-bottom:1.5rem;color:#374151;font-size:1.05rem;\">\n    \u0414\u043b\u044f \u0432\u044b\u0441\u043e\u043a\u043e\u043d\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u043d\u044b\u0445 \u0441\u0435\u0440\u0432\u0438\u0441\u043e\u0432 \u0435\u0441\u0442\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u0442\u044c, \u0447\u0442\u043e\u0431\u044b \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u0440\u043e\u0441\u0442\u0430 QPS, ARPU \u0438 \u0434\u043e\u043b\u0438 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u043e\u043d\u043b\u0430\u0439\u043d \u0431\u044b\u043b\u043e \u043a\u0430\u043a \u043c\u0438\u043d\u0438\u043c\u0443\u043c \u0432 \u0442\u0440\u0438 \u0440\u0430\u0437\u0430 \u0432\u044b\u0448\u0435 3\u2011\u043b\u0435\u0442\u043d\u0435\u0433\u043e TCO, \u0447\u0442\u043e \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0438\u0432\u0430\u0435\u0442 \u043e\u043a\u0443\u043f\u0430\u0435\u043c\u043e\u0441\u0442\u044c \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0437\u0430 \u043f\u043e\u043b\u0433\u043e\u0434\u0430.\n  <\/p>\n\n  <h2 class=\"et-section-title\">FAQ: \u043e\u0442\u0432\u0435\u0442\u044b \u043d\u0430 \u0447\u0430\u0441\u0442\u044b\u0435 \u0432\u043e\u043f\u0440\u043e\u0441\u044b \u043f\u043e \u0432\u044b\u0441\u043e\u043a\u043e\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u044b\u043c GPU\u2011\u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430\u043c<\/h2>\n\n  <section class=\"et-faq\" style=\"margin-top:1.5rem;padding:2.0rem;border-radius:16px;background:#e5f0ff;\">\n\n    <div class=\"et-faq-list\" style=\"display:flex;flex-direction:column;gap:1rem;\">\n\n      <div class=\"et-faq-item\" style=\"background:#e0edff;border-radius:12px;padding:1.2rem 1.5rem;border:1px solid #cbd5f5;\">\n        <div class=\"et-faq-question\" style=\"font-weight:600;margin-bottom:0.4rem;font-size:1.08rem;color:#111827;\">\n          1000 QPS \u0432 \u0441\u0438\u0441\u0442\u0435\u043c\u0435 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0439: \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043b\u0438 \u043e\u0434\u043d\u043e\u0433\u043e \u0441\u0435\u0440\u0432\u0435\u0440\u0430 \u0441 4\u00d7 A40 \u0432 MIG\u2011\u0440\u0435\u0436\u0438\u043c\u0435?\n        <\/div>\n        <div class=\"et-faq-answer\" style=\"color:#4b5563;line-height:1.7;font-size:1.02rem;\">\n          \u041e\u0434\u0438\u043d \u0441\u0435\u0440\u0432\u0435\u0440 1U \u0441 4\u00d7 A40 \u0438 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e\u0439 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u043e\u0439 TensorRT, MIG \u0438 batching \u0441\u043f\u043e\u0441\u043e\u0431\u0435\u043d \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0438\u0442\u044c \u0434\u043e \u0442\u044b\u0441\u044f\u0447\u0438 QPS \u0441 \u0437\u0430\u043f\u0430\u0441\u043e\u043c, \u043d\u043e \u0434\u043b\u044f \u0432\u044b\u0441\u043e\u043a\u043e\u0439 \u043e\u0442\u043a\u0430\u0437\u043e\u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0441\u0442\u0438 \u0438 \u0431\u0435\u0441\u043f\u0435\u0440\u0435\u0431\u043e\u0439\u043d\u044b\u0445 \u0440\u0435\u043b\u0438\u0437\u043e\u0432 \u043b\u0443\u0447\u0448\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u043c\u0438\u043d\u0438\u043c\u0443\u043c \u043d\u0430 2\u20133 \u0438\u0434\u0435\u043d\u0442\u0438\u0447\u043d\u044b\u0445 \u0443\u0437\u043b\u0430.\n        <\/div>\n      <\/div>\n\n      <div class=\"et-faq-item\" style=\"background:#f1f5ff;border-radius:12px;padding:1.2rem 1.5rem;border:1px solid #cbd5f5;\">\n        <div class=\"et-faq-question\" style=\"font-weight:600;margin-bottom:0.4rem;font-size:1.08rem;color:#111827;\">\n          \u041a\u0430\u043a \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0442\u044c \u043f\u0430\u043c\u044f\u0442\u044c \u0434\u043b\u044f \u0447\u0430\u0442\u2011\u0431\u043e\u0442\u0430 \u043d\u0430 Llama\u20117B \u043f\u0440\u0438 \u0432\u044b\u0441\u043e\u043a\u043e\u0439 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u0438?\n        <\/div>\n        <div class=\"et-faq-answer\" style=\"color:#4b5563;line-height:1.7;font-size:1.02rem;\">\n          \u041f\u0440\u0430\u043a\u0442\u0438\u043a\u0430 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u0435\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u0442\u044c \u0434\u043b\u0438\u043d\u0443 \u0441\u0435\u0441\u0441\u0438\u0439 \u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 MIG\u2011\u0438\u043d\u0441\u0442\u0430\u043d\u0441\u044b \u043f\u043e\u0434 \u0440\u0430\u0437\u043d\u044b\u0435 \u043a\u043b\u0430\u0441\u0441\u044b \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439, \u0443\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u044f KV\u2011\u043a\u0435\u0448 \u0432 \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0439 GPU\u2011\u043f\u0430\u043c\u044f\u0442\u0438 \u0438 \u043d\u0435 \u0434\u043e\u043f\u0443\u0441\u043a\u0430\u044f \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u044b\u0445 \u0432\u044b\u0433\u0440\u0443\u0437\u043e\u043a \u0432 NVMe.\n        <\/div>\n      <\/div>\n\n      <div class=\"et-faq-item\" style=\"background:#e0edff;border-radius:12px;padding:1.2rem 1.5rem;border:1px solid #cbd5f5;\">\n        <div class=\"et-faq-question\" style=\"font-weight:600;margin-bottom:0.4rem;font-size:1.08rem;color:#111827;\">\n          \u041d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u0442\u0430\u0431\u0438\u043b\u0435\u043d MIG \u043d\u0430 A40 \u043f\u0440\u0438 \u0434\u0435\u043b\u0435\u043d\u0438\u0438 \u043d\u0430 7 \u0438\u043d\u0441\u0442\u0430\u043d\u0441\u043e\u0432?\n        <\/div>\n        <div class=\"et-faq-answer\" style=\"color:#4b5563;line-height:1.7;font-size:1.02rem;\">\n          \u041f\u0440\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438 \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u044b\u0445 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u043e\u0432, GPU Operator \u0438 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 Kubernetes MIG\u2011\u0440\u0435\u0436\u0438\u043c \u043d\u0430 A40 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u0443\u044e \u0440\u0430\u0431\u043e\u0442\u0443: \u0438\u043d\u0441\u0442\u0430\u043d\u0441\u044b \u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043f\u043e \u043f\u0430\u043c\u044f\u0442\u0438 \u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0431\u043b\u043e\u043a\u0430\u043c, \u0430 \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u043e\u0434\u043d\u043e\u0433\u043e \u0430\u0440\u0435\u043d\u0434\u0430\u0442\u043e\u0440\u0430 \u043d\u0430 \u0434\u0440\u0443\u0433\u0438\u0445 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0443\u0435\u0442.\n        <\/div>\n      <\/div>\n\n      <div class=\"et-faq-item\" style=\"background:#f1f5ff;border-radius:12px;padding:1.2rem 1.5rem;border:1px solid #cbd5f5;\">\n        <div class=\"et-faq-question\" style=\"font-weight:600;margin-bottom:0.4rem;font-size:1.08rem;color:#111827;\">\n          \u041f\u043e\u0434 \u0441\u0430\u043d\u043a\u0446\u0438\u044f\u043c\u0438 \u043c\u043e\u0436\u043d\u043e \u043b\u0438 \u0441\u0442\u0440\u043e\u0438\u0442\u044c \u043a\u043b\u0430\u0441\u0442\u0435\u0440 \u043d\u0430 RTX 4090 \u0432\u043c\u0435\u0441\u0442\u043e A40\/L40S?\n        <\/div>\n        <div class=\"et-faq-answer\" style=\"color:#4b5563;line-height:1.7;font-size:1.02rem;\">\n          RTX 4090 \u043c\u043e\u0436\u0435\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u0432 \u0442\u0435\u0441\u0442\u043e\u0432\u044b\u0445 \u0438 \u0447\u0430\u0441\u0442\u0438\u0447\u043d\u043e \u043f\u0440\u043e\u0434\u0443\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430\u0445, \u043d\u043e \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0435 ECC, \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 MIG \u0438 \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044f \u043a \u043e\u0445\u043b\u0430\u0436\u0434\u0435\u043d\u0438\u044e \u0434\u0435\u043b\u0430\u044e\u0442 \u0435\u0451 \u043c\u0435\u043d\u0435\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c\u043e\u0439 \u0434\u043b\u044f \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u044b\u0445 \u0441\u0435\u0440\u0432\u0438\u0441\u043e\u0432, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u043b\u044f SLA\u2011\u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0441\u0438\u0441\u0442\u0435\u043c \u043f\u0440\u0435\u0434\u043f\u043e\u0447\u0442\u0438\u0442\u0435\u043b\u044c\u043d\u044b \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0435 \u043a\u0430\u0440\u0442\u044b.\n        <\/div>\n      <\/div>\n\n      <div class=\"et-faq-item\" style=\"background:#e0edff;border-radius:12px;padding:1.2rem 1.5rem;border:1px solid #cbd5f5;\">\n        <div class=\"et-faq-question\" style=\"font-weight:600;margin-bottom:0.4rem;font-size:1.08rem;color:#111827;\">\n          \u041a\u0430\u043a\u0438\u0435 \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0434\u043b\u044f \u0432\u044b\u0441\u043e\u043a\u043e\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u0435\u0440\u0432\u0438\u0441\u043e\u0432?\n        <\/div>\n        <div class=\"et-faq-answer\" style=\"color:#4b5563;line-height:1.7;font-size:1.02rem;\">\n          \u0411\u0430\u0437\u043e\u0432\u044b\u0439 \u043d\u0430\u0431\u043e\u0440 \u0432\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0443 GPU, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u043f\u0430\u043c\u044f\u0442\u0438, p50\/p95\/p99 \u0437\u0430\u0434\u0435\u0440\u0436\u0435\u043a, \u0447\u0430\u0441\u0442\u043e\u0442\u0443 HTTP\/gRPC\u2011\u043e\u0448\u0438\u0431\u043e\u043a, \u0434\u043b\u0438\u043d\u0443 \u043e\u0447\u0435\u0440\u0435\u0434\u0435\u0439, \u0434\u043e\u043b\u044e OOM \u0438 \u043d\u0430\u0441\u044b\u0449\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u0441\u0435\u0442\u0435\u0432\u044b\u0445 \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441\u043e\u0432 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u043f\u043e\u0440\u0442\u0430; \u0432\u0441\u0435 \u044d\u0442\u0438 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u0443\u0434\u043e\u0431\u043d\u043e \u0441\u043e\u0431\u0438\u0440\u0430\u0442\u044c \u0447\u0435\u0440\u0435\u0437 DCGM, Prometheus \u0438 \u044d\u043a\u0441\u043f\u043e\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432 Grafana.\n        <\/div>\n      <\/div>\n\n    <\/div>\n  <\/section>\n\n  <a href=\"https:\/\/forms.office.com\/Pages\/ResponsePage.aspx?id=M8ndOvkOi0KL2njX59S3t6RlyhCRrIdMr4Nk6XVA-x9UMk9JV0M5VDU2VkcyRlE2MlBQSVdJOFMzUy4u\" class=\"et-cta\" target=\"_blank\" rel=\"nofollow noopener\" style=\"display:inline-block;margin:2rem 0;padding:0.9rem 2.3rem;border-radius:999px;background:linear-gradient(135deg,#3b82f6,#1d4ed8);color:#ffffff;text-decoration:none;font-weight:600;box-shadow:0 10px 25px rgba(37,99,235,0.35);\">\n     \u041f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u043f\u0440\u043e\u0435\u043a\u0442 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430 Supermicro \u0434\u043b\u044f \u0432\u044b\u0441\u043e\u043a\u043e\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0441\u0435\u0440\u0432\u0438\u0441\u0430\n  <\/a>\n\n<\/article>","protected":false},"excerpt":{"rendered":"<p>\u00ab\u0412\u044b\u0441\u043e\u043a\u043e\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u044b\u0435 \u043e\u043d\u043b\u0430\u0439\u043d\u2011\u0441\u0435\u0440\u0432\u0438\u0441\u044b\u00bb \u043d\u0430 GPU: \u043a\u0430\u043a \u0432\u044b\u0431\u0440\u0430\u0442\u044c Supermicro \u043f\u043e\u0434 1000+ QPS \u0438 \u043d\u0438\u0437\u043a\u0443\u044e \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0443 \u0412\u044b\u0441\u043e\u043a\u043e\u043d\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u043d\u044b\u0435 \u043e\u043d\u043b\u0430\u0439\u043d\u2011\u0441\u0435\u0440\u0432\u0438\u0441\u044b \u2014 \u043e\u0442 \u0441\u0438\u0441\u0442\u0435\u043c \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0439 \u0438 \u0447\u0430\u0442\u2011\u0431\u043e\u0442\u043e\u0432 \u0434\u043e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u2014 \u0441\u0442\u0430\u043d\u043e\u0432\u044f\u0442\u0441\u044f \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043e\u043c \u0434\u043b\u044f \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u0438\u0445 \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0439, \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0438\u0445 \u0441 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u043c \u0442\u0440\u0430\u0444\u0438\u043a\u043e\u043c \u0432 \u0440\u0435\u0436\u0438\u043c\u0435 24\/7. \u0414\u043b\u044f \u0442\u0430\u043a\u0438\u0445 \u0441\u0438\u0441\u0442\u0435\u043c \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u044b \u0434\u0432\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438: QPS &gt; 1000 \u0438 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0430 \u043e\u0442\u0432\u0435\u0442\u0430 &lt; 50 \u043c\u0441 \u043f\u0440\u0438 p99&#8230;<\/p>","protected":false},"author":6,"featured_media":16818,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[199],"tags":[443,440,250,427,442,439,441],"class_list":["post-16817","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-articles","tag-100g-roce","tag-a40-l40s-mig","tag-alt-linux","tag-proxmox","tag-qps-1000","tag-supermicro--","tag-triton-k8s"],"jetpack_featured_media_url":"https:\/\/www.elishtech.com\/wp-content\/uploads\/2025\/12\/elishtech-47.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/www.elishtech.com\/en\/wp-json\/wp\/v2\/posts\/16817","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.elishtech.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.elishtech.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.elishtech.com\/en\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/www.elishtech.com\/en\/wp-json\/wp\/v2\/comments?post=16817"}],"version-history":[{"count":1,"href":"https:\/\/www.elishtech.com\/en\/wp-json\/wp\/v2\/posts\/16817\/revisions"}],"predecessor-version":[{"id":16819,"href":"https:\/\/www.elishtech.com\/en\/wp-json\/wp\/v2\/posts\/16817\/revisions\/16819"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.elishtech.com\/en\/wp-json\/wp\/v2\/media\/16818"}],"wp:attachment":[{"href":"https:\/\/www.elishtech.com\/en\/wp-json\/wp\/v2\/media?parent=16817"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.elishtech.com\/en\/wp-json\/wp\/v2\/categories?post=16817"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.elishtech.com\/en\/wp-json\/wp\/v2\/tags?post=16817"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}