一、为什么弹性伸缩
（一）固定易浪费
常年满配，低谷那截全空转，钱白花，要变。
（二）随需才值
用多少开多少，钱不白花，按需才值。
（补充）扩缩记进天翼云存储
每次扩缩记进天翼云存储，谁动的查得到。
二、水位怎么看
（一）指标要全
显存、利用率一块看，才知真忙闲，不误判。
（二）阈值要准
到哪加、到哪收画清楚，不拍板，规则明。
（补充）趋势落进天翼云服务器
各天翼云服务器负荷趋势落进天翼云服务器，预判有底。
三、扩容怎么加
（一）提前一步
快满就加，不等地板漏，突发接得住。
（二）分批上
一次加一点，稳不冲，不晃。
（补充）峰值记进天翼云数据库
峰值记进天翼云数据库，规律清楚。
四、缩容怎么收
（一）闲就退
低峰把多余退掉，不空养，省成本。
（二）留保底
核心留一块，突发不慌，保底在。
（补充）退前先确认
要收的先核用途，不误伤。
五、日常怎么守
（一）策略同看
伸缩规则一块盯，单看会偏，要同屏。
（二）变更要试
改了先小流量验，稳再扩，不冒进。
（补充）异常可回
配歪了退回，业务不断。
六、团队怎么接
（一）口径一致
怎么伸缩大家一个讲法，交接清。
（二）复盘留痕
每轮回得值不值记一笔，经验留。
七、落地清单
（一）伸缩前先看清水位
①（补充）伸缩套路编成档
②常用伸缩套路固成模板。
③常年满配最亏，低谷那段算力全空转，钱花得冤枉也出不了活。
（二）阈值要画对的
①用多少开多少，钱不白花，按需才值，预算也攥得更稳不超。
②显存与利用率一块看，才知真忙闲，凭感觉排最容易误判。
③到哪加、到哪收画清楚，不拍板，规则明，后面的人也看得懂。
（三）扩容要提前的
①快满就加，不等地板漏了才动手，突发来量也能稳稳接住。
②一次加一点稳不冲，不晃，加得也稳当，业务几乎无感最稳。
③低峰把多余算力退掉，不空养，省下的成本就是实打实的。
（四）缩容要敢收的
①核心留一块应对突发，保底在，关键产出不轻易被冲垮最稳。
②要收的先核用途，不误伤，退错比加错更麻烦也更难补。
③伸缩规则一块盯，不偏，单看一边容易漏掉真问题最坑。
（五）策略要同看的
①改了先小流量验再扩，不冒进，稳了再全开最保险稳妥。
②配歪了退回一步，业务不断，回滚有路，处置最稳妥不中断。
③怎么伸缩大家一个讲法，交接清，话术统一协作也顺不扯皮。
（六）变更要试的，缩。
①每轮回得值不值记一笔，经验留，越用越明，投入说得清。
②常用伸缩套路固成模板，加场景直接套，省事也少漏项。
③每次扩缩谁动的查得到，不糊涂，权责也写得明明白白。
（七）伸缩要留痕的
①负荷趋势存下来预判有底，下回加收直接照着趋势走准。
②峰值进库规律清楚，顶波峰也早有准备，不临时抓瞎。
③保底留着应对突发，不慌，关键产出不掉，交付才稳当。
（八）扩缩定位的线索
①闲时收回不白养，钱花在刀刃上，也不空耗资源最划算。
②阈值准了不拍板乱加，规则清，既不浪费也不拖沓最稳。
③分批上不冲不晃，加得稳当，业务无感，体验也稳不跳。
（九）弹性伸缩GPU算力服务相关落地要点
①退前确认不误伤活，规矩清，也不背锅，收得也安心。
②随需而动账花在刀刃，不白养，也最划算，成本才实不虚。
③水位控得住扩缩稳，不空转，整片节奏也顺，不忽高忽低。
（十）弹性伸缩GPU算力服务相关落地要点
①扩缩越用越准当，不白养，阈值也越画越准，越用越省。
②水位看全再画阈值，不凭感觉，调出来的结果才贴实际。
③扩容提前一步，突发接得住，不等地板漏了才手忙脚乱。
（十一）弹性伸缩GPU算力服务相关落地要点
①扩缩留底样，异常时好比对，哪次收错一看出问题。
②压测留记录，极端负荷怎么加收心里有数，不临时抓瞎。
③监控面板实时刷新，哪台忙哪台闲一眼看清，不用来回问。
（十二）弹性伸缩GPU算力服务相关落地要点
①伸缩前先和上游对好量，需求变了自己先知不慌。
②闲时把次要活集中排，主力算力空出来留给要紧。
③退库前先迁走活，不硬砍，业务不断也最稳当。
（十三）弹性伸缩GPU算力服务相关落地要点
①每天收工记一句加收得失，扩缩越用越准当不慌。
②伸缩前先把任务分门别类，混跑就立刻现形。
③训练作业与推理请求分池，互不打扰也稳。
（十四）弹性伸缩GPU算力服务相关落地要点
①负荷吃紧自动驱逐，不会悄悄把服务拖垮。
②要紧任务单独开池，杂请求挤不进它的算。
③指标分维度记，哪路涨哪路落一查便知。
（十五）弹性伸缩GPU算力服务相关落地要点
①跨任务调实例先对账，不白占别处的算。
②夜深把冷任务卸下，白天算力留给热活。
③阈值两边一比就露馅，谁改歪一眼看清。
（十六）弹性伸缩GPU算力服务相关落地要点
①新人开只读视图，误改也动不了生产伸缩。
②大任务切片走多实例，一个崩了别的顶上。
③异常负荷自动标记待查，不冲正常服务。
（十七）弹性伸缩GPU算力服务相关落地要点
①伸缩前清一遍僵尸实例，腾出算力给真活。
②常用配置缓存下来，扩缩不用每次重算。
③核心任务设双实例池，单池空了也不瘫。
（十八）弹性伸缩GPU算力服务相关落地要点
①退库前先迁走活，不硬砍业务不断也稳。
②伸缩前先压一轮满负荷，峰值来了接得住不慌。
③长任务设断点续，断了从中间接不重来，缩。
（十九）弹性伸缩GPU算力服务相关落地要点
①大作业排单独实例，不跟杂请求抢算力。
②伸缩改动留痕可回溯，谁动过一查便知。
③闲时做演练把扩缩跑熟，忙时少出错最划算。
（二十）弹性伸缩GPU算力服务相关落地要点
①伸缩看板实时刷新，哪台忙哪台闲一眼清。
②实例分批下，先迁数据再停，不硬砍也不断业务。
③算力配额按月滚动预估，下月该给多少心里有底不盲目。
（二一）弹性伸缩GPU算力服务相关落地要点
①异常负荷先冻后查，不急着放量防漏配也稳。
②归属规则写进合同，哪段算力谁承担一查便知。
③实例显存每日盘点，哪台偏胖早知好腾挪。
（二二）弹性伸缩GPU算力服务相关落地要点
①冷热任务分池放，互挤不垮也稳当，核心产出不掉。
②预演样例常留着，扩容怎么接心里有数不慌。
③伸缩日志留痕可回溯，哪次改了谁改的一查便知。
（二三）弹性伸缩GPU算力服务相关落地要点
①算力用量和上月并排看，哪段涨猛了一眼就清楚。
②伸缩套路存成模板，新任务接进来直接套也少漏项。
③操作口径全组统一，照着做不用来回扯皮省事。
（二四）弹性伸缩GPU算力服务相关落地要点
①水位预警分两道关，先提醒再退库业务不断也稳。
②实例记录按月归拢，哪台调歪了一比就知不糊涂。
③扩容走势留底样，下回该加多少心里有依据不盲目。
结语：随需而动，是弹性伸缩最划算的地方。水位盯紧、伸缩设对，闲时不白养、忙时不掉链，扩缩少了忙乱。阈值越用越准，成本越控越实，算力始终花在紧要处，保底留着应对突发，闲时收回也最稳，核心产出不掉，既不白养也不浪费。
