بزرگ شدن
سایتی که برای صد نفر خوب کار میکند، با صد هزار نفر شاید از پا بیفتد. این کلمهها میگویند یک سیستم چطور بزرگ میشود و چطور با خراب شدن یک قطعه سرپا میماند.
high و low برای اندازهها
برای عددهایی مثل latency، traffic، availability و throughput در انگلیسی big و small نمیگویند؛ میگویند high (بالا) و low (پایین): high latency، low traffic، high availability. برای traffic و load کلمهی heavy (سنگین) هم رایج است: heavy traffic. یادت باشد high همیشه خوب نیست: high availability خوب است، ولی high latency بد.
هشت کلمهی این درس
scale (اِسکِیل): بزرگ یا کوچک کردن توان سیستم به اندازهی کار
scale در انگلیسی هم یعنی ترازو، هم مقیاس و اندازه. بهعنوان فعل در برنامهنویسی یعنی توان سیستم را با مقدار کار هماهنگ کنی: وقتی کاربرها ده برابر شدند، سیستم هم بتواند ده برابر کار کند. دو راه دارد: scale up یعنی یک سرور قویتر بگیری، و scale out یعنی تعداد سرورها را بیشتر کنی. مثل رستورانی که شلوغ شده: یا یک اجاق بزرگتر میخری، یا چند آشپز دیگر میآوری. وقتی شلوغی تمام شد، scale down میکنی تا پول اضافه ندهی.
The app scales automatically when traffic grows.
وقتی ترافیک زیاد میشود، برنامه خودکار بزرگ میشود.
load balancer (لود بَلِنسِر): متعادلکنندهی بار؛ پخشکنندهی درخواستها بین سرورها
load یعنی بار و balance یعنی تعادل؛ balancer چیزی است که تعادل را نگه میدارد. وقتی بهجای یک سرور چند سرور داری، یکی باید جلوی آنها بایستد و هر درخواست تازه را به یکیشان بدهد تا هیچکدام زیر بار له نشود. این کارِ load balancer است. مثل کسی که جلوی صندوقهای فروشگاه میایستد و میگوید «شما بروید صندوق ۳، خلوت است». اگر یکی از سرورها هم خراب شود، دیگر کسی را سراغ آن نمیفرستد.
The load balancer sends each request to a healthy server.
متعادلکنندهی بار هر درخواست را به یک سرور سالم میفرستد.
traffic (تِرَفیک): ترافیک؛ مقدار رفتوآمد کاربرها و داده در شبکه
traffic همان ترافیک خیابان است: مقدار ماشینهایی که در رفتوآمدند. در وب، بهجای ماشین، درخواستها و دادهها در رفتوآمدند. وقتی میگویند سایت ترافیک زیادی دارد، یعنی آدمهای زیادی همزمان آن را باز کردهاند. درست مثل خیابان، ترافیک وب هم ساعت شلوغی دارد (مثلاً شب نتیجهی کنکور) و اگر سرور برایش آماده نباشد، همهچیز کند میشود یا میایستد.
The site went down because of heavy traffic.
سایت به خاطر ترافیک سنگین از کار افتاد.
latency (لِیتِنسی): تأخیر؛ فاصلهی فرستادن درخواست تا رسیدن جواب
latency از late میآید که یعنی «دیر». latency یعنی تأخیر: از لحظهای که چیزی را میفرستی تا لحظهای که جوابش میرسد چقدر طول میکشد. آن را با میلیثانیه (ms) میشمارند. در بازی آنلاین این را خوب میشناسی: همان «پینگ» است؛ وقتی بالاست، دکمه را میزنی و بازیکنت کمی بعد حرکت میکند. دوری سرور از کاربر یکی از دلیلهای اصلی latency است، چون داده باید راه درازتری برود.
Users in Asia see high latency because the server is in Europe.
کاربرهای آسیا تأخیر زیادی میبینند، چون سرور در اروپاست.
throughput (تْروپوت): توان گذردهی؛ مقدار کاری که در یک زمان مشخص انجام میشود
through یعنی «از میانِ» و put یعنی «گذاشتن»؛ throughput یعنی چقدر چیز در یک زمان مشخص از میان سیستم رد میشود. مثلاً سرور در هر ثانیه به چند درخواست جواب میدهد. فرقش با latency را با یک بزرگراه ببین: latency یعنی یک ماشین چقدر طول میکشد تا به مقصد برسد؛ throughput یعنی در هر دقیقه چند ماشین از بزرگراه رد میشوند. سیستم خوب هر دو را با هم میخواهد: تأخیر کم و گذردهی زیاد.
The new server doubled our throughput to 2,000 requests per second.
سرور تازه توان گذردهی ما را دو برابر کرد و به ۲۰۰۰ درخواست در ثانیه رساند.
availability (اَوِیلِبیلیتی): دسترسپذیری؛ اینکه سرویس هر وقت بخواهی کار کند
available یعنی «در دسترس، موجود» و availability اسمِ آن است: دسترسپذیری. یعنی وقتی کاربر سراغ سرویس میآید، چقدر احتمال دارد سرویس روشن باشد و جواب بدهد. آن را با درصد میگویند و برای بالا بردنش از هر چیز مهم چند نسخه نگه میدارند. high availability یعنی سیستمی که طوری ساخته شده که حتی با خراب شدن یک قطعه هم از کار نیفتد. مثل داروخانهی شبانهروزی: هر ساعتی بروی باز است.
Banks need systems with very high availability.
بانکها سیستمهایی با دسترسپذیری خیلی بالا لازم دارند.
redundancy (ریدانْدِنسی): افزونگی؛ داشتن نسخهی یدکی از چیزهای مهم
redundant یعنی «اضافه، بیشتر از نیاز». در حرف زدن عادی چیز بدی است (کد اضافه، جملهی تکراری)، ولی در طراحی سیستمها redundancy چیز خوبی است: یعنی از هر قطعهی مهم عمداً یکی اضافه داری تا اگر اولی خراب شد، کار نخوابد. مثل لاستیک زاپاس ماشین، یا هواپیما که بیش از یک موتور دارد. دو سرور بهجای یکی، دو دیسک با دادهی یکسان و دو خط اینترنت، همه redundancy هستند.
We keep two copies of the database for redundancy.
برای افزونگی، دو نسخه از پایگاه داده نگه میداریم.
failover (فِیلاُوِر): جابهجایی خودکار به سیستم یدکی هنگام خرابی
fail یعنی خراب شدن و over اینجا یعنی «به آن طرف رفتن». failover یعنی وقتی سیستم اصلی از کار میافتد، کار خودکار و فوری به سیستم یدکی سپرده شود، بدون اینکه کسی دکمهای بزند. redundancy یعنی یدکی داشته باشی؛ failover یعنی عوض شدنِ خودکار به آن یدکی. مثل چراغ اضطراری ساختمان: برق که میرود، خودش روشن میشود و لازم نیست در تاریکی دنبال کلید بگردی.
After the main server crashed, failover took only ten seconds.
بعد از کرش کردن سرور اصلی، جابهجایی به سرور یدکی فقط ده ثانیه طول کشید.
گزارش بعد از یک شب شلوغ
Last night our traffic was five times higher than normal. The system could not scale fast enough, so latency went from 80 ms to 3 seconds. Then one server crashed. Because we have redundancy, the load balancer stopped sending requests to it, and failover to the backup server took ten seconds. No data was lost. Today we will add two more servers to improve throughput and keep availability above 99.9%.
دیشب ترافیک ما پنج برابر حالت عادی بود. سیستم نتوانست به اندازهی کافی سریع بزرگ شود، برای همین تأخیر از ۸۰ میلیثانیه به ۳ ثانیه رسید. بعد یکی از سرورها کرش کرد. چون افزونگی داریم، متعادلکنندهی بار دیگر برای آن درخواست نفرستاد و جابهجایی به سرور یدکی ده ثانیه طول کشید. هیچ دادهای از دست نرفت. امروز دو سرور دیگر اضافه میکنیم تا توان گذردهی بهتر شود و دسترسپذیری بالای ۹۹٫۹ درصد بماند.