بتل کد Battle Codeدارد باز می‌شود…

جلسه‌ی 26: درخواست زیادی: محدودیت سرعت Too Many Requests

یک برنامه می‌تواند در یک ثانیه هزار درخواست بفرستد: هزار رمز را امتحان کند یا سرور را برای بقیه کُند کند. امروز با ساعت ساختگی (now() و wait()) و نشانی فرستنده (request.ip) درخواست‌های هر نشانی را در یک بازه‌ی زمانی می‌شماری، زیادی‌ها را با 429 رد می‌کنی و ورود را بعد از چند رمز غلط پشت سر هم قفل می‌کنی.

در این جلسه یاد می‌گیری

درس

🔐 قانون طلایی این دوره: سرور امانت‌دار است. هر سروری که می‌سازی داده‌ی آدم‌ها را نگه می‌دارد: اسم، امتیاز، یادداشت، رمز. پس به هر چه از بیرون می‌آید شک کن، رمز را هیچ‌وقت خام نگه ندار و داده‌ی کسی را به دیگری نشان نده. فقط سرورهای خودت را امتحان کن. سرور این دوره ساختگی است و داخل همین صفحه کار می‌کند: هر بار که برنامه را اجرا می‌کنی از صفر ساخته می‌شود، پس هر چه می‌خواهی امتحان کن.

یادت هست؟ در جلسه‌ی ۲۲ ورود (POST /login) را ساختیم: سرور رمز خام را نگه نمی‌دارد، فقط با check_password می‌پرسد «این رمز با آن هش جور است؟». اگر اسم یا رمز غلط بود، 401 و یک پیام یکسان: «اسم یا رمز غلط است»، تا معلوم نشود کدامش غلط بوده. ولی یک مشکل مانده: چه کسی جلوی کسی را می‌گیرد که هزار بار پشت سر هم رمز حدس می‌زند؟

from server import app, ask, request, abort, hash_password, check_password, new_token

users = {"sara": hash_password("cat123")}


@app.post("/login")
def login():
    data = request.json or {}
    stored = users.get(data.get("name"))
    if stored is None or not check_password(data.get("password", ""), stored):
        abort(401, "wrong name or password")
    return {"token": new_token()}


ask("POST /login", {"name": "sara", "password": "dog"})
r = ask("POST /login", {"name": "sara", "password": "cat123"}, quiet=True)
print(r.status, len(r.json["token"]))

چرا محدودیت؟ آدم‌ها در دقیقه چند درخواست می‌فرستند، ولی یک برنامه‌ی بد می‌تواند در یک ثانیه هزار تا بفرستد: رمزها را یکی‌یکی حدس بزند، چت را پر از پیام کند یا سرور را آن‌قدر شلوغ کند که برای بقیه کُند شود. هر درخواست نشانی فرستنده‌اش را دارد (IP، مثل پلاک خانه در اینترنت): request.ip. در سرور ساختگی ما نشانی پیش‌فرض 203.0.113.10 است و با ask(..., ip="198.51.100.7") وانمود می‌کنیم کامپیوتر دیگری می‌پرسد. (این نشانی‌ها مخصوص مثال‌اند و مال هیچ‌کس نیستند.)

from server import app, ask, request


@app.get("/hello")
def hello():
    return {"you": request.ip}


ask("GET /hello")
ask("GET /hello", ip="198.51.100.7")

ساعت ساختگی. برای شمردن «در ۱۰ ثانیه‌ی گذشته» به ساعت نیاز داریم. سرور ما ساعت خودش را دارد: now() می‌گوید از شروع برنامه چند ثانیه گذشته (اول 0.0) و wait(5) زمان را فوراً ۵ ثانیه جلو می‌برد، بدون این‌که واقعاً منتظر بمانی. این‌طوری هر بار که برنامه را اجرا کنی همان جواب را می‌گیری. (سرور واقعی ساعت واقعی را از time.time() می‌خواند؛ ایده همین است.) now() عدد اعشاری است؛ اگر عدد صحیح خواستی، int(now()).

from server import now, wait

print(now())
wait(5)
print(now())
wait(0.5)
print(now())
print(int(now()))

شمردن در یک بازه. برای هر نشانی یک فهرست از زمان‌های درخواست‌هایش نگه می‌داریم (hits[ip]). وقتی درخواست تازه می‌آید:
1. فقط زمان‌هایی را نگه دار که کمتر از ۱۰ ثانیه از آن‌ها گذشته (قدیمی‌ها فراموش می‌شوند).
2. اگر از قبل ۳ تا هست، جواب 429 Too Many Requests بده و کار اصلی را نکن.
3. وگرنه now() را به فهرست اضافه کن و جواب بده.
درخواستی که رد شد شمرده نمی‌شود. نشانی دیگر فهرست خودش را دارد، پس یک نفرِ عجول بقیه را قفل نمی‌کند. (سرورهای واقعی کنار 429 سرآیندی به اسم Retry-After هم می‌فرستند: «چند ثانیه‌ی دیگر بیا».)

from server import app, ask, request, abort, now, wait

hits = {}
LIMIT = 3
WINDOW = 10


@app.get("/joke")
def joke():
    recent = []
    for t in hits.get(request.ip, []):
        if now() - t < WINDOW:
            recent.append(t)
    if len(recent) >= LIMIT:
        hits[request.ip] = recent
        abort(429, "too many requests, wait a little")
    recent.append(now())
    hits[request.ip] = recent
    return "Why was the math book sad? Too many problems."


for i in range(4):
    ask("GET /joke")
ask("GET /joke", ip="198.51.100.7")
wait(10)
ask("GET /joke")

یک نگهبان برای همه‌ی routeها. به‌جای این‌که شمارش را در تک‌تک routeها تکرار کنی، آن را در یک تابع @app.before بگذار (همان نگهبان جلسه‌ی ۲۳). اگر چیزی برگرداند (({...}, 429))، همان جواب است و route اجرا نمی‌شود؛ اگر چیزی برنگرداند (None)، درخواست رد می‌شود و route کارش را می‌کند. یک نکته‌ی خوب: قدیمی‌ترین زمان در فهرست می‌گوید کِی جا باز می‌شود؛ با پنجره‌ی ۱۰ ثانیه‌ای، 10 - (now() - recent[0]) ثانیه‌ی دیگر.

from server import app, ask, request, now, wait

hits = {}


@app.before
def limit():
    recent = []
    for t in hits.get(request.ip, []):
        if now() - t < 10:
            recent.append(t)
    hits[request.ip] = recent
    if len(recent) >= 2:
        return {"error": "too many requests", "wait": 10 - (now() - recent[0])}, 429
    recent.append(now())


@app.get("/a")
def page_a():
    return "A"


@app.get("/b")
def page_b():
    return "B"


ask("GET /a")
wait(4)
ask("GET /b")
ask("GET /a")
wait(6)
ask("GET /a")

قفل کردن ورود. محدودیت نشانی کافی نیست: کسی که می‌خواهد رمز سارا را حدس بزند می‌تواند از چند نشانی بپرسد. پس برای هر اسم کاربری هم رمزهای غلطِ پشت سر هم را می‌شماریم (fails[name]). بعد از ۵ رمز غلط، آن حساب ۶۰ ثانیه قفل می‌شود (locked_until[name] = now() + 60) و هر تلاشی، حتی با رمز درست، 429 می‌گیرد. رمز درست شمارش را صفر می‌کند. حدس زدن رمز با این قفل خیلی کُند می‌شود: هر دقیقه فقط ۵ حدس. سایت‌های واقعی به صاحب حساب هم خبر می‌دهند: «کسی چند بار رمز غلط زد.»

from server import app, ask, request, abort, hash_password, check_password, now, wait

users = {"sara": hash_password("cat123")}
fails = {}
locked_until = {}


@app.post("/login")
def login():
    data = request.json or {}
    name = data.get("name", "")
    if now() < locked_until.get(name, 0):
        abort(429, "too many wrong passwords; try again later")
    stored = users.get(name)
    if stored is None or not check_password(data.get("password", ""), stored):
        fails[name] = fails.get(name, 0) + 1
        if fails[name] >= 5:
            locked_until[name] = now() + 60
            fails[name] = 0
        abort(401, "wrong name or password")
    fails[name] = 0
    return {"message": "welcome " + name}


for guess in ["a1", "b2", "c3", "d4", "e5"]:
    ask("POST /login", {"name": "sara", "password": guess}, quiet=True)
ask("POST /login", {"name": "sara", "password": "cat123"})
wait(60)
ask("POST /login", {"name": "sara", "password": "cat123"})

اشتباه‌های رایج:
- زمان‌های قدیمی را هیچ‌وقت دور نریختن: آن‌وقت نشانی بعد از سه درخواست برای همیشه قفل می‌شود.
- <= به‌جای < در مقایسه‌ی زمان: درخواستی که درست ۱۰ ثانیه پیش بوده دیگر نباید شمرده شود. مرزها را با wait امتحان کن.
- یک شمارنده برای همه به‌جای یکی برای هر نشانی: یک نفر همه را پشت در نگه می‌دارد.
- گرفتن نشانی یا اسم از بدنه‌ی درخواست (request.json["ip"]): کلاینت هر چه بخواهد می‌نویسد. نشانی را از request.ip بگیر.
- صفر نکردن شمارش رمز غلط بعد از رمز درست: کاربر واقعی بعد از چند اشتباهِ پراکنده بی‌دلیل قفل می‌شود.

مثال‌های این جلسه

چالش‌ها

  1. An Unknown Name (آسان)
  2. Who and When? (آسان)
  3. Three Facts in Ten Seconds (متوسط)
  4. Steps of a Limiter (متوسط)
  5. Lock After Three (سخت)
  6. A Guard With a Clock (سخت)

بیشتر بخوان

← جلسه‌ی 25: هیچ‌وقت به کلاینت اعتماد نکن جلسه‌ی 27: خطا، لاگ و رازها →