הילוך טורנט

אופטימיזציה תגובה אחורית: תורים, async, backpressure

1) מדוע: מטרות ו ־ SLOs

המטרה היא תגובה מהירה יציבה אפילו תחת פרצים. עסקים מבטאים את זה:

API (ראשי תיבות של CROSD/directories): p95 dign 250-400 ms, שיעור שגיאה <1%.
תשלום/יישוב (asynchronous): SLA פנימי לאישור רישום 2-5 דקות, והלקוח - instant 202/Accepted + status poller/webhook.
WS/Time: RTT p95 120/Integration, לנתק את 0. 5%.

מפתח: להתיר צעדים ”איטיים” (ספקים, בסיסי נתונים, API חיצוני) מתגובת משתמש דרך תורים והגבלת טעינה כשירה.

2) תמונה בסיסית: היכן שצולמה האיחור

bottlenecks: מסד נתונים (בריכות/אינדקסים), ספקים חיצוניים (PSP/game), חסימת I/O, GC/stop world, serialization JSON, צבירה ”כבדה”.

תסמינים: גידול פי-99, תור חיבור DB, התפרצויות מגש, סערה חוזרת.

נוגדן: צינורות אסינכרונים + תרמילאים + פסק זמן/נסיגה + אידמפוטנטיות.

3) דפוסים אסינכרוניים: SEDA ו ־ CQRS

SEDA (ארכיטקטורה מונעת אירועים מבוימת): לפצל את העיבוד לשלבים (Ingress # validation _ rege # Integration ac Action). לכל אחד יש תור משלו ומגבלות מקובלות.

CQRS: נפרד קורא וכותב. כתיבה - ליומן/מסד הנתונים, קריאה - מתוך תחזיות/מטמונים.

Outbox: האירוע פורסם באופן אטומי יחד עם התיעוד (הימנע מהודעות ”אבודות”).

תהליכים עסקיים ארוכים עם פיצוי על עסקאות במקום עסקאות גלובליות.

4) תורים ונחלים: בחירה וכוונון

RABITMQ/NATS JETSTREM - פקודות משימה (תורים לעבודה), קפקא - אירועים/זרמים עם שידור חוזר.

הגדרות המשפיעות על התגובה:

Prefetch/max in-flight: להגביל את מספר המסרים המעובדים בו זמנית לכל פועל (לדוגמה, 16-64) כדי לא ”לסתום” את מסד הנתונים/API חיצוני.
Acker/חוזר: ”ack” לאחר הקלטה אידמפוטנטית; עיכוב אקספוננציאלי וליצן חוזר.
DLQ/מגרש חניה: אין נסיגות אינסופיות - לאחר ניסיונות N, הולך תור מכתב מת.
מחיצה (קפקא): מפתח אחר תמצית (Absuid/txnID) להזמנה; מקביליות באמצעות מספר הצדדים.

5) תרגיל אחורי - איך לא לטבוע

הרעיון: קח רק כמה שאתה יכול לעבד בתוך האיחור של ה-SLO.

טכנאים:

בקרת כניסה: הגבלת תחרות (semaphore/worker-pool) עבור כל תלות חיצונית: מסד נתונים, PSP, ספק משחקים.
עיצוב תנועה: token-דלי/דולף-דלי בכניסה לשירות ועל נתיבים קריטיים.
תורים עם גבול עליון: כאשר מלא, לחתוך את הזנב (429/503 + Retry-After) או לעבור למהירות-אצווה.
קונקורנסי אדפטיבי (AIMD): הגדלת המקביליות על הצלחה, ירידה בפסקי זמן.
מפסק מעגל: ”סגור * פתוח * חצי פתוח” על ידי שגיאות/פסקי זמן של API החיצוני; כאשר פתוח - השפלה (מטמון/שפם).

פסאודו-קוד (Go-like):

go sem: = הפוך (chan strut ~, 64 )//גבול של תחרות DB/PSP

ידית func (req)
בחר *
case sem <- strut ():
defer func () <- sem ()
ctx, בטל: = הקשר. Withtimeout (req. ctx, 300 פעם. אלפיות שנייה)
דפר ביטול ()
res, לטעות: = db. דו (ctx, req)
אם לטעות = הקשר.  עלו על המדדים. פסקי זמן. Inc (); תמורה איטית ()
החזר אישור (מיל)
ברירת מחדל:
מדדים. תרמיל גב. Inc ()
חזרה עסוקה (429, "Retry-After: 0. 2")
}
}

6) פסקי זמן, נסיגות וג 'יטר: ”שלושה לווייתנים הישרדות”

פסקי זמן קצרים יותר מ-SLO: אם SLO 400 ms, פסק זמן ל-DB/ספק 250-300 ms; זמן בקשה כולל <400-600 ms.

רטריי מוגבל וחכם: 1-2 ניסיונות מקסימליים, רק לפעולות בטוחות (idempotent), עם אקספוננט וג 'יטר.

התאגדות חוזרת עבור מפתח אחד.

Pseudocode (אקספוננט + jitter):

פיתון לניסיון בטווח (0, 2):
נסה:
קריאה חוזרת (dep, פסק זמן = 0. 3)
מלבד פסק זמן:
גיבוי = (0. 05 (2ttempt) + אקראי. אחיד (0, 0. 05)
(שינה לאחור)
הרם את הדמיוןweather condition

7) זהות ושכפול

Idempotency-Key on HTTP (פיקדונות, תשלומים), "operation _ id' בבסיס הנתונים (אינדקס ייחודי).

Inbox/Outbox: inbox wooks - תמיד דרך טבלת דואר אלקטרוני בלתי משתנה עם dedupe by "event _ id'; לצאת מהתיבה על ידי עסקה.

בדיוק-פעם אחת ”במשמעות”: אנחנו מאפשרים משלוח/ביצוע חוזר, אבל יש רק אפקט אחד.

8) API מהיר לפעולות איטיות

תגובה סינכרונית: 201/202 + STATUS URL ('/status/_ id '), ETA ורמזים רטרו.

Webhooks/Server-נשלח אירועים/WS - לדחוף את המדינה כאשר מוכן.

משמעת לקוח: ”Retry-After”, אידמפוטנטיות, הגבלת סקרים.

דוגמה לתגובה:

ג 'סון
HTTP/1. 1 202 מתקבל
מיקום :/ v1/withdrawals/req_9f2/status
חזרה לאחר: 2
{
"request_id":" req_9f2, "" מדינה ":" עיבוד "," next_check_sec": 2 "
}

9) למזער את העבודה החמה

שימו דברים כבדים ברקע: שינויי צורה, צבירה, הודעות, כתיבה ל-DWH.

מטמון ותחזיות: בדרך כלל קריאה - מטמון בצד עם TTL קצר ונכות אירוע.

תבניות אצווה: שיחות חיצוניות קבוצתיות (למשל: בקשת הגבלת ספק פעם ב N ms).

סריאליזציה: קודקודים מהירים (protobuf/msgpack) לתקשורת בין שירות לשירות; ג 'סון על קצה בלבד.

10) DB תחת שליטה

בריכות חיבור: גבולות עליונים (המבוססים על ליבות/IO), תורים למאגר מופעלים.

אינדקסים ותוכנית: p95 להסביר + נסיגה אוטומטית של תוכניות.

פסקי זמן בקשות: קצר, "הצהרה _ timeout' (Postgres).

שורות חמות/מנעולים: רסיסי מפתח, מנעולים אופטימיים (גרסת שיווי משקל), סאגה במקום עסקה ”מונוליטית”.

11) שקע אינטרנט/בזמן אמת

מגביל עלונים: שידור חבוט, מקס msgs/sec לכל חיבור.

תרמיל גב פנימי: תור הודעה יוצא עם כובע; על עודף - ירידה בעדיפות נמוכה.

ניתוב דביק ו-PDB במהלך שחרור כדי לא ליצור סופה מחודשת.

12) יכולת תצפית כדי לא לנחש

Metrics (RED/USE + backpresser):

'request _ rate', 'שגיאה _ ratio', 'latency _ p95/p99 &pospos על נתיבים.
”quue _ עומק”, ”lag _ seconds”, ”צרכן _ אינטנסיביות”, ”retries _ total”, ”diq _ rate”.
'backpresser _ dips',' הודאה _ דוחה ',' circuit _ open '.
Tribute: "חיבורים _ in _ use/max", "locks'," slow _ quaries ".
עקבות: תור "תור" = עובד * db/psp 'with תגיות "operation _ id'," מחיצה "," retry ".
יומנים: מבנית, עם "trace _ id', ללא PII; אירועים של ”מעגל פתוח/סגור”.

13) בדיקת טעינה

מודל פתוח (הגעה/שנייה) עבור התפרצויות; דגם סגור (VOS) עבור הפעלות.

פרופילים: פרץ קצר 60-120 ש 'והשרה 1-4 ח.

כשלי הזרקה: להאט את API החיצוני על ידי + 200-500 ms, להסתכל p99/retrai/תורים.

קריטריון אזור ירוק: אין תור צמיחה ”תור _ לאג”, p95 יציב, ”dlq _ rate window 0”.

14) בטיחות ואמינות

תורים של TLS/mTLS, חתימת הודעות, ניטור סכימות (Avro/Protobuf + Schema Registry).

מפיק אידמפוטנטי (קפקא), בדיוק-פעם אחת tx שבו מוצדק.

מצב כאוס: מדי פעם ”טיפה” ההתמכרות ולהסתכל על השפלה (מעגל, נסיגה).

15) דוגמאות ל ”חלקים” של תצורות

קלט Nginx/שליח עיצוב:

nginx limit_req_zone $ _ road _ adr zone = api: 10m קצב = 20/s;
שרת [שרת]
מיקום/api/
אזור limit_req = api פרץ = 40 nodelay;
proxy_read_timeout 0. 6. # קצר מ-SLO proxy_connect_timeout 0. 2s;
}
}

RabbitMQ (פרפטץ):


בסיסי. qos (prefetch_count = 32) # שיווי משקל מעבד/IO

צרכן קפקא (מקטע Java):

אביזרי ג 'אווה. שים (קונפיג. MAX_POLL_RECORDS_CONFIG, 200);
אביזרים. שים (קונפיג. FETCH_MAX_BYTES_CONFIG, 5_000_000);
אביזרים. שים (קונפיג. MAX_POLL_INTERVAL_MS_CONFIG, 60_000);

16) בדיקת מימושים (פרוד-מוכן)

[ שבילים קריטיים ] מחולקים לתגובה סינכרונית ועיבוד אסינכרוני (SEDA).

[ בקרת קבלה ] והגבלת תחרות לתלות חיצונית.

[ ] פסקי זמן קצרים יותר מ-SLO; רטריי 2, עם כוח וג 'יטר; קואליציות.

[ ] מפסק מעגל + דלדול (מטמון/שפם), מדיניות חצי פתוחה.

[ תורים/זרמים של ]: פרה-fetch/in-flight, DLQ, חבורות מפתח.

[ ] Idempotency (operation_id/Idempotency-Key), Outbox/Inbox, Detuplication.

[ ] מטמון: מטמון בצד, קצר TTL + נכות אירוע.

[ ] DB: גבולות בריכה, statement_timeout, אינדקסים, אסטרטגיות נגד נעילה.

[ ] WS: הגבלת מסרים, חבטות, ניתוב דביק, PDB.

[ תצפית ]: תורים/תורים/מדדים, שבילים מקצה לקצה, לוחות מחוונים.

[ ] בדיקות עומס וכישלון (פתוח + סגור, פרץ + ספוג), קריטריון אזור ירוק.

המשך תקציר

גיבוי מהיר אינו ”לעשות מטמון אחר”, אלא זרם מבוקר: הכניסה היא מוגבלת, כבדה - ברקע, כל שלב עם תור ומגבלות, המגשים הם נדירים וחכמים, והשרשראות מוגנות על ידי מפסק חשמלי ואידמפוטנטיות. הוסף משמעת זמן, יכולת תצפית ומבחני לחץ קבועים - ו-p95/p99 שלך יישאר ירוק אפילו תחת התפרצויות וגחמות של ספקים חיצוניים.