Torrent Gear

Backend жооп оптималдаштыруу: кезек, async, backpressure

1) Эмне үчүн: максаттары жана SLO

максаты - туруктуу тез жооп, ал тургай, жарк астында. Бизнес бул SLO билдирет:

API (CRUD/каталогдору): p95 ≤ 250-400 ms, error rate <1%.
Төлөм/орнотуу (асинхрондук): ырастоо үчүн ички SLA ≤ 2-5 мүнөт, ал эми кардар үчүн - дароо 202/Accepted + статус-поллер/вебхук.
WS/real-time: RTT p95 ≤ 120 мс, disconnect ≤ 0. 5%.

Ачкыч: "жай" кадамдарды (провайдерлер, DD, тышкы API) кезек аркылуу колдонуучунун жооп жана компетенттүү жүктү чектөө.

2) Базалык сүрөт: латенттүүлүк кайдан алынат

Тар жерлери: БД (пулдар/индекстер), тышкы провайдерлер (PSP/оюн), I/O, GC/stop-world, JSON сериалдаштыруу, "оор" агрегациялар.

Симптомдору: өсүү p99, DD үчүн байланыштар кезек, retraints, убакыт чылбыры (retry storm).

Антидот: асинхрондук конвейерлер + backpressure + тайм-ауттар/ретрайлер + боштук.

3) Асинхрондук үлгүлөрү: SEDA жана CQRS

SEDA (staged event-driven architecture): этапта иштетүү (ingress → валидация → жазуу → интеграция → билдирүү). Ар биринин өз кезеги жана параллелизмдин лимиттери бар.

CQRS: окуу жана жазуу бөлүшүү. Жазуу - журналга/базага, окуу - проекциялардан/кэштерден.

Outbox: окуя жазуу менен бирге атомдук жарыяланат ("жоголгон" билдирүүлөрдү качуу).

Saga: ордуна дүйнөлүк ордун толтуруу бүтүмдөр менен узак бизнес-жараяндар.

4) кезек жана агымдар: тандоо жана тюнинг

RabbitMQ/NATS JetStream - тапшырма буйруктары (work queues), Kafka - реплика менен окуялар/агымдар.

жооп таасир параметрлери:

Prefetch/max in-flight: worker бир эле учурда иштетилген билдирүүлөрдүн санын чектөө (мисалы, 16-64) эмес, "балл" BD/тышкы API.
Акер/кайталоо: 'ack' idempotent жазуу кийин; экспоненциалдык кечигүү жана джиттер менен кайталоо.
DLQ/паркинг лот: учсуз retrains жок - N аракет кийин Dead Letter Queue барат.
Партиялаштыруу (Kafka): маңызы боюнча ачкыч (userId/txnId) тартипке келтирүү үчүн; партиялардын саны аркылуу параллелизмди

5) Артка басым (backpressure) - кантип чөгүп жок

Идея: сиз SLOнун жашыруун чегинде иштөөгө мүмкүн болушунча гана кабыл алуу.

Техника:

Admission control: ар бир тышкы көз карандылык боюнча атаандаштыкты (semaphore/worker-pool) чектөө: DD, PSP, оюн провайдери.
Shaping Traffic: token-bucket/leaky-bucket кызматтын кире беришинде жана маанилүү каттамдарда.
Жогорку чек менен кезек: толтурууда - куйругун кесип (429/503 + Retry-After) же asap-batch которулган.
Adaptive concurrency (AIMD): ийгиликке параллелизмди өстүрүү, убакыттын өтүшү менен азайтуу.
Circuit Breaker: 'closed → open → half-open' каталар/тышкы API тайм-ауттар боюнча; open - деградация (кэш/стаб).

Psevdocode (Go-окшош):

go sem: = make (chan struct {}, 64 )//BD/PSP үчүн атаандаштык чеги

func handle(req) {
select {
case sem <- struct{}{}:
defer func(){ <-sem }()
ctx, cancel:= context. WithTimeout(req. ctx, 300time. Millisecond)
defer cancel()
res, err:= db. Do(ctx, req)
if err == context. DeadlineExceeded { metrics. Timeouts. Inc(); return TooSlow() }
return Ok(res)
default:
metrics. Backpressure. Inc()
return TooBusy(429, "Retry-After: 0. 2")
}
}

6) Тайм-ауттор, ретраи жана життер: "үч кит аман"

Тайм-аут SLO кыска: SLO 400 мс болсо, DD/провайдерге тайм-аут 250-300 мс; жалпы убакыт суроо <400-600 ms.

Retrains чектелген жана акылдуу: 1-2 аракет max, гана коопсуз иш үчүн (idempotent), экспонент жана Jitter менен.

Coalessing: бир ачкыч үчүн кайталап топтоо.

Псевдокод (экспонент + джиттер):

python for attempt in range(0, 2):
try:
return call(dep, timeout=0. 3)
except Timeout:
backoff = (0. 05 (2attempt)) + random. uniform(0, 0. 05)
sleep(backoff)
raise UpstreamUnavailable

7) Демпотенттүүлүк жана дедупликация

Idempotency-Key на HTTP (депозиттер, төлөмдөр), 'operation _ id' в БД (уникалдуу индекс).

Inbox/Outbox: Кирген Webhook - ар дайым dedupe 'event _ id' менен өзгөрүлбөгөн inbox жадыбалы аркылуу; чыгуулар - транзакция боюнча outboxтан.

Exactly-once "мааниси боюнча": кайра жеткирүү/аткаруу жол, бирок таасири бир.

8) Жай иш үчүн тез API

Синхрондуу жооп: 201/202 + статусунун URL ('/status/{ id} '), ETA жана ретрайт.

Webhuke/Server-Sent Events/WS - даяр болгондо бош стейт.

Кардарлардын дисциплинасы: 'Retry-After', демпотенттүүлүк, сурамжылоо чеги.

Жооп мисалы:

json
HTTP/1. 1 202 Accepted
Location: /v1/withdrawals/req_9f2/status
Retry-After: 2
{
"request_id": "req_9f2",  "state": "processing",  "next_check_sec": 2
}

9) ысык жолдо ишти азайтуу

Оор нерселерди фонго алып чыгыңыз: трансформациялар, агрегациялар, билдирүүлөр, DWHге жазуу.

Кэш жана проекциялар: көп окулган - кыска TTL жана окуя майыптыгы менен cache-aside.

Batch үлгүлөрү: тышкы чалууларды топтоңуз (мисалы, N ms бир жолу провайдердин лимиттерин суроо).

Сериалдаштыруу: тез codec (protobuf/msgpack) кызмат аралык байланыштар үчүн; JSON edge боюнча гана.

10) БД көзөмөлдө

Байланыш пулдары: жогорку чектери (ядро/IO негизинде), пулга кезек күткөн.

Индекстер жана план: p95 explain + autotest regression пландар.

Суроо-талаптын тайм-ауту: кыска, 'statement _ timeout' (Postgres).

Hot rows/locks: ачкыч, оптимисттик бөгөт коюу (баланстык версия), saga ордуна "монолиттик" бүтүм.

11) WebSocket/real-time

Почта чеги: batched broadcast, max msgs/sec per connection.

Ички backpressure: Cap менен чыгыш билдирүүлөр кезек; толуп кеткенде - drop low-priority.

Sticky-routing жана PDB бошотуу учурунда - калыбына-бороон-чапкын көбөйүп жок.

12) алдын ала эмес, байкоо

Метрика (RED/USE + backpressure):

'request _ rate', 'error _ ratio', 'latency _ p95/p99' каттамдар боюнча.
`queue_depth`, `lag_seconds`, `consumer_inflight`, `retries_total`, `dlq_rate`.
`backpressure_drops`, `admission_rejects`, `circuit_open`.
Для БД: `connections_in_use/max`, `locks`, `slow_queries`.
Tracks: span 'queue → worker → db/psp' менен теги 'operation _ id', 'partition', 'retry'.
Логи: структуралык, 'trace _ id', PII жок; жеке окуялар "open/close circuit".

13) жүк астында сыноо

Open-model (arrivals/sec) үчүн жарылуулар; Closed-модель (VUs) сессиялар үчүн.

Profiles: кыска burst 60-120 с жана soak 1-4 саат.

Injection ийгиликсиз: + 200-500 ms тышкы API жайлатып, p99/retrais/кезек карап.

Жашыл зонанын критерийлери: 'queue _ lag' өсүүсүз, туруктуу p95, 'dlq _ rate ≈ 0'.

14) Коопсуздук жана ишенимдүүлүк

TLS/mTLS боюнча кезек, кол тамга билдирүүлөр, көзөмөл схемасы (Euro/Protobuf + Schema реестри).

Idempotent producer (Kafka), акталган жерде exactly-once tx.

Башаламандык режими: мезгил-мезгили менен көз карандылыкты "таштаңыз" жана деградацияны караңыз (circuit, fallback).

15) Үлгү "бөлүктөрү" конфигурациялары

Nginx/Envoy кириш Shaping:

nginx limit_req_zone $binary_remote_addr zone=api:10m rate=20r/s;
server {
location /api/ {
limit_req zone=api burst=40 nodelay;
proxy_read_timeout 0. 6s; # SLO кыска proxy_connect_timeout 0. 2s;
}
}

RabbitMQ (prefetch):


basic. qos (prefetch_count = 32) # CPU/IO балансы

Kafka колдонуучу (Java үзүндүсү):

java props. put(ConsumerConfig. MAX_POLL_RECORDS_CONFIG, 200);
props. put(ConsumerConfig. FETCH_MAX_BYTES_CONFIG, 5_000_000);
props. put(ConsumerConfig. MAX_POLL_INTERVAL_MS_CONFIG, 60_000);

16) Чек-тизме киргизүү (prod-ready)

Критикалык жолдор синхрондуу жооп жана асинхрондук дарылоо (SEDA) бөлүнөт.
Admission control жана тышкы көз карандылык боюнча атаандаштык чеги.
SLO кыска убакыт; ≤ 2 ретрасы, экспонент жана джиттер менен; коалиция түзүү.
Circuit breaker + деградация (кэш/стаб), half-open саясаты.
Кезектер/агымдар: prefetch/in-flight, DLQ, ачкычтар боюнча партия.
Idempotentity (operation_id/Idempotency-Key), Outbox/Inbox, deduplication.
Кэш: cache-aside, кыска TTL + окуя майыптыгы.
BD: бассейн чектери, statement_timeout, индекстер, анти-блок стратегиясы.
WS: чеги билдирүүлөр, batching, sticky-routing, PDB.
байкоо: backpressure/queues/retries метрика, end-to-end соода, dashbord.
Жүктөө жана сыноо (open + closed, burst + soak), жашыл зонанын критерийлери.

Резюме

Fast Backend - бул "дагы бир кэш жасоо" эмес, башкарылуучу агым: кирүү чектелүү, оор - фон, кезек жана лимиттер менен ар бир этап, ретра сейрек жана акылдуу, ал эми чынжырлар circuit breaker жана демпотенттик менен корголгон. Убакыттын өтүшү менен тартип кошуу, байкоо жана үзгүлтүксүз стресс-тесттер - жана сиздин p95/p99 да бурстардын жана тышкы провайдерлердин каприздери астында жашыл бойдон кала берет.