AI oyunçuların emosional vəziyyətini necə izləyir

Giriş: niyə lazımdır və sərhədlər haradadır

AI «duyğuları təxmin etmir», lakin bir sıra dolayı əlamətlərə görə ehtimal olunan halları məlumatlandırır: mətn, səs xüsusiyyətləri, klik sürəti, bahis nümunələri, günün vaxtı və s. Məqsəd distressin erkən tanınması (üzülmə, nəzarət itkisi, yorğunluq) və özünü idarə etmək üçün diqqətli ipuçlarıdır. Sərhədlər - qanun, məxfilik, məlumatlı razılıq və «minimum məlumat» prinsipi.

1) Tam olaraq AI nə görür: siqnallar xəritəsi (varsayılan yazışmalar və kameralar olmadan)

A. Davranış siqnalları (telemetriya interfeysi)

uduzduqdan sonra dərəcələrdə/depozitlərdə kəskin sıçrayışlar (chasing);

klik tezliyi, «rage-clicks», ləğv edilmiş nəticələr;
hərəkət sürətinin artırılması, gecə «sərxoş» (00: 00-05: 00);
Reality Check-ə məhəl qoymamaq, limitləri artırmağa çalışmaq;

yüksək keyfiyyətli oyunlar arasında tez-tez keçid.

B. Mətn siqnalları (NLP, yalnız istifadəçinin razılığı ilə)

dəstəklənən söhbətlərin tonallığı: qıcıqlanma, ümidsizlik, impulsivlik işarələri;

«itkinin qaytarılması», «son depozit», «borclar» haqqında leksika.

C. Audio-paralinqvistika (ayrıca razılıq ilə)

tembr, temp və fasilələrin dəyişməsi; səsin titrəməsi, ifadələrin «qırılması»;

burada nitqin məzmunu deyil, «necə» deyilir.

D. Vizual siqnallar (ümumiyyətlə tətbiq edilmir)

üz ifadələrinin təhlili - son dərəcə mübahisəlidir, yüksək səhv və müdaxilə riski verir; yalnız ciddi opt-in və yerli emal ilə tədqiqatlarda istifadə edin. Production üçün davranış və mətn xüsusiyyətlərinə üstünlük verilir.

2) Ərzaq həlləri üçün halların taksonomiyası

Onlarla «emosiyalar» əvəzinə əməliyyat şkalasından istifadə edin:

Sakitlik/Norma - sabit davranış;
Həyəcan/Eyforiya - sürətli temp, qazandıqdan sonra artan dərəcələr;
Uğursuzluq - səhvlərin/kliklərin artması, itkidən sonra yenidən depozitlər;
Yorğunluq - uzun sessiyalar, ipuçlarına reaksiyanın azalması;
Distress - ümidsizlik/ümidsizlik linqvistik markerləri, kritik nümunələr.

Hər səviyyəyə müdaxilə pilləkəni uyğun gəlir (bax § 6).

3) Modellər və cizgilər: necə qurulur

Fiçlər (nümunələr):

depozitlər/dərəcələr/uduşlar üzrə rolling-aqreqatlar;
inter-click-time, burstiness, «gecə» hadisələrinin payı;
geri çəkilmə və təkrar depozitə qədər vaxt;
NLP-çat embeddingi (tonallıq, toksiklik, «passiv kömək istəkləri»);
audio embeddinq (pitch, jitter, speaking rate).

Model yığını:

davranış xüsusiyyətləri üçün tablo modelləri (qradiyent gücləndirici);
chat embeddingi yüngül NLP-klassifier;
modallıqları birləşdirmək üçün fusion/ensemble;
«radar» kimi anomaliya detektorları (Isolation Forest) və əl yoxlama tetikleyicisi.
Explainability: Kasa kartında SHAP/feature importance.

Nişanlar:

«emosiya» deyil, zərərin əməliyyat hadisəsi: 30 gün ərzində özünü istisna etmək, sapportda güclü eskalasiya, təsdiqlənmiş böhran. Bu subyektivliyi azaldır.

4) Etika, hüquqi tələblər və məxfilik

Opt-in və məlumatlı razılıq. Default - yalnız mətn/audio olmadan davranış siqnalları.

Data minimization. Xam log əvəzinə aqreqatlar; təxəllüs.

Həssas modallıqlar üçün lokal/on-cihaz emalı.

DPIA/auditlər: məlumatların emalı risklərinin müntəzəm qiymətləndirilməsi.

Ayrı-seçkiliyə qadağa: cinsi, etnik, sağlamlıq və s. Istifadə etməyin; kohortlarda ədaləti (fairness) izləmək.

İzahat və imtina hüququ. İstifadəçi hansı siqnalların işlədiyini görür və genişləndirilmiş təhlili söndürə bilər.

5) Dəqiqlik və məhdudiyyətlər: risklər haqqında dürüst

Duyğular dinamik və kontekstlidir: eyni nümunə müxtəlif insanlarda fərqli deməkdir.

Kompüter «üzdən duyğuların tanınması» - istehsalda etibarsız; prioritet davranış və mətn məlumatlarıdır.

Modellər diaqnoz deyil, ehtimal verir. Qərarlar sanksiyalar üçün sanksiyalar üçün deyil, yumşaq ipuçları və kömək üçün əsas kimi.

6) Action Framework: səviyyələrə görə necə hərəkət etmək olar

Səviyyə	Trigger nümunələri	Müdaxilə (minimum kifayət qədər)
L1 Norma	sabit pəncərələr, heç bir chasing	Gözə çarpmayan təlim, limit ipuçları
L2 Həyəcan	qazandıqdan sonra sürətli bahislər	Reality Check, «cool-down» təklifi, büdcə xatırlatması
L3 Üzüntü	re-depozitlər ≤ 15 dəq., rage-clicks	Müvəqqəti təklif, aqressiv promo gizlətmə, pauza düyməsi
L4 Yorğunluq	uzun sessiyalar, ignor xatırlatmalar	Fasilə üçün Strong prompt, «istirahət/qəlyanaltı» hədəfi, bahis üçün müvəqqəti qapaq
L5 Distress	mənfi söhbət tonu, nəticələrin ləğvi + gecə zirvələri	Razılaşma ilə müvəqqəti fasilə, özünü istisna etməyə kömək, qaynar xətt əlaqələri, tənqid zamanı - canlı agent RG

Prinsiplər: şəffaflıq, seçimlərə hörmət, razılıq və səbəblərin məntiqi.

7) Məhsul və proseslərə inteqrasiya

Real-time inference hadisələr axını; «soyuq başlanğıc» qaydalarla bağlanır.

CS/RG paneli: sessiyaların tarixi, işlərin izahı, hərəkət siyahısı.

CRM-orkestrasiyası: L3-L5 üçün promosyonun dayandırılması, reaktivasiyaların təhsil məzmununa dəyişdirilməsi.

Event sourcing: audit üçün dəyişməz müdaxilələr və limit dəyişiklikləri.

8) MLOps və keyfiyyət

Online metrik: PR-AUC, kalibrləmə (Brier), latency, drift fich.

Biznes-KPI:

limitləri təyin edən oyunçuların payının artması;
nəticələrin ləğv edilməsinin azaldılması;
erkən müraciət payının artması;
«gecə sərxoşluqlarının» azaldılması.
Proseslər: kanarya relizləri, 4-8 həftədə bir dəfə sürüklənmə zamanı avtomatik təlim, guardrails ilə A/B-test müdaxilələri.

9) Lokalizasiya və mədəni kontekst

Ton və linqvistik markerlər ölkə və dillərə görə fərqlənir. Yerli lüğətlərə və yerdəyişmələrin yoxlanılmasına ehtiyac var. Audio üçün - aksentlər və tembrlər üçün kalibrləmə. Davranış metrikləri üçün - yerli vərdişlərin (iş növbələri, saat zonaları, idman mövsümləri) nəzərə alınması.

10) Yol xəritəsi (8-10 həftə)

Həftələr 1-2: məlumatların inventarlaşdırılması, DPIA, modalların seçimi (default - davranış).

Həftələr 3-4: prototip fich və əsas model (GBM + qaydalar), oflayn qiymətləndirmə, dizayn izahları.

5-6 həftələr: real-time inteqrasiya, CS paneli, CRM qaydaları, mətn modulu (opt-in).

Həftələr 7-8: pilot 10-20% trafik, A/B müdaxilələri, eşik tənzimləmə.

9-10 həftələr: rollout, dreyf və fairness monitorinqi, RG-metriklər haqqında ictimai hesabat.

11) Buraxılış yoxlama vərəqləri

Hüquq və məxfilik:

Opt-in/opt-out, şəffaflıq siyasəti
DPIA, minimallaşdırma, yerli həssas məlumatların emalı
RBAC və giriş jurnalları

Məlumat/Modellər:

Davranış xüsusiyyətləri və vaxt pəncərələri
Case kartında Explainability
Kohortlarda Fairness monitorinqi

Əməliyyatlar/Məhsul:

CS/RG paneli + hərəkət playbukları
CRM L3-L5 üçün promo məhdudlaşdırıcılar
Event qaynaq həlləri

12) Tez-tez səhvlər

Hipervazivlik: ehtiyac olmadan «üzdən duyğuları oxumaq» cəhdi → hüquqi/etik risklər.

Black-box heç bir izahat olmadan: tənzimləyici və oyunçu qarşısında həlləri qorumaq mümkün deyil.

Bütün ölkələr/dillər üçün eyni həddlər: təhrif və saxta işlənmə.

Hərəkətsiz deteksiya: sürətli, playbook yoxdur → fayda və etimad itkisi.

«Əlavə» məlumatların toplanması: sızma və cərimələr riski - yalnız RG üçün lazım olanı saxlayın.

AI «markalamağa» deyil, saxlamağa kömək edir: yorğunluq, kədərlənmə və ya distress göstərən nümunələri görür və vaxtında yumşaq özünü nəzarət vasitələri - limitlər, fasilələr, kömək təklif edir. Uğur yalnız davranış siqnallarına və başa düşülən hərəkətlərə diqqət yetirməklə etika, şəffaflıq və məxfiliyə riayət etməklə mümkündür. Sonra texnologiya həqiqətən zərəri azaldır və oyunçuların məsuliyyətli operatora inamını gücləndirir.