Чӣ гуна AI модератсияи ҷомеаро автоматӣ мекунад

Модератсияи AI - на "манъи сеҳрнок Hummer" ва системаи идорашаванда: сиёсат → моделҳое, ки → плейбук → ченакҳо → такмил дода мешаванд. Ҳадаф фазои бехатар ва эҳтиромона бидуни аз даст додани "зинда" -и иртибот ва бо даъвати шаффоф аст.

1) Принсипҳои асосии модератсияи масъули AI

1. Қоидаҳо дар назди моделҳо. Кодекси давлатӣ бо намунаҳои қонуншиканӣ ва ҷадвали таҳримот.

2. Одам-дар-давр. Амалҳои худкор - танҳо мулоим; ченакҳои вазнин пас аз санҷиши модератор.

3. Шаффофият. Плакат "паёме, ки бо алгоритм тибқи параграфи X.Y пинҳон шудааст", канали аппелятсионӣ (SLA ≤ 72 соат).

4. Кам кардани маълумот. Мо танҳо он чизеро, ки барои амният лозим аст, нигоҳ медорем; PII - зери филтр.

5. Бозии масъул (агар мувофиқ бошад). Ботҳо хавфро водор намекунанд, афзалият кӯмак ва маҳдудият аст.

2) Вазифаҳои AI беҳтарин баста мешаванд

Заҳролудшавӣ/нафрат/таҳдидҳо (тасниф + ҳадди ниҳоӣ).

Спам/фишинг/пайвандҳои шубҳанок (қоидаҳо + эътибори URL + аномалия).

Обхезӣ ва обхезӣ (мавзӯъ/ният § равона кардани мулоим ба канали дуруст).

PII/маълумоти ҳассос (муайянкунӣ ва худкор иваз/пинҳон кардан).

Ҳамлаҳои ҳамоҳангшуда/ботнетҳо (таҳлили шабакавӣ/рафторӣ).

Хулосаи риштаҳо (хулоса барои модератор ва ислоҳи зуд).

3) Модератсияи қубур: аз ҳодиса ба амал

1. Ҷамъоварӣ: паёмҳо/замимаҳо/метамаълумот (канал, муаллиф, вақт), шикоятҳои корбар.

2. Коркарди пешакӣ: нормализатсияи забон/emoji, deduplication, қоидаҳои асосӣ (stopwords/links).

3. Таҳлили моделӣ:

заҳролудшавӣ/нафрат/таҳқир, PII/фишинг/URL-ҳои шубҳанок, ният/хомӯш, эҳсосот (хашм/изтироб), хатари ҳамоҳангӣ (сигналҳои рафторӣ ва графикӣ).
4. Ҳалли китоби Playbook: ченаки нарм → авҷ гирифтан → баррасии дастӣ.
5. Иртибот: огоҳӣ ба корбар бо истинод ба қоида ва шикоят.
6. Фикру мулоҳизаҳо: аломатгузории парвандаҳои душвор → омӯзиши иловагӣ/калибрченкунӣ.

4) Қабати намунавӣ (амалӣ ва фаҳмо)

Таснифоти заҳролудшавӣ/зарба/нафрат дар трансформаторҳои паймоне, ки ба оҳанги шумо санҷида шудаанд.

PII/фишинг/спам: мунтазам + луғатҳо + баланд бардоштани градиент аз ҷониби URL/намунаҳо.

Мавзӯъҳо/offtop: BERT popic/кластерӣ барои аломатҳои "ба куҷо кӯчидан".

Эҳсосот/шиддат: барчаспҳои ёрирасон барои афзалият додан ба барраси.

Аномалияҳо/ботнетҳо: Ҷудокунии ҷангал/Пайғамбар + ченакҳои графикӣ (Саҳифаи Rank/Betweenness).

Фаҳмонидан: SHAP/хусусияти аҳамияти + сабти ҳалли.

5) Китобҳои ченакҳо: аз нарм то сахт

Нарм (мошин, бе шахс):

Паёмро аз ҳама ғайр аз муаллиф пинҳон кунед; ислоҳотро пешниҳод кунед.
PII худкор ба "[пинҳон]".
Интиқоли худкор ба канал дар мавзӯъ/пинги модератор-ментор.
Меъёри маҳдудият: таъхири ҷойгиркунӣ/аксуламалҳо бо дақиқаҳои N.

Миёна (баррасии худкор + пас аз факт):

Модератсияи сояҳо (ба муаллиф намоён аст, бо дигарон пинҳон карда мешавад) то санҷиш.
Пардаи муваққатӣ 15-60 дақиқа барои такрори заҳролудшавӣ.
Маҳдудияти пайвандҳо/васоити ахбори омма барои санҷиш.

Сахт (танҳо пас аз модератор):

Мут/манъи мӯҳлат; бозхонди ҳуқуқи иштирок дар қуръакашӣ.
Нест кардани паёмҳо/бекор кардани ҷоизаҳо дар сурати вайрон кардани шартҳои таблиғотӣ.

6) Қолабҳои иртибот (кӯтоҳ ва эҳтиромона)

Нест кардан/Пинҳон кардан:

калид> Паёми пинҳоншуда дар банди 3. 2 Кодекс (ҳамлаҳои шахсӣ). Лутфан ислоҳ кунед ва дубора фиристед. Агар шумо розӣ набошед - муроҷиатҳо дар # appeals (ҷавоб ≤ 72 соат).

Offtop → равона кардан:

💡 Мисли мавзӯи беҳтар барои # payments садо медиҳад. Мо ба он ҷо кӯчидем. Инҳо қоидаҳои паймоиш кардани каналҳо мебошанд.

PII/Махфият:

💡 Мо дар паём маълумоти шахсии худро пинҳон кардем (қоидаи 4). 1). Агар лозим бошад, постро бе PII таҳрир кунед.

Фишинг/пайвандҳо:

💡 Пайванд ҳамчун хатарнок қайд карда шудааст (қоидаи 5. 4). Лутфан доменро тасдиқ кунед ё URL-ро нест кунед.

7) Панели панелҳо ва огоҳиҳо (ҳар рӯз/ҳафта)

Ҳаррӯза:

Toxicity/1000 иттилоот, суръати спам, муайянкунии PII.
Риштаҳои "сӯзондан" (хатар: баланд), вақт ба амали аввалини mod.
Ҳиссаи қарорҳои худкор, ҳиссаи онҳое, ки мавриди баҳс қарор доранд.

Ҳафта:

FPR/FNR аз рӯи синф (заҳролудшавӣ, offtop, спам).
Муроҷиатҳои CSAT, маънои вақти таҳлил, p95 аз ҷониби SLA.
Қонунвайронкуниҳои такрорӣ (такрорӣ), самаранокии китобҳои бозӣ.
Тамоюлҳо аз рӯи мавзӯъ/канал, харитаи соати заҳролуд.

8) Нишондиҳандаҳо ва ҳадафҳои сифат

Модератсияи SLA: медиан ≤ 5 дақиқа (рам), p95 ≤ 30 дақ.

Дақиқии заҳролудшавӣ: F1 ≥ 0. 85 аз рӯи намунаҳои худ, FPR ≤ 2% аз намунаҳои "холис".

Муроҷиатҳо CSAT: ≥ 4. 2/5, ҳиссаи амалҳои бекоршуда ≤ 10%.

Паст кардани садо: 30% спам, 25% заҳролудшавӣ/1000 дар 90 рӯз.

Таъсир ба таҷриба: вақти вокуниши аввал ба ↓ нав, таносуби паёмҳои созанда

9) харитаи роҳсозии 90-рӯза

Рӯзҳои 1-30 - Бунёд

Кодекс, ҷадвали таҳримот, AI ва сиёсати шикоятҳоро қабул/нашр кунед.

Пайваст кардани коллексияи рӯйдодҳо; Даргиронидани филтрҳои асосӣ (калидҳои спам/PII/tox).

AI-ро дар ҳолати "фаврӣ" оғоз кунед (бе санксияҳои автоматӣ), регистрро танзим кунед.

Панели мини: заҳролудшавӣ/спам/PII, SLA, риштаҳои "сӯзондан".

Рӯзҳои 31-60 - нимтайёр

Фаъол кардани амалҳои мулоими худкор: пинҳон, PII худкор дуруст, меъёри маҳдудият, интиқоли offtop.

Омӯзиши иловагии моделҳо бо истифодаи намунаҳои маҳаллӣ, калибрченкунии ҳудудҳо.

Ҷорӣ кардани огоҳиҳои аномалия/ботнет; оғози мусбатҳои бардурӯғи ҳафтаина.

Рӯзҳои 61-90 - миқёс ва устуворӣ

Модератсияи соя ва лойи муваққатиро илова кунед (бо баррасии пас аз инсон).

Якҷоя кардани қарорҳои mod ба kanban (кӣ/чӣ/кай/чаро).

Ҳисоботи семоҳа "пеш аз/баъд": заҳролудшавӣ/1000, спам, муроҷиатҳои CSAT, SLA.

10) Рӯйхати санҷишҳо

Омодагӣ ба роҳандозӣ

Кодекс бо мисолҳо + ҷадвали таҳримот.
# appeals канал ва шакли вокуниш.
Сиёсати AI/махфият нашр карда шуд.
Нишон додани 500-2,000 намунаҳои маҳаллӣ барои таълими иловагӣ.
Панели панел ва сабти модератсия фаъол аст.

Сифат ва ахлоқ

Инсон-дар-давр барои чораҳои сахт.
SHAP/аҳамияти хусусият барои фаҳмондадиҳӣ.
Сифати дрифт/модели маълумотро назорат кунед.
Хатогиҳои ҳафтаинаи ретро ва навсозиҳои ҳадди аққал.
Чаҳорчӯбаи RG ва кам кардани маълумот иҷро карда мешаванд.

11) Хатогиҳои зуд-зуд ва чӣ гуна аз онҳо канорагирӣ кардан

Санксияҳои худкор "дар роҳ. "Аввал маслиҳатҳо/ченакҳои нарм, баъд шиддат.

Ҳадди ягона "барои ҳама чиз. "Аз рӯи канал/забон/мундариҷа танзим кунед.

Қуттии сиёҳ. Бе фаҳмондадиҳӣ сифати муроҷиатҳо ва боварӣ меафтад.

Ягон мусбати бардурӯғи ретро вуҷуд надорад. Интиқоли маълумот ногузир аст - сикли доимии такмил лозим аст.

Маҳаллисозӣ нодида мегирад. Jargon/юмор/хусусиятҳои минтақавӣ моделҳоро бидуни омӯзиши иловагӣ мешикананд.

12) Мини-FAQ барои мустаҳкамкунӣ

Оё AI одамонро манъ мекунад?

Не, ин тавр нест. Худкор - танҳо ченакҳои нарм. Сахт - пас аз санҷиши модератор.

Чӣ тавр муроҷиат кардан мумкин аст?

Дархостро дар # appeals гузоред. Мо пеш аз 72 соат ҷавоб медиҳем ва қарорро шарҳ медиҳем.

Кадом маълумот таҳлил карда мешавад?

Танҳо метамаълумоти мундариҷа/паём барои амният лозим аст. Маълумоти шахсӣ - ҷамъоварӣ накунед/нашр накунед.

Модератсияи AI ин "ҷуфти дуввуми дастаҳо" -и даста аст: он зуд заҳролудшавӣ, спам, PII ва шиддатро пай мебарад ва одамон қарорҳои нозук қабул мекунанд. Бо қоидаҳои возеҳ, муроҷиати шаффоф ва интизоми такмил, шумо садо ва муноқишаро коҳиш медиҳед, аксуламалро суръат мебахшед ва фазои эҳтиромро нигоҳ медоред - овози зиндаи ҷомеаро аз даст надиҳед.