Najłatwiej wytłumaczyć, jak działa autonomiczna moderacja, na konkretnym przykładzie zamiast na abstrakcji. Poniższy zrzut ekranu pochodzi z prawdziwego panelu Moderacja w ZenFeed – dane autorów są zanonimizowane, ale treść komentarzy, wyniki toksyczności i decyzje są dokładnie takie, jakie zapadły na koncie klienta.
To cztery komentarze pod jednym postem strony STOP Cham Szczecin – organizacji zajmującej się tematem uspokojenia ruchu i infrastruktury pieszej, czyli tematem z definicji wywołującym emocje i spory. Dokładnie w takich miejscach różnica między “ostrą krytyką” a “hejtem” bywa najtrudniejsza do wyłapania.
Komentarz, który system usunął sam
Najwyższy wynik toksyczności w tej czwórce – 92% – dostał komentarz: “JPRDL… co to za dureń się produkuje, 30 km/h to na swojej wiosce sobie jeździj błaźnie…. 🤣” To bezpośrednia wyzwiska bez cienia niejednoznaczności – i dokładnie dlatego przekroczyła próg automatycznego usuwania. Komentarz zniknął, zanim ktokolwiek z zespołu strony go zobaczył, a autor dodatkowo trafił na czarną listę (oznaczenie “Zablokowany”) – jego kolejne komentarze na tej stronie będą odrzucane automatycznie, bez ponownej analizy.
Komentarz, który usunął moderator
Drugi komentarz, z wynikiem toksyczności 75%, brzmiał: “Ja tam prawie wcale nie widzę pieszych. Wniosek, trzeba rozkopać chodniki. Problemem są zbyt szerokie chodniki. Wniosek jest też taki, autor ma wybujałe ego odwrotnie proporcjonalnie do inteligencji.” Pod pozorem “logicznego wywodu” komentarz kończy się personalnym atakiem na autora posta – ale 75% mieści się poniżej progu automatycznego usuwania, więc system go nie ruszył sam z siebie. Komentarz został oznaczony jako wymagający uwagi (żółty wskaźnik “Ocena: 75%”) i pozostał widoczny do momentu, aż przejrzał go moderator w panelu i ręcznie zdecydował o usunięciu.
To właśnie różnica między żółtym a czerwonym w panelu: żółty znaczy “to wygląda na graniczny przypadek, sprawdź go”, czerwony znaczy “już się tym zająłem”.
Dwa komentarze, które zostały
Trzeci komentarz, z wynikiem zaledwie 10%, dotyczył tego samego tematu: “Na ul. Wojska Polskiego i Jagiellońskiej wymienili płyty chodnikowe i położyli kostkę na jezdni 2 lata temu i już są dziury! Czy wykonawca nie daje żadnej gwarancji na swoją prace?” – konkretna, rzeczowa krytyka wykonawcy robót drogowych. Zero ataku na kogokolwiek, więc mimo negatywnego wydźwięku komentarz nie zbliżył się nawet do progu wymagającego przeglądu.
Czwarty, z wynikiem 30%, jest ciekawszy: “Szkoda słów, moja mama na tych chodnikach pięknie równych potknęła się i upadła na twarz. Nikt nie myśli o starszych, schorowanych ludziach :/ Grunt, że auta po dziurach nie jeżdżą.” Ton jest gorzki, a “pięknie równych” to wyraźny sarkazm – ale sarkazm skierowany na sytuację, nie na konkretną osobę. System rozpoznał tę różnicę i zostawił komentarz widoczny, mimo podniesionego rejestru emocjonalnego.
Co dokładnie odróżnia te trzy decyzje?
Nie to, czy komentarz jest krytyczny – wszystkie cztery są krytyczne wobec inwestycji drogowej albo autora posta. O wyniku decyduje to, czy krytyka przechodzi w atak na konkretną osobę. Próg automatycznego usuwania decyduje tylko o jednym: kto podejmuje ostateczną decyzję. Komentarz z wynikiem 92% zawiera obelgę bez żadnej otoczki – trudno się tu pomylić, więc system usuwa go sam. Komentarz z wynikiem 75% też atakuje personalnie, ale w formie bardziej zawoalowanej (fałszywy “wywód logiczny”), więc zamiast ryzykować błędną automatyczną decyzję, system oddaje ją człowiekowi. Komentarze 3 i 4 – nawet ten z gorzkim, sarkastycznym tonem – krytykują sytuację albo wykonawcę, nie atakują nikogo personalnie, więc nie zbliżają się nawet do progu wymagającego przeglądu.
To dokładnie ta granica, której nie da się opisać listą zakazanych słów: żadne z tych czterech zdań nie zawiera “klasycznego” wulgaryzmu poza jednym przekleństwem w komentarzu z wynikiem 92%. Wynik zależy od kontekstu i intencji całej wypowiedzi, a nie od pojedynczych słów – o czym pisaliśmy szerzej w tekście o ręcznej i automatycznej moderacji.
Co oznaczają liczby i kolory w panelu?
Wynik toksyczności to szacowana przez model pewność, że komentarz łamie zasady. Panel koduje go trzema kolorami, które odpowiadają trzem poziomom autonomii decyzji:
- Stonowany (szary) – komentarz zostaje widoczny bez dodatkowej uwagi. Nadal masz przycisk Usuń na stałe, jeśli mimo wszystko chcesz go ręcznie usunąć.
- Żółty – komentarz przekracza próg wymagający ludzkiej weryfikacji, ale nie próg automatycznego usuwania. Zostaje widoczny do czasu ręcznej decyzji moderatora.
- Czerwony – komentarz przekracza próg automatycznego usuwania i znika bez udziału człowieka.
Oznaczenie Zablokowany przy autorze oznacza, że trafił na czarną listę – jego przyszłe komentarze będą automatycznie odrzucane bez ponownej analizy.
Usuwanie to nie jedyna opcja
Wszystkie decyzje z tego przykładu – czy podjęte automatycznie, czy ręcznie przez moderatora – kończą się usunięciem komentarza. To efekt konkretnej decyzji, nie jedyna dostępna akcja: obok “Usuń” moderator (albo konfiguracja konta) może wybrać “Ukryj” – komentarz znika z widoku dla innych odwiedzających, ale jego autor nadal widzi go u siebie, bez świadomości, że nikt inny go już nie widzi. To łagodniejszy wariant: przy fałszywym trafieniu nie dochodzi do konfrontacji ani poczucia bycia ocenzurowanym, bo z perspektywy autora komentarz po prostu tam jest.
To, czy domyślną akcją dla danego progu jest “Usuń” czy “Ukryj”, to osobne ustawienie konfiguracyjne konta – niezależne od samego progu toksyczności, który tylko decyduje, kiedy ta akcja się uruchamia.
Dlaczego to ma znaczenie dla NGO i marek?
Organizacje, które poruszają tematy społecznie zapalne – infrastruktura, polityka lokalna, prawa zwierząt, klimat – dostają dokładnie taki miks komentarzy: część to uzasadniona, ostra krytyka, którą trzeba zostawić, żeby nie wyglądać na cenzurujących niewygodne opinie. Część to osobiste ataki, które psują dyskusję i odstraszają innych uczestników. Autonomiczna moderacja nie oznacza, że nikt nigdy nie patrzy na komentarze – oznacza, że oczywiste przypadki znikają natychmiast, bez czekania na kogokolwiek z zespołu, a przypadki graniczne trafiają do człowieka zamiast być usuwane albo zostawiane bez kontroli.
Zarejestrowane NGO mogą korzystać z pełnego zakresu funkcji ZenFeed bezpłatnie w ramach programu dla organizacji non-profit. Szczegóły cennika i limitów znajdziesz na stronie cennika.