Obraz jest warty więcej niż tysiąc nienawistnych słów, czyli o moderacji zdjęć

Wpisz obelgę w pole komentarza pod postem, a dobry filtr treści złapie ją, zanim ktokolwiek zdąży ją przeczytać. Wklej dokładnie tę samą obelgę na zrzut ekranu albo w podpis pod memem – i część filtrów przepuści ją bez mrugnięcia okiem. Nie dlatego, że treść nagle stała się mniej toksyczna. Dlatego, że większość systemów moderacji od lat czyta tekst, a obrazek to dla nich po prostu plik.

To nie jest teoretyczna ciekawostka. To udokumentowana, zbadana luka – i jeden z powodów, dla których ZenFeed od teraz transkrybuje i moderuje komentarze-obrazki dokładnie tak samo jak tekst.

Dlaczego to działa: filtr tekstowy nie widzi tekstu w obrazku

Zespół z Chinese University of Hong Kong sprawdził to eksperymentalnie. Zbudowali framework OASIS, który na podstawie 21 reguł – wyprowadzonych z analizy 5000 realnych toksycznych treści z Twittera, Instagrama, Sina Weibo i Baidu Tieba – zamienia toksyczny tekst w obraz, zachowując jego pełną wymowę (np. jako zrzut ekranu z niewielkimi zniekształceniami). Wygenerowane w ten sposób obrazki puścili przez pięć komercyjnych filtrów treści: Google Cloud, Microsoft Azure, Baidu Cloud, Alibaba Cloud i Tencent Cloud. Wynik: do 100% wygenerowanych obrazków omijało filtr, mimo że niosły dokładnie tę samą toksyczną treść, którą te same systemy bezbłędnie łapały jako zwykły tekst.

To nie jest błąd konkretnego dostawcy – to strukturalna luka. Analiza tekstu komentarza i analiza obrazu dołączonego do komentarza to historycznie dwa zupełnie osobne systemy, uruchamiane osobno, jeśli w ogóle. Jeśli obraźliwe słowo siedzi w pikselach, a nie w polu message, klasyczny filtr treści go po prostu nie widzi.

To nie tylko wulgaryzmy – memy są nośnikiem dezinformacji

Ta sama luka działa w drugą stronę: nie tylko ukrywa wulgaryzmy, ale też pozwala memom i obrazkom nieść fałszywe treści z pominięciem kontroli, jakiej podlega tekst. Przegląd systematyczny opublikowany w grudniu 2025 r. w JMIR Infodemiology (386 przeszukanych rekordów, 14 recenzowanych badań z lat 2020–2025) opisuje memy jako „emocjonalnie nośne i wizualnie skuteczne” wektory narracji zdrowotnych – skuteczne właśnie dlatego, że humor i obrzydzenie omijają krytyczne myślenie szybciej niż zdanie napisane wprost.

Badanie Dr Stephanie A. Baker i Dr Michaela Jamesa Walsha z City St George’s, University of London (luty 2024) pokazuje to na konkretnym przykładzie: popularni influencerzy antyszczepionkowi w czasie pandemii COVID-19 systematycznie używali memów do wzmacniania i monetyzowania ruchu antyszczepionkowego, przywołując przy tym ustalenie, że zaledwie kilkunastu (12) twórców odpowiadało za istotną część tego typu treści w mediach społecznościowych.

To samo narzędzie działa też jako broń polityczna – i to zorganizowana. EU DisinfoLab w raporcie „Visual assessment of CIB in disinformation campaigns” przeanalizował pod kątem 50 wskaźników skoordynowanego nieautentycznego zachowania trzy kampanie oparte w dużej mierze na obrazie: „Operation Overload”, rosyjską operację wpływu na TikToku (z DFRLab i BBC Verify) oraz kampanię QAnon „Save the Children”. To nie pojedynczy złośliwi użytkownicy – to zorganizowane operacje, dla których obrazek jest po prostu skuteczniejszym nośnikiem niż zdanie, bo trudniej go zweryfikować i łatwiej nim zalać kanał.

To trudne też dla AI – nie tylko dla listy zakazanych słów

Warto być tu uczciwym: sama automatyczna analiza obrazu też nie rozwiązuje problemu od razu. Meta AI pokazała to już w 2020 r., publikując Hateful Memes Challenge – zbiór ponad 10 tys. memów oznaczonych jako „nienawistne” lub nie, z nagrodą 100 tys. dolarów za najlepszy model. Zbiór celowo zawiera pary, w których ani sam tekst, ani samo zdjęcie nie są obraźliwe z osobna – dopiero razem. Klasyczny przykład z pracy badawczej: napis „love the way you smell today” jest neutralny, zdjęcie skunksa jest neutralne, ale połączone stają się obraźliwym żartem. Modele oceniające wyłącznie tekst albo wyłącznie obraz nie mają jak tego złapać – muszą rozumować po obu modalnościach naraz. W oryginalnym benchmarku najlepszy ówczesny model (Visual BERT COCO) osiągnął ok. 69,5% skuteczności wobec 84,7% u przeszkolonych anotatorów-ludzi. To wciąż aktywny obszar badań, nie rozwiązany problem – dokładnie tak, jak kontekst decyduje o ocenie zwykłego tekstu, kontekst decyduje też o ocenie obrazka.

Co zmieniamy w ZenFeed

Do tej pory komentarz-obrazek – zdjęcie, mem albo zrzut ekranu wysłany bez tekstu albo obok tekstu – przechodził przez ZenFeed bez żadnej analizy: skoro nie było treści tekstowej do oceny, system go po prostu pomijał. To dokładnie ta sama luka, którą opisuje badanie OASIS wyżej, tylko po naszej stronie pipeline’u, nie po stronie złośliwego użytkownika.

Teraz worker ZenFeed transkrybuje obrazek dołączony do komentarza (odczyt tekstu w oryginalnym języku plus krótki angielski opis sceny) i przepuszcza ten wynik przez dokładnie tę samą ocenę toksyczności, która ocenia zwykły tekst – łącznie z ewentualnym automatycznym ukryciem albo usunięciem. W panelu Moderacja transkrypcja i opis są widoczne pod nagłówkiem „Komentarz-obrazek”, tuż obok wyniku oceny.

Kilka konkretów: funkcja jest dostępna w planach Starter i Pro (nie w planie Bezpłatnym), kosztuje stały dodatkowy 1 kredyt za analizę obrazka – niezależnie od tego, czy akcją jest ukrycie czy usunięcie, i niezależnie od tego, czy masz włączony auto-komentarz ZenFeed. Transkrypcje i opisy podlegają tym samym zasadom retencji co tekst komentarzy: znikają po 30 dniach razem z danymi autora.

To nie jest srebrna kula – mocno zniekształcony obrazek albo ironia ukryta w samym zdjęciu wciąż są granicą dokładności modelu, dokładnie tak jak sarkazm bywa granicą dla oceny zwykłego tekstu. Ale to zamyka lukę, która dziś jest udokumentowana, zmierzona i – jak pokazuje badanie OASIS – wykorzystywana ze skutecznością sięgającą 100%.

Chcesz włączyć analizę obrazków na swojej stronie?

Analiza komentarzy ze zdjęciem działa automatycznie na kontach Starter i Pro – nie trzeba nic konfigurować. Szczegóły cen i limitów znajdziesz na stronie cennika. Zarejestrowane NGO i niezależne redakcje korzystają z pełnego zakresu ZenFeed, w tym z analizy obrazków, bezpłatnie w ramach programu dla organizacji non-profit. Pytania? Pisz na hello@zenfeed.eu.

Najważniejsze wnioski

• Wklejenie toksycznego tekstu do obrazka zamiast wpisania go w pole komentarza to udokumentowana metoda omijania filtrów – badanie OASIS (ASE 2023) osiągnęło nią do 100% skuteczności obejścia pięciu komercyjnych filtrów treści (Google, Microsoft, Baidu, Alibaba, Tencent).
• Ta sama luka działa jako nośnik dezinformacji: przegląd JMIR Infodemiology (2025) opisuje memy jako skuteczny wektor narracji zdrowotnych, a badanie City St George’s (2024) pokazuje to na przykładzie ruchu antyszczepionkowego.
• Dezinformacja obrazkowa bywa też zorganizowana – EU DisinfoLab udokumentował to na trzech konkretnych kampaniach skoordynowanego nieautentycznego zachowania.
• Sama automatyczna analiza obrazu też nie jest trywialna – Meta Hateful Memes Challenge (2020) pokazał, że najlepszy ówczesny model wciąż wyraźnie ustępował ludziom (ok. 69,5% vs 84,7% skuteczności).
• ZenFeed transkrybuje teraz komentarze-obrazki i moderuje je tą samą oceną toksyczności co tekst; funkcja dostępna w planach Starter i Pro za stały dodatkowy 1 kredyt na komentarz.

Źródła

1. Wang et al. – An Image is Worth a Thousand Toxic Words: A Metamorphic Testing Framework for Content Moderation Software (ASE 2023)
2. JMIR Infodemiology – Internet Memes as Drivers of Health Narratives and Infodemics: Integrative Review (grudzień 2025)
3. City St George’s, University of London – How memes transformed from pics of cute cats to health disinformation super-spreaders (luty 2024)
4. EU DisinfoLab – Visual assessment of CIB in disinformation campaigns
5. Meta AI – Hateful Memes Challenge and dataset
6. Kiela et al. – The Hateful Memes Challenge: Detecting Hate Speech in Multimodal Memes (NeurIPS 2020)