Hejt online jest często bagatelizowany jako coś, z czym użytkownicy po prostu muszą się pogodzić: „nie czytaj komentarzy”, „zignoruj to”, „i tak nic się z tym nie da zrobić”. Badania mówią jednak co innego – i prowadzą do głębszego, bardziej niewygodnego pytania: co jeśli toksyczne treści są nie tylko problemem platform społecznościowych, ale też częścią tego, co czyni je dochodowymi?
Eksperyment terenowy przeprowadzony przez Beknazara-Yuzbasheva, Jiméneza-Durána, McCrosky’ego i Stalinski sprawdził, co się dzieje, gdy toksyczne treści są automatycznie ukrywane przed użytkownikami Facebooka, Twittera/X i YouTube’a przez sześć tygodni. Badacze stwierdzili, że ograniczenie ekspozycji na toksyczne treści zmniejszyło również czas spędzany na platformach, konsumpcję treści i liczbę wyświetleń reklam (Beknazar-Yuzbashev i in., 2025).
To ma znaczenie, ponieważ platformy oparte na reklamach zarabiają na uwadze użytkowników. Od platform oczekuje się, że będą chronić użytkowników przed krzywdą, ale ich model biznesowy często zależy od utrzymywania ludzi zaangażowanych jak najdłużej. To rodzi konflikt interesów: toksyczne treści mogą szkodzić dobrostanowi użytkowników, jednocześnie zwiększając uwagę, którą platformy monetyzują.
Innymi słowy, toksyczne treści nie są zdrowe, bezpieczne ani dobre dla zdrowia psychicznego. Ale mogą być angażujące – i właśnie to jest problemem.
„Angażujące” to jednak nie to samo, co „wartościowe”. Toksyczne treści mogą podbijać liczby na dashboardzie, jednocześnie osłabiając społeczność, która za nimi stoi – tę różnicę opisujemy szerzej w tekście o tym, czy moderacja hejtu naprawdę obniża zaangażowanie.
Eksperyment: co się dzieje, gdy ukrywa się toksyczne treści?
Beknazar-Yuzbashev i współautorzy przeprowadzili wcześniej zarejestrowany eksperyment terenowy z użyciem rozszerzenia przeglądarki na Facebooku, Twitterze/X i YouTube. Uczestnicy korzystali z rozszerzenia, które potrafiło rozpoznawać i ukrywać toksyczne treści podczas przeglądania mediów społecznościowych.
Wyniki były jednoznaczne: gdy użytkownicy widzieli mniej toksycznych treści, spędzali mniej czasu w mediach społecznościowych, konsumowali mniej treści i widzieli mniej reklam. Badacze odkryli też, że ograniczenie ekspozycji na toksyczność zmniejszało toksyczność treści tworzonych przez samych użytkowników. Innymi słowy, toksyczność nie była tylko czymś, co ludzie konsumowali – ekspozycja na nią wpływała także na to, co sami tworzyli w sieci.
Dla platformy opartej na reklamach oznacza to trudny kompromis. Jeśli ukrywanie toksycznych treści zmniejsza czas spędzany na platformie, to ograniczanie szkody może też ograniczać przychody. Treści, które szkodzą użytkownikom, mogą być tymi samymi treściami, które utrzymują ich przy przewijaniu.
Dlaczego toksyczne treści przyciągają uwagę
Z perspektywy psychologicznej ten wynik nie jest zaskakujący. Ludzka uwaga jest silnie przyciągana przez zagrożenie, konflikt i społeczne niebezpieczeństwo. Nasz układ nerwowy wyewoluował tak, by wychwytywać odrzucenie, upokorzenie, agresję i konflikty grupowe, ponieważ wykluczenie społeczne czy atak mogły być niebezpieczne.
To oznacza, że toksyczne treści często przyciągają naszą uwagę szybciej niż neutralne czy wspierające. Nienawistny komentarz, okrutna odpowiedź, publiczna kłótnia czy osobisty atak mogą aktywować uwagę nie dlatego, że sprawiają nam przyjemność w zdrowy sposób, ale dlatego, że mózg traktuje społeczne zagrożenie jako ważną informację.
Beknazar-Yuzbashev i współautorzy znaleźli też dowody na to, że toksyczne treści mogą wywoływać ciekawość, zwiększając zaangażowanie nawet wtedy, gdy zaangażowanie i dobrostan użytkownika nie są ze sobą zgodne.
Ma to znaczenie, ponieważ ludzie mogą dalej czytać toksyczne komentarze, nawet gdy te komentarze pogarszają ich samopoczucie. Mogą czuć złość, lęk, wstyd czy przytłoczenie – ale wciąż przewijać dalej. W tym cyklu emocjonalne cierpienie zamienia się w zaangażowanie, a zaangażowanie zamienia się w przychód.
Treści emocjonalne rozprzestrzeniają się szybciej
Eksperyment Beknazara-Yuzbasheva jest spójny z szerszymi badaniami nad treściami nacechowanymi emocjonalnie. Brady i współautorzy przeanalizowali setki tysięcy wiadomości w mediach społecznościowych dotyczących spolaryzowanych tematów politycznych i stwierdzili, że język moralno-emocjonalny zwiększał rozprzestrzenianie się wiadomości. W ich badaniu każde dodatkowe słowo o charakterze moralno-emocjonalnym wiązało się ze wzrostem rozprzestrzeniania o około 20% (Brady i in., 2017).
Nie oznacza to, że każda emocjonalna treść jest toksyczna. Język emocjonalny może też wspierać solidarność, troskę, aktywizm i zmianę społeczną. Pokazuje to jednak, że środowiska mediów społecznościowych często premiują intensywność emocjonalną.
A toksyczne treści są często intensywne emocjonalnie. Oburzenie, upokorzenie, obrzydzenie, złość i publiczne zawstydzanie mogą generować uwagę. W systemach opartych na reklamach uwaga nie jest neutralnym wskaźnikiem. Jest monetyzowana.
Zaangażowanie to nie to samo co dobrostan
Większość dużych platform społecznościowych zbudowana jest wokół reklam. Ich podstawowym celem ekonomicznym niekoniecznie jest maksymalizacja dobrostanu użytkowników, ale maksymalizacja uwagi, czasu spędzonego na platformie, interakcji i wyświetleń reklam.
Oczywiście platformom zależy też na bezpieczeństwie, reputacji, regulacjach i publicznym zaufaniu. Ale ich model finansowy wciąż zależy od utrzymywania uwagi użytkowników. Jeśli użytkownicy spędzają mniej czasu na przewijaniu, widzą mniej reklam. Jeśli widzą mniej reklam, platforma może stracić przychody.
Nie oznacza to, że każda platforma chce, by ludzie cierpieli. Ale oznacza to, że system nie jest neutralny. Model biznesowy oparty na uwadze zawsze będzie miał trudność z pełnym priorytetyzowaniem zdrowia psychicznego, gdy samo cierpienie może zwiększać uwagę.
Ten konflikt był też badany teoretycznie. Beknazar-Yuzbashev i Jiménez-Durán argumentują, że gdy szkodliwe treści zwiększają zaangażowanie, platformy oparte na reklamach mogą mieć motywację do pokazywania ich więcej, niż byłoby optymalne dla dobrostanu użytkowników (Beknazar-Yuzbashev i Jiménez-Durán, 2024).
To kluczowy punkt: użytkownik może angażować się bardziej, bo jest poinformowany, połączony z innymi lub rozbawiony, ale też dlatego, że jest oburzony, zagrożony, zaniepokojony lub uwikłany w konflikt. Zaangażowanie to nie to samo co dobrostan. Czas spędzony to nie to samo co wartość.
Hejt online to powtarzalna ekspozycja psychologiczna
W ZenFeed wierzymy, że hejt online nie powinien być traktowany jako drobna niedogodność czy prosta kategoria moderacyjna. To powtarzalna ekspozycja psychologiczna.
Kiedy ktoś widzi toksyczne komentarze raz za razem, zwłaszcza komentarze o swoim ciele, tożsamości, pracy, płci, orientacji seksualnej, pochodzeniu etnicznym, wyglądzie, przekonaniach czy życiu osobistym, szkoda może się kumulować. Pojedynczy okrutny komentarz może zaboleć, ale setki okrutnych komentarzy mogą zmienić sposób, w jaki dana osoba postrzega samą siebie.
Badania nad cyberprzemocą i internetową wiktymizacją konsekwentnie wiążą te doświadczenia z negatywnymi skutkami dla zdrowia psychicznego, w tym depresją, lękiem, niską samooceną, cierpieniem emocjonalnym i myślami samobójczymi wśród nastolatków i młodych ludzi (Kowalski i in., 2014; Keles i in., 2020; Macrynikola i in., 2021). Zalecenie amerykańskiego Surgeon General z 2023 roku również podkreśliło cyberprzemoc, nękanie i ekspozycję na szkodliwe treści jako istotne zagrożenia w cyfrowym środowisku młodych ludzi (Office of the Surgeon General, 2023) – to zagrożenie opisujemy szerzej w tekście o tym, dlaczego hejt tak mocno dotyka dzieci i młodzież.
Ma to szczególne znaczenie dla młodych ludzi, twórców, aktywistów, osób publicznych, sportowców, kobiet, osób LGBTQIA+, społeczności rasizowanych i wszystkich, którzy są wielokrotnie celem ataków online. Układ nerwowy nie mówi po prostu: „to tylko internet”. Ciało może odbierać atak online jako realne zagrożenie społeczne.
„Po prostu to zignoruj” nie uwzględnia tego, jak działa mózg
Ludzie często mówią ofiarom hejtu online, żeby przestały czytać komentarze, zablokowały agresywne konta albo wyrobiły sobie grubszą skórę. Ale ta rada przenosi ciężar na osobę, która doznaje krzywdy. Wymaga od użytkownika, by stał się bardziej odporny, zamiast pytać, dlaczego środowisko może pozostać szkodliwe.
Z klinicznego punktu widzenia „po prostu to zignoruj” nie wystarcza. Ludzie są zaprogramowani, by wychwytywać odrzucenie społeczne, upokorzenie i wykluczenie, ponieważ przynależność jest jedną z podstawowych potrzeb psychologicznych. Dotyczy to szczególnie nastolatków i młodych dorosłych, których tożsamość, obraz siebie i regulacja emocji wciąż się kształtują.
Jeśli młody twórca codziennie czyta nienawistne komentarze o swoim ciele, mogą one zostać zinternalizowane. Jeśli sportowiec jest atakowany po każdych zawodach, widoczność może zacząć wydawać się niebezpieczna. Jeśli aktywista otrzymuje groźby lub skoordynowane ataki, może przestać wypowiadać się publicznie. Hejt online nie znika, gdy ekran gaśnie.
Dlaczego narzędzia platform nie wystarczają
Większość platform oferuje już funkcje bezpieczeństwa, takie jak blokowanie, zgłaszanie, wyciszanie, ukryte słowa, etykiety ostrzegawcze i automatyczna moderacja. Te narzędzia są przydatne, ale często mają charakter reaktywny i zależą od tego, czy użytkownik podejmie działanie już po tym, jak doszło do krzywdy.
W wielu przypadkach osoba musi najpierw zobaczyć nadużycie, zanim będzie mogła je zgłosić. Musi przeczytać komentarz, odczuć jego wpływ, zdecydować, co zrobić, i powtarzać ten proces raz za razem. To emocjonalnie wyczerpujące.
Dla twórców, organizacji NGO, szkół, społeczności zajmujących się zdrowiem psychicznym, organizacji młodzieżowych i osób publicznych ręczna moderacja często nie wystarcza. Potrzebują ochrony, która jest bardziej proaktywna – narzędzi, które ograniczają ekspozycję, zanim toksyczne komentarze staną się częścią czyjegoś środowiska emocjonalnego, o czym pisaliśmy w tekście o tym, dlaczego sekcje komentarzy w ogóle stają się toksyczne.
Problem jest większy niż siła woli jednostki
Powinniśmy przestać traktować hejt online jako wyłącznie kwestię indywidualnej odporności. Problemem nie jest to, że ludzie są zbyt wrażliwi. Problemem jest to, że środowiska cyfrowe są często projektowane tak, by maksymalizować zaangażowanie, a nie bezpieczeństwo psychologiczne.
Kiedy platformy optymalizują pod kątem uwagi, mogą niezamierzenie premiować oburzenie, konflikt, upokorzenie, eskalację emocjonalną, ataki oparte na tożsamości i publiczne zawstydzanie. Badania nad językiem moralno-emocjonalnym pokazują, że nacechowane emocjonalnie treści mogą rozprzestrzeniać się szerzej, a badania nad toksycznymi treściami pokazują, że ograniczanie ekspozycji na nie może zmniejszać czas spędzany na platformie, konsumpcję treści i liczbę wyświetleń reklam (Brady i in., 2017; Beknazar-Yuzbashev i in., 2025).
Razem te odkrycia wskazują na trudną rzeczywistość: treści, które szkodzą ludziom, mogą być jednocześnie tymi, które dobrze „działają”. A jeśli toksyczne treści dobrze działają, platformy mogą nie mieć wystarczającej motywacji ekonomicznej, by agresywnie je usuwać. Dlatego potrzebujemy niezależnych, opartych na wiedzy o zdrowiu psychicznym warstw ochrony.
Stanowisko ZenFeed: bezpieczeństwo nie powinno zależeć od motywacji platform
ZenFeed powstał z prostego przekonania: ludzie nie powinni być zależni wyłącznie od platform reklamowych w ochronie swojego zdrowia psychicznego.
Jeśli platforma ma finansową motywację, by utrzymywać użytkowników zaangażowanych, to użytkownicy, twórcy i organizacje potrzebują narzędzi, których głównym celem nie są przychody reklamowe, lecz ochrona. ZenFeed pomaga twórcom, organizacjom i społecznościom ograniczać ekspozycję na hejt online i toksyczne komentarze.
Naszym celem nie jest tworzenie cenzury. Naszym celem jest ograniczanie krzywdy. Jest różnica między niezgodą a nadużyciem, między krytyką a upokorzeniem, między debatą a odczłowieczaniem oraz między wolnością wypowiedzi a powtarzalnym atakiem psychologicznym.
Moderacja to ochrona zdrowia psychicznego
Moderacja komentarzy jest często omawiana jako proces techniczny, ale to również ochrona zdrowia psychicznego. Każda sekcja komentarzy ma swój klimat emocjonalny. Mówi ludziom, czy są bezpieczni, czy przynależą, czy mogą się wypowiadać i czy zostaną zaatakowani.
Dla twórców ten klimat wpływa na to, czy będą dalej pojawiać się online. Dla młodych ludzi wpływa na to, jak postrzegają samych siebie. Dla organizacji, aktywistów i NGO wpływa na to, czy ich społeczność stanie się wspierająca czy wroga. Bezpieczniejsza sekcja komentarzy nie jest po prostu czystsza. Jest psychologicznie bezpieczniejsza.
Toksyczność nie powinna być ceną widoczności
Jedną z najbardziej szkodliwych idei w internecie jest przekonanie, że hejt jest po prostu ceną widoczności. Od twórców, osób publicznych, kobiet, aktywistów, sportowców i młodych ludzi często oczekuje się tolerowania nadużyć, jakby były nieuniknioną częścią bycia online.
Ale ta logika normalizuje krzywdę. Widoczność nie powinna wymagać psychologicznej ekspozycji na nadużycia. Młodzi artyści nie powinni musieć znikać, by chronić swoje zdrowie psychiczne, nastolatkowie nie powinni musieć znosić wstydzenia za wygląd jako części dorastania online, a twórcy nie powinni musieć czytać setek okrutnych komentarzy, żeby pozostać w kontakcie ze swoją publicznością. Hejt online nie powinien być ceną uczestnictwa.
Co to oznacza dla organizacji
Wyniki badań Beknazara-Yuzbasheva i współautorów są szczególnie istotne dla organizacji pracujących z młodymi ludźmi, zdrowiem psychicznym, edukacją, twórcami lub wrażliwymi społecznościami.
Jeśli toksyczne treści utrzymują ludzi zaangażowanych, nie możemy zakładać, że platformy same w pełni rozwiążą ten problem. Organizacje powinny zastanowić się, czy ich społeczności są narażone na szkodliwe komentarze, czy młodzi ludzie czytają toksyczne odpowiedzi, zanim zauważą to dorośli, i czy nie polegają zbyt mocno na moderacji na poziomie platformy. Dla NGO, szkół, inicjatyw zdrowia publicznego, twórców, klinicystów i marek bezpieczeństwo online nie jest już opcjonalne. Jest częścią należytej staranności.
Podsumowanie
Jeśli chcemy zdrowszych przestrzeni cyfrowych, potrzebujemy narzędzi i systemów, które nie są budowane wyłącznie wokół uwagi. Sukces nie powinien być mierzony tylko czasem spędzonym, liczbą komentarzy, wyświetleń, kliknięć czy odsłon reklam. Powinien być też mierzony ograniczoną krzywdą, zapobieżoną ekspozycją na toksyczność, zmniejszonym obciążeniem moderacyjnym i ochroną społeczności.
Eksperyment Beknazara-Yuzbasheva i współautorów pokazuje, dlaczego tego problemu nie można pozostawić wyłącznie platformom reklamowym. Jeśli ograniczanie toksycznych treści oznacza, że użytkownicy spędzają mniej czasu online i widzą mniej reklam, to platformy stają w obliczu strukturalnego konfliktu między dobrostanem użytkowników a przychodami. Dlatego istnieje ZenFeed: żeby dodać warstwę ochrony, ograniczyć szkodliwą ekspozycję, wspierać bezpieczniejsze społeczności i uczynić przestrzenie cyfrowe mniej wrogimi, a bardziej ludzkimi.
Toksyczne treści mogą być dochodowe. Ale cena za to nie powinno być zdrowie psychiczne ludzi.
Źródła
- CESifo Working Paper No. 11644. Beknazar-Yuzbashev, G., Jiménez-Durán, R., McCrosky, J., & Stalinski, M. „Toxic Content and User Engagement on Social Media: Evidence from a Field Experiment.”
- AEA Papers and Proceedings. Beknazar-Yuzbashev, G., & Jiménez-Durán, R. „A Model of Harmful Yet Engaging Content on Social Media.”
- PNAS. Brady, W. J., Wills, J. A., Burkart, D., Jost, J. T., & Van Bavel, J. J. „Emotion Shapes the Diffusion of Moralized Content in Social Networks.”
- Psychological Bulletin. Kowalski, R. M., Giumetti, G. W., Schroeder, A. N., & Lattanner, M. R. „Bullying in the Digital Age: A Critical Review and Meta-Analysis of Cyberbullying Research Among Youth.”
- International Journal of Adolescence and Youth. Keles, B., McCrae, N., & Grealish, A. „A Systematic Review: The Influence of Social Media on Depression, Anxiety and Psychological Distress in Adolescents.”
- Computers in Human Behavior Reports. Macrynikola, N., Auad, E., Menjivar, J., & Miranda, R. „Does Social Media Use Confer Suicide Risk? A Systematic Review of the Evidence.”
- U.S. Department of Health and Human Services. Office of the Surgeon General. „Social Media and Youth Mental Health: The U.S. Surgeon General’s Advisory.”