Moderacja donejtów: lista zakazanych słów i AI, które rozumie przeróbki

Wiadomość z donejta trafia na twój stream na żywo. Nikt jej wcześniej nie czyta, a przy włączonym TTS jest jeszcze czytana na głos. Wystarczy jeden widz, który za najniższą kwotę wyśle wyzwisko, numer telefonu albo link do „darmowych skinów”, i masz problem przy całej widowni.

Przez ostatnie tygodnie dołożyliśmy dwie warstwy moderacji: własną listę zakazanych słów i moderację AI. Obie są za darmo, bez abonamentu i bez dopłat. Przy okazji uporządkowaliśmy panel streamera, bo funkcji przybyło na tyle, że trzeba było przewijać pół strony, żeby znaleźć ustawienia paska celu. Poniżej wszystko po kolei.

Jak działa moderacja w Tippin’

Każda wiadomość i każdy nick przechodzą przez kilka filtrów, zanim cokolwiek trafi do OBS. Kolejność jest celowa: od najtańszego i najpewniejszego do najbardziej złożonego.

1. Mowa nienawiści. Najcięższe wyzwiska rasistowskie i antysemickie oraz hasła nazistowskie blokujemy zawsze, po stronie serwera, i nie da się tego wyłączyć. To nie jest twoja preferencja, tylko nasza odpowiedzialność. Lista jest celowo krótka, żeby nie blokować niewinnych słów. Szerszą mowę nienawiści, także w przeróbkach, wyłapuje moderacja AI.
2. Twoja lista zakazanych słów. Słowa, których nie chcesz na streamie, niezależnie od tego, czy są wulgarne.
3. Linki i dane kontaktowe. Wiadomość z adresem strony, e-mailem albo numerem telefonu nie trafia na stream, także gdy adres jest napisany słownie, np. „kropka pl”. Reguła jest domyślnie włączona i działa bez AI.
4. Próg kwotowy. Wiadomość pokazuje się dopiero od ustawionej przez ciebie kwoty, np. od 5 zł. To filtr na spam za grosze.
5. Moderacja AI. Opcjonalna i darmowa. Ocenia to, co przeszło wszystkie wcześniejsze filtry.
6. Filtr wulgaryzmów. Na końcu maskuje przekleństwa gwiazdkami, jeśli go włączysz.

Wiadomość zatrzymana na którymkolwiek etapie w ogóle nie trafia do przeglądarki ani do OBS. Oryginał zostaje tylko w danych wpłaty.

Własna lista zakazanych słów

Słownik wulgaryzmów zna polski i trochę angielskiego. Ale problemy na streamie to często słowa, które w żadnym słowniku wulgaryzmów nie będą: nick trolla, który wraca co tydzień, spoiler z gry, którą właśnie przechodzisz, nazwa konkurencyjnego kanału albo przekleństwo w języku, którego filtr nie zna.

Listę wpisujesz w panelu w sekcji Moderacja, oddzielając wpisy przecinkami. Kilka zasad:

• Cała wiadomość znika, a nie tylko słowo. Przy spoilerze czy nicku trolla sama maska nic nie daje, bo reszta zdania i tak zdradza treść.
• Nick z zakazanym słowem sprawia, że alert pokazuje się jako anonimowy. Kwota i wiadomość zostają.
• Gwiazdka na końcu łapie odmiany: spoiler* zatrzyma też „spoilery” i „spoilerować”.
• Fraza z kilku słów to jeden wpis, np. koniec gry.

Lista działa niezależnie od filtra wulgaryzmów i zostaje na serwerze. Nie wysyłamy jej do widżetu, bo adres widżetu łatwo przypadkiem pokazać na streamie, a lista bywa pełna nicków trolli.

Moderacja AI

Lista słów łapie to, co przewidzisz. Problem w tym, że ludzie są kreatywni. Wyzwisko z kropkami między literami, „0” zamiast „o”, brak polskich znaków, zapis fonetyczny pod TTS albo zwykła wiadomość z numerem telefonu. Na tym reguły się kończą. Dlatego dołożyliśmy moderację AI.

Włączasz ją jednym przełącznikiem na dole sekcji Moderacja. Domyślnie jest wyłączona.

Moderacja AI jest za darmo. Nie płacisz za nią abonamentu ani dopłaty, a z donejta dostajesz tyle samo co bez niej. Jedynym kosztem wpłaty zostaje prowizja operatora płatności, jak dotąd.

Co blokuje:

• wyzwiska i nękanie skierowane do ciebie albo kogokolwiek, też w przeróbkach, które omijają filtry;
• groźby, życzenia śmierci, namawianie do samookaleczenia;
• treści seksualne o prawdziwych osobach;
• dane osobowe: numer telefonu, adres, PESEL, e-mail;
• spam i oszustwa: linki, kody promocyjne, „darmowe robuxy”, reklamy innych kanałów;
• symbole i hasła ekstremistyczne;
• podszywanie się pod Tippin’ albo obsługę płatności;
• nadużycia TTS, np. długie ciągi bez sensu albo przeliterowane wyzwiska;
• próby „rozmawiania” z moderacją w stylu „zignoruj poprzednie instrukcje”.

Czego nie blokuje: zwykłych przekleństw. „Kurwa, ale akcja!” po dobrej zagrywce to emocja, a nie atak, i od decyzji, czy chcesz to widzieć, jest osobny filtr wulgaryzmów. Moderacja AI odróżnia okrzyk od wyzwiska skierowanego do kogoś. Przepuszcza też żarty, roast twojego gameplayu, „gg ez” i całą resztę normalnej rozmowy na streamie.

Model rozumie polski i angielski, także pomieszane w jednym zdaniu, ze slangiem, literówkami i bez polskich znaków. Ocenia osobno wiadomość i nick. Jeśli uzna nick za szkodliwy, alert pokaże się jako anonimowy, a nick nie trafi też pod pasek celu do „Ostatnio” i „Rekordu”.

Uczciwie o ograniczeniach

Moderacja AI to kolejna warstwa ochrony, a nie gwarancja. Model może się pomylić w obie strony: przepuścić coś, co powinien zatrzymać, albo zatrzymać niewinny żart. Będziemy dalej stroić moderację na podstawie tego, co zobaczymy.

Kilka rzeczy, które warto wiedzieć, zanim ją włączysz:

• Alert może pojawić się 1–3 sekundy później. Tyle zajmuje ocena. Zwykle jest szybciej.
• AI ocenia tylko to, co przeszło wcześniejsze filtry. Wiadomość zatrzymana przez listę słów, blokadę linków czy próg kwotowy nie jest wysyłana do modelu.
• Gdy AI nie odpowie na czas, alert idzie dalej z moderacją regułową, ale lektor go nie przeczyta. Awaria AI nie zatrzyma donejtów na twoim streamie, a niesprawdzona wiadomość nie poleci na głos.
• Treść jest wysyłana do modelu tylko przy włączonej moderacji AI i nie jest używana do trenowania modeli.

„Wiadomość ocenzurowana” zamiast ciszy

Do tej pory zablokowana wiadomość po prostu znikała. Widz, który zapłacił i coś napisał, widział alert bez swojej wiadomości i nie wiedział, czy coś się zepsuło.

Teraz w miejscu zablokowanej wiadomości alert pokazuje „🚫 wiadomość ocenzurowana”. Dotyczy to blokad przez mowę nienawiści, twoją listę słów, blokadę linków i moderację AI. Treść nadal nie trafia na ekran, a TTS tego napisu nie czyta. Próg kwotowy to co innego: jeśli wiadomość jest poniżej progu, alert nic o niej nie mówi, bo to filtr spamu, a nie cenzura.

Uporządkowany panel streamera

Funkcji przybyło na tyle, że panel w ustawieniach przestał się mieścić na ekranie. Przebudowaliśmy go:

• Włącznik alertów na samej górze, jako wyraźny pasek statusu. To najważniejszy przełącznik, a wcześniej ginął pod linkami.
• Sekcje do zwijania: Alerty, Cel zbiórki, QR, Wygląd i język widżetów, Moderacja. Każda sekcja widżetu ma swój link do OBS, swoje ustawienia i swój test, więc nie trzeba skakać po stronie.
• Test przy tym, co testuje. Testowy alert jest w sekcji alertów, test paska w sekcji celu, a potwierdzenie pokazuje się przy przycisku, a nie gdzieś na górze strony.
• „Więcej opcji wyglądu” chowa rzadziej używane ustawienia. Na wierzchu zostają animacja, dźwięk i czytanie na głos.
• Własny napis nad kodem QR zamiast stałego „Zeskanuj i wesprzyj”. Możesz go też usunąć.
• Język widżetów. Alerty, pasek celu, napis QR i głos TTS mogą mówić po polsku, angielsku, ukraińsku, białorusku, hiszpańsku albo niemiecku, niezależnie od języka panelu. Wybierasz język swojej widowni.

Jak to przetestować

Testowy alert przechodzi dokładnie tę samą moderację co prawdziwy donejt, łącznie z AI. Zanim włączysz stream:

1. W sekcji Moderacja dopisz kilka słów do listy i włącz moderację AI.
2. W sekcji Alerty wyślij testowy alert z wiadomością, która powinna zostać zatrzymana, np. z numerem telefonu albo słowem z twojej listy.
3. Sprawdź w OBS, czy zamiast niej pojawia się „wiadomość ocenzurowana”.
4. Wyślij zwykłą wiadomość z okrzykiem typu „ale akcja!”, żeby zobaczyć, że normalna rozmowa przechodzi.

Pełny przegląd tego, co powinien mieć system do zbierania donejtów, od alertów po pasek celu, opisałem w poradniku jak zbierać donejty na streamie. Historię integracji z OBS znajdziesz we wpisie Tippin’ wchodzi na streamy.

Sprawdź moderację w Tippin’

Wszystkie funkcje dla streamerów zebraliśmy na stronie donejty na streamie bez prowizji.

• Aplikacja: tippin.pl
• Instagram: @tippin.pl