Twitch użyje uczenia maszynowego, aby złapać trolle unikające bana

Twitch wprowadza nową funkcję uczenia maszynowego, aby pomóc streamerom chronić swoje kanały przed osobami próbującymi uniknąć banów. Zwane “wykrywaniem podejrzanych użytkowników”, narzędzie automatycznie oznacza osoby, które podejrzewają, że mogą być” prawdopodobne “lub” możliwe ” zbanowanie dodgerów.

W przypadkach dotyczących tych pierwszych, Twitch uniemożliwi wyświetlanie na czacie wiadomości, które wysyłają. Będzie również identyfikować te osoby dla streamerów i wszelkie mody pomagające im w ich kanale. W tym momencie mogą zdecydować, czy chcą zakazać tej osoby. Domyślnie możliwe powtarzające się trolle mogą wysyłać wiadomości na czacie, ale one również zostaną oflagowane przez system. Ponadto Twitch twierdzi, że twórcy mają możliwość uniemożliwienia im wysyłania jakichkolwiek wiadomości.

Twitch

“Narzędzie jest zasilane przez model uczenia maszynowego, który bierze pod uwagę szereg sygnałów-w tym, ale nie wyłącznie, zachowanie użytkownika i cechy konta — i porównuje te dane z kontami wcześniej zablokowanymi na kanale twórcy, aby ocenić prawdopodobieństwo, że konto uniknie wcześniejszego zakazu na poziomie kanału”, powiedział rzecznik Twitcha Engadget, gdy zapytaliśmy o sygnały, których system używa do wykrywania potencjalnych przestępców.

Podczas gdy Twitch planuje włączyć wykrywanie podejrzanych użytkowników dla wszystkich, narzędzie nie będzie automatycznie blokować użytkowników dla streamerów. To z założenia, ponieważ niemożliwe jest stworzenie narzędzia do uczenia maszynowego, które jest w 100% dokładne w każdym kontekście. “Jesteś ekspertem, jeśli chodzi o twoją społeczność i powinieneś podjąć ostateczną decyzję, kto może wziąć udział” – powiedziała firma w poście na blogu. “Narzędzie będzie uczyć się od działań, które podejmujesz, a dokładność jego prognoz powinna się poprawiać w miarę upływu czasu.”

Wprowadzenie narzędzia następuje po lecie, w którym Twitch zmagał się ze zjawiskiem zwanym ” napadami nienawiści.”Ataki polegały na tym, że złośliwe osoby używały tysięcy botów do spamowania kanałów z nienawistnym językiem. W wielu przypadkach były one skierowane do twórców z marginalizowanych społeczności. Ataki nienawiści stały się tak częstą cechą platformy, że niektórzy twórcy odeszli z Twitcha na jeden dzień w proteście przeciwko braku działań firmy.

Wszystkie produkty polecane przez Engadget są wybierane przez nasz zespół redakcyjny, niezależnie od naszej firmy macierzystej. Niektóre z naszych historii zawierają linki partnerskie. Jeśli kupisz coś za pośrednictwem jednego z tych linków, możemy zarobić prowizję partnerską.