Twitch представляет функцию машинного обучения для обнаружения подозрительных пользователей


Twitch представляет новую технологию, которая будет бороться с людьми, создающими новые учетные записи, чтобы обойти уклонения от бана.


У Twitch был тяжелый год, когда дело дошло до сдерживания рейдов ненависти, злоупотреблений стримерами и других форм отвратительного поведения на платформе. В худшие времена компания признала, что для реализации некоторых программ потребуется время. Пришло время, когда Twitch объявил о новой инициативе, направленной на борьбу с рейдами ненависти и притеснениями стримеров.

Компания объявила, что начнет использовать машинное обучение, чтобы люди не могли обходить Ban Evasions путем создания новых учетных записей. В видео, размещенном в учетной записи Twitch Twitter, стримеры и их моды смогут просматривать определенные потенциально опасные сообщения в новой системе обнаружения подозрительных пользователей. Затем у стримера или модов будет возможность отслеживать возраст учетной записи чата, отказаться от комментариев или пропустить их.

СВЯЗАННЫЙ: Twitch Leak обнаруживает стримеров в списке "Не запрещать"

Обнаружение подозрительных пользователей будет иметь два уровня модерации. Классификация «Вероятно» скрывает комментарий из общего чата и помечает комментарий только для стримеров и их модов, которые могут увидеть и принять меры против учетной записи. Отметка «Возможный» пометит аккаунт, из которого пришел комментарий, но сообщение будет видно в чате. Twitch сообщает, что эта новая функция будет включена по умолчанию для всех стримеров. Twitch предупреждает, что могут возникнуть некоторые проблемы с ростом, поскольку может потребоваться некоторое время, чтобы программа машинного обучения стала точной и можно было ожидать ложных срабатываний и отрицательных результатов.

Волна рейдов ненависти бросила тень на Twitch летом 2021 года, так как People of Color и LGBTQIA + Streamers опасались использовать платформу как постоянное злоупотребление со стороны учетных записей ботов, которые рассылали мерзкие комментарии способами, которые обходили автоматические фильтры Twitch. Эта волна отвратительного поведения и кажущаяся медленная реакция Twitch побудила сторонние инструменты стриминга создать варианты, которые помогли маргинальным стримерам бороться с проблемой. Некоторые стримеры использовали эти опции, пока ждали, пока Twitch позже выпустит номера телефонов и подтверждение электронной почты. Это был первый шаг в плане Twitch по сокращению числа злоумышленников, которые создавали новые учетные записи для обхода запретов.

Все, что помогает защитить стримеров от получения вредоносных сообщений, является шагом в правильном направлении. Эти новые меры, наряду с ранее реализованными, должны затруднить повторным нарушителям возможность продолжать получать удовольствие от реакции стримеров на неудобные ситуации. Эта новая функция может защитить не только стримеров BIPOC и LGBTQIA +, но и женщин, которым приходилось иметь дело с учетными записями сталкеров на платформе. Будем надеяться, что система обнаружения подозрительных пользователей работает, чтобы дать маргинальным стримерам больше спокойствия.



Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.