Твиттер-аккаунт астронома из Оксфордшира Мэри Макинтайр был заблокирован на 3 долгих месяца после того, как она поделилась видео с метеором, которое было помечено автоматической модерацией контента как порнографическое.
Мэри Макинтайр уведомили, что в ее шестисекундном видео был «интимный контент», которым она поделилась без согласия участницы. Единственным вариантом было удалить твит. Однако при этом ей пришлось бы согласиться с тем, что она нарушила правила. Ее первоначальный 12-часовой бан продолжался три месяца, и она исчерпала процесс онлайн-апелляции.
«Это просто сумасшествие… Я действительно не хочу, чтобы в моей истории было то, что я делилась порнографическими материалами, когда я этого не делала», сказала она о своем отказе удалить твит.
Ее учетная запись все еще была видна, но г-жа Макинтайр не могла получить к ней доступ. После того, как BBC опубликовала эту статью, аккаунт был восстановлен.
С тех пор, как Твиттер был куплен Илоном Маском, тысячи сотрудников были либо уволены, либо уволились с работы, но даже до этого г-жа Макинтайр считала невозможным поговорить об этом с кем-либо внутри фирмы. «Если я не получала человеческого ответа до Маска, я думаю, что сейчас у меня нулевая вероятность получить его», сказала она тогда.
Йоэль Рот, тогдашний глава отдела доверия и добросовестности Твиттера, твитнул, что увольнения не коснулись большинства из 2 тыс. модераторов контента, работающих «на передовой проверке». Сам мистер Рот с тех пор уволился.
Г-жа Макинтайр сказала, что другие астрономы делились ее видео без каких-либо последствий. Она беспокоилась, что, если согласится с правилами Твиттера о восстановлении аккаунта, ее не сделанный проступок может быть отмечен в личной записи, поскольку она регулярно проходит проверки, чтобы работать с детьми школьного возраста, объясняя астрономию.
«Я скучаю по общению», сказала она о своей заблокированной учетной записи. «Я чувствую себя немного отрезанной от мира астрономии».
Американский метеоролог Райан Воган столкнулся с аналогичным запретом после того, как поделился видео, на котором комбайны работают в поле ночью. Это тоже было отмечено как интимный ролик. В конце концов г-н Воан решил удалить твит и признаться в том, чего не делал – в нарушении правил сообщества Твиттера, потому что он хотел вернуть свой аккаунт.
«Это несправедливо и неправильно», написал он в Твиттере. «Это нужно исправить».
Есть также сообщения о том, что учетные записи Твиттера были ошибочно помечены как принадлежащие детям младше 13 лет и заблокированы, в том числе одна принадлежит благотворительной организации для семей людей, взятых в заложники, а другая принадлежит журналисту BBC.
Технический комментатор Кейт Беван сказала, что это пример ограничений текущих инструментов искусственного интеллекта, используемых Твиттером и другими соцсетями для модерации. «Инструменты ИИ подходят для быстрых и черновых решений, но это показывает, что модерация контента в масштабе действительно сложна как для людей, так и для инструментов ИИ, которые их поддерживают», сказала она. «Еще хуже, когда нет людей, готовых пересмотреть плохие решения ИИ. Помимо несправедливости, это означает, что модель ИИ не получает обратной связи, поэтому она никогда не научится».
Эта проблема есть не только у Твиттера. Так, к примеру, в 2021 году в другой соцсети была заблокирована небольшая цифровая фотогалерея дикой природы, пейзажей и зданий на том основании, что они содержали «откровенно сексуальный» контент.
