Астроном из Оксфордшира Мэри Макинтайр на три месяца лишилась доступа к своему аккаунту в «Твиттере», после того как алгоритмы этой соцсети сочли опубликованную ею шестисекундную видеозапись метеоритного дождя «слишком откровенной» — а следовательно, нарушающей правила сервиса, пишет Би-би-си.
Автору ролика пришло автоматическое уведомление, в котором указывалось, что опубликованная ей видеозапись была скрыта от пользователей, так как содержит «кадры интимного характера» — да еще и «опубликованные без ведома участника», — а сама Мэри наказана лишением доступа к своему аккаунту на 12 часов.
Единственное, что могла сделать астроном — это удалить злополучную запись. Однако для этого, в соответствии с действующими правилами платформы, она должна была формально согласиться с тем, что действительно нарушила правила — а это, в свою очередь, привело к пересмотру наказания.
В итоге доступ к аккаунту Макинтайр не могла восстановить три долгих месяца, в течение которых она преимущественно бодалась со службой поддержки.
«Это просто безумие какое-то… Мне совершенно не улыбается иметь в личном деле запись о том, что я распространяла порнографию — когда на самом деле я ничего подобного не делала», — возмущается она.
Все остальные опубликованные Мэри твиты были по-прежнему доступны для просмотра, но зайти в свой аккаунт она не могла.
После публикации истории Макинтайр на Би-би-си ее доступ был восстановлен.
«Отрезана от мира»
В связи с последними пертурбациями в Twitter, начавшихся после покупки этой социальной сети Илоном Маском, и последовавшими за этим массовыми увольнениями компания осталась без сотрудников, отвечающих за контакты с прессой.
Би-би-си попыталась связаться с новым владельцем через аккаунт другой принадлежащей ему компании, SpaceX, однако ответа не получила.
По словам Макинтайр, по ее просьбе некоторые коллеги-астрономы опубликовали ту же видеозапись у себя — и ни у кого из них проблем не возникло.
Больше всего Мэри волновалась по поводу того, что в процессе восстановления доступа к платформе Twitter сообщит о ее «проступке» — якобы допущенном нарушении правил — начальству и властям, а в первую очередь — в полицию, где она регулярно проходит проверку, поскольку периодически работает с детьми, проводя уроки астрономии в школах.
Потеря доступа к аккаунту также лишила ее возможности поддерживать связь с коллегами из других городов и стран. По ее собственным словам, она чувствовала себя «отрезанной от мира астрономии».
Ровно в такой же ситуации оказался недавно американский метеоролог Райан Воган, после того как выложил в «Твиттер» видеозапись комбайнов, собирающих урожай в темное время суток. Этот ролик алгоритмы соцсети также сочли «слишком интимным».
Столкнувшись с аналогичной проблемой, Воган также решил, что для восстановления доступа будет достаточно удалить твит — и тоже, сам того не понимая, формально признал таким образом нарушение правил.
«Это несправедливо и просто неправильно, — возмущается ученый. — С этим просто необходимо разобраться».
Досадная ошибка
Как объясняют IT-эксперты, произошедший с обоими учеными инцидент наглядно демонстрирует ограниченные возможности искусственного интеллекта (AI), который компания Twitter использует для автоматической модерации публикуемого пользователями контента.
«Функционал AI неплохо справляется в случаях, когда решение необходимо принять очень быстро, причем оно не обязательно должно быть идеальным, — объясняет Кейт Биван, занимающаяся освещением новинок IT-индустрии. — Но эта история нагрядно показывает, что масштабная модерация контента — очень непростая задача. Как для людей, так и для помогающих им AI-алгоритмов».
«Совсем плохо обстоят дела, если нет живого человека, который мог бы исправить допущенную искусственным интеллектом ошибку, — добавляет она. — Причем проблема состоит не столько даже в том, что некому исправить допущенную несправедливость, сколько в том, что в таком случае алгоритм никогда не научится не допускать подобных ошибок в будущем».