Политика модерации контента с одной стороны защищает пользователей от травматической информации и пропаганды, а с другой - помогает преступникам скрыть улики.
Технологии всегда имели значение в расследовании военных преступлений. Против нацистов, которые предстали перед Нюрбергским трибуналом, свидетельствовали не только фотографии и видео-пленки репортеров. Доказательства предоставили также их же собственные пишущие машинки или мимеографы.
Читайте такжеFacebook обвиняют в слежке за пользователями Instagram через камеру смартфона
Социальные сети открыли новый фронт таких расследований. В 2016 году суд во Франкфурте обвинил немца в военных преступлениях после того, как в Facebook появились фото, на которых он позирует с отрезанными человеческими головами в Сирии. Но социальные сети в трудном положении. С одной стороны, на них давят, чтобы заставить их защитить пользователей от страшного контента и экстремистской пропаганды. Для этого они принимают жесткие политики модерации контента.
Но эта политика также приводит к потере важных доказательств против виновных в нарушении прав человека. В результате теряется возможность привлечь исполнителей зверств к ответственности. Не трудно понять, почему следователи все чаще обращаются к социальным сетям по доказательства. Зоны боевых действий трудно и опасно посещать. Свидетельства очевидцев могут быть ложными или манипулятивными.
Читайте такжеFacebook заявляет о разоблачении очередной российской "фабрики троллей"
Сгенерированные пользователями доказательства особенно полезны для международных организаций, таких как Международный уголовный суд (ICC), у которого не всегда есть возможность выдавать повестки или ордера на обыск. В 2017 году ICC впервые выдал ордер на арест на основе данных из социальных сетей. Он касался командира бригады "Аль-Саика" Махмуда аль-Верфалли, воюющего на стороне самопровозглашенной "Ливийской национальной армии" во главе с Халифом Хафтаром. Аль-Верфалли обвинили в убийстве 33 человек.
Однако, такие данные не всегда идеальны. Люди, которые их записывают на местах, часто не имеют профессионального опыта сбора доказательств. Поэтому их снимки могут быть выборочными. А сами сборщики могут подставить себя под очень большой риск. Цифровые доказательства могут быть неправильно объяснены, сфальсифицированы или ими могут манипулировать. Это особенно тревожит на фоне развития технологий deepfake. Появляются вполне правдоподобные видео и аудио записи, которые создал алгоритм машинного самообучения.
Читайте такжеРодственники жертв рейса MH17 будут требовать выплаты компенсаций от обвиняемых
В качестве примера The Economist приводит успешную работу группы Bellingcat, которая помогла разоблачить тайное участие 53-й бригады противовоздушной обороны РФ в уничтожении малайзийского рейса MH17 над Украиной в 2014 году. Когда прокуроры попросили передать эти доказательства, оказалось, что большинство из них происходят из Facebook, Twitter, YouTube и российской социальной сети VKontakte. Группа Bellingcat тщательно прочесала интернет, ища альтернативные копии доказательств, которые, наконец, позволили успешно осудить троих граждан России и одного гражданина Украины за участие в уничтожении MH17. Но оригинальные материалы были удалены из социальных сетей. И это поставило под угрозу все расследование.
Читайте такжеВ Ливии сбили российский истребитель, пилот выжил (видео)