Оригинал материала находится по адресу www.computerra.ru/111040/prevent-to-protect/
28.11.2014

Превентивное правосудие: пора!

Несмотря на попытки уравнять вычислительную технику с утюгом, информационные технологии в общем всё ещё развиваются быстрее многих отраслей промышленности и знаний. Как скучно было бы жить, если б ИТ двигались вперёд с той же черепашьей скоростью, что и бытовая техника! Но нам повезло — и мы видим, как строят квантовые компьютеры, начинает работать на благо человека сильный ИИ, бьют рекорд за рекордом электронщики и пр. и пр. Попадаются, впрочем, и «неудобные», неприятные примеры. Среди таких — вопрос о способности и правомочности интернет-компаний детектировать в потоке сырых данных социально-опасные детали и ставить в известность правоохранительные органы. Отныне — решённый вопрос.

В общей формулировке это звучит мудрёней, чем есть на самом деле. Но — вообразите следующую простую картину. Обыватель давно привык лезть за советом в Сеть. И вот женщина, задумавшая убийство, выспрашивает у поисковика, как надёжней лишить ближнего жизни. Или молодой человек, готовящий массовую резню, откровенно излагает мысли в блоге. Я не выдумал эти истории — та и другая случились на самом деле, случились и ужаснули общественность: ведь намерения были очевидны, информация лежала на виду, убийства можно было предотвратить простым вмешательством интернет-компаний, с которыми наши «герои» невольно делились своими идеями! Так почему не предотвратили?

C разными вариациями этот вопрос поднимается там и здесь вот уже лет десять. До сих пор противников «превентивного правосудия» (ПП; не самый точный термин, но давайте примем его как временный: компания обнаруживает опасный контент, ставит в известность полицию, та принимает меры) было больше, чем сторонников. На их стороне вроде бы была и логика. Мало того, что такое поведение предполагает очевидное вмешательство в личную жизнь сетян без спроса и санкций. Так ведь ещё таким образом мы явно пытаемся лечить следствие, а не причину. И сигналов тревоги наверняка будет слишком много: попробуйте-ка отсортировать шутников от террористов! И установить серьёзность намерений не всегда способен даже человек, не говоря уж о машине (а первичным просеиванием данных должна заниматься машина, человеческой производительности не хватит). А ещё необходимо заставить частные компании тратиться на решение задачи, которая не принесёт им прямой выгоды.

А вот у сторонников ПП аргумент всего один, зато весомый: никакие расходы не будут чрезмерными для спасения человеческой жизни — и если кто-то может это сделать, он должен это сделать! Повторюсь, много лет дискуссия ограничивалась дебатами, да беззлобными переругиваниями, пока, наконец, очередная случайность не вывела её на первые страницы и в прайм-тайм — поставив под огонь ожесточённой критики интернет-гиганта, который мог вмешаться, но не вмешался.

Речь об истории британца Ли Ригби и роковой роли, которую сыграла в его жизни крупнейшая социальная сеть. Ригби — военнослужащий, убитый весной 2013 года. Но убили его не в Афганистане или Ираке: двое темнокожих сограждан буквально разделали его на части на оживлённой лондонской улице посреди бела дня. Убийцы — Майкл Адеболаджо и Майкл Адебовали — сдались полиции и пояснили, что сделали это в знак протеста против «убийства мусульман британской армией». Оба получили пожизненные сроки и всё вроде бы затихло, но на днях скандал вспыхнул с новой силой. Специальная комиссия при парламенте провела расследование и пришла к выводу, что спецслужбы Великобритании (MI5, MI6, GCHQ) были не в состоянии предотвратить убийство в основном по уважительным причинам, зато его могла предотвратить одна крупная интернет-компания — которой нужно было лишь поделиться имеющейся у неё информацией с правоохранительными органами.

Имя компании названо не было, но взбешённой общественности и журналистам не потребовалось много времени, чтобы его установить, а после и обвинить в соучастии. Провинившейся оказалась Facebook. Именно через её сервисы ещё два года назад один из убийц (Адебовали) обсуждал в чате с иностранным гражданином идею «яркого, запоминающегося акта протеста». Их разговор был записан и передан британской разведке неназванным партнёром (скорее всего АНБ), но лишь после убийства. А ведь поделись Facebook этой информацией с MI5 сама и заблаговременно — трагедию удалось бы предотвратить! Впрочем, знали ли подчинённые Марка Цукерберга о разговоре? В парламентском отчёте утверждается, что не знали. Но никто этому не верит.

Во-первых, Адебовали уже был «Фейсбуку» хорошо знаком. Компания заблокировала несколько его аккаунтов за размещение контента экстремистского толка (семь штук! Считается, что сигнал тревоги подаёт робот, а потом его рассматривает и одобряет человек), знала, что он держит ещё несколько аккаунтов — и тем не менее не сочла нужным или возможным поставить в известность британцев.

Во-вторых, общеизвестно, что именно Facebook скрупулёзно подшивает к персональным досье на своих пользователей любые, даже самые мелкие (например, черновики сообщений) нюансы их активности, чтобы впоследствии делать на этом деньги. И — поверить, что она не наблюдала за чатом?! Скорее уж её роботы, анализирующие ключевые слова и, возможно, смысл сообщений, просто не натренированы пока вычленять экстремистский подтекст.

Так что Facebook буквально распяли: британская пресса в эти дни пестрит заголовками в духе «Кровь Ли Ригби на руках Цукерберга». Компания ещё пытается оправдываться и кое-кто ей сочувствует: мол, она подчиняется законам США, запрещающим «активное наблюдение» за пользователями, которые не находятся под следствием, да и непрактично это — анализировать миллиарды сообщений, отправляемых каждый день. Но едва ли теперь от неё отстанут так же легко, как отстали бы ещё два года назад.

Канули в Лету времена, когда бизнес мог позволить себе не учитывать хоть что-то из сгенерированных клиентами данных. Времена, когда анализом информационных потоков занимались тупые скрипты: нынче каждый интернет- и компьютерный гигант строит свой сильный ИИ — и «Фейсбук» не исключение. Право компаний копаться в «исподнем» пользователей более уже не обсуждается, оно рассматривается как обязательная часть контракта между клиентом и провайдером цифровых сервисов. Самое время попробовать реализовать превентивное правосудие!

Десять лет назад об этом едва задумывались, два года тому — смеялись, сегодня по крайней мере британцы настроены претворить идею в жизнь. Да, ПП станет классическим обменом свобод на безопасность, но отчего-то в Великобритании это теперь почти никого не волнует. Британцы смотрят на проблему так: у атомной энергетики или нефтедобычи есть обязательства перед обществом, значит и у интернет-компаний — разросшихся невероятно — социальная ответственность тоже должна появиться. Без такой ответственности провайдеры коммуникационных сервисов станут (и стали!) спокойной гаванью для экстремистов — и лично премьер-министр Великобритании теперь намерен это исправить. Практически ПП будет реализовано в виде нескольких новых законов и поправок, вносимых сейчас на рассмотрение, обязывающих интернет-бизнесы активней сотрудничать с полицией. В том же направлении движутся и Соединённые Штаты. А там, глядишь, подтянется вся Европа.

Бояться на самом деле нечего. Всё равно наша активность в Сети уже пишется и анализируется. А вот посмотреть, как сработает ПП на практике будет интересно.


Ли_Ригби,преступление_и_наказание,превентивное_правосудие,Big_Data,социальная_сеть,поиск,приватность,ИИ




Евгений Золотов, 1999-2018. Личный архив. Некоторые права защищены