Оригинал материала находится по адресу www.computerra.ru/135645/bataclan/
17.11.2015

Bataclan и математика массовой слежки

Случившееся в Париже в эти выходные, при всём безусловном трагизме, выводит нас на интереснейшую дискуссию, ключом к которой служит всего один вопрос: почему оказались беспомощными системы массовой прослушки цифровых (и вообще электронных) коммуникаций? В отличие от большинства журналистов и обывателей, задающихся сейчас тем же вопросом, мы, айтишники, можем обойтись без спекуляций, сведя доказательство к цифрам и формальной логике. К сожалению, по той же самой причине мы способны заглянуть в проблему глубже других и обнаружить у неё второе дно…

Описывать здесь события вечера пятницы нет смысла, всё уже рассказано и повторено сотни раз. Что следует отметить — так это редкую сложность парижских терактов: когда ещё и где вы видели столь тонко срежиссированную террористическую драму? И пусть некоторые её акты сорвались благодаря бдительности служителей закона, сам факт того, что какому-то тайному режиссёру удалось спланировать, подготовить и запустить эту кровавую многоходовку, говорит о многом. Но почему столь масштабное мероприятие — с несколькими одновременными действиями и ужасающей эффективностью (Франция понесла самые большие потери среди гражданского населения со времён Второй мировой войны) — не удалось предупредить? Как план такой сложности, вовлёкший столь многое и столь многих, избежал раскрытия спецслужбами Франции и соседних государств?

Этот вопрос имеет тем больше прав на жизнь, если вспомнить, что Франция, долгое время сторонившаяся моды на массовую прослушку, введённую США и их союзниками, в этом году впервые с начала 90-х озаботилась разработкой собственного механизма наблюдения за гражданами. Комплект законов, принятых здесь в короткий срок после зимнего нападения на редакцию «Шарли Эбдо», по своей жестокости и скрупулёзности способен дать фору заокеанским аналогам. Свежая кровь помогла продавить сопротивление активистов/правозащитников.

Вкратце, французский вариант «Патриотического акта», как его прозвала пресса, даёт органам охраны правопорядка широчайшие полномочия в плане прослушки любых электронных и цифровых коммуникаций, если только абонентов заподозрят в терроризме. Без санкции суда полиция и спецслужбы имеют право устанавливать кейлогеры и прослушивающие устройства, подключаться к телефонным линиям и влезать в ящики электронной почты, вскрывать аккаунты в соцсетях, интернет-пейджерах и пр. и пр. Провайдеры и интернет-компании обязаны по первому требованию предоставлять соответствующий доступ. Больше того, их обязали ещё и эксплуатировать набор фильтров, просеивающих пользовательскую активность в поисках подозрительных закономерностей. Но почему же официальный Париж, сунувший нос в личную жизнь граждан глубже многих, не сумел предупредить дьявольски сложный и наверняка предполагавший интенсивную коммуникационную активность заговор?

Ответ на этот вопрос следует искать не в несовершенстве законов, особенностях национальной философии или статистике коррупции. Ответ давно сформулирован и предполагает принципиальную математическую неэффективность средств массового наблюдения. Вот он, в эссе 2005 года, написанном Брюсом Шнайером.

Что такое системы массовой слежки? Да попросту — фильтры, помогающие просеивать огромные объёмы данных и выделять из них только интересное. Никакое правительство вручную не справится с ежедневным анализом электронной активности всех своих подданных. Получив неограниченный доступ к цифровым каналам, необходимо научиться данные фильтровать. Что и делается, в том числе во Франции, выделением подозрительных закономерностей в поведении пользователей: упомянул в переписке «бомбу», посетил сайт с рецептами взрывчатки, подписался на твиттер какого-нибудь радикала — вот вам и паттерн, требующий повышенного внимания к гражданину.

Проблема, как её видит Шнайер, в том, что любой фильтр характеризуется двумя параметрами: количеством ложно-положительных и ложно-отрицательных срабатываний. И настройка фильтра всегда сводится к нахождению золотой середины между тем и другим. ЛПС показывает как часто система примет за террориста невинного гражданина. Число ложных положительных срабатываний можно уменьшить, ужесточив алгоритм фильтрации, но тогда увеличится ЛОС — который показывает, как часто система проморгает настоящих террористов.

Чтобы проиллюстрировать, чем это чревато на практике, Шнайер приводит замечательный пример. Даже допустив, что кому-то удастся построить фильтр с высокой эффективностью (1% и 0.1% ЛОС), при реалистичном количестве индикаторов, требующих контроля, и численности населения близкой к такой стране как США, каждый день наблюдатели должны будут анализировать десятки миллионов сигналов! В то время как действительно заслуживают внимания лишь несколько из них.

Вот почему не удалось предотвратить теракты в Париже, хоть руки полиции были развязаны, а организаторы и участники давно висели на заметке у спецслужб. Террористам даже не было нужды уходить из электронных сетей, как то предполагают сейчас СМИ — не было нужды отказываться от мобильников и интернета. Их попросту не заметили! Они затерялись среди тех миллионов пустых срабатываний, которые система массовой слежки даёт каждый день.

Однако я обещал вам второе дно. На выкладки Шнайера есть отличный контраргумент, предложенный тогда же, в нулевых, другим известным практиком и мыслителем, хоть и занятым в иной сфере. Я говорю о проблеме скрытых свидетельств, сформулированной Нассимом Талебом. Суть её лучше всего иллюстрируется несложным мысленным экспериментом.

Вообразите, что накануне 11 сентября 2001 года в США, либо накануне ноября 2015-го во Франции, некий законодатель добивается принятия драконовских мер, способных (как мы знаем теперь) предотвратить надвигающуюся трагедию. В Штатах такой мерой могла бы стать обязательная установка бронированных дверей в кабинах пилотов авиалайнеров, а во Франции, например, принудительный обыск автомобилей, въезжающих в крупные города. Короче говоря, не суть важно, какое именно действие предложено, важно, что оно действительно предупреждает будущий теракт. И террористы, услышав о принятых мерах, принимают решение всё отменить. Самолёты не врезаются в небоскрёбы, зрители покидают Bataclan живыми. Угроза миновала, её удалось предупредить, но — знаете что? Человек, который добился принятия этого закона, спивается и умирает в безвестности, считая себя неудачником. О нём никто не знает. Никто не знает, скольких жертв удалось избежать благодаря его предусмотрительности, потому что событие, которое он сумел предотвратить, не случилось.

Так уж мы устроены, что руководствуемся извращённой логикой: мы превозносим тех, кто на виду и чья роль ничтожна (героями в примерах, приведённых выше, станут политики, пообещавшие «суровый ответ террористам» или что-нибудь в этом роде), и не замечаем тех, кто нам действительно помог. С Францией сейчас именно такая ситуация. Мы ничего не знаем о не случившихся терактах — просто потому, что потенциальные террористы отказались от их проведения ещё на этапе планирования и никогда даже не были замечены. Поэтому не торопитесь с выводом о неэффективности систем массовой слежки. Прежде хорошо было бы изучить вопрос с точки зрения террористов.


Bataclan,Франция,терроризм,Брюс_Шнайер,Нассим_Талеб,Большой_брат,data_mining,фильтр




Евгений Золотов, 1999-2018. Личный архив. Некоторые права защищены