Эксперты в сфере интернета, технологий и информационной безопасности комментируют сюжет самого громкого сериала этой осени.

«Nosedive»

© Netflix

Суть технологии: Оценки и лайки пользователей в социальных сетях получили юридическое значение. Технология дополненной реальности позволяет в непрерывном режиме видеть социальные профили и рейтинги друг друга, которые и определяют их социальный статус.

Иван Ямщиков
Bедущий аналитик, руководитель группы исследований новых продуктов «Яндекса»

«Первое, о чем нужно сразу сказать, — «Black Mirror» нарочито «гуманитарен». Любой человек, читавший Лема, Азимова или Стругацких, сразу замечает множество нестыковок, на которые создатели сериала то ли намеренно закрывают глаза, то ли не обращают внимания из-за недостатка технического образования и поверхностного знакомства с современными технологиями. Взять хотя бы серию «Nosedive». Смотрите, человечество в «дивном новом мире» этого эпизода уже давно перешло на электромобили: главная героиня берет в аренду старый электромобиль, разъем которого, как позже выяснится, устарел. При этом в ее автомобиле нет автопилота, отсутствует голосовое управление, персональный ассистент не только не способен вести интеллектуальный диалог, но и вообще не может по звуку голоса водителя определить, что надо переключить интерфейс на английский язык. А на заправке сидит живой человек (то ли охранник, то ли кассир), а не робот! Ну это же бред! На дворе 2016 год, серийных электромобилей на рынке очень мало, но мы уже видим и прототипы автопилота, и умные голосовые ассистенты. «Яндекс.Переводчик» уже лет пять умеет автоматически понимать, с какого языка надо переводить. Совершенно очевидно, что вся ситуация с «неподходящим разъемом» в будущем победивших электромобилей просто невозможна. Не ясно, кстати, и то, почему «в будущем» на внутренний авиарейс героиню регистрирует живой человек, притом что уже сейчас я в 90% случаев регистрируюсь на рейс онлайн и вам советую. И таких нестыковок в каждой серии масса! То есть авторы хотят как-то проиллюстрировать основную мысль, придумывают для этого условно-правдоподобный мир будущего, но делают это топорно и неаккуратно, не обращая внимания на детали. В итоге от каждой серии остается неприятное плакатное послевкусие.

Поговорим о других технологиях: систему дополненной реальности гипотетически можно воплотить десятком способов. Конкретно контактные линзы, скорее всего, не очень перспективное решение. Тут дело, в первую очередь, в устройстве нашего глаза, которое накладывает серьезные технические ограничения. Если мы хотим минимизировать размеры гаджета, позволяющего создавать реалистичную дополненную реальность, и отказаться от шлемов или очков, то тут, на мой взгляд, более перспективными будут технологии, позволяющие мозгу и компьютеру взаимодействовать напрямую, но такого рода интерфейсы пока что не созданы — мы слишком мало знаем о том, как работает мозг.

Что касается идеи некоторого социального рейтинга, который бы определял положение в обществе, то она сама по себе не нова и к технологиям никакого отношения не имеет. История показывает нам, что люди склонны формировать общества с жесткой социальной стратификацией и именно технологии, как показывает практика, позволяют ломать эти жесткие рамки. Кастовая система в Индии или сословное общество Российской империи в этом смысле было недалеко от того, то мы видим в сериале: гвардейский офицер не станет пить с разночинцем, а Великий князь, решившийся на неравный брак, лишается прав на престол. Так что формирование подобных рейтингов — это скорее свойство человеческой природы, а не свойство технологий как таковых. При этом с чисто профессиональной точки зрения рейтинг, который мы видим в данном эпизоде, очень плох. «Яндекс» часто использует рейтинги, к примеру, фильмов на «Кинопоиске» или продуктов на «Яндекс.Маркете», и при создании такого рейтинга его стараются сделать стабильным, воспроизводимым и защищенным от накруток. В данном же случае сама механика предполагает положительную обратную связь, которая может приводить к резким неадекватным скачкам оценки, вокруг чего построена вся серия».

«Playtest»

© Netflix

Суть технологии: Герой участвует в тестировании новой игровой системы. В его затылочную часть мозга вживляют миниатюрный чип. Система считывает мысли и образы из подсознания человека и на их основе (с помощью компьютерной нейросети) генерирует причудливые пугающие образы.

Иван Ямщиков: «Как я уже говорил, одним из больших прорывов в развитии дополненной реальности могли бы стать интерфейсы, которые позволяли бы напрямую взаимодействовать мозгу и компьютеру. Главная проблема сейчас заключается в том, что мы не понимаем, как именно мозг кодирует информацию. Есть крайне интересные эксперименты в этой области, которые позволяют очень детально анализировать мозговую активность. Советую посмотреть несколько прекрасных докладов на эту тему: один посвящен потенциальной возможности редактировать воспоминания с помощью внешних воздействий, а другой рассказывает о возможных интерфейсах между мозгом и гаджетом. Исследования в этой области проводятся и в России, в том числе и в необычных форматах — например, в начале декабря мы проводим хакатон по нейронаукам. Впрочем, несмотря на все это, пока человечество очень далеко от того, что описано в серии».

«Shut Up and Dance»

© Netflix

Суть технологии: Подросток становится жертвой шантажа из-за вируса, случайно попавшего в его ноутбук. Получив доступ к встроенной веб-камере, злоумышленники засняли, как он мастурбирует, и обещая переслать видео всем его друзьям в соцсетях, заставляют выполнять различные поручения. Приказы отправляются через мессенджер, а ход выполнения отслеживается по GPS.

Михаил Кондрашин
Технический директор Trend Micro Россия

«К чести создателей сериала, они практически ничего не придумали. Описанные угрозы, к сожалению, встречаются в практике. Пока для этого шантажистам даже не требуются вирусы: достаточно уговорить собеседника в видеочате сделать что-то непристойное. Дальнейший сценарий чаще всего сводится к требованию денег — и это в лучшем случае. Известны даже случаи доведения подростков шантажистами до <…> (см. статью 15.1 федерального закона «Об информации», — Прим.Ред.)

С другой стороны, вирусы уже сегодня способны украсть всю вашу переписку и фотографии на компьютере, а значит, и найти компромат. Поэтому, во-первых, любой материал, который может вас скомпрометировать, необходимо хранить в зашифрованном виде. Для всех операционных систем и моделей телефонов выпускаются специальные программы. Чаще всего они платные, но, поверьте, они стоят того. Во-вторых, если у вас кто-то вымогает деньги, убедитесь, что компрометирующие данные у него и правда имеются на руках, и если это так, сообщите всем своим знакомым и родственникам, что с вами приключилось. Это будет непросто, зато у шантажиста не будет возможности годами (!) требовать от вас денег или совершения каких-либо действий».

Виктория Носова
Консультант по безопасности Check Point Software Technologies

«По сути, любой человек может стать жертвой кибершантажистов. Были случаи, когда хакеры ради забавы показывали изображения с веб-камер зараженных компьютеров со всего мира в режиме реального времени и без цензуры.

Чтобы защититься, нужно очень подозрительно относиться ко всем программам, которое вы устанавливаете, даже если с виду они безобидные. Вас должно насторожить, если простое приложение, типа калькулятора, требует доступ к видеокамере или GPS. Максимально ограничивайте приложениям права доступа.

Антивируса для защиты от современных атак уже недостаточно, нужно иметь на компьютере более серьезное средства, включающее в себя защиту от ботов, функционал URL-фильтрации, защиту от угроз нулевого дня, включающую в себя систему эмуляции угроз. Все это актуально и для мобильных телефонов — к ним злоумышленники уже давно нашли доступ.

Не лишним для ноутбука или компьютера будет использование шторок для веб-камеры или обычного пластыря (может быть, и для мобильных телефонов уже есть подобные приспособления). Если у вас USB-камера, вы можете ее отключать или отворачивать к стене, когда не используете».

Иван Ямщиков: «Если в XIX веке люди читали чужие письма, в XX веке нанимали частных детективов и папарацци, сейчас на смену им пришли хакеры, но сама суть проблемы не поменялась: в узком кругу или в одиночестве люди позволяют себе что-то, что никогда бы не сделали и не сказали среди малознакомых людей. Технологии неоднозначно влияют на эту особенность нашего поведения. С одной стороны, люди добровольно оставляют «цифровой след»: фотографируют себя и снимают на видео, пишут что-то в социальной сети, находясь в неадекватном состоянии. Все это потенциально может через 5–10–15 лет (а иногда и на следующее утро) оказаться компрометирующим их материалом. В этом смысле технологии упрощают доступ к потенциально компрометирующей нас информации. С другой стороны, превращение мира в «цифровую деревню» и постоянный рост информационных потоков очень сильно снижают ценность отдельно взятого компромата. Люди обращают куда меньше внимания на то, что еще 20 или 30 лет назад стало бы скандалом и обеспечило гарантированную «потерю лица». Впрочем, это не значит, что в интернете для безопасности не нужно соблюдать «цифровую гигиену».

Подробности по теме
Все за 5 минут
Все, что вы хотели знать о хакерах, но боялись спросить
Все, что вы хотели знать о хакерах, но боялись спросить

«San Junipero»

© Netflix

Суть технологии: Сан-Джуниперо — идеалистический город 1980-х, виртуальная симуляция, аттракцион воспоминаний. С помощью чипа на виске туда могут попасть временно как живые люди, так и умирающие через эвтаназию. В симуляции все выглядят и ощущают себя молодыми, несмотря на свой реальный возраст. Помимо Сан-Джуниперо 1980-х пользователь может выбрать и другую эпоху, например, 1990-е или 2000-е — в зависимости от личных предпочтений.

Николай Горелый
Cооснователь Geek Picnic

«В этой серии фактически показано переложение и так уже существующего порядка на новые технологии. Говорят, что старики живут прошлым, а молодежь будущим. Поэтому виртуальная симуляция «золотой молодости» кажется логичной. Молодость и детство — это время, в котором единственным неприятным процессом могли быть только экзамены или разбитое сердце. Если все это неприятное убрать, то это и есть настоящее счастье, рай.

C точки зрения технологий эта перспектива вполне реальна и уже осязаема. Более того, современная наука говорит, что сознание — это некий виртуальный конструкт, который ежедневно изобретается мозгом и вместе с ним умирает, поэтому наша цель (цель нашего сознания) — это освобождение от рабства нашей физической оболочки. Уверен, что большинству находиться в таком подобии «рая» некоторое время будет комфортно. Но находиться там вечность? Вряд ли. Придется выдумывать все новые и новые уровни реальности, отвечающие запросам вечных сознаний. Неизбежно перед ними встанет потребность в творчестве и самореализации. Поэтому как старт жизни в загробной виртуальности да, как аттракцион — да. Но вечная жизнь в таком виде — пытка.

Рей Курцвейл предрекает полный перенос сознания уже в 2045 году. Но прогнозирование — вещь неблагодарная в современном мире. Известно точно одно — если ставится задача, то рано или поздно человечество успешно решает ее.

Николай Добровольский
Вице-президент Parallels

Перенос сознания в виртуальную среду — вопрос времени. Компания IBM разработала «нейросинаптический» компьютерный процессор TrueNorth, который по своей архитектуре эмулирует структуру человеческого мозга. Точнее, его небольшой участок, содержащий 1 млн нейронов и 256 млн синапсов. Можно считать это одним из первых шагов к переносу человеческого сознания в электронную среду. Естественно, вместе с замещением нервной системы необходимо замещение и остальных органов, полагаю, что сначала нас ждет кибернизация человеческих органов — и только после миграция нервной системы.

«Men Against Fire»

© Netflix

Суть технологии: Солдатам боевого подразделения внедряют чипы, которые заставляют видеть вместо обычного облика врагов-людей, которых требуется уничтожить, страшных монстров-зомби. Делается это для того, чтобы солдаты не испытывали чувства жалости к этим неугодным государству людям. Система дополненной реальности также подсвечивает цели, следит за состоянием здоровья бойца, по запросу проецирует трехмерные планы местности.

Николай Добровольский: «Такие решения дополненной реальности появляются уже сейчас. Вспомните хотя бы игру Pokémon Go. Люди через какое-то время теряли грань между виртуальным и реальным миром. В погоне за покемонами некоторые прыгали со скал в пропасть или попадали под колеса автомобилей. И это без всяких чипов в голове. Что касается использования подобных технологий для военных нужд, то дополненная реальность уже сейчас применяется для навигации пилотов военной авиации. В будущем ее возможности будут только расширяться».

Николай Горелый: «Солдат — это человек-функция, который обязан выполнять приказы. Расчеловечивание объектов истребления — стандартная практика для любой войны. Так было на протяжении всей истории, ведь солдатам действительно проще убивать нечто враждебное, мерзкое, чужое. В этом смысле вопрос не в гуманности технологии, а гуманности любой войны. А война не гуманна по определению.

Сюжет серии реален и нереален одновременно. С точки зрения технологии здесь все сходится. С точки зрения общественной морали — нет. Вряд ли человек и общество смирятся с системой, в которой часть людей лишают свободы воли. Ведь право выбора — это фундаментальное право человека. Если у нас появятся технологии, которые будут подставлять нам в сознание нужные образы, мы совершенно точно будем этот процесс контролировать. А грязную работу вроде убийств и войны можно передать роботам. Отсутствие свободы воли у них никого беспокоить не будет.

У военных обязательно появятся подобные линзы. Они будут иметь кучу полезных функций вроде улучшенного прицела, зума, инфракрасного и другого видения, связи со штабом, карты, «хелсы» свои и противников — в общем, все как в компьютерных играх. Возможно, частные военные компании разрешат своим бойцам вместо реальных противников ставить монстров «для фана», но принципиальным останется главное: пока мы живем в западной цивилизации, свободу воли у нас отбирать не будут. Что же касается стран третьего мира — здесь все возможно. Но мне кажется, северные корейцы или радикальные исламисты и так живут в такой суррогатной реальности. Поэтому и здесь принципиально ничего не изменится».

«Hated in the Nation»

© Netflix

Суть технологии: В Великобритании почти полностью вымерли пчелы, на их замену люди создали автономных дронов, которые выглядят как пчелы и лишь косвенно контролируются людьми. При загадочных обстоятельствах эти пчелы начинают убивать людей, прогрызая им мозг. Выясняется, что сеть дронов-пчел была взломана, а главная цель злоумышленников — люди, которых общество порицает в социальных сетях. Жертва намечается в твиттере автоматически с помощью хэштега #DeathTo.

Виктория Носова: «К счастью, пока это фантастика. Даже если взломать систему управления подобными пчелами и задать параметры нападения на владельца некой страницы в соцсети, то устройству будет очень сложно сличить фотографию владельца с реальным человеком, выявить его в толпе людей, да еще и самостоятельно правильно прицелиться, чтобы попасть к нему в мозг. А если у пользователя на странице нет личных фотографий, то ситуация с идентификацией усложняется в разы. Единственное, что вполне реально — это взлом летающих дронов, тут все зависит от системы безопасности таких устройств».

Николай Горелый: «Мне кажется, пчелы здесь просто представлены для создания эффекта: они маленькие, человек их боится, от них никуда не спрятаться, смерть в серии очень болезненная. Мурашки по коже. Поэтому мы лучше понимаем проблему. Но как показала ситуация в Ницце, в оружие можно превратить что угодно, даже автобус. А если автобусы будут беспилотными? А если все автобусы и машины в мире взломать, и не пчелами, так колесами раздавить человечество? А если получить доступ к атомным электростанциям или дронам, которые могут распылить яд? В последнем случае — всего-то нужно его найти, а потом, попивая сок где-то в южной стране, им управлять.

Мир из-за своей сложности стал очень уязвим, причем разрушить его может воля лишь одного «маленького человека» со сверхзадачей, выдуманной миссией или отклонениями. Чтобы сохранить цивилизацию, придется вводить всеобщую прозрачность действий и, возможно, даже мыслей. Причем мы будем делать это добровольно. Приватность исчезнет навсегда — и к этому нужно быть готовым. Интернет станет таким же регулируемым пространством, как и обычная жизнь. Согласитесь, если на улице вам что-то не нравится, вы не начинаете орать об этом на всю улицу. А если начнете угрожать кому-то, вас могут арестовать. В интернете будет все ровно так же — и это единственный выход. Разницы между вами офлайн и онлайн быть не должно. Вы или нянечка в детском саду, которая прививает детям «разумное, доброе, вечное», или преступница, которая доводит человека до самоубийства своим хейтерством. Виртуальный мир ничем не отличается по важности от реального и ничем не более эфемерный, и любое наше действие там гораздо сильнее влияет и отражает нашу сущность, чем офлайн. Нужно учиться себя вести, учиться гигиене отношений и поведения.

Николай Добровольский: «Помните три закона робототехники Айзека Азимова? Первый — робот не может причинить вред человеку, робот должен повиноваться командам человека и т. д. К сожалению, жизнь не книга. А военные ведомства многих стран не скрывают, что ведут разработки боевых роботов. Даже в нашей стране несколько лет назад первым лицам государства в присутствии СМИ показывали прототипы отечественных боевых машин. Это значит, что появление подобных изобретений — вопрос времени. Могут ли умные машины выйти из-под контроля людей? Не исключено».

Михаил Кондрашин: «В наше время разрабатывается огромное количество умных устройств. Они все подключены к интернету, и они все содержат в себе уязвимости — ошибки, которые позволят злоумышленникам взять устройство под полный контроль, как только об ошибке станет широко известно. Мы уже стали свидетелями, когда в сетевых атаках были задействованы IP-камеры наблюдения, которые параллельно с атаками штатно выполняли свою основную функцию и не вызывали подозрения. Со временем число примеров таких атак будет только расти».