Джарон Ланье, футуролог и один из создателей термина «виртуальная реальность», рассуждает в новой книге «10 аргументов удалить все свои аккаунты в социальных сетях» о том, почему алгоритмы в Instagram и Facebook иногда работают так странно. Книга выходит в издательстве «Бомбора».

Возможно, вы слышали о признаниях основателей империй социальных сетей, которые я предпочитаю называть «империями изменения поведения».

Например, Шона Паркера, первого президента Facebook: «Нам нужно время от времени подкидывать вам дофамина — показывать, что кто‑то оценил ваше фото, или пост, или что‑нибудь еще… Петля обратной связи с социальным одобрением… это именно то, до чего додумался бы хакер, вроде меня, поскольку мы играем на уязвимости человеческой психологии… Изобретатели и создатели — я, Марк [Цукерберг], Кевин Систром из Instagram — мы постоянно это осознавали. И все равно это делали… ваши отношения друг с другом и обществом в буквальном смысле изменяются… Возможно, сети даже убивают способность продуктивно работать. Одному Богу известно, что все это делает с мозгом наших детей».

<…> Давайте разберем это удивительное явление. Суть его не в слаженной работе положительной и отрицательной обратной связи, а в том, что непредсказуемая обратная связь может стать более мощным побуждающим фактором, чем самая идеальная.

Если вы — ребенок и получаете конфету каждый раз, как говорите слово «пожалуйста», возможно, вы начнете говорить его чаще. А теперь предположим, что однажды вы не получите свою конфету. Можно предположить, что отныне говорить «пожалуйста» вы будете реже: зачем стараться, если результат не гарантирован. Логично?

Но иногда происходит прямо противоположное. Как будто ваш мозг, с самого вашего рождения привыкший во всем находить взаимосвязи, не может устоять перед вызовом. «Тут должна быть какая‑то хитрость», — шепчет он, одержимый навязчивой идеей. И вы продолжаете вежливо просить в надежде понять глубоко запрятанную закономерность. Однако ее нет, а есть только случайность безо всякого двойного дна.

Подробности по теме
Как началась и закончилась эпоха лайка
Как началась и закончилась эпоха лайка
Создать малую толику случайности в социальных сетях проще простого.

Поскольку алгоритмы несовершенны, случайность будет подлинной. Но в дополнение к этому в новостные ленты привносится элемент намеренной случайности. Причина тому лежит в области базовой математики, а не человеческой психологии.

Алгоритмы социальных сетей обычно «самонастраиваемые». Это означает, что в них постоянно происходят небольшие изменения, призванные показать на выходе лучшие результаты. «Лучшие» в этом случае значит сильнее вовлекающие людей и, таким образом, приносящие больше выгоды. В таких алгоритмах всегда присутствует небольшой элемент случайности.

Предположим, обычный алгоритм показывает вам объявление о продаже носков или других товаров примерно через пять секунд после того, как вы посмотрите видео с котиками. Самонастраивающийся алгоритм проведет проверку, чтобы выяснить, что произойдет, если этот временной интервал уменьшитьЛюбой ваш шаг в соцсетях все время оптимизируется по подобным схемам. Бывший сотрудник Google Тристан Харрис рассказывает об этом подробнее. Например, он объяснил, по какому принципу вам показывают самые разные опции. Рекомендую почитать его эссе, в том числе «Как технологии угоняют у людей разум» («How Technology Hijacks People’s Minds»)., скажем, до четырех с половиной секунд. Захочется ли вам купить товар сильнее?

Если да, то он скорректирует время показа не только ваших будущих объявлений, но и объявлений тысяч других людей, более или менее совпадающих с вами хоть в цветовых предпочтениях, хоть в водительских привычках.

Иногда самонастраивающиеся алгоритмы дают сбой, тогда они откатывают свои параметры до прежних показателей.

Если после корректировки временного интервала и до четырех с половиной секунд, и до пяти с половиной секунд вы будете меньше хотеть купить носки, рекламу вам снова будут показывать ровно через пять секунд. На основании имеющихся доказательств алгоритм примет пятисекундный интервал ожидания как оптимальный из всех возможных. По идее, если мелкие случайные изменения не помогают, алгоритм перестает адаптироваться. На деле же самонастраивающиеся алгоритмы никогда не теряют надежду улучшить самих себя.

Что же делать, если улучшить результат могут только более серьезные изменения? Возможно, стоит установить интервал в две с половиной секунды, но постоянные дополнительные поправки не помогут это выяснить, поскольку алгоритм застрял на пятисекундном интервале. Вот почему в самонастраивающиеся алгоритмы заложена возможность большой случайности. Зачастую алгоритм выходит на новый уровень эффективности, когда в почти идеальных настройках происходит сбойМатематики часто рассматривают этот процесс как ползание по воображаемому «энергетическому ландшафту». Каждая его позиция соответствует определенным настройкам, которые могут меняться. Так что если вы метафорически ползете по ландшафту, вы исследуете разные параметры. Пятисекундная отметка будет соответствовать области с присвоенным ей алгоритмом. В этой визуализации глубже означает лучше, поскольку для этого требуется меньше энергии. Или же можно воспользоваться метафорой: копать глубже означает найти золотую жилу. В этом вымышленном мире отметка в две с половиной секунды — более глубокая область, которую вы не найдете, если будете продвигаться небольшими шагами ниже области, отмеченной пятью секундами, потому что всегда будете скользить назад. Единственный способ найти более глубокую область — это заставить себя скакнуть куда‑нибудь наудачу..

Подробности по теме
Хорошо ли вы ориентируетесь в уходящей эпохе лайка
Хорошо ли вы ориентируетесь в уходящей эпохе лайка

Такой механизм скачкообразного развития часто бывает заложен в самонастраивающихся системах. Пример тому — полезные мутации, которые происходят в ходе биологической эволюции из‑за постоянно нарастающего числа событий. В основе этого процесса лежит естественный отбор, когда гены отдельной особи либо передаются потомкам, либо нет. Мутация — непредсказуемый фактор, открывающий новые возможности, резкий скачок. Каждая новая мутация добавляет виду странные особенности, делающие его сильнее.

Нейрофизиологи закономерно интересуются, может ли подобный процесс происходить в мозге человека. Пока мы знаем, что мозг может адаптироваться к любым условиям, поскольку природа не терпит сбоев.

Пока рекламный алгоритм влияет на эмоции человека, случайность, облегчающая адаптацию программы, подпитывает у людей зависимость.

Алгоритм пытается уловить идеальные параметры для манипуляции мозгом, а мозг пытается найти в этом более глубокий смысл и меняет свою реакцию в ответ на эксперименты алгоритма. В основе этой игры в кошки-мышки лежит чистая математика. Поскольку стимулы алгоритма случайны, а значит, бессмысленны, мозг адаптируется не к чему-то реальному, а к выдумке. Этот процесс — застревание в ловушке зыбкого миража — и есть зависимость. По мере того, как алгоритм пытается выбраться из ямы, человеческий разум в ней застревает.

Первыми это пересечение математики и человеческого мозга стали исследовать не компании — владельцы социальных сетей, а создатели цифровых игровых автоматов, вроде видеопокера, и интернет-сайтов с азартными играми. Временами эти первопроходцы жалуются на то, что соцсети нажились на их идеях и получили кучу денег, но чаще они признаются, что соцсети помогают им вычислять легкую добычу.

Издательство «Бомбора», Москва, 2019