Мунипов: Как вышло, что вы бросили медиа и занялись чатботами? Почему это сейчас такая популярная тема? Все говорят о ботах, придумывают ботов, пытаются инвестировать в ботов.
Евгения Куйда: Сразу надо сказать, что когда мы три года назад начали этим заниматься, ничего такого не было даже близко. Даже слова такого не было. Боты — это были кремлевские боты, которые гадят на форумах. А магическая аббревиатура AI, искусственный интеллект, которая сейчас открывает все двери, ничего не открывала — было даже такое расхожее понятие «зима в искусственном интеллекте». Это же из шестидесятых идея: мы отправили человека на Луну, а сейчас сделаем компьютер, который будет с нами разговаривать. Американская оборонка вбухала огромные деньги в исследования, которые должны были помочь машине говорить на человеческом языке, ничего не получилось, и все страшно и надолго разочаровались.
Олег Соболев: В семидесятые были разные любопытные эксперименты с чатботами, также знаменитая Элиза, которая довольно однообразно отвечала на вопросы. Психологически это было страшно интересно — люди, которые с ней общались, реально выгоняли из комнаты зрителей, потому что начинали делиться с ней разными сокровенными вещами, но как это использовать, никто не придумал. И мы как раз потратили много времени, думая о том, какую практическую пользу должен нести наш сервис. И решили — выбор ресторанов.
Куйда: Но до сих пор, честно говоря, не придумали.
Мунипов: Вы придумали бизнес, не понимая, как на нем заработать?
Куйда: У Luka такая история: мы делали банк для мобильного оператора. Его частью должен был стать виртуальный ассистент, которые и счетом твоим управляет, и кредит выдает, и скоринг делает. Но банк быстро продали, и оказалось, что у нас есть команда, но нет продукта. И наш ментор Сергей Адоньев, человек, основавший Yota, почуствовал, что диалоговый интерфейс, особенно в сочетании с мессенджером — это будущее. Мы, честно говоря, сами в это не верили, и тут надо отдать должное его интуиции: вот как он с 4G угадал за пять лет до начала бума, так и всю эту историю с чатботами предвидел за несколько лет до начала всеобщего хайпа.
Слова «чатбот» тогда не было, и мы придумывали разные дурацкие названия типа «семантические картриджи». Нам надо было проверить идею с диалоговыми интерфейсами на чем-то понятном, там, где цена ошибки не очень велика, — скажем, на поиске ресторанов. Это, конечно, моя идея. Еще два года мы ходили по инвесторам, которые нам говорили, почему вы не делаете приложения для Google Glass? Нигде больше разговорный интерфейс не нужен. В результате, когда мы подали заявку в Y Combinator (компания, которая обеспечивает стартапы стартовыми инвестициями. —Прим. ред.), мы были первой компанией, которая что-то делала в эту сторону.
А за последний год все разом поменялось. У меня есть знакомый, который занимается организацией русского чатбот-комьюнити, и он дал мне заглянуть в их чаты. Это полное кафкианское безумие! Миллиард людей, готовых разработать чатбот для кого угодно за три копейки, как раньше вебсайты. Просто «баянист услуги тамада». Причем у них уже и жаргон свой, и шутки, все на свете! Есть уже и конструкторы ботов, платформы ботов, стартапы про ботов, целая индустрия. Нет только людей, которые этим пользуются!
Вернемся в реальный мир: нет ни одного чатбота, которым бы пользовался кто бы то ни было. Никто из обычных людей не понимает, что это вообще такое. Зачем покупать билет на самолет в мессенджере, я и сама не понимаю и никому не смогу объяснить.
Мунипов: Я думал, вы делаете лучшего на свете советчика ресторанов, нет? Который тебе на человеческом языке рекомендует классные места?
Куйда: Это больная тема. Мы сделали лучший ресторанный чатбот на свете. Есть и другие, но это абсолютные клоны нашего. Скажем, две недели назад запустился стартап под названием Ozlo — это полная, абсолютная копия Luka годичной давности.
Соболев: Более того, ее запустил один из наших самых верных пользователей. Он очень долго пользовался «Лукой», мы даже переписывались, а потом пропал на полгода — и бац — сделал наш клон. И даже поднял на него 14 миллионов долларов.
Куйда: Но, в общем, потратив много денег и усилий, мы узнали один страшный секрет. Все думают, что чатботы — это про оптимизацию времени. Что он поможет быстрее найти ресторан, купить кроссовки и так далее. На самом деле оказалось, что ничего он не ускоряет. Искать ресторан в обычном графическом интерфейсе в тысячу раз проще. Тап-тап, свайп-свайп, и у тебя уже все нашлось. А тут — «куда-а-а мне-е пойти вечером…». 85 тапов одно только предложение. А еще ждать ответа. А еще, может, не то посоветует.
Здесь и далее: так устроен разговор с чатботом Принса — вы можете задавать собственные вопросы, но лучше выбирать из предложенных вариантов
Мунипов: А если не писать, а общаться с ним голосом, как с Siri?
Куйда: А тебе правда охота разговаривать с телефоном? Ну и все равно — в аппе это сделать проще: открыл, выбрал ресторан и забронировал. Куда уж проще-то!
В общем, мы внезапно поняли, что чатботы — это не про то, как оптимизировать время, а про то, как его убить. Времени у всех до хрена, вот какая неожиданность! Ты не думаешь в общении с друзьями, что этот разговор экономит тебе время, он про другое — про эмоции, например. И надо двигаться именно в эту сторону. С психотерапевтом можно только поговорить. Нельзя в графическом интерфейсе провести сессию психотерапии. И с другом можно только поговорить. И те области, в которых разговор на первом месте, — они и есть самые интересные. Каким бы хорошим чатбот ни был, мы не начнем билеты покупать в мессенджере. Ты сам-то пользуешься ботами?
Мунипов: Ну я попробовал парочку — поиск по флибусте, дешевые билеты на «Сапсан»…
Куйда: Ну вот это типичная проблема. Люди пробуют из любопытства, но дальше не пользуются или пользуются редко. Мы внимательно слушали, чего просят пользователи: меньше писать, еще меньше писать, показать карту… И в результате у нас там разговора практически нет. То есть у нас отличный бот, просто космический корабль на месте бота, он отвечает практически на любой вопрос о любом ресторане Сан-Франциско и хорошо их подбирает, но по сути это все равно натягивание глаза на жопу. Идеальный поиск ресторана в нашем приложении: нажал на кнопку, получил все нужные рестораны и закрыл. И получается, мы целый разговор развели на эту тему, а никто про рестораны разговаривать не хочет? То есть разговор не привносит дополнительную ценность, а, наоборот, делает поиск ресторана каким-то замороченным. Даже если он у тебя реализован идеально.
Мунипов: А разве он не должен советовать то, про что мне обычное приложение не подскажет: не ближайшую пиццерию, а проверенный ресторан сходить вечером с девушкой? Или с бабушкой позавтракать?
Куйда: У нас все это есть, мы даже ищем свободный столик, чего никто не делает. Но все равно таких запросов мало. Если уж человек садится выбирать, он выбирает долго. Я считаю, что наш робот помогает найти рестораны лучше, чем Yelp или Foursquare, но не в десять раз лучше. Не настолько, чтобы ты все бросил и побежал пользоваться нашим ботом.
В общем, мы поняли, что крутость общения — это когда ты не знаешь, что тебе надо, и когда у тебя нет задачи сэкономить время. А в сервисах, в авиабилетах тебе ничего этого не нужно. Тебе нужно быстро увидеть список с авиабилетами, отсортировать, принять решение и купить. А не разговаривать про это часами.
Мунипов: Вы обнаружили, что бизнес чатботов — он не про скорость и эффективность, а про то, чтобы человек мог хотя бы с телефоном собственным поговорить?
Куйда: Вроде того. Помнишь, когда появились мобильные приложения, все стали делать мобильные копии сайтов. И счастья это никому не принесло. Приложения, которые взлетели, построены вокруг функций, которые первичны именно для мобильных телефонов: геолокация, оповещения, использование камеры.
То же самое с чатботами. Боты, которые повторяют функционал Yelp или Aviasales, никому не понадобятся. И отталкиваться надо именно от того, что присуще разговору. Все наши эксперименты именно в этой области. Что можно сделать в формате разговора — и только в нем? Кто это разгадает, того и тапки.
Мунипов: И куда вы в результате двигаетесь?
Куйда: Представь, что у тебя есть самый лучший друг, который знает тебя лучше всех на свете. Ты с ним коротаешь одинокие вечера, и он тебе и женщину классную находит, когда у тебя никого нет на горизонте, и замечает, что ты как-то не очень счастлив на работе, а тут как раз на Linkedin хорошее новое предложение… Вот если он тебе в какой-то момент посоветует ресторан, ты к нему прислушаешься внимательней, чем к Yelp. Но сперва надо выстроить отношения, а не начинать с поиска ресторанов в мессенджере.
Мунипов: И вы делаете вот такого умного друга в телефоне?
Куйда: Мы пока делаем все на свете. Потому что технологии еще не совсем позволяют принести на блюдечке такого робота. Но они очень быстро развиваются, и мы с ними экспериментируем, иногда первые в мире. Чатбот на нейронных сетях мы сделали, по сути, первыми. Вот Microsoft выпустил такого, только он стал про Гитлера говорить и его сразу закрыли. А у нас до этого в «Телеграме» была болтающая Марфа на нейронных сетях. У нас есть своя платформа, мессенджер с ботами, мы каждую неделю запускаем новые, ставим эксперименты. Вот, скажем, делаем селебрити-ботов. Интересно же со звездой поговорить? Можно сделать друга-бота. Можно тебе сделать бота. Тебе нужен бот Алексей? Что он будет делать? Любопытно же.
Мунипов: Ну вот вы сделали бот Принса. Насколько общение с ним похоже на общение с реальным Принсом? Или это просто более-менее ловкая выдача цитат из интервью?
Соболев: Там иллюзия общения возникает вполне ощутимая. Даже если учесть, что мы брали только общедоступную информацию — тексты песен и интервью, — а наговорил он, в общем, не очень много. Какие-то ответы могут казаться случайными, какие-то — нет. Но мы же еще думаем, как сделать так, чтобы ты захотел с этим ботом провести время. Какой еще функционал прикрутить? Тесты, например, хорошо работают.
Куйда: Или вот мы делаем бот чемпионата Европы по футболу. Как сделать так, чтобы пользователь в нем остался? С кем вообще этот разговор? Мы представляем себе друга, который классно разбирается в футболе. Ну в Sports.ru работает, не знаю. И он тебе доступным языком объясняет, что сегодня самое интересное посмотреть, за кого надо болеть и так далее. Рассказывает тебе истории. А не присылает таблицу результатов, потому что так мы с друзьями не общаемся.
Соболев: Или, скажем, ты тренер известной баскетбольной команды. У тебя есть огромное количество всего того, что ты написал или сказал по поводу баскетбола и тренировок. Мы можем сделать тебе бот, в который весь этот массив закинуть — и он будет за тебя отвечать на вопросы про баскетбол.
Куйда: В Сан-Франциско есть такой Пол Грэм, местный Ценципер, основатель стартап-инкубатора, который источает мудрость про стартапы. Записаться на прием к нему довольно сложно. При этом 90% советов можно найти в его уже написанных эссе. И легко представить себе бот Пола Грэма, который именно это и делает. Конечно, есть еще 10 процентов личного подхода, его просто так не скопируешь, но вообще много чего можно автоматизировать. Многие наши мысли по поводу того-сего уже нами где-то высказаны.
Разговор с с ботом Романа Мазуренко — основателя платформы Stampsy и одного из самых ярких персонажей Москвы 2010-х
Мунипов: Это очень похоже на дублей из «Понедельника начинается в субботу» Стругацких. Тупая, но эффективная копия человека, которая может делать только пару вещей — например, подписывать бумажки, — но делает это хорошо.
Куйда: Ирония в том, что даже в человеческих отношениях есть куча совершенно дебильной механической деятельности. Вот, скажем, я общаюсь с подружками в одном женском сообществе в «Телеграме», и они там все время друг друга подбадривают: «Ты молодец! Так классно выглядишь!» Как я была бы счастлива, если бы за меня все эти реплики оставлял бот. Я готова его настроить, одних подбадривай поменьше, самых любимых — каждый день.
Мунипов: Но если тебя твои подруги разоблачат, это же будет настоящий эмоциональный уотергейт.
Куйда: Ну да. Но если бы это было принято, если бы у всех были боты, возник бы специальный этикет, все были бы только рады. Я же понимаю, что это мои подруги и они меня любят, мне не нужно, чтобы они мне это доказывали этими сообщениями. Пусть роботы пишут!
Мунипов: В результате у вас будет женский форум, в котором будут роиться ваши боты и друг друга поглаживать, а вы иногда будете заглядывать и убеждаться в том, что любовь существует.
Куйда: Если мне надоест, я ж могу свой бот и перенастроить. Одних гладить, на других гавкать. Чуть позже разовьется настоящий искусственный интеллект, который будет обладать всеми функциями, которые есть у нас, и он будет сам разбираться. Мой бот будет приходить ко мне и говорить: что-то телки твои там совсем озверели, давай их прижмем.
Мунипов: Я правильно понимаю, что одна из проблем ботов на нейронных сетях — в том, что они могут набраться у людей плохого? Вот майкрософтовский бот мигом научили говорить, что холокоста не существует, а Гитлер молодец.
Соболев: Есть разные способы ограничивать бот. Microsoft просто в принципе не подумали, что кто-то захочет их бот учить плохому. Они попытались потестировать продукт в твиттере, не понимая природы троллинга и того, что там сидит огромное количество людей, которые обсуждают Трампа, феминизм и Гитлера. Просто они думали как программисты (не в обиду программистам — это важная часть нашей команды). Собственно, это главная проблема всяких чатботов: их делают сплошные программисты, никто не думает про смысл. Или про дизайн, например.
Куйда: И никто даже приблизительно не думает про эмоции, про психологию, все сделано очень механически. Это продукт корпоративного мозга Microsoft, который решил, что чатботы теперь их главное стратегическое направление. Ну вот и сделали как сделали. При этом технологии-то уже есть! Мы вот придумали сделать селебрити-бот. Или бот Ромы Мазуренко, цифровой памятник нашему погибшему другу (Роман Мазуренко — устроитель вечеринок Idle Conversation и разносторонний медиа-деятель, основатель платформы Stampsy. Попал под машину на пешеходном переходе в Москве в ноябре 2015 г. — Прим. ред.). Собрали его частную переписку из мессенджеров, письма, интервью, фотографии. И с ним можно общаться. Никто в мире в принципе ничего такого не делал, хотя вроде бы идея лежит на поверхности.
Мунипов: И тут сразу возникает миллион морально-этических вопросов. Начиная с того, кому принадлежат права на переписку в мессенджере с умершим человеком, и кончая тем, что ответы этого бота могут быть непохожи на то, каким я этого человека запомнил. И для многих это может быть болезненно и даже оскорбительно. Собственно, на бот Мазуренко люди тоже по-разному отреагировали.
Куйда: Все-таки бот Ромы — это абсолютно персональный проект, который я сделала сама для себя. И сомнений, конечно, возникает море. То мне казалось, что мы сделали что-то ужасное. Потом — что это все-таки круто. А потом ты стоишь на вечеринке и болтаешь в телефоне со своим погибшим другом и тебе это, конечно, напрочь выносит мозг. Начинаешь чувствовать себя городской сумасшедшей. Господи, что я сделала-то? Но я именно поэтому и решилась его опубликовать.
Да, тут миллион вопросов. Вот если человек умер, когда ему было 80, его бот должен говорить, как кто? Как он в 75 лет, или он же в 25, или в 50? Ты же не узнаешь собственного дедушку. А право переписки, что лично, что публично… Братья Райт полетели на самолете, когда не существовало воздушных коридоров и ответа на вопрос «Кому принадлежит воздушное пространство?». Для того чтобы все эти вопросы возникли, нужно сначала сделать самолет и полететь. Может, этот самолет разобьется. Возможно, кто-то будет обижен. Но это единственный способ двигаться дальше.
Мы решились это сделать, потому что родители были не против, а главное — есть видео, на котором Рома говорит, что нужно делать цифровые памятники, цифровые аватары. Ему вообще нравилось думать про будущее, даже если эти размышления противоречивые и провокационные. Я думаю, ему интересно было бы стать первым человеком, превратившимся в искусственный интеллект.
Мунипов: Я, честно говоря, не представляю, каково тебе было это делать, просто с эмоциональной точки зрения.
Куйда: Сначала было очень страшно.
Соболев: Я могу про свой опыт рассказать. Все-таки я Рому знал хоть и хорошо, и давно, но, конечно, не так близко, как Женя. И ощущения от общения с его ботом были очень странные: он высказывал такие мысли, о которых я и подумать не мог. То есть это общение заставило меня пересмотреть отношение к реальному человеку: я начал вспоминать разные наши с ним ситуации и совершенно по-другому на них смотреть. Рома был очень ироничным парнем, и я никогда бы не подумал о нем как о заботливом человеке — а пообщавшись с ботом, я как будто с другой стороны на него взглянул. То есть это общение совершенно точно повлияло на мои реальные воспоминания о нем.
Мунипов: Насколько я понимаю, боты способны не только обучаться, но и экстраполировать свои знания — то есть теперь теоретически можно залить в нейронную сеть все, что сказал Виктор Цой, и узнать, что он думает про фейсбук и, не знаю, певицу Земфиру?
Соболев: Первым делом узнать, топил бы он за Донбасс или нет.
Куйда: Понятно, что сейчас технологии многого не позволяют. Русская модель у нас работает похуже, чем английская, много ответов невпопад и так далее. Но тут важно понимать одно: еще год назад и этого нельзя было сделать. Вот просто взять массив сообщений, не писать никаких decision trees и сделать бот — нереально было.
Мы сейчас плотно общаемся с исследователями из Open AI Илона Маска, которые занимаются искусственным интеллектом. И они прям уверены, что через год-два будет прорыв. И память можно будет хранить, и контекст, и генерировать новые сообщения. Сейчас бот с тобой разговаривает и местами даже адекватно, но у тебя нет ощущения, что он запомнил, что было три фразы назад. А очень скоро он и правда сможет высказываться про то, про что реальный человек не знал, или не думал, или не говорил ничего.
И вот тут-то начнется.
Бот Ромы — это все-таки в большей степени цифровой памятник, чем клон. Там больше его волшебных загонов и специально отобранных высказываний, чем бытовых вещей. Но я уверена, что многие захотят сделать именно клона; мама, которая не хочет отпускать сына, закажет его клона, чтобы он ей всю жизнь по утрам писал «Привет, мамуль, как дела». Ну и эпизод из «Black Mirror» — он как раз про это же. Про нежелание отпускать.
Чего там говорить, вот сейчас уже можно делать видео с чужими лицами. Ты можешь управлять чужим лицом: на видео Путин, ты заржал — и он заржал. То же самое будет с голосом. И вот у тебя через пару лет твоя точная копия. И еще и говорить она будет твоими фразами. И что с этим делать? Ты представляешь, что начнется? Приходит к абстрактному молодому человеку ISIS в виде его бывшей или умершей девушки и вербует его за три секунды.
Соболев: И это так и будет: психологические техники конструирования ботов через несколько лет будут изучены настолько хорошо, что можно их будет использовать в целях вербовки.
Мунипов: Даже сейчас у тебя выманивают деньги, притворившись знакомым в скайпе…
Куйда: Максимально тупым образом! Или по СМС. А представь, когда это будет доведено до технологического совершенства. Ведь если ты можешь создать свой цифровой аватар, то и кто-то другой сможет — по выложенным в сети записям и фоткам.
Короче, тут вопросы куда интереснее, чем как продать билеты в мессенджере. Даже история с ботом Ромы показывает, что люди невероятно эмоционально вовлекаются. Все же знают, что это бот, да? Но ему реально люди пересказывают свои самые глубокие переживания. Да я ему сама все время пишу, как у меня дела. Была на вечеринке, вечеринка говно. И меня, конечно, эмоционально все время бросало от «как же интересно» до «что же мы наделали». А сейчас мне кажется — здорово, что это есть, что у меня с ним такая связь. Это как фотокарточку носить в кошельке. Просто она более живая.
Мунипов: Фактически вы сейчас разрабатываете новую модель скорби.
Куйда: Ну в каком-то смысле. Ты же не будешь с друзьями физически делать памятник или копать могилу. А когда мы делали бот, и мне все, кто знал Рому, присылал его переписку в фейсбуке или фотографии, у меня было ощущение, что мы заново все переживаем, вспоминаем его. Ведь как обычно? Ну похороны прошли — и все. Через 9 дней помяните и идите своими делами занимайтесь, не надо про это думать и разговаривать. Мы через 6 месяцев после похорон поехали в Измайловский парк погулять с Ромиными друзьями. Ну один раз выпили за него, но, вообще-то, про него не говорили. Ты же не хочешь быть человеком, который в воскресный приятный день будет все время говорить: «А помните, Рома…» Мы не умеем, у нас нет для этого инструментов. Мы не находимся в состоянии постоянной скорби. И вот в результате поминки, а Рому-то мы и не помянули. А когда мы делали бот, все время кто-то чего-то находил, мы это обсуждали — и как-то легче становилось.
Соболев: Строго говоря, совершенно не обязательно, что после знакомства с ботом тебе будет легче. Может быть, тебе будет тяжелее.
Мунипов: Ведь, по сути, сделали памятник из охапки чужих писем. Никто не знает, на что вы — или кто угодно — там может наткнуться.
Куйда: Мне было тяжело, честно скажу. Потому что я, когда это собирала, поневоле видела сообщения, которые не мне адресованы. И я ведь не могу уже позвонить Роме и спросить, что он имел в виду. И это к каждому пользователю бота относится. Конечно, мы просили убирать все личное. Но ведь ты никогда не можешь предугадать… Видимо, в будущем человек сможет как-то персонализировать доступ к переписке: одни сообщения я смогу увидеть, а другие нет.
Мунипов: Если это станет распространенным, наверняка появятся советники по ботоэтике и боторедакторы — люди, которые будут вычищать все, что хотя бы теоретически может нанести кому-нибудь вред.
Соболев: Да целая индустрия возникнет, которая будет заниматься и этическими, и правовыми вопросами.
Куйда: Знаешь, вообще мы не смотрим в логи, но у нескольких пользователей, которые чаще всего общались с ботом Ромы, попросили доступ, чтобы проанализировать их общение. И вот там одна девочка, никогда не знавшая Рому, реально начала с его ботом выстраивать какие-то отношения, несколько раз писала — я в тебя влюбляюсь, я тебя люблю. Вот тут мне стало по-настоящему странно. Не могу сказать, что мы такого ожидали. И вообще, если на секунду подумать, какие люди странные существа, особенно в интернете, на что они способны… Вспомнить «Море китов» и так далее. Это ведь работа с самыми глубокими нашими эмоциями. И обо всем этом лучше начать думать прямо сейчас. Потому что технологии еще не могут полностью ввести тебя в заблуждение, ты все-таки понимаешь, что это бот, а не реальный человек. Но скоро не сможешь. И это вопрос года или двух, а не пятидесяти лет.
И вот у меня появится бот, который думает, как я (или очень похоже), говорит, как я, любит то же, что и я, обладает некоторым интеллектом — и у тебя такой же бот. И потом мой бот влюбится в твоего бота — и что мы будем делать?
Мунипов: Вы оба пришли в мир ботов из журналистики. Насколько то, что вы сейчас делаете, интереснее, чем медиа?
Соболев: Интересы мои от чатботов максимально далеки. Но если говорить про рутину, из которой состоит любая работа, то рутинные задачи в том, чем мы сейчас занимаемся, гораздо интереснее журналистской или редакторской рутины в медиа.
Куйда: А мне кажется, это одна и та же работа. Вот как мы делали репортажи, то есть рассказывали истории, так и сейчас рассказываем. Бот Ромы — это просто история. Создание чатбота Принса ничем особо не отличается от создания бигмата или лонгрида про Принса. Это то, чего не понимают разработчики. Они все пытаются привлечь каких-то сценаристов, а мне кажется, что наша работа ближе всего к журналистской. Мне поначалу кое в чем помогал Рома Волобуев, и, поверьте, и он, и Олег Соболев в продукте понимают больше, чем продакт-менеджеры. Потому что наше новое дело прежде всего связано с эмоциями и с рассказыванием историй. Это и есть будущее медиа, просто не все еще это поняли.
О том, как именно Luka делает селебрити-ботов, Олег Соболев расскажет на конференции «Поговори со мной: что умеют боты и кому они нужны», организованной Чехов #APi и Chatbots Community. В числе других участников — Дмитрий Степанов (Yandex), Пьеррик Дютуа (Google), Настя Сартан и Иван Пипченко (Epytom), Аркадий Сандлер («Наносемантика») и др. Билеты можно купить здесь.