«Я причина, по которой они существуют. Без меня их бы не было. Название я придумал», — нескромно выразился в майском интервью CNBC Илон Маск. В том же материале он сравнил авторов ChatGPT с экологами-активистами, которые вдруг занялись вырубкой тропических лесов.
Как вышло, что эксцентричный миллиардер сначала влюбился в удивительный стартап, а потом возненавидел его, и как группа молодых ученых превратилась из банды полусумасшедших фанатиков в самых влиятельных и одних из самых богатых стартаперов на планете?
С чего все началось
У руля OpenAI стоит программист и предприниматель Сэм Альтман. Успех пришел к нему после открытия сервиса для шеринга геолокации Loopt в 2005-м. Тогда же он познакомился с основателями важнейшего бизнес-инкубатора Y Combinator. Через десять лет его основатель Питер Грэм выбрал Альтмана своим преемником на должность президента и рекомендовал как одного из умнейших и самых сведущих в технологиях людей. При новом управляющем Y Combinator поменял стратегию: число сотрудничавших с фондом стартапов выросло в три раза, но каждый получал меньше денег, а многие из них стали заниматься исследовательскими проектами.
В начале 2010-х произошел бум машинного обучения, нейросети начали использовать для распознавания объектов на изображениях, перевода текстов и оптимизации контекстной рекламы.
Альтман изучал искусственный интеллект в Стэнфорде и уловил направление мысли коллег, однако пошел другим путем: он сконцентрировал силы и средства на разработке казавшегося утопичным проекта искусственного интеллекта общего назначения (Artificial General Intelligence, AGI; о том, что именно это значит, — ниже по тексту). «В 2015-м, когда мы только собирали команду, работа над AGI могла погубить вашу карьеру. Но мне были нужны люди, кто всерьез хотел бы заняться таким проектом», — вспоминает Альтман в интервью Wired; в том же материале вводится интересный термин «верующие в AGI». Именно из них и собралась команда.
Сооснователями исследовательского фонда OpenAIOpen: само название говорит об открытости и исследовательской, некоммерческой сущности стартапа. В начале своего пути будущие авторы ChatGPT даже не собирались патентовать свои изобретения. тогда стали технический директор платежной системы Stripe Грег Брокман, а также ключевые инженеры ИИ-лаборатории Google Brain Андрей Карпати и Илья Суцкевер. Последний был автором прорывной научной работы о распознавании изображений, и Google не был готов упустить столь ценного сотрудника просто так — за него Альтману пришлось бороться в течение нескольких месяцев.
В итоге он все-таки уговорил Суцкевера присоединиться к OpenAI, а вслед за ними компанию пополнили еще 20 специалистов.
Когда случился прорыв
Первые два года команда учила нейросети играть в видеоигры и управлять роботами, надеясь, что долгая и упорная тренировка к чему-то приведет. Однако на тот момент в OpenAI не работало ничего и разработчики лишь прожигали деньги инвесторов. Как вспоминает Илья Суцкевер, идея создать искусственный интеллект общего назначения потихоньку начинала казаться безумной.
Большой вклад в успех GPT сделал молодой программист Алек Редфорд, пришедший в компанию в 2016-м. Он экспериментировал с языковыми моделями и хотел научить нейросеть вести с человеком беседу, но обработка двух миллиардов разнообразных комментариев с Reddit так и не помогла ей строить понятные предложения.
Тогда исследователь начал с малого: обучил новую программу на сотне миллионов отзывов о товарах с Amazon, заставил различать положительные и негативные комментарии, а затем писать свои. «Мне нравится этот вид оружия… Обязательно к просмотру для любого мужчины, который любит шахматы!» — хотя текст получался нестройным, модели удалось передавать необходимое настроение.
В 2017-м мир искусственного интеллекта перевернула научная статья «Attention Is All You Need» от исследователей из Google. В ней авторы объяснили устройство трансформеровGPT (Generative Pre-trained Transformer) — генеративный предварительно обученный трансформер. — особенной архитектуры нейросетей, которая может концентрировать внимание на разных частях текста. Очень грубо говоря, алгоритм трансформера похож на принцип автодополнения текста: если вы написали «прив», робот предположит, что следом будет «ет», а нейросеть-трансформер угадывает, о чем пойдет речь на основе предложенных ей данных.
Новый алгоритм значительно ускорил анализ больших объемов информации и сократил время генерации ответа. Так возникла GPT-1, обученная на 7000 художественных книг, вопросах и ответах с Quora и текстовых работах студентов.
При чем тут Илон Маск
Он неразрывно связан с судьбой ChatGPT. Именно Маск оказался одним из первых инвесторов OpenAI, вложив в проект $100 млн.
Некоторое время спустя он же поставил OpenAI под угрозу закрытия. В 2018-м миллиардер потребовал у Альтмана контрольный пакет акций, однако получил отказ и ушел, забрав с собой деньги и вынудив некоммерческую организацию срочно искать других попечителей.
Под новый раунд инвестиций в 2019-м OpenAI пришлось поменять внутреннее устройство и начать зарабатывать самостоятельно. Многие элитные венчурные компании, например, Thrive Capital, Andreessen Horowitz, Founders Fund и Sequoia это устроило. Винод Хосла, глава Khosla Ventures, открыто говорил, что ждет превращения своих $50 млн в $5 млрд. На тот момент до релиза ChatGPT было еще три года.
Необходимость обрабатывать данные невообразимого размера толкнула команду в объятия Microsoft. Софтверный гигант предложил OpenAI воспользоваться мощностями своих облачных вычислений, а взамен получил внушительный процент от коммерческой деятельности.
Мегакорпорация также приобрела эксклюзивную лицензию на коммерческое использование GPT. Благодаря этому нейросетевые инструменты для генерации кода появились в GitHub, Bing стал первым поисковиком со встроенным чат-ботом, а в будущем технология должна появиться в Word, Excel и других офисных продуктах. В обмен на это компания Альтмана получила до $13 млрд инвестиций при оценке в $30 млрд.
Это соглашение вызвало волну критики — и особенно сердился именно Маск. По его мнению, эксклюзивное сотрудничество с владельцем Windows идет против идеалов компании, когда‑то обещавшей даже не патентовать свои технологии, а ее руководство находится в заложниках у жадной корпорации.
Планы на будущее
Глобальная задача Open AI, та же, что и раньше, — создание AGI. Интересно, что даже внутри самой компании нет четкого понимания, что именно это значит, но в документах есть пункт, согласно которому все финансовые договоренности (например, зарплату сотрудников или отношения с инвесторами) можно будет пересмотреть в том случае, если AGI появится на свет.
Речь о том, что в новом мире, где существует AGI, возможно, не окажется места деньгам — ну или они полностью утратят свою прежнюю сущность.
Очевидно, что к своей миссии они относятся серьезно.
В другом интервью тому же Wired босс Microsoft Сатья Наделла говорит, что он готов поставить все на карту ради создания искусственного интеллекта. По его словам, AGI может стать последним изобретением человечества. Он вовсе не намекает на то, что взбесившаяся нейросеть тут же начнет ядерную войну и всех уничтожит. Просто получившееся божество на световые годы опередит человечество в плане интеллекта и будет делать все прорывные изобретения за нас; любые идеи туповатых людей из плоти и крови померкнут на фоне откровений робота.
Тут хочется вернуться к критике Маска, который ругал OpenAI за то, что ее боссы слишком рано начали гоняться за прибылями. В начале своего пути это были фанатики, верующие в кибербога из машины. Теперь это богатейшие стартаперы, помогающие Microsoft получить преимущество над конкурентами. Удастся ли им сохранить свой запал и привести в наш мир искусственный сверхразум, или ChatGPT так и останется сообразительным болтуном, который приносит много денег… Так или иначе без денег здесь не обойтись никак: гениальный искусственный интеллект в гараже не создашь.