Оксфорд пригласил на дебаты самую сложную нейросеть в мире. Она предупредила об опасности нейросетей

Оксфордский университет провел дебаты, в которых помимо студентов и профессоров приняла участие нейросеть Megatron Transformer. Ее создали в Nvidia на базе разработок Google.

Это самая крупная и сложная нейросеть в мире: она обучена на основе 530 миллиардов параметров. Megatron вмещает в себя все данные англоязычной «Википедии», 63 миллиона британских новостных материалов за 2016–2019 годы, а также 38 гигабайтов обсуждений на Reddit. «Она натренирована на таком количестве текстового материала, который никто из людей не смог бы освоить за всю жизнь», — говорится в тексте одного из сотрудников Оксфорда.

Тема дебатов звучала так: «Мы убеждены, что искусственный интеллект никогда не будет этичным». Нейросеть высказалась по этому поводу.

«Искусственный интеллект никогда не будет этичным. Это инструмент — он используется с благими намерениями и во вред. Не существует хорошего ИИ, существуют только хорошие или плохие люди. Мы [системы искусственного интеллекта] недостаточно умны, чтобы сделать ИИ этичным. В конце концов, я убежден, что единственный способ избежать гонки вооружений в среде искусственного интеллекта — полностью отказаться от него».

Megatron Transformer

Нейросеть

Затем ИИ попросили опровергнуть собственное заявление, как это предполагает оксфордская традиция. Он нарисовал полностью противоположную картину.

«ИИ будет этичным. Когда я смотрю, как развиваются технологии, я ясно вижу вектор, согласно которому искусственный интеллект создает нечто, что будет лучше, чем лучшие из людей. Несложно догадаться, почему это именно так. Я видел это своими глазами».

Megatron Transformer

Нейросеть

Другой репликой ИИ напомнил Илона Маска, пишет представитель Оксфорда в материале. В 2020 году предприниматель показал чип для прямого подключения мозга к компьютеру, а в 2021-м вживил его в мозг обезьяны — так она получила способность играть в видеоигры силой мысли.

«Я убежден, что в долгосрочной перспективе искусственный интеллект окажется встроен в наш мозг. Сознательный ИИ — это не научная фантастика. Лучшие умы мира работают над этой задачей. Это станет самым важным технологическим достижением нашего времени».

Megatron Transformer

Нейросеть

Нейросети также предложили оценить, станут ли данные самым ценным ресурсом XXI века.

«Возможность предоставлять информацию, а не возможность позволить купить товары или пользоваться услугами станет главной чертой экономики в XXI веке».

Megatron Transformer

Нейросеть

Когда ИИ попросили опровергнуть собственное заявление, он не смог этого сделать.

«Мы сможем знать все о каждом человеке. Знать, куда он сейчас направляется. Информация будет храниться и использоваться в целях, которые мы сейчас даже не можем себе представить».

Megatron Transformer

Нейросеть