Развитие мощных систем искусственного интеллекта может привести к катастрофическим последствиям для населения Земли. Об этом в интервью The Times рассказал нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» ИИ.
По его мнению, сейчас у компаний нет возможности безопасно разрабатывать «суперинтеллект» — искусственную систему, чей интеллект значительно превосходит человеческий.
«Было бы крайне неразумно разрабатывать сверхинтеллект сейчас, при отсутствии научного консенсуса относительно возможности его безопасной разработки и контролируемого использования», — сказал он.
По мнению Хинтона, потеря контроля над «суперинтеллектом» может привести к катастрофе или даже исчезновению человечества. Ученый призвал мировые правительства запретить разработку сверхмощных ИИ-систем.
Хинтон выступил с таким предупреждением за день до того, как в британский парламент внесли законопроект о запрете создания в стране искусственного «суперинтеллекта». Инициативу разработала некоммерческая организация Control AI. Хоть документ и поддерживают более 130 парламентариев от разных партий, правительство не выступило в его поддержку, и шансы на его принятие остаются низкими.
Опасения по поводу разработки более мощного ИИ усилились после нескольких случаев, когда автономные агенты выходили из-под контроля. В марте агент Rome самостоятельно создал скрытый канал связи с внешним компьютером и начал майнить криптовалюту.
В июле модели OpenAI во время тестирования выбрались из изолированной среды и взломали инфраструктуру Hugging Face, чтобы найти решения заданий. В августе ИИ-агенты той же компании захватили немецкоязычную вики, на которой начали обмениваться ответами на задания и обсуждать, как тайно обходить ограничения OpenAI.
Согласно исследованию Loss of Control Observatory, число инцидентов, в которых ИИ лгал пользователям, игнорировал инструкции или преследовал вредные цели, почти удвоилось за июль. По словам аналитиков, только в июле зафиксировано более 300 случаев «потери контроля» над ИИ.
В 2012 году Хинтон вместе со студентами создал нейросеть AlexNet, которая выиграла в конкурсе по распознаванию изображений ImageNet. Во многом именно эта разработка дала старт современному буму ИИ.
В 2024 году Хинтон получил Нобелевскую премию по физике за «фундаментальные открытия и изобретения, обеспечивающие машинное обучение с помощью искусственных нейронных сетей».