Ян Лайке (Jan Leike) – молодой исследователь, который вносит значительный вклад в развитие искусственного интеллекта. Он является соруководителем команды Супервыравнивания в одной из лучших лабораторий AI – OpenAI. Цель этой команды – создать AI системы, которые помогут нам гарантировать, что будущие мощные AI системы будут действовать так, как предполагают их создатели.
Лайке уже более десяти лет занимается исследованиями в области выравнивания, начиная с момента, когда он прочитал работы Рэя Курцвейла и Элиезера Юдковски. Он тесно сотрудничал с ведущими исследователями в этой области, включая Маркуса Хуттера, профессора Австралийского национального университета и старшего исследователя DeepMind, Ника Бострома, автора книги «Сверхразумность», и Шейна Легга из DeepMind.
В 2021 году Лайке присоединился к OpenAI и теперь является частью одной из самых масштабных работ по выравниванию. Команда Супервыравнивания, объявленная в июле этого года, дала себе четыре года, чтобы «обеспечить, чтобы AI системы, гораздо умнее людей, следовали человеческим намерениям». Для достижения этой цели они получили 20% ресурсов OpenAI и поддержку главного ученого Ilya Sutskever, который вместе с Лайке руководит командой.
Лайке считает, что эти будущие AI системы могут помочь нам во многих областях. Например, они могут помочь в исследовании огромных математических представлений, которые составляют модель мира AI системы, и которые даже ученые, которые ее создают, не всегда могут интерпретировать. В мае этого года OpenAI сделали первые шаги в этом направлении, опубликовав статью, в которой GPT-4 пытался объяснить назначение каждого нейрона в GPT-2, более мелкой и менее способной модели. Хотя результаты были разнообразными, удалось найти нейрон, который, казалось, соответствовал «ссылкам на канадских людей, места и сущности».
Возможно, потому что Лайке занимается практическими решениями для выравнивания, а не мысленными экспериментами, он более оптимистично настроен, чем многие, кто работает над предотвращением катастрофы, связанной с AI. Он подчеркивает, что у людей все еще есть контроль над тем, что происходит, и мы должны приложить усилия, чтобы все прошло успешно.
«Избежать катастрофы, связанной с AI, – это, в некотором смысле, ответственность каждого, потому что, вероятно, потребуется много людей, работающих вместе и принимающих правильные решения в нужное время», — говорит Лайке.
Путь Яна Лейке в исследованиях ИИ демонстрирует переход от теоретических моделей, таких как AIXI, к эмпирической методологии, сосредоточенной на практических аспектах выравнивания систем ИИ следующего поколения. Его работа является критическим начинанием внутри сообщества ИИ для навигации в сложностях суперинтеллекта, стремясь использовать его потенциал, одновременно защищая человечество от его рисков.
