Shane Legg является соучредителем лидирующей лаборатории искусственного интеллекта DeepMind. Когда он проводит собеседования с соискателями на работу, он хочет быть уверенным в том, что они знают, во что они ввязываются. Главный операционный директор DeepMind Лила Ибрагим рассказала журналу TIME, что разговоры с Леггом заставили ее беспокоиться о будущем своих детей, учитывая риски, связанные с разрабатываемыми компанией технологиями. Легг был главным ученым DeepMind с момента его основания и стал главным ученым по AGI после того, как DeepMind объединилась с Google Brain в апреле, чтобы создать Google DeepMind. Он говорит, что часто говорил открыто о том, как скоро могут появиться искусственный общий интеллект (AGI) — искусственный интеллект, который может выполнять практически любую когнитивную задачу, которую может выполнить человек — и о рисках, которые может представлять AGI, чтобы «увидеть, как они на это реагируют. Потому что многие люди находили подобные вещи совершенно безумными. Я хотел увидеть, насколько комфортно они чувствуют себя, думая о вещах, которые выходят за рамки текущего состояния искусственного интеллекта … Я считал, что это важное качество». Сегодня многие другие присоединяются к мысли, которой Легг занимается уже более двух десятилетий. В 2011 году в интервью на блоге LessWrong он оценил, что существует 50% вероятность того, что машинный интеллект на уровне человека будет создан к 2028 году. Легг говорит TIME, что он на самом деле сделал эту прогноз более двух десятилетий назад, когда работал программистом, после прочтения книги Рэя Курцвейла «Век духовных машин», и до сих пор не изменил своего мнения. До недавнего времени его прогнозы отвергались большинством исследователей в области ИИ, включая лауреатов премии Тьюринга Джеффри Хинтона и Йошуа Бенджио. Но оба они внезапно изменили свое мнение по этому вопросу в начале этого года и предсказали (с большим трепетом), что человеческий уровень ИИ будет разработан в течение следующих пяти — двадцати лет. «Оба они считали меня довольно сумасшедшим, делая такой прогноз», — говорит Легг, 49 лет. «И теперь ни один из них не считает этот прогноз сумасшедшим.» Легг взял свой прогноз достаточно серьезно, чтобы решить вернуться в университет, чтобы узнать больше об ИИ — в 2003 году он начал обучение на докторской программе в Институте искусственного интеллекта в Лугано, Швейцария, и выиграл престижную премию за свою диссертацию «Машинный сверхразум». (В конечном итоге Легг привлек своего научного руководителя Маркуса Хаттера в качестве старшего научного сотрудника DeepMind в 2019 году.) В 2009 году, работая в качестве постдоктора в Лондонском университете, Легг познакомился с коллегой исследователем Демисом Хассабисом. Вместе с детским другом Хассабиса и прогрессивным активистом Мустафой Сулейманом они основали DeepMind в 2010 году с миссией решить проблему интеллекта, развивая AGI, и использовать это для решения проблем человечества. (Термин AGI впервые был использован физиком Марком Губрудом в 1997 году, но в 2002 году Шейн Легг независимо придумал эту фразу и популяризировал ее со своим бывшим начальником Беном Гертцелом.) С тех пор Легг, который держит низкий профиль, руководил командой технической безопасности AGI DeepMind — которая пытается обеспечить, чтобы мощные системы искусственного интеллекта, как только они будут разработаны, вели себя так, как их создатели задумывали, и предотвратить катастрофу, вызванную системой ИИ, которая развивает вредные цели самостоятельно. Легг оценивает, что существует 70% вероятность того, что он и другие решат эту проблему к 2028 году. «У меня есть чувство, что это выполнимо», — говорит он. «Это может быть не так сложно, как мы думаем, и в будущем может показаться довольно очевидным». Легг утверждает, что многие из трудностей, которые ранние исследователи видели в том, чтобы заставить системы ИИ вести себя правильно, например, убедиться, что они понимают человеческие ценности, были решены благодаря работе, которая произошла с тех пор, и что многие пессимисты в области ИИ не изменили своего мнения на основе этих разработок. Но задолго до гипотетического развития AGI Google DeepMind должна обеспечить, чтобы ее системы ИИ вели себя правильно. По сообщениям, компания собирается выпустить Gemini, свою самую большую модель ИИ, этой осенью. Хассабис, генеральный директор Google DeepMind, возглавляет эту работу, и даже сооснователь Google Сергей Брин вернулся из отставки, чтобы помочь Хассабису с этим проектом.
Другие специалисты
