Илья Суцкевер — один из главных ученых в области искусственного интеллекта и главный ученый компании OpenAI. Он занимается разработкой новых технологий, которые могут изменить нашу жизнь в будущем. Суцкевер известен своими достижениями в области компьютерного зрения и машинного перевода, а также является соавтором многих работ, включая ChatGPT и генератор изображений DALL-E.
В июле 2021 года компания OpenAI объявила, что Суцкевер будет руководить новой командой Superalignment, которая занимается разработкой методов, позволяющих обеспечить, чтобы искусственный интеллект действовал в интересах человечества. Эта работа не связана с более короткосрочными исследованиями компании, направленными на обеспечение соответствия слабых систем искусственного интеллекта, которые уже существуют или появятся в будущем. Суцкевер считает, что задача понять, как внушить определенные ценности сверхчеловеческим системам, имеет огромное значение.
«В будущем искусственные интеллектуальные системы станут очень мощными и способными. Мы не сможем их понять. Они будут намного умнее нас. Именно поэтому критически важно, чтобы внушение было очень сильным, чтобы они относились к нам так же, как мы относимся к нашим детям», — говорит Суцкевер.
По мнению ученого, примером такого внушения может служить забота родителей о благополучии своих детей. Мы знаем, что это возможно, и Суцкевер считает, что это может стать основой для того, чтобы обеспечить, чтобы искусственный интеллект действовал в интересах человечества. Однако, как именно это внушение будет работать, остается открытым вопросом и требует дальнейших исследований.
Суцкевер также подчеркивает, что разработка подходящих методов для внушения ценностей сверхчеловеческим системам имеет огромное значение для будущего человечества. Ведь мы не можем предсказать, какой влияние окажут такие системы на нашу жизнь, и поэтому важно обеспечить, чтобы они действовали в нашем интересе.
В целом, работа Ильи Суцкевера и команды Superalignment важна для развития искусственного интеллекта и его влияния на нашу жизнь. Их исследования и разработки могут помочь обеспечить, чтобы будущие системы искусственного интеллекта были безопасны и действовали в интересах человечества.
