Илья Суцкевер (Ilya Sutskever), один из соучредителей OpenAI, запустил новую компанию Safe Superintelligence Inc. (SSI) всего через месяц после официального ухода из OpenAI.
В мае этого года сооснователь OpenAI Илья Суцкевер покинул компанию. Вслед за этим руководство расформировало команду по безопасности ИИ, члены которой неоднократно заявляли о том, что процессы безопасности были отодвинуты на задний план. Однако Суцкевер не ушел на пенсию, а бросил вызов Сэму Альтману, объединившись с бывшим руководителем отдела AI в Apple Дэниелом Гроссом и инженером OpenAI Дэниелом Леви. Вместе они основали стартап Safe Superintelligence (SSI). Их основная цель — обеспечение безопасности искусственного интеллекта, без отвлечения на маркетинг и другие второстепенные задачи.
В OpenAI Суцкевер был ключевой фигурой в усилиях компании по повышению безопасности ИИ с ростом «сверхинтеллектуальных» систем ИИ, над чем он работал вместе с Яном Лейке, который сопредседательствовал в команде OpenAI по Супервыравниванию. Однако оба, и Суцкевер, и затем Лейке, покинули компанию в мае после драматического разрыва с руководством OpenAI по поводу подхода к безопасности ИИ. Теперь Лейке возглавляет команду в конкурирующей компании Anthropic.
Суцкевер долгое время обращал внимание на сложные аспекты безопасности ИИ. В блоге, опубликованном в 2023 году, Суцкевер, писавший вместе с Лейке, предсказал, что ИИ с интеллектом, превосходящим человеческий, может появиться в течение десятилетия — и когда это произойдет, он не обязательно будет доброжелательным, что требует исследования способов контроля и ограничения.
Он явно столь же предан делу, как и раньше. В среду днем твит, объявляющий о создании новой компании Суцкевера, гласит: «SSI — это наша миссия, наше имя и вся наша дорожная карта продуктов, потому что это наш единственный фокус. Наша команда, инвесторы и бизнес-модель все нацелены на достижение SSI. Мы рассматриваем безопасность и возможности как технические проблемы, которые нужно решать с помощью революционной инженерии и научных прорывов.»
«Мы планируем развивать возможности как можно быстрее, обеспечивая при этом, чтобы наша безопасность всегда оставалась впереди. Таким образом, мы можем расти в мире. Наш единственный фокус означает отсутствие отвлечения на управленческие задачи или продуктовые циклы, а наша бизнес-модель означает, что безопасность, охрана и прогресс защищены от краткосрочных коммерческих давлений.»
Суцкевер обсудил с Bloomberg новую компанию более подробно, хотя отказался обсуждать ее финансовое положение или оценку.
Более очевидно, что в отличие от OpenAI — которая изначально была запущена как некоммерческая организация в 2015 году, а затем реорганизовалась, когда стало ясно, что для ее вычислительных мощностей требуются огромные суммы денег — SSI с самого начала разрабатывается как коммерческое предприятие. Судя по интересу к ИИ и конкретным компетенциям команды, вскоре она может утопать в капитале. «Из всех проблем, с которыми мы сталкиваемся,» говорит Гросс Bloomberg, «сбор капитала не будет одной из них.»
SSI имеет офисы в Пало-Альто и Тель-Авиве, где в настоящее время набирается технический персонал.
