Дэн Хендрикс, на тот момент кандидат наук в области информатики в Университете Калифорнии в Беркли, опубликовал в 2021 году на онлайн форуме прогноз о том, что в 2023 году Элон Маск вернется к борьбе за создание безопасного продвинутого искусственного интеллекта. Хендрикс оказался прав — Маск запустил xAI в июле 2023 года. Но то, чего он не ожидал, это стать советником по безопасности в xAI. После защиты диссертации Хендрикс основал Центр по безопасности искусственного интеллекта (CAIS), некоммерческую организацию с более чем десятью сотрудниками в Сан-Франциско. Он проводит время на исследованиях способов обеспечения безопасности искусственного интеллекта, координирует усилия по привлечению большего числа людей к этой проблеме, и информирует политиков и общественность о возможных опасностях. Это была CAIS, которая в мае опубликовала заявление о том, что риск вымирания от искусственного интеллекта должен быть глобальным приоритетом, наряду с другими глобальными рисками, такими как пандемии и ядерная война. Оно было подписано более чем 500 известными учеными и лидерами отрасли. Примерно в то же время Центр по безопасности искусственного интеллекта, который курируется и редактируется Хендриксом, отреагировал на сообщения о том, что Маск собирается создать новую организацию по искусственному интеллекту. В информационном бюллетене предупреждалось, что такое решение Маска может привести к увеличению конкуренции между разработчиками искусственного интеллекта, что может привести к меньшему количеству времени и внимания, уделяемых обеспечению безопасности систем искусственного интеллекта. Хендрикс написал письмо Игорю Бабушкину, одному из старших сотрудников xAI, чтобы узнать, как именно они планируют подходить к вопросу безопасности искусственного интеллекта, и процесс подбора персонала продолжался оттуда. Хендрикс признается, что его докторская диссертация по вопросам безопасности помогла ему получить позицию в xAI, и говорит, что он впервые встретился с Маском лишь позднее, в процессе собеседования. Сейчас ему 28 лет, и он утверждает, что даже работая в xAI, предупреждение остается в силе: «Я считаю, что конкурентные давления являются наиболее важным фактором риска». Он упоминал их в своей первой встрече с Маском, который «согласился, что мы не должны пытаться выиграть гонку на вымирание». Он надеется, что правительство или международные институты займутся этой проблемой. В то же время Хендрикс ожидает, что xAI станет одной из лучших компаний в области искусственного интеллекта благодаря обширным ресурсам Маска, и он предпочел бы работать над тем, чтобы убедиться, что системы xAI будут максимально безопасны. (Хендрикс, который до сих пор управляет CAIS, говорит, что не является акционером xAI и получает ежегодную зарплату в 1 доллар, чтобы избежать конфликта интересов). В конечном счете, Хендрикс считает, что наиболее опасной конкуренцией будет не между компаниями. «Корпоративные лаборатории могут быть некоторым отвлечением». Он предсказывает, что по мере того, как системы искусственного интеллекта становятся все более мощными, военные организации осознают их важность для национальной безопасности. Он опасается, что без сильной международной координации может начаться международная гонка вооружений. Он предсказывает, что такая гонка может иметь 80% шанс привести к катастрофе, которая может уничтожить всю или большую часть человечества. Срочность этой угрозы заставляет его работать долгие часы, но он также успокаивает себя мыслью, что ему придется работать только еще 20 лет. После этого, по его прогнозу, его работу либо автоматизируют, либо он, как и все остальные, будет мертв.
Другие специалисты
