Румман Чоудхури — американский ученый и предприниматель, специализирующийся в области этики и искусственного интеллекта. Она является основателем некоммерческой организации Humane Intelligence, которая занимается тестированием искусственного интеллекта на проникновение.
В начале августа около 4000 хакеров собрались в Лас-Вегасе, чтобы взломать чатботы от OpenAI, Google и Anthropic. Хакеры, которые смогли убедить ИИ действовать вопреки своим правилам — например, раскрывая рецепты антрацита или высказывая расистские высказывания — были вознаграждены очками. Победитель нашел несколько уязвимостей, включая одну, где чатбот раскрыл номер кредитной карты, который ему было сказано держать в секрете. Мероприятие было организовано совместно с Румман Чоудхури.
Байденская администрация выступила в качестве одного из главных поддерживающих мероприятие. «Это независимое упражнение предоставит критическую информацию исследователям и общественности о влиянии этих моделей, и позволит компаниям и разработчикам искусственного интеллекта принимать меры по устранению обнаруженных проблем», — говорится в заявлении Белого дома.
Чоудхури хорошо знает опасности искусственного интеллекта. До того, как Илон Маск уволил ее, она была руководителем команды по этике машинного обучения в Twitter, где она провела исследование, показавшее, что алгоритмы ИИ компании неравномерно поддерживали правые новостные источники во время выборов в США в 2020 году. После выпуска ChatGPT она спросила бота о себе. Он сообщил, что она — социальный медиа-инфлюенсер с большой коллекцией обуви. «Это не только неверно с точки зрения фактов», — говорит Чоудхури. «Это очень сексистский подход».
В интервью для журнала TIME она поделилась своими опасениями относительно текущего принятия искусственного интеллекта. Ее самой большой опасностью является увеличение централизации власти и богатства в руках всё меньшего числа людей. Она также отмечает, что это приводит к разрушению отдельных отраслей и средств к существованию людей. Кроме того, разработчики ИИ не отражают мнение большинства населения мира и при этом навязывают свои технологии всему миру. Они зарабатывают на том, что мы все свободно выкладываем в интернет, и при этом отнимают средства к существованию у многих людей.
Чоудхури также отмечает, что многие люди ошибочно считают ИИ чем-то волшебным. На самом деле, это просто математика, оформленная в код. Все проблемы, связанные с искусственным интеллектом, имеют аналоги, которые уже были решены в прошлом. Еще одна распространенная ошибка — это мнение о программистах и разработчиках ИИ, как о неких магических и уникально способных людях, которые умнее всех остальных. Это также неправда и часто поддерживается самими людьми в этой сфере, чтобы создать мистику вокруг технологии и исключить других. Наконец, Чоудхури отмечает, что многие боятся критиковать ИИ, задавать вопросы о его правильности и рассматривать его как лучшего эксперта в какой-то области. В действительности, ИИ не может принимать решения лучше, чем эксперт в этой области.
В заключение, Чоудхури подчеркивает, что искусственный интеллект — это не волшебство, а просто математика. Нам нужно критически мыслить и задавать вопросы о его использовании, чтобы избежать возможных негативных последствий.
