Эльхам Табасси – электротехнический инженер и главный ассистент лаборатории информационных технологий национального института стандартов и технологий США (NIST). Около пяти лет назад она предложила перенести обсуждение влияния искусственного интеллекта с принципов на практическую политику. Её предложение оказалось важным, и после того, как команда Табасси начала исследовать вопросы безопасности и предубежденности в ИИ, Конгресс поручил NIST разработать добровольный фреймворк управления рисками для надёжных систем искусственного интеллекта в рамках Закона о национальной обороне (NDAA) 2021 года. Табасси возглавила это усилие и в январе 2023 года представила окончательный фреймворк, разработанный для помощи пользователям и разработчикам ИИ в анализе и управлении рисками, связанными с ИИ, а также для предоставления практических рекомендаций по их минимизации.
Родилась и выросла в Иране в период революции и войны, Табасси всегда мечтала о том, чтобы стать учёным. В 1994 году она иммигрировала в США для учёбы в аспирантуре и начала работать в NIST пять лет спустя над различными проектами по машинному обучению и компьютерному зрению с применением в оценке биометрических систем и стандартов. В начале карьеры она была главным архитектором стандарта NIST по оценке качества отпечатков пальцев (NFIQ), который был принят в качестве международного стандарта для измерения качества отпечатков пальцев и применяется ФБР и Министерством внутренней безопасности.
(Это интервью было сокращено и отредактировано для большей ясности.)
TIME: Можете рассказать о Фреймворке управления рисками в области искусственного интеллекта (RMF) и цели его разработки? Это первый созданный фреймворк RMF для ИИ?
Эльхам Табасси: Это первый фреймворк, созданный NIST, это не обновление предыдущих. Для нас ИИ не новинка. Программа надёжного и ответственного ИИ была создана NIST в 2018-2019 годах после прорывов в области глубокого обучения. Многие организации и компании создавали целенаправленную программу ИИ, и было много усилий для создания этичного, ответственного и надёжного ИИ. Поэтому, когда мы создавали эту программу, был проведён конкурсный процесс, и моей целью было перейти от принципов к практике, определяя строительные блоки высокоуровневых принципов надёжности, ответственности и этики. Мы направили все наши исследования на разработку фреймворка RMF и запустили открытый, прозрачный и инклюзивный процесс, специально обратившись не только к разработчикам технологий, компьютерным учёным, математикам, статистикам и инженерам, как я, но и к юристам, психологам, социологам, познавательным учёным и философам. Мы провели много слушаний, чтобы узнать о технологии ИИ, как она создаётся, но и о том, кто на неё влияет, и это было очень полезно для разработки.
Вы сказали, что фреймворк добровольный и предназначен для использования агентствами и организациями для анализа рисков, связанных с ИИ. Использовали ли его агентства и организации с момента выхода фреймворка в январе?
Каждый день мы узнаём о новом агентстве или организации, которые его используют. Мы очень поддерживаем организации, чтобы они делились с нами, как они его используют, потому что для меня лично это очень важно измерить эффективность фреймворка RMF. Очень сложно измерить, как используется добровольный инструмент, но это вопрос ответственности. Мы слышали больше от компаний, которые его используют, многих крупных компаний. Я не имею разрешения их называть, но давайте просто скажем, что Microsoft выпустил план добросовестного и ответственного ИИ, в котором говорится о том, чтобы использовать фреймворк AI RMF. Они сказали, что они привели в соответствие свои внутренние практики и используют AI RMF. Мы слышали подобное и от других организаций и из правительства. Одной из особенностей AI RMF является то, что аудитория очень широкая. Он предназначен для всех, кто проектирует, разрабатывает, использует и развёртывает ИИ. Поэтому различные организации используют его по-разному. Некоторые используют его для разработки собственного фреймворка управления рисками, а некоторые – для информирования своего процесса закупки. Так что он используется разными способами. Мы также слышали от стран, которые говорят, что используют его как отправную точку для разработки своей собственной стратегии и фреймворка ИИ. Его используют также международные организации, такие как ОЭСР и IEEE. Так что его охват оказался больше, чем мы ожидали.
