Тэд Чанг, быть может, самый известный современный автор научной фантастики в мире. В его коротких, тщательно проработанных историях исследуется, как наши внутренние миры и наши общества будут реагировать на неожиданные разрывы в науке. Каково это будет, получить гормональный укол, который резко улучшит вашу когнитивную функцию? Что, если изучение инопланетного языка изменит ваше восприятие времени? И если человечество создаст искусственную жизнь, какие обязательства мы будем им должны? Недавно Чанг, 56 лет, взял на себя новую роль. В нехудожественных произведениях для журнала New Yorker он выступил одним из самых острых критиков ИИ и компаний, стоящих за ним. В одной из его вирусных статей он сравнил ChatGPT с «размытым jpeg» интернета, утверждая, что именно технология, делающая приложение настолько грамотным, является причиной его неспособности различать правду от вымысла. В другой статье он направил свою критику на структуры власти, из которых вытекают и поддерживаются новые достижения в области ИИ. Без структурных экономических изменений, по его мнению, рост ИИ угрожает ухудшению неравенства в богатстве, ослаблению власти рабочих и укреплению технологической олигархии. «Что означает прогресс, если в нем нет лучшей жизни для работающих людей?» — пишет он. «Какой смысл в большей эффективности, если сохраненные деньги идут только на счета акционеров?» В своих коротких, но электризующих историях Чанг каждое слово играет свою роль. И в видеоинтервью по Zoom в начале августа он снова говорит о языке. Чанг признает необходимость человечества использовать метафоры, когда говорит о новых технологиях; в нашем поиске смысла это помогает нам опираться на сравнения. Его проблема в том, когда используемые нами метафоры вводят нас в заблуждение. Например, когда большая языковая модель производит ложную информацию, это называется «галлюцинацией». Он предпочитает термин «конфабуляция». Галлюцинация подразумевает не только наличие внутреннего разума, но и способность этого разума к ощущениям. Конфабуляция, с другой стороны, происходит, когда человек неосознанно фальсифицирует информацию, чтобы замаскировать пробел в своей памяти. Это все равно метафора, но намного лучшая для описания того, как работает современный ИИ, по его мнению. «Можем ли мы остановить LLMs от конфабуляции, сохраняя при этом способность генерировать фактические ответы того типа, который нам нужен?» — спрашивает Чанг. «Я скептически настроен, потому что не считаю, что здесь работают фундаментально разные процессы». Как и многие авторы научной фантастики, Чанг писал в своих коротких рассказах о искусственных существах с сознательными внутренними мирами. Не усугубляет ли это художественное устройство — так часто полезное для рассказа о том, что на самом деле делает нас людьми — нашу склонность видеть признаки разумности в ИИ-инструментах, когда на самом деле ничего подобного не существует? Хотя много научной фантастики исследовало идею разумного ИИ, у нас мало художественных точек отсчета для ситуации, в которой мы сейчас находимся, когда машины могут очаровывать нас нашим собственным языком, не обладая исполнительной функцией. Может ли научная фантастика сыграть роль в популяризации этой идеи? Чанг сомневается. «Все искусство политично и может пропагандировать положительные политические идеи», — говорит он. «Но я не хочу говорить, что научная фантастика должна иметь какие-то другие приоритеты, кроме того, чтобы быть хорошим искусством». Чанг также отказывается принять предложение, что разрушение неправдоподобных историй, рассказываемых технологами, дает ему «какую-то моральную власть». Но он признает, что когда он читает некоторые из более спекулятивных дискуссий об опасностях ИИ, он видит больше общего с научной фантастикой, чем с фактами. «Идея компьютера, который может сделать себя умнее и стать сверхразумным, это действительно интересная идея для истории», — говорит он. «Но слышать людей, которые говорят об этом, как о том, что действительно собирается произойти, просто неприятно».
