Эффективный альтруизм с убежищем на всякий случай

Эффективные альтруисты, руководящие ИИ-корпорациями, планируют приносить человечеству как можно больше пользы — и желательно уметь её посчитать. Но, кажется, у этого плана есть секретное приложение: если человечеству в результате не повезёт, хорошо бы заранее знать, где находится твоё собственное убежище.

The Decoder со ссылкой на The Wall Street Journal пишет, что некоторые из первых сотрудников Anthropic обдумывают покупку земли в удалённых районах США — на случай, если ИИ «пойдёт не так». Пока вроде бы речь именно о планах, а не о готовом посёлке с табличкой «Мы предупреждали», но мы вас предупредили.

Бывшие сотрудники, по данным издания, вспоминают: на ранних корпоративных ужинах за столом обсуждали сценарий в духе Манхэттенского проекта — пустыня, защищённый государственный объект, разработка ИИ вдали от обычной жизни. Прелесть такого захода в том, что после вопроса «Кто будет десерт?» можно сразу перейти к вопросу «Где безопаснее строить будущее цивилизации?».

По отдельности в этих историях вроде как нет ничего удивительного. Люди тревожатся о технологии, над которой работают, и на всякий случай прикидывают запасной план. Смешно становится от масштаба притязаний: днём — решения, от которых, как нам объясняют, зависит судьба цивилизации; вечером — увлекательный выбор места, где удобнее встретить последствия этих решений.

Это очень эффективная версия альтруизма, выражаемая в ценах на специфическую недвижимость. В публичной презентации будущее принадлежит каждому. В личном календаре уже стоит напоминание: посмотреть дорогу до ближайшего удалённого района США (хотя, собственно, почему только там, Океания — подойдёт).

Пользу человечеству считают глобально, а участок под застройку бункерами на всякий случай подыскивают лично себе.

Разумеется, из всего этого не следует, что катастрофа неизбежна: эффективный альтруизм вообще пока плохо бьётся с банальной реальностью, не то что с регулярностью сбывающихся прогнозов. Однако стоит помнить, что люди, которые претендуют на лучшее понимание того, как строить будущее, отчего-то не прочь иметь адрес, по которому это будущее их не отыщет.