Дарио Амодеи одновременно справа и слева

На этой картинке Дарио Амодеи — сразу оба персонажа. Слева он говорит: мощный ИИ без надёжного контроля может стать катастрофой. Справа руководит компанией, которая строит всё более мощный ИИ: иначе, говорят в Anthropic, это сделают конкуренты похуже.

Логика простая: раз Уничтожитель 3000 всё равно построят, надо успеть первыми — аккуратно, ответственно, с хорошими намерениями и красивым разделом про безопасность в блоге.

Но хорошие намерения не отменяют гонку за вычислениями, инвестициями, людьми, контрактами и преимуществом над соперниками. «Мы строим это, чтобы никто не построил хуже» — удобная индульгенция строить вообще всё.

«Мы строим это, чтобы никто не построил хуже» — удобная индульгенция строить вообще всё.

Амодеи, похоже, понимает риски лучше многих. Но предупреждать о пожаре, одновременно подбрасывая дрова в печь, недостаточно. Если угроза настолько серьёзна, нужны не только «ответственные игроки», но и правила, ограничения и готовность не масштабироваться.

Иначе картинка перестаёт быть шуткой о людях, не понявших фантастику. Это портрет нашего времени: те, кто лучше всех описал опасность, лучше всех готовы на ней заработать.