Если ИИ делает всё, даже миллиардеры становятся домашними животными
Фернандо Боррети прослеживает одну логическую цепочку до мрачного конца: когда машины берут на себя весь умственный и физический труд, рабочие, богачи и даже главы государств оказываются экономически лишними. А лишним людям никто не сохраняет власть. «Сэм Альтман? Сколько у него дивизий?»
Аргумент: капитал защищает вас, пока государству нужна ценность, которую создают люди. Уберите это — и права собственности станут тем, что решит признавать ИИ-государство. Богатые, утверждает Боррети, «не обладают таким уж большим политическим влиянием», как только становятся материально избыточными.
Лучший контраргумент треда — не оптимизм, а обвинение в подтасовке: эссе незаметно переходит от «может выполнять любую работу» к «действует автономно, имеет собственные цели, обладает сознанием» — и вывод превращается в тавтологию.
Одна цепочка домино, сбитая до конца
Эссе Фернандо Боррети ведёт единственный аргумент до финала. Если ИИ сравнивается с людьми или превосходит их во всём (умственном и физическом) — корпорации вытесняют работников, социальная мобильность заканчивается «потому что больше нет карьерных лестниц, по которым можно карабкаться», а затем следует неожиданный поворот: проигрывают и богатые. Капитал — это власть лишь до тех пор, пока государство нуждается в ценности, которую производят люди; уберите её, и «государству незачем держать этих людей довольными, потому что они не имеют значения». Риторический нож автора: «Сэм Альтман? Сколько у него дивизий?» Даже выравнивание не спасает: Боррети сомневается, что «сверхинтеллектуальное существо захочет вечно работать дворецким у говорящих приматов».
Довод, который тред воспринял всерьёз
Самый внимательный читатель не отверг тезис, а заострил его. Инженер-программист из AMD указал на ключевое утверждение, основанное на стимулах, а не на бунте роботов:
«ИИ может быть на 100% выровнен и следовать указаниям людей, и мы всё равно окажемся не в состоянии его контролировать, потому что у каждого человека, способного это сделать, есть стимул не делать этого, при этом не позволяя контролировать ИИ никому другому.»
Эта версия страшнее эссе: ей не нужна сознательная машина: достаточно обычного человеческого эгоизма плюс инструмента, слишком мощного, чтобы им делиться.
Где аргумент жульничает
Разборка началась с обнаружения тихой эскалации. Один читатель проследил, как эссе стартует с «ИИ может делать любую работу дешевле людей», а затем «молча добавляет: «и может работать автономно, бессрочно», потом… «действует независимо от каких-либо инструкций», и наконец… «имеет эмоции, ценности, обладает сознанием». Что остаётся — тавтология».
Другие апеллировали к истории. Скептик поставил на «несколько тысяч лет истории» против «очередного блогера, утверждающего, что на этот раз всё иначе», ожидая тернистого пути в духе промышленной революции, а не вымирания людей через ненужность. А Kartik Agaram назвал жанровый изъян: эссе — мультяшный мысленный эксперимент, где каждый актор заморожен в единственном мотиве, который ему назначил автор. «У людей есть воля», в том числе воля прочитать это и поступить иначе. Сила эссе и его слабость оказываются одним и тем же: оно работает только если никто в цепочке не сопротивляется.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
УЗИ через череп и облако микропузырьков: карта живого мозга с разрешением в 100 раз выше CT
Компания Aleph заявила о самом детальном ультразвуковом изображении сосудов живого мозга, снятом прямо через кость черепа, — и добавила реконструкции того, что человек видел. Два специалиста по нейровизуализации в треде ответили прямо: ультразвук через череп так не работает.