ИИ-лаборатории платят философам $350 000 в год — и те говорят: задача не спорить
The Economist пишет, что философские кафедры «истекают кровью» — сотрудников переманивают ИИ-компании писать этические конституции моделей. Тред тут же назвал ставку и спросил, в чём состоит реальная работа.
Ключевое разделение: конституция Anthropic тяготеет к кантовской деонтологии (жёсткие запреты на ложь и принуждение), а модели OpenAI и Google склоняются к консеквенциализму, взвешивающему издержки и выгоды.
Философ в треде перевернул посылку: лаборатории, по его словам, ищут не того, кто найдёт изъяны, а того, кто одобрит то, что нужно одобрить. PR дешевле, чем купить Джонни Айва за $6 млрд.
Вакансия за $350 000 со словом «философ» в названии
Аргумент The Economist (статья за paywall, поэтому тред занимается цитированием) таков: спустя десять лет после того, как гуманитариям советовали «научиться программировать», ИИ-лаборатории пошли в обратную сторону: они нанимают академических философов, чтобы те помогали писать этические «конституции», управляющие поведением моделей. Доктор Флориди, которого цитируют в статье, называет масштаб исхода из философских кафедр «кровотечением».
Суть — этическое разделение, и один из читателей перенёс нужный фрагмент прямо в тред:
«Конституция Anthropic включает множество деонтологических ограничений... Модели, более склонные к консеквенциализму, — ChatGPT от OpenAI и Gemini от Google.» — участник, цитирующий статью
Деонтология (Кант) накладывает абсолютные запреты на ложь и принуждение — даже ради большего блага; консеквенциализм взвешивает издержки и выгоды. Утверждение статьи: это академическое различие теперь встроено во фронтирные модели.
Нанятые говорят: их берут одобрять, а не возражать
Самая острая реакция пришла от людей с соответствующим дипломом. Философ, описывающий себя как действующего практика, усомнился в реальной функции.
«Похоже, их часто берут для того, чтобы утверждать то, что требует утверждения, — а не для того, чтобы, как и должен философ, находить принципиальные изъяны в том, что вы делаете...» — действующий философ
Выпускник UCLA по философии и логике охладил золотолихорадочный фрейм с другой стороны — планку задаёт не энтузиазм, а публикации.
«Как правило, нужны серьёзные публикации и цитирования в области, так что минора вряд ли хватит.» — выпускник UCLA по философии и логике
Другие прочли весь тренд как дешёвый пиар. Один посчитал напрямую.
«Этот PR дешевле, чем купить Джонни Айва за 6 миллиардов. За 60 миллионов можно купить весь философский факультет Лиги плюща.» — участник, оценивший PR-ход
А тот, кто реально работал в подобных условиях, описал пустоту внутри этой схемы.
«Я работал, вероятно, в самом известном... полностью ИИ-ориентированном VFX-доме, где отдел этики возглавлял философ, — но компания с трудом находила ему практическое применение.» — бывший сотрудник ИИ-VFX-студии с корпоративным этиком
Неразрешённое противоречие — не в том, уместна ли философия рядом с ИИ. Оно в том, что дисциплина, созданная разрушать ваши аксиомы, нанимается людьми, которые эти аксиомы устанавливают, а зарплата, как правило, выравнивает позицию задолго до того, как начинаются аргументы.
Получайте такие разборы каждый день
Главные истории Hacker News — на email, в Telegram или RSS.
Кошачий грибок живёт 10 недель на стали и прячется в организме три года
Sporothrix brasiliensis перешёл из почвы в бразильских кошек, а от них — в людей, которые дают им таблетки. Теперь он распространяется через чихание и переживает большинство дезинфицирующих средств.