«Предупреждения, за которые Google уволил Тимнит Гебру, все сбылись». Тред потребовал доказательств — и получил даты и ссылки

Контекст

Заметка о том, что предупреждения Тимнит Гебру о больших языковых моделях сбылись, набрала 109 очков и ровно 100 комментариев. Тред интересен тем, что начался со скепсиса, а закончился предъявлением конкретных кейсов.

Что произошло

Речь о знаменитой работе Бендер и Гебру (2020) и последующем уходе Гебру из Google. В треде кто-то заботливо выписал сами предупреждения:

«Первое было про масштаб: обучение всё больших моделей на всё больших скрапах интернета даст системы, которые кажутся бегло говорящими, но не имеют реального понимания языка. Второе — про усиление предвзятости. Третье — про экологическую цену» — laweijfmvo

Что говорит тред

Первая реакция была скептической:

«Не хочу сказать, что этого не происходило, но где в этой статье доказательства хоть чего-нибудь?» — epolanski

И на это пришёл предметный ответ — с датами и источниками:

«Алгоритм найма Amazon штрафовал резюме, содержавшие слово "women" в любом контексте. Алгоритмы оценки медицинских рисков в крупных больницах США систематически недооценивали потребности чёрных пациентов. Кредитный алгоритм Apple Card давал жёнам лимит в 10 раз меньше, чем мужьям при том же финансовом профиле. История с Amazon — 2018 год, с чёрными пациентами — 2019-й» — simonw

Параллельно тред честно держал и неудобную сторону спора — про обстоятельства её ухода:

«Я следил за всей этой сагой очень близко, и хотя понимаю нюансы её расставания с Google, я согласен с Google, что Гебру не уволили — она уволилась сама» — hn_throwaway_99

А кто-то вынес дискуссию в по-настоящему сложную плоскость — где предвзятость прячется в корреляциях:

«Не уверен, что думать про усиленную ИИ дискриминацию. Некоторые чувствительные признаки (например, раса) сильно коррелируют с тем, что мы хотим оценить. Те же признаки можно заменить десятком на вид несвязанных атрибутов — или миллионом, прогнав через PCA. С какого момента это становится дискриминацией?» — j16sdiz

Что это значит

Ценность треда — в том, как он сам себя проверил: заявление «всё сбылось» прозвучало громко, скептики потребовали пруфов, и пруфы нашлись — конкретные, датированные кейсы Amazon, медскоринга и Apple Card. Это и есть содержательный разворот: после дискуссии веришь не заголовку, а списку фактов под ним. И отдельно остаётся честный спор о том, уволили Гебру или она ушла, — тред не стал его заминать.