Goodfire: нейросети внутри гораздо чище, чем опасались исследователи (already-clean.goodfire.com)
Ник Каммарата из Goodfire пересмотрел знаменитый нейрон «кошка и машина»: он реагирует на острые и круглые формы, а не на список предметов. По его утверждению, большая часть полисемантичности, когда один нейрон срабатывает на несколько разных вещей, возникает из устранимых проблем, а не из суперпозиции.
Войдите, чтобы сохранить