Система: Когнитивистика
Трагедия игры по принципу Гудхарта: даже когда ты выигрываешь, ты на самом деле проигрываешь, потому что игра глупа
Суть
Закон Гудхарта: когда мера превращается в цель, она перестаёт быть хорошей мерой, потому что её начинают напрямую и косвенно накручивать. «Оптимизаторы» вычленяют показатели и максимизируют их инженерным способом, ошибочно считая жизнь простой, а плохо структурированные задачи — решаемыми числами. Трагедия в том, что даже победа в такой игре делает несчастным: пример — вуз, взлетевший в рейтингах ценой отказов почти всем абитуриентам, приёма богатых слабых студентов и прямого лоббирования.
🔸 Закон (принцип) Гудхарта: «Когда мера становится целью, она перестает быть хорошей мерой», потому что становится объектом как прямого (фальсификация чисел), так и косвенного манипулирования (работа исключительно для улучшения этой меры).
🔸Оптимизаторы - победители игры по принципу Гудхарта - успешно выделяют в жизни важные показатели и оптимизируют их достижения. Они исходят из того, что жизнь предельна проста, и используют инженерный подход, который не помогает в решении плохо структурированных проблем. Инженерный подход заставляет думать, что ты прогрессируешь - когда на самом деле нет, потому и несчастны те, кто сделал накопление капитала своей первоочередной целью.
🔸При взгляде на неудачного Оптимизатора легко сказать, что он проиграл, потому что недостаточно оптимизировал. Ужаснее смотреть на Оптимизатора, который добился успеха. Пример: президент Северо-Восточного Университета успешно добился того, что его заведение вошло в «высшую лигу» по рейтингам US News и World Report. Какой ценой этого удалось добиться: 🔹искусственное занижение процента принимаемых студентов за счет стимулирование подачи заявок, сбора $100 за рассмотрение и итогового отказа почти всем, 🔹в то время как места занимают плохо успевающие, но богатые иностранные студенты, 🔹а руководство не гнушалось прямого лоббирования своего места у сотрудников рейтингующих журналов.
Ключевые термины
- Закон Гудхарта
- Когда мера становится целью, она перестаёт быть хорошей мерой, потому что её начинают напрямую и косвенно накручивать.
- Оптимизатор
- Человек, который сводит жизнь к максимизации выбранных показателей, применяя инженерный подход к плохо структурированным задачам.
How to drive a stake through your own good heart
статья · Адам Мастрояни · @pavelnosikov
Тропы отсюда
Соседи на карте
Отвечает на вопросы
- Что такое закон Гудхарта простыми словами?
- Почему нельзя превращать показатель в цель?
- Почему успешные оптимизаторы часто несчастны?
- Как погоня за метриками разрушает смысл?