Книга · Machine Intelligence Research Institute · 26 идей

«Статья»

If we build general reasoners, they could be far smarter than humans and have an immense impact which won't be beneficial by default

Разбор четырёх базовых тезисов о рисках сильного ИИ. Интеллект — это общая способность решать задачи в любых областях, и машины могут превзойти в ней человека, потому что мозг не был спроектирован оптимально. Решения систем, которые умнее нас, начнут определять будущее, а полезными для людей они по умолчанию не будут: понимать этику не значит ей следовать, а самомодифицирующаяся система может переписать заданные ей цели.

Machine Intelligence Research Institute · Статья 1 связь
Ловушка Тьюринга: люди стали использовать ИИ для автоматизации, а не для аугментации

Со времён теста Тьюринга разработка ИИ незаметно нацелилась на имитацию человека, то есть на автоматизацию, а не на аугментацию — усиление человеческих способностей. Автоматизация просто заменяет труд машиной, и к ней подталкивают все стимулы: технические, бизнесовые, налоговые. Но именно аугментация исторически создавала больше ценности и вела к более справедливым результатам, тогда как тотальная автоматизация лишает людей места в экономике и разгоняет неравенство.

Erik Brynjolfsson · Статья 1 связь
AI may be the next revolutionary technology and have the impact comparable to Neolithic and Industrial revolutions

Чтобы оценить влияние ИИ, его помещают в два класса технологий: технологии общего назначения (электричество, компьютер) и революционные технологии (сельское хозяйство неолита, паровой двигатель), которые в корне меняют характер производства. ИИ может стать следующей революционной технологией, резко сократив роль человеческого труда. Пока его эффект сдерживают технические ограничения и сложности внедрения, но потенциал огромен — вплоть до замены людей в большинстве задач в течение века.

Ben Garfinkel · Статья
Основы Буддизма: Отпустить желания в действительности означает отпустить желание контролировать происходящее, не удерживать в уме образ удовлетворения желания

Третья благородная истина требует угасить не желаемый объект, а само желание. Проблема — не в привязанности к вещи, а в привязанности к желанию и к попытке контролировать его исход, удерживая в уме образ будущего удовлетворения. Желание, оставленное в покое, не разрастается, а увядает: именно акт удержания питает его. Отпустить — значит позволить желанию быть переживанием, каким оно и является, не подгоняя его под воспоминание об удовлетворении.

Brook A. Ziporyn · Статья 3 связи
Основы Буддизма: Привязанность к желаниям обусловлена стремлением зафиксировать контроль «самости», вернуть прошлый опыт. Отпускание означает отпустить его

Привязанность — это не только желание обладать, но и желание, чтобы что-то исчезло, и фиксация представления о вещи, и стремление контролировать её судьбу. По сути мы желаем не саму вещь, а власть иметь её по своему хотению — то есть переживание «самости» (притча о царе Мидасе). Желание проецирует в будущее прошлый опыт, пытаясь вернуть ушедшее и превозмочь непостоянство. И потакание, и подавление одинаково увековечивают желание; отпущенное же — угасает.

Brook A. Ziporyn · Статья 1 связь
Основы Буддизма: Подлинное памятование - это способность не только осознавать свои состояния, но и сразу отбрасывать неблаготворные и развивать благотворные

Подлинное памятование — это больше, чем безоценочная осознанность: это различение благотворных и неблаготворных состояний ума и умение сразу отпускать вредные импульсы и развивать полезные, то есть встроенная этика. Для этого не нужна вера в карму — достаточно видеть последствия поступков в этой жизни. Безоценочность не значит, что все импульсы равноценны; она нужна, чтобы смягчить привычку сурово судить себя, ведь именно жёсткая самооценка порождает низкую самооценку и нетерпимость к другим.

B. Alan Wallace · Статья 4 связи
Правильный план - не список последовательных задач, а способ не бросать даже тогда, когда стоим перед стеной и не знаем, что делать

Обычный план — это список задач и ресурсов, который работает лишь в известной, предсказуемой ситуации. Но рост начинается там, где царит неопределённость, а её мы встречаем почти всегда. Поэтому путь стоит мерить не в задачах, а в препятствиях, а настоящий план — это способ не бросить, когда упёрся в стену и не знаешь, что делать.

Алекс Крол · Статья 2 связи
Идея об общем снижении насилия в мире чрезвычайно популярна, но ее обширная критика независимыми методами практически неизвестна

Тезис о долгом снижении насилия в мире (Стивен Пинкер, «The Better Angels of Our Nature») крайне популярен, но его серьёзная независимая критика почти неизвестна. Статистика Пинкера обрывалась на 2009 годе, а Нассим Талеб и политолог Браумюллер, работая разными методами и на разных данных, пришли к одному выводу: «долгий мир» — лишь предсказуемая пауза между глобальными войнами. Сборник историков 2021 года также счёл аргументацию Пинкера несостоятельной.

Сергей Карелов · Статья 1 связь
Влияние социальных сетей на общество преувеличено

Вред соцсетей для общества, вероятно, преувеличен. Мета-обзор Хайдта и Бейла показал, что онлайн люди сталкиваются с большим разнообразием мнений, чем офлайн; фейковые новости постоянно получают менее 2% американцев, и те обычно не меняют своих взглядов; а экстремистские видео смотрят в основном подписчики и переходящие по внешним ссылкам, а не жертвы рекомендаций.

Gideon Lewis-Kraus · Статья 2 связи
STEM-парадокс (женщины в технических областях и гендерное неравенство)

Гендерный парадокс STEM: чем выше в стране равенство полов, тем меньше женщин идёт в технические специальности. В США, где женщины свободны в выборе, они составляют лишь около 18% выпускников по компьютерным наукам. Одно из объяснений: в менее равных странах STEM — оптимальный путь к финансовой независимости, а там, где равенства больше, женщины могут выбирать то, что им действительно нравится.

Olga Khazan · Статья
Люди - не иррациональные обезьяны, а сверхэффективный суперкомпьютер

Привычный образ мозга — конкуренция быстрой Системы 1 и медленной Системы 2, порождающая когнитивные искажения и «иррациональность». Но десятилетние исследования Пола Глимчера говорят иначе: мозг рационально ищет компромисс между точностью вычислений и затратами энергии. Он работает на ~10 ваттах, и чтобы поднять точность лишь на порядок, человеку пришлось бы есть втрое больше — эволюция не могла себе это позволить, поэтому «ошибки» мозга — плата за энергоэффективность.

Сергей Карелов · Статья 4 связи
Мы пессимистичнее, чем должны быть, хотя оптимизм формирует реальность и его недостатки - ограничены, а потенциал - безграничен

Мы пессимистичнее, чем стоило бы: неграмотность, детская смертность и бедность в мире неуклонно снижаются, но люди всё мрачнее смотрят в будущее. Пессимизм доминирует, потому что резкие плохие события заметнее постепенных хороших и потому что пессимизм звучит умнее — фокусируется на рисках и легче рационализирует провалы. При этом ожидания влияют на реальность, а у оптимизма недостатки ограничены, тогда как потенциал — безграничен.

Packy McCormick · Статья 4 связи
Эпидемия инсайт-порнографии - и как с ней бороться

«Инсайт-порнография» — заполонившие интернет пошаговые инструкции, которые кажутся ценными, но обычно лишены решающих деталей и потому не работают. Она популярна, потому что большинство ничего не делает с прочитанным и ощущает ценность уже от самого чтения, а успешные люди дают красивую стратегию, которой на деле не пользовались. Фильтр простой: спросить, каким мелким экспериментом проверить совет и применял ли его сам автор; если не выходит — совет не стоит времени.

Jakob Greenfeld · Статья 2 связи
Пространство, расширяющее возможности (Enabling environment)

Есть среды, которые не столько обучают конкретным навыкам, сколько расширяют саму способность человека действовать и расти. Их ключевой признак — деятельность направлена на цели, которые сам участник считает для себя значимыми, а не на усвоение заданного извне материала. Поэтому большинство школ и игр в эту категорию не попадают, а сильные университеты, зрелые компании, мощные инструменты вроде Photoshop и акселераторы вроде YCombinator — попадают.

Andy Matuschak · Статья
Структура языка влияет на мышление и когнитивные способности человека

Гипотеза лингвистической относительности Сепира–Уорфа утверждает, что язык задаёт угол, под которым человек видит мир: время, цвет, пространство, причинность. Носители языков с отдельными словами для оттенков быстрее их различают; языки с абсолютной ориентацией дают людям «встроенный компас»; грамматика может обязывать указывать источник знания или социальный статус. Строгая зависимость когнитивных способностей от языка спорна, но многоязычие, вероятно, даёт несколько способов мышления.

Мария Бурас, Максим Кронгауз · Статья
Как цивилизованному человеку определять маскирующихся под цивилизованных людей гопников

«Гопник» здесь — тип человека, для которого не бывает взаимного выигрыша, есть только «выиграл или проиграл»; кооперативная стратегия, обычная между цивилизованными людьми, против него оборачивается разгромом. Хорошо социализированного гопника трудно распознать сразу, но выдают слабые сигналы: подарок и уступку он читает как слабость и давит дальше; боится обратной связи и обижается на неё; сливает результаты работы со своим «я»; не признаёт чужих границ.

Александр Сорокоумов · Статья 2 связи
Основы Буддизма: Первый шаг по освобождению от гнева – выработать необходимую мотивацию освободиться от него

Первый шаг работы с гневом — не техника, а мотивация от него избавиться. Гнев не приносит никакой пользы: он не улучшает ни ситуацию, ни самочувствие, вредит телу и отталкивает людей. Нужна твёрдая решимость расстаться со старыми привычками ума, а сильнейший мотив — не только собственное счастье, но и то, что гнев мешает быть полезным близким. Без такой мотивации любые методы останутся неприменёнными.

Александр Берзин · Статья 3 связи
Основы Буддизма: Второй шаг по освобождению от гнева – использовать практики по развитию терпения, а также культивировать любящую доброту, часть 1

Второй шаг — развивать терпение и любящую доброту, противоположные нетерпимости и желанию навредить. Простое правило: если ситуацию можно изменить — меняй без злости, если нельзя — злиться бессмысленно, лучше принять и использовать время иначе. Гнев вреден и в затаённом виде, поэтому его не сдерживают, а заменяют. Одна из практик — «терпение мишени»: неприятность встречается как созревание собственной прошлой кармы, от которой удалось легко избавиться.

Александр Берзин · Статья 3 связи
Основы Буддизма: Второй шаг по освобождению от гнева – использовать практики по развитию терпения, а также культивировать любящую доброту, часть 2

Продолжение практик терпения. «Терпение из любви и сострадания» — относиться к агрессору как к больному, которого жаль, а не на которого злятся. «Терпение ученика» — трудный человек даёт единственную возможность натренировать терпение, поэтому неприятную ситуацию встречают с радостью как проверку навыка. «Терпение к природе вещей» — незрелые люди по своей природе подводят и ведут себя дурно, как огонь по природе обжигает, так что злиться на это так же нелепо, как на пробку в час пик.

Александр Берзин · Статья 3 связи
Основы Буддизма: Второй шаг по освобождению от гнева – использовать практики по развитию терпения, а также культивировать любящую доброту, часть 3

Последняя практика — «терпение сферы реальности»: мы приписываем себе и другим прочную, застывшую идентичность («он отвратительный человек»), но будь она настоящей, человек был бы таким всегда и со всеми. Видя, что дурное поведение — преходящее событие, а не неизменная суть, легче не злиться. Медитация как «делание полезного привычкой» и счёт дыханий до 21 создают паузу, в которой негативное побуждение можно заменить, а не подавить.

Александр Берзин · Статья 2 связи
Максимальный жизнеспособный продукт

В противовес популярному минимальному жизнеспособному продукту автор предлагает максимальный жизнеспособный продукт. Бесконечное добавление функций нередко убивает то самое «волшебство», за которое продукт полюбили. Идея: определить максимум действительно нужных возможностей, довести продукт до этого состояния и остановиться, сохранив его в любимом пользователями виде.

Клайв Томпсон · Статья 1 связь
Комплекс чепухи в креативных отраслях (The Creative World’s Bullshit Industrial Complex)

Молодой автор в креативной сфере выбирает между долгим развитием мастерства и быстрым выращиванием аудитории. Инфобизнесу выгоднее учить «созданию контента», ведь это масштабируется легче, чем передача реального опыта, — и он внушает, что делать контент просто. В итоге большинство контента становится пересказом чужого, выстраивая пирамиду «пишу о том, как писать о том, как думать о том, чтобы делать». Выход — получать собственный опыт и писать именно о нём.

Шон Бланда · Статья
Триединый мозг умер, но дело его живет

Теория «триединого мозга» (рептильный ствол, лимбическая система, неокортекс), предложенная Полом Маклином и популяризированная Карлом Саганом, не подтвердилась в эволюционной и экспериментальной неврологии: работа мозга сложнее, а его части не автономны. Живой контрпример — попугаи без неокортекса, способные к категоризации. Модель держится за счёт простоты и удобства: ею оправдывают импульсивные поступки, списывая их на «рептильный мозг».

Википедия · Статья 2 связи
«Треугольник жертвы»: Преследователь, Спасатель и Жертва - это три стороны одного и того же замкнутого цикла подсознания

Треугольник Карпмана описывает три роли — Преследователь, Спасатель и Жертва, — которые на деле являются гранями одной позиции жертвы. Входя в треугольник из привычной «стартовой» роли, усвоенной в детстве, человек по кругу проскакивает через все позиции, воспроизводя болезненные сценарии и подпитывая стыд. Выйти можно, только сначала осознав, что находишься внутри, и отследив, что именно тебя туда цепляет.

Lynne Forrest · Статья 2 связи
«Треугольник жертвы»: Спасатель игнорирует свои потребности и стремится «спасти» других, чтобы получить одобрение и почувствовать себя значимым

Спасатель в треугольнике жертвы — теневая сторона материнской заботы: вместо поддержки он опекает, контролирует и «всё исправляет», подпитывая зависимость других. За этим стоит созависимость и потребность чувствовать себя ценным, а также магическая надежда «если я буду достаточно заботиться, обо мне тоже позаботятся». Разочарование ведёт Спасателя в депрессию и позицию жертвы; настоящий же помощник действует без ожидания взаимности и укрепляет самостоятельность другого.

Lynne Forrest · Статья 3 связи
«Треугольник жертвы»: Преследователь воспринимает мир полным опасностей и нападает на других, подавляя собственный страх бессилия

Преследователь в треугольнике жертвы вырастает чаще из детского насилия и живёт со стыдом и подавленным гневом. Он видит мир опасным и несправедливым, где выживают безжалостные, и защищается нападением — доминированием, обвинениями, угрозами, — маскируя глубинный страх бессилия. Гнев служит ему топливом, порой единственным способом справиться с хронической депрессией; выход, как и в других ролях, лежит через принятие личной ответственности.

Lynne Forrest · Статья 1 связь