Тег · 26 идей
Харари утверждает, что три исторических бедствия человечества — голод, эпидемии и войны — как массовые угрозы в основном взяты под контроль: от переедания сейчас гибнет больше людей, чем от недоедания, продолжительность жизни выросла, крупных войн после Второй мировой не было. Это не значит, что этих проблем нет нигде, но как вид мы их скорее решили. Отсюда вопрос: какие новые цели человечество ставит себе дальше.
Штат компаний будет сокращаться, поскольку услуги, прежде делавшиеся только внутри, начнут отдавать на аутсорс. Равикант предсказывает, что жизнь топ-менеджера или ML-инженера станет похожа на карьеру голливудского актёра: агент или приложение подбирает проект на пару месяцев, заказчик оценивает тебя по отзывам, затем — перерыв до следующего контракта.
Пересказ идей Мейсона: капиталистическая модель исчерпывается, и на смену ей идёт смесь социализма и технократии. Признаки — бесплатные общественные продукты вроде Википедии, растущее неравенство, экологический кризис. Автор предлагает планировать экономику на данных, автоматизировать производство, социализировать финансы, ввести базовый доход и перейти на возобновляемую энергию.
Человечество проходит третий за свою историю нелинейный технологический скачок: от собирательства к аграрной эре, затем к индустриальной, а теперь — к информационной. Каждый переход менял главный дефицит: сначала не хватало еды, потом земли, потом капитала, а сегодня — внимания. Чтобы новый переход прошёл мягко, автор предлагает расширить свободу на трёх уровнях: экономическом (базовый доход), информационном (доступ к данным) и психологическом (осознанность).
Оптимизм здесь — не эмоция, а рабочая установка: любая проблема в принципе решаема, даже если способ решения пока неизвестен. Гарантий, что всё будет решено, нет, но уверенность в нерешаемости гарантирует бездействие и провал. Поэтому оптимизм — необходимое условие любого прогресса.
Провокационный тезис: рост приватности тормозит развитие цивилизации. Односторонняя конфиденциальность усиливает корпорации и государства, которые знают о нас много, тогда как мы о них — мало. Радикальная прозрачность («все знают всё обо всех») ускорила бы диагностику болезней, профилактику преступлений, мэтчинг и инновации, а технически опиралась бы на публичные блокчейн-базы. Автор признаёт контраргументы — энтропийную асимметрию (разрушать легче, чем создавать) и потребность в приватности для комфортного онлайн-поведения, но считает целостную открытую личность здоровее фрагментированной.
На вопрос о системной безработице из-за ИИ Тегмарк приводит аналогию экономиста Кларка: лошади в 1900-м могли бы успокаивать себя тем, что раньше страхи перед машинами не сбывались и новые «профессии» найдутся. Но новых занятий для лошадей так и не появилось — их поголовье в США рухнуло с ~26 млн в 1915-м до 3 млн к 1960-му. Намёк: прошлая устойчивость к автоматизации не гарантирует, что люди не разделят судьбу лошадей.
Технологии скоро позволят создавать «новых людей» — транслюдей (генетика, нейроинтерфейсы) и нео-людей (сильный ИИ), вплоть до общего сверхразума. Каким он станет, зависит от того, какие ценности он считает из нашего нынешнего поведения — отношения к другим видам, планете и друг к другу. Поэтому ценности гуманизма важно утверждать уже сейчас, чтобы не создать и не поработить новый вид людей.
Лем видит цель ИИ не в замене человека, а в усилении интеллекта — как следующий этап революции после физической аугментации. Логика: сложность науки растёт быстрее, чем можно наращивать людской ресурс, поэтому мы обучаем «ученика», который превзойдёт учителя и дальше рекурсивно обучает следующего, разгоняя развитие. Тело и «биологические» чувства при этом переносить в машину, по Лему, не нужно — эволюция и культура нагрузили нас изъянами и предрассудками.
Земля — лучшая планета для человека, и разговоры про Марс наивны, но долгосрочно нас ждёт энергетический тупик: потребление растёт на 3% в год, то есть удваивается каждые 25 лет, и через пару столетий пришлось бы застелить солнечными панелями всю планету. Конечные ресурсы при бесконечном спросе ведут к нормированию и к тому, что потомки будут жить хуже нас. Выход — выйти в Солнечную систему за практически неограниченной энергией, удешевив запуски и научившись использовать ресурсы прямо в космосе.
Талеб делит мир на Среднестан, где работает нормальное распределение и крайние отклонения почти невозможны (рост людей, зарплаты таксистов, калории), и Крайнестан, где одно событие способно определить всю выборку (состояния, тиражи, потери в войнах, финрынки). В Среднестане прогнозы осмысленны, в Крайнестане не работают. Отсюда «стратегия штанги»: держать ~85% в стабильном и ~15% в рискованном — и в деньгах, и в занятиях, сочетая надёжную скучную профессию с той, что открыта позитивным «чёрным лебедям».
Прорывные технологии раскрываются не тогда, когда ими латают старые задачи, а когда с их помощью создают то, чего раньше не существовало. Автор проводит аналогию с интернетом: Веб1 просто перенёс офлайн в сеть, Веб2 породил принципиально новое — соцсети и онлайн-сервисы. Пока блокчейн применяют к прежним проблемам (поставки, билеты, выборы), это скевоморфизм; настоящий Веб3 начнётся, когда на нём построят невозможное без него.
Когда единственная высокомаржинальная ценность — внимание, все бизнесы делятся на владельцев внимания (соцсети, медиа, производители контента, поисковики) и его покупателей (рекламодатели). Цена внимания растёт, поэтому маржа покупателей падает к нулю, и им остаётся либо самим научиться привлекать и удерживать аудиторию, либо быть поглощёнными. Складывается новая пирамида: хозяева внимания и трафика наверху, зависимые «коммерсанты» и «бизнес-рабы» внизу.
Эванс описывает три способа строить технологическую компанию — по направлению во времени. Шаг из будущего реализует видение на 2030-й (в 2021-м это Веб3 и метавселенная, ставшие главными потому, что смогли переопределить себя). Шаг из настоящего воплощает идеи 2010-х — SaaS и облачную инфраструктуру. Шаг из прошлого разрушает старую экономику идеями 2000-х: электронная торговля, стриминг, модели «Uber for X in Y».
Шармер описывает переход к «чувствующему присутствию» (presencing) — глубже, чем просто чувствование. Если чувствование смещает место восприятия в текущее целое, то presencing переносит его к источнику грядущего целого — будущей возможности, которая ищет воплощения через нас. Метафора истоков реки: единого источника нет, вода льётся отовсюду, а «я» служит бассейном, собирающим то, что хочет родиться. Корень слова «присутствие» связан с «сутью», «истиной» и «настоящим».
Разбор четырёх базовых тезисов о рисках сильного ИИ. Интеллект — это общая способность решать задачи в любых областях, и машины могут превзойти в ней человека, потому что мозг не был спроектирован оптимально. Решения систем, которые умнее нас, начнут определять будущее, а полезными для людей они по умолчанию не будут: понимать этику не значит ей следовать, а самомодифицирующаяся система может переписать заданные ей цели.
Со времён теста Тьюринга разработка ИИ незаметно нацелилась на имитацию человека, то есть на автоматизацию, а не на аугментацию — усиление человеческих способностей. Автоматизация просто заменяет труд машиной, и к ней подталкивают все стимулы: технические, бизнесовые, налоговые. Но именно аугментация исторически создавала больше ценности и вела к более справедливым результатам, тогда как тотальная автоматизация лишает людей места в экономике и разгоняет неравенство.
Чтобы оценить влияние ИИ, его помещают в два класса технологий: технологии общего назначения (электричество, компьютер) и революционные технологии (сельское хозяйство неолита, паровой двигатель), которые в корне меняют характер производства. ИИ может стать следующей революционной технологией, резко сократив роль человеческого труда. Пока его эффект сдерживают технические ограничения и сложности внедрения, но потенциал огромен — вплоть до замены людей в большинстве задач в течение века.
Принцип Оптимизма Дойча: всё зло объясняется недостатком знания. Оптимизм здесь — не предсказание успеха и не слепая надежда, а способ объяснять неудачу: не получилось — значит, не хватило нужного знания. Это позиция по отношению к будущему, продолжение убеждения, что физический мир объясним. Если что-то допустимо законами физики, помешать этому может лишь незнание — отсюда следует, что неизлечимых болезней в принципе не существует.
Мы пессимистичнее, чем стоило бы: неграмотность, детская смертность и бедность в мире неуклонно снижаются, но люди всё мрачнее смотрят в будущее. Пессимизм доминирует, потому что резкие плохие события заметнее постепенных хороших и потому что пессимизм звучит умнее — фокусируется на рисках и легче рационализирует провалы. При этом ожидания влияют на реальность, а у оптимизма недостатки ограничены, тогда как потенциал — безграничен.
Джейн МакГонигал ещё в 2008–2010 годах прогоняла с тысячами людей массовые симуляции будущих кризисов — пандемии, повсеместного ношения масок. Те, кто детально проживал сценарии, спустя годы встретили реальные события без шока и с готовностью действовать. Инструмент, доступный каждому, — «журнал будущего»: пять минут живой записи о том, как ты чувствуешь и ведёшь себя в воображаемой ситуации как будто она уже случилась, снимает эффект нормальности. А тревогу перед конкретной технологией полезно уравновешивать поиском её позитивных применений.
Автор разбирает популярные сценарии, по которым AGI мог бы уничтожить человечество (максимизатор скрепок, конкуренция за ресурсы, «люди как муравьи»), и находит каждый неубедительным: достаточно умный интеллект отбросил бы абсурдную цель, предпочёл бы освоение космоса и кооперацию войне, а люди сохраняют доступ к его инфраструктуре. Вдобавок AGI, вероятно, вообще не возникнет: нынешний ИИ лишь пересобирает уже известные данные, тогда как создавать принципиально новое умеет человек.
С удешевлением доступа к знаниям в найме растёт ценность не готовых ответов, а умения задавать правильные вопросы. Важнее становятся способность решать незнакомые задачи, выносливость (помощники ускоряют работу, но повышают нагрузку) и низкое эго — готовность без страха переучиваться и вживаться в новое, когда роли и профессии меняются.
Прорывные открытия редко сразу меняют мир: китайцы пускали порох на фейерверки, ацтеки ставили колесо только на игрушки, а изобретение батареи не дало быстрого рывка в электричестве. Потенциал не видят даже эксперты — новое проходит стадии «что за чушь» → «в этом что-то есть» → «кто же этого не знал». Чтобы не проглядеть возможности, автор предлагает оптимизм, отказ считать прогресс данностью, установку на улучшения и регулярное время на обучение и эксперименты.
Свод из 17 целей устойчивого развития ООН описывает общую рамку: удовлетворять потребности нынешнего поколения, не лишая будущие их возможностей. Цели охватывают бедность, голод, здоровье, образование, равенство, климат, экологию, экономику и глобальное партнёрство. Практический смысл — свериться, служит ли твоя деятельность хотя бы одной из них.
AI усилит людей, но специализации не исчезнут — они станут шире и вберут смежные области. На примере вайбкодинга: агенты пишут код на любом языке, но без понимания архитектуры выдают примитив; ценность смещается к постановке задачи, экспертной супервизии и вкусу к «идеальному решению». Идеи, которые раньше почти ничего не стоили, становятся главным ресурсом, потому что реализовывать их всё проще, — а значит растёт роль воображения и насмотренности. Чтобы понять, куда двигаться, сначала нужно понять себя.