Тег · 17 идей

Искусственный интеллект

Грозит ли людям системная безработица? Многие люди смотрят в будущее с оптимизмом, но есть и пессимисты...

На вопрос о системной безработице из-за ИИ Тегмарк приводит аналогию экономиста Кларка: лошади в 1900-м могли бы успокаивать себя тем, что раньше страхи перед машинами не сбывались и новые «профессии» найдутся. Но новых занятий для лошадей так и не появилось — их поголовье в США рухнуло с ~26 млн в 1915-м до 3 млн к 1960-му. Намёк: прошлая устойчивость к автоматизации не гарантирует, что люди не разделят судьбу лошадей.

Max Tegmark · Life 3.0 1 связь
Важно не медлить с принятием ценностей гуманизма – технологии скоро позволят создавать новые виды людей, и какими они будут – зависит от того, что они увидят

Технологии скоро позволят создавать «новых людей» — транслюдей (генетика, нейроинтерфейсы) и нео-людей (сильный ИИ), вплоть до общего сверхразума. Каким он станет, зависит от того, какие ценности он считает из нашего нынешнего поведения — отношения к другим видам, планете и друг к другу. Поэтому ценности гуманизма важно утверждать уже сейчас, чтобы не создать и не поработить новый вид людей.

Альберт Венгер · The World After Capital 5 связей
Создание универсального Искусственного Интеллекта бессмысленно

Через фантастику Лема проходит мысль: универсальный ИИ, созданный как замена человеку, неизбежно унаследует и человеческие пороки — лень, обидчивость, эгоизм. Нельзя воспроизвести «механику» мышления, не притащив вместе с ней её проблемы (в одном рассказе мозг-автопилот просто отказывается работать от скуки). Добавляется соображение, что сознание завязано на тело, а значит эмулировать пришлось бы не только мозг.

Станислав Лем · Звёздные дневники Ийона Тихого 2 связи
Цель искусственного интеллекта — усиление интеллекта человека, как следующий этап научно-промышленной революции после физической аугментации

Лем видит цель ИИ не в замене человека, а в усилении интеллекта — как следующий этап революции после физической аугментации. Логика: сложность науки растёт быстрее, чем можно наращивать людской ресурс, поэтому мы обучаем «ученика», который превзойдёт учителя и дальше рекурсивно обучает следующего, разгоняя развитие. Тело и «биологические» чувства при этом переносить в машину, по Лему, не нужно — эволюция и культура нагрузили нас изъянами и предрассудками.

Станислав Лем · Сумма технологий 3 связи
Искусственный интеллект, разум и китайская комната

Мысленный эксперимент Джона Серла «Китайская комната»: человек без знания китайского по инструкциям подбирает иероглифы-ответы так, что снаружи кажется, будто он понимает язык, — хотя он лишь манипулирует символами. Так же работают и машины: любая программа синтаксична, а сознание семантично, ему нужна связь символа со значением. Поэтому даже проходящая тест Тьюринга программа ничего не понимает — синтаксис не порождает семантику, и разума у машины нет.

Дмитрий Волков, Мария Фали · YouTube 2 связи
Улучшения возможны, но для этого нужна проактивность

Алгоритмы машинного обучения нередко несправедливы из-за перекосов в обучающих данных: распознавание лиц у IBM, Microsoft и Megvii ошибалось на темнокожих женщинах в сотни раз чаще, чем на белых мужчинах. Столкнувшись с этим, легко впасть в выученную беспомощность. Но пример исследовательницы показывает обратное: вместо смирения она написала производителям, и IBM за недели улучшила распознавание в десятки раз — изменения возможны, но требуют проактивности.

Брайан Кристиан · The Alignment Problem 1 связь
If we build general reasoners, they could be far smarter than humans and have an immense impact which won't be beneficial by default

Разбор четырёх базовых тезисов о рисках сильного ИИ. Интеллект — это общая способность решать задачи в любых областях, и машины могут превзойти в ней человека, потому что мозг не был спроектирован оптимально. Решения систем, которые умнее нас, начнут определять будущее, а полезными для людей они по умолчанию не будут: понимать этику не значит ей следовать, а самомодифицирующаяся система может переписать заданные ей цели.

Machine Intelligence Research Institute · Статья 1 связь
Ловушка Тьюринга: люди стали использовать ИИ для автоматизации, а не для аугментации

Со времён теста Тьюринга разработка ИИ незаметно нацелилась на имитацию человека, то есть на автоматизацию, а не на аугментацию — усиление человеческих способностей. Автоматизация просто заменяет труд машиной, и к ней подталкивают все стимулы: технические, бизнесовые, налоговые. Но именно аугментация исторически создавала больше ценности и вела к более справедливым результатам, тогда как тотальная автоматизация лишает людей места в экономике и разгоняет неравенство.

Erik Brynjolfsson · Статья 1 связь
AI may be the next revolutionary technology and have the impact comparable to Neolithic and Industrial revolutions

Чтобы оценить влияние ИИ, его помещают в два класса технологий: технологии общего назначения (электричество, компьютер) и революционные технологии (сельское хозяйство неолита, паровой двигатель), которые в корне меняют характер производства. ИИ может стать следующей революционной технологией, резко сократив роль человеческого труда. Пока его эффект сдерживают технические ограничения и сложности внедрения, но потенциал огромен — вплоть до замены людей в большинстве задач в течение века.

Ben Garfinkel · Статья
Показывать хорошие результаты - не значит понимать игру. Поэтому любитель смог взять разгромный реванш за чемпиона мира у машины в го

Победа ИИ над чемпионом мира по го (2016) казалась вехой превосходства машин, но в 2022 году исследователь нашёл тактику-обманку, и обученный ей любитель разгромил один из сильнейших го-движков со счётом 14:1 — притом на живых игроках та же тактика не работает. Причина: у программы нет понимания игры, она лишь молниеносно перебирает оптимальные ходы по историческим данным и рушится в ситуациях, которых не было в обучающей базе. Та же уязвимость — у беспилотных машин и чат-ботов.

Гэри Маркус · Substack 2 связи
Основные сценарии истребления человека искусственным неспециализированным интеллектом (AGI) притянуты за уши и маловероятны

Автор разбирает популярные сценарии, по которым AGI мог бы уничтожить человечество (максимизатор скрепок, конкуренция за ресурсы, «люди как муравьи»), и находит каждый неубедительным: достаточно умный интеллект отбросил бы абсурдную цель, предпочёл бы освоение космоса и кооперацию войне, а люди сохраняют доступ к его инфраструктуре. Вдобавок AGI, вероятно, вообще не возникнет: нынешний ИИ лишь пересобирает уже известные данные, тогда как создавать принципиально новое умеет человек.

Том Ховард · Network0 2 связи
Найм в эпоху генеративных нейросетей: на что теперь обращать внимание?

С удешевлением доступа к знаниям в найме растёт ценность не готовых ответов, а умения задавать правильные вопросы. Важнее становятся способность решать незнакомые задачи, выносливость (помощники ускоряют работу, но повышают нагрузку) и низкое эго — готовность без страха переучиваться и вживаться в новое, когда роли и профессии меняются.

Шон Дивайн · подкаст «How CEOs Build with AI» (Эрик Йоргенсон) 2 связи
В эпоху LLM знания больше не важны? Это заблуждение из-за непонимания разницы между информацией и знанием

Тезис «в эпоху LLM знания больше не важны» смешивает информацию и знание. Информация сама по себе смысла не несёт — смысл придают люди, а знание есть синтез информации и смысла. Языковые модели отлично выдают информацию, но знанием не обладают. Пример шахмат: за 25 лет ИИ научился обыгрывать чемпионов, но шахматное знание не обесценилось. Коммодитизируется информация, а знание остаётся ценным.

Андрей Альтшулер · Знания / информация / смысл / языковые модели 1 связь
Почему умные люди не счастливее остальных? Потому что ум решает хорошо структурированные проблемы, а счастье — это плохо структурированная проблема

Интеллект хорошо коррелирует с успеваемостью, доходом, здоровьем и долголетием, но не со счастьем. Причина в том, что «умом» называют умение решать хорошо структурированные задачи с заранее известным правильным ответом, а качество жизни и счастье — плохо структурированная проблема, у каждого своя, и она требует совсем других навыков. Показательно, что для этих навыков нет даже нормального слова (ближайшее — «мудрость»), и что весь прогресс ИИ тоже касается именно хорошо структурированных задач с чёткой структурой на входе.

Adam Mastroianni · Why aren't smart people happier? 2 связи
Алгоритмы AI возможно полностью повторяют алгоритмы нашего мозга. При наличии биологического тела разница была бы только в источнике управления вниманием, часть 1

Размышление о том, что алгоритмы больших языковых моделей (архитектура Transformer, механизм внимания) могут по сути повторять работу мозга при генерации мысли. Автор разбирает возражения о уникальности человеческого разума — квалиа, интенциональность, феноменальное сознание — и предполагает, что если наделить модель телом с органами чувств и снять ограничение реагировать только по запросу, эти свойства могут возникнуть сами. Ключевая гипотеза: главное отличие — в источнике управления вниманием.

Dmitry Tsurakov · Личные заметки 3 связи
Алгоритмы AI возможно полностью повторяют алгоритмы нашего мозга. При наличии биологического тела разница была бы только в источнике управления вниманием, часть 2

Продолжение размышления об ИИ и сознании: сенсорный опыт и свобода действия могли бы породить квалиа и интенциональность, но феноменальное сознание — самый трудный вопрос, для которого одних данных и поведения может не хватить. Возможно, нужен особый субстрат — интеграция с живым мозгом или укоренённость символов в чувственном, моторном и эмоциональном опыте (теория Барсалоу, воплощённое познание). Понятие «яблоко» — не ярлык, а сеть мультимодальных ассоциаций. «Секретным соусом» сознания автор предполагает источник внимания.

Dmitry Tsurakov · Личные заметки 1 связь
Люди будут все более усилены AI (supercharged by AI), но специализации останутся, став более широкими и включающими в себя смежные области

AI усилит людей, но специализации не исчезнут — они станут шире и вберут смежные области. На примере вайбкодинга: агенты пишут код на любом языке, но без понимания архитектуры выдают примитив; ценность смещается к постановке задачи, экспертной супервизии и вкусу к «идеальному решению». Идеи, которые раньше почти ничего не стоили, становятся главным ресурсом, потому что реализовывать их всё проще, — а значит растёт роль воображения и насмотренности. Чтобы понять, куда двигаться, сначала нужно понять себя.

Dmitry Tsurakov · Личные заметки 3 связи