Кабинет
глава 5 · идея 22 из 23 следующая: «Готовы ли отдать вычислительные мощности вашего…»

Показывать хорошие результаты - не значит понимать игру. Поэтому любитель смог взять разгромный реванш за чемпиона мира у машины в го

Гэри Маркус

Gary Marcus · Substack · статья · Pavel Nosikov (@pavelnosikov) · около 5 минут · сложность: средняяЧитать статью →

Суть коротко

Победа ИИ над чемпионом мира по го (2016) казалась вехой превосходства машин, но в 2022 году исследователь нашёл тактику-обманку, и обученный ей любитель разгромил один из сильнейших го-движков со счётом 14:1 — притом на живых игроках та же тактика не работает. Причина: у программы нет понимания игры, она лишь молниеносно перебирает оптимальные ходы по историческим данным и рушится в ситуациях, которых не было в обучающей базе. Та же уязвимость — у беспилотных машин и чат-ботов.

🔹Го считалась самой сложной для алгоритмизации интеллектуальной игрой - поэтому когда в 2016 году, через 20+ лет после шахмат, компьютерная программа смогла победить чемпиона мира по го со счетом 4:1 - это стало считаться важной вехой превосходства искусственного интеллекта над человеческим,

🔹В 2022 году аспирант университета в Беркли выдвинул тактику обмана машины и решил ее проверить на одном из двух самых совершенных алгоритмов для го. Проверка сработала - и поэтому когда он обучил тактике непрофессионального игрока в го - тот сумел обыграть машину со счетом 14:1, При этом та же тактика не работает против обычных игроков в го,

🔹Это стало возможным потому, что у искусственного интеллекта нет собственно понимания игры. Программы добиваются высоких результатов за счет молниеносного оперирования историческими данными и выбором оптимальных ходов на их основе. Но когда сталкиваются с ситуациями, которых нет в их тренировочной базе - не могут сконструировать достойный ответ. Это та же проблема, что наблюдается у самоуправляемых машин и чатботов.

Начать путь через Telegram Идея открыта целиком — вход нужен для прогресса, напоминаний и офлайна.

Дальше Проверить себя активно после авторизации Обсудить в Telegram · 1 комментарий Отозвалось
?
«Усвоить» оставит след на карте — планета взойдёт сразу и останется гореть, повторять её не придётся. «Запомнить» удержит идею в памяти: только отмеченные идеи возвращаются к вам в срок. Прочитанное без отметки не повторяется. Значки рядом — реакции читателей канала: поставить свою можно в Telegram, на сайте они только показываются.
Ключевые термины
Отсутствие понимания
ИИ достигает результата, перебирая исторические данные и выбирая оптимальные ходы, но не строит ответ в незнакомой ситуации.
Соседи на карте
?
Цвет линии — тип связи. «Предыдущая» и «последующая» — одна связь с разных сторон: на большой карте она рисуется одной линией, а здесь видно направление. «По маршруту» — не связь, а порядок: идеи идут подряд в маршруте, и ничего друг о друге не утверждают.
Искусственный интеллект, разум и китайская комната этот же маршрут · шаг 6 пример Основные сценарии истребления человека искусственным неспециализированным интеллектом (AGI) притянуты за уши и маловероятны этот же маршрут · шаг 21 похожая Готовы ли отдать вычислительные мощности вашего мозга взамен на сон, в котором вы можете быть кем угодно и делать что угодно? этот же маршрут · шаг 23 по маршруту Одним из барьеров к обучению является человеческая склонность делать выводы на основе ограниченных данных Метамодернизм по маршруту 7 необходимых качеств исследователя вне систем по маршруту
предыдущая последующая похожая мост пример противоположная по маршруту
Отвечает на вопросы
  • Как любитель смог обыграть сильнейший ИИ в го
  • Почему искусственный интеллект не понимает игру, в которую играет
  • В чём слабость ИИ, побеждающего чемпионов мира
  • Почему высокие результаты нейросети не равны пониманию
  • Что общего у провалов ИИ в го, беспилотных авто и чат-ботов
Свет идеи: зажигается по ходу вашего пути
?
Свет — это ваша память об идее. Отметка «Усвоить» зажигает планету на карте навсегда: такой свет не гаснет и повторений не требует. Свет удержанных отметкой «Запомнить» идей живёт по-другому — растёт с повторениями в «Сегодня» и медленно гаснет без них. Всё живёт на устройстве, никуда не отправляется.
Ваша заметка к этой идее
Записать заметку
Остаётся на этом устройстве. Входит в файл-сейв — им заметки и переезжают на другое устройство.
активно после авторизации
Карточка-цитата
Уйдёт ссылкой с превью — получатель откроет идею целиком.

Эта идея — шаг 22 маршрута «Усиление или замена: человек рядом с машиной». Можно пройти его с начала — позиция сохранится.