Показывать хорошие результаты - не значит понимать игру. Поэтому любитель смог взять разгромный реванш за чемпиона мира у машины в го
Суть
Победа ИИ над чемпионом мира по го (2016) казалась вехой превосходства машин, но в 2022 году исследователь нашёл тактику-обманку, и обученный ей любитель разгромил один из сильнейших го-движков со счётом 14:1 — притом на живых игроках та же тактика не работает. Причина: у программы нет понимания игры, она лишь молниеносно перебирает оптимальные ходы по историческим данным и рушится в ситуациях, которых не было в обучающей базе. Та же уязвимость — у беспилотных машин и чат-ботов.
🔹Го считалась самой сложной для алгоритмизации интеллектуальной игрой - поэтому когда в 2016 году, через 20+ лет после шахмат, компьютерная программа смогла победить чемпиона мира по го со счетом 4:1 - это стало считаться важной вехой превосходства искусственного интеллекта над человеческим,
🔹В 2022 году аспирант университета в Беркли выдвинул тактику обмана машины и решил ее проверить на одном из двух самых совершенных алгоритмов для го. Проверка сработала - и поэтому когда он обучил тактике непрофессионального игрока в го - тот сумел обыграть машину со счетом 14:1, При этом та же тактика не работает против обычных игроков в го,
🔹Это стало возможным потому, что у искусственного интеллекта нет собственно понимания игры. Программы добиваются высоких результатов за счет молниеносного оперирования историческими данными и выбором оптимальных ходов на их основе. Но когда сталкиваются с ситуациями, которых нет в их тренировочной базе - не могут сконструировать достойный ответ. Это та же проблема, что наблюдается у самоуправляемых машин и чатботов.
📰David beats Go-liath - Gary Marcus https://garymarcus.substack.com/p/david-beats-go-liath
Ключевые термины
- Отсутствие понимания
- ИИ достигает результата, перебирая исторические данные и выбирая оптимальные ходы, но не строит ответ в незнакомой ситуации.
Тропы отсюда
- Искусственный интеллект, разум и китайская комната похожая мысль
Оба показывают, что машина выдаёт результат без реального понимания
- Основные сценарии истребления человека искусственным неспециализированным интеллектом (AGI) притянуты за уши и маловероятны похожая мысль
Оба скептичны: нынешний ИИ хрупок и лишь пересобирает известное, без подлинного интеллекта
Соседи на карте
Отвечает на вопросы
- Как любитель смог обыграть сильнейший ИИ в го
- Почему искусственный интеллект не понимает игру, в которую играет
- В чём слабость ИИ, побеждающего чемпионов мира
- Почему высокие результаты нейросети не равны пониманию
- Что общего у провалов ИИ в го, беспилотных авто и чат-ботов