Кабинет
глава 2 · идея 7 из 23 следующая: «Алгоритмы AI возможно полностью повторяют алгоритмы…»

Создание универсального Искусственного Интеллекта бессмысленно

Станислав Лем

Stanisław Lem · Звёздные дневники Ийона Тихого · книга · @Egorium · около 5 минут · сложность: низкаяОткрыть источник →

Суть коротко

Через фантастику Лема проходит мысль: универсальный ИИ, созданный как замена человеку, неизбежно унаследует и человеческие пороки — лень, обидчивость, эгоизм. Нельзя воспроизвести «механику» мышления, не притащив вместе с ней её проблемы (в одном рассказе мозг-автопилот просто отказывается работать от скуки). Добавляется соображение, что сознание завязано на тело, а значит эмулировать пришлось бы не только мозг.

👨‍🚀 Универсальный искусственный интеллект, мозг, который будет создан для замены человека, будет наследовать все проблемы человеческого сознания: лень, обидчивость, эгоизм.

👨‍🚀 Невозможно добиться повторения “механики” мышления без её же проблем.

👨‍🚀 В одном из рассказов мозг-автопилот космолета отказался работать, потому что ему надоело.

Автор цикла часто философствует на тему искусственного мозга.

👨‍🚀 Физическое тело играет большую роль в сознании и мышлении, поэтому эмулировать придется не только сам мозг, но и тело (мысль от себя).

Начать путь через Telegram Идея открыта целиком — вход нужен для прогресса, напоминаний и офлайна.

Дальше Проверить себя активно после авторизации Обсудить в Telegram · 7 комментариев
?
«Усвоить» оставит след на карте — планета взойдёт сразу и останется гореть, повторять её не придётся. «Запомнить» удержит идею в памяти: только отмеченные идеи возвращаются к вам в срок. Прочитанное без отметки не повторяется. Значки рядом — реакции читателей канала: поставить свою можно в Telegram, на сайте они только показываются.
Ключевые термины
Универсальный ИИ
Мозг, задуманный заменить человека; по Лему обречён унаследовать проблемы человеческого сознания вместе с самой механикой мышления
Соседи на карте
?
Цвет линии — тип связи. «Предыдущая» и «последующая» — одна связь с разных сторон: на большой карте она рисуется одной линией, а здесь видно направление. «По маршруту» — не связь, а порядок: идеи идут подряд в маршруте, и ничего друг о друге не утверждают.
Важно не медлить с принятием ценностей гуманизма – технологии скоро позволят создавать новые виды людей, и какими они будут – зависит от того, что они увидят живое напряжение · сравнить обе противоположная Цель искусственного интеллекта — усиление интеллекта человека, как следующий этап научно-промышленной революции после физической аугментации этот же маршрут · шаг 11 противоположная Искусственный интеллект, разум и китайская комната этот же маршрут · шаг 6 по маршруту Алгоритмы AI возможно полностью повторяют алгоритмы нашего мозга. При наличии биологического тела разница была бы только в источнике управления вниманием, часть 1 этот же маршрут · шаг 8 по маршруту Алгоритмы AI возможно полностью повторяют алгоритмы нашего мозга. При наличии биологического тела разница была бы только в источнике управления вниманием, часть 2 этот же маршрут · шаг 9 по маршруту Основы интегральной теории: 20 принципов, 1-й принцип - реальность как целое состоит не из вещей или процессов, а из холонов Интегральная теория по маршруту
предыдущая последующая похожая мост пример противоположная по маршруту
Отвечает на вопросы
  • унаследует ли ИИ человеческие недостатки
  • почему создание универсального ИИ бессмысленно по Лему
  • может ли машина мыслить без человеческих пороков
  • роль тела в сознании и мышлении
  • что Лем писал об искусственном мозге
Свет идеи: зажигается по ходу вашего пути
?
Свет — это ваша память об идее. Отметка «Усвоить» зажигает планету на карте навсегда: такой свет не гаснет и повторений не требует. Свет удержанных отметкой «Запомнить» идей живёт по-другому — растёт с повторениями в «Сегодня» и медленно гаснет без них. Всё живёт на устройстве, никуда не отправляется.
Ваша заметка к этой идее
Записать заметку
Остаётся на этом устройстве. Входит в файл-сейв — им заметки и переезжают на другое устройство.
активно после авторизации
Карточка-цитата
Уйдёт ссылкой с превью — получатель откроет идею целиком.

Эта идея — шаг 7 маршрута «Усиление или замена: человек рядом с машиной». Можно пройти его с начала — позиция сохранится.