Станислав Лем — 2 идеи в Атласе сознания

Создание универсального Искусственного Интеллекта бессмысленно

Через фантастику Лема проходит мысль: универсальный ИИ, созданный как замена человеку, неизбежно унаследует и человеческие пороки — лень, обидчивость, эгоизм. Нельзя воспроизвести «механику» мышления, не притащив вместе с ней её проблемы (в одном рассказе мозг-автопилот просто отказывается работать от скуки). Добавляется соображение, что сознание завязано на тело, а значит эмулировать пришлось бы не только мозг.

Станислав Лем · Звёздные дневники Ийона Тихого 2 связи

Цель искусственного интеллекта — усиление интеллекта человека, как следующий этап научно-промышленной революции после физической аугментации

Лем видит цель ИИ не в замене человека, а в усилении интеллекта — как следующий этап революции после физической аугментации. Логика: сложность науки растёт быстрее, чем можно наращивать людской ресурс, поэтому мы обучаем «ученика», который превзойдёт учителя и дальше рекурсивно обучает следующего, разгоняя развитие. Тело и «биологические» чувства при этом переносить в машину, по Лему, не нужно — эволюция и культура нагрузили нас изъянами и предрассудками.

Станислав Лем · Сумма технологий 3 связи