Избирательного использования временных рамок и выбора вишен недостаточно, чтобы избавиться от серьезной потенциальной экзистенциальной проблемы. Я тоже прочитал огромное количество материалов об искусственном интеллекте — от общего (AGI) до интеллектуального взрыва и сверхвысокого (ASI) — и нигде никто не представил удовлетворительного предложения по устранению проблем. Вы, например,
- Удобно пренебрегать агрессивными, продолжающимися усилиями по превращению ИИ в оружие, игнорируя всю человеческую историю и предполагая, что глобальный мир скоро воцарится. (Возможно, вы захотите прочитать мою короткую статью на Medium, Почему вы должны бояться искусственного интеллекта, или более подробную статью Макроскопическая эволюционная парадигма)
- Предположим, что мы понимаем все различные типы интеллекта помимо нашего собственного. В этот момент мы в неведении.
- Хотя нам, людям, еще предстоит прийти к соглашению о том, что представляет собой этика, и обо всех нюансах, вы предполагаете, что мы внезапно сможем кодировать ее.
Безусловно, мы все хотим пользоваться полезными плодами ИИ — возможно, это величайшее изобретение человечества. Но отрицание, риторическое запутывание или попытка избавиться от обоснованных опасений оказывает всем нам медвежью услугу и, откровенно говоря, оскорбляет наш интеллект. Это попахивает отрицателями изменения климата; креационизм против эволюции.
Док Хьюстон
