Вы, наверное, слышали об OpenAI - новой некоммерческой организации, которая занимается исследованиями искусственного интеллекта, полезными для человечества. Своими словами:

«OpenAI - это некоммерческая компания, занимающаяся исследованиями искусственного интеллекта. Наша цель - продвигать цифровой интеллект таким образом, который, скорее всего, принесет пользу всему человечеству, не ограниченный необходимостью получения финансовой отдачи.

Поскольку наше исследование не связано с финансовыми обязательствами, мы можем лучше сосредоточиться на положительном влиянии на человечество. Мы считаем, что ИИ должен быть продолжением индивидуальной воли человека и в духе свободы должен быть как можно более широко и равномерно распределен.

Результат этого предприятия неизвестен, и работа сложна, но мы считаем, что цель и структура правильные. Мы надеемся, что это самое главное для лучших в этой области ».

В интервью, опубликованном в информационном бюллетене Университета Сингулярности, один из исследователей-основателей, Андрей Карпати, докторант Стэнфордского университета, стажировавшийся в Google и DeepMind, говорит:

«Многое из этого исходит от OpenAI как некоммерческой организации. … Неясно, хотите ли вы, чтобы крупная коммерческая компания имела огромное преимущество или даже монополию на исследования. Это в первую очередь вопрос стимулов и того факта, что они не обязательно соответствуют тому, что хорошо для человечества. Мы с самого начала закладываем это в нашу ДНК.

Кроме того, у некоммерческой организации есть некоторые преимущества, которые я до сих пор не особо ценил. Люди на самом деле обращаются к нам и говорят: «Мы хотим помочь»; …

OpenAI ... побуждает нас публиковать, привлекать общественность и научные круги, твитить, вести блог. …. Если что-то вроде [CRISPR, у которого есть большой потенциал для пользы - и вреда - человечеству. Из-за этих этических проблем в Вашингтоне недавно прошла конференция, посвященная этому вопросу, чтобы обсудить, как мы должны двигаться вперед с этим, поскольку общество] происходит с ИИ в ходе исследования OpenAI - ну, мы должны поговорить об этом. Мы не обязаны делиться всем - в этом смысле название компании неправильное, - но дух компании таков, что мы делаем это по умолчанию.

В конце концов, если есть небольшая вероятность того, что в исследованиях ИИ произойдет что-то безумное, при прочих равных, вы хотите, чтобы эти успехи были достигнуты внутри коммерческой компании, особенно той, которая имеет монополию на исследования, или вы хотите, чтобы это произошло в некоммерческой организации?

В нашей ДНК с самого начала заложена философия: мы внимательно следим за развитием ИИ, а не просто [фокусируемся на] максимизации прибыли.

Это большая ответственность. Это аргумент «меньшего зла»; Думаю, все еще плохо. Но мы не единственные, кто «контролирует» эту сферу - из-за нашей открытости мы приветствуем и поощряем других присоединяться к обсуждению. Кроме того, какая альтернатива? В некотором смысле некоммерческая организация, в основе которой лежит разделение и безопасность, является лучшим вариантом для данной области и ее полезности ».

Итак, здесь мы имеем дело с знающими людьми, распознающими угрозу и решающими, что путь вперед - это создание некоммерческой организации. У этого момента есть исторический прецедент. В 1955 году Альберт Эйнштейн, Бертран Рассел и несколько других ученых собрались вместе и выпустили манифест об опасностях ядерных технологий. Это положит начало десятилетиям Пагуошских конференций и антиядерного движения.

Основатели OpenAI также выпустили манифест. Еще в январе 2015 года Стивен Хокинг и Илон Маск, один из ключевых спонсоров OpenAI, подписали Открытое письмо о приоритетах исследований в области надежного и эффективного искусственного интеллекта. Мы потратили десятилетия на мониторинг, подписание договоров о создании и демонтаже ядерного оружия. Манифест Эйнштейна-Рассела и Пагуош произошли после того, как США взорвали две атомные бомбы, и мир смог согласиться с тем ужасом, который они создали. Ядерный потенциал по-прежнему играет важную роль в глобальной политике, но усилия по предотвращению их использования и распространения в основном увенчались успехом. Мои вопросы касаются не ядерной энергетики или искусственного интеллекта как такового, а о жизнеспособности некоммерческой организации в сегодняшнем мире смены государственных, частных и корпоративных ролей.

  • Сработают ли набор добровольных манифестов и несколько некоммерческих организаций, чтобы ИИ не причинял вреда людям? В отличие от случая с ядерным оружием, вероятными разработчиками опасных приложений являются не национальные государства, а корпорации. В отличие от ядерного оружия (или энергии), стоимость компонентов падает, а не растет, и нет единственного компонента, который можно было бы жестко контролировать (как в случае обогащенного урана).
  • Реалистична ли стратегия «вытеснить R + D» из коммерческих конкурентов через некоммерческую организацию, которая поделится некоторыми (большинством) из того, что она узнает? В большинстве случаев, когда существует конкуренция между коммерческими и некоммерческими организациями, схема капитала благоприятствует коммерческим игрокам (см., Например, каршеринг. Медицинские устройства, фармацевтические препараты).
  • Достаточна ли модель управления некоммерческих организаций - отсутствие акционеров, общественная миссия, ограничения избыточного владения, запреты на распространение - для того, чтобы направить исследования потенциально вредоносных приложений подальше от этого вреда?

Потребуются другие стратегии для «контроля» опасного ИИ. Но применение американской некоммерческой корпоративной модели к такой глобальной проблеме дает отличный момент, чтобы спросить себя:

  • Что может делать некоммерческая организация, а чего нет?
  • Какая структура может наилучшим образом управлять интеллектуальными, цифровыми и алгоритмическими ресурсами для долгосрочной общественной пользы?
  • Как модели управления с открытым исходным кодом могут расширить форму некоммерческого предприятия и где, если где-либо, они конфликтуют?

В отличие от экспертов по машинному обучению, которые присоединяются к OpenAI, я не вижу причин предполагать, что некоммерческой структуры достаточно для достижения их целей. Если проблемы, связанные с искусственным интеллектом, столь велики, как кажется, можно ли предположить, что «меньшее зло» нормально?

Я благодарю их за то, что они направили свой опыт на благотворное использование технологии. Я также считаю, что пора пересмотреть институциональную технологию некоммерческой корпорации. Нам нужны учреждения, которые могут генерировать, направлять и хранить цифровые ресурсы для долгосрочной общественной пользы; Я не уверен, что нынешняя некоммерческая фирма - это ответ.