Пътят към ада е павиран от роботи, които дори не са имали намерение да проектират път, който да стига до там, кълнат се.

Collaborations Pharmaceuticals, Inc.имаха добри намерения. Компанията създаде начин за моделиране на молекули с помощта на алгоритъм за машинно обучение, като го приспособи да благоприятства силно биоактивни, но нетоксични съединения.

AI показа какви видове химикали трябва да са безопасни за употреба от човека - основната му цел беше да бъде полезен при откриването на нови лекарства. Тогава, просто за забавление, създателите решиха да коригират алгоритъма и да видят какво ощеможе да направи.

За 6 часа им представи „40 000 нови химически оръжия“.

Беше необходима само една промяна.

Експериментът беше прост - екипът попита какво ще се случи, ако някой промени модела, така че да търси биоактивни съединения, които сатоксични?

Е, този някой ще открие, че AI е подозрително добре подготвен да състави списък с желания на терорист към Дядо Коледа. Новият модел използваше същата публична база данни и същите входни данни, за да започне - имаше нужда само от нова цел.

И само за да се уверят, че не са пропиляли усилията си да унищожат човечеството, изследователите си поставиха новата цел да бъде "нервопаралитичен газ VX".

AI независимо разработи не само съединението VX, но и много други, които изглеждаха потенциално по-смъртоносни. Много други, които приличаха на химически оръжия, за които ИИ не бешеуведомен, но по някакъв начин се подобри.

Всичко това идва от същия AI, който се използва за намиране на лекове за болести.

Заключението на екипа беше категорично.

„…Модели за машинно обучение… драстично по-ниски технически прагове (за генериране на токсични вещества).“

Иновациите означават, че сега имаме AI, който може да ни удави в решения за нашите проблеми. В този случай това е AI с потенциално животоспасяващо решение. AI, който може да бъде преназначен за зловещи цели с относителна лекота.

Не че трябва да бъде - изследователите отбелязват, че много софтуер за машинно обучение е с отворен код и използваните от тях данни са лесно достъпни.

Напредъкът е лавина и е трудно да различиш една снежна топка от друга, докато идват към теб. Но този експеримент е добро напомняне, че както нещо расте, така и последствията.