На первый взгляд это звучит как «Неужели никто не подумает о детях!» тип алармизма:
Что меня несколько беспокоит в распространении даже (относительно) нормальных детских видео, так это невозможность определить степень автоматизации, которая здесь работает; как разобрать разрыв между человеком и машиной.
Но если присмотреться, то действительно кажется, что происходит что-то очень жуткое. Рассмотрим это описание одного из примеров Бридла:
Видео состоит из обычной версии песни Finger Family, которая воспроизводится поверх анимации, в которой головы и тела персонажей из диснеевского Аладдина меняются местами и пересекаются. Опять же, это странно, но, честно говоря, не более, чем видео с сюрпризом или что-то еще, что смотрят дети. Я понимаю, насколько это невинно. Неприятность вкрадывается с появлением персонажа, не относящегося к Аладдину, — Агнес, маленькой девочки из «Гадкого Я». Агнес является арбитром сцены: когда головы не совпадают, она плачет, когда они совпадают, она радуется.
Это немного не так, но тем не менее. Это чувство, кажется, усиливается с каждым примером, пока последний не станет просто кошмарным. Не кошмарный в смысле, скажем, «Оно» Стивена Кинга, а в более буквальном смысле. Как страшный сон с сопутствующей извращенной логикой.
Я думаю, что меня больше всего беспокоит вот что: эти видео предназначены для детей, и нам, взрослым, легко понять, почему это сработает. Опять же, будучи взрослыми, легко увидеть, что здесь есть что-то очень искривленное и неправильное. В обоих случаях: взрослым легко увидеть это в роликах, предназначенных для детей. Но что произойдет, когда методы и алгоритмы 1 станут достаточно хороши для работы со взрослыми? Будет ли это так же легко восприниматься?
- Я предполагаю, что в создании видео задействовано какое-то машинное обучение. ↩
