Как большие языковые модели (LLM) изменят мир?

Никто не знает. В условиях такой неопределенности хорошим упражнением будет поиск исторических аналогий — подумать о других технологиях и спросить, что произошло бы, если бы LLM разыгрывались таким же образом.

Мне нравится излагать вещи конкретно, поэтому я расскажу о влиянии LLM на писательство. Но большая часть этого также применима к влиянию LLM на другие области, а также к другим технологиям ИИ, таким как искусство/музыка/видео/код ИИ.

1. Торговля льдом и морозильные камеры

Раньше мы добывали огромное количество природного льда и отправляли его на большие расстояния. Первые машины для производства льда были опасны и дороги, а лед производился паршиво. Потом машины стали хорошими, и натуральный лед уже никто не заготавливает.

По этой аналогии LLM поначалу плохи и не имеют большого влияния. Затем они улучшаются, чтобы соответствовать, а затем превосходить возможности человека, и человеческое письмо в основном исчезает.

2. Шахматные люди и шахматные ИИ

Шахматные ИИ намного превосходят людей, но человеческие шахматы популярны как никогда.

По этой аналогии LLM лучше пишут, чем люди. Но что с того? Нам нравится человеческое письмо. Текст не интересен, если он не является частью (пара)социальных отношений. Производители браузеров встраивают детекторы LLM, чтобы предупредить людей, если что-то было написано не человеком. Авторы используют LLM для обучения письму, и иногда возникает много интриг, когда авторы обвиняют друг друга в жульничестве с использованием LLM.

(Кстати: если вы беспокоитесь, в конце этого поста не будет «написано с использованием LLM, лол». Я бы не стал так подвергать опасности наши парасоциальные отношения. )

3. Фермеры и тракторы

В 1800 году половина населения богатых стран была фермерами. После того, как технологии сделали фермеров более производительными, мы не были заинтересованы в том, чтобы съедать в 50 раз больше еды на душу населения (и мы не были это заинтересованы в дорогих ингредиентах и ​​потреблении бургеров из белого трюфеля и шафрана вагью при каждом приеме пищи), поэтому сегодня только 1–4% людей являются фермерами.

В этой аналогии LLM действуют как инструмент, позволяющий одному «писателю» производить гораздо больше результатов. Но мы не хотим читать в 50 раз больше материала и не особенно заботимся о «лучшем» написании, поэтому большинству писателей приходится переключаться на другую работу, чтобы предложение соответствовало спросу.

4. Лошади и железные дороги

Сначала поезда увеличили потребность в лошадях, потому что по суше перемещалось гораздо больше грузов, а лошади по-прежнему требовались для доставки грузов на вокзалы и обратно.

По этой аналогии предоставление писателям-людям LLM делает их более эффективными, но никого не оставляет без работы. Наоборот, эта новая литература настолько хороша, что люди хотят, чтобы ее было больше — и она больше соответствовала их интересам. Вместо того, чтобы 8 миллионов человек платили 20 долларов США в месяц за 5 000 человек за создание Универсального журналистского продукта, группы из 100 человек платят 200 долларов в месяц одному человеку за создание ультрацелевого контента, и они в восторге платить в 10 раз больше, потому что это делает их жизнь намного лучше. На рынок выходит много новых писателей, и общее количество писателей увеличивается. Затем LLM становятся еще лучше, и всех увольняют.

5. Мечи и ружья

Во-первых, ружья заменили луки, потому что с ружьями нужно меньше тренироваться. Потом пушки стали лучше искусных лучников. Потом они заменили копья. Затем пехота перешла на орудия с мини-шпагами на концах. Затем они бросили мини-мечи. Эти изменения были вызваны не столько «производительностью», сколько тем фактом, что вам пришлось переключиться на огнестрельное оружие, поскольку вы знали, что ваши противники собираются это сделать.

В этой аналогии LLM сначала заменяют людей для письма с низким уровнем навыков, а затем постепенно захватывают все больше областей. Какое-то время для лучшего письма используется смесь LLM и человеческого письма, но со временем люди перестают быть полезными. Любой, кто пытается сопротивляться этому сдвигу, проигрывает лучшему контенту от других, которые поддерживают LLM.

6. Фехтование и фехтование.

Бой на мечах обладает невероятной глубиной мастерства — вам нужны талант, дисциплина, физическая форма, годы тренировок и, может быть, даже философия. Многие люди считают, что все это стоит освоить, хотя мечи сейчас не имеют отношения к бою, поэтому они практикуют это как спорт.

По этой аналогии LLM лучше пишут, чем люди. Но до сих пор широко распространено мнение, что научиться писать полезно (возможно, писательство — «лучший способ думать»), поэтому люди отправляют своих детей в писательский лагерь и скромно хвастаются писательством в свободное время. Но, в конце концов, большая часть написанного была написана с приземленной целью создать текст, и когда это перестает быть ценным, большинство людей перестают этим заниматься.

Антракт

Меня проинформировали, что этот пост несколько удручает, но я не смог придумать ни одной хорошей шутки, поэтому прибегаю к грубой силе и размещаю эту фотографию СОБАКИ С БЕНЕДИКТОМ КАМПЕРБЭТЧЕМ:

Итак, укрепившись, продолжим.

7. Кустарные товары и массовое производство

Массовое производство сделало костюмы/автомобили/чайники более дешевыми и доступными. Но Bentley по-прежнему изготавливаются вручную и считаются товарами более высокого качества и более высокого статуса.

По этой аналогии LLM значительно удешевляют письмо и делают его более доступным. Но они никогда не достигают качества лучших писателей-людей. Большая часть письма всегда была электронной почтой и отчетами TPS, и все это перешло к LLM. Но житель Нью-Йорка придерживается письменной речи человека, а поскольку копирование информации бесплатно, большая часть того, что люди читают, по-прежнему исходит от людей.

8. Дома, построенные на месте, и готовые дома.

Мы можем строить дома на заводах со всеми преимуществами массового производства. Но это используется только для самого низкого уровня рынка. Только 6% американцев живут в готовых домах, и это не показывает никаких признаков изменения.

В этой аналогии LLM удешевляют текст. Но по какой-то причине (социальной? технической? нормативной?) написание ИИ считается значительно второстепенным и не захватывает значительную часть рынка.

9. Живопись и фотография

Хотя камеры лучше, чем художники, воспроизводят сцены реального мира, они не сделали художников устаревшими, потому что картины остаются символом статуса, а художники переключились на нерепрезентативное искусство.

В этой аналогии LLM заменяют людей во многом из того, что мы в настоящее время считаем «письмом», за исключением людей, которые хотят выставлять напоказ, что они могут позволить себе рукотворное письмо. Но затем люди-писатели выясняют, что они могут делать некоторые вещи лучше, чем LLM. Эти вещи приобретают высокий статус, и мы все убеждаем себя, что совершенно случайно предпочитаем вещи с высоким статусом и терпеть не можем вещи с низким статусом, и поэтому у писателей-людей все в порядке.

10. Ноги и сегвеи

Сначала была ходьба. Затем появился Segway, чтобы ИЗМЕНИТЬ ПРИРОДУ ЧЕЛОВЕЧЕСКОГО ТРАНСПОРТА. Двадцать лет спустя ходьба все еще ходит, а иногда и неброские альтернативы, такие как электрические скутеры.

В этой аналогии LLM работают нормально, но в большинстве случаев не стоят усилий, и общество не эволюционирует, чтобы интегрировать их. LLM для конкретных доменов используются для некоторых приложений, но мы начинаем ассоциировать «общие» LLM с туристами и полицейскими торговых центров. Джордж Буш падает с LLM в отпуске, и все теряют рассудок.

11. Двери типа «крыло чайки» и «ножницы»

В 1950-х и 1960-х годах автопроизводители представили двери, которые открываются вертикально. Они лучше уходят с дороги, облегчают парковку в ограниченном пространстве и менее опасны для велосипедистов. Но им нужен больший вертикальный просвет, и если вы попадете в аварию, и ваша машина перевернется, они могут буквально убить вас.

По этой аналогии LLM буквально убивают некоторых людей, после чего мы перестаем их использовать.

12. Секс и порнография

[Описание текущей ситуации отредактировано.]

По этой аналогии люди потребляют тонны текстов, написанных ИИ. Но это не похоже на «настоящую» замену человеческому письму, поэтому, хотя человеческое письмо становится немного менее популярным, оно стабилизируется на высоком уровне.

13. Человек-калькуляторы и электронные калькуляторы

Первоначально «компьютер» был человеком, который занимался вычислениями.

В этой аналогии LLM — очевидный выигрыш, и все их используют. Все еще понятно, что вам нужно знать, как писать, потому что иначе как вы могли бы понять, что делает LLM? Но ручное письмо считается анахронизмом и перестает существовать как профессия. Тем не менее, «писатели» пишут лишь незначительную часть текстов, поэтому все остальные используют LLM как еще один инструмент повышения производительности, и вскоре мы забыли, что когда-то нуждались в людях для выполнения этих задач.

Мысли

Это упражнение сделало меня еще менее уверенным в том, что произойдет. Но это помогло мне прояснить причины неопределенности. Конечно, возникает очевидный вопрос, насколько хорошими станут LLM и как быстро. Но чтобы предсказать влияние LLM, нам также необходимо понимать:

  • Будут ли LLM действовать как конкуренты или как дополнения к человеческому письму?
  • Как люди отреагируют на LLM? Возможно, LLM напишут потрясающие романы, и люди полюбят их. Или, может быть, люди просто не выносят мысли о чтении чего-то, написанного ИИ.
  • Если люди решат, что им не нравятся LLM, насколько возможны контрмеры? Можем ли мы построить модели машинного обучения для обнаружения текста, сгенерированного LLM? Будем ли мы заставлять провайдеров LLM встраивать в текст аналогию с желтыми точками? Можем ли мы создать процесс сертификации, чтобы доказать, что текст был создан человеком? (Вы можете записать видео, на котором вы пишете всю книгу, но как вы сертифицируете видео?)

Помимо всего этого, мне интересно, в какой степени эти аналогии полезны. Одно большое различие между записью в эти другие домены заключается в том, что после создания записи ее можно скопировать практически без затрат. Ближайшая историческая аналогия для этого, кажется, печатный станок, разрушающий ручное копирование книг, или, возможно, компьютеры, разрушающие бумажные книги. Но также возможно, что этот сдвиг является чем-то принципиально новым и не будет развиваться так, как предполагает любая из этих аналогий.

Первоначально опубликовано на https://dynomight.net 8 декабря 2022 г.