Как големите езикови модели (LLM) ще променят света?

Никой не знае. При такава несигурност, добро упражнение е да се търсят исторически аналогии - да се мисли за други технологии и да се пита какво би се случило, ако магистърските програми се развиват по същия начин.

Обичам да поддържам нещата конкретни, така че ще обсъдя влиянието на LLM върху писането. Но по-голямата част от това би се отнасяло и за въздействието на LLM върху други области, както и други AI технологии като AI изкуство/музика/видео/код.

1. Търговия с лед и фризери

Преди „събирахме огромни количества естествен лед и ги превозвахме на дълги разстояния“. Първите машини за производство на лед бяха опасни и скъпи и правеха отвратителен лед. Тогава машините станаха добри и никой вече не добива естествен лед.

В тази аналогия LLMs са лоши в началото и нямат голямо въздействие. След това те се подобряват, за да съответстват и след това да надхвърлят човешките характеристики и човешкото писане почти изчезва.

2. Шахматни хора и шахматен изкуствен интелект

Шахматният изкуствен интелект далеч надхвърля хората, но човешкият шах е по-популярен от всякога.

В тази аналогия LLM стават по-добри от хората в писането. Но какво от това? Ние харесваме човешкото писане. Текстът не е интересен, ако не е част от (пара)социална връзка. Създателите на браузъри вграждат LLM детектори, за да стоплят хората, ако нещо не е написано от човек. Авторите наистина използват LLM, за да обучават писането и понякога има много интриги, когато авторите се обвиняват един друг в измама, използвайки LLM.

(Между другото: в случай, че се притеснявате, в края на тази публикация няма „написано с помощта на LLM хахахаха“ дърпане на килима. Не бих застрашил парасоциалните ни отношения по този начин. )

3. Фермери и трактори

През 1800 г. половината от хората в богатите страни са били фермери. След като технологията направи фермерите по-продуктивни, ние не се интересувахме да ядем 50 пъти повече храна на глава от населението (и не бяхме толкова заинтересовани от скъпи съставки и ядене на бели трюфели, шафран wagyu бургери за всяко хранене), така че днес само 1–4% от хората са земеделци.

В тази аналогия LLMs действат като инструмент, който позволява на един „писател“ да произведе значително повече продукция. Но ние не искаме да четем 50 пъти повече неща и не се интересуваме особено от „по-доброто“ писане, така че повечето писатели трябва да се преместят на друга работа, за да накарат предлагането да отговаря на търсенето.

4. Коне и железници

Отначало влаковете увеличиха търсенето на коне, тъй като много повече неща се движеха по сушата и конете все още бяха необходими, за да доставят нещата до и от гарите.

В тази аналогия, даването на LLM на човешки писатели ги прави по-ефективни, но не оставя никого без работа. Вместо това, това ново писане е толкова страхотно, че хората искат повече от него - и по-подходящо за техните интереси. Вместо 8 милиона души да плащат $20 на месец за 5000 души, за да създадат Общ журналистически продукт, групи от 100 души плащат $200 на месец за един човек, за да създаде съдържание, което е изключително насочено към тях, и те са развълнувани да плащат 10 пъти повече, защото това прави живота им много по-добър. Много нови писатели навлизат на пазара и общият брой на писателите се увеличава. Тогава LLM стават още по-добри и всички биват уволнени.

5. Мечове и пушки

Първо, оръжията заменят лъковете, защото оръжията се нуждаят от по-малко обучение. Тогава оръжията станаха по-добри от умелите стрелци. След това смениха копията. След това пехотата премина към оръжия с мини-мечове на краищата. След това изпуснаха мини-мечовете. Тези промени не бяха водени от „производителността“, а от факта, че трябваше да преминете към оръжия, тъй като знаехте, че противниците ви ще го направят.

В тази аналогия LLM първо заместват хората за писане с ниски умения и след това постепенно поемат повече области. За известно време най-доброто писане използва смесица от LLM и човешко писане, но в крайна сметка хората престават да бъдат полезни. Всеки, който се опитва да устои на тази промяна, е изпреварен от по-добро съдържание от други, които приемат LLM.

6. Бой с меч и фехтовка

Боят с мечове има невероятна дълбочина на умение - имате нужда от талант, дисциплина, фитнес, години обучение и може би дори "философия". Много хора смятат, че си струва да се овладее всичко това, въпреки че мечовете вече не са от значение за битка, така че го практикуват като спорт.

В тази аналогия LLM стават по-добри от хората в писането. Но все още е широко разбрано, че да се научите да пишете е добре за вас (може би писането е „най-добрият начин да мислите“), така че хората изпращат децата си на лагер за писане и смирено се хвалят, че пишат в свободното си време. Но в крайна сметка по-голямата част от писането е направено с обикновената цел съществуването на текст и когато това вече не е ценно, повечето хора спират да го правят.

Антракт

Бях информиран, че тази публикация е някак депресираща, но не можах да се сетя за добри шеги, така че прибягвам до груба сила и използвам тази снимка на КУЧЕ С БЕНЕДИКТ КУМБЪРБАЧ:

Така подсилени, нека продължим.

7. Занаятчийски стоки и масово производство

Масовото производство направи костюмите/колите/чайниците по-евтини и по-изобилни. Но Bentley все още се правят ръчно, занаятчийски стоки все още се възприемат като по-високо качество и по-висок статус.

В тази аналогия LLMs правят писането значително по-евтино и по-изобилно. Но те никога не достигат качеството на най-добрите човешки писатели. Повечето писане винаги са били имейли и TPS доклади и всички те се пренасочват към LLM. Но Ню Йоркър се придържа към човешко писане и тъй като копирането на информация е безплатно, повечето от това, което хората четат, все още идва от хора.

8. Построени на място домове и предварително произведени жилища

Можем да строим домове във фабрики с всички предимства на масовото производство. Но това се използва само за най-ниския клас на пазара. Само 6% от американците живеят в предварително произведени домове и това не показва признаци на промяна.

В тази аналогия LLMs правят текста по-евтин. Но по някаква причина (социална? техническа? регулаторна?) писането на AI се смята за значително по-лошо и не завладява значителна част от пазара.

9. Живопис и фотография

Докато фотоапаратите са по-добри от художниците при възпроизвеждането на сцени от реалния свят, те не са направили художниците остарели, защото картините остават символ на статус и художниците се пренасочват към нерепрезентативно изкуство.

В тази аналогия LLM заместват хората за голяма част от това, което в момента смятаме за „писане“, с изключение на хората, които искат да парадират, че могат да си позволят ръчно изработено писане. Но тогава човешките писатели разбират, че могат да правят определени неща по-добре от LLM. Тези неща придобиват висок статус и всички ние се убеждаваме, че съвсем случайно предпочитаме нещата с висок статус и не можем да понасяме нещата с нисък статус, така че човешките писатели се справят добре.

10. Крака и сегуей

Първо имаше ходене. Тогава Segway дойде, за да ПРОМЕНИ ХАРАКТЕРА НА ЧОВЕШКИЯ ТРАНСПОРТ. Двадесет години по-късно все още има ходене, плюс от време на време непретенциозни алтернативи като електрически скутери.

В тази аналогия LLM работят добре, но в повечето случаи просто не си струват труда и обществото не се развива, за да ги интегрира. Специфични за домейн LLMs се използват за някои приложения, но ние започваме да свързваме „общите“ LLM с туристи и ченгета в молове. Джордж У. Буш отпада от LLM по време на ваканция и всички губят ума си.

11. Врати тип "чайка" и "ножица".

През 50-те и 60-те години на миналия век автомобилните производители представиха врати, които се отварят вертикално. Те са по-добри за излизане от пътя, улесняват паркирането на тесни места и са по-малко опасни за велосипедистите. Но те се нуждаят от повече вертикално разстояние и, ако претърпите инцидент и колата ви се преобърне, могат буквално да ви убият.

В тази аналогия LLM буквално убиват някои хора и след това спираме да ги използваме.

12. Секс и порнография

[Описанието на настоящата ситуация е редактирано.]

В тази аналогия хората консумират много AI писане. Но не изглежда като „истински“ заместител на човешкото писане, така че докато човешкото писане става малко по-малко популярно, то се стабилизира на високо ниво.

13. Човешки калкулатори и електронни калкулатори

Първоначално „компютър“ е бил човек, който е правил изчисления.

В тази аналогия LLMs са очевидна победа и всеки ги използва. Все още се разбира, че трябва да знаете как да пишете - защото иначе как бихте могли да разберете какво прави LLM? Но ръчното писане се смята за анахронизъм и престава да съществува като професия. И все пак, само малка част от писането се извършва от „писатели“, така че всички останали приемат LLM като друг инструмент за продуктивност и скоро забравихме, че някога сме имали нужда от хора, за да правят тези неща.

Мисли

Това упражнение ме направи още по-малко сигурен какво ще се случи. Но ми помогна да изясня причините за несигурността. Разбира се, съществува очевидният въпрос колко добри ще станат LLM и колко бързо. Но за да предвидим въздействието на LLMs, ние също трябва да разберем:

  • LLM ще действат повече като конкуренти или допълнения към човешкото писане?
  • Как ще реагират хората на LLM? Може би LLM ще напишат невероятни романи и хората ще ги харесат. Или може би хората просто не могат да понасят идеята да четат нещо, написано от AI.
  • Ако хората решат, че не харесват LLM, до каква степен са възможни контрамерки? Можем ли да изградим модели за машинно обучение, за да открием текст, генериран от LLM? Ще принудим ли доставчиците на LLM да вградят някаква аналогия с „жълтите точки“ в текста? Можем ли да създадем процес на сертифициране, за да докажем, че текстът е създаден от човек? (Можете да запишете видеоклип, на който пишете цялата книга, но как да удостоверите видеоклипа?)

Отвъд всичко това се чудя до каква степен тези аналогии са полезни. Една голяма разлика между писането в тези други домейни е, че след като текстът бъде създаден, той може да бъде копиран с почти нулеви разходи. Най-близката историческа аналогия за това изглежда е печатарската преса, която прекъсва ръчното копиране на книги, или може би компютрите, нарушаващи хартиените книги. Но също така е възможно тази промяна да е нещо фундаментално ново и да не се прояви, както никоя от тези аналогии предполага.

Първоначално публикувано в https://dynomight.net на 8 декември 2022 г.