Так, недавно была начата книга «Оружие разрушения математики», в которой объясняется, как современные алгоритмы и модели науки о данных увеличивают неравенство в экономике и разрушают демократию. Не все модели науки о данных ядовиты, модель, которая учится на своих ошибках и со временем становится лучше, безусловно, является хорошей моделью. Эти модели мы называем моделями обратной связи.

Проще говоря, давайте рассмотрим реальный пример модели обратной связи. Вспомните свою бабушку, которая навещала вас, когда вам было «7». Возможно, вы в то время смотрели «Боб Строитель». Наблюдая за вами в течение недели, ваша бабушка знает, что вам нравится, а что нет. Поэтому она невольно создает для вас модель, отображающую ваши вкусы в музыке, телешоу, еде и т. Д. На основе этой модели она болтает с вами на темы, которые вас интересуют, или готовит ваши любимые блюда. Допустим, вы переехали в другой город, и она встречает вас во второй раз за 10 лет. Теперь, чтобы начать чат, если она спросит о каких-либо обновлениях на «Бобе Строителе», вы можете почувствовать себя странно. Ее модель старая, поэтому во время этого нового визита она наблюдает за вами, может быть, есть вещи, которые вам не нравятся сейчас, которые вам нравились 10 лет назад. Она воспринимает все ваши новые симпатии и антипатии как обратную связь и обновляет в уме старую модель вас. Вот как работает обратная связь.

Пока все хорошо, так что это за оружие разрушения математики, о котором я говорю? Вы угадали. Модели без обратной связи и, к сожалению, 99% современных моделей науки о данных относятся ко второму типу. Возьмем пример, приведенный в книге. Таким образом, очевидно, что ученики не очень хорошо успевают в определенном штате США, и продолжаются разговоры о том, что причиной плохой успеваемости учеников являются плохие учителя. Итак, правительство. нанял аналитическую компанию для создания модели, которая оценивает и масштабирует каждого учителя (скажем, по шкале от 1 до 10) в штате и удаляет тех, кто не переступит определенный порог (скажем, 3,5) . Итак, очевидно, что в этой модели много недостатков. Во-первых, низкая успеваемость учеников может быть связана с экономическим положением ученика, инвалидностью, семейными проблемами. Не все можно отнести к учителям. В связи с этим многие блестящие учителя были уволены со своих постов. Не каждая модель идеальна, и каждая модель пытается достичь совершенства, извлекая уроки из обратной связи. Таким образом, в случае учителей модель должна быть исправлена ​​и должна учиться на обратной связи, потому что она ошибочна. Но вместо этого правительство поддержало модель, потому что они не хотят, чтобы люди осознавали, что они создали ошибочную модель, они могут не получить голосов на следующих выборах, если они признают. Никто не может спорить, потому что модель - черный ящик для нормальных людей. Никто, кроме статистиков и программистов, не знает, какая математика стоит за оценкой учителей.

Вы знаете, что некоторые компании в США предоставляют вам работу на основе вашего кредитного рейтинга !!! По-видимому, они обнаружили положительную корреляцию между кредитным рейтингом и производительностью труда. Из-за какого-то несчастного случая, если парень теряет свой кредитный рейтинг, он не получит работу, и его кредитный рейтинг будет снижаться. Из-за этой ошибочной модели компании упускают большой резерв талантов. Кроме того, многие кредитные компании используют алгоритмы, которые дискриминируют людей на основе гонки за санкциями по ссуде. Прибыль от этих алгоритмов настолько соблазнительна, что компании идут на компромисс со своими этическими ценностями, а для нормальных людей эти алгоритмы и компании являются черными ящиками, с которыми они не могут связываться.

Итак, неделю назад я начал смотреть COSMOS на Netflix, он о космосе, теории эволюции Дарвина и ее чертовски интересном. Так что я тоже начал видеть в шоу некоторые модели обратной связи. Когда была представлена ​​геоцентрическая теория, это было чудом, и все имело смысл, в том числе и в Библии. Это действительно отличная модель и отличное наблюдение. Но Коперник нашел в этом некоторую ошибку. Он попытался поделиться своим мнением с церковью, но церковь воспротивилась этому и посадила его в тюрьму. Видите ли, снова сопротивление обратной связи !!!
Раньше считали, что причиной неудач являются кометы. Они обнаружили некоторую связь между происходящим плохим и кометами. Проблема здесь в том, что мы, люди, настолько хороши в распознавании образов, что иногда обнаруживаем закономерность, когда ее нет. Хейли разрушил эти убеждения, сказав: «Эти падающие звезды - всего лишь кометы, вращающиеся вокруг Солнца». Сначала люди не приняли его отзывы об их «модели неудач, но Хейли сказал, что определенная комета вращается вокруг Солнца и будет появляться каждые 74 года. Он сделал свои расчеты и назвал людям точный год и дату, когда комета снова появится. В ночь на этот день комета пришла как босс и разрушила модель невезения, и люди, наконец, приняли отзывы.

Итак, что именно изменилось с тех пор и по сей день. Ничего особенного. Церкви превратились в корпорации, а священники превратились в политиков. Модели по-прежнему оставались черными ящиками. Будь это крупная компания, политическая партия или церковь, сначала следует признать, что их модель ошибочна, чтобы приветствовать обратную связь.

Приезжая в Индию, почему мы следуем модели, которая была разработана много веков назад, и до сих пор на нее не поступало практически никакой обратной связи. Я говорю о кастовой системе. Каста была введена для блестящего дела. Сделать все систематизированным (если кому интересно, прочтите «Бессмертные Мелухи»). Но в модели был большой недостаток: она давала больший вес представителям высшей касты, подавляя низшую касту. Через некоторое время Амбедкар дал отзыв о модели, чтобы сбалансировать ее веса, введя оговорки. С момента введения резервирования прошли десятилетия, тем временем изменилась экономика, изменились сообщества, изменились времена и изменился баланс между весами, но обратной связи с моделью резервирования не поступало. Благо для одного сообщества постепенно превратилось в проклятие для другого.

Итак, будь то религиозная модель, экономическая модель, образовательная модель или крутая модель машинного обучения, обратная связь необходима для того, чтобы модель узнала свои ошибки и исправила себя, иначе модель создаст свою собственную реальность, порочную реальность. .