Алгоритъмът ме накара да го направя и други лоши защити.
Въпреки че може да изглежда очевидно, не можете да използвате алгоритъм за вземане на незаконни решения за поемане на застраховка живот. „В скорошно застрахователно писмо от Ню Йорк се посочва това.“ Освен това неразбирането как или защо алгоритъмът използва данни или взема решение вероятно не е защита. Всъщност аргументът „това е черна кутия за нас“ е добър начин да бъдете открити отговорни (поне в Ню Йорк) за нелоялна търговска практика в контекста на застрахователното поемане.
Това е затруднение. Някои типове алгоритми – машинно обучение и други – вземат решения, които се основават на логика или анализ на данни, които човек не може да разбере. Виждаме решението, но не знаем как е взето решението. От една страна, не искаме да пречим на технологиите, които могат да направят живота ни по-добър, но от една страна трябва да признаем, че „умишлената слепота не е защита“ и също така да се уверим, че в стремеж да създадем по-добър капан за мишки, ние не правим такъв, който убива повече от мишки.[1]
Министерството на финансовите услуги на Ню Йорк формулира проблема по следния начин:
Департаментът напълно подкрепя иновациите и използването на технологии за подобряване на достъпа до финансови услуги. Наистина използването на външни източници на данни от страна на застрахователите има потенциала да облагодетелства както застрахователите, така и потребителите чрез опростяване и ускоряване на продажбите и процесите на застраховане на животозастраховане. Външните източници на данни също имат потенциала да доведат до по-точно застраховане и ценообразуване на животозастраховането. В същото време обаче точността и надеждността на външните източници на данни може да варира значително и много външни източници на данни са компании, които не са обект на регулаторен надзор и защита на потребителите, което поражда сериозни опасения относно потенциалното отрицателно въздействие върху потребителите, застрахователите и пазара за животозастраховане в Ню Йорк.
От практическа гледна точка, ако създадете алгоритъм, който прави нещо, което изглежда незаконно, по причини, които не разбирате, вдигането на ръце и казването „това не беше нашето намерение“ може да не ви стигне далеч. За да бъдете защитими, може да ви е необходим капан, който ви позволява да виждате вътре, или преден край и вътрешни рубрики, за да сте сигурни, че не сте изградили несъзнателно софтуер, който нарушава закона. Отново NYDFS предупреждава: „Когато застрахователят използва външни източници на данни или предсказуеми модели, причината или причините за всяко отхвърляне, ограничение, разлика в лихвените проценти или друго неблагоприятно застрахователно решение, предоставено на застрахования или потенциалния застрахован, трябва да включва подробности за цялата информация по на които застрахователят е основал това решение, включително конкретния източник на информацията, на която застрахователят е основал неблагоприятното си решение за подписване.
Докато софтуерът придобие своя собствена юридическа личност, което предполагам ще отнеме известно време, създателите на хора, потребителите и собствениците ще носят отговорност за незаконно поведение на черна кутия. Изграждането на алгоритми, които дават преценка на хората, ще изисква да разберем процеса, чрез който се прави тази преценка, и данните, на които се основава. И да вдигнете ръце и да кажете „алгоритъмът ме накара да го направя“ вероятно няма да бъде добра защита.
Това са само моите мнения и може да не отразяват възгледите на минали, настоящи или бъдещи клиенти, работодатели или Пали. Може да променя решението си - съдържам множество. Кредит за снимка: https://pixabay.com/photos/neo-urban-laptop-hardware-computer-1808082/ (Лиценз на Pixabay: Безплатен за комерсиална употреба без посочване).
[1] Един от начините да не си пречите твърде много, може би е да решите какво трябва да бъде ограничено и какво не. Въпреки че искаме да сме сигурни, че даден алго не е дискриминиращ при решенията за подписване, може би не е нужно да знаем точния процес, използван за намиране на лекове за ужасни болести или за спечелване на трудни игри. Вижте напр.https://www.nature.com/news/self-taught-ai-is-best-yet-at-strategy-game-go-1.22858 („Няколко DeepMind изследователите вече са преминали от работа върху AlphaGo към прилагане на подобни техники към практически приложения, каза Хасабис, че една обещаваща област, според него, е разбирането как се сгъват протеините, основен инструмент за откриване на лекарства.
