Отключете силата на отговорния AI: 5 стъпки за осигуряване на етични системи

5 стъпки за изграждане на отговорни AI системи

В края има някои бонуси, така че не забравяйте да превъртите до дъното

Въведение

Изкуственият интелект (AI) се превърна в мощен инструмент за автоматизиране на сложни задачи и анализиране на големи набори от данни в настоящата цифрова ера. Тъй като AI системите стават все по-широко разпространени, важно е да се гарантира, че те са проектирани отговорно, за да се гарантира, че са безопасни и полезни за обществото. Тази поза в блога ще обсъди пет ключови стъпки за изграждане на отговорни AI системи.

Какво прави AI отговорен?

Първата стъпка в изграждането на отговорна AI система е да се определи какво представлява отговорен AI. Често е по-лесно да се подходи от обратната посока, за да се разбере по-добре какъв вид ИИ може да се счита за „безотговорен“:

  • Алгоритъм за сканиране на CV и наемане, който има пристрастия към пола
  • Алгоритъм за подобряване на изображението, който е по-подходящ за кожа с по-светъл тон
  • Алгоритъм за рекламиране, който дискриминира възрастни семейства или семейства с по-ниски доходи
  • Алгоритъм за гласово разпознаване, който се представя по-лошо при реч със специфични акценти

По същество това включва идентифициране на етичните съображения, които трябва да се вземат предвид при проектирането на системата и целите, които системата трябва да се стреми да постигне. Също така е важно да се вземат предвид потенциалните рискове, свързани със системата, като пристрастия и нарушения на поверителността, и да се създадат политики и процедури за смекчаване на тези рискове.

Управленска структура

Следващата стъпка е да се създаде структура за управление на AI системата. Тази структура трябва да включва роли и отговорности за тези, които участват в надзора и управлението на системата за ИИ. Той трябва също така да включва механизъм за наблюдение и налагане на съответствие. Ето някои ключови компоненти, които трябва да имате предвид при създаването на управленска структура:

  • Определете лидер или екип от лидери, които да отговарят за надзора на AI системата.
  • Създайте ясен набор от правила, насоки и политики, които трябва да се спазват при използване на системата за изкуствен интелект.
  • Въведете система за проверки и баланси, за да гарантирате, че AI системата се използва отговорно и етично.
  • Създайте процес за наблюдение и налагане на спазването на правилата, насоките и политиките.
  • Идентифицирайте потенциалните рискове, свързани с използването на AI системата, и създайте план за смекчаване на тези рискове.
  • Разработете комуникационен план за информиране на заинтересованите страни относно системата за ИИ и нейното използване.

Рамка за прозрачност

Прозрачността е от ключово значение за гарантиране, че системите с изкуствен интелект са отговорни и надеждни. Тази рамка трябва да включва набор от ръководни принципи и стандарти, за да се гарантира, че данните се управляват правилно и етично. Той също така трябва да включва конкретни стъпки, за да се гарантира, че данните се събират, съхраняват и използват отговорно.

Прекалено опростен начин за конструиране на такава рамка може да бъде да се настроят стандарти за всяка стъпка в AI системата. Например:

  • Събиране на данни: Кодът съответства ли на разрешеното ограничение за използване, съгласията, лицензите, правилата и условията? Събраните данни по сигурен начин с достатъчно криптиране ли са?
  • Съхранение на данни: Къде физически се съхраняват данните? Съхраняваме ли лична информация? Има ли политика за изтичане на данните или политика за архивиране?
  • Използване на данни: Използваме ли демографските данни като ключов фактор в AI системата? Дали неволно въвеждаме пристрастия, като разглеждаме характеристики, силно свързани с демографските данни, като ключови фактори?
  • Мониторинг и оценка: Могат ли резултатите от обучението да бъдат възпроизводими? Може ли решението да се избере един модел пред другия да бъде обяснено ретроспективно? Промените в данните и концепциите наблюдават ли се и предупреждават ли се?

Дръжте се! Medium е център с много интересни четива. Прочетох много статии, преди да реша да започна да пиша. Помислете за присъединяване към Medium, като използвате моята препоръчана връзка!



Присъединете се към Medium с моята реферална връзка — Луис Чан
Прочетете всяка история от Луис Чан (и хиляди други писатели в Medium). Вашият членски внос директно поддържа...louis-chan.medium.com



Стратегия за качество на данните

Данните са жизнената сила на AI системите и е от съществено значение да се гарантира, че данните, използвани за обучение и работа на системата, са с високо качество. Това може да бъде дефинирано и уловено с помощта на следните, отново твърде опростени, аспекти:

  • Събиране на данни:Проверяваме ли за изгубени пакети, когато събираме данни?
  • Проверка на данните: Прилагаме ли някакви проверки за валидността и пълнотата на данните?
  • Схема на данните:Съхраняваме ли данни в добре дефинирана и ефективна схема?

Непрекъснато наблюдение

И накрая, важно е да се гарантира, че AI системата се наблюдава непрекъснато, за да се гарантира, че работи според очакванията. Също така е важно периодично да преглеждате системата, за да сте сигурни, че тя все още отговаря на поставените за нея цели и задачи. Въпросите, които може да искате да си зададете на тази стъпка, могат да включват:

  • Текущият ни технически стек оптимален ли е за задачата?
  • Какъв е рискът от мигриране към по-актуален стек от технологии?
  • Можем ли да обясним целия поток от данни?
  • Можем ли да възпроизведем нашите стъпки за обучение и извод?
  • Има ли известни дефекти в текущия ни стек от технологии?
  • Постоянно ли преглеждаме рисковете от пристрастия към данните и нарушения на поверителността?
  • Изходният код добре ли е документиран?
  • Имаме ли книга с всички сигнали, инциденти и следсмъртни бележки?
  • Имаме ли някакви модулни тестове, регресионни тестове и интеграционни тестове, внедрени в нашата AI система?
  • Знаем ли количествено дали нашата AI система все още е подходяща за въвеждането на данни?
  • Как пускаме по-нови версии на нашата AI система и как това се съобщава?

Накрая, но не на последно място, преди да преминем към бонусите, ето кратко резюме на петте стъпки:

  1. Определете отговорен AI във вашата област на действие
  2. Определете структура на управление
  3. Определете рамка за прозрачност
  4. Определете стратегия за качество на данните
  5. Непрекъснато наблюдавайте вашата AI система

Подходящи ресурси за отговорен AI

  1. AI Fairness 360 (AIF360): Изчерпателен инструментариум с отворен код за откриване, разбиране и смекчаване на ефектите от пристрастия в машинното обучение.
  2. AI Explainability 360 (AIX360): Библиотека с отворен код от алгоритми за обяснение на решения от AI модели.
  3. AI Explainability Toolkit (AIE): Инструментариум за изграждане на обясними AI системи.
  4. Инструмент за какво става на Google: Инструмент за изследване, отстраняване на грешки и разбиране на модели за машинно обучение.
  5. DALEX: Пакет за обяснение на модели, създадени с всяка рамка за машинно обучение.

Ако се интересувате от трикове на Python, съставих списък с тези кратки блогове за вас:

Ако искате да прочетете повече за това как да приложите машинно обучение към търговия и инвестиране, ето някои други публикации, които може да представляват интерес:



Луис Чан — Водещ GCP Data & ML инженер — Асоцииран директор — KPMG UK | LinkedIn
Амбициозна, любопитна и креативна личност със силна вяра във взаимосвързаността между отраслите на знанието и...www.linkedin.com