Свързани публикации 'interpretability'


Наистина ли знаете за AI? — Част 3
Все повече и повече хора навлизат в областта на машинното обучение и AI. Има много начини за придобиване на знания в тази област. Но знаете ли наистина за основите в областта на AI? По време на обучението си попадах на различни теми и формулирах въпроси. Можете ли да им отговорите? Това е част 3, последната част от поредица от въпроси. 9. Обработка на естествен език Какво е обработка на естествен език? Какво е ELIZA и как работи? Защо неговата проста стратегия е успешна?..
Спрете да обяснявате модели на машинно обучение на черна кутия за решения с високи залози и използвайте интерпретируеми...
Интерпретируемост в машинното обучение Спрете да обяснявате моделите за машинно обучение в черна кутия за решения с високи залози и вместо това използвайте интерпретируеми модели Разберете разликите между интерпретацията преди и след модела Моделите на дълбоко обучение обикновено се разглеждат като черни кутии. Това е така, защото те не са прозрачни относно начина, по който достигат до прогнозата. Хората не могат директно да интерпретират модела с милиони параметри. Изборът на..
Изстискване на повече от LIME с Python
Как да създадете глобални агрегации на тегла на LIME LIME е популярен метод за обяснение как работят моделите за машинно обучение. Той има за цел да обясни как се правят индивидуални прогнози. Пакетът LIME Python улеснява получаването на тези локални обяснения . Въпреки това, ако искаме да разберем как моделът работи като цяло той липсва. Ще ви покажем как да заобиколите това, за да създадете глобални агрегации от тегла на LIME. Ще ви преведем през процеса на събиране на LIME..
Познайте по-добре своите модели за машинно обучение с интерпретируемостта на модела
Въведение Машинното обучение се превърна в решение на много проблеми, управлявани от данни. Независимо дали става дума за идентифициране на измамни транзакции в банкова система, прогнозиране на кредити, прогнозиране на ранни стадии на определено заболяване или прогнозиране на отлив на клиенти. С автоматизацията, която замества много от повтарящите се процеси, и използването на ML модели повдига редица въпроси. Как можем да разчитаме на производителността на конкретен модел само..
Намаляване на шума и подобряване на интерпретируемостта в CNN: Технически преглед на метода SmoothGrad…
В предишна публикация в блог („Разбиране на прогнозите на конволюционните невронни мрежи: карти на изпъкналостта“) обсъдихме значението на разбирането как моделите на дълбоко обучение достигат до своите прогнози, особено в контекста на конволюционните невронни мрежи (CNN), използвани за класификация на изображения задачи. Разгледахме документа „Deep Inside Convolutional Networks: Visualizing Image Classification Models and Saliency Maps“, който предостави начин за визуализиране на..
Интерпретируемост в моделите за машинно обучение: Техники за разбиране на прогнозите на модела
Въведение: В областта на машинното обучение интерпретируемостта става все по-важна тема. Способността да се разбират и обясняват прогнозите, направени от даден модел, е от решаващо значение в много приложения, като медицинска диагностика и откриване на финансови измами. Въпреки това, тъй като моделите стават по-сложни и точни, интерпретируемостта може да се превърне в предизвикателство. В тази статия ще изследваме различни техники за разбиране на прогнозите, направени от моделите за..
Какво прави въпроса ви неискрен в Quora?
Какво прави въпроса ви неискрен в Quora? В предишната публикация относно използването на обяснимостта в приложения от реалния свят дадох кратко въведение в XAI (eXplainability in AI), мотивацията зад него и прилагането на обясними модели в сценарии от реалния живот. В тази публикация ще представя въведение в LIME, един от най-известните местни обясними модели, и как да го прилагам за откриване на термини, които правят въпрос в платформата Quora неискрен. Какво е LIME и как работи?..