Как когнитивните пристрастия влияят върху диагностичните проблеми в радиологията и как AI може да помогне

Когнитивни пристрастия

„Една ябълка на ден, държи доктора далеч“: афоризъм, който често се казва на децата, за да ги примами да ядат повече плодове. Въпреки че може да има елемент на истина в него, той също така служи като добър пример за ефекта на римата като причина, когнитивна пристрастност, която описва склонността на хората да възприемат твърденията като по-вероятно да да е вярно, когато е поставено под формата на рима.

Пристрастията в човешките разсъждения засягат всички аспекти на нашия живот и са проучени широко. Даниел Канеман, израелски психолог, беше един от първите и най-известните в тази област и получи Нобелова награда за икономика през 2002 г. за работата си върху когнитивните пристрастия и техния ефект върху покупателното поведение на хората.

Освен в икономиката, когнитивните пристрастия са важни и в медицината. Например, хората постоянно надценяват вероятността от редки заболявания (наричани зебра на американски медицински жаргон), причинявайки свръхдиагностика, което води до ненужен стрес за пациентите и икономическа тежест за клиниките.

Недостатъците в човешките когнитивни способности могат да имат дори по-сериозни последици от свръхдиагностиката. Човешката грешка в медицината наскоро беше идентифицирана като третата водеща причина за смърт в САЩ. В радиологията грешките не се влияят само от грешки в разсъжденията, но и във възприятието [1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13].

Някои важни перцептивни отклонения в радиологията са

  • Удовлетворение от пристрастие при търсенеТова пристрастие може да причини грешки, когато клиницистът спре търсенето на патологии в изображение, след като е идентифицирана първоначална аномалия. Потенциален резултат е пренебрегване на по-опасни заболявания или неуспешна диференциална диагноза поради липса на информация.
  • Пристрастие при потвърждениеСвързано с удовлетворението от пристрастие при търсене. В този случай обаче клиницистът има някои предразположени идеи за заболяването, което трябва да е налице, и търси само доказателства, за да потвърди своята хипотеза.
  • Ефект на разпространениеЕфектът на разпространение описва факта, че хората са много по-склонни да пропуснат редки събития, отколкото обичайни събития, при равни други условия. Пример за това е сигурността на летището: чанти, съдържащи оръжия, за щастие са много редки, но служителите са склонни да ги пропуснат, ако го направят. Въпреки това, когато същият сигнал се представя в среда, където се появява по-често, те нямат проблем с откриването му. Това пристрастие също е идентифицирано като потенциална причина за човешка грешка в настройките за скрининг за относително редки заболявания [13].
  • Слепота при невниманиеТова явление описва невъзможността да се забележи напълно очевиден знак, който е много различен от това, което лицето е обучено или инструктирано да търси. Известен пример за това пристрастие в работата е проучване, при което изследователи вмъкнаха снимка на горила в част от компютърна томография на гръдния кош; 83% от рентгенолозите, търсещи белодробни възли при сканиране, не са успели да видят очевидната горила [12].

Пристрастия, причиняващи погрешно тълкуване в радиологията (и медицинската диагноза като цяло), са

  • Пристрастие при закотвянеСвързано с удовлетворението от пристрастие при търсене, с изключение на това, че клиницистът продължава да търси нова информация. Въпреки това, те се заключват в първоначалната диагноза, въпреки тези нови доказателства.
  • Пристрастие към автоматизациятаПристрастието към автоматизация описва поведението на хора, които разчитат твърде много на технологиите. Например, ако читателите на радиологични изследвания знаят, че система във фонов режим им помага, те може да станат мързеливи и да се доверят напълно на системата.
  • Зебра отстъплениеПодобно на ефекта на разпространението, това се отнася за откриването на редки заболявания. В случая с отстъплението на зебра клиницистът забеляза заболяването, но предположи, че трябва да е нормално, тъй като конкретното заболяване е толкова рядко. (Това е обратното на ефекта на зебрата, тенденцията да се надценява вероятността от рядко заболяване.)

За да се предотвратят тези отклонения, бяха предложени процедури като контролни списъци, дървета на решенията и стандартизирани системи за докладване. Компютрите под формата на компютърно подпомагана диагностика (CAD) също могат да смекчат тези ефекти. Какъв по-добър начин да помогнете на някого от това да компенсирате грешките му? Тази публикация обсъжда някои често срещани настройки, при които радиолозите действат със системи с изкуствен интелект и постулира как могат да бъдат смекчени грешките, произтичащи от перцептивни и когнитивни отклонения.

Подобрен интелект

С изключение на няколко изключения, вероятно ще мине известно време, преди системите с изкуствен интелект да могат да четат медицински изображения напълно автономно. Дотогава системите трябва да допълват рентгенолозите и да компенсират грешките, които хората правят. Крайното изпълнение е функция на рентгенолога, системата и интерфейса между тях. Тази парадигма често се нарича „разширена интелигентност“ или „допълнителна интелигентност“ и е красноречиво формулирана от Gilbert et al. [14]:

„[…] Вместо това трябва да се съсредоточим върху популяризирането на модела на „кентавъра“, висококвалифициран човек, който работи заедно с AI, за да постигне повече, отколкото би било възможно сам.“

В момента има приблизително три различни настройки, при които компютърът взаимодейства с рентгенолог. На общ език всички те се наричат ​​„компютърно подпомагана диагностика“ (CAD), въпреки че този термин също често се използва като подтип на обща CAD. Всички настройки изискват различни „нива“ на автоматизация. Подобно на нивата на автоматизация, дефинирани за самоуправляващите се автомобили [15], може да се генерира (донякъде вълнообразна) йерархия, с лекаря от единия край и автономната AI система от другия. Изображение е дадено на фигура 1.

  1. Компютърно подпомагано откриване (наричано още CADe)

При тази настройка рентгенологът отваря изображение и отправя запитване към системата, която впоследствие показва маркери или топлинни карти на подозрителни зони. Американската администрация по храните и лекарствата (FDA) описва CADe системите като [16]:

„Устройствата CADe са компютъризирани системи, които включват възможности за разпознаване на модели и анализ на данни (т.е. комбинират стойности, измервания или функции, извлечени от радиологичните данни на пациента) и са предназначени да идентифицират, маркират, подчертават или по какъвто и да е друг начин да насочват внимание към части от изображение или аспекти на данните от радиологичното устройство, които могат да разкрият аномалии по време на интерпретацията на рентгенологичните изображения на пациента или данните от радиологичното устройство на пациента чрез предвидената употреба […]”

Макар и обещаващо, беше показано, че ранните системи са били най-вече ефективни за улавяне на грешки при търсене, по-специално малки патологии като калцификации в мамограми, но просто са разсейващи за неща, които така или иначе биха били намерени. Поради лошо самостоятелно представяне системата се оказа неефективна в клиниката.

Причината за тази липса на „разширена интелигентност“ се приписва на пристрастието към автоматизацията, което описва склонността на хората да се доверяват твърде много на автоматизираните системи. Това пристрастие може да бъде благословия и проклятие. Всяка система, работеща под човешките възможности, ще повлече рентгенолога надолу, всяка система, работеща над нея, ще го подобри.

2. Компютърно подпомагана диагностика (наричана още CADx)

CADx системите не маркират (само) подозрителни зони в изображението. Вместо това системата предоставя малко повече информация, която е от значение за диагнозата, като резултат за изображението или част от изображението. FDA описва CADx като [14]:

„CADx устройствата са компютъризирани системи, предназначени да предоставят информация отвъд идентифициране, маркиране, подчертаване или по какъвто и да е друг начин насочване на вниманието към части от изображение или аспекти на данните от радиологичното устройство, които могат да разкрият аномалии по време на интерпретация на рентгенови изображения на пациенти или данните от радиологичното устройство на пациента от лекаря.“

Някои примери за CADx системи са:

А. Интерактивна подкрепа за вземане на решенияПри тази настройка рентгенологът прави запитване за регион в изображението и системата показва резултат, който представлява степента на подозрение за региона [17].

Б. Извличане на изображения, базирано на съдържаниеИзвличането на изображения, базирано на съдържание (CBIR) беше въведено за първи път в търсачките, за да помогне на хората да намерят подобно съдържание. В медицински контекст употребата прави заявка за област в изображението и системата показва набор от подобни петна, например пет положителни и пет отрицателни случая, които всички изглеждат подобни.

Въпреки че идеята е обсъдена широко [18, 19], към днешна дата съществуват малко (или никакви?) клинични приложения. Също така е трудно да се каже дали показването на подобни изображения с техните класове действително подобрява представянето на читателя в сравнение с нещо като проста подкрепа за вземане на решения.

CADx системите ще са насочени най-вече към грешки в интерпретацията (като отклонение при закотвяне и отстъпление на зебра), грешките при търсенето до голяма степен ще останат незасегнати, тъй като рентгенологът все още трябва да търси подозрителни зони. Пристрастието към автоматизацията може да е по-малко вероятно да се утвърди, тъй като потребителят обикновено трябва първо да направи запитване към системата.

3. Компютърно подпомогнато сортирането

Системите за сортиране класират пациентите въз основа на спешност, като оценяват резултат като тяхното състояние или вероятност за възстановяване. Идеята за използване на компютри за извършване на сортиране понякога се нарича компютърно подпомагано просто сортиране (CAST). Първоначално това беше предложено за настройките на спешните отделения [20], но наскоро се улови в други области [21, 22]. FDA описва компютърно подпомаганите системи за сортиране като:

„Устройствата за компютърно сортиране са компютъризирани системи, предназначени по какъвто и да е начин да намалят или премахнат всеки аспект от клиничните грижи, предоставяни в момента от клиницист, като например устройство, за което изходът показва, че подгрупа от пациенти (т.е. един или повече пациенти в целевата популация) са нормални и следователно не изискват интерпретация на техните радиологични данни от клиницист.“

В момента има приблизително две различни настройки:

А. Меко сортиранеТук всички случаи се поръчват и представят на лекар в този ред. Това позволява на лекаря първо да се съсредоточи върху най-неотложните случаи. Фигура 5 показва илюстрация на такава система.

В мека настройка за сортиране по същество всички когнитивни отклонения, които са налице - на ниво случай - все още се прилагат. Въпреки това е по-малко вероятно радиолозите да пропуснат съществена информация поради умора, тъй като те могат да планират спешните случаи в моменти, когато се чувстват най-отпочинали, при условие че задачата за диагностика им позволява това.

Ако се прилагат добре, се очаква алгоритмите да генерират по-добро сортиране от хората и следователно на ниво списък със случаи се очаква отклоненията, произтичащи от погрешно тълкуване, да бъдат смекчени.

Б. Твърдо сортиране (или системи за изключване)Подобно на подхода за меко сортиране, случаите се подреждат, но вместо това долният x% вече не се представя на лекар, за да се освободи време. Това е особено полезно при настройки с ниска честота, като скрининг, където големи пропорции от случаи могат да бъдат диагностицирани автоматично. Фигура 6 показва илюстрация на тази настройка.

Отново подобно на мекото сортиране, когнитивните отклонения, които се прилагат на ниво случай, все още присъстват във всички случаи, които се показват на рентгенолозите. Може да възразите, че ефектът на автоматизацията е елиминиран за случаи, които не са показани на рентгенолозите, или че това е просто краен случай на ефекта на автоматизация: всички случаи следват диагностиката на системата. Предимство обаче е, че е по-лесно да се оцени системата за това подмножество, тъй като не трябва да се вземат предвид взаимодействията на потребителите.

Грешките, допуснати поради умора, вероятно ще бъдат смекчени, тъй като се освобождава много време (освен ако то отново не бъде разпределено за различни задачи). Ефектът на разпространението, феноменът, при който е по-вероятно читателите да пропуснат сигнали в среда с ниска честота, също е вероятно да бъде смекчен, тъй като останалите случаи ще имат по-висока честота.

Автономен AI

През 2018 г. FDA даде одобрение за първата по рода си автономна AI система, система, използвана при скрининг за диабетна ретинопатия [23]. За повечето приложения в анализа на медицински изображения може да мине известно време преди подобна система да бъде реализирана, тъй като развитието отнема години и разпоредбите трябва да са строги [24]. Все пак могат да се приложат някои междинни стъпки.

При някои настройки за скрининг, като скрининг на рак на белите дробове и гърдата, изследванията понякога се четат от двама рентгенолози, обикновено независимо. Единият от двамата рентгенолози може да бъде заменен от система, работеща автономно. В този случай компонентът „разширена интелигентност“ все още е налице: прилагат се концепции от ансамбълното обучение и системата е малко по-лесна за анализ. Илюстрация на тази настройка е дадена на фигура 7.

В случай на напълно автономна AI система, всички когнитивни пристрастия са облекчени. Това обаче не означава, че системата е безпристрастна. Ако е обучен с отклонение в данните, имате различен проблем. Отклоненията в данните, като например центъра, върху който данните са обучени, производителя на скенера и анотатора, все още ще бъдат отразени в изхода.

За да обобщим, компютрите са мощни инструменти и имат голям потенциал за медицинска диагностика. Докато системите не могат да работят независимо, те трябва да помагат на рентгенолозите и да компенсират грешките, които радиолозите правят. Внимателното анализиране на грешките на рентгенолозите, например чрез разглеждане на когнитивните отклонения, може да помогне за подобряване на съвместната работа на рентгенолога и системата.

Референции

  1. Kundel, H.L., Nodine, C.F. и Carmody, D., 1978. Визуално сканиране, разпознаване на образи и вземане на решения при откриване на белодробни възли. Изследователска радиология, 13(3), стр.175–181.
  2. Pinto, A. и Brunese, L., 2010 г. Спектър от диагностични грешки в радиологията. Световно списание по радиология, 2(10), стр.377.
  3. Ким, Ю.В. и Mansfield, L.T., 2014 г. Заблуди ме два пъти: забавени диагнози в радиологията с акцент върху постоянните грешки. American journal of roentgenology, 202(3), pp.465–470.
  4. Бруно, М.А., Уокър, Е.А. и Abujudeh, H.H., 2015. Разбиране и изправяне срещу нашите грешки: епидемиологията на грешките в радиологията и стратегии за намаляване на грешките. Радиография, 35(6), стр.1668–1676.
  5. Berbaum, K.S., FRANKEN Jr., E.A., DORFMAN, D.D., ROOHOLAMINI, S.A., KATHOL, M.H., BARLOON, T.J., BEHLKE, F.M., Sato, Y.U.T.A.K.A., LU, C.H., EL-KHOURY, G.Y. и FLICKINGER, F.W., 1990. Удовлетворение от търсенето в диагностичната радиология. Изследователска радиология, 25(2), стр.133–140.
  6. Akgül, C.B., Rubin, D.L., Napel, S., Beaulieu, C.F., Greenspan, H. и Acar, B., 2011. Въз основа на съдържанието извличане на изображения в радиологията: текущо състояние и бъдещи насоки. Journal of Digital Imaging, 24(2), pp.208–222.
  7. Грабер, М., 2005 г. Диагностични грешки в медицината: случай на пренебрегване. The Joint Commission Journal on Quality and Patient Safety, 31(2), pp.106–113.
  8. Busby, L.P., Courtier, J.L. и Glastonbury, C.M., 2018 г. Пристрастия в радиологията: как и защо на пропуски и погрешни интерпретации. Рентгенография, 38(1), стр.236–247.
  9. Борнщайн, Б.Х. и Emler, A.C., 2001. Рационалност при вземането на медицински решения: преглед на литературата относно пристрастията на лекарите при вземане на решения. Списание за оценка в клиничната практика, 7(2), стр.97–107.
  10. Saposnik, G., Redelmeier, D., Ruff, C.C. и Tobler, P.N., 2016. Когнитивни пристрастия, свързани с медицински решения: систематичен преглед. BMC медицинска информатика и вземане на решения, 16(1), стр.138.
  11. https://radiopaedia.org/articles/cognitive-bias-in-diagnostic-radiology
  12. Дрю, Т., Вõ, М.Л.Х. и Wolfe, J.M., 2013. Невидимата горила удря отново: Продължителна невнимателна слепота при експертни наблюдатели. Психологическа наука, 24(9), стр.1848–1853.
  13. Evans, K.K., Birdwell, R.L. и Wolfe, J.M., 2013 г. Ако не го намирате често, често не го намирате: защо някои видове рак се пропускат при скрининга за рак на гърдата. PloS едно, 8(5).
  14. Гилбърт, F.J., Smye, S.W. и Schönlieb, C.B., 2020 г. Изкуствен интелект в клиничните изображения: подход към здравната система. Клинична радиология, 75(1), стр.3–6.
  15. SAE Комитет по стандарти за пътни автоматизирани превозни средства, 2018 г. Таксономия и дефиниции за термини, свързани със системите за автоматизация на шофиране за пътни моторни превозни средства. SAE International: Warrendale, Пенсилвания, САЩ.
  16. FDA, U. (2012). Ръководство за персонала на промишлеността и администрацията по храните и лекарствата: Компютърно-подпомогнати устройства за откриване, приложени към радиологични изображения и данни от радиологични устройства — Известие преди пускане на пазара [510 (k)] Подаване.
  17. Hupse, R., Samulski, M., Lobbes, M.B., Mann, R.M., Mus, R., den Heeten, G.J., Beijerinck, D., Pijnappel, R.M., Boetes, C. и Karssemeijer, N., 2013. Компютър -подпомогнато откриване на образувания при мамография: интерактивна подкрепа за вземане на решения срещу подкани. Радиология, 266(1), стр.123–129.
  18. Cai, C.J., Reif, E., Hegde, N., Hipp, J., Kim, B., Смилков, D., Wattenberg, M., Viegas, F., Corrado, G.S., Stumpe, M.C. и Тери, М., 2019 г., май. Ориентирани към човека инструменти за справяне с несъвършени алгоритми по време на вземане на медицински решения. В Процедури от Конференцията на CHI за 2019 г. относно човешкия фактор в компютърните системи (стр. 1–14).
  19. Akgül, C.B., Rubin, D.L., Napel, S., Beaulieu, C.F., Greenspan, H. и Acar, B., 2011. Въз основа на съдържанието извличане на изображения в радиологията: текущо състояние и бъдещи насоки. Journal of Digital Imaging, 24(2), pp.208–222.
  20. Goldenberg, R. и Peled, N., 2011. Компютърно подпомагано просто сортиране. Международно списание за компютърно подпомагана радиология и хирургия, 6(5), стр.705.
  21. Yala, A., Schuster, T., Miles, R., Barzilay, R. и Lehman, C., 2019. Модел за дълбоко обучение за сортиране на скринингови мамограми: симулационно проучване. Радиология, 293(1), стр.38–46.
  22. Annarumma, M., Withey, S.J., Bakewell, R.J., Pesce, E., Goh, V. и Montana, G., 2019. Автоматизирано сортиране на рентгенографии на гръдния кош на възрастни с дълбоки изкуствени невронни мрежи. Радиология, 291(1), стр.196–202.
  23. Abràmoff, M.D., Lavin, P.T., Birch, M., Shah, N. и Folk, J.C., 2018 г. Основно изпитване на автономна базирана на AI диагностична система за откриване на диабетна ретинопатия в кабинетите за първична медицинска помощ. NPJ цифрова медицина, 1(1), стр.1–8.
  24. (Документ № FDA-2019-N-5592) „Публичен семинар – Развиваща се роля на изкуствения интелект в радиологичните изображения;“ Коментари на Американския колеж по радиология, 2020 г