PCA анализ, използващ корелационна матрица като вход в R

not non-negative definite не означава, че ковариационната матрица има отрицателни корелации. Това е еквивалент на линейна алгебра на опит за изваждане на корен квадратен от отрицателно число! Не можете да разберете, като погледнете няколко стойности на матрицата, дали е положително определена.

Опитайте да коригирате някои стойности по подразбиране, като толеранс в princomp повикване. Вижте тази тема например: Как да използване на функция princomp () в R, когато ковариационната матрица има нули?

Алтернатива е да напишете някакъв свой собствен код, за да извършите това, което се нарича n NIPLAS анализ. Разгледайте тази тема в списъка с R-поща: https://stat.ethz.ch/pipermail/r-help/2006-July/110035.html

Дори бих стигнал дотам, че да попитам откъде взехте корелационната матрица? Сам ли го конструирахте? Има ли NAs? Ако сте конструирали xCor от вашите собствени данни, мислите ли, че можете да вземете проби от данните и да конструирате по-малка xCor матрица? (да речем 1000X1000). Всички тези алтернативи се опитват да прокарат вашия PCA алгоритъм през „щастливия път“ (т.е. всички матрични операции могат да се извършват вътрешно без затруднения при диагонализация и т.н., т.е. няма повече „неотрицателни съобщения за определена грешка“)

Един метод за извършване на PCA е да се извърши декомпозиция по собствена стойност на ковариационната матрица, вижте wikipedia .

Предимството на разлагането на собствените стойности е, че виждате кои посоки (собствени вектори) са значими, т.е. имат забележима вариация, изразена чрез свързаните собствени стойности. Освен това можете да откриете дали ковариационната матрица е положително определена (всички собствени стойности са по-големи от нула), не е отрицателно определена (което е добре), ако има собствени стойности, равни на нула, или ако е неопределена (което не е добре) чрез отрицателни собствени стойности. Понякога се случва също така, че поради числени неточности неотрицателно определена матрица става отрицателно определена. В този случай бихте наблюдавали отрицателни собствени стойности, които са почти нула. В този случай можете да зададете тези собствени стойности на нула, за да запазите неотрицателната определеност на ковариационната матрица. Освен това, вие все още можете да интерпретирате резултата: собствените вектори, допринасящи със значимата информация, са свързани с най-големите собствени стойности. Ако списъкът от сортирани собствени стойности намалява бързо, има много посоки, които не допринасят значително и следователно могат да бъдат премахнати.

Вградената R функция е eigen

Ако вашата ковариационна матрица е A тогава

eigen_res <- eigen(A)
# sorted list of eigenvalues
eigen_res$values
# slightly negative eigenvalues, set them to small positive value
eigen_res$values[eigen_res$values<0] <- 1e-10
# and produce regularized covariance matrix
Areg <- eigen_res$vectors %*% diag(eigen_res$values) %*% t(eigen_res$vectors)