Метод наименьших квадратов работает не так, как ожидалось, или нет?

Я попытался повысить точность трилатерации, выполнив метод наименьших квадратов. Для начальной оценки я получаю среднее значение точек кластера. Затем это значение увеличивается до тех пор, пока расстояние до следующей оценки не станет достаточно малым. Значение приращения рассчитывается по этой формуле,

формула

Мой вопрос в том, почему в большинстве случаев окончательный ответ значительно отличается от того, каким он должен быть? Первоначальная оценка еще лучше, хотя и не так точна. Я что-то пропустил здесь?

Изменить

Формула описана здесь. Я надеюсь, что эта картинка объясняет лучше,

наименьший квадрат

Смотрите, что конечная точка находится даже за пределами области пересечения.


person springrolls    schedule 06.08.2011    source источник
comment
Пожалуйста, объясните это подробно или выложите фото. Что такое A и b? Кроме того, у вас может быть более восприимчивая аудитория на math.stackexchange.com.   -  person Jacob    schedule 06.08.2011
comment
Аппроксимации методом наименьших квадратов чувствительны к неверным измерениям (выбросам), поэтому выбор аппроксимации необходимо сопоставлять с качеством ваших данных.   -  person hardmath    schedule 06.08.2011
comment
@hardmath: Извините, я не силен в математике. Что вы имеете в виду под плохими измерениями? Как неточные радиусы круга? Как я могу рассчитать вес?   -  person springrolls    schedule 06.08.2011
comment
Пересмотренная проблема/изображение проясняют связь с вашим более ранним вопросом, в котором упоминаются неточные радиусы окружности. Но, к сожалению, я не в курсе, какую проблему трилатерации вы пытаетесь решить и какое влияние на ответ оказывают неточности данных. Нелинейная регрессия — это метод, но он не говорит нам, к какой проблеме он применяется.   -  person hardmath    schedule 06.08.2011
comment
@hardmath: Ах, вы все еще помните мой предыдущий вопрос. Хорошо, позвольте мне объяснить проблему. Итак, я пытаюсь найти людей по мощности сигнала Bluetooth. Поскольку я использую трилатерацию, мне нужно расстояние между отправителями (центрами кругов) и получателем, которое может быть неточным из-за помех сигнала. Поэтому я подумал, что использование метода наименьших квадратов улучшит результат определения местоположения приемника вместо простого вычисления средних значений.   -  person springrolls    schedule 06.08.2011


Ответы (2)


Я думаю, что у меня достаточно ясное представление о проблеме, чтобы предложить ответ.

По сути, внутренняя часть трехугольной области полностью состоит из точек, которые не достигают трех расчетных расстояний (неточные радиусы окружности). Поэтому неудивительно, что итеративное улучшение решения в поисках аппроксимации с минимальным квадратом ошибки приведет к перемещению точки за пределы этой треугольной области.

Подробнее о том, почему точки внутри области дают расстояния, которые ниже заданных оценок: Это именно те точки, которые находятся внутри всех трех кругов (если такое расположение выполняется). Следовательно, все три расстояния от такой точки до центров кругов меньше их соответствующих радиусов.

Использование среднего значения трех угловых точек (это то, что имеется в виду под кластерными точками в вопросе?), вероятно, является довольно хорошим способом для начала. Если есть простое место для улучшения вычислений, оно может заключаться в использовании взвешенного критерия наименьших квадратов, а не абсолютного критерия наименьших квадратов.

Под этим я подразумеваю, что если один радиус равен 10 ярдам, а два других радиуса намного больше (скажем, 200 и 300 ярдов ради обсуждения), вероятно, не имеет смысла предполагать, что все предполагаемые расстояния имеют ошибки. примерно одинакового размера (это то, что ищет абсолютный метод наименьших квадратов). Вместо этого предположение, что ошибка в расчетных расстояниях примерно пропорциональна каждому расстоянию (критерий относительной ошибки), с большей вероятностью приведет к лучшему решению, например. придание большего веса более короткому расстоянию (поскольку пропорциональная ошибка при этом будет меньше по абсолютной величине, чем пропорциональная ошибка на более длинных расстояниях).

Это всего лишь набросок одной идеи, которую вы, возможно, захотите включить в свое решение. Я так понимаю, у вас есть только три данных для работы (местоположения, известные с достаточной точностью как центры кругов, большая неопределенность в трех радиусах). Таким образом, нет смысла пытаться применять методы, изощренные в отношении точности, а скорее предпочесть методы, дающие надежное решение. Я думаю, что критерий относительной ошибки поможет вам двигаться в этом направлении.

person hardmath    schedule 06.08.2011
comment
Да, точки кластера, которые я имел в виду, — это три угловые точки. При использовании этого взвешенного метода в случае, когда оценка радиусов достаточно точна и, следовательно, достаточно самой начальной оценки, выполнение метода наименьших квадратов (итеративное приближение) не исказит результат. Это правильно? - person springrolls; 06.08.2011
comment
У вас, кажется, есть некоторое представление о том, что является правильным результатом, кроме подгонки решения методом наименьших квадратов. Я думаю, что взвешенное решение методом наименьших квадратов было бы более устойчивым (к ошибкам в радиусах), но если бы у вас были точные центры и точные радиусы, вы бы получили то же решение, используя либо взвешенный, либо невзвешенный метод наименьших квадратов (а именно нулевую сумму квадратов ошибка). Вот что, я думаю, может произойти на практике. Основным источником ошибки являются помехи, которые ослабляют сигналы Bluetooth и дают слишком большие оценки радиуса. Так что в ошибке есть асимметрия. - person hardmath; 07.08.2011
comment
Спасибо! Я постараюсь разобраться. - person springrolls; 07.08.2011

Метод наименьших квадратов минимизирует общий квадрат ошибок, но ничего не говорит о том, насколько индивидуальная точка будет близка к истинному значению. На коэффициенты влияют все точки, а не только некоторые.

person duffymo    schedule 06.08.2011