Публикации по теме 'loss-function'


Среднеквадратическая ошибка — Наиболее часто используемая потеря регрессии.
Пошаговая реализация со своими градиентами Начнем четвертую главу — Потери и их градиенты или производные со среднеквадратичной ошибкой. Эта ошибка обычно используется, если проблемы регрессии Вы можете скачать Jupyter Notebook здесь . Вернуться к предыдущему сообщению Вернуться к первому сообщению 4.1 Что такое среднеквадратическая ошибка и как вычислить ее градиенты? Предположим, у нас есть истинные значения, и прогнозируемые значения, Затем вычисляется..
В основе MSE лежит кросс-энтропия: объяснение оценки максимального правдоподобия
Вступление В этой статье я немного расскажу о теории, лежащей в основе моделей глубокого обучения. На самом деле я изучаю учебник по глубокому обучению Яна Гудфеллоу и др. al. и я нашел там действительно классную идею, которой я собираюсь поделиться. Я начну с краткого объяснения идеи максимальной вероятности оценки , а затем покажу вам, что когда вы используете потерю MSE (среднеквадратичная ошибка) функция, вы фактически используете кросс-энтропию! Не волнуйтесь, если эта..
Градиентный спуск - Введение и реализация на Python
Вступление Градиентный спуск - это алгоритм оптимизации в машинном обучении, используемый для минимизации функции путем итеративного движения к минимальному значению функции. Мы в основном используем этот алгоритм, когда нам нужно найти наименьшие возможные значения, которые могут удовлетворить заданную функцию стоимости. В машинном обучении мы чаще всего пытаемся минимизировать функции потерь (например, Среднеквадратичная ошибка ). Минимизируя функцию потерь, мы можем улучшить..
Понимание функций потерь: потеря шарнира
Понимание функций потерь: потеря шарнира Часто в машинном обучении мы сталкиваемся с функциями потерь. Для кого-то вроде меня, не имеющего опыта работы в CS, мне было трудно изучить математические концепции, лежащие в основе функций потерь, и реализовать их в своих моделях. Итак, здесь я попытаюсь объяснить в самых простых терминах, что такое функция потерь и как она помогает в оптимизации наших моделей. Я буду рассматривать примеры классификации только потому, что их легче понять,..

Вопросы по теме 'loss-function'

Проблема реализации пользовательской функции потерь в keras
Я реализую пользовательскую функцию потерь в keras. Результатом модели является 10-мерный слой softmax. Чтобы рассчитать потери: сначала мне нужно найти индекс y, запускающего 1, а затем вычесть это значение с истинным значением. Я делаю следующее:...
521 просмотров
python keras tensorflow deep-learning loss-function
schedule 11.11.2023
Индивидуальные потери в тензорном потоке с keras
Платформа ОС и дистрибутив: Linux Ubuntu16.04; Версия TensorFlow: «1.4.0» Я могу работать правильно со следующим кодом: import tensorflow as tf from tensorflow.python.keras.layers import Dense from tensorflow.python.keras.backend import...
1926 просмотров
keras tensorflow loss-function
schedule 02.05.2024
Как использовать предварительно обученную сеть TensorFlow в функции потерь Keras
У меня есть предварительно обученная сеть, которую я хочу использовать для оценки потерь в моей сети Keras. Предварительно обученная сеть была обучена с использованием TensorFlow, и я просто хочу использовать ее как часть расчета потерь. Код моей...
405 просмотров
python keras tensorflow deep-learning loss-function
schedule 14.05.2024
Есть ли способ повторно использовать оцененную часть графа вычислений в keras?
Я использую keras и хочу объединить ssim и некоторые другие функции в функцию потерь ( ссылка ). Чтобы увидеть значения и эффект каждого компонента, я также определяю каждый из них как метрику. Но это приводит к вычислению каждого дважды, один раз...
113 просмотров
keras loss-function
schedule 26.04.2024
В Pytorch F.nll_loss () Ожидается объект типа torch.LongTensor, но обнаружен тип torch.FloatTensor для аргумента # 2 'target'
Почему возникает эта ошибка. Я пытаюсь написать настраиваемую функцию потерь, которая, наконец, имеет отрицательную логарифмическую вероятность. Насколько я понимаю, NLL рассчитывается между двумя значениями вероятности? >>> loss =...
4992 просмотров
python pytorch loss-function
schedule 14.11.2022
Как создать параметр функции потерь, который зависит от номера эпохи в Керасе?
У меня есть пользовательская функция потерь с гиперпараметром alpha , которую я хочу менять каждые 20 эпох во время обучения. Функция потерь выглядит примерно так: def custom_loss(x, x_pred): loss1 = binary_crossentropy(x, x_pred) loss2...
1399 просмотров
python keras tensorflow deep-learning loss-function
schedule 20.09.2022
Функция потерь возвращает Nan в режиме соединения CRF keras-contrib
Я использую архитектуру BiLSTM-CRF для назначения некоторых меток последовательности предложений в статье. У нас есть 150 статей, каждая из которых содержит 380 предложений, и каждое предложение представлено двойным массивом размером 11 в диапазоне...
660 просмотров
keras loss-function crf
schedule 04.12.2023
Как реализовать взвешенную кросс-энтропийную потерю в Керасе?
Я хотел бы знать, как добавить пользовательские веса для функции потерь в двоичном или мультиклассовом классификаторе в Керасе. Я использую binary_crossentropy или sparse_categorical_crossentropy в качестве базовой линии и хочу иметь возможность...
2158 просмотров
keras loss-function
schedule 08.02.2024
Tensorflow: потеря сигмоидной перекрестной энтропии не заставляет сетевые выходы быть 0 или 1
Я хотел бы изучить сегментацию изображений в TensorFlow со значениями в {0.0,1.0}. У меня есть два изображения, ground_truth и prediction , и каждое имеет форму (120,160) . Пиксели изображения ground_truth содержат только значения 0,0 или 1,0....
421 просмотров
python tensorflow image-segmentation loss-function
schedule 21.12.2023
Потеря двоичной разреженности
У меня есть двоичные изображения (как показано ниже) на выходе из моей сети. Мне нужно, чтобы «1» были дальше друг от друга (не связаны), чтобы они образовывали разреженное двоичное изображение (без белых пятен). Что-то вроде шума соли и перца. Я...
64 просмотров
pytorch loss-function
schedule 13.10.2022
Потеря модели Gensim word2vec становится равной 0 через несколько эпох
Пытаюсь построить модель gensim word2vec. Корпус содержит 1 млн предложений. Я использую обратный вызов для потери печати после каждой эпохи. Через несколько эпох потери становятся равными нулю. Есть идеи, почему потеря становится 0? Loss...
632 просмотров
gensim deep-learning word2vec loss-function
schedule 03.12.2023
Отзыв точности keras с разреженной categorical_crossentropy
Можно ли вычислить точность, отзыв, val_precesion и val_recall с функцией потерь sparse_categorical_crossentropy ? В этом сообщении введите здесь описание ссылки автор предложил использовать categorical_crossentropy , но в моем случае мне нужно...
285 просмотров
keras loss-function precision-recall
schedule 11.12.2023
Значение функции потерь в Керасе?
Я сделал нейронную сеть с keras на python и не могу понять, что означает функция потерь. Итак, сначала некоторая общая информация: я работал с набором данных покерных рук с классами 0-9, которые я написал как векторы с помощью OneHotEncoding. Я...
267 просмотров
python keras neural-network loss-function loss
schedule 25.03.2024
Различные результаты бинарной и категориальной кроссэнтропии
Я провел эксперимент между использованием binary_crossentropy и categorical_crossentropy . Я пытаюсь понять поведение этих двух функций потерь при решении одной и той же проблемы. Я работал над binary classification проблемой с этими данными...
44 просмотров
machine-learning keras deep-learning neural-network loss-function
schedule 19.02.2024
Функция потерь в tf.nn.sampled_softmax_loss
У меня вопрос по Tensorflow: Какая функция потерь используется в tf.nn.sampled_softmax_loss ? Я считаю, что это кросс-энтропия , но на официальном сайте об этом не написано. Кто-нибудь может подтвердить мою догадку?
45 просмотров
tensorflow neural-network recurrent-neural-network loss-function sampled-softmax
schedule 15.06.2024
Как вычислить начальную потерю кросс-энтропии в PyTorch?
Я читал несколько статей, в которых для обучения своей сети сегментации используется так называемая Bootstrapped Cross Entropy Loss. Идея состоит в том, чтобы сосредоточиться только на самых сложных k% (скажем, 15%) пикселей, чтобы улучшить...
387 просмотров
pytorch deep-learning neural-network loss-function
schedule 11.06.2024
Множественные функции потерь на (частично) перекрывающихся подмоделях в Керасе
У меня есть модель в Керасе, где я хотел бы использовать две функции потерь. Модель состоит из автоэнкодера и классификатора поверх него. Я хотел бы иметь одну функцию потерь, которая гарантирует, что автоэнкодер достаточно хорошо установлен...
61 просмотров
machine-learning keras tensorflow deep-learning loss-function
schedule 18.12.2023
Как создать взвешенную перекрестную энтропийную потерю?
Мне приходится иметь дело с сильно несбалансированными данными. Насколько я понимаю, мне нужно использовать взвешенную кросс-энтропийную потерю. Я пробовал это: import tensorflow as tf weights = np.array([<values>]) def loss(y_true,...
685 просмотров
python keras tensorflow cross-entropy loss-function
schedule 10.04.2024
PyTorch: вычислить гессиан только для подмножества параметров?
Я пишу ElasticWeightConsolidation метод, и для этого мне нужно вычислить матрицу Фишера. Как я понял, матрица Фишера - это просто гессиан вероятности по весам нейронной сети. Есть хорошая функция как torch.autograd.functional.hessian(func,...
88 просмотров
python pytorch gradient loss-function hessian
schedule 20.03.2024
Как рассчитать штраф за инвариантную минимизацию риска в Tensorflow?
Я пытаюсь реализовать технику, называемую минимизацией инвариантного риска, которая добавляет штрафной член к функции потерь в обучающих моделях машинного обучения. Техническое определение нового термина штрафа - это норма градиента в квадрате...
110 просмотров
python machine-learning tensorflow loss-function
schedule 20.09.2022