- Программирование нейронной вероятностной логики в дискретно-непрерывных областях (arXiv)
Автор: Леннерт Де Смет, Педро Зюйдберг Дос Мартирес, Робин Манхаев, Джузеппе Марра, Анжелика Киммиг, Люк Де Рэдт.
Аннотация: Нейросимволический ИИ (NeSy) позволяет нейронным сетям использовать символические фоновые знания в форме логики. Было показано, что это помогает обучению в режиме ограниченных данных и облегчает вывод на основе данных вне распределения. Вероятностный NeSy фокусируется на интеграции нейронных сетей как с логикой, так и с теорией вероятностей, что дополнительно позволяет учиться в условиях неопределенности. Основным ограничением современных вероятностных систем NeSy, таких как DeepProbLog, является их ограниченность конечными распределениями вероятностей, то есть дискретными случайными величинами. Напротив, глубокое вероятностное программирование (DPP) лучше всего подходит для моделирования и оптимизации непрерывных распределений вероятностей. Таким образом, мы представляем DeepSeaProbLog, язык нейронного вероятностного логического программирования, который включает методы DPP в NeSy. Это приводит к поддержке вывода и изучения как дискретных, так и непрерывных распределений вероятностей при логических ограничениях. Наш основной вклад: 1) семантика DeepSeaProbLog и соответствующий ему алгоритм вывода, 2) проверенный асимптотически непредвзятый алгоритм обучения и 3) серия экспериментов, иллюстрирующих универсальность нашего подхода.
2. Декларативное вероятностное логическое программирование в дискретно-непрерывных областях (arXiv)
Автор: Педро Зюйдберг Дос Мартирес, Люк Де Рэдт, Анжелика Киммиг.
Аннотация: За последние три десятилетия парадигма логического программирования была успешно расширена для поддержки вероятностного моделирования, логического вывода и обучения. Возникшая в результате парадигма вероятностного логического программирования (PLP) и ее языков программирования во многом обязана своим успехом декларативной семантике, так называемой семантике распределения. Однако семантика распределения ограничена только дискретными случайными величинами. Хотя PLP был расширен различными способами для поддержки гибридных, то есть смешанных дискретных и непрерывных случайных величин, нам все еще не хватает декларативной семантики для гибридного PLP, которая не только обобщает семантику распределения и язык моделирования, но и стандартный алгоритм вывода, который основывается на компиляции знаний. Мы вносим семантику гибридного распределения вместе с гибридным языком PLP DC-ProbLog и его механизмом вывода взвешиванием бесконечно малых алгебраических правдоподобий (IALW). Они имеют исходную семантику распределения, стандартные языки PLP, такие как ProbLog, и стандартные механизмы вывода для PLP, основанные на компиляции знаний в качестве особых случаев. Таким образом, мы обобщаем современное состояние PLP в сторону гибридного PLP в трех различных аспектах: семантика, язык и логический вывод. Кроме того, IALW — это первый алгоритм вывода для гибридного вероятностного программирования, основанный на компиляции знаний.
