Текущая практика развертывания кода GPU для разных семейств GPU

Я думаю, стоит попробовать: Загрузить общую библиотеку по пути во время выполнения
Чтобы это работало, вы должны разделить ваше приложение на интерфейсную и серверную части. скомпилируйте серверную часть для каждого семейства и загрузите соответствующую внутреннюю часть во время выполнения.

Насколько мне известно, единственным стандартом, работающим как с AMD/ATI, так и с Nvidia GPGPU, является OpenCL. CUDA — это запатентованная технология Nvidia. Конечно, для этого требуется, чтобы реализация OpenCL была доступна (и ее было бы целесообразно использовать).

Вас могут заинтересовать PIPS4U, OpenACC, OpenMP или даже MPI и т. д. Также обратите внимание на многопоточность, например с поддержкой C++11 thread.

Обратите внимание, что на некоторых компьютерах (например, на многих серверах) нет GPGPU. У других может быть GPGPU, который медленнее, чем их процессор, поэтому его не стоит использовать для вычислительных задач. Некоторые чипы AMD имеют APU. Другие имеют HSA. Гетерогенные вычисления с помощью GPGPU недостаточно стандартизированы.

Имейте в виду, что программное обеспечение GPGPU должно быть настроено (или настроено) в соответствии с конкретным оборудованием, на котором оно работает... Вот почему трудно кодировать эффективное программное обеспечение OpenCL (или Cuda).

^{Кстати, может быть какая-то странная конфигурация. Представьте себе систему с процессором со встроенным графическим процессором (например, Intel i4770K, Intel i5775C), одной высококачественной графической картой AMD GPGPU и другой высокопроизводительной графической картой NVIDIA GPGPU... Возможно, вы захотите запустить OpenCL. на всех трех...}

Вы можете рассмотреть некоторую архитектуру плагина (например, с использованием dlopen & dlsym из POSIX). Вы могли бы рассмотреть некоторые рамки C++ (Qt, POCO), предоставляющий интерфейсы для подключаемых модулей независимым от ОС способом.

Но есть не серебряная пуля ; возможно, хорошим подходом может быть определение и общедоступное документирование архитектуры плагинов (например, соглашения об именах и вызовах плагинов), а затем публикация как бесплатное программное обеспечение, несколько реализаций (выше OpenCL, Cuda, OpenACC, OpenMP, MPI, ....) подобных плагинов, вписывающихся в эту архитектуру. Помните о изменении имен, поэтому объявите extern "C" публичные функции ваших плагинов. Вы можете смешать это с некоторым подходом метапрограммирования, когда ваше приложение генерирует C++ (и/или OpenCL и т. ..) код во время выполнения, затем компилируется и загружается как плагин (на компьютере пользователя).