физическая память на устройствах AMD: локальная или частная

Ответ был дан пользователем talonmies в комментариях, поэтому я напишу его здесь в новом ответе, чтобы закрыть вопрос.

Эти значения можно найти в Приложении D Руководства по программированию AMD APP OpenCL http://developer.amd.com/sdks/amdappsdk/assets/amd_accelerated_parallel_processing_opencl_programming_guide.pdf (аналогичный документ существует для nVidia). Судя по всему, регистр для устройств AMD составляет 128 бит (4x32), а для всех современных высокопроизводительных устройств существует 16384 регистра, так что это замечательные 256 КБ на вычислительную единицу.

Я думаю, вы ищете __local memory. Это то, что имеет в виду 32 КБ локального хранилища данных. Я не думаю, что вы можете опросить устройство, чтобы получить объем частной памяти.

Вы можете передать ссылку NULL long* cl_mem для выделения памяти. Я думаю, что лучше всего использовать статический объем памяти на WI. Предполагая, что long[200] потребуется для каждого рабочего элемента, вы должны использовать приведенный ниже код. Также было бы неплохо разделить работу на группы с одинаковыми (или похожими) требованиями к памяти, чтобы максимально эффективно использовать память LDS.

void __kernel(__local long* localMem, const int localMemPerItem
       //more args...
       )
{
  //host has 'passed' localMemPerItem*get_local_size() long values in as locamMem
  //this work item has access to all of it, but can choose to restrict
  //itself to only the portion it needs.
  //work group size will be limited to CL_DEVICE_LOCAL_MEM_SIZE/(8*localMemPerItem)
  int startIndex=localMemPerItem*get_local_id(0);
  //use localMem[startIndex+ ... ]
}

Чтобы ответить, насколько велик регистровый файл на карте серии 79xx, поскольку он основан на архитектуре GCN, он составляет 64 КБ, как показано на изображении в anandtech: http://www.anandtech.com/print/5261

Чтобы ответить на ваш вопрос, как узнать, сколько памяти использует каждое ядро... вы можете посмотреть, как запустить AMD APP Profiler на вашем ядре, он расскажет вам в разделе занятости ядра, сколько места используется ядром.