Следует ли никогда не использовать enum в API?

API, использующие enum, зависят от предположения, что компилятор будет согласованным, т. е. при одном и том же объявлении перечисления он всегда будет выбирать один и тот же базовый тип.

Хотя стандарт языка специально не требует этого, для компилятора было бы совершенно неправильно делать что-то еще.

Кроме того, все компиляторы для конкретной ОС должны соответствовать ABI ОС. В противном случае у вас было бы гораздо больше проблем, таких как библиотека, использующая 64-битную int, в то время как вызывающая сторона использует 32-битную int. В идеале ABI должен ограничивать представление enums, чтобы обеспечить совместимость.

В более общем смысле спецификация языка обеспечивает совместимость только между программами, скомпилированными с использованием одной и той же реализации. ABI обеспечивает совместимость между программами, скомпилированными с разными реализациями.

Из вопроса:

ABI для моей системы действительно указывает, что перечисление должно быть целым числом из четырех байтов со знаком. Если компилятор не подчиняется этому, то это ошибка.

Я удивлен этим. Я подозреваю, что на самом деле ваш компилятор выберет 64-битный (8 байт) размер для вашего перечисления, если вы определите перечисляемую константу со значением, превышающим 2 ^ 32.

На моих платформах (MinGW gcc 4.6.2 с таргетингом на x86 и gcc 4,.4 на Linux с таргетингом на x86_64) следующий код говорит, что я получаю как 4-, так и 8-байтовые перечисления:

#include <stdio.h>

enum { a } foo;
enum { b = 0x123456789 } bar;

int main(void) {
    printf("%lu\n", sizeof(foo));
    printf("%lu", sizeof(bar));   
    return 0;
}

Я скомпилировал с -Wall -std=c99 переключателями.

Я думаю, вы могли бы сказать, что это ошибка компилятора. Но альтернативы удаления поддержки перечислимых констант, превышающих 2^32, или всегда использование 8-байтовых перечислений кажутся нежелательными.

Учитывая, что эти распространенные версии GCC не предоставляют перечисление фиксированного размера, я думаю, что единственное безопасное действие вообще — не использовать перечисления в API.

Дополнительные примечания для GCC

При компиляции с "-pedantic" генерируются следующие предупреждения:

main.c:4:8: warning: integer constant is too large for 'long' type [-Wlong-long]
main.c:4:12: warning: ISO C restricts enumerator values to range of 'int' [-pedantic]

Поведение можно настроить с помощью переключателей --short-enums и --no-short-enums.

Результаты с Visual Studio

Компиляция приведенного выше кода с VS 2008 x86 вызывает следующие предупреждения:

warning C4341: 'b' : signed value is out of range for enum constant
warning C4309: 'initializing' : truncation of constant value

А с VS 2013 x86 и x64 просто:

warning C4309: 'initializing' : truncation of constant value