FASM — передача строки в DLL Delphi

Вот два рабочих примера (с использованием FASM 1.70.03 для Windows):

Версия Ansi,
dll:

library testdll;

uses
  windows;

procedure xMain(MSG: PAnsiChar); export; stdcall;
begin
  MessageBoxA(0, PAnsiChar(MSG), 'Title', 0);
end;

exports xMain;

begin
end.

EXE:

format PE CONSOLE 4.0
entry start

include 'win32a.inc'

section '.code' code readable executable
  start:
    invoke xMain, szMSG
    invoke ExitProcess, 0

section '.data' data readable writeable
    szMSG db 'Message from FASM application!', 0

section '.idata' import data readable writeable
  library kernel32, 'kernel32.dll',\
          dllfile, 'testdll.dll'

  include 'api\kernel32.inc'

  import dllfile,\
         xMain, 'xMain'

Версия Unicode,
dll:

library testdll;

uses
  windows;

procedure xMain(MSG: PChar); export; stdcall;
begin
  MessageBox(0, PChar(MSG), 'Title', 0);
end;

exports xMain;

begin
end.

EXE:

format PE CONSOLE 4.0
entry start

include 'win32w.inc'

section '.code' code readable executable
  start:
    invoke xMain, szMSG
    invoke ExitProcess, 0

section '.data' data readable writeable
    szMSG du 'Message from FASM application!', 0

section '.idata' import data readable writeable
  library kernel32, 'kernel32.dll',\
          dllfile, 'testdll.dll'

  include 'api\kernel32.inc'

  import dllfile,\
         xMain, 'xMain'

Ваш вывод — это то, что происходит, когда вы отправляете текст ANSI функции, которая ожидает текст в кодировке UTF-16. Из чего я делаю вывод, что ваш код FASM отправляет полезную нагрузку ANSI в DLL. И DLL скомпилирована в Delphi, поддерживающем Unicode, для которого string означает UnicodeString, Char означает WideChar и так далее.

Вам нужно, чтобы две стороны совпадали. Например, изменив код Delphi:

procedure xMain(Msg: PAnsiChar); stdcall;
begin
  MessageBoxA(0, Msg, 'Title', 0);
end;

Некоторые другие моменты, на которые следует обратить внимание:

1. Вам не нужно export в конце объявления функции. Он игнорируется современными компиляторами Delphi.
2. Не используйте управляемую строку Delphi за пределами модуля. В любом случае на стороне FASM вы объявили параметр как указатель с завершающим нулем на массив символов в кодировке ANSI. А это PAnsiChar.
3. В вашем коде используется соглашение о вызовах Delphi register. Трудно поверить, что FASM использует это. Я ожидаю stdcall, и ответ Сертака подтверждает это

Вы уверены, что ваш аргумент MSG должен быть String, а не PChar?