C#中调用FormatMessage API

FormatMessage是WINDOWS提供的一个API，用来获取调用Windows API时返回的错误代码对应的文字信息，以前在VB下用过，但是在C#中还没用到，主要是不太了解Windows API在C#中调用的一些规则。

最近对VC++ WIN32开发手机程序突然有了极大的兴趣，捡起N久不用的C++，当然也就需要频繁和Windows API打交道了，写C#写多了，再用VB又有点不习惯，于是在C#下调用此方法。为什么不直接在C++中使用呢？嗯，手机调试比较烦，不想写太多代码，C#用起来还是要方便快捷得多。

DWORD WINAPI FormatMessage(    __in          DWORD dwFlags,    __in          LPCVOID lpSource,    __in          DWORD dwMessageId,    __in          DWORD dwLanguageId,    __out         LPTSTR lpBuffer,    __in          DWORD nSize,    __in          va_list* Arguments  );  

const int FORMAT_MESSAGE_FROM_SYSTEM = 0x1000;
const int FORMAT_MESSAGE_IGNORE_INSERTS = 0x200;
[DllImp<wbr style="line-height:25px">ort("Kernel32.dll")]<br style="line-height:25px"> private static extern int FormatMessage(uint dwFlags, IntPtr lpSource, uint dwMessageId, uint dwLanguageId, [Out]StringBuilder lpBuffer, uint nSize, IntPtr arguments);</wbr>

这是FormatMessage API原型和在C#中的定义，其中第2个和最后一个参数因为用不上，定义成IntPtr或int都可以，如果是int，调用时传入0，IntPtr的话，则传入IntPtr.Zero。

比较恼火的是lpBuffer这个参数，用来接收返回的文字信息，在VB中，这种类型的参数都是定义成ByVal String，然后用Space(长度)来初始化（把字符串初始化为指定长度的空格），调用时为nSize指定长度值即可。

在C#中我用类似的方法，参数定义为 string lpBuffer，调用时：

uint dwFlags=FORMAT_MESSAGE_FROM_SYSTEM |FORMAT_MESSAGE_IGNORE_INSERTS;

string lpBuffer=new string(' ',260);

int count=FormatMessage(dwFlags,IntPtr.Zero,1439,0,lpBuffer,260,IntPtr.Zero);

通过返回值count可以知道函数调用成功，但lpBuffer的值却没有更改。

尝试改成ref和out都不行，ref直接报指针错误，out则函数调用失败。

后来想起C#中对string的处理类似于C，都是把它当作一个常量来处理，修改一个字符串的值实际上是抛弃该字符串而声明一个新字符串，显然这里不能把输出参数定义为字符串。

最后改成StringBuilder，并用[Out]属性修饰，调用时：

StringBuilder lpBuffer=new StringBuilder(260); //声明StringBuilder的初始大小

int count=FormatMessage(dwFlags,IntPtr.Zero,1439,0,lpBuffer,260,IntPtr.Zero);

成功！