VB一直以来被认为有以下优缺点:优点是上手快、开发效率高;缺点是能力有限,运行效率低。VB被其它语言的拥护者诟病的有很多,不支持指针,不支持重载,不支持内联汇编等等等等。当我们享受着VB的简单时,却发现我们的发挥空间越来越小。的确,简单和功能强大这两者本身就是一对矛盾。那怕一行代码不写,仅仅起动运行一个空窗体这样简单动作,VB在底下就为我们做了大量复杂的工作(决不仅仅是注册窗口类、显示窗口、起动消息循环这么简单),而这些工作对程序员来说是透明的。
由于本人的水平有限,以及相关硬件的制约(我的台式电脑CPU还是PII450,只能装WIN2000),以下的结论没特殊声明只对WIN2000有效。
好了,开始吧!我们需要的软件,VB6+SP6,反编译软件W32dsm89(VC也行);相关知识:熟悉VB,最好知道C语言中的指针,堆栈,当然,不懂也不要紧,相关知识笔者都会一一给出解释的。
一.基本概念
1、CopyMemory
如CopyMemory的声明,它是定义在Kernel32.dll中的RtlMoveMemory这个API,32位C函数库中的memcpy就是这个API的包装。它的功能是将从Source指针所指处开始的长度为Length的内存拷贝到Destination所指的内存处。它不会管我们的程序有没有读写该内存所应有的权限,一但它想读写被系统所保护的内存时,我们就会得到著名的Access Violation Fault(内存越权访问错误),甚至会引起更著名的general protection (GP) fault(通用保护错误) 。所以,在进行本系列文章里的实验时,请注意随时保存你的程序文件,在VB集成环境中将"工具"->"选项"中的"环境"选项卡里的"启动程序时"设为"保存改变",并记住在"立即"窗口中执行危险代码之前一定要保存我们的工作成果。
2、VatPtr/StrPtr
它们是VB提供给我们的宝贝,它们是VBA函数库中的隐藏函数。VarPtr返回的是变量的地址,StrPtr返回的是BSTR指向的Unicode字符数组的地址。下面详细阐述一下BSTR。
假设变量str位于地址aaaa处,而这个字符数组在地址xxxx处,它是变量str的内容。
为了看到以下的内容:
VarPtr=aaaa
StrPtr=xxxx
我们只要运行以下的代码:
Dim lng as Long
Dim I as Integer
Dim s as String
Dim b(1 to 10) as Byte
Dim sp as Long, vp as Long
S=”Help”
sp=StrPtr(s)
Debug.Print “StrPtr:” & sp
vp=VarPtr(s)
Debug.Print “VarPtr:” & vp
‘验证vp=aaaa和sp=xxxx
CopyMemory lng,Byval vp,4
Debug.print lng=sp
‘查看sp包含的字符数组的地址,从那个地址复制一个字节数组然后打印
CopyMemory b(1),ByVal sp,10
For I=1 to 10
Debug.print b(i)
Next I
输出结果是:
StrPtr=xxxx
VarPtr=aaaa
True
104 0 101 0 108 0 112 0 0 0
为什么要隐藏VatPtr/StrPtr?因为VB开发小组不鼓励我们用指针。以下就是VarPtr函数在C和汇编语言里的样子:
在C里样子是这样的:
long VarPtr(void* pv){
return (long)pv;
}
所对就的汇编代码就两行:
mov eax,dword ptr [esp+4]
ret 4 '弹出栈里参数的值并返回。
之所以让大家了解VarPtr的具体实现,是想告诉大家它的开销并不大,因为它们不过两条指令,即使加上参数赋值、压栈和调用指令,整个获取指针的过程也就六条指令。当然,同样的功能在C语言里,由于语言的直接支持,仅需要一条指令即可。但在VB里,它已经算是最快的函数了,所以我们完全不用担心使用VarPtr会让我们失去效率!速度是使用指针技术的根本要求。
一句话,VarPtr返回的是变量所在处的内存地址,也可以说返回了指向变量内存位置的指针,它是我们在VB里处理指针最重要的武器之一。
3、ByVal和ByRef
ByVal传递的参数值,而ByRef传递的参数的地址。在一般程序中我们很少关心两者的区别,就算是传递了参数地址,只要在代码中小心不出现赋值语句,也是没有影响的。但是在一些api的应用中,规定要ByVal应用的,典型的应用就是CopyMemory。
'体会ByVal和ByRef
Sub TestCopyMemory()
Dim l As Long
l = 5
Note: CopyMemory ByVal VarPtr(l), 40000, 4
Debug.Print l
End Sub
上面标号Note处的语句的目的,是将l赋值为40000,等同于语句l=40000,你可以在"立即"窗口试验一下,会发现l的值的确成了40000。
实际上上面这个语句,翻译成白话:
-----------------------------------------------------------------
就是从保存常数40000的临时变量处拷贝4个字节到变量k所在的内存中。
-----------------------------------------------------------------
现在我们来改变一个Note处的语句,若改成下面的语句:
Note2: CopyMemory ByVal VarPtr(l), ByVal 40000, 4
这句话的意思就成了,从地址40000拷贝4个字节到变量l所在的内存中。由于地址40000所在的内存我们无权访问,操作系统会给我们一个Access Violation内存越权访问错误,告诉我们"试图读取位置0x00009c40处内存时出错,该内存不能为'Read'"。
我们再改成如下的语句看看。
Note3: CopyMemory VarPtr(l), 40000, 4
这句话的意思就成了,从保存常数40000的临时变量处拷贝4个字节到到保存变量k所在内存地址值的临时变量处。这不会出出内存越权访问错误,但k的值并没有变。
我们可以把程序改改以更清楚的休现这种区别:
'看看我们的东西被拷贝到哪儿去了
Sub TestCopyMemory()
Dim i As Long, l As Long
l = 5
i = VarPtr(l)
NOTE4: CopyMemory i, 40000, 4
Debug.Print l
Debug.Print i
i = VarPtr(l)
NOTE5: CopyMemory ByVal i, 40000, 4
Debug.Print l
End Sub
程序输出:
5
40000
40000
由于NOTE4处使用缺省的ByRef,传递的是i的地址(也就是指向i的指针),所以常量40000拷贝到了变量i里,因此i的值成了40000,而l的值却没有变化。但是,在NOTE4前有:i=VarPtr(l),本意是要把i本身做为一个指