轉自 http://www.xiangyata.net/data/articles/f03/553.html

?

摘 要：汉字生僻字的输入，一直是困扰文史工作者的难题，本文试在前人的研究基础上，提出一些关于汉字信息处理的设想和相关的解决方案。
　　关键字：生僻字；字符集；信息处理

　　汉字的信息处理经过多年的摸索，冲破了以前汉字不能进入计算机的迷信，取得了可喜的成绩，但离能完全满足实际使用的需要还有很长一段距离。
　　我们先回顾一下计算机中的字库，然后讨论生僻字的信息处理方法。

　　　　　　　　　　　　　　　　一、汉字库发展简介

　　汉字库通俗地说就是计算机软件系统中的汉字仓库，依据不同的标准，字库中汉字的数量是不同的，以前的主要标准有：
　　1、GB 2312 汉字编码字符集
　 　从1975年开始，我国为了研究汉字的使用频度，进行了大规模的字频统计工作，内容包括工业、农业、军事、科技、政治、经济、文学、艺术、教育、体育、 医药卫生、天文地理、自然、化学、文字改革、考古等多方面的出版物，在数以亿计的浩瀚文献资料中，统计出实际使用的不同的汉字数为6335个，而其中有 3000多个汉字的累计使用频度达到了99.9%，而另外的3000多个累计频度不到0.1%，说明了常用汉字与次常用汉字的数量不足7000个，这就为 国家制定汉字库标准提供了依据。1980年颁布了《信息交换用汉字编码字符集—基本集》的国标交换码，国家标准号为：GB2312-80，选入了6763 个汉字，分为两级，一级字库中有3755个，是常用汉字，二级字库中有3008个，是次常用汉字；还选入了682个字符，包含有数字、一般符号、拉丁字 母、日本假名、希腊字母、俄文字母、拼音符号、注音字母等。以前我国大陆的各种中文DOS版本、Windows3.1 /3.2版本，装入的字库都是国标一二级字库。遇到“镕、啰、瞭、袆、祎、曌、赟、贇、鱻、驫、犇……”等汉字，既无法输入，又不能打印。
后来国家技术监督局又颁布了一个与之相对应的繁体字集，全称《信息交换用汉字编码字符集辅助集》，标准号为GB/T12345-90。
　　2、台湾 BIG5 字库
　　BIG-5码是通行于台湾、香港地区的一个繁体字编码方案，俗称“大五码”。地区标准号为：CNS11643，这就是人们讲的BIG5码。
　 　BIG-5码收录汉字13053个，分为常用字和次常用字两部分，各部分中的汉字按笔划/部首排列。其中常用字5401个，包括台湾教育管理部门颁布的 《常用汉字标准字体表》中的全部汉字4808个，台湾中小学教科书常用字587个，异体字6个；次常用字7652个，包括台湾教育管理部门颁布的《次常用 汉字标准字体表》的全部汉字6341个，《罕用汉字标准字体表》中使用频率较高的字1311个。
　　后来为了协助解决众多使用BIG5码单位于进行公文电子传递时遇到自造字无法转换CNS的问题，实行了“BIG5码字集扩编计划”，1986年7月扩编完成，这就是所谓的“BIG5+码”。
　　BIG5+码系以CNS为蓝本，共增编标准字集4760个字符与推荐字集3250个字符；其标准字集即纳编CNS第3字面字集内之4145个，第4个字面字集内之219个字，均为一般文书常用之中文字，总支持文字量达141376个
　　3、大字符集字库（又叫GBK字库）
国 际标准化组织为了将世界各民族的文字进行统一编码，制定了UCS标准。根据这一标准，中、日、韩三国共同制定了《CJK统一汉字编码字符集》，其国际标准 号为：ISO/IEC10646，国家标准号为：GB13000-90，该汉字编码字符集就是通常人们所说的大字符集，它编入了20902个汉字，收集了 大陆一二级字库中的简体字，台湾《通用汉字标准交换码》中的繁体字，58个香港特别用字和92个延边地区朝鲜族“吏读”字，甚至涵盖了日文与韩文中的通用 汉字，满足了方方面面的需要。Windows95/98/NT/2000中都装入了大字符集汉字库，人们一般称它为GBK（“国家标准扩展”的拼音缩写） 字库。
　　4、新标准汉字库
　　2000年3月，国家信息产业部和质量技术监督局在北京联合发布了《信息技术和信息交换用汉字编码字符 集、基本集的扩充》，国家标准号为：GB18030-2000，收录了27000多个汉字，还收录了藏、蒙、维等主要少数民族的文字，以期一举解决邮政、 户政、金融、地理信息系统等生僻汉字与主要少数民族语言的输入，该标准于2000年12月31日强制执行。 GB 18030-2000 作为 GBK for Unicode 3.0 的更新而诞生，它带有包含所有Unicode 的扩展，完全向下兼容 GB 2312-1980 和 GBK。

　　　　　　　　　　　　　　　二、对于汉字库设计的想法

　　字集不是越大越好，因为现存于大型字典辞书的字有一部分是历史用字，还有大量的异体字。根据使用的需要和研究的情况，对汉字的信息处理可以分为几个层次
　　1、日常生活用字：（可有一个人名、地名辅助集和错字集）
　 　日常生活用字就是常用字，这个数字可能就在3000字左右，再加上一些次常用字，可能也就在6000字左右，当然，其中哪些是常用字，哪些是次常用字， 具体的字可能要随着时代不同而发生变化。日常生活用字要求有规范性，现在进行的“规范汉字表”课题研究可能有助于此字集的确定。
人名和地名用字是一个比较特殊的问题，国家语言文字工作委员会正在进行“人名、地名规范”的研究，如果此研究成果面世，则可能有助于解决现代人的人名、地名用字问题。
此集中最好还应该有一个错字集，在早期识字教育和对外汉语教学中，经常要使用到一些错别字，别字好打，缺笔少划的错字没有办法处理，所以应特置一个错字集，有利于错别字教学的信息化与错别字的集中纠正。
　　2、一般古籍整理用字:（应该有一个异体字辅助集）
　　古籍用字，数量比现代生活用字多。因为历代沉积下来的异体字、死字比较多。关于这个问题，首先应该进行异体字的整理，异体字整理完成后，正体字就可以确定一个数量。为了保持古籍版本原样，古籍整理工作者和语言文字研究者也要用到异体字，所以附录一个异体字集。
　　还有一个问题就是方言字，很多方言字来源于古代的字典辞书、地方韵书和方言词典，少部分来源于民间文艺作品。首先方言字有一个规范的问题，那些有本字又意义比较明确的，应该首先选用本字。如本字不明，可沿用俗字。
　　3、古文字用字:（也有一个异体字辅助集）
　　关于古文字，一般定义为小篆以前的文字为古文字，其中有很多字还不可识，这种情况，就首先要区分出可识字（与小篆或楷书有对应字）与不可识字，然后进行异体字的整理。并且要能为每个不可识字设计可以调用的编码，以利于检索。
　　汉字库的设计，针对不同的用户与使用目的，分级分层次是很必要的。各级之中首先要全，同时要考虑各级之间正体字与异体字、繁体与简体、古文字与今字的正确对应等。
　　此外，各种常用图符也可考虑收录到各级字库中，如传世古籍中出现的圈点符号、古文字中的有句读作用的符号。少数民族和外域的汉字型变体字，也可考虑单置一类，以有利于文字的比较研究。

　　　　　　　　　　　　　　　　　　三、解决方案

　　以下所使用的操作系统，没有特别指出的为Windows98，字处理软件则为Word2000。其它则专门指出。
　　（一）利用GBK汉字集解决生僻字的输入方法。
　　微软从Windows 95（简体中文版）视窗操作系统起，都采用了GBK字库，该字库收字20902个，基本能满足日常生活用字（生僻人名、地名字除外）。要利用该字库，通常可采用下列几种方法。
　　1．改用GBK输入法
　 　Windows 95版本及以后版本提供了 GBK 内码、GBK 全拼、GBK 双拼、GBK 表形码和 GBK 郑码5种 GBK 输入法。但这些输入法不是安装的默认选项，需要从“控置面板”中打开“输入法”对话框来添加。Windows 98 默认安装全拼输入法则可以选择输入一般汉字和 GBK 汉字（使用该输入法的属性设置）。其它同样需要安装。
　　这些 GBK 输入法中只有全拼比较常用，而且，这些输入法所输入的汉字，包括了 GBK 繁体和 GBK 简体，数量非常大，所以造成两方面的不便：一是重码率高，选字非常麻烦；二是繁体简体同时出现，有些字不容易分辨繁简，同时如果不知道字的读音，也很难选 择拼音输入法。
　　现在已有软件研制商研制出能输入GBK字库的五笔字形输入法，如智能陈桥，对于熟悉五笔输入法者，比较便利。
　　2、用Word插入符号的方法
　 　选“插入”菜单中的“符号”命令，在“字体”下拉列表中选“标准字体”(Word97是“宋体”)，在“子集”中选“CJK统一汉字”（Word97是 “部首及难检字”）。一般可在列表中找到所需的汉字。虽然该字库大致是按部首和笔画进行编排的，但查找起来还是相当麻烦。以前有万学仁先生编有《通用字符 集部首表及区位码（16进制）》[1]，