暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

Oracle 字符 Character

数据库DBA 2021-04-13
967

提示:公众号代码会自动换行,建议横屏阅读或左右滑动代码观看


字符集的相关知识

1 字符集

实质就是按照一定的字符编码方案,对一组特定的符号,分别赋予不同数值编码的集合。Oracle数据库最早支持的编码方案是US7ASCIIOracle的字符集命名遵循以下命名规则:

     <Language><bitsize><encoding>

     :<语言><比特位数><编码>

比如:ZHS16GBK表示采用GBK编码格式、16位(两个字节)简体中文字符集


2 字符编码方案

2.1 单字节编码

   1)单字节7位字符集,可以定义128个字符,最常用的字符集为US7ASCII

   2)单字节8位字符集,可以定义256个字符,适合于欧洲大部分国家

     例如:WE8ISO8859P1(西欧、8位、ISO标准8859P1编码)


2.2  多字节编码

1)变长多字节编码

某些字符用一个字节表示,其它字符用两个或多个字符表示,变长多字节编码常用于对亚洲语言的支持,   例如日语、汉语、印地语等。

例如:AL32UTF8(其中AL代表ALL,指适用于所有语言),ZHS16CGB231280

2)定长多字节编码

每一个字符都使用固定长度字节的编码方案,目前Oracle唯一支持的定长多字节编码是AF16UTF16,也是仅用于国家字符集


2.3 Unicode编码

Unicode是一个涵盖了目前全世界使用的所有已知字符的单一编码方案,也就是说Unicode为每一个字符提供唯一的编码。UTF-16Unicode16位编码方式,是一种定长多字节编码,用2个字节表示一个Unicode 字符,AF16UTF16UTF-16编码字符集。


UTF-8Unicode8位编码方式,是一种变长多字节编码,这种编码可以用123个字节表示一个Unicode 字符,AL32UTF8UTF8UTFEUTF-8码字符集。


2.4 字符集超级

当一种字符集(字符集A)的编码数值包含所有另一种字符集(字符集B)的编码数值,并且两种字符集相同编码数值代表相同的字符时,则字符集A是字符集B的超级,或称字符集B是字符集A的子集。


Oracle官方文档资料中有子集-超级对照表(subset-superset pairs),例如:WE8ISO8859P1WE8MSWIN1252的子集。由于US7ASCII是最早的Oracle数据库编码格式,因此有许多字符集是US7ASCII的超集,例如WE8ISO8859P1,ZHS16CGB231280ZHS16GBK都是US7ASCII的超集。  


2.5 数据库字符集(Oracle服务器端字符集)

数据库字符集在创建数据库时指定,在创建后通常不能更改。在创建数据库时,可以指定字符集 (CHARACTER  SET) 和国家字符集 (NATIONAL CHARACTER SET) 


2.5.1 字符集

     (1)用来存储CHAR, VARCHAR2, CLOB, LONG等类型数据

     (2)用来标示诸如表名、列名以及PL/SQL变量等

     (3)用来存储SQLPL/SQL程序单元等  


2.5.2 国家字符集

     (1)用以存储NCHAR, NVARCHAR2, NCLOB等类型数据

     (2)国家字符集实质上是为Oracle选择的附加字符集,主要作用是为了增强Oracle的字符处理能力,因为NCHAR数据类型可以提供对亚洲使用定长多字节编码的支持,而数据库字符集则不能。国家字符集在Oracle 9i中进行了重新定义,只能在Unicode编码中的AF16UTF16UTF8中选择,默认值是AF16UTF16


2.5.3查询字符集参数

可以查询以下数据字典或视图查看字符集设置情况NLS_DATABASE_PARAMETERSV$NLS_PARAMETERS




查询结果中NLS_CHARACTERSET表示字符集, NLS_NCHAR_CHARACTERSET表示国家字符集


2.5.4 修改数据库字符集

按照上文所说,数据库字符集在创建后原则上不能更改。不过有 2 种方法可行。


1)如果需要修改字符集,通常需要导出数据库数据,重建数据库,再导入数据库数据的方式来转换。

2)通过ALTER DATABASE CHARACTER SET语句修改字符集,但创建数据库后修改字符集是有限制的,只有新的字符集是当前字符集的超集时才能修改数据库字符集,例如UTF8US7ASCII的超集,修改数据库字符集可使用


ALTER DATABASE CHARACTER SET UTF8 


2.6 客户端字符集(NLS_LANG 参数)

2.6.1 客户端字符集含义

客户端字符集定义了客户端字符数据的编码方式,任何发自或发往客户端的字符数据均使用客户端定义的字符集编码,客户端可以看作是能与数据库直接连接的各种应用,例如 sqlplus,exp/imp 等。客户端字符集是通过设置 NLS_LANG参数来设定的。


2.6.2 NLS_LANG 参数格式

NLS_LANG=<language>_<territory>.<client characterset> 

Language: 显示Oracle 消息,校验,日期命名

Territory:指定默认日期、数字、货币等格式

Client character set:指定客户端将使用的字符集

例如:NLS_LANG=AMERICAN_AMERICA.US7ASCII

AMERICAN是语言,AMERICA是地区,US7ASCII是客户端字符集


2.6.3 客户端字符集设置方法


     1)UNIX环境

$NLS_LANG=”simplified Chinese”_china.zhs16gbk 
$export NLS_LANG


 编辑Oracle用户的profile文件

    2)Windows环境

 编辑注册表

Regedit.exe->HKEY_LOCAL_MACHINE->SOFTWARE->ORACLE-HOME


2.6.4 NLS 参数查询

Oracle提供若干NLS参数定制数据库和用户机以适应本地格式.

例如有NLS_LANGUAGE,NLS_DATE_FORMAT,NLS_CALENDER等,可以通过查询以下数据字典或v$视图查看。


NLS_DATABASE_PARAMETERS:

显示数据库当前NLS参数取值,包括数据库字符集取值



NLS_SESSION_PARAMETERS:

显示由NLS_LANG设置的参数,或经过alter session改变后的参数值(不包括由NLS_LANG设置的客户端字符集)



NLS_INSTANCE_PARAMETE

显示由参数文件 init<SID>.ora  定义的参数



V$NLS_PARAMETERS

显示数据库当前NLS参数取值 



2.6.5 修改NLS参数

使用下列方法可以修改NLS参数

    1)修改实例启动时使用的初始化参数文件

    2)修改环境变量NLS_LANG

    3)使用ALTER SESSION语句,在Oracle会话中修改

    4)使用某些SQL函数

NLS 作用优先级别:Sql  function>alter session>环境变量或注册表>参数文件>数据库默认参数  

 

EXP/IMP与字符集


2.1 EXP/IMP


ExportImport是一对读写Oracle数据的工具。ExportOracle数据库中的数据输出到操作系统文件中,  Import把这些文件中的数据读到Oracle数据库中,由于使用exp/imp进行数据迁移时,数据从源数据库到目标数据库的过程中有四个环节涉及到字符集,如果这四个环节的字符集不一致,将会发生字符集转换。  


 EXP

 ____________ _________________ _____________

 |imp 导入文件|<-|环境变量 NLS_LANG|<-|数据库字符集|

 ------------   -----------------   ------------- 

IMP

 ____________ _________________ _____________

 |imp 导入文件|->|环境变量 NLS_LANG|->|数据库字符集|

 ------------   -----------------   -------------  


四个字符集是

1)源数据库字符集 

2Export过程中用户会话字符集(通过 NLS_LANG 设定)

3Import 过程中用户会话字符集(通过 NLS_LANG 设定)

4)目标数据库字符集


2.2导出的转换过程

 Export过程中,如果源数据库字符集与Export用户会话字符集不一致,会发生字符集转换,并在导出文件的头部几个字节中存储Export用户会话字符集的ID号。在这个转换过程中可能发生数据的丢失。

 

:如果源数据库使用ZHS16GBK,而Export用户会话字符集使用US7ASCII,由于ZHS16GBK16位字符集,US7ASCII7位字符集,这个转换过程中,中文字符在 US7ASCII中不能够找到对等的字符,所以所有中文字符都会丢失而变成”???? “形式,这样转换后生成的dmp文件已经发生了数据丢失。 


因此如果想正确导出源数据库数据,则Export过程中用户会话字符集应等于源数据库字符集或是源数据库字符集的超集。


2.3导入的转换过程

 1确定导出数据库字符集环境通过读取导出文件头,可以获得导出文件的字符集设置

 2确定导入session的字符集,即导入Session使用的NLS_LANG环境变量

 3IMP读取导出文件,读取导出文件字符集ID,和导入进程的NLS_LANG进行比较

 4)如果导出文件字符集和导入Session字符集相同,那么在这一步骤内就不需要转换,如果不同,就需要把数据转换为导入Session使用的字符集。可以看出,导入数据到数据库过程中发生两次字符集转换。

 

第一次:导入文件字符集与导入Session使用的字符集之间的转换,如果这个转换过程不能正确完成,Import向目标数据库的导入过程也就不能完成。

第二次:导入Session字符集与数据库字符集之间的转换。

 


三查看数据库字符集,涉及三方面的字符集,

1). Oracle Server端的字符集。

2). Oracle Client端的字符集。

3). dmp文件的字符集。

在做数据导入的时候,需要这三个字符集都一致才能正确导入。


2.4 查询Oracle Server端的字符集  

有很多种方法可以查出Oracle Server端的字符集,比较直观的查询方法是以下这种:



2.5 如何查询dmp文件的字符集    

Oracleexp工具导出的dmp文件也包含了字符集信息,dmp文件的第2

和第3个字节记录了dmp文件的字符集。如果dmp文件不大,比如只有几M或几十M,可以用UltraEdit打开(16进制方式),看第23个字节的内容,如0354,然后用以下SQL 查出它对应的字符集:


如果dmp文件很大,比如有2G以上(这也是最常见的情况),用文本编辑器打开很慢或者完全打不开,可以用以下命令(Unix主机上): 


cat exp.dmp |od -x|head -1|awk '{print $2 $3}'|cut -c 3-6  


然后用上述SQL也可以得到它对应的字符集。


2.6 查询Oracle Client端的字符集  

 

Windows平台下,就是注册表里面相应OracleHomeNLS_LANG。还可以在dos窗口里面自己设置,比如:


set nls_lang=AMERICAN_AMERICA.ZHS16GBK   


这样就只影响这个窗口里面的环境变量。  

 

Unix平台下,环境变量NLS_LANG查看


$echo $NLS_LANG    


如果检查的结果发现Server端与Client端字符集不一致,请统一修改为同Server端相同的字符集。

 

补充:

(1).数据库服务器字符集


SELECT /*+PARALLEL(5)*/ * FROM  NLS_SESSION_PARAMETERS; 


来源于props$,是表示数据库的字符集。

CREATE OR REPLACE VIEW SYS.NLS_DATABASE_PARAMETERS AS
SELECT NAME,
       SUBSTR(VALUE$, 140)
FROM PROPS$
WHERE NAME LIKE 'NLS%';
COMMENT ON TABLE SYS.NLS_DATABASE_PARAMETERS IS 'Permanent NLS parameters of the database';
COMMENT ON COLUMN SYS.NLS_DATABASE_PARAMETERS.PARAMETER IS 'Parameter name';
COMMENT ON COLUMN SYS.NLS_DATABASE_PARAMETERS.VALUE IS 'Parameter value';


(2).客户端字符集环境

SELECT * FROM NLS_INSTANCE_PARAMETERS;


其来源于v$parameter,表示客户端的字符集的设置,可能是参数文件,环境变量或者是注册表


CREATE OR REPLACE VIEW SYS.NLS_INSTANCE_PARAMETERS
(PARAMETER, VALUE)
AS
SELECT SUBSTR(UPPER(NAME), 130),
       SUBSTR(VALUE140)
FROM V$PARAMETER
WHERE NAME LIKE 'nls%';
COMMENT ON TABLE SYS.NLS_INSTANCE_PARAMETERS IS 'NLS parameters of the instance';
COMMENT ON COLUMN SYS.NLS_INSTANCE_PARAMETERS.PARAMETER IS 'Parameter name';
COMMENT ON COLUMN SYS.NLS_INSTANCE_PARAMETERS.VALUE IS 'Parameter value';


(3).会话字符集环境

SELECT * FROM NLS_SESSION_PARAMETERS;


来源于v$nls_parameters,表示会话自己的设置,可能是会话的环境变量或者是alter session完成,如果会话没有特殊的设置,将与nls_instance_parameters 一致。


 CREATE OR REPLACE VIEW SYS.NLS_SESSION_PARAMETERS
(PARAMETER, VALUE)
AS
SELECT SUBSTR(PARAMETER, 130),
       SUBSTR(VALUE140)
FROM V$NLS_PARAMETERS
WHERE PARAMETER != 'NLS_CHARACTERSET' AND
 PARAMETER != 'NLS_NCHAR_CHARACTERSET';
COMMENT ON TABLE SYS.NLS_SESSION_PARAMETERS IS 'NLS parameters of the user session';
COMMENT ON COLUMN SYS.NLS_SESSION_PARAMETERS.PARAMETER IS 'Parameter name';
COMMENT ON COLUMN SYS.NLS_SESSION_PARAMETERS.VALUE IS 'Parameter value';


(4).客户端的字符集要求与服务器一致,才能正确显示数据库的非ASCII字符。如果多个设置存在的时候,字符集要求一致,但是语言设置却可以不同,语言设置建议用英文。如字符集是zhs16gbk,则nls_lang可以是American_America.zhs16gbk

 

修改Oracle的字符集

按照上文所说,数据库字符集在创建后原则上不能更改。因此,在设计和安装之初考虑使用哪一种字符集十分重要。对数据库Server而言,错误的修改字符集将会导致很多不可测的后果,可能会严重影响数据库的正常运行,所以在修改之前一定要确认两种字符集是否存在子集和超集的关系。一般来说,除非万不得已,我们不建议修改Oracle数据库Server端的字符集。


特别说明,我们最常用的两种字符集ZHS16GBKZHS16CGB231280之间不存在子集和超集关系,因此理论上讲这两种字符集之间的相互转换不受支持。  

 

不过修改字符集有2种方法可行。

1). 通常需要导出数据库数据,重建数据库,再导入数据库数据的方式来转换。

2). 通过ALTER DATABASECHARACTER SET语句修改字符集,但创建数据库后修改字符集是有限制的,只有新的字符集是当前字符集的超集时才能修改数据库字符集,例如UTF8 US7ASCII的超集,修改数据库字符集可使用如下语法:


ALTER DATABASE CHARACTER SET UTF8


3.1  修改Server端字符集(不建议使用)

 

1).  关闭数据库

SQL>SHUTDOWN IMMEDIATE 


2). 启动到Mount

SQL>STARTUP MOUNT;   
SQL>ALTER SYSTEM ENABLE RESTRICTED SESSION;   
SQL>ALTER SYSTEM SET JOB_QUEUE_PROCESSES=0;   
SQL>ALTER SYSTEM SET AQ_TM_PROCESSES=0;   
SQL>ALTER DATABASE OPEN;  


这里可以从父集到子集

SQL>ALTER DATABASE CHARACTER SET ZHS16GBK;   
SQL>ALTER DATABASE NATIONAL CHARACTER SET ZHS16GBK; 


如果是从子集到父集,需要使用INTERNAL_USE参数,跳过超子集检测

SQL>ALTER DATABASE CHARACTER SET INTERNAL_USE AL32UTF8;   
SQL>ALTER  DATABASE  NATIONAL  CHARACTER  SET  INTERNAL_USE AL32UTF8;
SQL>SHUTDOWN IMMEDIATE;   
SQL>STARTUP;


注意:如果没有大对象,在使用过程中进行语言转换没有什么影响,(切记设定的字符集必须是ORACLE支持,不然不能start)按上面的做法就可以。


若出现ORA-12717: Cannot ALTER DATABASE NATIONAL CHARACTER SET when NCLOB data exists‘这样的提示信息,要解决这个问题有两种方法:


1). 利用 INTERNAL_USE关键字修改区域设置,

2). 利用re-create,但是re-create有点复杂,所以请用internal_use,re-create可自行研究。


SQL>SHUTDOWN IMMEDIATE; 
SQL>STARTUP MOUNT EXCLUSIVE; 
SQL>ALTER SYSTEM ENABLE RESTRICTED SESSION; 
SQL>ALTER SYSTEM SET JOB_QUEUE_PROCESSES=0; 
SQL>ALTER SYSTEM SET AQ_TM_PROCESSES=0; 
SQL>ALTER DATABASE OPEN; 
SQL>ALTER  DATABASE  NATIONAL  CHARACTER  SET  INTERNAL_USE UTF8; 
SQL>SHUTDOWN IMMEDIATE; 
SQL> STARTUP;


如果按上面的做法做,National charset的区域设置就没有问题

 

3.2 修改dmp文件字符集  


上文说过dmp文件的第23字节记录了字符集信息,因此直接修改dmp文件的第23节的内容就可以Oracle的检查。这样做理论上也仅是从子集到超集可以修改,但很多情况下在没有子集和超集关系的情况下也可以修改,我们常用的一些字符集。

US7ASCIIWE8ISO8859P1ZHS16CGB231280ZHS16GBK基本都可以改。因为改的只是dmp文件,所以影响不大。  


具体的修改方法比较多,最简单的就是直接用UltraEdit修改dmp文件的第2和第3个字节。比如想将dmp文件的字符集改为ZHS16GBK,可以用以下SQL查出该种字符集对应的16进制代码:  


然后将dmp文件的23字节修改为0354即可(3前面的0可以找度娘看看16进制编码规则) 如果dmp文件很大,用UE无法打开,就需要用程序的方法了。



扫描下方二维码关注公众号,了解相关更新

推荐阅读

  1. Automatic Segment Space Management

  2. Memory Management

  3. Oracle锁

  4. 备份和恢复

  5. 11g新特性Hints


最后修改时间:2021-04-14 09:09:11
文章转载自数据库DBA,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论