基于社会新闻数据集的伦理行为判别方法 - 古天龙, 冯旋, 李龙, 包旭光, 李云辉.pdf
免费下载
计 算 机 研 究 与 发 展
DOI
:
１０．７５４４∕issn１０００Ｇ１２３９．２０２１．２０２００７２７
JournalofCom
p
uterResearchandDevelo
p
ment ５８
(
２
):
２５３ ２６３
,
２０２１
收稿日期
:
２０２０
－
０９
－
１５
;
修回日期
:
２０２０
－
１０
－
３０
基金项目
:
国家自然科学基金项目
(
U１７１１２６３
,
U１８１１２６４
,
６１９６６００９
,
６１９６１００７
,
６１８６２０１６
,
６２００６０５７
);
广西自然科学基金项目
(
２０１９GXNSFBA２４５０４９
,
２０１９GXNSFBA２４５０５９
,
２０１８GXNSFDA２８１０４５
);
广西科技基地与人才专项
(
AD１９２４５０１１
)
Thisworkwassu
pp
ortedb
y
theNationalNaturalScienceFoundationofChina
(
U１７１１２６３
,
U１８１１２６４
,
６１９６６００９
,
６１９６１００７
,
６１８６２０１６
,
６２００６０５７
),
the NaturalScienceFoundationofGuan
g
xiProvince
(
２０１９GXNSFBA２４５０４９
,
２０１９GXNSFBA２４５０５９
,
２０１８GXNSFDA２８１０４５
),
andtheScienceandTechnolo
gy
BaseandTalentsPro
g
ramofGuan
g
xiProvince
(
AD１９２４５０１１
)
．
通信作者
:
李龙
(
lilon
g
＠
g
uet．edu．cn
)
基于社会新闻数据集的伦理行为判别方法
古 天 龙
１
冯
旋
１
李
龙
１
,
２
包 旭 光
１
李 云 辉
１
１
(
广西可信软件重点实验室
(
桂林电子科技大学
)
广西桂林
５４１００４
)
２
(
暨南大学信息科学技术学院
∕
网络空间安全学院
广州
５１０６３２
)
(
g
u＠
g
uet．edu．cn
)
EthicalBehaviorDiscriminationBasedonSocialNewsDataset
GuTianlon
g
１
,
Fen
g
Xuan
１
,
LiLon
g
１
,
２
,
BaoXu
g
uan
g
１
,
andLiYunhui
１
１
(
Guan
g
xiKe
y
Laborator
y
o
f
TrustedSo
f
tware
(
GuilinUniversit
y
o
f
ElectronicTechnolo
gy
),
Guilin
,
Guan
g
xi
５４１００４
)
２
(
Colle
g
eo
f
In
f
ormationScienceandTechnolo
gy
∕
Colle
g
eo
f
C
y
berSecurit
y
,
JinanUniversit
y
,
Guan
g
zhou
５１０６３２
)
Abstract Withthebroadera
pp
licationsofartificialintelli
g
ence
(
AI
),
theirethicaland moralissues
haveattracted moreand moreconcerns．Howtodevelo
p
an AIs
y
stem thatcom
p
lieswithhuman
valuesandethicalnormsfromthe
p
ers
p
ectiveoftechnolo
gy
realization
,
namel
y
,
ethicalali
g
ned AI
desi
g
n
,
isoneoftheim
p
ortantissuesthatneedto besolved ur
g
entl
y
．Theethicaland moral
discriminationbasedonmachinelearnin
g
isabeneficialex
p
lorationinthisas
p
ect．Socialnewsdatahas
richcontentandknowled
g
eofethicsandmoralit
y
,
which
p
rovidesthe
p
ossibilit
y
forthetrainin
g
data
develo
p
mentofmachinelearnin
g
．Becauseofthis
,
this
p
a
p
erconstructsasocialnewsdatasetwith
ethicsand moralit
y
ofhumanbehavior
,
whichisattachedtolaw andcodeofconductdatasetfor
machinelearnin
g
trainin
g
andtestin
g
．Theethicalbehaviordiscrimination modelERNIEＧCNNbased
onenhancedlan
g
ua
g
ere
p
resentation ofinformation entities
(
ERNIE
)
and convolutionalneural
network
(
CNN
),
isdevelo
p
edtoextractethicaldiscriminationsaboutbehaviorb
y
calculatin
g
semantic
similarit
y
based onthevectorre
p
resentation of words．Theex
p
erimentalresultsshow thatthe
p
ro
p
osedmodelhasbetter
p
erformancethanthebaselinemodels．
Ke
y
words socialnewsdataset
;
ethicall
y
ali
g
neddesi
g
n
;
dee
p
learnin
g
;
ERNIE
;
CNN
摘
要
人工智能
(
artificialintelli
g
ence
,
AI
)
应用的伦理风险和挑战引 起 了 人 们 的 普 遍 关 注
,
如何从 技
术实现角度开发出遵守人类价值观和伦理规范的
AI
系统
,
即
,
符合伦理的
AI
设计
,
是亟需解决的重要
问题之一
．
基于机器学习的伦理与道德判别是此方面的有益探索
．
社会新闻数据具有丰富的伦理和道德
的内容及知识
,
为机器学习的训练数据开发提供 了可 能
．
鉴于此
,
本文构 建了具 有人类 行为 伦 理和 道 德
属性的社会新闻数据集
,
附之以法律与行为规范数据集
,
用以机器学习的 训 练和 测 试
;
建立了 基于使 用
信息实 体的增 强语言 表示
(
enhancedlan
g
ua
g
ere
p
resentationofinformationentities
,
ERNIE
)
和卷 积
神经网络
(
convolutionalneuralnetwork
,
CNN
)
的伦理行为判别模型
ERNIEＧCNN
,
通过词的向量表示
计算语义相似度来提取关于行为的伦理判断
．
实验结 果表明
,
提出的 模型具 有比基 准模 型 更好 的 性能
,
验证了方法和模型的有效性
．
关键词
社会新闻数据集
;
符合伦理的设计
;
深度学习
;
ERNIE
;
CNN
中图法 分类号
TP３９１
随着深度学习技术的快速发展和物联网的不断
更新
,
人工智 能
(
AI
)
已 经 广 泛应 用到 无人 驾驶
、
智
能家居
、
医疗 护 理 等 诸 多 领 域
,
为 生 活 带 来 巨 大 便
利
．
但与此同时
,
人机交互方式的简化使得人们对 技
术的依赖程度越来越深
,
对其控制却逐渐减弱
,
技术
的不完善和数据的不恰当使用引发的伦理问题不断
出现
[
１Ｇ２
]
．
为了使技术更 好地为 人类 服 务
,
AI
系统 需
要具备伦理行为判 别 能力
,
理解 特 定社 会 的伦 理 道
德规范
,
理解行为背 后 的社 会
、
文化 和 伦理 含 义
,
才
能在现实世界中进行大规模部署
[
３
]
．
AI
系统的开发应当始终秉承以人为中心
、
造福
全人类的发展理念
,
为其 添 加伦 理 行为 判 别能 力 成
为日益紧迫的问题
[
４Ｇ６
]
．
通过嵌入伦理道 德规 范 能够
使
AI
系统具 备 伦理 行为 的判 别及 执行 能 力
,
从 而
遵守法律和社会行为规范
,
是
AI
具备道德能力的体
现
．
但由于伦理概念的复杂性及当前技术发展的局限
性
,
伦理行为判别方面的技术研究面临着诸多障碍
．
早期针对伦理行为判别能力的研究工作主要包
括基于规则的 方 法
[
７
]
和基 于 案例 的 方 法
[
８
]
,
而 这 些
方法普遍存在知识 信 息难 以 规则 化
、
不具 备 自动 获
取特征表示的能力
,
导致模型的泛化能 力 并 不 理 想
．
近年来
,
基于强 化 学习 的 方法
[
９
]
从试 错 或观 察 中学
习人类的行为偏好
,
取得了很好的效果
．
虽然基于强
化学习的方法行之 有 效
,
但是 仍 然具 有 以下 不 足之
处
:
１
)
对环境变化的适应能力弱
,
只能适应特定领域
而难以学习演示示例之外的知识
;
２
)
学习效率低下
,
示教者难以提供高 质 量的 演 示
,
而且 提 供演 示 需要
耗费大量时间
;
３
)
模型训练严重依赖数据
,
往往需要
海量的高质量数据
,
而且有反馈信号稀疏等问题
,
难
以从原始数据中提取有用特征
．
近期的研 究表明
,
基于大 规模无 监督 语 料的 预
训练语言模型编码 了 行为 规 范等 常 识知 识
,
包含 丰
富的语义信息
,
同时在 高 质量 标 注数 据 集上 进 行 微
调
(
fineＧtunin
g
)
可以给目标 任务带 来巨 大 的效 果 提
升
[
１０Ｇ１４
]
．
其具 体 优势 有
:
１
)
近乎 无 限量 的 优质 数 据
;
２
)
一次学习多次复用
;
３
)
学习 到 的语 义 表征 可 在多
个任务中进行快速迁移
．
鉴 于 最 近预 训练 语言 模型 的强 大语 义表 示 能
力
,
针对缺乏高质量 标 注数 据 集的 伦 理行 为 判 别 任
务
,
本文基于丰富的 新 闻语 料 构建 了 涵盖 伦 理 道 德
和人类行为的社会 新 闻数 据 集
,
同时 基 于使 用 信息
实体 的 增 强 语 言 表 示
(
enhancedlan
g
ua
g
ere
p
reＧ
sentation withinformativeentities
,
ERNIE
)
[
１４Ｇ１６
]
和 卷 积 神 经 网 络
(
convolutionalneuralnetwork
,
CNN
)
[
１７
]
提 出 了 伦 理 行 为 判 别 模 型
ERNIEＧCNN．
通过伦理行为判别 实 验和 零 样本 迁 移实 验
,
证明 了
本文所提方 法 和 模 型的 有效 性
,
同 时 为
AI
伦 理 的
未来研究提供必要的支持
．
本文的主要贡献有
３
个方面
:
１
)
基于丰富 的 新 闻 语 料 构 建 了 社 会 新 闻 数 据
集
,
为了验证伦理判别方法的有效性
,
同时构建了法
律与行为规范数据集
．
２
)
基 于 使 用 信 息 实 体 的 增 强 语 言 表 示
(
ERNIE
)
和 卷 积 神 经 网 络
(
CNN
)
提 出
ERNIEＧ
CNN
模型
．
３
)
通过零样 本 迁 移 实 验 验 证 了 协 变 量 偏 移 下
的领域适应能力
,
验证伦理行为判别方法的有效性
．
１
相关工作
为
AI
系统 增 添伦 理行 为 判 别 能 力
,
有 助 于 避
免伦理问题
,
提高人类对技术的接受程度
,
从而促进
AI
技术的研究与推广
．
早期的 相关研 究工 作 大多 选
择将明确的 伦 理 原 则或 规范 嵌入
AI
系 统
,
主 要 包
括基于规则的方法和基于案例的方法
．
基于规则的方 法 是 根 据 伦 理 原 则 或 规 范 为
AI
系统嵌入伦理行为 判 别的 能 力
,
实现 了 不同 的 伦理
原则
．Anderson
等人
[
１８
]
基于罗尔斯义务论开发了伦
理顾问系统
W．D．
,
该系统从案例数据中学习各项行
为原则的权重
,
计算并选择具有最高效用值的行 为
．
Anderson
等人
[
１９
]
基于生物 医学理 论设 计 了伦 理 顾
问系 统
MedEthEx
,
使用 归 纳逻 辑 程序 设 计技 术 提
取伦理信息
,
辅助医护人员确定伦理行为选择
,
用于
解决医疗护理中涉及人机交互的伦理问题
．Arkin
[
２０
]
４５２
计算机研究与发展
２０２１
,
５８
(
２
)
of 11
免费下载
【版权声明】本文为墨天轮用户原创内容，转载时必须标注文档的来源（墨天轮），文档链接，文档作者等基本信息，否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容，欢迎发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。
下载排行榜
评论