北京大学数字人文研究中心、北京大学-字节跳动数字人文开放实验室、北京大学人工智能研究院联合主办的“古籍智能信息处理”系列研讨会日前在线上举办。
在研讨会上,北京大学数字人文研究中心主任王军算了一笔账:我国现存古籍约有20万种,从1949年到2019年,共修复整理出版了近38000种,照此速度,要将现存古籍全部修复整理出来,可能需要三百年的时间。不过,若利用人工智能技术辅助修复整理,大概二三十年就能完成。
王军所说的“利用人工智能技术修复古籍”,并非遥远的科学设想,它正在成为现实中的生动实践。“古籍智能信息处理”系列研讨会第一讲开讲后不久,字节跳动宣布向北大教育基金会提供捐赠,支持北京大学—字节跳动数字人文开放实验室研发“古籍数字化平台”,利用智能技术加速中华古籍资源的数字化建设,预计三年内完成10000种精选古籍的智能化修复整理。
古籍文本转化正在智能化
很长一段时间里,古籍保护主要采用原生性保护方式,即把古籍当作“文物”保护起来。后来出现再生性保护方式,对古籍进行影印再造和影像保存,让古籍得以以纸本或缩微胶片的形式存在。现有的数字化古籍很多是由缩微胶片转换而成,分辨率较低且影像多为黑白色。
即便将所有古籍用数字化手段影印出版,古籍也是“死”的,人们无法方便地使用。北京大学中文系教授杨海峥举了个简单的例子——影印的古籍没有标点符号,非常不便于阅读。另外,这也不利于对古籍内容进行检索,想查阅某个内容,得逐篇逐页阅读原文,很难快速找到想要的知识。因此,要提升传统古籍的利用率,必须将古籍内容转化为数字文本。过去,这种转化主要依靠专家人工录入,时间成本极高。
“信息技术的发展,尤其是人工智能和大数据技术的出现,为古籍的修复整理带来了革命性变化。”王军说,近年来,包括北京大学在内的不少高校、科研机构在古籍数字化上开展了不少开拓性的工作,在OCR(光学字符识别)、AI句读、实体识别等方面积累了比较成熟的技术和经验。以OCR应用为例,用电子设备对纸本古籍一扫,古籍上的内容就会转录到计算机中,并生成相应的数字文档,效率比人工录入提升了不止千万倍。
据了解,利用人工智能和大数据技术,北京大学数字人文中心在从先秦到明清跨时代的大规模古籍文本语料整理上,已实现对古文本的自动句读,平均准确率达到94%,同时还实现了对人名、地名、时代名、职官名、书名的自动识别,在中古史料上的准确率接近98%。
在这些方面,字节跳动等互联网公司也有很多经验和技术积累。例如,OCR技术在今日头条、抖音等平台的图片文字识别、字幕翻译,以及商业化业务中的各类卡证票据及行业文档识别等领域均有广泛应用。“这些技术可以逐渐向古籍智能数字化的方向上迁移。我们在古籍数字化平台开发中,与北大在技术上能优势互补,进行有效的打通与融合。”字节跳动人工智能实验室总监李航表示。
王军介绍,“古籍数字化平台”将会进一步提升古籍整理的准确率、智能化水平和开放度。一方面,可以对重点文本进行精校,满足专家学者对资料准确度的要求;另一方面,利用智能平台上的文字识别、校对工具,学者和古籍爱好者可以在线上一站式完成古籍整理工作,而不用像以前那样先在word文档中进行整理编辑,再传递相关的文档,在提高效率的同时,也方便公众参与。
古籍利用有望智慧化
四川大学中国文化全球传播大数据中心教授王兆鹏认为,技术的进步为古籍修复整理智能化带来两个面向:一是古籍文本转化智能化,二是古籍利用智慧化。
把纸质古籍上的内容转化成数字文本,只是古籍修复整理的第一步。在此基础上,要解决的另一个问题是,如何将海量晦涩难懂的古籍内容进行整理归类,形成可交互、可触摸、可视化的数字人文作品,以方便人们查阅使用。否则,录入计算机的古籍依然会继续“沉睡”。
基于人工智能技术,目前我国已建立多个古籍整理自动化和可视化平台。比如,王军主持设计和研发的“《宋元学案》知识图谱可视化系统”,对240万字的《宋元学案》进行了文本处理和分析,将2000多位宋元理学学者、近100个学术流派所涉及的人物、时间、地点、著作等提取出来构造成知识图谱。然而,不少平台的智能化水平仍然较低,比如输入关键词,搜索出的内容各自孤立、凌乱无序。王兆鹏认为,更智慧的古籍整理利用平台,应该从1.0版向2.0版演进,比如内容检索应“以类相从”,检索出的内容应彼此关联,且由人工智能进行有机分类。
北京大学与字节跳动合作研发“古籍数字化平台”是提升古籍整理和利用智慧化水平的一次尝试。“我们合作的技术核心是将人工智能和大数据应用在海量的古籍文献上,实现古文本知识图谱的自动生成和对古籍内容的智能化整理,让古籍能够以文本的形态加以检索、关联阅读和深度挖掘利用。”李航说,未来,“古籍数字化平台”不仅是一个古籍智能整理平台,还将是一个面向读者的数字化阅读工具,将提供免费开放的访问服务。
王军预计,随着人工智能技术的运用,古籍文献中所蕴藏的古代历史文化知识将不断被抽取出来,构造成各种各样的知识库,并将会以知识图谱的形式支持互联网前端应用。
由于在互联网产品研发、设计方面存在优势,互联网公司等社会力量的加入会进一步保障古籍数字化平台的服务质量。“我们有优秀的产品经理、设计师、软件工程师,能够不断优化、创新古籍数字化平台的产品功能,提供更好的用户体验。”北京字节跳动企业社会责任部产品总经理唐垲鑫表示,目前今日头条的设计团队和抖音的开发、测试团队已经加入“古籍数字化平台”的开发工作。
需要跨学科通力合作
随着人工智能技术在古籍修复整理领域的广泛应用,作为古典文献专业的老师,杨海峥经常被学生们问到一个问题:“学古典文献的同时,还要学人工智能吗?”虽然杨海峥不能确定,但一个事实是,人工智能技术与古籍修复整理的结合,将开辟出全新的交叉学科领域,利用人工智能技术修复整理古籍肯定需要更多复合型人才。
王军认为,在这种情况下,高校古典文献学等相关专业如何培养兼具技术与学术能力的古典文献学人才,如何形成多学科交叉的课程体系等,都是亟待解决的问题。
此外,人工智能并非“绝顶聪明”。在华南理工大学电子与信息学院教授金连文看来,古籍图像增强、修复,复杂版式古籍文档图像版面分析等问题都有待解决。而在对古籍内容的分析整理中,目前最大的技术难点是人工智能对古籍中人名、地名等专有名词识别后,如何进一步实现关系提取,从而为古代历史文化知识图谱的自动生成准备技术条件。
因此,杨海峥认为,在古籍整理中,人文社科学者还是要积极介入,并加强与技术人员的合作,那样才能更好地利用机器而不是被机器牵着鼻子走,从而保证结果的准确性。
人工智能技术的发展带来了古籍整理研究方法、思路的根本改变。业内的一个共识是,利用人工智能推进古籍修复整理需要进行跨学科、跨环境、跨文化、跨地区合作。正如王军所言,“古籍保护需要社会各界的共同努力,应欢迎更多古籍收藏机构、研究机构和热心古籍事业的个人加入,这样才能打造出一个开放的‘古籍数字化平台’”。
(本报记者 韩业庭)
-
郑州市召开“郑州爱眼联盟”筹备会为预防和减少可避免性视力障碍发生,促进学生健康成长,以实际行动落实习总书记关于青少年视力健康的重要指示精神,携手爱心...
-
河南飞播造林,助力筑建绿色生态屏障图片来自河南省林业调查规划院官网飞播造林,助力筑建绿色生态屏障。2019年是河南省飞播造林40周年。记者从河南省林业部门获...
-
老师发朋友圈自省拖堂问题张晟远同学所写的作文。优美的下课铃声响了,我像灌了一大桶咖啡一样,全身的每个细胞都活跃起来了。可是老师的耳朵像塞上了...
-
印尼锡纳朋火山沉寂400年喷发6月9日,在印度尼西亚北苏门答腊省卡罗县,锡纳朋火山喷出大量火山灰。锡纳朋火山位于印尼北苏门答腊省的卡罗县,在沉寂近400...
-
巨型“抹香鲸”亮相江苏南通倡海洋环保这是由海洋垃圾拼制成的巨型抹香鲸图案(6月10日无人机拍摄)。 6月10日,一幅由海洋垃圾拼制成的巨型抹香鲸图案亮相江苏省南...
-
郑州市召开“郑州爱眼联盟”筹备会
2021-05-12 13:38:12
-
河南飞播造林,助力筑建绿色生态屏障
2019-07-04 09:02:36
-
老师发朋友圈自省拖堂问题
2019-06-13 08:54:29
-
印尼锡纳朋火山沉寂400年喷发
2019-06-11 10:23:36
-
巨型“抹香鲸”亮相江苏南通倡海洋环保
2019-06-11 10:23:34
-
全球今头条!河南卫视《出彩项目看河南》节目组在明港镇信钢公司取景
2022-07-01 10:10:07
-
天天微头条丨优化营商环境|淮滨政务服务中心:24小时自助服务专区 有事“随时办”
2022-07-01 10:13:09
-
世界关注:优化营商环境|淮滨政务服务中心:安全无小事 中心在行动
2022-07-01 10:05:23
-
每日观察!优化营商环境|淮滨政务服务中心:政策咨询窗口 助力淮滨营商环境又快又好
2022-07-01 10:06:57
-
世界热门:美交易所FTX拟白菜价收购加密货币贷款公司BlockFi 价格据称仅为估值1%
2022-07-01 10:21:14
-
全球今亮点!优化营商环境|淮滨政务服务中心:“受审分离”新模式 让企业更加满意
2022-07-01 10:14:21
-
世界关注:“先买后付”模式在美遇阻?这家澳洲公司暂停美国业务
2022-07-01 10:07:50
-
焦点快看:贵州大木村:红色旅游助力乡村振兴
2022-07-01 10:13:16
-
天天热资讯!美国批准!SpaceX星链可为飞机、船舶等交通工具提供移动互联网服务
2022-07-01 10:10:20
-
微头条丨西藏博物馆新馆将于近期开馆
2022-07-01 10:17:12
-
环球即时看!核心业务面临挑战,高管称Meta下半年将非常艰难
2022-07-01 10:10:51
-
环球最新:国际旅游业复苏加速 携程开启“超级目的地”纽约站
2022-07-01 10:01:45
-
环球快讯:市领导督导黄河防汛工作
2022-07-01 10:09:46
-
【全球速看料】市级人力资源服务产业园昨日揭牌
2022-07-01 10:11:04
-
每日视点!全市防汛应急工作专题培训班开班
2022-07-01 09:59:45
-
环球消息!我市举行人才集团成立暨人才社区项目启动仪式 李卫东、魏建平等为项目培土奠基
2022-07-01 10:07:09
-
当前热讯:6月份企业生产经营恢复性扩张 三大指数均升至扩张区间
2022-07-01 10:05:09
-
天天关注:前老板欠款未还,继任者被“限高”,律师:法院应纠正
2022-07-01 10:10:08
-
环球速看:天价雪糕袭击“无辜”消费者 “雪糕刺客”凉了谁的心?
2022-07-01 10:13:30
-
每日快讯!“直播带岗”提高匹配效率 求职路上以“点投”代替“跑腿”
2022-07-01 10:11:47
-
速递!上半年仅有8家房企销售额过千亿 累计销售额约1.25万亿
2022-07-01 10:01:18
-
【环球新要闻】宜阳县人民检察院召开党组理论学习中心组学习(扩大)会议
2022-07-01 10:02:16
-
重点聚焦!洛阳市孟津区朝阳镇:唤醒“沉睡”资产赋能乡村振兴
2022-07-01 10:13:52
-
环球消息!嵩县人民检察院组织开展“七一”慰问老党员活动
2022-07-01 10:04:30
-
快看:偃师区人民检察院防范养老诈骗宣传活动走进翟东村
2022-07-01 09:57:26
-
环球热点!楼阳生在郑州航空港经济综合实验区调研时强调,优势再造抢跑新赛道,创新驱动培育新动能
2022-07-01 10:15:54
-
环球快消息!多部门联动开展货车非法改装整治工作
2022-07-01 10:00:52
-
环球热消息:市水利局组织开展“全市安全日”暨防洪防汛应急演练活动
2022-07-01 10:10:54
-
最新:息县县委副书记张鑫带队到淮滨县观摩学习工业发展
2022-07-01 10:07:33
-
天天热讯:连续19个月同比正增长!神龙交答卷!
2022-07-01 10:12:55