“用技能超过声音的障碍,让听障人士‘听见’冬奥。
”天津理工大学聋人工学院副院长、冬奥新闻AI主播的手语数据库支持团队卖力人袁甜甜说。

海报制作:方金洋

用6年韶光搭一座“沟通的桥”

袁甜甜身上,有股坚持到底的韧劲。

教AI主播说手语 他们让更多人听见冬奥

她带领团队用6年韶光,为听障人士搭建了一座与健听人无障碍沟通的“桥梁”。
并在北京冬奥会上,迈出了落地运用的“第一步”。

“我们研发了一套系统,叫作‘繁芜场景下中国手语实时翻译系统’,这套系统能将输入的手语动作和表情经由打算机视觉技能识别后翻译成笔墨或语音。
为此,我们共网络了20多万条语料。
”袁甜甜说。

谈到做这件事的初衷,袁甜甜表示是为了与听障学生更好地互换。

天津理工大学聋人工学院学生通过手机App为手语识别系统进行数据采集。
新华社 孙凡越 摄

“我16年前来到学院当老师,与听障学生打仗的过程中,创造他们最渴望也最畏惧的便是与健听人互换。
由于有网络专业背景,于是我决心通过技能改变这种现状。
”袁甜甜说。

从一个人摸索,到仅有一名听障学生加入,再到成立无障碍智能科技研发团队。
如今,这支由健听人与听障人士组成的“分外”技能团队,核心成员达50多人,个中不少是“00后”听障学生。

随着团队的发展壮大,技能难关也被层层攻破。
“目前,我们实现了在光芒充足且稳定的室内,系统对手语的识别率最高达95%,部分场景下可以实现‘同步翻译’。
”袁甜甜自满地补充,“只要在摄像头前打脱手语,显示屏上就会涌现语意连贯的笔墨翻译。
现在已经可以用于教诲、法律咨询、餐饮、交通多个场景。

让听障人士“听见”冬奥

2021年11月,袁甜甜接到一个紧急任务——教冬奥新闻AI主播“说”手语。

“人工智能深度学习的过程,就像教小孩子学说话,每一个词、每一个手语动作都须要重复‘学习’才能实现精准无误。
”袁甜甜与差错们开始逐一占领难题。

第一韶光参与个中的聋人工学院西席闵笛对这一过程深有体会。
“一个字‘难’。
”他说。

首先摆在面前的,便是“冷门”的冬奥词汇,以及专业新闻措辞,怎么才能转换为大多数听障人士能看懂的手语?

团队成员先把整理出的新词形成一定的手语打法,再让手语专家逐一剖断听障人士能否看懂。
碰着难用手语表示的词汇时,还需多番谈论。
“每个词至少要经历这样两个来回,就这样我们共新增了1000多个专业词汇的手语打法。
”闵笛说。

有了过去20多万条语料做根本,又增加了新的专业词汇,本以为事情已靠近完成。
但很快大家创造,手语语序与普通人说话语序并不相同,即便把这些词汇通通“贯注灌注”给AI主播,也无法打出连贯的、听障人士能够理解的语句。

“我们通过多年积累的技能履历,让AI主播逐步节制从普通人措辞得手语的流畅直译,并不断调试AI主播手语速率,让听障人士能够更清晰地理解。
”闵笛说。

用技能破解更多“52赫兹”的密码

今年22岁的王晓阳,是聋人工学院大三的学生。
作为一名听障学生,他参与了冬奥新闻AI主播“学习”手语的全过程。
从冬奥会开幕那天起,他每天都会定时打开手机“盯着”AI主播的每一个手语手势。

“就怕她没学好,怕她出错!
”王晓阳用手语阐明。
但令他欣慰的是,越来越多听障朋友发来信息,见告他AI主播的手语“看得清楚、清晰”。
“手语打得很俊秀,我们为自己骄傲。
”一旁的同学魏翔羽用手语补充。

天津理工大学聋人工学院学生在进行手语识别系统调试。
新华社 孙凡越 摄

技能超越声音的障碍,让更多听障人士走向更广阔的天下。

“信息技能对我们帮助很大。
”王晓阳用手语说,以前与健听人互换,他总以为不安,有了这些技能手段,让他更有勇气融入社会。
“往后我想当老师,由于我的家乡短缺聋人老师。
或者我去当程序员,用技能让更多人聋人‘听见’。

对袁甜甜来说,还有很多事情等着她带领团队完成。
“我们将不断迭代升级我们的系统,直到它能够在各种场景下让听障人士与我们流畅互换。

袁甜甜讲了一个“52赫兹鲸”的故事——海洋中,有只叫声频率分歧凡响的鲸鱼,因无法与同类互换而孤独。
这只鲸鱼很像听障群体,“我们要去破解‘52赫兹’的密码,用技能把孤独的鲸鱼与其他鲸鱼连起,让它们得到更多机会与幸福。

来源: 新华社