亚运会惊现AI解说员,机器人帮残障者捡物品,北大学生为亚运会研发黑科技

2023-10-02 22:00:13     来源:

作为本届亚运会办赛理念之一,“智能”贯穿于杭州亚运会全的各个方面。

为服务正在举办的第19届亚运会,在北京大学黄铁军教授及仉尚航研究员的指导下,北京大学庄棨宁学生团队基于多模态大模型的研究,结合视觉、语言、语音等多种模态的输入,推出高速运动AI 多语种解说系统,为观众提供更丰富的观赛体验。这也是多模态大模型技术首次在国际大型综合性体育赛事中的落地和尝试。

同时,团队着眼于具身智能研究,研发基于多模态大模型的人工智能助理来提供导览引领、场景解说、物品抓取等服务,为残障和需要帮助的人士创造更为人性化的互动方式和友好体验。

AI“复刻赛事解说员

“除却君身三重雪,天下谁人配白衣。”

东京奥运会上中国运动员杨倩夺得首金身披白色领奖服时,赛事解说员用这句“神仙”解说词击中了无数观众的心。

事实上,一场精彩的体育比赛不仅取决于运动员双方的比拼,解说员在其中的价值也不可忽略。竞赛解说员不仅会在解说中提供关于球队、运动员和比赛背景的信息,帮助观众更好地理解比赛的重要性和背后的故事,经验丰富的解说员还能够深入分析比赛,揭示比赛中的策略和技巧,使观众能够更好地理解比赛的每一个环节,从而提高观赛的乐趣。

当比赛出现精彩一刻,优秀的解说员还能够通过解说传达激情和情感,更好地带动观众的情绪,为赛事瞬间增色添彩,甚至成为永恒经典。

然而受限于人手问题,并不是每场体育赛事都会安排解说员,特别是亚运会这类国际大型赛事,同一时间有多场比赛进行,并且不是所有的解说员都适合解说所有的体育项目,很多相对小众的赛事就会缺少解说员,更无法想象一位解说员可以使用多种语言、面向不同的语言的受众做解说。

基于此,北大庄棨宁学生团队面向乒乓球、跆拳道、跳水、体操等赛事,推出了高速运动 AI 解说系统,系统可以辅助录播频道调用多模态大模型能力,理解视频内容,并生成中文、英语、藏语、阿拉伯等多种语言的解说,让信息传递给更多有实际需求的人。

图:AI智能解说通过感知场景并生成解说

庄棨宁介绍说,这一技术通过高速摄像机的脉冲信号检测场景物体和运动员,将能够捕捉体育比赛中的关键时刻,并生成高质量的集锦和相关数据,基于多模态大模型算法和深度学习模型对这些运动数据进行分析,基于分析结果,系统再生成提供实时的个性化解说服务,从而为各个语种的观众都能提供个性化的体验。

智能爱心辅助助手 AI有温度

大型赛事活动通常会为东道主城市带来显著的经济、环境等变化,但由于人流量激增,城市公共区域会面临巨大压力。据预测,亚运会期间的杭州也将迎来近年来最密集的游客潮,外地游客量将超过2000万人次,加上本届杭州亚运会来自亚洲45个国家和地区代表团的12527名运动员,亚运期间杭州的人流大增。

在杭州市公共区域,庄棨宁学生团队打造了具身智能机器人软件服务系统,用于亚运会期间的导航指引与帮助服务。这套系统可以为观众提供导览服务,协助视障人士进行引领和导航,解析视障人士需求并完成相应任务,帮助视障人士捡拾掉落的物品等。

目前,在杭州市的一些亚运会志愿者服务点,已经有市民看到一个机器人外观的智能体在为视力障碍人士服务。

图:杭州市民在体验庄棨宁学生团队的具身智能机器人软件服务系统

“很荣幸能够将我们的所学、所研转化为可以服务每个人的应用,让AI服务人们的普通生活。”庄棨宁介绍说,为本次亚运会打造的具身智能机器人软件服务系统,是基于团队自研的感知生成一体化多模态大模型,能够精准地感知与理解场馆内外的视觉场景,生成准确、丰富的语言描述,控制机器人执行智能志愿者服务任务。

同时,团队将多模态大模型与具身智能相结合,使得人工智能可以更好的感知和理解物理世界,再更好地做决策,最终实现人工智能和物理世界更好地交互。

 

标签:

猜你喜欢

十月炒黄金优惠上新,皇御贵金属携26美元点差福利送“金”喜
喵喵螺推出螺蛳粉月饼,探索美食混搭风
绵阳涪城区“乐购金秋·福满中华”嗨购季正式启动 !
中国队勇夺《梦三国2》亚运金牌,国风电竞迎来新起点
新式茶饮出海竞争加剧 甜啦啦印尼六店同开!
作业帮学习机海量学习资源治愈家长“恐辅症”
非遗入榆林,北京天奇传媒让古今相通
“中国画中宋人香市——沉香主题文物展”在北京举办
第11届世界WEB3峰会暨萨尔瓦多数字国债全球行(香港站)在香港隆重举行
国内首家母婴+康养综合性服务平台荣耀启幕
点亮新疆,万人共赏!雪莲养生葡萄酒中秋夜与你星空相约!
十年之约:全球Z世代共叙丝路青春
“中国画中宋人香市——沉香主题文物展”在北京举办
猫人,会玩
猫人:你的下一件暖衣未必是羽绒服
游坪山、探未来——“畅游坪山文旅季”金秋活动正式开幕!
中国首部原创乡村音乐剧《幸福长又长》亮相北京 58名村民本色出演讴歌新时代乡村幸福生活
科技创新引领新质生产力,瑞承助力中国企业家与时代共振
Cleer ARC II音弧为什么是国庆假期出游最值得入手的声学产品?
瞄准全球研发人才派发AI“英雄帖” 万兴科技国庆上线网红招聘广告
十年之约:全球Z世代共叙丝路青春
第38届印尼贸易博览会国际推介会在中国成都成功举办
从爆红到长红,白象做对了什么
深圳首届金融宣教节开幕,南方基金助力金融知识普及
阿艺的自由在酒香浓郁的家乡
节日营销如何更出圈?德邦“惠、礼、片”三部曲 为物流业双节营销打样
叮当快药小哥送手机:这样的小哥送药到家我们放心
是横空出世,还是厚积薄发?| 万家芸仓小程序商城正式上线!
药品即时零售突破400亿单,叮当健康深耕药品即时到家垂直赛道
胡兵米兰时装周惊艳亮相,展现“儒雅东方帅气”