大皖新闻讯记者从中国科大获悉，日前，该校网络空间安全学院执行院长俞能海教授受邀作客中央广播电视总台科教频道黄金档“创新进行时”直播栏目，与主持人和广大观众共同探讨生成式AI的应用前景与潜在风险。
这期节目从生成式AI给影视创作带来的影响出发，以“数字人钱学森”的视频拉开序幕，该视频由中国科学技术大学信息处理中心、北京灵境赛博科技有限公司、合肥高维数据技术有限公司和北京航天愿景科技有限公司共同制作，也得到了钱老后人钱永刚教授的鼎力支持，以合成现实技术“复活”了钱老形象，再现了钱老声情并茂的激励话语，引起了广大网友的共鸣和热烈讨论，在线观众达到600万人，广大观众对“数字人钱学森”的视频给出了高度评价。
值得一提的是，节目中提到了生成式AI的安全问题，这也是中国科大网络空间安全学院在中央网信办和教育部“一流网络安全学院建设示范项目”建设过程中重点关注的研究方向。
作为人工智能与安全领域交叉学科的专家，俞能海教授担任了中国图象图形学学会副理事长和CSIG数字媒体取证与安全专委会主任，他从两个典型的生成式AI恶意使用场景谈论了潜在风险问题。
第一个场景是AI for Science大模型的恶意使用带来的风险，可能会导致恶意使用者用科学大模型合成危险化学品或有毒物质，为了应对这样的风险，他领导的研究团队提出了SciGuard“科学卫士”的代理模型，在大模型使用过程中监督并规避上述风险。
第二个场景是人脸深度伪造的潜在危害，可能对公共安全、个人隐私、财产安全等方面产生重大影响，为此，他的研究团队也提出了多种深度伪造防御的应对措施，并在全球最具影响力的深伪检测挑战赛中击败英伟达、麻省理工等知名校企，取得了全球第二国内第一的成绩，入选了2014年以来中国人工智能安全领域8项代表性成果。
大皖新闻记者 陈牧 实习生 杨春草
编辑 许大鹏
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 举报，一经查实，本站将立刻删除。