习近平在中央网络安全和信息化领导小组第一次会议上讲话指出:“没有网络安全就没有国家安全,没有信息化就没有现代化。”2021年政府工作报告和国家“十四五”规划重点强调,要加快建设数字经济、数字社会、数字政府。加快数字化发展、加强国家安全体系和能力建设,都离不开网络安全建设,数字化安全底座是至关重要的网络信息基础设施。

虚拟社会(社交)网络作为当今互联网具有广泛代表性的应用场景,已全面渗透和深度融合到全民社会生产、生活和工作之中,并且和全球社会网络相互融通,实现了无缝连接、信息交互和内容共享。然而,近年来社会网络平台、工具和应用的安全性、可靠性、可信性,以及社会大数据治理和隐私保护等方面,仍面临着亟待解决的突出问题。十八届五中全会首次提出“国家大数据战略”,在全面实施国家大数据战略和新一代人工智能发展进程中,我们也亟需应对大数据安全和人工智能视角下的网络空间治理等挑战。

河南科技大学网络空间安全应用国际联合实验室(河南省国际联合实验室)科研团队以此为契机,在国家自然科学基金、河南省中原千人科技创新领军人才计划、河南省科技创新杰出人才和杰出青年基金等项目资助下,在全国范围内率先研发出社会情境元数据实验研究平台。该平台聚焦“以人为中心”的社会网络空间安全和人工智能深度融合的热点难点问题,基于网络空间安全、大数据与人工智能、社会计算与社会智能等前沿学科,构建了社会情境安全基础理论框架,实现了9大关键技术和核心算法,为学术界、工业界和政府部门研究探索社会网络安全,开展互联网信息内容生态治理实践,提供了崭新的研究视角和重要的理论支撑。

社会情境元数据实验研究平台围绕社交平台安全评估、虚假信息传播控制、恶意社交机器人智能识别、恶意行为大数据分析、多模态敏感信息检测、云数据完整性验证、地理位置隐私保护、多媒体区块链溯源和社交网络访问控制等九个方向,利用核心算法(软件)开源,支持具有社会性、交互性和互操作性的互联网安全应用实验研究、开发、测试和验证,对泛互联网空间安全、社会大数据安全和隐私保护、智能城市(社区)安全和治理、社会物理融合生成系统安全、新基建安全与保障等,都将具有广阔的应用前景。

社会情境元数据实验研究平台的主要特色和创新体现在:(1)面向社会化媒体平台安全性评估,利用众包群智技术,提出了一种基于社会情境元数据分析的评估任务分配算法,有效地提高了平台安全评估的有效性和可信度;(2)针对社会网络空间中的虚假信息传播与控制,重点探索社交用户虚假信息传播意图检测与传播趋势识别,利用社会情境元数据分析和人工智能技术,提出了传播行为和潜在意图的计算分析方法,为实现社交用户传播前和传播中的及时有效控制,提供了计算理论支撑;(3)围绕社会网络平台中的恶意社交机器人识别,通过深入分析情境感知下的用户点击流行为序列数据,获取用户点击序列间的转移概率特征和时间间隔特征,提出了一种基于用户点击流序列的恶意社交机器人检测识别算法;(4)聚焦在线社会网络恶意用户行为大数据分析,提出了一种基于纵向联邦学习的社会网络跨平台恶意用户检测方案和面向多方隐私保护的恶意用户检测算法,在有效保障用户隐私的前提下,实现对恶意用户及其行为的精确检测;(5)针对在线社交网络用户发布的信息内容呈现多样化和多模态等特征,研究提出了基于深度学习的多模态融合敏感信息检测方法,从而有效控制社会网络中敏感信息的发布和传播。

目前,社会情境元数据实验研究核心算法也在全球最大的开源代码托管平台Github上实现了开源,为网络空间安全国际合作与全球治理,提供了重要智力支持,对促进国家经济社会高质量发展,构建天朗气清、长治久安的网络空间安全环境,实现“数字强国”和“网络强国”的宏伟目标,提供了核心技术支撑和保障。