360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******

　　2023年1月10日，360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告，报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题，提出人工智能发展面临十大安全挑战，旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道，是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索，对人工智能安全治理具有积极指导意义。

　　在人工智能加速智能化变革的同时，针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称，人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术，其在发展过程中所产生的安全挑战也更为复杂多元，世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。

　　目前，各国普遍关注的人工智能安全问题共十类，包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程，又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。

　　报告显示，作为一种数字技术，人工智能“双刃剑”特征明显，不仅自身存在数字安全威胁和隐患，随着人工智能工程化、场景化、平台化落地不断加快，人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战，人工智能安全治理难以一蹴而就，只有在实践中不断摸索，才能将人工智能安全风险遏制在可控范围。

　　报告对各国人工智能安全治理模式进行了深入剖析，针对上述问题，报告主要发现：美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管，建立与之配套的规范体系；欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制，其规制更倾向于人权方向；相较美国与欧盟，中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系，涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。

　　为了避免人类社会发展被技术创新所“反噬”，也就是落入所谓的“科林格里奇困境”，产学研各界以监管和设置可操作性原则为主导，通过治理实践凝聚共识，探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路，首先是基于未来风险预防的影响评估模式，其次是基于自主性原则的元监管模式，然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。

　　在中国，360等多家人工智能龙头企业以自身实践构建行业安全案例，走出了技术赋能、行业规制、平台监测的多种道路。其中，360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设，集中解决各类人工智能发展问题，引领人工智能安全生态建设。

　　作为报告联合发起方，天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景，紧紧把握新型城市发展规律和机遇，致力于促进人工智能与经济社会发展深度融合，助力打造“智慧城市国家级标杆区”。

　　随着数字经济成为改变全球竞争格局的关键力量，人工智能产业将得到更大发展。同时，人工智能安全治理也将得到全世界的关注和推动，《全球人工智能安全治理》报告作为相关领域的权威论著，也将为人工智能产业的健康发展贡献一份重要的力量。

【网络强国这十年】从换道超车到国民引擎！安天科技潘宣辰：“很自豪让技术融入产业”******

　　【网络强国这十年——行业回顾篇】

　　随着移动互联网快速发展和全面覆盖，移动安全威胁发生重大迁移：一方面，不良应用行为、欺诈诱导营销、用户欺瞒及隐私窃取等侵害用户权益的风险应用出现新一轮扩张；另一方面，移动互联网野蛮生长导致生态出现无序竞争局面，风险应用依附于移动互联网业务，正通过更加多样化的方式侵害用户权益，成为用户安全及权益新痛点，给整个产业的治理带来新的难题。

　　在我国移动安全行业发展版图上，安天移动安全通过将反病毒技术领先优势融入互联网产业，用“关口前移”的方式为超过30亿终端用户织密了移动应用风险防护网，也为主管部门提供了“良赢治理”方案和感知处置能力。

　　近日，安天科技集团执行总裁、武汉市网络安全协会会长潘宣辰，做客光明网“网络强国这十年”专栏，畅谈投身移动安全创业故事及行业发展的观察与思考。

　　投身移动安全创业，选择站在同一起跑线上的新赛道

　　2005年前后，85后青年潘宣辰还在武汉大学信息安全专业就读，这是国内第一个信息安全本科专业。在一次演讲授课上，潘宣辰结识了当时在武汉大学做兼职教授的网安前辈安天创始人肖新光（Seak）。

　　当时，我国在PC安全时代的核心技术还处于一个追赶的姿态。Seak给学生时代的潘宣辰渲染了一副宏大的国家安全及民族软件创新产业格局，并提出希望能找到一个新的技术领域或在一个新的操作系统平台上，可以由国内相关的研发团队自主去实现基础核心技术的突破和创新。

　　这个目标打动了潘宣辰。毕业后，在安天的支持下，他选择了移动安全方向创业发展。潘宣辰认为，PC时代几乎所有的技术，包括产品和商业模式在引入到移动场景后，都得到了进一步的叠加演进。结合移动特有的产业及生态结构，在移动安全方向上，必然会形成不一样的产业及生态安全需求，也同样会产生新的技术定义以及商业模式。

　　“得益于移动互联网的蓬勃发展，我们在这个全新的领域，和国内其他优秀厂商以及海外厂商相比，站在一个起跑线上，而且相比之下，安天以往在PC端积累的技术视野，在全新的领域进行技术架构和商业模式创新时，没有太多的历史包袱，又具有科班出身的发展优势。”潘宣辰说。

　　自主研发反病毒引擎，打破欧美安全厂商十余年独大

　　2010年以前，PC时代国内比较领先的安全厂商在海外的排行榜上并不是很靠前，最高排名第8位，多数徘徊在第10名左右。有了这个先例，潘宣辰和团队最开始设定目标是移动安全领域能够进入到世界前8位。

　　当时，团队初期的技术实力在移动领域优势并不明显。潘宣辰坦言，像海外的卡巴斯基、比特梵德，以及国内的瑞星、金山、360、腾讯等，其实都已经关注到，移动安全必然是未来一大趋势，当时大家都在积极投入技术研发。

　　深蹲之后，才能更好的起跳。最初，由于技术理念上有较大的差异，团队的优势并不明显。在和国内外厂商交流之后，才发现这是技术理念上的差异造成的。

　　比如，友商更多的是直接把PC时代的经验快速复制到移动时代，而安天是以本地检测算法引擎以及基于机器学习的专家智能分析工程平台运营体系为主，所以“工程化”传统较重，成果的形成需要较长时间的积累。

　　2013年前后，安天的优势开始凸显。当时，国际知名安全软件评测机构AV-Test的移动安全首次测评中，安天AVL移动反病毒引擎的检出率指标平均领先行业水平10%以上。这是国内安全厂商第一次在世界范围的反病毒领域呈现出技术压倒性优势，也就在那年，安天移动安全打破了欧美厂商的垄断，以100%的检出率成为首个获得AV-Test“移动年度最佳奖项”的亚洲厂商。

　　技术的真正价值，需要用市场和产业的方式来“回答”

　　在2014年取得核心技术突破的时候，他们也有卖掉团队的机会。潘宣辰和团队在“财务诱惑”和“产业挑战”之间，选择了后者。

　　潘宣辰认为，技术本身并没有常胜将军，也并不见得会永远占据优势。“这项技术到底是不是真的有价值，最终还需要用市场和产业的方式来回答。如果不去真正进入市场、进入产业的话，我自己觉得会特别后悔。因为这样就等于止步于技术了。”潘宣辰说。

　　安天移动安全在2015年开始探索商业化路径，选择了关口前移的产业融入线路。即通过选择与手机厂商广泛合作，通过操作系统级的嵌入式来进行技术落地，并且在这个基础上去构建新的商业模式。从2015年至今，安天威胁检测引擎为全球超过三十亿部智能终端设备提供了操作系统内置的安全检测能力。

　　“在移动安全的核心技术领域上，我们目前仍然保持着世界前列的水准。在检测这个技术点上，我们应该一直是第一第二的位置。”潘宣辰说。

　　监制：张宁

　　采访：李政葳

　　拍摄/后期：刘昊 李飞

　　配音：雷渺鑫