360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******
2023年1月10日，360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告，报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题，提出人工智能发展面临十大安全挑战，旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道，是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索，对人工智能安全治理具有积极指导意义。
在人工智能加速智能化变革的同时，针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称，人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术，其在发展过程中所产生的安全挑战也更为复杂多元，世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前，各国普遍关注的人工智能安全问题共十类，包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程，又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示，作为一种数字技术，人工智能“双刃剑”特征明显，不仅自身存在数字安全威胁和隐患，随着人工智能工程化、场景化、平台化落地不断加快，人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战，人工智能安全治理难以一蹴而就，只有在实践中不断摸索，才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析，针对上述问题，报告主要发现：美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管，建立与之配套的规范体系；欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制，其规制更倾向于人权方向；相较美国与欧盟，中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系，涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”，也就是落入所谓的“科林格里奇困境”，产学研各界以监管和设置可操作性原则为主导，通过治理实践凝聚共识，探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路，首先是基于未来风险预防的影响评估模式，其次是基于自主性原则的元监管模式，然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国，360等多家人工智能龙头企业以自身实践构建行业安全案例，走出了技术赋能、行业规制、平台监测的多种道路。其中，360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设，集中解决各类人工智能发展问题，引领人工智能安全生态建设。
作为报告联合发起方，天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景，紧紧把握新型城市发展规律和机遇，致力于促进人工智能与经济社会发展深度融合，助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量，人工智能产业将得到更大发展。同时，人工智能安全治理也将得到全世界的关注和推动，《全球人工智能安全治理》报告作为相关领域的权威论著，也将为人工智能产业的健康发展贡献一份重要的力量。
加快实现高水平科技自立自强******
作者：彭绪庶（中国社会科学院习近平新时代中国特色社会主义思想研究中心研究员、数量经济与技术研究所信息化与网络经济研究室主任）
党的二十大报告提出，“坚持面向世界科技前沿、面向经济主战场、面向国家重大需求、面向人民生命健康，加快实现高水平科技自立自强”。科技自立自强是提升供给体系质量、保障产业链供应链安全的关键，能够为构建新发展格局、实现高质量发展提供战略支撑。目前，我国已经成为具有重要影响力的科技大国。到2035年，我国发展的总体目标包括“实现高水平科技自立自强，进入创新型国家前列”。
总体来看，我国实现高水平科技自立自强的条件基本具备。首先，我们党高度重视科技事业，为实现高水平科技自立自强提供了坚强保障。进入新时代，我们党坚持实施创新驱动发展战略、把科技自立自强作为国家发展的战略支撑。习近平总书记强调，立足新发展阶段、贯彻新发展理念、构建新发展格局、推动高质量发展，必须深入实施科教兴国战略、人才强国战略、创新驱动发展战略，完善国家创新体系，加快建设科技强国，实现高水平科技自立自强。其次，增加科技投入和加强基础设施建设，为实现高水平科技自立自强奠定了坚实物质基础。我国研发投入规模和投入强度连续多年保持稳定增长，科技人才质量稳步提升，重大科技基础设施布局建设不断推进。再次，科技创新实现突破性进展，为实现高水平科技自立自强奠定了坚实技术基础。近年来，我国科学论文数量和质量不断提高，基础研究、前沿研究和关键核心技术攻关能力取得巨大进步，知识创新和技术创新影响力均已跃居国际前列。
但还要看到，加快实现高水平科技自立自强，仍然面临诸多问题和挑战。如，研发投入规模总量不足，基础研究和企业支出占比较低，基础研究和原创性重大创新成果战略支撑作用不强，等等。
立足新发展阶段，需要制定更精准、更有效的政策措施，完善体制机制，探索有效路径，加快实现高水平科技自立自强。
其一，完善战略性、全局性和系统性创新布局。实现高水平科技自立自强是长期目标，不可能一蹴而就，也难以靠短期突击实现。要加快在“卡脖子”领域补齐短板，在并跑、领跑和优势领域锻造长板，坚持关键技术攻关和基础研究并重。既要立足当前，着力攻关和破解制约发展的“卡脖子”技术等紧迫问题，也要着眼长远，找准发挥新型举国体制优势实现更多重大突破的路径，加强基础科学和前沿科技等“无人区”领域创新顶层设计，探索建立需求导向型创新、任务目标型创新和兴趣导向型创新相结合的创新模式。
其二，为科技攻关提供组织保障和人才保障。实现高水平科技自立自强，不仅要啃下“卡脖子”技术等硬骨头，还必须在颠覆性技术领域走在国际前列。这就必须要有适应科技发展趋势的国家重点实验室、综合性国家科学中心、国家高端智库，以及高水平新型研究型大学和科技领军企业。要强化国家战略科技力量，完善空间布局，加强投入和领军人才队伍建设，提高重大科技任务的攻坚能力。
其三，在科技体制改革“深水区”加力攻坚。改革是点燃科技创新引擎的点火系。解决研发经费投入和执行结构不合理、效益不佳等问题，完善科技成果和科技人才评价制度，强化企业创新主体地位，都需要在制度安排、政策保障、环境营造等方面下真功夫。只有通过深化体制改革，完善科技自立自强的制度保障，才能真正形成科技创新和制度创新“双轮驱动”效应。
其四，加强创新链产业链融合发展。要消除基础研究与应用脱节、科研与经济“两张皮”现象，提高科技创新质量和效率。既要重视科技成果转化，打通从科学研究到开发研究再到应用的链条，同时也要强化需求导向和市场导向，围绕产业链布局创新链，让市场在创新资源配置中起决定性作用，促进产业链上下游、大中小企业等的深度融合，形成科技创新合力。
其五，加强国际科技合作。开放创新是当今科技创新的趋势和实现高水平科技自立自强的必然选择。一方面，要发挥我国产业体系健全完备、供应链保障水平高的优势，深化供给侧结构性改革，发挥超大规模市场优势，形成对全球要素资源的强大吸引力。另一方面，也要主动“走出去”，积极参与全球科技创新治理，全方位、多角度探索国际科技合作新路径新模式。
