360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******
2023年1月10日,360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告,报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题,提出人工智能发展面临十大安全挑战,旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道,是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索,对人工智能安全治理具有积极指导意义。
在人工智能加速智能化变革的同时,针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称,人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术,其在发展过程中所产生的安全挑战也更为复杂多元,世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前,各国普遍关注的人工智能安全问题共十类,包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程,又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示,作为一种数字技术,人工智能“双刃剑”特征明显,不仅自身存在数字安全威胁和隐患,随着人工智能工程化、场景化、平台化落地不断加快,人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战,人工智能安全治理难以一蹴而就,只有在实践中不断摸索,才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析,针对上述问题,报告主要发现:美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管,建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制,其规制更倾向于人权方向;相较美国与欧盟,中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系,涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”,也就是落入所谓的“科林格里奇困境”,产学研各界以监管和设置可操作性原则为主导,通过治理实践凝聚共识,探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路,首先是基于未来风险预防的影响评估模式,其次是基于自主性原则的元监管模式,然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国,360等多家人工智能龙头企业以自身实践构建行业安全案例,走出了技术赋能、行业规制、平台监测的多种道路。其中,360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设,集中解决各类人工智能发展问题,引领人工智能安全生态建设。
作为报告联合发起方,天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景,紧紧把握新型城市发展规律和机遇,致力于促进人工智能与经济社会发展深度融合,助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量,人工智能产业将得到更大发展。同时,人工智能安全治理也将得到全世界的关注和推动,《全球人工智能安全治理》报告作为相关领域的权威论著,也将为人工智能产业的健康发展贡献一份重要的力量。
智慧城市建设加速释放数据要素红利******
智慧城市是数字经济的重要载体,其核心目标在于实现兴业、善政、利民。近年来,随着大数据、AI、云计算、物联网等技术日趋成熟,我国的智慧城市建设进入了高速发展阶段,形成了多个智慧城市群。
政府牵头
做好智慧城市“顶层设计”
政策扶持对于智慧城市建设推进的意义重大,国家“十四五”规划提出以数字化助推城乡发展和治理模式创新。今年的政府工作报告明确指出,要建设数字信息基础设施,推进5G规模化应用,促进产业数字化转型,发展智慧城市、数字乡村。
2021年9月,北京城市副中心政务服务中心正式投入运行。该中心推进政务服务与5G、区块链、大数据、物联网、人工智能等技术的融合创新,配备了50多台智能政务终端设备,通过“云窗口”系统建设,以位于六里桥的北京市政务服务中心为审批总后台,打造“数据共享、信息复用、远程交互”三位一体的新模式,实现群众和企业从办事预约申报、咨询导服、受理审批,到结果反馈等服务全流程的“智能无感”新体验。
北京城市副中心政务服务中心相关负责人介绍,数字技术正广泛应用到现有政务服务场景中,办事人通过智能终端或综合窗口可完成1993个市级事项全流程异地办理,形成了“东西呼应、双子联动”的服务新格局,具有首都特色、智能高效、暖心贴心的政务服务新模式正在赋能北京城市副中心,使得营商环境不断优化、经济发展再添“翼”。
浙江省衢州市将“城市数据大脑”作为未来衢州政府数字化转型的主抓手,通过科学利用城市数据资源、算法资源、算力资源,统筹优化城市公共资源,实时补齐城市运行短板,实现“全城渗透、全层嵌入、全产业感知、全域脉动”,持续驱动数据产业创新、数据治理赋能、数据服务优化,为推动市域治理体系和治理能力现代化建设提供有力支撑。
衢州市副市长田俊表示:“通过‘城市大脑’的建设,给基层治理赋能,贯通了省市县‘一网通管’,在市场监管、应急响应、生态环保、群众文化生活建设领域实现了系统性打通。通过数字化消除传统体制障碍,形成合力,职能的下沉使基层治理达到‘最优解’。”
企业参与
智慧城市项目“遍地开花”
数据是数字经济时代重要的生产要素,如何进行安全、高效的数据交易是激活数字经济发展潜力的重要课题。中国信息通信研究院工业互联网与物联网研究所所长金键指出,智慧城市建设的重心在于充分发挥数据要素的作用和价值,将处在不同部门、不同行业、不同系统间的海量异构数据融合与共享。
作为数据和数字经济大省,广东省正在积极探索行之有效的数据交易模式。目前,广东省重点打造新型数据交易所,为市场提供安全可控的流通交易平台。
在政府的积极推动下,广东省各类中小企业、创新型初创企业、服务创新企业积极将自身的数据、服务、资产,以及算力资源等产品投入市场交易。数据交易所采用“一所、多基地、多平台”架构运营,引入央企控股及省区市龙头国企优势资源共同建设,将围绕数据交易服务、数据资产管理及增值、数据应用服务、金融衍生工具、数据企业孵化等业务打造多平台,充分发挥市场在资源配置中的决定性作用,加快释放数据红利。
随着政府关于加快智慧城市建设的政策不断出台,政策红利持续释放。各地的高科技企业纷纷响应政府号召,投身智慧城市建设新赛道。与此同时,传统企业也在积极探索“智慧转型”之路,为市场注入新活力。
浙江省宁波市正推动数字经济赋能传统城市管理改革。北仑区作为宁波市的“老港区”,城市环境卫生治理工作负担较重。北仑区通过引入具有数字化平台开发能力的国内大型环卫企业——中环洁集团股份有限公司,实现了优化体制机制整体布局,完成了传统环卫部门的“数字化”和“智能化”转型。
企业数字化平台数据接入政府数字管理平台,实现了“政企联动”“一网统管”模式,让“数字城市”发展具备更多潜力,让创新的城市管理与智慧城市发展有了更多的“适配性”,这样的运营模式为城市带来了新活力。
探索未来
智慧城市发展前景广阔
根据IDC《全球智慧城市支出指南》,2021年中国智慧城市的IT总体投资达259亿美元,年增长率15%。近年来,各地逐步加大智慧城市建设的投入力度,智慧城市发展前景广阔。
中国国际经济交流中心首席研究员张燕生指出,要探索如何将城市治理和数字经济有效结合起来,提升城市管理整体水平,以及探索数字经济赋能如何提升全要素生产率,让技术进步推动生产力的提升。
中国社科院中国城市发展研究会副理事长贺可嘉认为,下一步,智慧城市建设应该与大数据、云计算、区块链、人工智能等技术进行深度融合。从政府角度看,政府可能将逐渐主导在物理空间推动城市的智慧化工作,在元宇宙空间推动孪生智慧城市的建设工作,完成线上线下双城市的发展实践。线下智慧空间建设将打破环保、能源与机械智能化等传统科学壁垒,全方位改善城市生活环境。线上孪生城市的智慧空间将打破时间与空间束缚,让居民分享到更具层次的互动体验。
在金键看来,智慧城市建设应以促进数据要素流动为核心,从新型基础设施建设、综合服务能力提升、典型应用打造三个方面形成政府和企业共同参与的多元投资和协同联动模式。充分发挥科技巨头的技术创新能力,联合打造综合服务平台,帮助传统企业和中小企业实现数字化转型。
根据中国智慧城市工作委员会数据,2022年,我国智慧城市市场规模将达到25万亿元。随着智慧城市建设水平的不断提高,未来将有越来越多的城市实现“智能化”,从而让更多的人都能感知数字技术带来的变革、享受数字经济发展带来的红利。(经济参考报记者 孙广见 杨柳 郝菁)
(文图:赵筱尘 巫邓炎)