作者:赵志耘(中国科学技术信息研究所党委书记、所长,科技部新一代人工智能发展研究中心主任) 当前,ChatGPT类大模型加速了数字世界和物理世界的深层次地融合,引领人工智能进入新的发展阶
作者:赵志耘(中国科学技术信息研究所党委书记、所长,科技部新一代人工智能发展研究中心主任)
当前,ChatGPT类大模型加速了数字世界和物理世界的深层次地融合,引领人工智能进入新的发展阶段。与此同时,人工智能固有的不确定性、不透明性、难以解释、事实性错误等能力局限,对经济发展、国际政治和全球治理等方面带来深远影响,引发了全球对大模型大范围的应用安全风险的热议。怎么样应对人工智能风险并把握AI发展的战略主动,有效保障国家安全,已成为中国国家安全治理的重要议题。
大模型技术引发新的安全风险和治理挑战。随技术的更新迭代,人工智能的应用门槛持续降低,伴随着误用滥用情况的增加,经济社会领域的多重安全风险也在交织叠加。
一是放大隐私信息泄露风险。当前,人工智能开发者和服务提供者可能利用用户数据来进行优化训练,但相关服务条款却并未对数据使用做出解释说明,可能涉及在用户不知情情况下收集个人隐私信息、商业机密等,安全风险较为突出。为保护个人信息安全,部分欧洲国家对大模型进行了严格监管和审查,甚至考虑禁止ChatGPT等人工智能应用。
二是舆论引导与文化渗透风险。在舆论和文化领域,人工智能技术可被用于算法引导、平台渗透、网络监控、内容生成等信息处理环节,由大模型驱动的文本创作工具可能会产生颇具影响力或说服力的信息,使得虚假信息不易被识破,负面舆情传播速度加快,进而导致侵犯他人合法权益、扰乱经济秩序和社会秩序,甚至危害国家安全和社会公共利益。
三是情报军事领域应用的新威胁。人工智能的自动生成代码功能使黑客技术的习得过程更容易,使网络攻防的更新频率大幅度的提高。利用ChatGPT类大模型能够在一定程度上帮助机器学习识别更为复杂的文本及实体,或将扩大无人军用智能无人装备的应用,增大军事对峙摩擦,对国家安全带来严峻挑战。
加快推进人工智能安全治理。面对人工智能技术加快速度进行发展、风险持续蔓延的形势,增强人工智能的安全性成为国际组织、各国政府及产业界等共同关注的议题。
我国格外的重视人工智能安全问题,慢慢地增加AI发展的潜在风险研判和防范,建立健全人工智能安全治理体系,对人工智能技术本身所致的内生安全、AI应用中的衍生安全以及影响和决定人工智能前景的发展安全问题进行系统性治理,确保人工智能安全、可靠、可控。
2017年,国务院发布《新一代AI发展规划》,对AI治理工作进行了专门部署,并要求建立人工智能安全监管和评估体系。我国逐渐完备数据安全、网络安全、人工智能等有关规定法律制度建设,为新技术的快速应用奠定法律基础。研究制定算法推荐、深度合成、生成式人工智能等领域的管理规定,对人工智能发展进行引导和规范,保障有关技术产品的有序发展。先后发布《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》,为人工智能技术的开发和应用设定道德约束,促使人工智能更好地服务于人类。此外,我国也热情参加全球AI治理,坚持伦理先行、和平利用、安全可控等治理原则,呼吁加强对人工智能军事应用的监管,以负责任的态度促进人工智能安全治理。
推动形成人工智能安全治理的强大合力。尽管已开展一系列治理行动,但人工智能安全治理还面临诸多全球共性难题。人工智能技术目前并不具备较强的可解释性、准确性和真实性,难以完全实现AI治理所倡导的透明度、可靠性和安全性。如何在创新发展和有效监管之间取得平衡也是各国普遍面临的问题。既要避免过度监管阻碍技术发展,也要防止管理力度不够而引发严重问题。
当前,人工智能影响下的国际科技、经济及政治领域发生冲突的可能性日益增大。我国正处在人工智能技术加快速度进行发展的阶段,一定要坚持贯彻总体国家安全观,构建多元参与、协同共治的人工智能治理机制,调动各主体参与治理的积极性,促进AI与经济社会健康有序融合,以高水平科技安全保障国家总体安全。一是建立健全人工智能安全治理机制。坚持审慎监管、开放包容原则,强化风险研判和监测预警,完善科学技术伦理审查和监管制度。二是增强法治保障能力。快速推进人工智能立法,开展生成式人工智能、信息安全利用等法律问题研究,建立追溯和问责机制,清晰界定人工智能相关主体权利、义务及责任边界,从而保障各类群体的合法权益。三是增强人工智能技术治理能力。强化人工智能数据安全、隐私保护等研发技术,强化对AI算法和模型的审计监管和对AI系统安全性测试评估,增强抗系统性风险能力。四是增强国际安全合作能力。倡导以人为本、智能向善理念,在《中国关于规范人工智能军事应用的立场文件》等基础上,发挥联合国、G20、上合组织等多边机制的作用,拓展人工智能安全共识,避免人工智能滥用带来的安全风险。
数字化网络化智能化加速发展,各国既面临着新的发展机遇,也需要应对新的全球性问题,国际社会迫切地需要携手合作,共同打造和平、安全、开放、合作的互联网空间,携手构建互联网空间命运共同体。
中华民族传统节日春节马上就要来临。值此之际回望2023年,中国经济主要预期目标圆满实现。展望新的一年,我们国家的经济发展依然将面临一些困难和挑战,但同时也具有体量大韧性强创新后劲足的竞争优势、宏观经济政策回旋空间大的支撑效应、新一轮全面深化改革开放的增长红利等三重有利支撑。
要聚焦新时代新征程党的中心任务,以加快政府职能转变和优化政府职责体系为重点,在“加减乘除”上做文章,推进机构改革再深化,为在新征程上全方面推进中国式现代化提供新动力。
面对一直在升级的数字社交产品,反而需要青年人意识到沉浸式社交环境背后的经营销售的策略与运作逻辑,从而与社会化媒体生成的感官刺激与虚拟自我保持距离。
“人民美好生活需要”的提出,内含着马克思主义的价值宗旨,体现社会主义的本质要求,根植于中国经济社会发展实际,符合中国的初心使命,体现合规律性与合目的性的高度统一。
冬至阳生,岁回律转。在新的一年,我们站在这一年的不易成果上,对未来充满信心,更加需要接续奋斗、砥砺前行,取得更多发展成果。
针对目前思政课教师供给能力不能有效满足思政课强起来的发展需要这一突出矛盾,要切实提升教师供给能力,改进教育学生的方式,推动新时代思政课朝着高质量发展。
我国始终主动实行扩大进口的战略和政策,连续举办进口博览会,倡导开放合作,与既往的贸易保护理论和政策主张存在根本差异,为维护开放的世界经济注入了强大动力。
面向未来,要逐步扩大“朋友圈”,绘制好“工笔画”,对接好“硬联通”与“软联通”,秉持包容、合作、共赢的原则,为实现民族复兴和推进全人类的福祉而努力奋斗。
文化交流很重要,我们在讲“一带一路”的时候,也需要讲“共建国家”给我们大家带来的好处。其实我们面临着如何正确对待自己的问题,“一带一路”不是单方面的施与,而是双向的或多向的互利。
我们必须要全面把握东北向北开放的历史使命,通过推动东北亚次区域、国别合作,破解东北亚各国战略意图和利益不同、战略互信缺失的困境。
2022年我国数字化的经济规模达50.2万亿元,总量稳居世界第二,同比名义增长10.3%,占国内生产总值比重提升至41.5%,数字化的经济成为中国稳增长促转型的重要引擎。
坚持以习法治思想和总体国家安全观为指导,精准把握完善国家安全法治体系的时代内涵和实现路径,是新时代新征程把中国特色国家安全法治建设推向前进的必由之路。
习进一步推进马克思主义基础原理同中国具体实际、同中华优良历史传统文化相结合,创造性回答了关系党和国家事业发展的重大问题,形成一系列原创性理论成果。
深刻的理论来源于人民大众的实践,只有不断拓展理论的深度和广度,用“大众话语”说清“理论话语”,理论才能真正变成人民群众手中的尖锐武器。
“千万工程”把村庄整治与发展经济结合起来,以乡村经营为抓手,持续打通“绿水青山就是金山银山”转化通道,将生态红利变为民生福利。
区域国别学是典型的交叉学科,只有从不同学科视角贡献知识增量,通过融合、碰撞和创新,才能最终形成学科共识。
我们仍需抢抓“十四五”应对窗口期,战略上保持定力,战术上灵活机动。在强化养老、托幼、家庭支持政策基础上,逐步优化房地产市场调控。
中国正在打破西方对现代化标准垄断,探索出一条不同于西方的社会主义现代化新路,创造属于自身个人的发展经验,为现代化理论作出重要贡献。
下一篇: 加强研发加快发展(新时代新征程新伟业)