当前，全球人工智能技术快速发展，对经济社会发展和人类文明进步产生深远影响，给世界带来巨大机遇。与此同时，人工智能技术也带来难以预知的各种风险和复杂挑战。4月25日，习近平总书记在二十届中共中央政治局第二十次集体学习时强调，“面对新一代人工智能技术快速演进的新形势，要充分发挥新型举国体制优势，坚持自立自强，突出应用导向，推动我国人工智能朝着有益、安全、公平方向健康有序发展”。这一重要论述为我们坚持“以人为本、智能向善”的发展原则，促进人工智能技术造福人类社会指明了前进方向，提供了基本遵循。

　　习近平总书记指出：“人工智能作为引领新一轮科技革命和产业变革的战略性技术，深刻改变人类生产生活方式。”迈入“人机协同、跨界融合、共创分享”的智能时代，人工智能技术的发展日新月异，正在被应用到社会的各个领域、各个层面，产生广泛深远的积极影响。

　　人工智能是推动形成新质生产力、实现高质量发展的重要抓手。我国经济已由高速增长阶段转向高质量发展阶段，正处于转变发展方式、优化经济结构、转换增长动力的关键阶段，迫切需要人工智能等高新科技成果为高质量发展添薪续力。只有整合科技创新资源，引领发展战略性新兴产业和未来产业，加快形成新质生产力，才能创造出更加丰富的物质与文化产品，满足人民群众日益增长的物质文化需求。目前，我国传统产业正在快速向数字化、智能化转型，新兴的智能产业强势崛起，成为产业体系的新支柱与驱动经济增长和高质量发展的新引擎。人工智能的快速发展与我国培育新质生产力、推动经济社会转型形成历史性交汇，做好“人工智能+”是当务之急，也是战略命题。紧紧把握技术大势、时代潮流，让人工智能更好发挥引领带动作用，推动人工智能科技创新与产业创新深度融合，助力传统产业改造升级，开辟战略性新兴产业和未来产业发展新赛道，就会激发出产业进阶、高质量发展的勃勃生机。

　　人工智能是创造更加智能的工作方式和生活方式、增进人民福祉的重要力量。新时代人民的美好生活需要呈现出多样性、全面性、高阶性等复合性特征，人工智能的发展和应用是满足人民美好生活需要、提升人民获得感、幸福感、安全感的科技支撑与深层力量。习近平总书记强调，“加强人工智能同保障和改善民生的结合，从保障和改善民生、为人民创造美好生活的需要出发，推动人工智能在人们日常工作、学习、生活中的深度运用，创造更加智能的工作方式和生活方式”。人工智能技术在民生领域的渗透愈发深入，从消费升级到医疗健康，从教育养老到智慧交通，为提升百姓生活质量、解决民生难题、推动社会进步提供了新引擎。在医疗领域，人工智能辅助诊断系统能够快速准确地识别疾病，助力医生作出更科学的治疗决策，提高医疗服务的可及性和质量，让更多患者受益；在教育领域，个性化学习平台借助人工智能技术，因材施教，满足不同学生的学习需求，促进教育公平，培养出更多适应时代发展的创新型人才；在交通领域，智能交通系统优化交通流量，缓解拥堵，提升出行效率，让人们的出行更加便捷、安全，等等。人工智能的广泛应用，正不断提升人民群众的生活品质和幸福感，让发展成果更多更公平惠及全体人民。

　　人工智能是推进政府管理和社会治理模式创新、打造共建共治共享社会治理格局的有效手段。迈入智能时代，大力开发和利用信息、智能技术，搭建全民皆可参与的治理平台，能够畅通广大民众、社会组织与政府之间的沟通交流渠道，构建多元主体协同共治的格局。打造智能化信息收集系统，有助于即时掌握广大民众的多元化、多层次需求及变化趋势，及时发现存在的短板弱项和“疑难杂症”，使广大民众获得更精准、更便捷的公共服务。通过建立智能决策系统，对相关数据资源进行整合，广泛吸取人民群众智慧，实现政府决策科学化、社会治理精准化、公共服务高效化，真正提升社会“善治”的科学化、专业化水平。

　　人工智能已成为衡量国家科技水平和综合实力的重要标尺。习近平总书记指出，“进入21世纪以来，全球科技创新进入空前密集活跃的时期，新一轮科技革命和产业变革正在重构全球创新版图、重塑全球经济结构”，“科学技术从来没有像今天这样深刻影响着国家前途命运，从来没有像今天这样深刻影响着人民生活福祉”。只有完善顶层设计和政策支持，全面推进人工智能科技创新、产业发展和赋能应用，加快建设创新型国家和世界科技强国，才能切实掌握竞争与发展的先机与主导权，为以中国式现代化全面推进强国建设、民族复兴伟业注入强大科技创新动力，引领中国乃至世界人民迈向自主、幸福的未来。

　　习近平总书记指出：“人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。”作为一种革命性、颠覆性技术，人工智能的发展和应用是一柄锋利的“双刃剑”。在为人类服务、增进人民福祉的同时，也带来难以预知的各种风险和复杂挑战，导致一系列新的伦理难题和道德困境，甚至被一些别有用心的人用来损害社会公共利益和民众利益。

　　目前，人工智能的发展和应用正在引发一系列社会伦理问题。例如，随着人形智能机器人在外形上越来越趋近于人，智能水平和活动技能不断提高，对人的本质和“万物之灵”的主体地位造成一定冲击，传统的人机关系面临严峻挑战；生产和服务的数字化、智能化，智能系统、智能机器人大规模代替人的“劳动”，正在造成“技术性失业”；运用大数据技术和智能技术，采集、存储、加工、利用数据的能力日益增强，但信息的非法采集、加工、盗用等问题也随之而来，个人隐私与数据安全受到的威胁与日俱增；在数据获取、算法设计、技术开发、产品研发与应用过程中，由于各种主客观因素的影响，针对不同或特定民族、国家、地区、群体、个人等的偏见和歧视屡屡发生。一些国家、地区和企业不平等、不公正、甚至非法地发展和应用人工智能。例如，一些西方发达国家为了赚取超额利润，独享技术红利，不仅不开源人工智能技术，让人们共享人工智能知识成果，而且采用单边强制措施，进行技术垄断、技术封锁，人为制造发展壁垒；一些国家、地区和利益集团滥用人工智能技术优势，肆意传播虚假信息，操纵舆论和大众情绪，干涉他国内政、社会制度及社会秩序，危害其他国家、地区的主权和独立；各种恐怖主义、极端势力和跨国有组织犯罪集团滥用、恶用人工智能技术，对他人的合法权益、公共安全和社会秩序构成了巨大威胁，等等。

　　同时，随着生成式人工智能在多领域取得超出人们预期的突破，人工智能的不透明性、不可解释性和不可预测性令人工智能的发展和应用充满了挑战，甚至存在失控、反噬人类的风险。《人类简史》系列作者、历史学家尤瓦尔·赫拉利指出：“随着人工智能的不断发展，它已经变得越来越不人工（也就是不依赖人类来设计），而变得越来越高深莫测，难以看透。”当人工智能开始自主思考和决策时，有可能按照“不像人”或“异于人”的方式和机理理解世界，依照智能逻辑制定新规则，“自主”地采取行动。一旦人工智能的发展跨过奇点，产生了超级智能，它们是否仍然听从人类的命令，心甘情愿地忠诚地为人类服务，就变成了未知数。这可能将人类的前途和命运置于巨大的不确定性和风险之中。

　　面对各种问题和挑战，目前人们的理论认识和伦理反思相对滞后，以技术治理为中心的人工智能综合治理才刚刚起步。例如，面对人工智能的发展和应用这一新事物，法律和规章制度尚不健全，甚至存在一些法律和制度空白；尚未建立并完善人工智能伦理准则、规范及问责机制，尚未建立科技伦理审查和监管制度，尚未明确人工智能相关主体的权利、责任和义务边界，等等，导致人们的合法权益没有得到应有的尊重和保护，国内和国际相关伦理关切没有得到及时回应。此外，由于不同国家、地区、企业等的情况和利益不尽相同，政策和实践差异性比较大，智能鸿沟和治理能力存在差距，因而尚未在联合国框架下形成国际智能治理的广泛共识，尚未建立协调国际人工智能发展、安全与治理重大问题的国际人工智能治理机构。特别是全球南方国家在人工智能全球治理中的代表性和发言权严重不足，人工智能的发展与治理存在权利不平等、机会不平等和规则不平等现象。

　　人工智能治理攸关全人类命运，是世界各国面临的共同课题。必须始终坚持“以人为本”的理念、“智能向善”的宗旨和为人类造福的总体目标，平衡好人工智能的创新发展与有效治理的关系，确保人工智能始终朝着增进人类福祉、促进人类文明进步的方向发展。

　　从“兴利”、“扬善”的角度，坚持以人民为中心，激发人工智能自由发展活力，释放人工智能技术红利，推动经济社会发展。把握智能化发展的契机和新发展阶段的任务要求，全面推进人工智能科技创新、产业发展和赋能应用，助力传统产业改造升级和新兴的智能产业蓬勃发展，推动新质生产力建设迈上新台阶。通过生产和服务的数字化、智能化和无人化，在有效提升劳动生产率的同时，增加人们休闲、娱乐以及自我提升的自由时间。瞄准民生领域的突出矛盾和主要问题，开发各种便民数字技术，建设多种智能民生工程，不断丰富服务内容，提高服务质量。不断建立完善以大数据、区块链、智能算法等为技术基底的智能化决策机制、监管机制和行动机制，及时掌握民之所需、回应民之所求，有效提升人民群众的获得感、幸福感、安全感。

　　从“除弊”、“祛恶”的角度，通过缜密的顶层设计和科学的规范治理，积极应对人工智能可能带来的风险和挑战。“以人为本”理念要求人工智能在研发和应用中始终坚持“人是目的”，尊重人的人格、尊严和合法权益，保护人的隐私；坚持公平性和非歧视性原则，避免产生针对不同或特定民族、信仰、国别、性别等的偏见和歧视。坚持“智能向善”的宗旨，强化人工智能“价值观对齐”，确保生成式人工智能等具有一颗“良芯”，尽可能从源头上预防和消除隐患。鉴于目前大模型等可能生成违背政策与法律、基本价值观以及社会公序良俗等方面的内容，2023年8月，中国发布了《生成式人工智能服务管理暂行办法》，明确规定提供和使用生成式人工智能服务“应当遵守法律、行政法规，尊重社会公德和伦理道德”，“坚持社会主义核心价值观”等。大模型的跨国应用则应“遵守适用的国际法，符合和平、发展、公平、正义、民主、自由的全人类共同价值，共同防范和打击恐怖主义、极端势力和跨国有组织犯罪集团对人工智能技术的恶用滥用。”把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控。在智能治理过程中，前瞻研判人工智能发展、应用带来的风险和挑战，完善相关法律法规、伦理审查规则及监管框架；明确相关主体的权利、责任和义务，有效规制相关主体在人工智能产品开发、设计和应用中的行为，从而牢牢掌握人工智能发展和治理主动权。

　　加强国际交流与合作，将“兴利”与“除弊”、“扬善”与“祛恶”落到实处。人工智能发展和应用带来的问题和挑战往往是跨越国界的，攸关人类的前途和命运，世界各国必须加强沟通与合作，基于人类共同价值构建负责任的人工智能治理共同体。推动各方加强发展战略、治理规则、技术标准的对接协调，早日形成具有广泛共识的全球治理框架和标准规范。在全球治理过程中，坚持广泛参与、协商一致、循序渐进的原则，密切跟踪技术发展形势，开展风险评估和政策沟通，分享最佳操作实践。在此基础上，通过对话与合作，在充分尊重各国政策和实践差异性基础上，推动多利益攸关方积极参与，在国际人工智能治理领域形成广泛共识。在联合国框架下讨论成立国际人工智能治理机构，协调国际人工智能发展、安全与治理重大问题；加强全球南方国家技术能力建设，增加其在人工智能全球治理中的代表性和发言权，确保各国人工智能发展与治理的权利平等、机会平等和规则平等。只有世界各国秉持共建共治共享理念，通过对话与合作凝聚共识，构建开放、公正、有效的治理机制，才能使人工智能朝着有益、安全、公平方向健康有序发展，从而真正造福人类社会，将人类导向更加发达、更加美好的智能文明。

　　（作者：教育部长江学者特聘教授，上海大学伟长学者特聘教授，上海大学智能哲学与文化研究院教授、马克思主义学院教授，中国辩证唯物主义研究会副会长、价值论研究专业委员会会长）