内容摘要

生成式人工智能对人类劳动市场、创新能力、知识结构以及社会伦理道德带来前所未有的冲击和挑战，提高生成式人工智能的治理水平是一个复杂的系统工程。党的二十届三中全会《决定》将“完善生成式人工智能发展和管理机制”作为一项重要内容，为生成式人工智能的健康发展提供了遵循。因此，我们既要防范生成式人工智能发展中的风险和带来的歧视性问题，又要促进产业健康发展。

生成式人工智能在发展中也带来了一些问题和挑战。

其一，网络安全问题。生成式人工智能在带来速度、规模、精度和先进性等益处的同时，也降低了攻击者的技术门槛。中国企业级网络安全市场的领军者奇安信发布的《2024人工智能安全报告》数据显示，2023年基于AI的深度伪造欺诈案件激增了3000%。其二，数据安全与隐私保护问题。生成式人工智能的发展依赖于数据的投喂，数据安全、隐私保护与风险管理相伴而生。据韩国媒体报道，三星内部已先后发生三起误用滥用ChatGPT案例。从个体层面看，数据泄露不仅是无形损失，而且会引发财产损失，甚至会危害人身安全；从群体层面看，大规模的隐私泄露可能导致国家层面的社会风险和经济风险，甚至是国家安全风险。其三，知识产权侵权问题。德国人工智能内容治理公司Acrolinx2023年8月对86家财富500强公司调查，近1/3的受访者表示，知识产权是使用生成式AI的最大担忧。目前人工智能技术对著作权、专利权、商标权都造成了冲击。涉及训练数据来源合法合规问题，终端用户、模型提供者的生成内容是否具有可版权性等问题。其四，算法黑箱与算法歧视问题。算法是一组解决问题的步骤和规则，通常用于设计和实现计算机程序，是人工智能技术的核心之一，决定了人工智能系统在处理大规模数据、实现自主学习以及应对复杂问题时的效能和智能化程度。

算法在生成式人工智能发展中出现了不可忽视的问题。第一，算法“黑箱”导致决策风险问题。由于大模型的算法内部机制和决策过程不可解释或难以理解，会导致算法的输出结果存在无法解释的“黑洞”。全球最大的生成式AI模型ChatGPT至今未曾公布算法规则。算法的输出结果不仅仅取决于输入数据，还会受到算法自身的运行过程、模型参数、超参数等多方面因素的影响。这种风险可能会导致企业难以理解模型的决策过程和预测结果，从而难以评估模型的可靠性和稳定性。此外，企业也难以响应用户关于解释算法结论的要求。第二，算法歧视影响效率和公平。如大模型算法本身的算法规则对某些特定的个体或群体存在偏见，将会导致企业的商业决策不公正，进而影响用户对其的信任和企业的商誉与形象。第三，信息失真问题。当算法所处理的数据本身存在错误时，算法的处理结果就会出现信息失真。如果企业或者用户出于某种故意规避对算法和数据的监管，也会导致模型生成违法、欺诈、诽谤、侵犯隐私等类型的内容。这可能导致用户通过算法模型得到错误的结论，产生负面影响。 

生成式人工智能对人类劳动市场、创新能力、知识结构以及社会伦理道德带来前所未有的冲击和挑战，提高生成式人工智能的治理水平是一个复杂的系统工程。 

一要高度重视生成式人工智能的发展。生成式人工智能可以提升工作效率，激发创意灵感，有广泛的应用领域，已成为引领新一轮科技革命和产业变革的战略性技术，对经济发展、社会进步、全球政治经济格局以及教育变革产生着重大而深远的影响，是新一轮科技革命和产业变革的重要驱动力量。国家高度重视人工智能技术发展，将其视为一项驱动科技创新、产业升级和生产力提升的战略性新兴技术，陆续发布多个政策文件推进发展。面对生成式人工智能的发展，企业和个人也要努力作为。 

二要持续提高生成式人工智能的素养。生成式人工智能素养是指个体在生成式人工智能领域所具备的基本素质和能力。它不仅包括相关的知识和能力，还包括相关的态度和伦理等。生成式人工智能正以一股不可阻挡的磅礴之势成为推动时代进步的重要引擎，加强社会主义核心价值观对生成式人工智能的引领作用，提高人工智能素养已成为应对人工智能发展新浪潮的重要前提。要积极培育计算思维，了解智能科技、智能产业，思考和探讨大数据与生产资料革命、区块链与生产关系革命、机器人和人工智能与生产力革命等基础性问题。据新华社报道，从今年秋季学期起，全国多所高校面向本科生开设人工智能通识课，北京宣布市属公办本科高校人工智能通识课全覆盖，天津则面向全市高校全面开放首批3门市级人工智能通识课。今年10月29日在北京市数字教育工作推进会上，《北京市教育领域人工智能应用指南》发布，提出到2025年，全市完成建设教育领域人工智能试点应用场景，大中小学普遍开展人工智能场景应用。 

三要加强法治建设并自觉遵守。生成式人工智能是具有自主学习能力和自主决策能力的预训练大模型，生成式人工智能发展中既有算法安全等方面的技术风险，也有系统性、技术性、复杂性、伦理性等风险特征。在生成式人工智能发展浪潮下，技术与立法必须齐头并进。2023年4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》，2023年7月，国家网信办会同相关部门发布《生成式人工智能服务管理暂行办法》，提出二十一条举措，在全球范围内率先开展立法，对数据使用、算法设计、价值导向提出要求，为行业健康发展提供支撑，并于2023年8月15日正式施行。对于这些管理办法，相关企业必须要自觉遵守。 

四要积极发展生成式人工智能。人工智能的发展需要科技力量、集群网络、基础设施、知识交流等的支撑。推进生成式人工智能健康发展至少要着力解决以下两大问题。其一，人才问题。在推动人工智能技术发展的诸多因素中，核心是“人才”。OpenAI首席运营官表示，AI领域的人才“竞争激烈”，2024年是人工智能的“采用年”。据统计，目前全球范围内，AI领域的人才缺口已超过50万。这一数字仍在持续增长，预计到2025年，缺口将扩大至75万。今天，面对生成式人工智能发展的浪潮，我们必须积极推进教育改革，培养大批的人工智能人才。其二，数据基础设施问题。生成式人工智能改变世界的前提是必须具备良好的数据基础设施。算力、算法、数据是生成式人工智能技术发展的三大核心要素。算力是数据处理能力，是大模型的关键基础设施，是数字时代的新生产力。数据是人工智能的基石、动力，海量、多样化的数据为人工智能提供了丰富的“营养”。算法是人工智能技术的核心之一，决定了人工智能系统在处理大规模数据、实现自主学习以及应对复杂问题时的效能和智能化程度。与国外先进水平相比，在算力、算法、数据方面我们仍有一定的差距，必须攻坚克难。在算力方面，要加强核心技术研究，优化算力基础设施建设，完善软件生态体系，推动算力应用创新。在数据方面，要提高数据质量，推动数据开放共享，加强数据安全与隐私保护，提升数据管理和应用能力。在算法方面，要加强基础研究，培养人才，推动产业应用，完善算法生态。必须指出的是，生成式人工智能的发展对AI芯片产生了爆发式的需求。与普华永道、安永及毕马威并列为四大国际会计师事务所的德勤2024年1月发布报告预测：2024年全球生成式人工智能芯片销售额或超500亿美元。总之，大模型与生成式人工智能发展迅速使智能芯片市场前景广阔。2023年7月，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局等七部门公布《生成式人工智能服务管理暂行办法》，提出要推动生成式人工智能基础设施和公共训练数据资源平台建设。暂行办法要求积极发展安全可信的芯片以及相关软件与工具。 

五要促进生成式人工智能与各行各业加速融合，促进产业升级和提质增效。要充分发挥大模型的带动作用，必须确保大模型的健康合理应用，积极探索人工智能在推动数字技术产业化、传统产业数字化、智慧城市与智慧管理等方面的应用场景，加快生成式人工智能产品的推广与使用。 

六要建立多元主体参与的治理机制，并加强国际合作与交流。积极探索政府监管、行业自律、企业自治、社会监督的监管体系，形成具有包容性和敏捷性的监管框架，建立多边合作与对话机制。 

党的二十届三中全会《决定》将“完善生成式人工智能发展和管理机制”作为一项重要内容，为生成式人工智能的健康发展提供了遵循。因此，我们既要防范生成式人工智能发展中的风险和带来的歧视性问题，又要促进产业健康发展。 

（作者系开封市党建研究会常务副会长、焦裕禄精神研究院专职研究员）