当前，生成式人工智能作为人工智能技术发展的最新进展，依托大量丰富的数据和预训练的深度学习算法，比以往的人工智能具有更加强大、泛化的自然语言理解能力和内容生成能力，能够应对不同场景的使用并为多个行业提供应用支撑。
由于生成式人工智能的强大性能和通用性，针对不同领域、场景的定制化生成式人工智能将具有广阔的市场需求，相关产业发展前景广阔，因而有望成为智能化世界的基础设施，推动智能产业的发展。通过与相关产业融合，生成式人工智能将以智能赋能产业，深挖行业潜力、拓宽发展空间，推动产业智能化发展、引导传统产业转型升级，从而作为底层技术赋能千行百业。同时，生成式人工智能还将改变甚至塑造出新的生活习惯和消费方式。生成式人工智能使信息检索更加高效便捷，使商品信息、商家差异更加透明，这将导致企业更加注重产品质量与行业规范，倒逼产业升级。生成式人工智能在编辑、编程、翻译等方面也将减少繁杂的基础工作，给人们带来更多的休闲时间，间接创造新的消费需求和市场。另外，生成式人工智能将推动科研范式的变革。生成式人工智能在文献数据获取、结果分析等方面的应用将助推科学研究的知识模型快速生成和优化迭代，其在结构预测上的卓越性能可能会在药物研发、新材料研究上引发根本性变革。
但是，科学技术是一把“双刃剑”，生成式人工智能在带来诸多机遇的同时也会带来许多隐患。由于生成过程的复杂性，生成式人工智能的算法超越了工程师和用户的理解范畴，产生“算法黑箱”。而且人工智能呈现出的对文本、图像的掌握只是基于要素之间的相关性，并不真正了解对象的本质和因果联系，其生成的内容可能是在“一本正经地胡说八道”。若生成式人工智能产生的虚假信息被滥用，会给网络安全和国家安全带来严重后果。同时，生成式人工智能所依赖的算法设计和数据输入都蕴含了设计者的价值偏好，其输出内容也附着了价值观念甚至歧视偏见，也会存在被诱导输出虚假内容和有害信息的风险，引发算法歧视、学术不端等伦理风险。此外，数据来源和生成物可能引发知识产权纠纷。生成式人工智能的研发需要极大体量的数据进行训练，这让其数据来源的版权合法性难以得到保证，其生成物的版权分配也难以界定。大数据是生成式人工智能实现突破的重要基础，但是过度挖掘数据又将侵犯用户个人隐私，给用户带来困扰。
对于生成式人工智能这一新生事物，我们应对其持鼓励与包容的态度，但不能任其无序发展，必须推动负责任的人工智能发展。一是以技术规范技术。通过强化数据安全、隐私保护等技术的研发，加强对人工智能算法与模型的可溯源研究和审查评估研究，运用技术手段反制和鉴别人工智能所生成的内容。同时，积极探索生成式人工智能的问责机制与行为规范，努力打造安全可信的人工智能。二是以政策法规保障技术健康有序发展。及时规范相关技术与产品的合理准入范围和应用边界，营造良好的发展环境。2023年，我国发布了《生成式人工智能服务管理暂行办法》，提出了包容审慎和分级分类监管等办法，为生成式人工智能在各领域的应用指明了健康规范的发展方向。2024年，我国又发布了《生成式人工智能服务安全基本要求》，进一步规定了生成式人工智能服务在安全方面的基本要求。这些政策法规有助于保障人工智能发展与安全并重、促进创新与依法治理相结合，必须切实推进实施。三是以伦理规范贯穿技术研发全过程。科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，是促进科技事业健康发展的重要保障。生成式人工智能技术的发展需要遵循伦理先行、敏捷治理的要求，将科技伦理贯穿其科研开发应用全过程，加强伦理风险预警与跟踪研判，及时动态调整治理方式和伦理规范，以实现负责任的创新。