2023中国计算机大会举办

展望人工智能大模型应用

 
10月26日至28日，2023中国计算机大会在辽宁省沈阳市举办，蓬勃发展的人工智能大模型成为热议的焦点。专家学者和企业家共同展望大模型未来将如何落地应用，真正服务经济社会发展和百姓生活。

在人流量大的三甲医院辅助智能分诊、提高医生诊断准确性，在基层医院扮演“带头人”角色帮助医生提高诊疗水平……会上，业内专家描绘出一幅幅大模型赋能医疗的未来图景。

首都医科大学附属北京朝阳医院放射科主任杨旗认为，医疗大模型应用要区分场景，急诊场景下的大模型应用非常重要。例如，在患者刚到医院进行CT等初步影像检查后，不需要等待医生看报告下判断，人工智能就可第一时间对危急程度进行判断，使患者在医院流转过程中得到最优化、高效的救治。

医疗行业尤其需要大模型提供更专业、更精准的诊断和治疗建议。医学影像是重要的医疗数据，多位专家表示，医学影像数据差异性特征明显，数据标注难问题亟待突破。

北京理工大学光电学院教授杨健提出，医疗大模型训练需要大量文本、影像、生化指标等多模态的数据样本，但医疗行业对患者隐私保护和数据安全的要求较高。如何化解这一矛盾是医疗大模型发展的重要课题，他认为，大模型在设计上更应考虑不同层级结构之间既要隔离又要打通的特殊需求。

大模型安全问题也十分受关注。与会专家表示，大模型本身十分复杂，当前我们对模型意图和执行过程的理解还远远不够，当理解不够但又赋予它足够自由度的时候，必然会出现一定程度的安全问题。

“大模型一开始没有对错的概念，所以它可能做任何事。一旦它培养出好坏之分、善恶区别，就会更容易去选择做合理的事情。”蚂蚁集团副总裁徐鹏认为，在可解释性、价值观对齐和强化学习方面应该有长期的、更大的投入，一方面加强人类对大模型行为的理解，另一方面引导大模型“科技向善”。

专家普遍认为，人工智能可能会带来伦理风险，但距离真正产生自我意识而失控还很远。

“现在大模型学习还是在人为设定目标下训练，短期内不用太担心它的危害性。未来什么时候它自己有了目标、不再遵循人类目标的时候，可能真正需要引起警惕。”复旦大学计算机科学技术学院教授邱锡鹏说。

（据新华社电 记者温竞华、洪可润、宋晨）