跨模态图像合成AI风险警示

跨模态图像合成AI可将一种影像模态转换为另一种，如由低剂量CT生成近似常规剂量图像，具有降辐照与补全信息的潜力。但其生成内容本质是推断而非真实采集，存在伪影与失真风险。监管就此发布警示，本文解析关键风险与合规要求。

技术潜力与风险并存

合成图像在提升可及性与降低负担上具价值，但模型可能在缺失区域生成看似合理却错误的结构，误导诊断。指导原则警示企业不得宣称合成图像等同于真实采集，亦不得用于替代必要检查。企业须明确合成图像的辅助定位与适用边界。审查关注是否夸大价值、是否隐瞒不确定性。技术价值不能以牺牲真实性为代价，企业应在设计阶段即植入不确定性提示，使使用者对合成内容保持合理怀疑，防止将推断误读为事实。

真实性验证难题

合成图像的验证难点在于缺乏逐像素真值，尤其在病理区域。指导原则要求企业采用多维度验证，如与真实图像的结构相似度、下游任务表现及专家盲评一致性。对关键解剖与病灶，须证明合成未引入系统性偏差。企业应构建含金标准的测试集，覆盖正常与异常样本。审查关注验证是否到位、是否选择性报告有利指标。充分的真实性证据，是合成AI能否进入临床辅助链条的技术前提，也是监管判断获益大于风险的核心依据。

临床误用与防御设计

警示强调防止合成图像被误用于诊断决策或训练其他模型造成污染。企业应在产品界面显著标注合成属性，限制导出与二次使用，并建立使用日志。指导原则建议对关键场景禁用合成或强制叠加真实影像比对。审查关注是否设置有效护栏。误用风险往往来自产品设计的模糊，清晰的视觉与流程提示比文字声明更有效。把防误用写入交互与权限设计，是合成AI合规落地的必要防线，避免生成内容脱离可控用途。

数据偏见与公平性

合成模型可能放大训练数据的人群偏见，如对某些种族或体型生成质量下降。指导原则要求开展公平性测试，评估不同亚组表现差异。企业应说明数据采集的多样性与偏差校正策略。对性能不均的群体，须在说明书中提示局限。审查关注是否回避劣势人群风险。公平性不是附加项，而是真实性的延伸，若合成仅在部分人群可靠，则其临床声称须相应收窄，防止在弱势群体中放大误诊或不均等获益。

申报与持续警示

申报应提交合成原理、真实性验证、防误用设计与公平性测试，并专章说明风险警示。建议企业就合成图像临床定位关键问题与审评沟通。指导原则强调上市后监测误用事件与性能漂移。规范化的资料组织与主动沟通，有助于缩短技术审评周期。把风险警示内化为产品设计与用户教育，方能使跨模态合成AI在透明可控前提下发挥辅助价值，而非成为新的诊断隐患。

跨模态图像合成AI的风险警示，提醒行业真实性的底线不可逾越。企业唯有以多维度验证证明合成内容可用、以防御设计防止误用，才能合规推进该类创新。建议组建影像、算法与临床团队，在设计阶段植入不确定性标注与导出限制，申报时以证据呈现验证充分与误用防范，并建立上市后监测。主动与审评沟通定位边界，可加快注册进程，使合成AI在严格约束下安全赋能影像工作流。建议把不确定性标注直接嵌入显示界面，并对合成图像的导出与二次使用实施权限管控，防止生成内容脱离受控用途被误用于诊断或污染其他模型训练数据。