基于不确定性量化的CNN-LSTM-Attention多输入单输出回归模型【MATLAB】

基于不确定性量化的CNN-LSTM-Attention多输入单输出回归模型在深度学习的回归预测任务中传统的神经网络模型往往只输出一个确定性的点估计Point Estimate。然而在实际工程应用如医疗诊断、金融预测、工业设备寿命预估中“黑盒”模型给出的单一数值常常让人缺乏安全感。我们不仅需要模型告诉我们“预测结果是多少”更需要它告诉我们“它对这个预测有多大的把握”。为了解决这一痛点本文将为大家详细解析一个结合了特征提取 (CNN)、时序建模 (LSTM)、特征加权 (Attention)以及不确定性量化 (Uncertainty Quantification, UQ)的强力回归模型并提供完整的 MATLAB 实现代码。一、 核心技术原理解析本模型不仅在网络结构上进行了深度融合在预测机制上也引入了前沿的“深度集成”思想1. 混合网络架构 (CNN-LSTM-Attention)CNN (卷积神经网络)通过convolution2dLayer对输入的多维特征进行局部特征感受野的提取。Attention (注意力机制)代码中巧妙地构建了一个类似Squeeze-and-Excitation (SE)的通道注意力模块。利用全局平均池化GAP提取特征通道的全局信息经过全连接层和 Sigmoid 激活函数后计算出每个特征通道的权重并将其与原始特征进行乘法加权multiplicationLayer让模型学会“把注意力放在关键特征上”。LSTM (长短期记忆网络)接收经过注意力加权后的空间特征展开时间步捕捉数据中隐含的动态时序依赖关系。2. 深度集成与不确定性量化 (Deep Ensembles)单体神经网络极易陷入局部最优且无法量化自身的“认知不确定性”。本方案采用深度集成法Deep Ensembles通过重新初始化网络权重并行训练 5 个独立的子模型预测均值 (μ\muμ)作为最终的预测结果集成后的均值往往比单体模型更稳定、精度更高。预测标准差 (σ\sigmaσ)衡量模型对该样本预测的不确定性。标准差越大说明各个子模型对该样本的预测分歧越大模型处于“我不确定”的状态。95%置信区间基于高斯假设我们可以通过μ±1.96σ\mu \pm 1.96\sigmaμ±1.96σ构建预测的置信下界与上界。二、 MATLAB 实现以下是 MATLAB 部分代码。代码已进行了详尽的注释直接准备好您的data.xlsx前 N-1 列为输入特征最后一列为输出标签即可一键运行。warning off% 关闭报警信息close all% 关闭开启的图窗clear% 清空变量clc% 清空命令行tic% 开始计时rng(default)% 设定随机种子保证结果可复现%% 1. 导入数据与预处理disp(正在导入数据并进行预处理...)resxlsread(data.xlsx);num_size0.7;% 训练集占数据集比例outdim1;% 最后一列为输出num_samplessize(res,1);% 样本个数num_train_sceil(num_size*num_samples)1;% 训练集样本个数f_size(res,2)-outdim;% 输入特征维度% 划分训练集和测试集P_trainres(1:num_train_s,1:f_);T_trainres(1:num_train_s,f_1:end);Msize(P_train,2);P_testres(num_train_s1:end,1:f_);T_testres(num_train_s1:end,f_1:end);Nsize(P_test,2);% 数据归一化[p_train,ps_input]mapminmax(P_train,0,1);p_testmapminmax(apply,P_test,ps_input);[t_train,ps_output]mapminmax(T_train,0,1);t_testmapminmax(apply,T_test,ps_output);% 数据平铺与格式转换 (适配 CNN 输入格式)p_traindouble(reshape(p_train,f_,1,1,M));p_testdouble(reshape(p_test,f_,1,1,N));t_traindouble(t_train);t_testdouble(t_test);fori1:M Lp_train{i,1}p_train(:,:,1,i);endfori1:N Lp_test{i,1}p_test(:,:,1,i);end三、 运行结果与图表深度剖析程序运行结束后不仅会在控制台输出高精度的预测指标如R2R^2R2接近于 1极低的 MAE 等还会生成极为直观的不确定性分析图表全景不确定性预测图 1图中除了红色的真实值和蓝色的预测均值折线外还会有一层浅蓝色的“95% 置信区间”面片。如果某一段数据的置信区间突然变宽说明模型对这里的预测非常没有信心可能是由于训练集未见过类似数据或该处噪声极大这在故障预警等场景下具有极高的参考价值。子模型轨迹分析 Spaghetti Plot图 2通过绘制 5 个子模型的独立预测曲线浅灰色半透明你可以直观地看到“预测分歧”。灰色线条聚拢的地方说明模型达成高度共识线条发散散乱的地方正是模型认知不确定性最高的位置。不确定性与实际误差相关性散点图图 3这是一个极具论文价值的论证图表。横轴是模型的预测标准差不确定性纵轴是绝对预测误差。通过拟合趋势线可以看出当模型表现出高度不确定时往往其实际预测误差也会更大。这证明了我们的不确定性量化是高度可靠和自洽的——模型不仅能够预测还能准确知道自己什么时候“可能要犯错”。四、 总结通过引入CNN-LSTM-Attention构建强大的多尺度时序特征提取主干再辅以Deep Ensembles深度集成框架本程序实现了从点预测到概率化区间预测的跨越。这套框架非常适合作为高质量学术论文SCI/EI的实验基础或用于对安全性要求极高的工程预测落地项目中。欢迎大家复制源码进行实战测试与扩展五、 代码下载https://mbd.pub/o/bread/YZWclpZraQ