news 2026/4/18 7:59:08

基于贝叶斯优化的卷积神经网络-门控循环单元回归预测模型及评估指标 - BO-CNN-GRU B...

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
基于贝叶斯优化的卷积神经网络-门控循环单元回归预测模型及评估指标 - BO-CNN-GRU B...

(Matlab)基于贝叶斯(bayes)优化卷积神经网络-门控循环单元(CNN-GRU)回归预测,BO-CNN-GRU/Bayes-CNN-GRU多输入单输出模型。 1.优化参数为:学习率,隐含层节点,正则化参数。 2.评价指标包括:R2、MAE、MSE、RMSE和MAPE等,方便学习和替换数据。 3.运行环境Matlab2020b及以上

最近在捣鼓时间序列预测的活儿,发现CNN-GRU这个组合拳挺有意思。但调参真是要人命,手动一个个试效率太低,干脆搬出贝叶斯优化这个神器。今天就跟大伙儿唠唠怎么用Matlab整活这个BO-CNN-GRU模型,重点解决多输入单输出的回归问题。

先上硬菜——数据预处理这块儿得整明白。咱们用mapminmax标准化处理数据,这个函数比zscore更适合处理不同量纲的混合特征:

% 数据归一化(这里假设原始数据存储在data矩阵中) [inputn, inputps] = mapminmax(input', 0, 1); [outputn, outputps] = mapminmax(output', 0, 1); inputn = inputn'; outputn = outputn'; % 数据集划分(7:3比例) train_ratio = 0.7; train_size = round(size(inputn,1)*train_ratio); train_input = inputn(1:train_size,:); train_output = outputn(1:train_size,:); test_input = inputn(train_size+1:end,:); test_output = outputn(train_size+1:end,:);

模型架构是CNN和GRU的串行结构。这里有个坑要注意:Matlab的卷积层默认是2D的,处理时序数据得用1D卷积。直接上layerGraph构建网络骨架:

function layers = create_cnn_gru(input_size, num_hidden, reg_param) layers = [ sequenceInputLayer(input_size) % CNN部分 convolution1dLayer(3, 16, 'Padding','same') batchNormalizationLayer reluLayer maxPooling1dLayer(2,'Stride',2) % GRU部分 gruLayer(num_hidden,'OutputMode','sequence') dropoutLayer(0.2) % 输出层 fullyConnectedLayer(1) regressionLayer ]; % 添加正则化 for i = 1:length(layers) if isprop(layers(i),'WeightRegularizer') layers(i).WeightRegularizer = regularizer.l2(reg_param); end end end

贝叶斯优化的重头戏在这里。设置优化变量范围时要注意学习率得用对数尺度,节点数必须是整数:

optimVars = [ optimizableVariable('learning_rate', [1e-4, 1e-2], 'Transform','log') optimizableVariable('num_hidden', [32, 256], 'Type','integer') optimizableVariable('reg_param', [1e-5, 1e-2], 'Transform','log') ]; % 跑30次迭代,别问我为啥选这个数,问就是穷(显存不够) results = bayesopt(@(params)train_cnn_gru(params,train_input,train_output),... optimVars, 'MaxObjectiveEvaluations',30,... 'UseParallel',false);

目标函数的设计是灵魂所在。这里用5折交叉验证的MSE作为优化指标,防止过拟合:

function objective = train_cnn_gru(params, X, Y) options = trainingOptions('adam', ... 'LearnRateSchedule','piecewise',... 'InitialLearnRate', params.learning_rate,... 'MaxEpochs', 100, ... 'MiniBatchSize', 32,... 'Verbose',0); % 5折交叉验证 cv = cvpartition(size(X,1), 'KFold',5); loss = 0; for i = 1:5 train_idx = training(cv,i); val_idx = test(cv,i); net = create_cnn_gru(size(X,2), params.num_hidden, params.reg_param); trained_net = trainNetwork(X(train_idx,:), Y(train_idx,:), net, options); y_pred = predict(trained_net, X(val_idx,:)); loss = loss + mean((y_pred - Y(val_idx,:)).^2); end objective = loss/5; end

最后测试集评估的时候,记得把预测结果反归一化。评价指标的计算用了个小技巧——直接向量化运算,比循环快得多:

% 反归一化 pred = predict(trained_net, test_input); pred = mapminmax('reverse', pred', outputps)'; real = mapminmax('reverse', test_output', outputps)'; % 指标计算 mae = mean(abs(pred - real)); mse = mean((pred - real).^2); rmse = sqrt(mse); mape = mean(abs((pred - real)./real))*100; ssr = sum((real - mean(real)).^2); sse = sum((real - pred).^2); r2 = 1 - sse/ssr; disp(['R²: ',num2str(r2),' MAE:',num2str(mae)]) disp(['RMSE:',num2str(rmse),' MAPE:',num2str(mape),'%'])

实际跑起来发现几个有意思的现象:贝叶斯优化往往会找到比较小的学习率(1e-3左右),正则化参数在1e-4附近波动。节点数倒是经常选到128以上的大值,看来GRU层确实需要足够的容量来捕捉时序特征。

遇到显存不足报错的话,可以试着把MiniBatchSize调小到16或者8。另外数据量大的时候可以把卷积核数量从16增加到32,不过别贪多,CNN部分太深容易把时序特征给卷没了。

最后说个坑:Matlab的贝叶斯优化对参数范围特别敏感,建议先用大范围跑少量迭代锁定大致区间,再缩小范围精细搜索。这个方法比无脑调参快至少3倍,亲测有效!

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/15 1:13:16

港大突破:AI在虚拟世界中学会真实驾驶技能

当我们谈论自动驾驶汽车的未来时,一个看似简单却至关重要的问题始终困扰着研究人员:如何让AI在安全的环境中学会应对各种复杂的驾驶场景?香港大学的研究团队在2024年12月14日发表了一项突破性研究,题为"GenieDrive: Towards …

作者头像 李华
网站建设 2026/4/16 17:52:18

校园外卖系统小程序:从下单到配送的核心业务逻辑与代码实现

校园外卖系统和社会化外卖最大的不同,在于场景高度集中、时间高度重叠、规则相对固定。如果直接套用通用外卖模型,往往在高峰期会出现订单拥堵、配送混乱的问题。因此,在设计校园外卖系统小程序时,从下单到配送的业务逻辑必须更“…

作者头像 李华
网站建设 2026/4/17 19:01:08

基于SpringBoot旅游包车管理系统(毕设源码+文档)

课题说明本课题聚焦旅游包车行业的规范化运营与高效化管理需求,针对当前旅游包车信息不对称、订单管理繁琐、车辆调度低效、行程监管缺失等痛点,设计开发基于SpringBoot框架的旅游包车管理系统。系统以SpringBoot为核心后端框架,结合前端主流…

作者头像 李华
网站建设 2026/4/17 20:26:18

基于springboot跑腿系统微信小程序(毕设源码+文档)

课题说明本课题聚焦同城即时跑腿服务的便捷化与规范化需求,针对当前跑腿服务信息分散、订单匹配低效、服务流程不透明、交易安全无保障等痛点,设计开发基于SpringBoot的跑腿系统微信小程序。系统以SpringBoot为核心后端框架、微信小程序为前端载体&#…

作者头像 李华
网站建设 2026/3/23 19:57:35

基于微信小程序的智慧社区娱乐服务管理平台系统毕设源码+文档+讲解视频

前言 本课题聚焦智慧社区建设中的居民娱乐服务需求,针对当前社区娱乐资源分散、服务信息传递不畅、居民参与互动不足、服务管理效率偏低等痛点,设计开发基于微信小程序的智慧社区娱乐服务管理平台系统。系统以微信小程序为核心载体,结合前端原…

作者头像 李华
网站建设 2026/4/18 5:18:59

计算机Java毕设实战-基于Vue.js的在线智慧社区服务平台在线智慧社区缴费报修服务平台【完整源码+LW+部署说明+演示视频,全bao一条龙等】

博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java、小程序技术领域和毕业项目实战 ✌️技术范围:&am…

作者头像 李华