文章针对物理信息机器学习(PIML)中线性标量化损失函数的局限性,提出多梯度下降算法(MGDA)新范式。通过将数据驱动损失和物理损失作为独立目标构建多目标优化问题,采用传统多梯度下降(TMGD)和对偶锥梯度下降(DCGD)探索帕累托前沿。在宏观LWR模型和微观IDM跟驰模型上的实验表明:宏观场景中MGDA与传统方法性能相当;微观场景中DCGD将位置预测误差降低28.9%,速度误差降低24.7%,显著优于线性标量化方法。该方法免除超参数调优过程,理论保证覆盖非凸损失空间。
物理信息机器学习(PIML)在交通流建模中面临核心挑战:传统线性标量化损失函数 \(\mathcal{L}=\alpha\mathcal{L}_{data}+\beta\mathcal{L}_{physics}\) 隐含线性权衡假设,且超参数调优成本高昂。现有方法需执行上万次实验寻找最优\(\alpha/\beta\)组合,且仅能覆盖帕累托前沿的凸区域。文章提出范式转换——将PIML训练重构为多目标优化问题:
\[ \min_{\boldsymbol{\theta}} \left( \mathcal{L}_{\text{data}}(\mathbf{X};\boldsymbol{\theta}), \mathcal{L}_{\text{physics}}(\mathbf{X};\boldsymbol{\theta}) \right) \]
通过多梯度下降算法直接处理非凸目标空间,避免人工权重分配,理论上保证覆盖更广的帕累托最优解。
定义解\(\boldsymbol{\theta}^{*}\)的帕累托最优性:不存在其他解在全部目标上均优于\(\boldsymbol{\theta}^{*}\)。算法以帕累托平稳点为收敛准则:
\[ \sum_{j=1}^{N}\alpha^{j}\nabla_{\boldsymbol{\theta}^{sh}}\mathcal{L}^{j}=0 \quad \text{且} \quad \sum\alpha^{j}=1 \]
当目标函数凸性强时,帕累托平稳点等价于帕累托最优点。
传统多梯度下降(TMGD):通过Frank-Wolfe算法求解梯度凸包的最小范数点。每次迭代:
对偶锥梯度下降(DCGD):构建对偶锥子空间\(\mathbf{G}_{t}\),包含同时降低双目标的方向。三种变体:
收敛性由Lipschitz连续条件保证,满足\(\|g_t^{dual}\| \geq M\|\nabla\mathcal{L}\|\)时误差按\(O(1/T)\)下降。
基于犹他州实测数据构建LWR-PINN模型:
MGDA方法相对误差:密度0.6270±0.0024,速度0.1984±0.0009,与传统方法相当。DCGD-AVER因低分辨率数据物理梯度冲突导致速度误差增加16%
基于NGSIM数据集构建物理信息跟驰模型:
多梯度下降算法为PIML提供更优优化范式:免除超参数调优,理论覆盖非凸解空间,微观场景性能提升显著。未来方向:加速大规模优化计算,研究约束处理机制,探索连续帕累托前沿生成方法。开源代码支持交通领域PIML模型重构。