[论文解读] Fast Transient Simulation of High-Speed Channels Using Recurrent Neural Network

Thong Nguyen, Tianjian Lu+2 more|arXiv (Cornell University)|Jan 25, 2019

Electrostatic Discharge in ElectronicsEngineering参考文献 28被引用 17

一句话总结

本文提出使用循环神经网络（RNN），特别是长短期记忆（LSTM）网络，通过从短路仿真器序列中学习黑箱宏模型，以加速高速通道的瞬态仿真。训练后的RNN能够以远高于传统SPICE类仿真器的计算速度，高精度地预测完整的眼图，与参考仿真结果高度一致，同时显著缩短运行时间。

ABSTRACT

Generating eye diagrams by using a circuit simulator can be very computationally intensive, especially in the presence of nonlinearities. It often involves multiple Newton-like iterations at every time step when a SPICE-like circuit simulator handles a nonlinear system in the transient regime. In this paper, we leverage machine learning methods, to be specific, the recurrent neural network (RNN), to generate black-box macromodels and achieve significant reduction of computation time. Through the proposed approach, an RNN model is first trained and then validated on a relatively short sequence generated from a circuit simulator. Once the training completes, the RNN can be used to make predictions on the remaining sequence in order to generate an eye diagram. The training cost can also be amortized when the trained RNN starts making predictions. Besides, the proposed approach requires no complex circuit simulations nor substantial domain knowledge. We use two high-speed link examples to demonstrate that the proposed approach provides adequate accuracy while the computation time can be dramatically reduced. In the high-speed link example with a PAM4 driver, the eye diagram generated by RNN models shows good agreement with that obtained from a commercial circuit simulator. This paper also investigates the impacts of various RNN topologies, training schemes, and tunable parameters on both the accuracy and the generalization capability of an RNN model. It is found out that the long short-term memory (LSTM) network outperforms the vanilla RNN in terms of the accuracy in predicting transient waveforms.

研究动机与目标

• 降低高速通道瞬态仿真中的计算成本，特别是在非线性条件下的仿真。
• 用机器学习驱动的模型替代计算密集型的SPICE类仿真，同时保持精度。
• 开发一种无需大量领域知识或复杂电路仿真过程的黑箱RNN宏建模方法。
• 评估RNN架构、训练方案及超参数对信号完整性应用中精度与泛化能力的影响。

提出的方法

• 在SPICE类电路仿真器生成的短瞬态波形序列上训练RNN。
• 使用教师强制策略结合截断时间反向传播（TBPTT）以优化RNN参数。
• 采用Elman RNN（ERNN）拓扑结构，通过共享循环权重实现高效序列建模。
• 比较不同RNN单元：普通RNN、LSTM和GRU，重点关注收敛性与预测精度。
• 使用ReLU激活函数和Adam优化器以提升训练稳定性和收敛速度。
• 在长伪随机比特序列（PRBS）上验证训练后的RNN，以生成完整的眼图。

实验结果

研究问题

• RQ1 RNN模型是否能在不显式建模电路结构的前提下，准确预测高速通道中的瞬态波形？
• RQ2 不同RNN架构（普通RNN、LSTM、GRU）在预测非线性通道响应方面表现如何？
• RQ3 训练序列长度和TBPTT窗口大小对RNN泛化能力及数值误差累积有何影响？
• RQ4 RNN模型能否泛化到超出训练数据长度的更长PRBS序列？
• RQ5 与传统SPICE类仿真相比，RNN方法在精度和速度方面表现如何？

主要发现

• 由于能更好地处理梯度消失问题，LSTM网络在收敛速度和预测精度方面均优于普通RNN和GRU。
• RNN模型生成的眼图与SPICE仿真结果高度一致，最优采样点匹配误差在0.001 μs以内（例如14.662 μs）。
• 与完整SPICE仿真相比，计算时间减少了数个数量级，推理速度显著快于迭代牛顿类求解器。
• 由于TBPTT导致的数值误差在长序列中持续累积，导致在数十万比特后性能下降，表明当前训练方法存在局限性。
• 在初始训练完成后，该方法无需复杂的电路仿真或领域专业知识，即可实现快速推理和模型复用。