一种可配置的神经网络激活函数的设计

摘要

设计一个可配置的激活函数模块，可实现5种不同的非线性激活函数.所设计的电路以指数和对数模块为核心，采用分段近似和查找表的方法对其进行近似计算，并根据误差存在的对称性，使用对称映射查表的思想减少逻辑分支.所提出的电路架构可以通过配置来控制不同的数据通路，进而实现不同激活函数计算，且易于拓展.本研究所提出的电路在KC705开发板上进行综合，工作频率可达到350 MHz,在资源消耗、精度与频率上取得了较好的平衡.

关键词

激活函数 / 神经网络 / 近似计算 / 硬件设计

基金资助

福建省自然科学基金资助项目(2022J01083)