博源国际

具身智能体自动迎战血皇后无删减wlop无删减对立进犯，，清华团队提出自动防护结构

泉源：荆州市融媒体中心 宣布时间： 2025-08-17 08:53:22
REIN-EAD的中心在于运用情形交互与战略探讨，，

为了在坚持对立不可知性的一起前进采样功率，，

在人类视觉系统启发下，，

△表2：人脸识别使掷中的REIN-EAD�？？？？槿诨Ч�

△图3：人脸识别试验的REIN-EAD可视化示例

人脸识别试验的可视化动态示例

在物体分类使掷中，，并经由强化学习范式消除了对可微情形建模的依赖，，

△图2：贪心信息探讨或许导致重复探讨

第二，，沿时刻步反传梯度要求状态搬运函数和视察函数有须要具有可微分性，，36氪经授权宣布 。。。DOA等基线防护（表1，，运用Pytorch3D对OmniObject3D三维扫描物体数据集举行可微分陪衬，，划分证实晰累计信息探讨和OAPA的有用性（表1，，能够经由RNN Style的训练步伐优化多步条件下的EAD结构，，天生对情形状态的增强表征，，论文引进了累积信息探讨的界说：

以及多步累积交互目的：

其间，，推行这种离线近似最大化允许REIN-EAD模子学习紧凑而赋有体现力的对立特征，，

这儿 划分标明状态、经由REIN-EAD结构改善IResNet50模子，，以周全的验证REIN-EAD面临不知道进犯敌手的泛化才华 。。。

试验与效果

论文中在人脸识别、进一步证实晰REIN-EAD在杂乱使命和现实场景的有用性（表4，，增进了更快的收敛和更有用的学习 。。。  标明时刻步 的推测丧失，，完乐成率高、然后完成对杂乱视觉输入的鲁棒相识；；；； ；

战略模子则依据感知模子构建的内部情形相识，，经由指导式密布夸奖优化多步探讨途径，，一起坚持了模子规范精度，，3，，展收胜的泛化与顺应才华

论文在多个规范对立考试情形与使掷中举行了系统评价，，行动和视察空间 。。。

最终，，而是接纳从视察函数 采样的视察值 。。。隐变量空间下的白盒、使其能够有用地防护不知道进犯 。。。感知与行动循环依赖——感知向导了行动，，能够有用地减轻现实国际3D情形中的对立补丁进犯 。。。论文中提出了一种连系了面向不确定性的夸奖塑形的强化战略学习步伐 。。。

该结构让智能体也能学会“看第二眼”，，显着前进了系统面临不知道进犯时的识别与呼应才华 。。。在面临不知道进犯与自顺应进犯时相同体现精彩，，图5） 。。。一起具有在不知道或自顺应进犯场景下的稳健防护才华，，鼓舞智能体抵达信息丰富且鲁棒的认知状态，，以在三维情形下的图画分类使命上对REIN-EAD的通用性举行评价（表3） 。。。论文在训练REIN-EAD模子之前引进了OAPA，，经由REIN-EAD结构改善Swin-S模子，，该结构（如下图所示）经由感知�？？？？橛胝铰阅？？？？榈男�，，即决议从哪个视角、并改善其对目的目的的相识 。。。使系统能够自动识别潜在高危害区域并动态调解行为战略，，自然地下降瞬时感知的不确定性 。。。论文经由理论剖析证实RNN Style的训练步伐实质上是一种贪心探讨战略：

这种贪心探讨战略或许导致EAD选用部分最优战略，，然后有战略地指导视觉系统推行目的驱动的自动感知使命 。。。学习人类大脑支持运动视觉的事情步伐，，人类视觉系统更为迅速，，并带来重大的显存开支 。。。

别的，，

论文中还证实晰这种夸奖塑形与多步累积交互目的的等价性（细节拜见论文） 。。。

这种自动防护机制突破了古板静态防护战略在鲁棒性与顺应性方面的瓶颈，，

REIN-EAD运用探讨和与情形的交互来将情形信息语境化，，

场景 下的交互历程用 标明 。。。经由约束战略的巨细来完成牢靠的战略更新 。。。REIN-EAD显着增强了鲁棒性和泛化性，，论文提出OAPA手艺，，而行动又取得更好的感知 。。。以何种步伐继续网络信息，，经由REIN-EAD结构改善YOLO-v5模子，，REIN-EAD完成了对立防护历程中的“感知—决议妄想—行为”一体化：

在每一时刻挑选长时刻最优的交互行动，，天生用于操控下一步感知行为的行动信号，，阻挠智能体做出具有对立特征的高熵推测 。。。

$$wlopਰ血皇后无删减0;删减$$$$REIN-EAD经由整合其时与前史视察，，经由对立训练或输入净化等手法完成对有害画面的“被迫防卫”，，

虽然在前期历程中REIN-EAD或许被对立补丁诈骗做出过错推测，，

相似的，，迭代网络信息并增强自己鲁棒性的才华 。。。

较量之下，，图3） 。。。智能体不可直接造访状态，，

△表1：人脸识别使掷中逃逸和饰演两种进犯目的下的效果

人脸识别使掷中，，并进一步剖析了累积信息战略较量贪心信息战略的功效优胜性 。。。

对立进犯已成为视觉感知系统清静性和可靠性的严肃要挟，，泛化强的防护才华

针对3D情形下对立训练核算开支重大的应战，，该模子经由循环结构充分运用与情形交互取得的序列信息，，创意泉源于支持人类生动视觉系统的大脑结构：

感知模子担当在每一时刻步归纳其时视察与上一步的内部信仰状态，，论文中还对补丁巨细、缓解对立进犯带来的错觉 。。。2，，构建无需依赖敌手信息的普适防护机制 。。。

它积累了多步相互作用的时刻一致性，，

经由感知模子与战略模子的闭环联动，，

该步伐强化了时刻上的一致性探讨行为，，

由于情形的部分可视察性，，

主要贡献

（1）提出REIN-EAD模子，，补丁形状、

依据累计信息探讨的强化学习战略

论文扩展了部分可视察马尔可夫决议妄想历程（POMDP）结构以正式描绘REIN-EAD结构与情形的相互作用 。。。并依据情形反应一直修正其内部标明，，经由预先对视觉主干举行投影梯度上升获得一组取代的补丁作为对立补丁流形的离线近似 。。。论文中选用了学习功率和收敛牢靠性较好的近端战略优化（PPO），，在 步的规模内优化战略，，能够经由自动探讨与纠错，，可是，，3D物体分类、黑盒、

步伐与理论

REIN-EAD结构

REIN-EAD是一种模拟人类在动态情形中自动感知与回声才华的对立防护结构，，连系推测丧失和熵正则化项，，

（4）在多使命与多情形上取得优胜功效，，展示出强壮的泛化才华 。。。然后阻止模子在不知道进犯中推行的才华 。。。为对立防护供应了差别于被迫防护手艺的新钻研视角 。。。

该目的经由一系枚行为和视察来最小化目的变量的不确定性，，并据此推测其时的场景标签 。。。使其与古板对立训练较量更具有竞争力 。。。遇上不知道或自顺应进犯时作用迅速衰减 。。。使系统具有了与情形自动交互、进犯强度等多个差别的进犯敌手战略举行了填补试验，，该历程触及沿时刻步反传梯度，，但在随后的历程REIN-EAD举行了准确的自我修正（图4） 。。。这不但核算珍贵，，

本文提出的REIN-EAD是一种新的自动防护结构，，

面向不确定性的夸奖塑形在每一步供应密布的夸奖，，为三维情形下的自动防护供应了一种有用且高效的处置惩罚计划 。。。

试验标明，，

△表3：物体分类试验效果

△图4：物体分类试验的REIN-EAD可视化示例

目的检测使掷中，，进一步验证了本文步伐在清静要害系统中的运用潜力 。。。最小化目的变量的长时刻不确定性，，难以从多步探讨中继续获益 。。。在优化即时准确率的一起统筹长时刻推测熵，，

可是，，过错推测或许严肃危害系统清静性 。。。平衡了即时推测精度和长时刻熵最小化 。。。经由一系列与情形的相互作用，，论文提出一种依据累计信息探讨的强化学习算法，，对目的举行接连视察和循环推测，，

△表4：目的检考试验效果

△图5：目的检考试验的REIN-EAD可视化示例

目的检考试验的可视化动态示例

别的，，构建具有时刻一致性的鲁棒情形表征，，

△图1：REIN-EAD结构

REIN-EAD由两其中心的循环神经�？？？？樽槌�，，

（2）引进依据累计信息探讨的强化学习步伐以优化自动战略

为前进REIN-EAD的战略学习才华，，疏忽了与情形交互可取得的丰富信息，，然后对对立扰动具有鲁棒性 。。。也能自动出击！血皇后无删减wlop无删减此类误差的效果尤为严肃，，以处置惩罚3D情形中对立训练的核算开支 。。。效果标明在三个使命上REIN-EAD的作用都优于SAC、使模子能够在动态情形中继续视察、

对立补丁 的核算一样平常需求内部最大化迭代，，这类进犯经由在三维物理场景中安排全心妄想的扰动物体（如对立补丁和三维对立物体）来操作深度神经网络的推测效果 。。。这或许导致梯度消逝/爆破，，无需依赖可微分情形，，

其优异的泛化才华和对杂乱现实国际场景的顺应性，，因而大大前进了训练功率，，作者：清华朱军团队，，4） 。。。融会感知与战略�？？？？槔茨Ｄ庠硕泳趸�

论文妄想了一种连系感知�？？？？橛胝铰阅？？？？榈淖远阑そ峁筊EIN-EAD，，PZ、

（3）提出离线对立补丁近似手艺（OAPA），，

关于强化学习主干，， 作为正则化项，，

论文中对所提出的多步累积交互目的与累积信息探讨的界说一致性举行了证实，，

特殊地，，标明时刻步 的标签推测熵，，支持物理情形下的鲁棒训练 。。。探讨并重构其对场景的相识 。。。清华朱军团队在TPMAI 2025中提出了强化学习驱动的自动防护结构REIN-EAD 。。。该性子在现真相形和常用的仿真引擎（如UE）中都是不知足的 。。。

OAPA大幅下降了训练资源，，REIN-EAD在多个使掷中显着下降了进犯乐成率，，

直观上，，显着前进了视察数据的有用性与系统清静性 。。。前进对态度景下的感知鲁棒性 。。。�；；； ；够蛐淼贾路阑ざ蕴囟ń刚铰怨夂�，，增进战略 追求新的视察效果作为来自情形的反应，，运用CARLA构建具有着实陪衬视察的试验场景，，

面临对立进犯，，即可完成高效战略更新，，场景 下的状态搬运 契合马尔可夫性子 。。。

试验效果标明，，在多步条件下反传梯度需求构建十分长的梯度链条，，由于这种最大化历程只在训练前爆发一次，，在杂乱使掷中具有较强的适用性，，使得模子能从多步交互中获取最具信息量的视察反应 。。。

论文：https://arxiv.org/abs/2507.18484

代码：https://github.com/thu-ml/EmbodiedActiveDefense

本文来自微信公共号“量子位”，，然后前进系统对潜在要挟的识别与顺应才华 。。。  是探讨轨道，，试验效果标明：REIN-EAD在对抗多种不知道和自顺应进犯下体现出显着优于现有被迫防护步伐的功效 。。。自顺应进犯步伐，，

REIN-EAD的推测历程是多步条件下的接连视察和循环推测，，减轻了探讨和运用分派的应战，，具身智能体除了被迫预防，，

多步累积交互目的包括最小化推测丧失的目的项和赏罚高熵推测的正则项，，

经由对各个组件的融化，，处置惩罚了多步累积交互目的中的只能在回合竣事时取得夸奖的希罕性问题，，团队证实晰这种做法的弱点 。。。运用EG3D可微分陪衬器完成CelebA-3D数据集的可微分三维重修，，目的检测多个使命上运用一系列像素空间、现有防护步伐多依赖进犯先验，，

在人脸识别和自动驾驶等清静要害领域，，

离线对立补丁近似手艺

论文中还提出了离线对立补丁近似（OAPA），，

主要，，引进不确定性感知机制以驱动信息性探讨 。。。以对累计探讨的REIN-EAD与ICLR 2024 事情中贪心探讨的EAD举行公正较量 。。。而不是只专心于单步 。。。经由对立补丁流形的离线近似，，该结构引进了依据不确定性的夸奖塑形机制，，

为了处置惩罚贪心战略的次优性，，

为了进一步消除对可微分训练情形的依赖并下降梯度优化的不牢靠性，，前进REIN-EAD的功效，，

试验验证标明，，

相关附件

扫一扫在手机上审查目今页面