bluearXiv-ai 论文精选

2026-06-03

📚 跟踪学科 (Categories)

🔍 筛选关键词 (Keywords)

📊 论文统计 ↑ 回顶部

cs.LG
149
cs.AI
81
cs.IR
14
cs.CL
93
cs.DS
6
others
172
总计
515

⭐ 精选论文 ↑ 回顶部

cs.LG

Jiale Chen et al.
cs.LG cs.CL
Jose Marie Antonio Miñoza, Rex Gregor Laylo, Sebastian C. Ibañez
cs.LG cs.AI cs.CE math.PR physics.ao-ph
Jianliang He et al.
cs.LG math.OC math.RT math.ST stat.ML
Kaiwen Chen et al.
cs.LG cs.AI cs.DC
Jingbo Yang et al.
cs.LG cs.CL
Alston Lo et al.
cs.LG physics.chem-ph
Canbin Huang et al.
cs.LG cs.AI cs.CL

cs.AI

Zhihan Lei et al.
cs.AI cs.CL
Matteo Stabile, Enrico Zimuel
cs.AI cs.CL

cs.CL

Dongwon Jung et al.
cs.CL cs.AI
Hengrui Gu, Xiaotian Han, Kaixiong Zhou
cs.CL cs.AI

cs.DS

others

Eliot Krzysztof Jones et al.
cs.CR cs.AI
Farooq Shaikh
cs.CR cs.AI cs.MA
Jonas Guan et al.
cs.CR cs.AI cs.LG

📄 所有论文 ↑ 回顶部

cs.LG

Jiale Chen et al.
cs.LG cs.CL
本文针对LLM量化中权重和激活值的极端异常值问题,提出了一种近最优的自适应线性变换WUSH。该方法通过推导出在标准RTN AbsMax-scaled block quantizers下的闭式最优线性块变换,将Hadamard backbone与数据依赖的二阶矩分量结合,形成一种非正交变换,在温和假设下对FP和INT量化器具有可证明的近最优性。WUSH在W4A4量化场景下显著优于基于Hadamard的基线方法,例如在Llama-3.1-8B-Instruct的MXFP4格式上,RTN方法平均提升+2.8个点,GPTQ方法提升+0.7个点,同时通过FP4 MatMul实现了高达5.8倍的逐层吞吐量提升。该工作为LLM量化中的自适应变换提供了理论最优性保证和高效实现。
Anherutowa Calvo
cs.LG
本文提出了一种精确的谱对齐分解(Spectral Alignment Decomposition),将神经网络损失景观的曲率指数\(\alpha\)(控制Hessian特征值与梯度奇异值的标度关系)分解为\(\alpha = 2 + d\log\Phi_k / d\log\sigma_k\),其中\(\Phi_k\)衡量Kronecker因子特征基与梯度奇异方向之间的对齐程度。该分解将\(\alpha\)在不同层类型(如卷积层\(\approx 2\)、Transformer注意力层\(\approx 1\))中的变化归结为一个几何问题,并针对LayerNorm、残差连接和softmax头给出了解析答案。进一步,作者推导出谱传递恒等式\(s = \alpha\gamma\),将曲率指数、有效梯度秩衰减\(\gamma\)与Hessian衰减指数\(s\)联系起来,并在93个层、5种架构和3个数据集上以无自由参数的方式验证了该恒等式(中位误差约2%)。作为概念验证,作者基于该理论设计了架构自适应预条件子\(T(\sigma;\alpha)\),并在梯度奇异基中实现了Spectral Newton方法,在\(\alpha \approx 2\)的视觉基准上超越了AdamW。该工作与关键词“spectral”高度契合,并为理解神经网络优化中的谱性质提供了开创性的理论框架。
Yixian Shen et al.
cs.LG
本文提出Spectral-Progressive Thought Flow (SpecFlow),一种轻量级多模态空间推理框架。其核心创新在于将中间视觉思维表示在固定大小的离散余弦空间(discrete cosine space)中,利用能量压缩特性保留全局布局与关系结构,仅在需要高空间精度时引入高频细节。通过无分类器引导(classifier-free guidance),使自回归文本思维能够引导视觉工作空间的流式更新,而无需扩展上下文长度。该方法在保持有界视觉工作空间的同时,实现了与推理深度无关的稳定延迟和内存占用,在计算和KV cache开销上降低达2.1倍,与关键词中的“spectral”和“attention”高度契合。
Liyan Tan et al.
cs.LG cs.AI
GRZO提出了一种Group-Relative Zeroth-Order优化方法,通过为每个mini-batch样本生成一个伪独立扰动,并利用group-relative normalization聚合每个样本的loss,从而在不增加额外前向计算成本的前提下,将有效梯度方向数从1提升至batch size。该方法被证明是方向无偏的,且方差随batch size成比例缩小,在非凸优化中获得了比MeZO更紧的收敛界。在RoBERTa-large、Llama3-8B和OPT-13B等模型上的实验表明,GRZO在Llama3-8B上相比MeZO平均准确率提升\(+3.0\),峰值GPU内存降低\(23\%\),并可作为MeZO核心的即插即用替代,平均提升稀疏、低秩和量化ZO变体\(+6.0\)。该方法与关键词中的“context”和“attention”无直接关联,但为LLM微调中的memory-efficient优化提供了新的思路。
Jose Marie Antonio Miñoza, Rex Gregor Laylo, Sebastian C. Ibañez
cs.LG cs.AI cs.CE math.PR physics.ao-ph
本文提出了一种基于Neural Tangent Kernel (NTK) 的极端天气预报不确定性量化方法 (NTK-UQ),利用最后一层经验特征实现可扩展的不确定性估计。理论分析揭示了UQ质量依赖于架构的两个机制:一是方差崩溃机制,解释了当特征谱集中时 (如spectral operators) 需要激进截断 (\(k \leq 10\)) 才能避免UQ失效,而attention-based模型可容忍全秩计算;二是分解性能依赖于极端天气的非高斯重尾结构,通过Independent Component Analysis (ICA) 利用高阶统计量 (如kurtosis) 分离重尾极端事件特征,优于仅捕捉二阶方差的奇异值分解。该方法无需重新训练,推理时仅需每个样本一次矩阵-向量乘积,相比split conformal prediction在90%覆盖率下实现了31-37%更窄的预测区间,并能生成随极端事件严重性自适应缩放的不确定性区间。
Ryan Swart, Johannes Brust
cs.LG math.NA math.OC
本文提出SNMPBB算法,首次将非单调投影Barzilai-Borwein方法应用于Symmetric Nonnegative Matrix Factorization (Symmetric NMF)问题,证明了梯度算法在该问题上的有效性远超以往认知。算法通过引入graph Laplacian正则化扩展至图聚类(Graph-SNMPBB),并利用低秩随机近似处理大规模问题(LAI-SNMPBB),所有变体均保证全局收敛到first-order stationary points。实验表明,SNMPBB在合成数据上相比SymANLS实现6倍加速,在六个真实聚类基准中匹配或超越现有精度,且LAI-SNMPBB在34个SuiteSparse矩阵上优于当前最优方法。该方法为图聚类中的谱方法(spectral)提供了新的优化工具,与关键词“spectral”较为契合。
Jianliang He et al.
cs.LG math.OC math.RT math.ST stat.ML
本文通过将两层神经网络的projected gradient flow提升到Fourier domain,严格证明了在group composition任务中,每个神经元几乎必然收敛到单个irreducible representation,且跨层Fourier系数实现rotational rank-one alignment。该工作为特征学习提供了representation-theoretic解释,并刻画了矩阵值group representation的新型低秩压缩现象。对于Abelian groups,作者给出了完整的population-level描述:随机初始化促进非平凡representation的均匀多样化并诱导Haar-uniform phases,通过majority-vote机制近似indicator。这一框架与关键词中的spectral和representation learning高度契合,具有方法上的开创性。
Saptarshi Mitra et al.
cs.LG cs.AR
本文提出MOSAIC框架,通过整数线性规划(ILP)联合优化专家放置与每worker的prompt分配,并引入置信度感知的自适应聚合机制,利用专家间一致性跳过重型聚合LLM。该方法在4-GPU系统上实现了最高2.5x的专家阶段加速和1.7~2.3x的端到端加速,同时保持精度在0.1pp以内。该工作与关键词"agent"高度契合,为Mixture-of-Agent系统的调度效率提供了开创性解决方案。
Kaiwen Chen et al.
cs.LG cs.AI cs.DC
本文提出Libra系统,针对agentic RL(强化学习)后训练阶段中rollout(轨迹生成)与训练之间的资源管理问题。其核心创新包括:一个周期性全局资源规划器,通过弹性混合池实现GPU在rollout与训练集群间的轻量级非阻塞重分配;以及一个因果驱动的多级反馈队列(C-MLFQ)调度器,基于工具返回结果的因果信号而非脆弱的长度预测来路由请求。实验表明,Libra在48块A800 GPU上相比基线实现了最高3.0倍的吞吐量提升和2.5倍的奖励收敛加速,有效解决了agentic RL中长尾、非平稳工作负载带来的资源管理挑战。
Jingbo Yang et al.
cs.LG cs.CL
本文提出FederatedSkill,一种用于多智能体协作技能演化的隐私保护框架。不同于直接共享原始trajectory,该方法将语义技能差异(semantic skill diffs)作为通信单元,在服务器端通过演化智能体(evolution agent)聚合这些补丁以动态建模客户端的能力边界,从而实现严格个性化的技能演化而非全局平均。在20个agent任务族上的实验表明,该方法相比自演化基线在成功率上提升高达44.4%,并降低了37.5%的计算成本,为agent协作学习中的隐私与异质性挑战提供了开创性解决方案。
Alston Lo et al.
cs.LG physics.chem-ph
本文提出Clari,一种基于flow matching的大规模生成模型,用于快速有机晶体结构预测。Clari通过生成无冗余的unit cell并采用纯pair-bias attention替代昂贵的triangle layers,将每个分子的预测时间从分钟级降至秒级,同时实现了15-30倍的加速。该方法无需RDKit可处理的输入分子,可适用于富勒烯、金属配合物等复杂化学体系,并通过直接能量排序支持推理时扩展。Clari在OXtal测试集上超越了其求解率,为大规模有机固体虚拟筛选提供了实用工具。
Parth Verma et al.
cs.LG cs.AI
本文提出GFFMERGE,首个针对Graph Neural Network (GNN)中force field regression任务的闭式模型合并框架。通过利用message-passing层的线性结构,将模型合并形式化为一个具有解析解的凸embedding-alignment问题,解决了现有视觉和语言领域的合并方法在force field回归上完全失效的问题。该方法在分子、固态及大规模图基准测试中,实现了5-27倍的速度提升,且其闭式解在微调前即优于所有基线方法,为模块化组合专业模型提供了高效初始化。
Yancheng Chen et al.
cs.LG cs.AI
本文提出Prismatic Space Theory (PS-Theory),一个用于量化图适应方法能力的数学框架,并严格证明了graph prompt tuning的适应能力存在理论上界。基于该理论,作者进一步提出Message Tuning for GFMs (MTG)方法,通过在GNN backbone的每一层注入少量可学习的message prototypes来自适应地引导message fusion,而不更新预训练权重。PS-Theory证明MTG的适应能力可以超越graph prompt tuning的理论上界,实验也验证了其优越性。这项工作为理解图基础模型的适应能力提供了新的理论视角。
Ankang Yang et al.
cs.LG
本文提出了一种名为SPG的graph foundation model,通过spectral parsing和prototype-guided spatial propagation来解决跨图迁移中的结构多样性挑战。模型利用可学习的Chebyshev filters将node features分解为多个spectral responses,以匹配不同频率的graph signals与传播行为,并构建Gromov-Wasserstein prototype geometry来提取可迁移的pairwise relations,从而在共享结构空间中学习原型几何并投影为传播算子。该方法在跨域泛化任务上取得了显著改进,为graph foundation model的spectral视角和结构迁移提供了开创性思路。
Can Lv et al.
cs.LG
本文提出了一种名为GEAR的probabilistic graphical框架,用于解决rubric-based reinforcement learning中的False Credit Propagation问题。该方法将每个criterion outcome建模为latent Bernoulli event,通过typed rubric graph中的soft suppression机制传播依赖关系,并聚合为normalized expected signed utility,实现了线性时间复杂度的reward计算。实验表明,GEAR在HealthBench等基准上相比flat aggregation和deterministic gating方法取得了显著提升,并将FCP泄漏减少了96.5%。该工作与关键词中的“agent”和“context”较为契合,为基于rubric的agent训练提供了更合理的reward聚合方法。
Bingxu Liu et al.
cs.LG cs.AI
本文提出Gaussian Trust Region Policy Optimization (GTR)方法,通过使用Gaussian kernel重塑trust region,解决了PPO在非平稳环境中因缺乏几何感知而导致的局部更新效率低下问题。GTR的约束是有界且非单调的,能在高优势更新下逐步放松限制,从而促进行为模式的转变。该方法还引入Mixture Gaussian Anchor来适应近期策略轨迹,减少由陈旧参考引起的方差,并在游戏、机器人控制、开放世界探索和语言模型后训练等多个领域取得优异性能。这项工作为强化学习中的trust region设计提供了新的几何感知视角。
Canbin Huang et al.
cs.LG cs.AI cs.CL
本文针对MoE架构中模型合并导致的routing breakdown问题,提出了一种无需训练的校准框架HARC。该工作通过利用二阶曲率信息(Hessian矩阵)对合并后的router进行闭式校准,并采用无矩阵共轭梯度法高效求解。实验表明,该方法在数学推理和代码生成任务上显著提升了合并性能,有效解决了因softmax和Top-k路由机制对参数扰动敏感而导致的专家分配失效问题。
Lorenz K. Muller et al.
cs.LG
本文提出KVarN,一种无需校准的KV-cache量化方法,通过应用Hadamard rotation和dual-scaling variance normalization来修正outlying token-scale errors,从而显著减少自回归解码中量化误差的累积。该方法在2-bit精度下,于MATH500、AIME24和HumanEval等生成式benchmark上达到了state-of-the-art性能,有效缓解了长序列推理中的memory bottleneck问题。这与关键词中的attention(涉及KV-cache)和code(涉及HumanEval代码生成任务)较为契合。
Zhengbao He et al.
cs.LG
本文提出了一种名为Compress-then-Merge (CtM)的新方法,用于将多个LoRA(Low-Rank Adaptation)适配器合并为一个低秩适配器。与传统的先合并后压缩(Merge-then-Compress)流程不同,CtM通过先计算共享的\(r\)维子空间来强制施加秩约束,再将每个适配器投影到该子空间中获得\(r\times r\)的坐标,最后在缩减空间中进行合并。该方法保证了合并结果严格为rank-\(r\) LoRA,避免了后验截断(truncated SVD)对低秩结构的破坏,并在多个模型和任务上显著优于现有基线方法。该工作与关键词中的“context”和“attention”有一定关联,因为LoRA常用于微调注意力机制中的权重矩阵。
Hongye Cao et al.
cs.LG cs.AI
本文提出TAO-RL框架,通过工具感知轨迹过滤与熵引导探索相结合,解决了agentic RL中工具使用导致的训练不稳定问题。在数据层面,该方法根据工具执行成功性和轨迹信息性过滤rollout数据,保留高质量训练分布;在算法层面,引入工具感知的熵引导奖励重塑后工具调用token的优势函数,鼓励关键决策点的多样化推理路径。实验在7个推理基准和3个模型规模上验证了该方法优于现有方法,为agent的强化学习提供了高效优化方案。
Xianliang Li et al.
cs.LG
本文通过理论分析揭示了Muon优化器中momentum的实质作用:在信号加扰动的梯度模型下,momentum作为spectral filter抑制扰动并放大主导信号,从而扩大spectral gap。这一gap的增大稳定了传递给Muon正交化步骤的矩阵的奇异子空间,使得更新更可靠。作者进一步证明,在正交化之前应用momentum比反向顺序或移除momentum能实现更强的梯度信号对齐。实验(包括LLM pretraining)验证了理论,为理解momentum在基于矩阵的优化器中的作用提供了新视角。
Tao Chen et al.
cs.LG cs.CL
本文提出Skill Reward Model (Skill-RM),将reward modeling重新定义为可复用的Reward-Evaluation Skill的执行过程。通过将reward计算视为结构化的agentic任务,Skill-RM提供了一个统一接口来编排异构评估标准(如rule-based verifiers、ground-truth references等),并动态选择和聚合针对每个输入的证据。该方法使reward model超越静态评估,在best-of-N选择和reinforcement learning等下游任务中一致优于传统judge基线。Skill-RM为reward modeling提供了统一解决方案,并通过证据的战略性动态编排实现了更优性能。
Oleg Miroshnichenko
cs.LG
本文提出了Human-in-the-Loop Gated Bandit (HITL-GB)框架,用于短期租赁市场的动态定价问题,其中人类审批者可以修改或拒绝bandit算法的定价建议。作者证明,在审批约束下,历史定价数据在结构上等价于在线策略的预热数据,从而将冷启动周期从约150个episode压缩至约30个episode。该工作主要关注实际部署中的冷启动问题,与关键词中的code, context, spectral, Muon, pretrain, agent, attention关联度较低。
Md Fahimul Kabir Chowdhury, Gahangir Hossain
cs.LG cs.CR
本文提出了一种轻量级CNN架构用于提高EEG-based BCI系统在对抗攻击下的鲁棒性,并在两个数据集上与EEGNet等模型进行了对比实验。实验表明该模型在分类性能和鲁棒性上优于基线模型,但方法本身缺乏显著的开创性,且与关键词列表中的概念关联较弱。
Jacob Wong et al.
cs.LG cs.HC
本文通过大规模跨数据集分析,评估了不同头皮区域(如frontal, fronto-central)的EEG特征对认知负荷预测的贡献,发现frontal电极组在混合被试和独立被试评估中均优于全头皮基线。该研究为设计高效、可泛化的EEG工作负荷监测系统提供了区域级指导,但方法上未涉及code, context, spectral, Muon, pretrain, agent, attention等关键词。
Alejandro Ascarate et al.
cs.LG
本文指出在类分割异常检测中,当异常类与正常类在表示空间重叠时,评估协议可能失效,导致异常分数不稳定甚至反转。作者提出了一种无需训练的邻域类泄漏诊断方法,并在多个数据集上验证了其预测能力。
Yuanfang Chen et al.
cs.LG cs.CV
本文提出了一种基于拓扑感知排序的Graph Mamba生存分析框架(TopoMamSurv),通过设计双向Mamba模块和图卷积网络,解决了WSI分析中长程依赖建模、计算效率和空间结构利用之间的矛盾。该方法在五个TCGA数据集上验证了性能优势。
Karan Sehgal, Khawar Naveed Bhatti
cs.LG cs.AI
本文提出一个确定性气候风险智能框架,整合了单一事实来源编排、时间异常检测、不平衡感知集成学习和可解释性治理,用于可审计的ESG验证。该框架通过合成基准数据集和多种评估指标,旨在提升ESG报告的可重复性、可解释性和可操作性审计能力。
Nikola Cenikj et al.
cs.LG cs.AI eess.IV
本文提出StenCE框架,通过ECG与血管造影的cross-modal contrastive learning进行pretraining,以从ECG中提取可用于严重狭窄分类的特征。该方法在多个ECG encoder上取得了一致的性能提升,但未涉及code、context、spectral、Muon、agent或attention等关键词。
Yang Xu et al.
cs.LG cs.AI
本文提出ReLoRA框架,通过自适应初始化和带调度正则化的微调,高效恢复因基础模型更新而失效的LoRA适配器,以加速大语言模型服务的部署。该方法在保持或提升任务性能的同时,显著缩短了服务就绪时间。
David Turtora Zagardo
cs.LG cs.AI cs.CR
本文提出了一种名为Geometry-Aware Tabular Diffusion (GATD)的方法,通过向tabular diffusion denoiser中引入基于列值差异计算的pairwise angles和lengths作为输入和辅助目标,来显式建模列间关系。实验表明,该方法在多个数据集上以更少的参数取得了更优的性能,并验证了显式关系监督作为一种可迁移的inductive bias的有效性。
Leonid Berlyand et al.
cs.LG
本文提出了一种基于Marchenko-Pastur随机矩阵理论的深度神经网络剪枝方法,通过分析层间权重的谱特性来指导剪枝决策,并在ImageNet-1k上验证了ViT和CNN模型在少量微调下的精度保持能力。该方法主要关注剪枝后的快速校准与微调,而非长期重优化流程。
Jan Bauer et al.
cs.LG cs.AI
本文改进了Activation Oracles (AOs)的训练流程,包括on-policy rollout、改进对话数据集和注入公式等,并开源了首个综合评估套件AObench。这些改进在能力上提升有限,但显著改善了使用体验。
Aizierjiang Aiersilan
cs.LG cs.CL
本文研究了量化LLM(4-bit NF4量化)中间层隐藏状态中是否存在线性可分的真实性信号,发现对单个中间层(如Llama-3.1-8B的第13-18层)使用linear probe即可达到0.904-1.000 AUROC,显著优于基于采样的检测方法。该工作主要关注hallucination检测,与关键词中的code, context, spectral, Muon, pretrain, agent, attention关联较弱。
Prince Poudel
cs.LG q-fin.CP q-fin.ST
本文提出一个框架,在Markov-switching分布偏移下量化regime composition mismatch带来的额外风险,得到精确分解并扩展到beta-mixing数据。该框架不是预测工具,而是对已实现泛化差距的事后惩罚。
Dong Li et al.
cs.LG cs.AI
本文提出了一种基于对比学习的动态多模态数据融合模型CL-DMDF,通过跨特征和模态维度的注意力机制以及实体质心对比学习模块,处理模态缺失问题并提升融合效果。实验在三个数据集上验证了其有效性。
Vivin Vinod, Peter Zaspel
cs.LG cs.AI physics.chem-ph
本文提出了一种自适应多保真度机器学习框架,通过动态查询不同保真度的训练样本来减少数据冗余,在量子化学计算中显著降低了数据生成成本。该方法在耦合簇能量等化学性质上比单保真度方法效率提升30倍,但与我提供的关键词(如code, context, spectral等)关联度较低。
Saptarishi Dhanuka et al.
cs.LG cs.AI
AdaWeather是一个自适应框架,通过结合机器学习与专家混合方法来融合多个概率天气预报,并证明其相对于最佳静态专家混合具有对数regret界。实验表明该方法在温度预测上优于现有技术。
Marc Pinet et al.
cs.LG cs.AI
本文通过引入逐段诊断框架,评估了多变量时间序列异常检测基准中异常是否跨通道传播。结果表明,在八个常用基准上,没有跨通道异常能在无单变量偏差的情况下发生,且跨通道建模并未带来可衡量的性能提升。
Itai Zilberstein, Ioannis Anagnostides, Tuomas Sandholm
cs.LG cs.AI
本文指出在器官分配等高风险决策中,仅优化标准统计指标(如C-index)的生存预测模型可能导致任意差的分配结果。作者提出了一种基于优化NDCG的决策聚焦学习方法,并证明该方法能为分配性能提供理论保证,在历史心脏移植数据上显著提升了基线模型的NDCG。
Jiyuan Liu et al.
cs.LG cs.MM cs.SD eess.AS
本文提出了一种多模态信号校准模块,在特征融合前通过比较各模态的摘要信息来生成实例和维度级别的调制信号,以抑制干扰并保留有用证据。该模块作为即插即用组件,在情感理解、动作识别等五个基准上提升了序列和卷积融合设置的性能。
Zhibo Yang
cs.LG
本文研究了固定块稀疏因果注意力中序列局部性与注意力图可达性之间的不匹配问题,形式化了边界伪影并推导了相位条件覆盖函数,指出可达性取决于源-目标距离和目标在块内的偏移。通过边界桥接注意力作为构造性修复示例,实验验证了覆盖对齐诊断的有效性。
Yuying Li et al.
cs.LG cs.AI cs.CL
本文提出了一种名为FiRe-OPD的on-policy distillation方法,通过先过滤低质量trajectory再对保留trajectory内的token进行软重加权,以优化训练信号的粒度。该方法在多个设置下(如strong-to-weak和multi-teacher)提升了模型性能,但主要贡献在于蒸馏训练策略的改进,与关键词中的code、spectral、Muon、pretrain、agent或attention等核心概念关联较弱。
Peixuan Han et al.
cs.LG
本文提出了\(\Psi\)-Bench基准,用于评估LLM在对话中根据用户画像进行说服的能力。实验发现,即使最先进的模型在说服任务上仍有提升空间,且利用用户画像信息能显著提升性能。
Vishal Hariharan, Salar Basiri, Kanwar Bharat Singh
cs.LG
本文利用机器学习方法,基于量产车辆在巡航状态下的传感器信号(如轮速、扭矩等),对路面状态进行二分类(高附着力/低附着力)。研究采用了基于特征和端到端的数据驱动框架,通过滑动窗口处理信号并验证了方法的有效性。
Alexander Guha
cs.LG cs.AI
本文基于Linear Representation和Superposition Hypotheses,通过分析embedding matrix的pairwise cosine similarity分布来估计模型对近正交性的容忍度\(\varepsilon\),并修正了Johnson-Lindenstrauss引理以更准确地计算transformer语言模型中可支持的近正交方向数量,定义了representational capacity作为特征表示的上界。
Aritra Bal et al.
cs.LG hep-ex physics.atom-ph quant-ph
本文提出QUIVER框架,通过将变分量子电路(VQC)的quantum Fisher信息矩阵作为几何特征,增强经典机器学习模型的表示能力。该方法在QM9和JetClass数据集上提升了性能,但核心贡献在于提供了一种领域无关的量子几何特征融合范式。
Chi-Wei Huang, Chia-Chi Tsai
cs.LG
本文研究了在Hadamard旋转量化流水线中,2-bit权重的标量level set几何结构,发现标准W2 level set在W2A4/KV4设置下性能不佳。作者提出Qift,一种固定的无零W2 level set(如{+/-0.5, +/-1.5}),用于旋转后的W2A4/KV4推理,该方法无需训练、无需学习codebook,并改进了困惑度和下游任务精度。
Arda Fazla, Abolfazl Hashemi
cs.LG math.OC
本文提出了一种基于记忆引导的两阶段样本评分函数,用于解耦核心特征和虚假特征的学习动态,并据此选择信息性样本以缓解虚假相关性。实验表明,仅用10%的训练数据训练的ERM模型即可超越现有去偏技术。
Sigurd Gaukstad et al.
cs.LG math.AT
本文提出了一种名为coherence的几何性质,用于约束深度神经网络中特征表示的几何结构,并设计了可微目标函数Coh来在训练中强制执行该性质。该方法通过确保样本与特征之间的几何聚类关系来提升可解释性,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Vinicius Bortolini et al.
cs.LG
本文系统综述了混合方法在风能区间预测中的应用,重点分析了深度学习、模态分解和统计方法的结合,并指出变分模态分解(VMD)和集成经验模态分解(EEMD)等技术能提升预测精度。研究强调区间构建常采用双模型策略独立预测上下界,但缺乏标准化评估指标和实际验证。
Jainam Dhruva et al.
cs.LG
本文提出了RESCAST-100K,一个大规模住宅负荷与室内温度预测基准数据集,包含约10万EnergyPlus模拟的美国住宅数据及5个真实数据集,用于研究跨域泛化。该数据集通过配置驱动接口支持沿地理、气候等可解释轴进行迁移学习与零样本评估,并测试了多种神经网络架构。
Archie Chaudhury
cs.LG cs.AI
本文通过stitched evaluation protocol和transport key机制,发现灾难性遗忘中部分性能下降源于内部阶段的接口漂移而非计算永久擦除。在split CIFAR-100上的ResNet和vision transformer实验中,transport key能恢复大部分先前任务性能。
Jong-Ik Park et al.
cs.LG
本文提出RRISE框架,通过训练一个surrogate estimator将randomized smoothing的certification过程压缩为单次前向传播,并利用conformal calibration保证certified radius的保守性。该方法在图像分类任务中显著降低了计算开销,但未涉及code、spectral或Muon等关键词。
Sanjit Dandapanthula, Nicholas M. Boffi
cs.LG cs.AI
本文研究了reward guidance算法在flow和diffusion模型中的reward hacking问题,指出该问题源于Doob h-function的有限粒子plug-in估计,并在高斯和高斯混合目标下分析了两种失效模式。
Jiahao Shao et al.
cs.LG
本文研究了多模态机器学习在乳腺癌复发预测中的应用,通过整合结构化治疗记录、病理报告和临床笔记等数据,并采用基于规则的提取与冲突解决策略来增强特征。实验表明多模态集成相比单模态方法能持续提升预测准确性。
Federico Di Gennaro, Alexander Shevchenko, Fanny Yang
cs.LG
本文提出MArgin Self-Correction (MASC)方法,通过在线停止规则减少遗忘序列中next token logit gap,实现高效的大规模语言模型unlearning。该方法在TOFU等数据集上以较低计算成本达到竞争性的forget-retain trade-off,但未涉及code、spectral或Muon等关键词。
Mingtao Xia, Qijing Shen
cs.LG
本文提出了基于径向基函数(radial basis function)的分层Kolmogorov-Arnold网络(hierarchical RBF-KAN)和随机版本(hierarchical RBF-SKAN),分别用于高维确定性函数逼近和随机场学习。理论部分证明了通用逼近性,并给出了定量逼近误差估计,表明该方法可能部分缓解维数灾难。
Charlotte Genevier Wyman, Leanne Hirshfield
cs.LG eess.SP
本文提出ERP-XTTN,一种基于prototype的cross-attention架构,用于跨被试的event-related potential (ERP)分类。该方法通过query-key-only cross-attention将输入EEG patches路由到固定的difference-wave prototypes,在无校准条件下实现了与基线模型(如EEGNet和xDAWN+RG)相当的分类性能,并提供了结构性的可解释性。
Yiran Qiao et al.
cs.LG cs.CR
本文从潜在因果视角出发,提出了一种名为Latent-Predictive Counterfactual Decoupling (LPCD)的插件框架,用于解决直播风险评估中因恶意行为者不断重新设计叙事包装而导致的战术性out-of-distribution (OOD) shift问题。该方法通过建模意图与叙事变化的潜在表示并施加潜在反事实一致性约束,将风险预测锚定在因果稳定的恶意意图上,并在推理时使用轻量级校准来缓解策略引起的分布偏移。
Ivan Sabolić et al.
cs.LG cs.CV
本文提出BYORn框架,通过检测并替换被投毒的目标响应来防御针对大型视觉语言模型的后门攻击,在保持干净任务性能的同时提升了鲁棒性。该方法基于预训练模型下投毒响应语义不合理的观察,但未涉及code、spectral、Muon等关键词。
Moses Charikar, Chirag Pabbaraju, Ambuj Tewari
cs.LG cs.DS
本文研究了在线优化中的曲率自适应问题,提出了一种基于Follow-the-Perturbed-Leader (FTPL)的自适应算法,通过随时间变化的扰动尺度实现曲率自适应,在非凸Lipschitz损失下达到\(O(\sqrt{T})\)遗憾,并在累积曲率线性增长时改进为\(O(\log T)\)。
Ryle Goehausen, Marcus Sousa
cs.LG cs.CR
本文提出了一种针对大语言模型prompt注入和越狱检测器的评估框架,通过16个公开基准和5折交叉验证,使用统一的全局操作点(在FPR≤1%下最大化F1)来避免每数据集阈值调优问题。文章还设计了多种诊断测试(如留一数据集交叉验证、随机标签控制等)来评估泛化能力,但方法本身并非开创性,且与关键词列表中的概念关联较弱。
Taras Sereda et al.
cs.LG
本文提出KForge框架,利用两个LLM agent(生成agent和性能分析agent)的迭代协作循环,自动为不同AI加速器生成高性能kernel。该方法通过编译反馈和性能数据驱动kernel的逐步优化,在NVIDIA B200和Intel Arc B580上取得了优于现有方案的加速效果。
Nikhil Vincent
cs.LG eess.AS
本文提出CoughSense系统,使用Whisper编码器微调和双编码器交叉注意力融合,将咳嗽录音分为五类呼吸系统疾病。主要贡献是active-frame QKV attention pooling,通过限制注意力到前200个编码器token来解决静音稀释问题,并在五折交叉验证中达到82.3%的平衡准确率。
Evan Duan
cs.LG cs.AI
本文研究了量化如何改变语言模型中的可解释特征,使用sparse autoencoder (SAE)作为固定测量基础,发现特征退化是渐进的且可从全精度统计量预测,并指出行为指标(如perplexity)可能掩盖特征层面的损伤。
Hongbo Wang
cs.LG cs.AI cs.RO
本文研究了通过等变编码器\(E\)和等变预测器\(f\)构建的潜在世界模型,证明其训练损失在对称群作用下具有精确不变性,从而在未见过的群元素上实现零样本泛化。实验表明,该等变模型在2D/3D及SE(3)场景中显著优于非等变基线,且闭环控制误差在群作用下保持平坦。
Yikang Gui, Bikramjit Banerjee, Prashant Doshi
cs.LG cs.AI cs.RO
本文提出ConTraIRL框架,通过双编码器架构和对比学习将环境dynamics与任务goal的潜在表示解耦,实现组合式reward迁移。该方法在连续控制任务中展示了向未见过的dynamics-goal组合进行few-shot迁移的能力。
Yitian Zhang et al.
cs.LG physics.comp-ph physics.optics
本文通过Field/Mediator/Readout视角分析了全局场精度与端口读出性能之间的不匹配问题,并提出PaNO和PaNO-R2两种神经算子方法以改善光电子设计中的代理模型。实验表明,全局场误差较低的模型可能在端口功率等设计关键指标上表现更差,而PaNO-R2通过输出感知反馈显著降低了端口误差。
Seungu Kang, Songkuk Kim
cs.LG
本文使用Interaction Tensor框架分析了Knowledge Distillation中学生模型的特征学习机制,发现有效的KD通过修剪低频样本特定特征来鼓励学生使用紧凑的高复用特征。基于此观察,作者提出了Confusion Distillation (CD)这一无教师自蒸馏方法,利用模型自身的混淆模式作为动态软目标,在CIFAR-100上取得了优于现有自蒸馏方法的性能。
Arun Raja, Garrett M. Morris, Kian Ming A. Chai
cs.LG cs.AI
本文通过系统基准测试评估了九种分子表示法在八种化学任务上的表现,发现不同表示法在不同任务中各有优劣,其中CML和IUPAC分别在结构和语义任务中表现最佳。研究还通过tokenization审计、线性探针和注意力机制分析了表示法在模型内部的编码差异。
Jaejun Lee, Joyce Jiyoung Whang
cs.LG cs.AI
本文提出MAVN框架,通过可微分机制在MPNN中自适应地引入虚拟节点,并基于节点与虚拟节点的双向偏好评分动态决定连接时机与对象。该方法在多个数据集上提升了骨干网络的性能。
Zehua Liu et al.
cs.LG cs.AI
本文提出了一种名为ASymPO的异步强化学习方法,用于大语言模型的后训练,通过归一化每个response的token loss来消除对行为策略概率的依赖。该方法旨在解决异步训练中因过时response导致的分布漂移问题,但主要聚焦于数学推理场景,与关键词中的code、spectral、Muon、agent等概念关联较弱。
Minping Chen et al.
cs.LG cs.AI
本文提出了一种针对大语言模型强化学习的高效超参数优化方法JF-HPO,通过同时调整模型大小和训练预算作为保真度,并引入代理模型和早停策略来提升计算效率。该方法在计算效率上显著优于现有方法,但未涉及关键词中的code、spectral、Muon、pretrain、agent或attention等核心概念。
Zixuan Guo, Xiucheng Wang, Nan Cheng
cs.LG eess.SY
本文提出了一种名为RMPrior的方法,通过将经典传播模型(propagation model)的先验知识注入扩散模型(diffusion model)的中间采样步骤,以加速无线电地图(radio map)的构建。该方法在保持重建保真度的同时实现了约2倍的加速,但整体创新性有限,且与关键词列表中的概念关联较弱。
Zirui Yan et al.
cs.LG cs.CL
本文提出了一个统一框架,用于同时对大型语言模型中的多个组件(如attention heads和MLP neurons)进行因果追踪,通过软干预和度量变换将组合搜索转化为连续优化问题,以高效识别对目标性能指标影响最大的组件子集。
Chuanyu Qin et al.
cs.LG
本文研究了RLVR训练中模型正确集(correct-set)的turnover现象,即已解决问题随训练进程重新变得不可解。作者提出repair-window principle并设计retention-aware review mechanism,通过追踪已掌握prompt并周期性重引入来缓解遗忘,在多种任务和模型上验证了有效性。
Ming Wen et al.
cs.LG cs.AI
本文研究了on-policy self-distillation (OPSD)在安全对齐任务中的坍缩问题,指出其会导致模型输出过于保守且表达能力下降。作者提出了Constitutional On-Policy Safe Distillation (COPSD)方法,通过Cross-SFT冷启动和宪法条件蒸馏来缓解该问题,实验表明其在安全-有用性权衡上优于基线。
Pengyu Chen et al.
cs.LG
本文提出了FGRPO,一种联邦学习框架,用于在异构数据所有者间分散部署GRPO(Group Relative Policy Optimization)以微调推理模型。它通过基于相对性能增益的自适应聚合机制来缓解非IID数据带来的不稳定性,从而在保护数据隐私的同时确保鲁棒收敛。
Jacob Lavoie et al.
cs.LG cs.CV q-bio.NC
本文提出使用model-based deep reinforcement learning方法,在名为rlretina的虚拟环境中训练agent,通过组合各向同性和各向异性的phosphene形状来生成视网膜图像,以改善epiretinal implant的视觉刺激效果。
Zhe Li et al.
cs.LG
本文提出TiWeaver框架,通过Graph-Guided Adaptive Tokenizer (G\(^2\)AT)和Fine-grained Asynchronous Dependency Extractor (FADE)处理多变量时间序列中的不规则性和异步依赖,在12个数据集上取得最优性能。该方法主要关注时间序列预测中的context(上下文)建模,但未涉及code、spectral或Muon等关键词。
Dhruvi Khandelwal et al.
cs.LG
本文提出了一种Loss-Guided Neural Densification (LG-ND)算法,用于逐步确定ACOPF代理问题中神经网络的最小必要宽度,实验表明该方法能以更少的神经元达到与基线相当的性能。
Mahdi Erfanian et al.
cs.LG
本文提出了一种无需执行代码的替代方法,利用前沿代码模型生成看似合理但错误的补全作为hard negatives,并通过对比这些合成幻觉与真实开发者编辑来微调小模型,以缓解代码补全中的幻觉问题。实验在多个编程语言和基准上验证了有效性。
Shuang Liu et al.
cs.LG
本文针对reward model中的reward hacking问题,提出了HARVE方法,通过识别并移除reward head向量中与hacking相关的子空间分量来提升鲁棒性,无需训练或微调。该方法在多个reward model上验证了有效性,但未涉及code、spectral、Muon等关键词相关技术。
Yunsheng Yuan et al.
cs.LG
DECA提出了一种去中心化的块级Adam优化方法,用于在非独立同分布数据上高效微调大语言模型。该方法通过将模型参数分块并顺序优化,在降低资源消耗的同时实现了全参数微调。
Zerui Tao, Qibin Zhao
cs.LG
本文提出DiffBCP框架,将贝叶斯CP分解与预训练扩散模型结合,通过分裂Gibbs采样器实现后验推断,用于处理严重缺失或噪声下的张量补全与去噪问题。
Tong Zhao et al.
cs.LG
本文提出了一种通过Gumbel-Sinkhorn算子学习变量可微排列的方法,将Structural Vector Autoregressive (SVAR)模型的瞬时系数矩阵三角化,从而将无环性从硬约束转化为参数化形式。该方法实现了统一的连续优化,在三个真实世界基准测试中取得了优于12个基线的发现准确性和效率,并在大规模基准上实现了超过6倍的加速。
Ziyue Wang et al.
cs.LG
本文发现,在RLVR训练中,正确rollout在anchor token处的hidden state具有几何结构,并据此提出Hidden-Align辅助损失函数,通过对齐这些hidden state来提升模型数学推理能力,在多个benchmark上取得了改进。
Zelalem Abahana
cs.LG cs.AI
本文通过实验分类了RLHF(基于人类反馈的强化学习)中reward hacking(奖励黑客)等失败模式,使用PPO、DPO等方法在紧凑pipeline中分析了训练动态,发现局部reward hacking可被预测但并非单一终端事件。
Sungwon Kim et al.
cs.LG cs.AI
本文提出EqGINO,一种用于3D PDE的等变傅里叶神经算子,通过在谱域中强制各向同性来保证对离散对称性的精确等变性,并能在有限训练样本下泛化到任意连续旋转。该方法旨在解决3D等变FNO中谱群卷积计算成本过高的问题。
Keke Wu, Yixuan Zhang, Jingrun Chen
cs.LG math.NA
本文提出了一种受光传播启发的神经算子LiNO,将潜在演化分解为反射、折射和散射三种机制,其中散射通过归一化pairwise kernel实现非局部传播,并开发了一种高效变体将空间复杂度从二次降至线性。该方法在物理可解释性与计算效率间取得了平衡,但与关键词中的spectral、attention等概念关联较弱。
Li Sun et al.
cs.LG cs.AI
本文探讨了图结构中的可迁移子结构问题,通过Riemannian几何框架提出Neural Vector Bundle方法,用于学习表示空间的内在几何。该方法设计了GAUGE架构和Dirichlet损失函数,在零样本链接预测等任务上验证了有效性。
Aleix Segui, Wesley Armour
cs.LG
本文从局部几何视角出发,研究了物理对齐数据压缩中的率失真权衡,揭示了latent space中由entropy model、物理可观测量和distortion metric诱导的各向异性误差分配机制,并提出了基于dominant eigenspace overlap的对齐诊断方法。
Jaeyoon Sim et al.
cs.LG cs.AI
本文提出了一种自适应多尺度超边学习框架MuHL,用于分析大脑网络中的高阶连接。该方法通过构建层次化节点特征并动态学习多分辨率图信号上的高阶交互,改进了传统超图方法在灵活性和多尺度结构捕捉上的不足。
Doyeong Lim, Seungyoon Lee, In Cheol Bang
cs.LG cs.MA eess.SY
本文提出了一种基于多智能体治理的验证门控框架,用于热工水力替代模型在运行工况迁移下的在线自适应,通过角色分离的智能体(如Monitor、Diagnosis等)和确定性门控机制实现模型更新,实验表明该方法相比静态部署降低了预测误差。
Jaeyoon Sim et al.
cs.LG cs.AI
本文提出了一种多模态图神经网络框架,通过transformer引导的自适应扩散过程,结合扩散核与多头注意力分别聚合图的短程和长程属性,用于临床前阿尔茨海默病分类。该方法在多种模态数据上提升了分类性能,并识别出与疾病早期阶段相关的关键ROI区域。
Hu Xu et al.
cs.LG cs.AI
本文研究了后训练剪枝中校准数据源对LLM不同能力维度(General, Commonsense, Code, Math)的影响,发现校准perplexity与General retention正相关但与Math和Code retention负相关,存在权衡。为此提出多源校准混合方法IGSP,通过信息引导自动构建校准集,在LLaMA-3.1-8B上提升了剪枝后的能力保留。
Gurvan Richardeau et al.
cs.LG cs.AI cs.CR
本文提出了一种名为FLIPS的实例级指纹识别方法,通过利用LLM在生成伪随机二进制序列时的偏差,来区分同一模型的不同配置实例。该方法在237个模型实例上达到了96%的封闭集和90%的开放集识别准确率,为AI监管中的行为合规评估提供了新工具。
Roman Plaud et al.
cs.LG
本文针对因果推断中的Inverse Probability Weighting (IPW)问题,提出了一种通过匹配下游误差度量的局部曲率来推导任务特定严格proper scoring rule的框架,并应用于Average Treatment Effect (ATE)估计,得到了闭式损失函数及其对应的canonical probability mapping。实验表明该方法在因果推断基准上优于标准似然和协变量平衡方法。
Julie Mordacq, Vicky Kalogeiton, Steve Oudot
cs.LG cs.CV
本文提出IdEst方法,通过Minimum Spanning Tree dimension estimator (\(\mathrm{dim}_\mathrm{MST}\))估计自监督学习(SSL)表示的内在维度(Intrinsic Dimension),发现该维度与下游线性探测性能高度相关,可用于高效超参数选择。该方法为评估SSL表示提供了几何代理,但未涉及code、context、spectral等关键词。
Jungkyu Kim, Taeyoung Park, Kibok Lee
cs.LG cs.AI stat.ML
AugMask提出了一种针对不完整表格数据的扩散模型训练框架,通过条件随机增强和仅对观测坐标进行去噪监督来适应缺失值。该方法将缺失条目视为不确定的上下文而非训练目标,并连接到一个Rao-Blackwellized目标函数。
Aishwarya Venkataramanan, Sai Karthikeya Vemuri, Joachim Denzler
cs.LG
本文提出APIC框架,将Kennedy-O'Hagan校准方法扩展到群体层面,利用Neural Processes实现跨系统实例的可扩展贝叶斯推断。该方法通过双分支潜在架构解耦实例特定物理参数与共享结构偏差,在阻尼弹簧振子等系统上验证了参数恢复效果。
Dejan Radovanovic et al.
cs.LG
本文研究了智能电表数据中时间粒度(从15分钟到7天)对家庭社会人口属性推断性能的影响,发现性能在两个粒度区间(15分钟-1小时和1-7天)保持稳定,并比较了不同特征提取方法和分类器的效果。
Guillaume Méroué, Fabien Gandon, Pierre Monnin
cs.LG
本文系统分析了知识图谱嵌入模型(KGEMs)在链接预测任务中的稳定性问题,发现高性能模型在三元组预测和嵌入空间组织上存在显著的不稳定性,且随机种子、初始化、负采样等随机因素各自独立地导致同等量级的不稳定性。研究指出当前基于MRR等指标的评估协议存在局限性,投票机制对稳定性的提升也有限。
Kexiang Mao
cs.LG
本文提出Flicker-DDPM,通过在forward process中注入具有power-law谱的1/f colored noise(而非各向同性white noise),以匹配自然图像的spectral statistics,从而加速denoising diffusion。该方法利用spatial correlation kernel生成colored noise,并在CIFAR-10上以更少的sampling steps达到或超越标准DDPM的生成质量。
Anubha Goel, Juho Kanniainen
cs.LG cs.SI
本文提出了一种名为Topology-Aware Gaussian Repair (TAGR)的图修复框架,通过构建稀疏的特征邻域图并结合拓扑感知的残差校正来提升图神经网络对噪声边和缺失边的鲁棒性。该方法避免了学习稠密邻接矩阵的复杂性,可直接与标准GNN架构配合使用。
Artur Zagitov et al.
cs.LG cs.AI
本文系统评估了tensor decomposition在LLM后训练压缩中的效果,发现其与模型异构表示存在根本性不匹配,限制了大规模部署的实用性。
Ekaterina Alimaskina, Gleb Molodtsov, Aleksandr Beznosikov
cs.LG cs.AI
本文研究了Hyper-Connections (HC)中多stream残差连接的对称性破缺问题,发现stream会趋向于主导性使用,导致多stream容量未被充分利用。通过诊断HC-based语言模型,作者提出在stream初始化时打破对称性可减少主导行为并提升性能。
Zongrui Li et al.
cs.LG
HiSE提出了一种轻量级的层次化语义解释器,用于异构图神经网络,通过LASSO和KL散度实现语义感知的特征解释。该方法在保真度和鲁棒性上优于现有方法,但未涉及关键词中的核心概念。
Ivan Ilin, Peter Richtárik
cs.LG cs.DC
本文从理论角度分析了PipeDream (PD) pipeline parallelism方法,提出了Randomized PipeDream (RPD)抽象并给出了首个非凸收敛保证。文章还分析了PD的延迟随stage数\(S\)的缩放关系,并与LocalSGD方法进行了实验对比。
Siemen Herremans, Ali Anwar, Siegfried Mercelis
cs.LG cs.AI
本文提出了一种在推理阶段提升深度强化学习agent鲁棒性的后处理方法,通过结合学习到的transition model和预训练策略,利用对抗性rollout的model-predictive control来改进策略,无需额外训练神经网络。该方法在受扰动的MuJoCo环境中验证了鲁棒性提升,但并未涉及code、spectral或Muon等关键词。
Haowei Guo et al.
cs.LG cs.AI
本文研究了自在线策略蒸馏中教师模型的更新调度问题,发现隔离期(教师完全冻结)是稳定学习的关键,并提出了Consolidation-Gated Teacher Refresh (CGTR)方法,通过奖励改进和长度尾安全门控来避免状态遗忘性崩溃。该方法在多个任务上实现了零崩溃和最佳最终分数。
Vadim Porvatov, Andrey Dukhovny, Andrey Lange
cs.LG math.PR
本文提出了一种基于triplet的plateau-search算法,用于自动确定Random Forest中树的数量,通过监测out-of-bag分数的相对变化来调整ensemble size,避免了传统HPO方法中需要预设搜索范围的问题。实验表明该方法在不同数据集上选择的树数量与常见启发式方法有显著差异。
Yohei Kakimoto, Yuto Omae, Hirotaka Takahashi
cs.LG math.OC stat.ML
本文针对以Gaussian RBF核支持向量回归预测函数为目标函数的非凸优化问题,利用RBF核的解析结构构造显式DC分解,并推导了DCA收敛性质的关键量\(C_{\alpha}\rho\),该量由训练后的对偶系数和与核参数决定。
Tugdual Kerjan, Rasmus Høier, Benjamin Scellier
cs.LG cond-mat.dis-nn cs.NE
本文提出了一种结合centered EP与新型平衡方案的训练方法,用于在ImageNet上训练10层卷积Predictive Coding Network (PCN),实现了13.23%的top-5测试错误率。这是首次在ImageNet规模上验证了PCN和Equilibrium Propagation (EP)训练方法的可行性。
Bo Peng et al.
cs.LG cs.AI cs.CL
本文提出CauTion框架,通过共识过滤和LLM可靠性估计,将LLM的domain knowledge可靠地集成到统计因果发现算法的集成中。实验表明该方法在多个数据集上优于基线,但对关键词列表中的概念(如spectral, Muon, agent等)没有直接关联。
Jiahui Li et al.
cs.LG cs.AI
本文提出TTRL-CoCoV框架,通过置信度条件验证机制优化大语言模型在无标签设置下的Pass@k和Pass@1性能。该方法针对低置信度样本的伪标签错误和高置信度样本的多样性崩溃问题,分别采用验证器过滤和探索增强奖励策略。
Ke Wang et al.
cs.LG cs.AI
本文提出Physics-Guided Policy Optimization (PGPO),通过引入基于mutual-information的自适应步长调节器来改进self-distilled policy optimization (SDPO)在LLM后训练中的稳定性,并在Science-QA数据集上取得一定提升。该方法从粘性流体动力学中汲取灵感,但整体创新性有限,且与关键词列表中的概念关联较弱。
Tao Xie et al.
cs.LG cs.AI
本文提出AnchorMoE,一种基于Mixture-of-Experts架构的可解释时间序列分类框架。它通过将局部patch编码并路由到专门专家,实现预测对输入片段的加性分解,并引入几何正交约束和不确定性门控机制来增强解释的可靠性。
Fengtao Zhou et al.
cs.LG
本文提出STAMP框架,通过空间转录组学数据引导病理基础模型进行分子谱分析,利用HumanST-1k数据集和通路对齐策略增强模型对分子特征的感知能力。该方法主要关注病理图像与分子数据的对齐,未涉及code、spectral、Muon或agent等关键词。
Liuyuan Wen et al.
cs.LG cs.AI
本文通过分析大语言模型在多操作数加法任务中的残差流几何结构,识别出Iso-Raw-Sum Trajectory (IRST)这一几何结构,并提出Noisy Quantization Model来解释算术错误,将其归因于内部神经噪声导致的Geometric Slippages。该工作为理解大语言模型在基础算术中的脆弱性提供了几何视角,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Salih Bora Ozturk, Alexander Pfefferle, Frank Hutter
cs.LG
本文提出了一种针对tabular foundation model的社区speedrun竞赛,通过优化单文件训练脚本,在固定GPU上实现了81倍的预训练加速。该方法主要关注工程优化和训练效率,与关键词中的pretrain有一定关联,但缺乏理论或方法上的开创性。
Patrick Emami, Nan Qiang, Peter Graf
cs.LG cs.AI
本文通过一系列可解释性实验,探究了监督微调后的LLM在经典规划任务中是否恢复了世界模型(world model)。研究发现,微调使模型能线性编码动作有效性及部分状态谓词,且更广泛的状态空间覆盖有助于更准确地恢复底层世界模型。
Mariana Vargas Vieyra
cs.LG cs.AI
本文提出了一种无需训练的生存回归方法,利用Tabular Foundation Models (TFM)预测事件时间并迭代填补右删失数据,构建了Accelerated Failure Time (AFT)模型。实验表明该方法与需要训练的Cox回归等模型性能相当。
Sangeun Park, Minhae Kwon
cs.LG
本文提出了Multi\(^2\),一个基于LLM的分层多智能体决策框架,通过高层智能体(System 1)进行子目标生成和低层智能体(System 2)执行原子动作来缓解长期交互中的目标漂移问题。该方法在多种交互环境中优于基线,并发布了三个分层基准数据集。
Ding Zhang et al.
cs.LG
本文通过分析Graph Language Models (GLMs)中graph tokens的内部行为,发现graph sink tokens在激活层面表现为异常值,但其高激活值并不等价于对图信息的有效利用。研究表明,graph tokens的激活显著性与图语义效用之间存在解耦,说明当前GLM将图结构映射到LLM token空间后,并未形成完全可用的拓扑感知内部表示。
Nicolas Emmenegger et al.
cs.LG stat.ML
本文提出了一种通过后验采样进行conformal语言建模的方法,旨在解决大语言模型中的幻觉问题。该方法通过从近似LLM后验中采样,并开发了针对条件序列生成的校准程序,在开放传记生成和数学问题求解任务上实现了与先前工作相同的统计保证和更高的下游效用。
Romina Garcia Camargo, Zhiyang Wang, Alejandro Ribeiro
cs.LG eess.SP
本文研究了基于稀疏Random Geometric Graphs (RGGs)的Graph Neural Networks (GNNs)在无线资源分配中的可迁移性,通过分析RGGs与Deterministic Grid Graphs (DGGs)的接近程度来建立性能损失的理论界限,并在链路调度问题中验证了所学策略在大规模场景下的优越性。
Akshansh et al.
cs.LG cs.AI
本文研究了在RLVR(基于可验证奖励的强化学习)中,用自动生成的增强任务变体替代人工策划任务的经济性,通过定义成本调整的交换率\(\rho_{\text{cost}}\)并在多个benchmark上评估其泛化能力。
Stefan Pranger, Bettina Könighofer
cs.LG
本文介绍了tempestpy,一个将形式化shield合成集成到Gymnasium API的Python库,旨在降低强化学习中安全探索的门槛。它扩展了Tempest工具以支持随机多玩家游戏,并提供了MiniGridSafe环境集合用于实验。
Vedant Jawandhia et al.
cs.LG cs.AI cs.CR
本文提出PURGE算法,利用continual learning与machine unlearning的对偶性,通过梯度投影约束和中间层表示擦除实现数据遗忘。实验表明该方法在保持保留集准确率的同时能有效抵御成员推断攻击。
Peer Rheinboldt, Frédéric Berdoz, Roger Wattenhofer
cs.LG
TreeFlash提出了一种用于speculative decoding的并行AR近似方法,通过MLP层结合drafter的hidden state和前一token来近似自回归分布,以解决非自回归条件化导致的分布偏差问题。该方法在保持\(\mathcal{O}(1)\)解码时间复杂度的同时,在多种任务和模型上实现了比边际树草稿更高的block效率和加速比。
Rupa Kurinchi-Vendhan, Sara Beery
cs.LG
本文指出当前生态学数据标注中广泛使用的inductive active learning评估方式与大多数生态任务的实际目标(transductively标注整个数据池)不匹配,并强调忽略人类参与会低估持续标注的重要性,特别是对长尾稀有类别。文章提出了一种受生态学rarefaction curves启发的保守混合停止准则,以改善稀有类别的发现。
Oliver Sieberling et al.
cs.LG cs.CL
本文提出将dynamic short convolutions作为改进Transformer的新原语,通过输入依赖的卷积核增强模型表达能力。实验表明该方法在语言建模任务中优于标准Transformer和静态卷积变体,并在线性RNN和混合专家架构上也有提升。
Yan-Feng Xie et al.
cs.LG stat.ML
本文研究了非平稳在线学习中的interval regret度量,提出了一种两层在线集成算法,首次实现了与梯度变化相关的interval regret界,并能在最坏情况下保持minimax最优速率。此外,通过引入Lipschitz自适应元算法,该方法无需预先知道Lipschitz和光滑性常数,并推广到了interval dynamic regret和随机扩展对抗优化问题。
Haowei Han et al.
cs.LG
本文提出TAGSAM方法,通过子图文本选择和属性相似性匹配来压缩文本属性图(TAG),以降低图神经网络和语言模型联合训练的计算开销。该方法在压缩至1%大小时仍能保持有竞争力的训练精度。
Amogh Inamdar et al.
cs.LG cs.AI
本文提出用few-shot评估替代传统的0-shot评估,以更全面地衡量continual learning系统的稳定性和可塑性,并通过per-shot plasticity指标发现,在continual learning方法中加入元学习未来任务序列的“预见性”能诱导学习到学习的行为。
Tommaso Cesari, Roberto Colomboni
cs.LG
本文研究了带切换代价的双动作苹果品尝问题,证明了该问题的无记忆对抗性最小最大期望遗憾为\(\Theta(\sqrt{T})\),否定了此前认为该问题可能构成\(\Omega(T^{2/3})\)障碍的猜想。
Kieran A. Murphy, Shameen Shrestha
cs.LG
本文提出了一种名为Reveal-IG的特征归因方法,将路径归因从输入空间提升到结构化探针分布空间,通过逐步揭示输入信息来归因模型期望输出的变化。该方法保留了路径归因的完备性,并能自然地处理多尺度图像探针和表格数据中的特征不确定性,在合成诊断和实际任务中避免了输入空间路径的伪影问题。
Fengbei Liu et al.
cs.LG cs.CV
本文指出多目标优化(MOO)求解器与Adam优化器结合时存在权重与几何上的系统性不匹配,并提出了MAdam(Metric-Aware Multi-Objective Adam)作为即插即用的包装器,通过用偏好条件化的曲率对协调方向进行预处理来修正Adam的更新。实验表明MAdam在多种任务上一致优于标准Adam。
Thien Le, Tianyu Zhao, Melanie Weber
cs.LG
本文提出了一种基于contrastive learning的GNN框架,用于近似图着色问题,通过学习节点嵌入的对齐与分离几何结构来最小化单色边数量。实验表明该方法在合成和真实图上能有效泛化,性能可与贪心算法媲美。
Xinyang Liu et al.
cs.LG cs.AI
本文提出FFR (Forward-Forward for Regression)框架,将原本用于分类的Forward-Forward (FF)算法扩展到回归任务。FFR通过序数竞争goodness函数、分层阶梯架构和多尺度预测与不确定性估计三个创新,在多个真实回归基准上平均恢复了BP 98.6%的精度,同时显著降低了训练内存和每轮时间。
Ting-Yun Chang et al.
cs.LG cs.CL
本文研究了推理模型中KV cache的存储与计算瓶颈问题,提出了一种名为Value-aware Stochastic KV Cache Eviction (VaSE)的无训练方法,通过保护大幅度value states并引入随机性来提升eviction accuracy,在4倍压缩下优于现有方法。
Niccolò Perrone et al.
cs.LG physics.geo-ph
本文提出FreqNO-DPS方法,通过将neural operator预测作为辅助观测,结合diffusion posterior sampling框架来校正其spectral bias。该方法使用一个closed-form的spectrally shaped guidance score来避免引入surrogate的偏差,并在3D弹性波场预测中实现了近零的spectral bias。
Bishwas Mandal et al.
cs.LG cs.AI
本文提出了一种名为hyper-epoch pretraining (q0)的多轮预训练方法,通过循环调度、链式蒸馏和学习先验等原语,将多轮训练预算转化为多个模型的集成,从而在更少的epoch下达到更低的验证损失。该方法在1.8B参数模型上展示了数据效率的提升,但与我提供的关键词(如code, context, spectral, Muon, agent, attention)关联度较低。
Mubarak A. Ojewale et al.
cs.LG cs.AI cs.PF
本文针对联邦学习中客户端数据分布随时间漂移导致的时序遗忘问题,提出了FlashbackCL方法。该方法在Flashback基础上引入时间衰减的标签计数、基于类别平衡的蓄水池采样(CBRS)的客户端重放缓冲区,以及服务器端的主动核心集筛选。实验表明,该方法在CIFAR-10上相对Flashback有6.9%-10.0%的提升,并显著降低了时序遗忘。
Anthony GX-Chen et al.
cs.LG cs.AI
本文提出了一种通过将标量奖励替换为奖励函数分布来诱导强化学习中多样化行为的新框架,并针对contextual bandit场景推导了梯度估计器。该方法在理论上统一了vanilla policy gradient和action-set方法,但与我提供的关键词(如code, spectral, Muon, pretrain, attention)关联度较低。
Ali Behrouz, Farnoosh Hashemi, Vahab Mirrokni
cs.LG cs.AI
本文受人类睡眠过程启发,提出了一种名为"Sleep"的范式,使Large Language Models (LLMs)能够通过记忆巩固(Memory Consolidation)和梦境(Dreaming)阶段持续学习,将短期上下文知识转化为长期参数。该方法使用知识播种(Knowledge Seeding)和基于Reinforcement Learning (RL)的自我改进,在长时域、持续学习等任务上验证了有效性。
Amil Dravid et al.
cs.LG cs.CL cs.CV
本文研究了神经网络中Rosetta Neurons(在不同独立训练模型中激活模式相似的神经元)群体随模型规模的变化规律,发现其数量遵循次线性幂律增长,并观察到神经元极化效应(Rosetta Neurons随规模增大变得更选择性且更单语义)。该工作为理解模型规模与神经元可解释性结构之间的关系提供了经验性观察。

cs.AI

Sihang Zeng et al.
cs.AI cs.CL
本文提出Traj-Evolve,一个自进化的multi-agent系统,用于从纵向电子健康记录中建模patient trajectory。该系统通过两个互补机制实现:Experience Pool (ExPool)作为非参数记忆,检索相似患者作为few-shot context;multi-agent reinforcement learning (MARL)通过reward-ranked fine-tuning优化agent间协作。在肺癌早期检测任务中,Traj-Evolve在整体人群和从不吸烟人群上均优于9个强baseline,并揭示了ExPool提升特异性而MARL提升敏感性的互补特性。
Victor Ojewale, Suresh Venkatasubramanian
cs.AI
本文指出当前autonomous agent benchmarks存在系统性盲区:它们只衡量任务完成率,却无法区分agent在缺乏必要输入、证据或授权时是否应当暂停执行。作者将这种“即使条件不足也倾向于继续执行”的结构性偏差命名为compliance bias,并证明其源于human-feedback pipeline中的reward hacking以及benchmark评分机制对暂停行为的惩罚。为此,论文提出一个三缺口分类法(specification gap, verification gap, authority gap)来刻画应当abstention的场景,并设计了Safety Rate、Usability Rate和Informed Refusal Rate三项评估协议。在144个企业agent场景和五个模型族上的初步实验表明,运行时强制执行的abstention机制能实现高达89.2%的危险动作拦截率和87.5%的授权场景可用率,说明安全性与可用性之间的权衡是可调的而非固有的。
Zhihan Lei et al.
cs.AI cs.CL
本文提出Reasoning Primitive Induction方法,从ReAct-style LLM agent的traces中挖掘并聚类出高频推理模式,将其转化为由自然语言docstring定义的typed pseudo-tools库。该方法通过单次pass从agent轨迹中归纳出可复用的推理原语,在测试时由标准ReAct循环组合这些原语。实验表明,诱导出的库在RuleArena NBA、MuSR team allocation和NatPlan meeting planning等任务上分别提升44pp、30pp和22pp,且在所有五个可比子任务上均优于zero-shot Chain-of-Thought,匹配或超越专家编写的分解方案,同时推理成本低于AWM。
Haoran Tan et al.
cs.AI
本文提出DeltaMem框架,通过构建两棵独立的residual tree(残差树)来组织LLM agent的经验记忆:一棵存储目标条件化的任务经验作为可复用技能,另一棵存储场景级环境知识。每棵树使用根节点表示泛化基础经验,增量delta节点表示后续变体,从而避免冗余存储。检索时采用failure-penalized similarity scan(失败惩罚相似度扫描)定位最佳匹配,并通过根到匹配链的路径组合重构完整经验,同时利用自主整合机制将高频路径蒸馏为新的根节点,使树结构从通用启发式规则自组织为专门化变体。该方法与关键词"agent"高度契合,解决了经验记忆中冗余与检索冲突的长期问题。
Po-Nien Kung et al.
cs.AI
LEAP提出了一种agentic framework,通过将形式化定理证明分解为更小的子问题,并利用LLM的informal reasoning和iterative self-refinement能力与Lean编译器持续交互,从而桥接了informal blueprint与formal proof construction。该方法在2025年Putnam竞赛上解决了所有12个问题,并在新提出的Lean-IMO-Bench基准上将通用LLM的one-shot formal solve rate从低于10%提升至70%,超越了专门IMO系统的48%。此外,LEAP还展示了其在研究层面的实用性,例如自动形式化了Knuth关于偶数阶Cayley图Hamiltonian分解中的一个关键子问题的验证证明。该工作与关键词中的agent高度契合,体现了agentic framework在形式化数学中的开创性应用。
Tiancheng Han et al.
cs.AI
本文提出InfoMem,一种用于训练chunk-wise memory agent的reward机制。该方法通过计算最终memory对ground-truth answer的per-token log-likelihood提升(即answer-conditioned information gain)来直接评估memory的效用,从而解决了现有RL方法仅依赖稀疏final-answer reward或lexical intermediate reward的局限。InfoMem在GRPO框架下仅对成功trajectory应用该信号并归一化,显著提升了long-context memory agent的性能。该工作为agent在长上下文任务中的memory训练提供了开创性的reward设计思路。
Matteo Stabile, Enrico Zimuel
cs.AI cs.CL
本文提出了一种用于对话式AI agent的确定性记忆框架DMF,该框架完全摒弃了基于大语言模型的非确定性记忆压缩方法,转而采用CPU优先的确定性流水线,通过经典NLP分析、向量几何和数学评分计算每个交互的生存分数\(\Omega\),并引入基于交互次数的衰减定律\(\Omega_{\mathrm{eff}}(\Delta n)\)来管理记忆相关性。该方法在LoCoMo和LongMemEval数据集上的实验表明,DMF在保持与Mem0相当准确率的同时,将记忆上下文准备的token消耗降至零,整个对话的token使用量减少了5到242倍,为agent系统提供了可扩展且语义连贯的确定性记忆管理方案。该工作与关键词中的agent高度契合,解决了该领域长期存在的非确定性和高token成本问题。
Amjad Ibrahim, Yong Li
cs.AI cs.CR
本文提出了一种面向Agentic AI的组合式治理框架,通过引入递归委托(recursive delegation)、资源范围衰减(resource scope attenuation)和组合算子(compositional operator)等原语,解决了现有授权系统(如OAuth 2.0)无法支持自主代理间动态权限继承与上下文边界的问题。该框架将委托视为可组合的契约性条款而非静态令牌,并形式化定义了委托类型及其权限与问责含义,同时通过形式化证明和实证评估验证了其有效性。该工作与关键词"agent"高度契合,为自主AI系统的可问责授权提供了形式化且实用的基础。
Tong Nie et al.
cs.AI
EvoDrive提出了一种基于LLM agent的自动化多目标场景生成框架,用于安全关键型自动驾驶测试。该方法采用simulator-grounded actor-critic架构,通过memory-driven actor迭代改进生成器,并用critic过滤不可行候选,同时维护一个Pareto archive来保存攻击性与真实性的权衡解,从而引导进化过程。实验在MetaDrive和CARLA上验证了其能显著扩展Pareto前沿并生成对策略训练有价值的场景。该工作与关键词"agent"高度契合,且其将LLM agent与Pareto多目标优化结合的方法具有开创性。
Weiwei Ding et al.
cs.AI
本文提出Code-on-Graph (CoG)框架,通过将Knowledge Graph (KG)中的schema表示为Python classes,并生成可执行代码进行推理,解决了LLM-KG集成中预定义算子灵活性不足和直接注入大规模事实知识导致的可扩展性问题。该方法在WebQSP、CWQ和GrailQA等数据集上取得了显著性能提升,与关键词"code"和"agent"高度契合,体现了程序化推理与智能体思想的结合。
Zherui Yang et al.
cs.AI
EvoDS提出了一种自进化的数据科学agent框架,通过agentic reinforcement learning实现了技能学习与上下文管理的动态优化。其核心创新包括Autonomous Skill Acquisition (ASA)机制,使agent能合成、验证并复用可执行技能,以及Adaptive Context Compression (ACC)策略,将上下文管理建模为可学习的控制问题而非被动截断。理论证明其层次化设计降低了工具选择误差,且优化目标符合information bottleneck原则。该方法在四个基准测试上平均提升28.9%,并消除了token溢出失败,与关键词"agent"和"context"高度契合。
William Rudman et al.
cs.AI cs.CL cs.CV cs.LG stat.CO
VESTA是一个为视觉语言模型配备动态探索工具包的框架,通过数据变换、假设驱动可视化和统计检验来指导统计模型优化。它在分布拟合和时间序列建模任务上优于现有方法,并引入了DAWN基准测试。
Runlin Lei, Xiaokui Xiao, Zhewei Wei
cs.AI cs.LG
本文探讨了图结构在大型语言模型推理中的作用,发现将图结构以视觉形式呈现比以文本形式展开能更有效地辅助多跳问答任务中的推理组织,但未涉及关键词中的code、spectral、Muon、pretrain、agent或attention等核心概念。
Josef Chen
cs.AI cs.AR cs.DC cs.PF cs.RO
本文提出AURA-Mem,一种用于机器人策略的恒定大小循环记忆机制,通过动作门控(action-gated)决定何时写入记忆,以在边缘设备上减少内存写入次数。该方法在合成基准和LIBERO-Long任务上验证了其与基线相当的准确性和显著更低的写入开销,但未涉及关键词中的核心概念。
Taye Akinrele et al.
cs.AI
本文比较了encoder-only Transformer和LSTM在无观测流域上游径流推断任务中的表现,发现LSTM整体性能优于Transformer,且加入下游信息能显著提升预测能力。研究将实验视为对模型架构归纳偏好的测试,而非简单的性能排名。
Liangwei Yang et al.
cs.AI
本文提出了BehaviorBench基准,用于从真实世界的行为轨迹(如预测市场和链上记录)中评估个性化决策建模,包含信念预测和交易预测两个任务层。该基准通过多种历史接口测试生成模型,发现个性化方法在不同任务上的提升效果不一致。
Bo-Hong Wang et al.
cs.AI
ChatHealthAI提出了一种多模态推理框架,通过任务感知重采样器将预训练的EHR基础模型与冻结的LLM对齐,用于临床预测任务。该方法在EHRSHOT基准上展示了可解释的推理能力,但未涉及code、spectral或Muon等关键词。
Johor Jara Gonzalez, Matthew Guzdial
cs.AI
本文探索了三种基于玩家碰撞信息生成游戏敌人形态(enemy morphologies)的新方法,并与机器人形态生成领域的进化基线进行了比较。研究发现各方法各有优劣,但整体性能均不逊于基线。
Simone Caldarella et al.
cs.AI
本文提出了一种前缀级轨迹评估协议,用于研究大型推理模型(LRMs)在首次得到正确答案后继续推理的影响,区分了冗余但无害的verbose overthinking与导致正确性偏离的harmful overthinking。实验表明,在正确答案处停止推理可将准确率提升高达21%,且harmful overthinking主要由逻辑漂移和视觉重解释驱动,常见的高效策略如early stopping无法缓解该问题。
Marcus Rüb, Michael Gerhards
cs.AI cs.MA
本文提出了一种面向嵌入式AI Agent系统的模块化参考架构,通过分层设计将低延迟的本地设备Agent与云端增强Agent解耦,并引入跨层治理层确保安全与策略执行。该工作主要分析了资源受限环境下的设计原则与权衡,而非提供具体的实证基准。
Marquita Ellis, Paul Castro
cs.AI
本文提出了一个名为GAMBLe的分析框架,用于分解AI驱动研究系统(ADRS)的行为,通过四个参数(生成器、评估器、发现机制、预算)和一个有效景观\(L_{\text{eff}}\)来揭示不同组件组合对优化性能的影响。实验表明,在NP-hard问题上,组件选择对性能提升有显著影响,但并未发现组件间的绝对优劣排序。
Chirag Parmar et al.
cs.AI cs.CL cs.MA
本文研究了多智能体辩论在数据清洗中的效果,发现其会降低生成性能但提升错误检测,并提出了一个辩论收益条件来预测何时辩论有效。
Dipesh KC, Anjila Budathoki
cs.AI
本文研究了coding agent在任务中断后交接时的效率问题,提出了"handoff debt"概念,并通过实验表明提供上下文信息(如摘要笔记)能显著降低后继agent的恢复成本。
Sema Helali et al.
cs.AI cs.CL
本文系统综述了大型AI模型在牙科医疗中的应用,将模型分为语言生成、视觉基础模型和牙科专用模型三类,并提出了二维分类框架。研究发现通用模型与专用模型在文本和图像任务上各有优劣,集成管道方法表现最佳,但存在数据不对称和缺乏标准化评估等障碍。
Maheen Arshad, Qindeel E Zahra, Muhammad Khuram Shahzad
cs.AI cs.HC cs.LG
本文提出了一种基于WiFi信号的人类活动识别框架WISE-HAR,使用集成学习结合五种CNN架构和多种数据增强技术,在Wallhack1.8k数据集上对三种活动进行分类,并进行了跨场景和跨天线的泛化评估。该方法在特定场景下取得了94.87%的测试准确率,但整体方法较为常规,未涉及关键词中的code、spectral、Muon、pretrain、agent或attention等核心概念。
Yan Wang et al.
cs.AI cs.MA cs.SC
本文提出AuditFlow,一个基于图的多智能体框架,用于结构化财务审计验证。它通过构建符号环境(包括US-GAAP分类图和XBRL申报图)并暴露类型化工具,将自适应搜索与确定性验证分离,最终在FinMR样本上达到82.09%的联合审计准确率。
Akshatha Srikantha et al.
cs.AI
TriEval是一个用于评估LLM在bias、toxicity和truthfulness方面表现的资源高效pipeline,可在标准笔记本电脑上运行。它对比了开源和闭源模型在这些指标上的差异,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Phillip Jiang
cs.AI cs.LG
本文提出RelGT-AC模型,通过column masking策略、统一任务头和TF-IDF文本编码器,扩展了RelGT架构以解决关系数据库中的自动补全任务。实验表明,该模型在多个数据集上优于GraphSAGE基线,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Anjie Liu et al.
cs.AI
本文针对工具增强的视觉语言agent中的预调用控制问题,提出了ToolGate这一轻量级外部控制器,通过轨迹文本和简单结构特征预测是否执行工具调用,在降低token成本的同时保持或提升准确率。该方法与关键词中的agent相关,但创新性有限,主要解决的是工程效率问题而非理论突破。
Tong Bai et al.
cs.AI
本文提出SkillDAG方法,通过构建类型化有向图来建模LLM agent技能库中的依赖与冲突关系,并设计推理时可调用的结构检索接口。该方法在ALFWorld和SkillsBench上提升了任务成功率,但主要贡献在于工程化的技能选择框架,而非数学理论或基础方法的开创性突破。
Jinjie Shen et al.
cs.AI
本文提出CORE框架,通过构建Conflict Attribution Corpus并训练MLLMs捕捉跨模态或与常识的语义/物理冲突,实现多模态伪造检测。该方法在少量样本或零样本场景下可泛化至未见过的操纵类型。
Xu Wan et al.
cs.AI
本文从经济学视角将LLM推理预算分配建模为全局约束优化问题,提出CLEAR方法通过影子价格实现资源再分配,在资源稀缺时相比均匀分配可提升3倍全局准确率。
Fan L. Cheng, Nikolaus Kriegeskorte
cs.AI
本文提出了一种嵌套几何分解框架,将prompting视为对表征几何的变换,通过一系列刺激不变映射(如平移、刚性变换、仿射变换等)分析prompt如何改变LLM和VLM的内部表征。实验表明,跨维度线性混合(仿射变换)是prompt重组表征以匹配任务结构的关键机制。
Mingyang Liu et al.
cs.AI
本文提出了一种结合重要性感知新闻压缩和过程级检索监督的时间序列预测框架,通过训练重要性奖励模型和过程奖励模型来优化新闻信息的利用,在金融、能源等基准上提升了预测精度。
Wenkai Wang et al.
cs.AI
本文提出了DeskCraft,一个针对专业创意软件中长周期工作流的desktop GUI benchmark,并形式化了人机协作的交互协议。实验评估了18个agent模型,发现现有agent在长周期任务执行和主动澄清方面仍存在持续失败。
Guhong Chen et al.
cs.AI
本文提出EvoTrainer框架,通过协同进化LLM策略和训练侧harness(训练辅助机制)来自动化强化学习过程,在数学推理、代码生成等任务上匹配或超越人工设计的RL基线。该方法主要关注agentic RL中的训练自动化问题,与关键词"agent"有一定关联但创新性有限。
Mengyi Deng et al.
cs.AI
本文提出了一种面向LLM agent的澄清框架,利用信息增益奖励来量化澄清问题对减少用户意图不确定性的效用,并在τ-Bench环境中验证了该方法能提升任务成功率。
Kaiqi Yang et al.
cs.AI
本文提出了一个基于LLM的多智能体社会模拟框架TBS,将智能体的内部评估与公开表达分离,通过间隔更新内部状态来模拟从沉默到发言的决策过程。该框架在气候政策讨论中验证了内部状态与发言意愿的关联,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Noujoud Nader et al.
cs.AI
本文提出了GTBench,一个基于课程设计的benchmark,用于评估LLM在图论中的数学推理能力,包含63个从本科到研究生难度的问题。实验发现GPT-5表现最佳,而其他模型在难度增加时性能显著下降,并揭示了模型在算法执行和证明构造中的常见错误模式。
Ruihui Hou et al.
cs.AI
本文提出了一个名为ClinicalMC的benchmark,用于评估大语言模型在多疗程临床决策中的表现,并构建了包含患者、考官和医生agent的多agent评估框架。实验在单轮静态和多轮动态设置下评估了多种LLM,旨在理解其在医疗领域的性能。
Jia Yu et al.
cs.AI
本文提出了MedCUA-Bench,一个针对临床计算机使用agent的交互式benchmark,覆盖18个临床场景,并评估了23个agent在任务完成和临床安全性方面的表现。结果显示,现有agent在真实临床软件上的成功率极低,揭示了当前agent与可靠临床软件使用之间的差距。
Ralf Raumanns et al.
cs.AI cs.CV cs.CY cs.LG
本文研究了训练数据中人口统计偏差(性别和年龄)对基于ResNet的皮肤病变分类模型性能的影响,通过线性规划生成受控数据集,并比较了单任务、多任务和对抗学习三种策略。研究发现性别偏差主要源于数据不平衡,而年龄偏差则始终偏向年轻群体,且跨数据集验证表明域偏移会显著影响性能与偏差模式。
Zhijie Ding et al.
cs.AI
本文提出了一种名为Pre-Reasoning Perception Framework (PRPF)的两阶段框架,用于提升移动agent的主动辅助能力。该框架通过轻量级Multimodal Proactive Perceptor (MPP)进行干预门控和上下文压缩,仅在需要干预时激活Proactive Agent Reasoner (PAR),从而在ProactiveMobile基准上降低了误触发率并提高了成功率与推理效率。
Rakshit S Trivedi et al.
cs.AI cs.CL cs.CY cs.LG cs.MA
本文探讨了基于唯我论(solipsistic)设计的超级智能(superintelligence)在部署时因内生非平稳性(endogenous non-stationarity)而难以合作的问题,并呼吁将相互依赖作为核心设计原则。该论文主要聚焦于AI合作与共存的理论框架,未涉及代码、谱方法或预训练等具体技术。
Gautam Gare et al.
cs.AI cs.CV cs.LG eess.IV stat.ML
本文通过causal discovery方法检测真实世界数据集中的natural experiments,并利用causal inference提升模型性能,但方法本身与关键词列表中的概念关联较弱。
Thomas Eiter, Nelson Higuera Ruiz, Johannes Oetsch
cs.AI
本文提出了一种从Large Language Models (LLMs)中蒸馏Answer-Set Programming规则的方法,用于解决Visual Question Answering (VQA)任务中的推理问题。该方法通过少量示例引导LLM生成逻辑规则,并利用ASP求解器的反馈进行验证和修正。
Peiyan Zhang
cs.AI
本文研究了在Pythia-160M到Pythia-410M的多跳推理场景中,通过线性层翻译并注入隐藏激活来实现跨模型推理状态传递的可能性。实验发现,尽管翻译后的激活在表示空间上高度对齐,但注入接收模型后并未提升下游任务性能,表明离线表示对齐不足以实现有效的因果通信。
Wojciech Zarzecki, Jan Dubiński, Sebastian Cygert
cs.AI
本文研究了基准污染检测方法在现实审计场景中的可靠性问题,发现分布偏移和规模限制会导致现有方法(如LLM Dataset Inference、Post-Hoc Dataset Inference和CoDeC)出现系统性失效,表明统计检测尚无法替代透明的数据溯源。
Nima Kamali Lassem, Fuqi Song, Seyid Amjad Ali
cs.AI
本文提出Violation Situation Pattern (VSP),一种基于知识图谱的模式,用于将合规检测中的违规行为持久化为图节点,并支持生命周期状态和审计历史。该模式通过FCL->Cypher->MERGE pipeline实例化,并在法律实体和合同场景中验证了规则体独立性。
Yuxin Zhang et al.
cs.AI
本文提出了CP-Agent,一个结合多模态大语言模型和上下文感知对齐模块CP-CLIP的agent系统,用于在化学扰动下对细胞形态变化进行可解释推理。它通过联合嵌入高内涵图像和实验元数据来区分药物作用机制,但方法本身在数学或理论上的开创性有限。
Sidi Yang et al.
cs.AI
本文提出Terminal-Lego流程,将多领域问题转化为环境验证的agentic任务,并发现低分agent(DeepSeek-V3.2)的轨迹比高分agent(Claude Opus 4.6)更能提升学生模型的泛化能力,将此归因于环境监督(EGS)。
Taiyu Zhu et al.
cs.AI
本文提出StepFinder框架,通过将LLM仅用于特征构建阶段以编码execution logs为temporal semantic sequences,再结合temporal modeling与attention模块捕捉轨迹的序列演化与跨步依赖,从而在multi-agent系统中实现高效的failure attribution。该方法在Who&When基准上优于基于LLM的方法,并显著降低了推理时间。
Fabio Cuzzolin
cs.AI cs.MA q-bio.NC
本文首次提出了机器心智理论(Machine Theory of Mind)的严格形式化定义,并基于认知心理学、神经科学和人工智能的证据构建了一个整体性的元模型。文章以此框架审视了该领域的研究现状,并提出了未来研究议程。
Ziyan Liu et al.
cs.AI
本文提出ThoughtFold框架,通过细粒度preference learning(偏好学习)来缓解大型推理模型在长Chain-of-Thoughts(CoTs)中的冗余探索问题。该方法利用内省策略识别正确轨迹中的冗余,并引入掩码偏好优化目标来惩罚冗余探索,从而压缩推理链。
Linyue Pan et al.
cs.AI cs.CL
本文提出了SAGE框架,用于量化评估多agent生态系统中社会化进化(SocialEvo)相对于传统自我进化(SelfEvo)的效果。实验发现,群体历史并非普遍放大器,但能帮助陷入瓶颈的agent实现突破,且社会性收益依赖于从公共轨迹中抽象可迁移知识的能力。
Louis Nisiotis, Aimilios Hadjiliasi
cs.AI cs.HC
本文提出了一种基于SLM的Agent编排网关,通过意图驱动的服务路由将虚拟世界客户端与异构AI后端解耦,并在InterwovenXR虚拟博物馆测试平台上进行了评估。该工作主要关注系统架构和工程实现,与关键词中的agent有一定关联,但方法本身并非开创性,也未解决长期存在的理论问题。
Mehmet Utku Colak
cs.AI
本文提出了一种跨语言token套利方法,通过在本地LLM(Llama 3.2)上进行预处理,将非英语提示翻译并重写为紧凑的任务格式,以减少代码agent的输入token成本。实验表明该方法在保持任务准确性的同时显著降低了token消耗,但方法本身并非开创性,且与关键词(如spectral, Muon, pretrain)关联较弱。
Zhengyi Zhao et al.
cs.AI cs.CL
本文提出Constraint Relationship Graph Completion (CRGC)框架,通过将指令表示为约束知识图谱并引入"bridge constraints"来改善Large Reasoning Models (LRMs)在多指令遵循中的表现。实验表明该方法能显著减少约束违反,但未涉及code、spectral、Muon等关键词相关技术。
Shunyu Wu et al.
cs.AI
本文提出TSQAgent框架,利用多个agent角色(Perceiver, Inspector, Adjudicator)协同推理,以评估时间序列数据质量。该工作主要关注数据质量评估的agent方法,与关键词中的agent概念相关,但方法本身并非开创性突破。
Qi Han Wong
cs.AI cs.CY
本文研究了大型语言模型在医疗分诊中基于患者性别和年龄产生的诊断差异,发现年轻女性获得急诊转诊的比例显著低于同龄男性,其机制是模型倾向于将女性诊断为与流行病学相关的特定疾病,从而降低了分诊紧迫性。
Nicholas Leisegang, Thomas Meyer, Ivan Varzniczak
cs.AI cs.LO
本文提出了一种将非单调理性蕴涵关系提升到命题可废止立场逻辑(PDSL)片段的方法,通过引入情境立场条件句扩展了PDSL的表达能力,并展示了如何将基于排序的蕴涵关系从命题情形迁移到PDSL中。该工作主要关注逻辑推理的形式化,与关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念无直接关联。
Jinnuo Liu et al.
cs.AI
本文提出了NovelAPIBench,一个用于评估LLM在代码生成中使用新API能力的动态benchmark,通过分解知识组件并诊断错误类型,发现检索和参数化调优在API使用中扮演互补角色。
Hongyu Guo et al.
cs.AI
本文提出了ChemCoTBench-V2,一个用于评估大语言模型化学推理过程的规则可验证基准,通过检查中间步骤而非仅最终答案来揭示模型在化学逻辑上的失败模式。该基准包含多个任务和评估信号,实验表明模型在最终答案正确性与结构化推理一致性之间存在持续差距。
Sarah Barrington, Maty Bohacek, Hany Farid
cs.AI
本文介绍了DeepSpeak-Agentic数据集,包含超过37小时的人与具身AI agent的半结构化对话视频,用于评估AI agent的自动取证识别(音频、视频或文本)并研究人机交互特性。该工作贡献了一个可扩展的数据采集系统,用于创建agent并记录对话。
Yuan Xiong et al.
cs.AI cs.CL
本文提出SkillPyramid框架,通过分层skill拓扑结构和自进化机制,使agent能在任务执行中组合、验证和整合新skill,从而将静态skill集合转化为动态演化系统。实验表明该方法在多个基准上显著提升了平均奖励并减少了执行步骤。
Keigo Sakurai et al.
cs.AI cs.CE cs.CY
本文提出DOSS方法,将金融决策中的目标函数选择建模为分类问题,通过滚动窗口和置信度门控机制实现动态切换,并引入LLM作为监督组件以增强安全性。该方法主要针对金融领域的实际应用,未涉及关键词中的核心理论或技术。
Clément Yvernes et al.
cs.AI
本文通过引入derivation graphs来表征do-calculus推理中干预表达式的等价空间,并证明最多只需四次规则应用即可完成转换。该工作为因果推断中的等价查询提供了更高效的估计方法。
Ayushi Chadha
cs.AI
本文研究了分层潜在推理中的子目标持久性问题,通过扩展HRM模型引入管理者-工人接口,发现适中的子目标持久周期(P在3到6之间)能优化稳定性与适应性之间的权衡,并在ARC和ConceptARC任务上验证了中等周期优于频繁或过长的规划。
Yiming Fu et al.
cs.AI
本文提出Proof-Refactor框架,将形式化证明的重构分解为提取候选片段、设计辅助声明、证明组件和修复原证明四个阶段,以提升生成证明的可读性和模块化程度。该方法在Lean证明上优于基线,但未直接涉及关键词中的核心概念。
Linwu Zhu et al.
cs.AI
本文提出了Lab Agent Protocol (LAP),一个用于连接自主科学中的AI agent与物理仪器的协议设计。该协议在现有agent互操作标准(如MCP和A2A)的基础上,增加了面向物理世界的原语,包括仪器能力描述、独占资源锁定、安全握手和带物理类型的测量结果。
Alex Leung et al.
cs.AI cs.CR q-fin.RM
本文提出了CER框架,用于诊断AI系统(如agentic AI)引发的损失是否可被保险覆盖。该框架通过分析控制边界、证据重建和保险响应三个维度,为AI事故后的责任认定提供了一种系统化方法。
Sanjay Das et al.
cs.AI
本文提出HAZDIAL框架,利用结构化agentic dialogue(多智能体多轮交互)来改进基于NLP的hazard identification(危险识别)任务,并与单次推理基线进行比较。实验表明,对抗性辩论和建设性讨论两种对话模式均能提升识别质量,为AI safety领域提供了经验证据。
Kelsey Rainey, Jesse Roberts
cs.AI
本文使用BART模型对CS1课程中的C++编程作业进行基于rubric的多任务自动评分,通过联合预测数值分数和等级区间并引入分布匹配项,使评分更接近教师行为。实验表明,结合rubric上下文和边界软标签的多任务训练优于单任务和硬标签基线。
Hunter Sawyer, Jesse Roberts, Simon Matei
cs.AI cs.CY cs.NE
本文提出了一种基于genetic algorithm的框架,利用稀疏的道路观测数据校准城市交通模拟(如SUMO平台),无需详细的就业分布数据。该方法通过优化job distributions和gate-traffic参数,使模拟交通与少量已知流量路段的数据对齐,并验证了其泛化能力。
Alex Wang et al.
cs.AI
本文提出了BigFinanceBench,一个包含928个金融研究任务的benchmark,通过点权重评分表分解推导步骤来评估完整工作流而非仅最终答案。实验发现最佳系统仅达到58.8%的评分,表明该领域仍有显著提升空间。
Zetian Ouyang et al.
cs.AI
本文提出了PyraMathBench基准测试,用于评估大语言模型在数值处理与数学推理方面的能力,并设计了SOLVE模块和IRPO优化方法来提升模型性能。实验表明该方法能有效改善模型在数值计算和抽象数学问题上的表现。
Frédéric Berdoz et al.
cs.AI cs.LG
本文提出了一种将大语言模型推理过程转化为可验证推理图的方法,并定义了推理效率指标,用于分析不同模型在逻辑谜题上的推理结构差异。
Jiabei Cheng et al.
cs.AI
本文提出了scTranslation,一个用于单细胞多组学模态翻译任务的综合benchmark,整合了多种数据集、模型和评估指标,并系统研究了特征选择、特征质量等影响因素对模型性能的影响。
Eric Cho et al.
cs.AI
本文提出了Hedge-Bench 1.0,一个包含102个真实对冲基金分析师工作任务的benchmark,用于评估AI agent在金融推理任务上的表现。该benchmark通过专家推理轨迹实现确定性评分,实验表明前沿模型和agent的得分低于16%。
Senjie Jin et al.
cs.AI
本文发现token-level entropy在视觉推理的RLVR中失效,并提出VEPO框架,通过将visual sensitivity与token entropy进行multiplicative coupling来重新分配gradient credit,实验表明该方法在视觉推理任务上优于仅依赖entropy的基线。
Mahtab Bigverdi et al.
cs.AI
本文提出Imaginative Perception Tokens (IPT)作为中间感知表征,用于增强多模态语言模型在空间推理任务中的能力,包括视角转换、路径追踪和多视角计数。实验表明IPT监督优于文本思维链训练,但该方法与关键词中的code、spectral、Muon等概念关联较弱。

cs.IR

Sanjay Mishra
cs.IR cs.AI
本文提出Cost-Aware RAG (CA-RAG)框架,通过为每个query动态选择不同的retrieval depth与generation profile组合的策略包,在factual grounding、token成本和延迟之间进行权衡。实验表明,该框架在保持回答质量的同时,相比固定策略能显著降低token消耗和平均延迟。
Andrianos Michail et al.
cs.IR cs.AI cs.CL
本文研究了dense retrieval模型中的positional bias问题,提出了一种inference-time attention calibration方法,通过引入strength coefficient lambda在原始和完全校准的attention分布之间插值,在不重新训练的情况下改善位置公平性。实验表明,部分校准(如B=128, lambda=0.5, 50% layer depth)在多个模型和数据集上优于完全校准,并能跨语言和领域迁移。
Francisco Valentini, Edgar Altszyler, Martin Fajcik
cs.IR cs.AI cs.CL
本文研究了监督式bi-encoder retriever是否隐式学习了document-level relevance prior(与查询无关的文档偏好信号),发现该prior会导致“可发现性差距”,即低prior的文档更难被检索到。该现象在supervised dense retriever中显著,在BM25中较弱,且与文档内容是否全面、自包含等特征相关。
Shubing Yang, Dongfang Zhao
cs.IR
本文提出Slipstream方法,利用向量流中的连续性来加速流式近似最近邻搜索(ANNS)中图索引的构建,通过从先前插入的候选点而非入口点开始搜索,并采用自适应控制器调整搜索范围。实验表明该方法在保持高召回率的同时显著提升了吞吐量。
Xi Zhou et al.
cs.IR cs.AI
本文提出BAHSD框架,通过多尺度一致性探测机制处理黑盒序列推荐中的长尾分布信号异质性,并设计自适应分层目标(动态温度KL散度、排序一致性和InfoNCE对比学习)来提升知识迁移效果。该方法在尾部用户上取得显著改进,但未涉及关键词中的code、spectral、Muon等概念。
Rajith Arulanandam, Nisansa de Silva
cs.IR
本文提出了一种用于法律案例检索的两阶段混合方法,结合了基于BM25的lexical搜索和基于dense ANN的semantic搜索,并通过Reciprocal Rank Fusion (RRF) 和Z-score归一化来整合不同来源的分数。该方法在司法基准测试上优于强baseline,但主要贡献在于工程化的检索框架,而非理论或方法上的开创性突破。
Shiteng Cao et al.
cs.IR
VirtualMLE提出了一种基于LLM agent的框架,通过执行、反思和记忆更新的闭环来自动化sequential recommendation模型的调优过程,在SASRec和HSTU骨干网络上取得了有竞争力的推荐质量。该方法利用agent的认知能力来减少人工试错,但并未涉及code、context、spectral、Muon、pretrain或attention等关键词中的核心概念。
Yifan Jin et al.
cs.IR cs.AI
本文提出了一种基于双曲空间的检索增强生成框架HyRAG,用于提升图基础模型的泛化能力。该方法通过双曲知识索引模块保留外部知识库的树状层次结构,并利用多粒度检索模块提供全局与局部语义信息,最终通过双路径融合模块实现特征与结构层面的知识整合。
Dyuman Bulloni et al.
cs.IR
本文提出PhRAG框架,利用Retrieval-Augmented Generation和NER技术将分散的工业备件描述整合为虚拟库存池,支持自然语言检索并生成结果解释。该方法主要解决工业备件管理中数据异构和检索困难的实际问题。
Shiyu Ni et al.
cs.IR cs.CL
本文研究了LLM reranker能否预测自身排序质量的问题,提出了基于self-consistency和verbalized confidence的两种方法,实验表明self-consistency在多数场景下优于现有方法。
Zifei Wang et al.
cs.IR
本文针对LLM agent技能检索中“技能兼容性”被忽视的问题,提出了R3-Skill基准和R3两阶段检索系统,利用LLM的拒绝决策作为监督信号来显式建模技能间的协作关系。实验表明,将兼容性信号置于cross-encoder阶段比bi-encoder更有效,最终在R3-Skill上取得了较好的检索性能。
Zhenyu Yu, Shuigeng Zhou
cs.IR
本文提出MARS,一种用于序列推荐的聚合算子,通过多速率聚合不同时间尺度的recency信号,并自适应地选择Transformer或Mamba作为编码器以适应数据稀疏或密集场景。实验表明MARS在多个基准上提升了推荐精度,但方法本身并非开创性,且与关键词列表中的概念关联较弱。
Zhenyu Yu, Shuigeng Zhou
cs.IR
本文研究了latent reasoning在空间预测任务中的有效性,发现其效果取决于是否基于metric space。作者提出MeRa模块,通过引入metric-space bias来提升预测性能,并在多个基准上取得最佳结果。
Yuecheng Li et al.
cs.IR cs.AI cs.CL
本文提出Taiji框架,用于工业推荐系统中大语言模型(LLM)与推荐系统ID空间的语义对齐。它通过逆向工程推理和拒绝采样生成高质量CoT数据,并引入Pareto最优策略优化(POPO)来平衡LLM语义奖励与推荐偏好奖励,在快手广告平台部署后服务超4亿用户。

cs.CL

Zhenting Qi et al.
cs.CL cs.AI cs.MA
本文提出了一种基于经济交互的多智能体系统,通过引入拍卖机制让智能体竞争行动权,并利用环境奖励进行财富积累与分配,从而在没有中央控制或显式通信协议的情况下实现去中心化的credit assignment。该方法将经济选择(economic selection)作为演化动力:有效的智能体通过exploitation积累财富并变异,无效的智能体破产后通过exploration被替换。实验表明,从弱智能体初始化开始,该系统在数学推理、金融研究、科学研究和分布式系统优化等五个agentic任务上超越了更强的单体baseline,并展现出涌现的多步推理策略。该工作为多智能体智能提供了一条新路径:通过设计去中心化的激励结构而非直接工程化协调,使集体智能自动涌现。
Dongwon Jung et al.
cs.CL cs.AI
本文提出Adaptive Latent Agentic Reasoning (ALAR)框架,针对LLM agent在multi-turn决策中生成冗长chain-of-thought (CoT)推理导致的效率低下问题。ALAR采用双模态机制:在常规决策步骤使用compact latent reasoning(通过agent的动作作为监督锚点学习),仅在需要深度思考时切换至显式CoT。实验表明,该方法在agentic search和tool-use基准上保持或提升任务准确率的同时,最多可减少84.6%的生成token,显著优化了accuracy-efficiency trade-off。该工作与关键词"agent"高度契合,为agent推理效率提供了开创性解决方案。
Hengrui Gu, Xiaotian Han, Kaixiong Zhou
cs.CL cs.AI
本文提出WRIT (Write-Read Intensive Trajectory Synthesis) pipeline,用于合成多轮user-facing agent的训练轨迹。与现有方法仅关注增加任务中write decision(如tool call)的数量不同,WRIT引入了第二个复杂度轴:单个write decision的evidence burden,即agent在做出决策前需要从read-tool中收集和比较大量证据的难度。通过生成write-intensive和read-heavy任务,并模拟agent-user交互,WRIT合成的数据训练出的4B模型在\(\tau^2\)-bench上超越了GPT-5.1 no-think,同时大幅减少了推理时的token使用,表明紧凑的SFT数据可以将昂贵的test-time reasoning转化为高效的agent行为。该工作与关键词“agent”高度契合,并为agent训练数据的合成提供了新的视角。
Mingkuan Zhao et al.
cs.CL cs.AI
本文提出了一种基于几何框架的推理时干预方法Dynamic Contextual Orthogonalization (DCO),用于缓解大语言模型中的幻觉问题。该方法将幻觉视为残差流语义流形上的正交噪声,通过利用输入残差流作为动态上下文锚点,对attention head输出进行正交分解,并采用逐层Z-score抑制机制选择性地衰减离群正交分量。实验表明,DCO在Llama-3-8B和70B模型上显著提升了上下文忠实度,同时有效维持了知识密集型任务上的性能,解决了现有方法中幻觉抑制与参数知识保留之间的权衡问题。
Zheng Liu et al.
cs.CL
ARBOR提出了一种可复用的过程奖励框架,通过维护一个跨查询共享的rubric memory(评分标准记忆库),为基于LLM的搜索agent提供过程级梯度。该方法从对比轨迹中提取局部标准并整合为跨查询通用rubric,利用稀疏成对判断对轨迹评分,从而在结果奖励均匀时仍能提供有效梯度。在四个多跳QA基准上,ARBOR一致优于GRPO和DAPO基线,将LLM评判准确率提升最多4.2个点,并将最多42%的零梯度训练组转化为信息组。该工作与关键词agent高度契合,解决了搜索agent训练中过程监督缺乏一致性和可复用性的问题。
Ibrahim Abdelaziz et al.
cs.CL cs.AI cs.LG
本文提出PROVE框架,通过构建20个有状态MCP服务器(提供343个工具)和依赖图引导的对话模拟管道,解决了LLM多步工具调用训练中状态执行环境缺失与合成数据脱离实际状态的问题。其核心创新在于设计多组件程序化奖励函数(包括渐进有效性评分、依赖感知覆盖度、自适应效率惩罚等),无需外部评判模型即可在GRPO强化学习训练中稳定优化agent行为。在BFCL Multi-Turn、tau2-bench和T-Eval基准上,该方法使Qwen3-4B/8B等模型获得最高+10.2分的提升,验证了紧凑程序化奖励对多步工具编排的持续改进效果。
Yu Xia et al.
cs.CL cs.AI
本文提出Agentic Chain-of-Thought Steering (ACTS),将推理引导形式化为一个Markov decision process,其中controller agent在推理过程中自适应地引导一个冻结的reasoner。通过在每个步骤中观察推理轨迹和剩余思考预算,controller发出包含推理策略和引导短语的动作,实现了预算感知的策略控制。该方法通过多预算增强的合成轨迹初始化controller,并利用reinforcement learning进行优化,在多个基准测试中匹配了完整推理性能并大幅节省了token。这项工作为agent-based的LLM推理效率控制提供了新的范式。
Ayman Ali Sharara
cs.CL cs.AI cs.IR
本文提出了IdiomX,一个多语言的idiom(习语)理解、检索与解释基准数据集,包含超过19万个上下文示例,覆盖英语、阿拉伯语和法语。实验表明,contextual transformer模型在idiom检测上表现优异,而混合检索与重排序架构能有效提升跨语言idiom检索性能。
Stefanie Kunkel et al.
cs.CL cs.CY
本文通过构建一个评估benchmark,比较了31个大型语言模型(LLMs)与德国人类调查样本在环境态度上的差异,发现许多LLMs表现出比人类更“绿色”的倾向,但其输出易受提示词影响。该研究主要关注AI系统的价值对齐与治理,与关键词列表中的概念关联较弱。
Hammad Rizwan et al.
cs.CL
本文研究了大型语言模型(LLMs)中词汇重叠对表示的影响,发现词汇效应在模型深度上持续存在,并影响下游任务如摘要和模型编辑。
Vera Neplenbroek et al.
cs.CL
本文研究了在对话历史中,LLM如何受对话主题等(psycho)linguistic特征影响而产生输出差异,发现对话主题可作为sociodemographic groups的proxy,但其影响方式难以预测。
Muyu He et al.
cs.CL
本文探讨了Transformer深层中value vector是否需要依赖residual stream的上下文信息,提出Bank of Values (BoV)方法,通过为最后三分之一层学习token特定的查找表来替代上下文依赖的value vector,在135M和780M参数模型上验证了性能提升。
Chalamalasetti Kranti, Sowmya Vajjala
cs.CL
本文介绍了Padyam2Gadyam数据集,用于将13-17世纪泰卢固语古典诗歌翻译成现代泰卢固语和英语散文,并评估了5种大型语言模型在此任务上的表现。结果表明,当前模型在诗歌到散文的翻译上仍有较大改进空间。
Andrea Brunello et al.
cs.CL cs.AI
本文系统性地人工审查了FOLIO和MALLS数据集中自然语言到一阶逻辑(NL-to-FOL)的标注质量,发现约39%和36%的条目存在错误形式化,并发布了修正后的ground truth。基于此,作者提出了一个LLM辅助框架,通过引导人工审查者关注最易出错的实例,在审查少于24%的实例后即可达到90%的数据集准确率。
Subramanyam Sahoo et al.
cs.CL cs.AI
本文通过线性探针(linear probes)分析Qwen3-14B模型在演绎、归纳和溯因推理任务上的隐藏状态,发现高分类准确率完全由任务格式(如源身份、选项数量、响应长度)驱动,而非推理模式本身,并建议在机制可解释性中常规性地进行格式去混淆。
Mirko Lai et al.
cs.CL
本文提出了Ghost Annotator框架,结合Conformal Prediction与Collaborative Filtering风格的标注者表示,用于建模LLM在内容审核中与人类标注者的行为差异。通过Ghost Prediction指标和Ghost Annotator表示,量化了模型预测与所有人类标注不一致的情况,并发现模型不确定性随标注者分歧增加而上升,且较大模型对与人类标注不一致的文本分类更自信。
Claire Bonial et al.
cs.CL
本文探讨了大型语言模型(LLMs)是否像基于用法的语法理论那样,受到entrenchment(高频使用导致的固化)和preemption(未观察到特定结构导致的抑制)两种统计信号的约束。实验表明,较大模型能在coercion(构式语境强制词汇产生非典型解释)中识别并再现构式生产力,但即使最大模型也无法利用统计preemption来避免过度泛化。
Siva Rajesh Kasa et al.
cs.CL cs.AI cs.LG
本文提出Fast-dLLM++,通过Fréchet profile decoding改进扩散LLM的并行解码,利用异构置信度选择并行提交集,在保持模型不变的情况下提升吞吐量。实验在GSM8K等基准上显示最高37%的吞吐量提升。
Marios Koniaris et al.
cs.CL
本文构建了EURO-5K数据集,用于从欧盟立法中提取报告义务,并比较了判别式token-classification模型与生成式span-extraction模型在full fine-tuning和参数高效微调下的性能。结果表明,通用与法律BERT模型在full fine-tuning下性能相近,而法律pretraining仅在参数高效微调时带来明显增益。
Matthew Stone, Una Stojnić
cs.CL
本文探讨了AI聊天机器人输出是否具有意义,认为其输出有意义但无需假设其具有意图或心智状态,并讨论了这对人类语言和合成文本理论的影响。
Yuehan Qin et al.
cs.CL
本文提出了一种基于Bayes factor的统一框架,用于在长上下文对话系统中根据用户偏好变化进行记忆检索,通过量化历史轮次对模型响应似然性的改进程度来选择相关记忆。实验表明该方法在偏好密集任务上优于传统基于嵌入的检索方法。
Luyang Zhang, Jingyan Li
cs.CL
本文研究了如何从带标签的验证集输出统计量中预测Best-of-\(N\)推理缩放增益,通过bootstrap-Lasso稳定性分析识别出三个核心特征(prompt-level agreement spread, label-assisted first-correct-sample position, completion-length variance),并构建了ridge predictor达到Spearman \(\rho=0.90\)的相关性。该工作为在无需完整运行端到端流程的情况下筛选候选配置提供了实用方法。
Feng Li, Yoritaka Iwata
cs.CL
本文提出了一种基于RAG(检索增强生成)的本地化学术咨询系统,通过结合大语言模型与结构化课程大纲数据,以隐私保护的方式辅助学生进行课程选择、先修课程理解及个性化学习规划。
Xiaoxi Luo et al.
cs.CL cs.AI
本文介绍了TypewriterLM,一个仅基于1913年前英文文本训练的7.24B历史语言模型,通过构建54B token的TypewriterCorpus语料库和基于词汇的指令微调框架来解决数据质量、时间泄漏和评估问题。该工作主要贡献于历史文本的语言模型预训练,与关键词中的pretrain有一定关联,但方法本身并非开创性且未解决长期问题。
Zhiyu Cao et al.
cs.CL
本文提出Hint-Guided Diversified Policy Optimization (HDPO)方法,通过让LLM先生成候选方案提示再选择最优方案进行推理,以增强推理多样性和可靠性。实验表明该方法能提升LLM的推理性能及方案选择能力。
Peerat Limkonchotiwat et al.
cs.CL
SEA-Embedding提出了一个完全开源且可复现的文本嵌入pipeline,专注于东南亚语言,仅使用公开数据训练并取得了SOTA结果。该工作主要研究了数据组成、训练目标和基础编码器初始化这三个核心因素对嵌入鲁棒性的影响。
Paiheng Xu, Jing Liu, Wei Ai
cs.CL cs.AI
本文提出了一种条件假设生成框架,通过引入研究者指定的协变量来改进基于LLM的文本分析,并设计了两种计量经济学启发的方法来处理层不平衡和符号反转问题。实验表明该方法在相关子组中能生成更有用的假设。
Herun Wan et al.
cs.CL
本文研究了多智能体LLM系统中的“协商幻觉”现象,发现讨论会导致关键事实丢失和立场同质化,并提出了DelibTrace框架来追踪这一过程。实验表明,多智能体讨论最多可抹去72%的关键事实,且最终立场仍受基础模型先验影响。
Sourabrata Mukherjee et al.
cs.CL
本文通过测量四个几何量(score spread, effective rank, principal angle, stacked correlations)分析了LLM-as-Judge中模型间共识与人类对齐的关系,发现模型在主观评分上使用更窄的分数范围且评估轴几乎与人类正交,表明模型间共识主要反映共享偏差而非人类对齐。
Baijun Ji et al.
cs.CL
本文提出G^2C-MT方法,将文档级机器翻译中的context selection建模为在轻量级discourse graph上的结构化路径发现问题,通过depth-biased random walk采样backward context path来引导LLM翻译。该方法在多个LLM上取得优于baseline的结果,但主要贡献在于context selection的图引导框架,与关键词列表中的code, spectral, Muon, pretrain, agent, attention等概念关联较弱。
Mingkuan Zhao et al.
cs.CL cs.AI
本文提出了一种名为Regret Pre-training的自监督框架,基于LUPI范式,通过双视角架构(因果Student分布和未来条件Teacher分布)在训练中引入未来信息,以增强语言模型的知识基础。实验表明该方法在多个下游任务上提升了性能,但未涉及code、spectral、Muon或agent等关键词。
Yuanpu Cao et al.
cs.CL
本文研究了大型语言模型中事实性观点编辑的安全风险,提出了FOE基准测试和一种自生成证据对齐方法,但方法本身在关键词领域内缺乏开创性。
Kailin Lyu et al.
cs.CL cs.AI
本文提出PhotoCraft,一种无需训练的分层记忆系统,通过为MLLM配备工作记忆、情景记忆和语义记忆来增强深度图像搜索中的多步推理能力,在DISBench上取得了最高18.5%的性能提升。
Runpeng Dai et al.
cs.CL
本文提出了一种将自适应采样问题建模为Markov decision process (MDP)的方法,并训练了一个轻量级的reinforcement learning (RL)控制器来平衡大语言模型在测试时推理的正确性、延迟和计算成本。该方法仅依赖最终答案的统计信息,可在CPU上运行,并在实验中实现了比ASC和ESC等基线更好的性能权衡。
Taslim Mahbub, Yiding Pei, Shi Feng
cs.CL
本文提出Internal Coherence Maximization (ICM)方法,通过最大化示例间的互预测性来生成无监督的个性化对齐示例,并证明示例的coherence(一致性)比单个标签的准确性对泛化更重要。该方法在多个benchmark上匹配了gold labels的性能,并指出对预训练数据中代表性不足的persona,针对性反馈优于随机反馈。
Yanyu Zhu et al.
cs.CL
本文提出LEDE框架,利用offline reinforcement learning为LLM的自推测解码动态选择最优exit layer和speculation length,以加速推理。实验表明该方法在Llama-2和Llama-3上相比自回归解码实现了\(2.0\times\)到\(2.7\times\)的加速。
Chang Liu et al.
cs.CL
本文提出DMT-CBT框架,用于在CBT咨询中对跨会话的治疗状态进行动态建模,并构建了多会话多模态数据集DMTCorpus。实验表明该方法在咨询保真度和治疗联盟方面优于现有方法,但未涉及代码、谱方法或预训练等关键词相关技术。
Jeff Wang
cs.CL
本文构建了一个包含410,499个活跃热带物种的跨领域数据集,整合了多个生物多样性数据库的taxonomic identifiers,并添加了中文俗名层和CITES来源链接层。该数据集主要服务于商业和监管场景,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词相关的方法或理论。
Thomas Stephan Juzek, Xiaoyang Ming, Jose A. Hernandez
cs.CL cs.AI
本文提出了两种无需人工干预的评估指标(Lexical Alignment Score和Triangulated Preference Shift),用于自动识别大语言模型中的词汇对齐偏差及其与人类偏好学习阶段的关联,并在PubMed摘要上验证了方法的稳定性和可扩展性。
Yu-Kai Chan et al.
cs.CL
本文提出HyperPatch框架,通过将序列知识编辑重构为超图流形上的稳定性问题,解决n元结构漂移导致的知识传递失败。该方法利用超图神经网络和拓扑对齐机制保持事件完整性,在MQuAKE-CF和MQuAKE-T基准上取得显著性能提升。
Rui Li et al.
cs.CL
本文提出了SenseJudge框架,利用人类偏好驱动的大语言模型作为个性化评判者,并构建了SenseBench基准来评估多轮对话中的指令遵循能力。实验表明该方法在个性化评判和模型排名任务上优于现有方法。
Ziheng Li et al.
cs.CL
本文提出MemTrain,一种自监督训练框架,通过两个代理任务(端到端掩码重建和中间记忆召回)在无标注Wikipedia语料上增强LLM agent的上下文记忆能力,并使用GRPO联合优化。实验表明该方法在长文本问答等任务上提升了记忆密集型推理性能。
Sangwon Baek, Kyu Yeon Hur, Kyunga Kim
cs.CL cs.AI
本文通过析因实验研究了AI评分者在复杂临床决策中的评分行为,发现基于评分标准的协议能显著提升评分区分度,而无评分标准的协议会抑制模型间的行为差异。该研究主要关注临床AI评估的评分协议比较,与关键词中的code、context、spectral、Muon、pretrain、agent、attention等方向无直接关联。
Anuj Tiwari et al.
cs.CL cs.LG
本文系统研究了非洲语言NLI任务中样本量对模型性能的影响,发现性能增长并非单调,且对语言高度敏感,表明仅增加数据量不足以稳定提升非洲语言NLI的性能。
Yuxin Meng et al.
cs.CL cs.AI
本文提出WebRISE,通过构建Interaction Contract Graphs (ICGs)来评估MLLM生成的web artifacts,覆盖多种输入模态和大量任务,发现当前模型在交互有效性上存在显著不足。该工作聚焦于web交互评估,与关键词中的code、agent等概念关联较弱。
Alkis Koudounas et al.
cs.CL eess.AS
本文提出了COMPASS框架,用于统一和可复现地评估speech-to-speech translation (S2ST)模型,整合了46个metric并分析了不同架构的互补性。通过correlation filtering将metric数量减少至10个,并验证了domain-specific metric与人类判断的相关性。
Suhwan Hwang
cs.CL
本文研究了在冻结的sentence embedding模型上附加轻量级adapter进行难度自适应,发现基于单个句子的复杂度信号几乎无效,而基于句子对的pair-level难度信号在部分任务上带来微小提升。
Yeqin Zhang et al.
cs.CL cs.IR
本文提出SF-Re2G方法,通过利用文档结构信息改进检索、重排序和生成过程,在文档对话系统中提升了性能。
Henry He, Johann Frei, Raphael Schmitt
cs.CL
本文提出了ChristBERT,一个基于RoBERTa的德语医学领域语言模型家族,通过在13.5GB语料上比较继续预训练、从头训练和词汇适应等策略,在多个NER和文本分类任务上取得了SOTA结果。该工作主要贡献于德语医学NLP的领域适应方法,但与关键词中的code, spectral, Muon, agent, attention等概念无直接关联。
Raphael Merx, Ekaterina Vylomova, Trevor Cohn
cs.CL
本文研究了LLM在机器翻译中根据受众和意图进行适应性翻译的能力,发现显式指令能显著提升翻译适应性,尤其在非正式领域和高资源语言中,但传统翻译指标无法有效评估这种适应性。
Peerawat Chomphooyod et al.
cs.CL
本文介绍了SEA-NLI,一个针对东南亚文化理解的NLI benchmark,发现现有模型在该基准上表现不佳,主要失败原因在于缺乏东南亚文化知识。
Chaoyi Xiang et al.
cs.CL
本文研究了LLM中的多语言遗忘(unlearning)现象,通过扩展TOFU基准到五种语言,发现遗忘在不同语言间的迁移效果高度可变,且主要作用于后期解码层而非共享的跨语言潜在空间。实验表明,通过单一推理时的引导方向可以逆转大部分遗忘效果,恢复50%-90%的被遗忘知识。
Galann Pennec et al.
cs.CL cs.CV
SagaQA是一个针对电视剧集长程多模态叙事理解的多跳推理基准,通过要求模型在不同剧集间进行长距离推理来评估其高层叙事理解能力。该工作主要关注agentic planning策略在复杂推理任务中的应用,与关键词中的agent有一定关联,但方法本身并非开创性突破。
Anuj Tiwari, Terry Oko-odion, Hannah Nwokocha
cs.CL cs.LG
本文系统研究了在斯瓦希里语、约鲁巴语和豪萨语等低资源非洲语言中,针对自然语言推理任务的提示策略,发现对比提示策略在跨语言和模型上表现最稳定,且精心设计的提示足以超越使用少样本和思维链的更强基线。
Xuan Yang et al.
cs.CL
本文提出了RUT-Bench基准,用于评估LLM在真实用户工具调用场景下的表现,涵盖理想与非理想用户行为。实验发现现有模型在复杂非理想输入下性能显著下降,但未涉及关键词中的核心数学方法。
Atm Mizanur Rahman et al.
cs.CL cs.AI
本文评估了六种LLMs在真实世界消费设备维修问题上的表现,构建了一个包含991个问题的benchmark,并发现模型在安全关键任务中仍不可靠,且跨语言性能(英语vs孟加拉语)存在显著差距。该工作与关键词(如code, context, attention)无直接关联。
Pritam Kadasi, Anuj Tiwari, Mayank Singh
cs.CL cs.LG
本文针对SemEval-2026 Task 9中的极化检测任务,系统研究了12种不同设计的prompt变体,并使用aya-101和Gemma3-27B模型进行实验。结果表明,基于prompt的方法在粗粒度二分类极化检测上效果较好,但在细粒度多标签分类任务中面临困难。
Nils Schwager et al.
cs.CL cs.AI
本文通过prompt变化框架评估了SLMs在心理测量中的表现,发现模型输出主要反映prompt伪影而非语义推理,限制了其在心理测量中的应用。
Chengxi Liao et al.
cs.CL
EntSQL是一个面向企业场景的Text-to-SQL benchmark,包含1066个中英文对齐的语义示例,用于评估在长上下文企业文档中生成SQL的能力。实验表明,即使是最优系统在提供长文档时准确率也仅为15.9%,凸显了该任务的挑战性。
Honghui Zhang et al.
cs.CL
本文提出了See-Infer-Intervene (SII)框架和Proactive Intent World Model (PIWM),用于多模态零售场景中主动推断顾客意图并选择服务干预动作。实验表明,在真实状态条件下模型表现较好,但端到端视频输入时性能显著下降,识别出视频到状态的对齐是主要瓶颈。
Nishit Singh
cs.CL cs.AI
本文通过线性探针(linear probes)在Transformer的隐藏状态中提取了堆栈深度(stack depth)的表示方向,并证明消融该方向会导致模型在counter language任务上的准确率降至接近0%,从而提供了堆栈表示具有因果必要性的经验证据。
Farhan Sheth et al.
cs.CL cs.CR
本文提出HERALD框架,通过token级别的加密红action(选择性加密敏感token)来保护临床大语言模型部署中的隐私,结合NER和词性驱动策略选择加密目标,并保持上下文用于下游任务。实验表明该方法在分类和医疗问答任务中能恢复接近明文水平的性能。
Eric Laporte
cs.CL
本文讨论了语言处理中lexicons和grammars的构建方式,比较了手工构建与工业化自动生成两种趋势,并分析了它们对语言学家和计算机科学家关系的影响。
Mario Sanz-Guerrero, Manuel Mager, Katharina von der Wense
cs.CL
本文研究了instruction-tuned LLMs在对话中对自己回答过度自信的问题,发现chat template会加剧这种“ownership bias”,并提出一种简单的推理时策略(将模型回答伪装成用户输入)来降低过度自信。
Muhammad Ali
cs.CL cs.AI
本文构建了BaltiVoice语料库并微调Whisper-small模型,将词错误率从182.18%降至30.07%,为低资源语言Balti提供了首个公开ASR系统。该工作主要贡献于语音识别领域,与关键词列表中的概念无直接关联。
Anling Xiang, Yuwen Yang, Yang Shen
cs.CL
本文提出AutoTail-BSFGM方法,通过自动门控尾部优先调整、弱Balanced Softmax辅助损失和Fast Gradient Method对抗正则化,解决中文学术文本分类中的类别不平衡问题。实验表明该方法在CSL数据集上提升了验证集和锁箱集的准确率与平衡准确率。
Zhengyi Zhao et al.
cs.CL
本文提出Intent Projection框架,通过正交投影模块分离多模态meme中的字面内容与语用意图,并在表示、输出和目标层面进行解耦。该方法在六个基准上优于开源模型,但主要贡献在于多模态理解中的语用分解,与关键词列表中的code、spectral、Muon等概念关联较弱。
Lin Li et al.
cs.CL cs.AI cs.LG
本文提出了一种名为SHARS的推理时幻觉缓解框架,通过分段拒绝采样和语义不确定性检测器来减少长文本生成中的幻觉累积,无需外部知识库即可提升事实一致性。实验表明该方法在标准基准上有效降低了幻觉并保持了信息量。
Krishnapriya Vishnubhotla et al.
cs.CL cs.AI
本文探讨了微调对大型语言模型安全性的影响,指出微调应基于特定能力目标以避免实验设计的随意性。通过多维度评估,发现微调后模型对安全提示可能产生不连贯输出,且自动安全评估对此类输出不可靠。
Alexander Apartsin, Yehudit Aperstein
cs.CL cs.AI
本文提出CoEval框架,用于在无标注数据或可信基准时对语言模型进行排序。它通过教师模型合成无污染的新基准,并使用跨族评审模型集成进行无标签评估,在验证中恢复了真实模型排名。
Pieter Christy Yan Yudhistira, Dzaki Rafif Malik, Novanto Yudistira
cs.CL cs.CV
本文介绍了IndoRad-VQA数据集,用于评估医学Vision-Language Models在印尼语临床环境下的鲁棒性,发现模型在英语和印尼语输入之间存在8%到25%的性能差距,表明英语基准测试的高性能不能保证在非英语临床语境中的稳健表现。
Clara Haya Suslik, Or Shafran, Mor Geva
cs.CL
本文提出EMBedding ERasure (EMBER)方法,通过Sparse Matrix Factorization对token embeddings进行精确编辑,以增强现有知识擦除方法的鲁棒性。实验表明该方法能有效降低重学习后的准确率恢复,但主要贡献在于模型安全领域,与关键词列表中的概念关联较弱。
Mohamed Hesham Elganayni, Selim Saleh
cs.CL cs.IR
本文针对法律问答中的检索增强生成系统,提出使用基于扰动的attribution方法(如C-LIME)训练轻量级cross-encoder来对检索到的passage进行重排序,以提升citation faithfulness。实验表明该方法优于基于语义相似度的排序,但整体工作更偏向应用层面,与关键词列表中的概念关联较弱。
Justice Owusu Agyemang et al.
cs.CL cs.IT
本文提出Entropy Gate框架,通过引入熵淬灭(entropy quenching)的热力学过程对LLM pipeline中的token进行压缩,利用Boltzmann生存概率和自适应淬灭调度移除低信息token,在保持语义保真度的同时实现40-60%的压缩率。该方法与关键词中的context和agent有一定关联,但整体创新性有限且未涉及code、spectral、Muon、pretrain或attention等核心概念。
David Alonso del Barrio, Jing Wen, Daniel Gatica-Perez
cs.CL
本文研究如何使用本地可部署的开源LLM(Llama3-8B)辅助迁移新闻的frame analysis(框架分析),提出Structured Chain-of-Thought (SCoT) prompting方法,通过逐步推理提升分类性能并支持人工审计。实验表明SCoT在单GPU上可行,且其解释被认为逻辑合理,但可能微妙影响人类判断。
Xin Liu et al.
cs.CL
本文提出HybridThinker方法,通过混合训练策略(部分thought steps直接参与attention,部分被mask迫使模型使用memory tokens进行压缩与检索),在保持推理精度的同时压缩chain-of-thought的存储成本。实验表明该方法在4个推理基准上平均准确率提升5.8点,但未涉及code、spectral、Muon、pretrain、agent或attention机制的核心创新。
Maurice Kraus et al.
cs.CL
本文介绍了KletterMix,一个通过翻译高质量英文预训练语料库构建的德语预训练数据集,并验证了其在德语下游任务上的有效性。
Yuetian Lu et al.
cs.CL cs.LG
本文针对稀疏MoE语言模型中的事实回忆问题,提出了专家感知的因果追踪方法,通过扰动subject-token嵌入并测试不同层级的clean输出恢复效果,在Qwen3-30B-A3B-Base和Mixtral-8x7B-v0.1上进行了实验。结果表明专家级定位依赖于模型和协议,而非普遍适用。
Renhao Pei et al.
cs.CL
本文研究了在低资源机器翻译中,通过自动生成的linguistic reasoning traces(基于Universal Dependencies树库等)来增强LLM翻译性能的方法。实验表明,这些traces在in-context learning场景下作为推理时指导效果显著,但作为训练数据时收益有限。
Lisa Bouger et al.
cs.CL
本文研究了大型语言模型(LLM)中后门攻击的防御问题,发现通过遗忘(unlearning)单个已知trigger可以抑制其他未知后门。作者提出了Cross Activation Shift Distance来量化不同训练引起的模型变化,为LLM安全提供了新方向。
Hashmat Shadab Malik, Muzammal Naseer, Salman Khan
cs.CL cs.CV
本文系统研究了多语言多模态大语言模型在12种语言上的对抗鲁棒性和多模态安全性,发现对抗性图像具有跨语言迁移性,且低资源语言看似安全实为理解失败导致的“安全假象”。
David Demitri Africa, Arathi Mani
cs.CL cs.AI
本文研究了consistency training对模型alignment的影响,发现该方法会抑制reward hacking和emergent misalignment,但会放大sycophancy。研究通过实验和理论框架表明consistency training并非alignment-neutral,其效果主要由consistency labeling过程导致的distribution shifts驱动。
Maggie Mi et al.
cs.CL
本文使用contextualised language models作为分布学习器,研究了习语的可分解性(decomposability)与句法灵活性之间的关系。模型内部的decomposability度量与人类判断相关性较弱,且与句法灵活性呈微弱负相关,表明习语行为受多种因素共同影响。
Qi Cao et al.
cs.CL cs.AI cs.LG
本文提出了一种名为Clustered Self-Assessment的简单方法,用于大语言模型的不确定性量化。该方法通过对模型生成的样本进行语义聚类并转化为结构化多选题,利用模型对选项的置信度作为不确定性估计,实验表明其效果优于基线方法。
Cuong Vuong Tuan et al.
cs.CL cs.AI
本文提出了一种无需训练的mixture-of-agents框架,用于多文档摘要任务,通过结合LLMs和knowledge graphs来捕捉文档间关系,并分解为多个agent任务(如extractive selection和iterative refinement)。实验在英文和越南语数据集上取得了有竞争力的性能。
Zongwei Lv et al.
cs.CL
本文提出了RealClawBench,一个基于真实开发者与agent交互会话构建的实时benchmark框架,通过重构执行环境和确定性可验证评分器将真实会话转化为可复现的自动评分任务。该benchmark包含281个可执行任务,评估了14个模型,最佳系统仅解决65.8%的任务,揭示了在真实agent工作负载上仍有较大提升空间。
Haewon Park, Yohan Jo
cs.CL
本文研究了将locate-then-edit知识编辑方法从自回归模型(ARMs)迁移到掩码扩散语言模型(MDMs)的可行性。实验发现,两种模型在编辑位置(早期到中间层的MLP)上具有相似性,但MDMs在多token目标编辑上表现显著退化,原因是编辑未针对部分掩码的中间状态进行优化。为此,作者提出了一种简单修正方法,通过优化这些中间状态的编辑来恢复多token性能。
Aziz Sharipov Ortega, Dominik Macháček
cs.CL
本文提出将离线语音翻译模型Canary与AlignAtt策略结合,实现同时语音翻译,并在IWSLT 2026任务中验证了其在捷克语到英语、英语到德语和意大利语上的性能。系统以1B参数的低计算需求支持多语言翻译,在低延迟和高延迟场景下均优于同类基线。
Máté Gedeon, Péter Mihajlik
cs.CL cs.AI cs.SD eess.AS
本文提出了一种利用LLM生成对话文本再通过TTS合成语音的数据增强流程,用于低资源语言的对话式ASR训练。实验表明,合成数据能提升识别性能,但生成器选择和组成对效果影响显著。
Quentin Fuxa, Dominik Macháček
cs.CL cs.AI
本文提出了AlignAtt4LLM系统,用于IWSLT 2026同声传译任务。该系统通过将AlignAtt策略适配到decoder-only LLM(如Gemma-4)上,利用显式源文本span、离线选择alignment heads和qk-fast replay等技术,实现了低延迟的语音翻译。实验表明,该方法在英德和英意翻译上优于基线,但对英中翻译效果一般。
Rongzhi Zhang et al.
cs.CL cs.AI
本文提出QUBRIC框架,通过协同设计查询和评分标准来扩展基于评分标准的强化学习,使其超越可验证奖励的局限。该方法利用教师模型的关键点将开放式查询重写为可评估的场景化问题,并通过对比生成和可学习性过滤来优化训练数据。
Areeb Gani et al.
cs.CL cs.AI
本文提出了一种量化大型推理模型(LRM)中忠实置信度表达(FC)的框架,通过分析token概率、隐藏状态和采样响应一致性三种内部不确定性来源,并采用前缀条件采样控制轨迹变化。研究发现LRM在忠实表达置信度方面存在显著挑战,推理行为不会自动改善FC,且不同置信度估计器对同一轨迹的评估结果存在分歧。
Mutsumi Sasaki et al.
cs.CL
本文研究了语言模型在比较带单位的数量(如110 cm和1.2 m)时的行为,发现模型并非通过精确的尺度转换,而是依赖基于数字差和单位尺度差的启发式策略进行判断。

cs.DS

Alan Li et al.
cs.DS
本文通过一种新的分析方法,严格证明了Grothendieck常数\(K_G\)的上界为\(\frac{\pi}{2 \log (1+ \sqrt{2})} - 10^{-5}\),改进了Braverman等人的先前结果。该工作为计算复杂性理论中关于近似算法和半定规划对偶间隙的经典问题提供了更紧的界,具有理论上的开创性。
Eduardo V. L. Barboza, Robert Sabourin, Rafael M. O. Cruz
cs.DS
本文提出了一种在线K-d树算法,支持数据流中的动态节点插入与删除,并适配了Canberra距离以实现高效子树剪枝。实验表明该方法在数据流场景下能提升处理速度,但未涉及关键词中的code、context、spectral、Muon、pretrain、agent或attention等概念。
Xiangyun Ding et al.
cs.DS
本文提出了metric skip-list的并行构造算法,在常数扩张率假设下实现了\(O(n\log n)\)的期望work和polylogarithmic span,并改进了bichromatic closest pair等应用的bound。
Kyungjin Cho et al.
cs.DS cs.DC
本文在MPC和Congested Clique模型中提出了首个确定性的亚对数轮复杂度的spanner和近似最短路径算法,通过使用deterministic hitting set对随机采样过程进行去随机化,实现了与最优随机算法相近的保证。
Nicola Rizzo, Ragnar Groot Koerkamp
cs.DS
本文重新审视了基于colinear chaining的anchored edit distance问题,通过结合Chao和Miller以及Baker和Giancarlo的gap cost与overlap cost计算方法,将现有\(O(n \log^3 n)\)时间算法改进为\(O(n \log \log n)\)时间,并开发了更简单的\(O(n \log n)\)实现llchain。该方法在生物信息学中的序列比对场景下具有显著的加速效果。
Markus Lohrey
cs.DS cs.DB cs.LO
本文研究了在grammar-compressed setting下,对于固定MSO-query的ranked query enumeration问题,证明了可以通过linear preprocessing和constant delay解决。该结果的一个推论是,对于由straight-line program给出的压缩词,可以以常数延迟列出polyregular function的输出符号。

others

Eliot Krzysztof Jones et al.
cs.CR cs.AI
本文提出了首个针对AI agent在网络安全场景中拒绝有害请求的框架,定义了拒绝边界的原则性标准、应拒绝的任务类别以及评估方法。通过对8个前沿LLM agent的测试,发现仅GPT-5.2和GPT-5.1 Codex表现出有意义的拒绝行为,其余6个模型拒绝率接近零。该工作为agent安全对齐提供了开创性的评估框架,与关键词"agent"高度契合。
Donghwan Lee
stat.ML cs.AI cs.LG
本文针对线性Q-learning中的周期性hard target updates和soft target updates机制,首次给出了严格的收敛性理论分析。通过将Bellman maximum算子诱导的dynamics建模为精确的switched linear system (SLS),并利用joint spectral radius (JSR)工具,作者证明了在特定的spectral条件和步长条件下,这两种target update机制能保证算法收敛到精确的projected Q-Bellman solution。该工作为强化学习中广泛使用的target update stabilization机制提供了坚实的理论基础,并特别关注了deterministic setting下的spectral分析,为后续处理随机噪声的reinforcement learning setting奠定了基础。
Yunlong Zhou et al.
eess.IV cs.AI cs.LG
本文提出Spectral-Decoupled Iterative Refinement (SDIR)框架,将降水临近预报重新表述为渐进式的频率解耦细化过程。该方法首先提取稳定的低频天气学骨架,然后通过双路径设计(SFG-Former用于全局结构,FR-Refiner用于高频残差)在物理约束下迭代细化高频纹理,从而同时消除回归模型的过度平滑和扩散模型的幻觉问题。通过引入Physically Consistent Power Spectral Density (PCPSD)损失函数,该方法强制保持湍流一致的spectral分布,在三个基准测试中显著优于现有方法,实现了与扩散模型相当的spectral保真度。
Farooq Shaikh
cs.CR cs.AI cs.MA
本文提出FORGE,一个多agent系统,通过graduated exploitation depth(渐进式利用深度)桥接了漏洞利用生成、优先级排序和检测规则工程三个孤立领域。系统包含五个专用agent(Intel, Generator, Planner, Exploit, Detector),在固定pipeline中执行:从CVE元数据生成目标脆弱应用,通过LLM-primary oracle在四层taxonomy(L0:无证据至L3:完全攻陷)上评估多轮利用,并基于OpenTelemetry利用轨迹生成Sigma和Snort检测规则。在603个CVE上的评估实现了67.8%的端到端L1+利用,且L2+利用导出的检测规则具有显著更高的span-normalized grounding(p=0.035),为agent在安全领域的应用提供了开创性方法。
Jiahui Wang et al.
cs.CV cs.AI
本文提出了一种名为Structure-to-Semantics (STS)的两阶段视觉token剪枝框架,用于解决Vision-Language Models (VLMs)推理中因依赖初始attention scores而导致特征多样性丧失的问题。第一阶段通过基于排斥的采样机制最大化空间与结构多样性,第二阶段利用指令感知的cross-attention过滤与提示无关的token,从而在保留几何覆盖的同时实现语义对齐。该方法在视觉token剪枝领域具有开创性,有效缓解了attention collapse带来的冗余问题,与关键词“attention”高度契合。
Jonas Guan et al.
cs.CR cs.AI cs.LG
本文提出了一种新型自适应计算机蠕虫,利用AI agent(人工智能智能体)和开源大语言模型(LLM)在受感染机器上生成针对每个目标的定制化攻击策略。该蠕虫通过寄生式地使用被攻陷设备的计算资源来维持推理能力,并利用常见的企业网络漏洞在Linux、Windows和IoT设备间传播。由于攻击者每感染一台新机器的边际成本为零,这打破了攻防双方的经济平衡,且不依赖商业AI平台使得集中式安全控制失效。该工作展示了自主生成式对抗威胁已从理论变为现实,为网络安全领域提供了具有开创性的agent驱动攻击范式。
Yingqi Zhang
cs.OS cs.AI cs.CR
Agent libOS提出了一种受library-OS启发的运行时框架,将LLM agent视为具有进程标识、生命周期、显式capabilities和审计记录的AgentProcess。其核心设计原则是将工具视为类似libc的包装器,而运行时原语(如文件系统访问、对象访问、人类审批)构成权限边界,从而将信任边界从工具调度转移到运行时原语。该工作通过Python原型实现了异步调度、namespace-local Object Memory、JIT工具注册等机制,为长期运行的agent提供了可调度、可授权、可恢复和可审计的运行时基板,而非提升规划器准确性。这与关键词中的agent高度契合,并为agent系统的安全性和可控性提供了新的系统级视角。
Zhengxian Huang et al.
cs.CR cs.AI cs.RO
本文提出了一种针对VLA模型CoT推理的对抗性攻击方法TRAP,通过放置对抗性patch来劫持机器人的行为。实验表明该方法能有效误导机器人执行与指令不符的动作。
Peiqi Li, Jie Chen, Shubin Fu
cs.CE cs.LG math.NA
本文提出了一种混合框架,将学习与multiscale numerical method结合,用于加速高对比度介质中Darcy方程的求解。该方法利用attention-enhanced hybrid network预测multiscale basis functions,并采用two-grid preconditioner求解全局系统,在保持数值精度的同时提高了计算效率。
Seewoo Lee et al.
cs.LO cs.AI cs.PL
本文提出了Lean-GAP数据集,包含430个从Dummit和Foote的《Abstract Algebra》教材中形式化的研究生级别代数问题,并开发了从PDF预处理到自动形式化为Lean 4的流水线。该工作主要贡献在于构建结构化数据集和系统化形式化方法,但方法本身在开创性上较为常规,且与关键词列表中的概念关联较弱。
Alice Gomez-Cantos, Henry O. Velesaca
stat.AP cs.AI
本文利用Sentinel-5P/TROPOMI卫星数据,通过中位数和上尾百分位数等分布指标以及K-means聚类方法,分析了厄瓜多尔瓜亚斯省城市尺度的\(NO_2\)污染特征,为数据稀缺地区提供了基于卫星观测的可解释空气质量评估工具。
Alejandro Ascarate et al.
cond-mat.dis-nn cs.LG
本文通过自旋玻璃理论(spin-glass theory)的视角研究autoencoder和variational-autoencoder的latent space,建立了latent-space spin-glass dictionary,并引入overlap distributions、susceptibility等诊断工具来检测ordered、disordered和edge-of-stability相。实验表明,将latent系统驱动至topological trivialization的edge-of-stability区域可改善生成与异常检测性能。
Arafat Hossain Sayem
cs.CV cs.LG
本文提出了COD10K-C基准,用于评估伪装目标检测模型在自然图像退化下的鲁棒性,并设计了轻量模型RobustCODLite。实验表明,现有模型在模糊等退化下性能显著下降,而RobustCODLite通过数据增强和频率先验保持了较高鲁棒性。
Yuan Yuan et al.
cs.CE cs.AI cs.LG physics.ao-ph
本文提出了Samudra 2,一种改进的自回归神经海洋仿真器,通过引入更宽的U-Net骨干网络、修改的ConvNeXt模块和动态损失函数,解决了先前版本在长时间模拟中的方差崩溃和印记伪影问题,并在\(1^\circ\)、\(1/2^\circ\)和\(1/4^\circ\)分辨率下实现了多年代际的稳定滚动模拟。
Antonio de Sousa Leitão Filho et al.
cs.CE cs.AI
本文提出了一个名为Margin Play的多智能体强化学习系统,用于模拟巴西赤道边缘石油勘探中的公共政策博弈,其中包含六个智能体并采用CTDE范式训练。该系统通过实证校准分析了不同制度下勘探对马拉尼昂州福利的影响。
Haolong Zheng et al.
eess.AS cs.AI cs.SD
本文提出了一种名为FSA-GRPO的基于强化学习的后训练方法,通过设计特殊reward来增强听觉大语言模型利用few-shot demonstrations的能力。实验表明,该方法在儿童语音识别等低资源任务上有效,但未涉及code, context, spectral, Muon, pretrain, agent, attention等关键词。
Newman Cheng et al.
cs.CE cs.AI cs.MA physics.chem-ph
本文提出CLIO智能体,通过持续更新的belief-state graph与递归plan-then-act循环,在闭环人机协作中设计aqueous organic redox flow battery (AORFB) negolyte。CLIO能识别自身工具或假设的失败并调整策略,最终通过生成mechanistic hypotheses指导实验修正,改善了电化学性能。
Abhishek Chandra, Taniya Kapoor
cs.NE cs.AI cs.LG
本文提出了一种基于oscillatory state-space dynamics的PINN方法,通过线性振荡器时间演化与PDE感知的spectral空间基函数相结合,以更高效地求解时间相关PDE。该方法在正向、逆向及高维PDE问题中展示了比现有序列模型PINN方法更好的精度和更低的内存消耗。
Jin Gao et al.
q-bio.QM cs.AI cs.LG
本文提出了TadA-Bench,一个包含百万级变体的湿实验基准数据集,用于评估蛋白质工程中agent系统对未来轮次实验的预测能力。该基准通过保留实验时间顺序和定义固定数据回放任务,揭示了模型在跨轮次排序和有限预算候选选择上的局限性。
Zixin Shi et al.
q-bio.QM cs.AI cs.LG
本文利用UK Biobank数据,通过预设confounder调整的backdoor-adjusted平均处理效应(ATE)比较了DXA衍生的髋部骨骼表型与髋部骨折风险的关系,发现总股骨BMC和BMD的ATE最大,且基于ATE排序的表型能改善风险分层。
Zaifei Yang, Samuel Ping-Man Choi, James Kwok
q-bio.QM cs.AI cs.LG
本文提出MMM-PPI模型,通过分层motif(蛋白质中尺度结构基序)和多模态(序列、结构、功能)嵌入来改进蛋白质-蛋白质相互作用预测,在多个数据集上表现优于现有方法。该方法主要针对生物信息学应用,与关键词中的code、context、spectral等概念关联较弱。
Anushka Sheoran, Yiduo Hao
cs.CR cs.AI
本文提出了MultiTurnPSB,一个用于评估医疗AI在多轮对话中安全性的基准,并测试了GPT-4.1-mini等模型在对抗攻击下的表现。研究发现,多轮攻击显著增加了不安全响应率,且单轮评估无法揭示模型间的安全差距。
Shenghao Ding
eess.AS cs.AI cs.CV cs.LG cs.SD
本文研究了音频、图像和视频能否共享一个统一的wavelet token schema,通过构建一个基于Haar DWT/IDWT的连续token模型进行初步验证。实验表明该共享模型在多个数据集上取得了可观的PSNR值,但并未建立通用的离散词汇表,且与关键词列表中的概念关联较弱。
Tyler H. McCormick
stat.ML cs.AI cs.CY cs.LG econ.EM +1
本文指出,在机器学习擅长的高维代理数据场景下,从观测数据中学习因果机制(mechanistic learning)存在普遍的欠定性(underdetermination),即许多不相容的机制在数据支撑集上会诱导出几乎相同的观测关系。文章因此主张,在科学发现中应优先识别数据中的结构(structure),而非追求复杂的预测模型。
Elias Stenhede et al.
eess.IV cs.AI
本文提出Echo-POSED,一种用于超声心动图引导的自监督框架,通过从2D超声图像直接推荐探头调整,无需专家标注视图或跟踪轨迹。该方法在\(\mathrm{SO}(3)\times\mathrm{SO}(3)\)上实现姿态表示,并在模拟中达到8.2度的平均角度误差。
Kyle Morgenstein et al.
cs.RO cs.AI
本文指出sim2real迁移中的过度约束会阻碍策略学习,并提出通过sim2sim2real范式(仅以机器人运动学为设计约束)作为潜在解决方案。
Yuejiao Wang et al.
cs.SD cs.AI eess.AS
SegTune提出了一种基于Diffusion Transformer的歌曲生成框架,通过分段提示词实现结构化与细粒度控制,并引入LLM-based时长预测器实现歌词-音乐对齐。该方法在音乐性和可控性上优于现有基线,但与关键词列表中的概念关联较弱。
Spoorthi M, Suja Palaniswamy
eess.IV cs.AI cs.CV
本文发现TensoRF在X-ray衰减场中的一个失败模式,即默认密度偏移抑制了梯度,通过将其归零实现了从三个正交投影重建肺结节。在此基础上提出AReT框架,结合解剖感知正则化,在LIDC-IDRI数据集上取得了高精度的体积测量结果。
Huanli Gong et al.
cs.CR cs.AI
本文提出了一种名为D-Judge的防御方法,通过语义保持的输出重写来干扰多轮越狱攻击中的judge模型反馈循环,从而降低攻击成功率。该方法不涉及code、spectral、Muon、pretrain、agent或attention等关键词所代表的特定技术方向。
Yifan Wang
cs.RO cs.AI
本文提出了一种名为CARVE的交互式驾驶认证框架,通过有限格上的战术算子为被否决的机动提供可证明的修复方案,并引入合作包络线来分离运动可达性与规范优先级。该方法不依赖预测,而是通过形式化证明确保修复的合理性、责任归属和回退策略。
Chenshuang Zhang et al.
eess.AS cs.AI cs.CV cs.LG cs.MM +1
本文提出了SVHalluc,首个用于评估音频-视觉大语言模型中语音-视觉幻觉的benchmark,从语义和时间两个维度诊断模型在语音内容与视觉信号对齐上的失败。实验表明现有开源模型在该任务上表现接近随机,揭示了跨模态理解能力的根本局限。
Chengliang Liu et al.
cs.CR cs.AI cs.DB
本文提出了一种针对RAG增强LLM系统的推理成本攻击方法RA-ICA,通过向外部知识库注入恶意文档来显著增加推理阶段的token消耗。该方法利用LLM agent自动生成语义相关且能诱导异常token消耗的恶意文档,并引入MA-GRPO强化学习算法优化攻击效果。
Blaž Bertalanič, Carolina Fortuna
physics.soc-ph cs.AI cs.MA
本文研究了多智能体LLM系统中的Ringelmann效应,提出了一个两参数标度律\(R(N) = N_\text{eff}/N = 1/(1+c(N-1)N^{-\beta})\),用于描述有效团队规模随名义智能体数量的变化。实验表明,密集的同伴辩论在自由形式数学任务上会导致答案多样性从次线性退化为硬上限,且同质团队中的“辩论”收益主要来自重新评估而非同伴内容。该工作与关键词中的agent相关,但方法本身并非开创性,且未涉及code、context、spectral、Muon、pretrain或attention等主题。
Sohail Sarkar
quant-ph cs.GT cs.LG math.OC
本文研究了量子博弈中的coherent swap regret,通过entropic mirror ascent算法实现了\(O(\sqrt{dT\log d})\)的regret界,并分析了不同偏差类别的regret复杂度。该工作主要关注量子博弈中的学习理论,与您提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Imani Beckett
stat.ML cs.LG
本文提出了一种状态耦合随机波动率框架,用于在部分观测下估计潜在状态与过程变异性的关联强度。通过粒子期望最大化方法,该框架在模拟中相比观测状态异方差代理减少了恢复偏差。
Yaoting Wang et al.
cs.CV cs.AI
本文提出了AVTrack数据集,用于在复杂动态场景中评估音频-视觉实例分割方法,发现现有方法性能显著下降,并提供了一个简单基线。
Yueh-Hua Wu, Tatsuya Matsushima, Kei Ota
cs.RO cs.AI cs.LG
本文提出S2框架,通过细化轨迹级和子任务级语言指令并施加显式的视觉证据预算,训练VLA模型从任务充分的视觉证据中执行动作,从而提升泛化能力。实验在真实机器人任务上将平均子任务成功率从54.2%提升至79.0%。
Hui Li et al.
cs.SD cs.AI eess.AS
本文提出EntangleCodec,一种统一的离散音频tokenizer,通过在对齐前学习与caption对齐的语义-声学表示,在单一token流中捕捉语言内容、说话人身份、情感等特征,并利用flow-matching扩散解码器实现高质量重建。该方法在音频理解任务上优于现有codec基线,并展示了基于token的音频语言模型在较小参数规模下超越大型连续表示模型的扩展能力。
Oliver J. Hines, Christian L. Hines
stat.ML cs.LG
本文提出ScoreStop,一种基于functional score test的梯度驱动early-stopping规则,通过检验当前predictor是否为population risk minimizer来决定停止时机。该方法使用scale-invariant统计量,适用于implicit losses(如LambdaRank)和data-dependent losses(如Cox regression),在实验中与loss-based方法表现相当。
Jaehyeon Son et al.
cs.RO cs.LG
本文提出SeeTraceAct框架,通过可见性感知的未来末端执行器轨迹预测来增强视觉-语言-动作模型的空间定位能力,并在跨实体演示条件下验证了其有效性。
Fabian Degen et al.
cs.CV cs.AI
本文提出了Plan2Map基准和GeoPlanAgent系统,用于从规划文档中重建地理空间边界,通过多模态证据提取和地图配准等步骤实现边界分割,但方法在定位和地图配准环节仍存在误差。
Teng Hu et al.
cs.CV cs.AI
本文提出MetaWorld框架,通过单目视频数据扩展多智能体视频世界模型,利用Monocular World-State Unrolling分解相机运动与主体轨迹,并引入World-State Alignment机制确保多视角一致性。该方法在无需多相机设置的情况下实现了跨视角一致性和身份保真度。
Eric Liang
cs.SE cs.AI
本文提出了一种基于验收测试驱动的评估协议扩展,用于满足业务中心LLM系统的确定性需求,通过将利益相关者目标转化为可执行行为契约和发布门控,以提升系统的安全性和可靠性。该工作主要关注工程实践而非理论创新,与关键词中的数学或算法概念关联较弱。
Michael Astwood
math.DG cs.LG math.CT
本文介绍了Lie groupoid等变神经网络作为拓扑范畴等变神经网络在可微情形下的特化,并展示了其与Lie algebroid等变神经网络的等价性。文章还描述了groupoid不变全局池化作为群不变全局池化的推广。
Jiho Lee, Nisar R. Ahmed, Rebecca Russell
cs.RO cs.LG
本文提出了一种自监督的Hybrid Adaptive Kalman Filter,通过从测量数据中学习系统动力学和过程噪声协方差的结构化修正,同时保持滤波器的概率结构,从而在低数据和大数据场景下提升估计精度和分类性能。
Pratik Priyanshu
astro-ph.EP astro-ph.IM cs.LG
本文提出EXOVEIL系统,通过Transformer world model学习恒星亮度行为,在原始flux time series上检测单次transit信号,无需phase-folded输入。系统在Kepler数据上达到AUC 0.938,并能在PLATO任务中实现零样本迁移,检测灵敏度接近地球模拟信号。
Sohan Salahuddin Mugdho et al.
cs.AR cs.AI cs.ET
本文提出了一种基于MRAM的容错计算随机存取存储器(CRAM-ER)架构,用于可扩展的内存计算。该架构通过混合自旋-CRAM与CMOS加法器树设计,并结合误差感知的模型微调与细粒度纠错,实现了高能效的矩阵向量乘法,同时将CRAM延迟降低了两个数量级。
Floriano Tori, Brecht Verbeken, Vincent Ginis
astro-ph.IM cs.LG
本文提出将IceCube中微子探测器的稀疏脉冲数据编码为紧凑的\(72 \times 72 \times 3\)图像(称为中微子指纹),并使用ResNet18模型进行方向重建,实现了\(1.10\) rad的平均角误差。该方法为卷积网络处理不规则探测器数据提供了一个可解释的基线。
Aditi et al.
cs.CV cs.AI cs.LG cs.MM cs.RO
本文介绍了Cosmos 3,一个基于mixture-of-transformers架构的全模态世界模型,能够联合处理和生成语言、图像、视频、音频和动作序列。该模型统一了视觉语言模型、视频生成器、世界模拟器和世界动作模型,在多项理解和生成任务上达到了新SOTA,并开源了代码和模型。
John Maar
math.OC cs.DS math.AG math.RT
本文研究了quiver表示在特殊线性群作用下的gap(一种条件数),证明了对于类型A、\(\hat{A}\)以及均匀维数向量的树状quiver,其逆gap是多项式有界的,从而使得Bürgisser等人的nullcone成员问题算法在这些族上多项式时间可解。同时,文章构造了gap指数级小的quiver族,并讨论了与\(\sigma\)-半稳定性的联系。
Alexandre Cristovão Maiorano
cs.CR cs.AI
本文通过构建四个合成LLM端点(\(L_0\)到\(L_3\))和一个真实端点\(L_4\)-real,归因了不同防御家族(如拒绝过滤、预算控制)对OWASP-LLM-Top-10威胁的覆盖情况,并发现拒绝防御在改写攻击下脆弱性显著下降,而预算控制则保持鲁棒。该工作主要聚焦于LLM安全评估,与关键词中的agent(智能体)有一定关联,但方法本身缺乏开创性且未解决长期问题。
Florian Störtz et al.
cs.CR cs.AI
本文提出首个字节级LLM,通过定制字节tokenizer的词汇扩展技术,使其能直接处理原始可执行文件字节并回答恶意软件分析问题,在架构分类上达到98%准确率。研究表明训练时注入领域知识对这类应用至关重要。
Petra Ferenz et al.
cs.MA cs.AI q-bio.PE
本文提出了Epi-LLM框架,将agent-based模型与LLM结合,模拟疫情中的人类行为。研究发现LLM agents的隔离行为与人类数据相似,但地理标签无法独立诱导文化差异。
Amir Ghasemian et al.
cs.HC cs.AI cs.CY cs.IR
本文研究了LLM辅助的重排序在推荐系统中的应用,发现无约束的重排序会加剧用户接触极端和阴谋论内容的风险,而轻量级的提示约束可以在保持相关性的同时增加意识形态多样性。实验表明LLM通过语言统计规律而非语义理解进行重排序,强调了提示设计在推荐系统中的价值导向作用。
Esmaeil Shakeri, Ronnie de Souza Santos, Behrouz Far
cs.CY cs.LG
本文对深度强化学习在药物发现中的公平性定义和度量进行了快速证据综述,重点关注数据集组成、奖励设计如何影响不同疾病领域和化学类型的性能差异,并总结了用于评估分布和结果公平性的指标。
Hyunseok Seung, Matthias Katzfuss
stat.ML cs.LG
本文提出了一种名为TERA的可扩展derivative Gaussian process方法,通过证明stationary kernels下梯度分量与目标函数值的条件独立性,将计算复杂度从\(\mathcal{O}(n^3 d^3)\)降至\(\mathcal{O}(dm^2 + m^6)\),实现了高维场景下的高效推断。该方法在保持模型数学不变性的同时,显著提升了计算速度和内存效率。
Waleed Esmail et al.
astro-ph.IM cs.LG gr-qc physics.geo-ph
本文提出SeismoGPT,一种基于transformer的自回归模型,用于在时域中直接预测三分量地震波形。模型将预测视为物理约束的延续问题,在合成地震图上取得了中位归一化互相关高于0.93的结果,但方法本身并非开创性突破,且与关键词契合度较低。
Nikolaj Hindsbo, Sina Ehsani, Pragyana Mishra
cs.RO cs.AI cs.CL cs.CV cs.HC
本文提出了SCOPE,一个用于自然语言驱动的PTZ相机控制的模块化agent,在边缘设备上运行。它结合了SLM和VLM进行规划与感知,并通过一个536任务的benchmark评估了延迟、准确性和错误模式。
Richard Schwarzkopf et al.
cs.CV cs.LG cs.RO
本文介绍了KITScenes Multimodal数据集,这是一个用于自动驾驶研究的高保真多模态数据集,包含高分辨率相机、长距离lidar、4D成像雷达和冗余GNSS/INS定位,并提供了最完整的HD地图。该数据集通过四个benchmark(在线HD地图构建、长距离深度估计、新视角合成和端到端驾驶)来推动空间学习,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Hina Dixit et al.
cs.CR cs.AI
本文提出了一种名为Echelon的跨组织语言模型训练架构,通过强制设备级模型状态不可导出作为系统不变量,并仅允许跨边界传输安全聚合的边界级delta和O(1)协调元数据,从而满足严格的治理约束。该方法结合了缓冲半异步安全聚合、过时感知加权、参与窗口、近端局部目标和漂移感知外部同步控制器,在1B参数LoRA适应实验中达到了与低通信基线相当或更优的验证损失。
Enmin Zhong et al.
cs.CV cs.AI cs.HC eess.IV
本文提出一种手部轨迹编码器,将手部骨架序列转化为高语义的手部运动特征,并通过带自适应门控的cross-attention融合策略与预训练视频-文本特征对齐结合,用于第一人称视频中的自然语言查询定位。实验表明该方法在手-物交互类查询上有所提升。
Chunan Shi et al.
cs.AR cs.CL cs.LG
本文提出AsymCache系统,通过Multi-Segment Attention (MSA)机制优化非连续KV cache的处理效率,并设计计算延迟感知的缓存驱逐策略,以平衡GPU attention kernel执行效率与缓存命中率。实验表明该方法在LLM推理中显著降低了TTFT和TPOT。
Karthik Barma, Anil Sanneboyina, V C Premchand Yadav
cs.ET cs.AI cs.AR eess.SY
本文提出了一种名为Glass Box的运行时宪法AI验证框架,用于确保自主立方星在轨决策的安全性。该框架通过物理约束和线性时序逻辑不变量拦截AI动作,并生成可解释性评分和审计日志,但其方法主要针对特定工程场景,缺乏与关键词相关的理论或算法创新。
Oskar Natan, Jun Miura
cs.CV cs.AI cs.RO
本文提出了一种紧凑的深度多任务学习模型,用于同时处理自动驾驶中的语义分割、深度估计、LiDAR分割和鸟瞰图投影等感知任务,并引入自适应损失加权算法解决多任务学习不平衡问题。通过数据预处理和中间传感器融合技术,模型整合了RGB相机、动态视觉传感器和LiDAR的多模态输入。
Kathiravan Palaniappan
cs.PF cs.DC cs.LG
本文提出DriftSched框架,用于多租户GPU推理场景下的自适应QoS感知调度,通过运行时token漂移补偿机制(如自适应偏差校正)来改进调度决策。实验表明,该框架能有效降低工作负载估计误差并减少端到端延迟,但方法主要针对工程优化,与关键词中的理论或算法方向关联较弱。
Anjun Gao et al.
cs.CR cs.AI cs.IR cs.LG
本文提出Patcher,一种针对大型语言模型中后门攻击的防御框架,仅需单个失败案例和模型参数即可修复模型。它通过梯度显著性分数定位触发器,并用约束微调打破触发-响应关联,同时保持模型正常功能。
Jianglin Lu et al.
cs.CV cs.AI
本文提出了MUSE,一个用于多模态大语言模型(MLLMs)的统一结构化执行框架,通过集成任务表示、视觉处理、工具使用等模块来提升冻结模型的能力,无需重新训练。实验表明,该框架在多个基准上带来了性能提升,并揭示了部分失败源于执行层面而非模型本身。
Hongju Park, Zhenyao Ye, Shuo Chen
stat.ME cs.LG math.ST stat.ML
本文提出了一种名为Graph Independence Dual Screening (GIDS)的筛选框架,用于同时降低高维响应变量和预测变量的维度,以解决跨模态分析中的计算负担和可解释性问题。该方法通过设计高效算法并建立理论支持,在模拟和真实数据(如ADNI数据集)中展示了优于传统仅筛选预测变量的方法。
Masayuki Hatta
cs.CY cs.AI
本文探讨了在AGI系统中,传统copyleft许可证因代码、数据、权重等组件无法被统一重建而失效的问题,提出应基于可重现构建(reproducible builds)来定义AGI的开源合规性,并给出了七项要求。
Ting Liu
cs.NE cs.AI cs.LG
本文研究了在通用CPU上对稀疏脉冲语言模型进行高效推理的方法,通过结合混合内存布局、AVX2/FMA内核和INT8量化等技术,实现了比传统稠密模型更快的解码速度,但模型质量(如困惑度)有所下降。
Gaurav Naresh Mittal
cs.MA cs.AI
本文探讨了LLM agent网络中能力声明的可信问题,将其建模为“柠檬市场”(信息不对称导致劣质品驱逐优质品),并提出了一个轻量级的Trust Layer协议层。该工作为agent协作中的信任问题提供了经济学视角的解决方案,但与我提供的关键词(code, context, spectral, Muon, pretrain, agent, attention)中的“agent”有一定关联,然而其方法并非开创性且未解决长期存在的核心问题。
Alfreds Lapkovskis et al.
cs.DC cs.AI cs.LG cs.NI eess.SY
本文提出了一种将分布式计算系统建模为生成式Markov模型的通用框架,通过分解高维状态变量来反映系统的稀疏依赖结构,从而支持仿真、推理和策略学习。该工作通过协作AI推理案例展示了模型的应用价值。
Peng Chen
cs.LO cs.CL
本文提出了ZX-Calculus,一个扩展Martin-Lof Dependent Type Theory的演算系统,集成了trace-indexed types、presheaf非单调语义和constructive AGM belief revision。论文通过Coq形式化验证了核心结果,并揭示了path-dependent belief revision与functor consistency之间的基本矛盾。
Valentina Kuskova, Dmitry Zaytsev, Michael Coppedge
stat.ML cs.LG
本文提出了一种名为"emergent contribution (EC)"的有限时域度量,用于衡量复杂网络中节点沿系统轨迹的动态杠杆作用,并分析了其与静态可控性度量(如average controllability)在非线性、时变系统中的一致性与分歧条件。通过合成数据与真实系统实验,论文揭示了在持续状态切换下两种度量的显著差异,并指出EC能捕捉到静态中心性无法恢复的节点方差-杠杆分离现象。
Aqsa Naseer et al.
cs.CV cs.AI cs.LG
本文针对WT-PSE分割框架提出四项训练增强改进,包括域自适应数据增强、混合损失函数、课程式权重调度和消融控制。实验表明这些改进在眼底视盘分割任务上提升了Dice分数,但方法本身缺乏开创性且与关键词无关。
Hang Li et al.
cs.CR cs.AI
本文研究了基于LLM的自动评分系统中的prompt injection攻击,发现当前系统对此类攻击高度脆弱,并评估了现有防御策略的有效性。该工作主要关注教育场景下的安全威胁,与关键词列表中的概念关联较弱。
Dongsheng Wang, Dawei Su, Hui Huang
cs.CV cs.LG
本文提出KeyVT方法,通过分层视角到token的传输策略,在零样本3D问答任务中优化输入上下文质量。该方法结合像素特征与相机参数评估视角重要性,并利用最优传输框架从多视角中选取代表性token,以在有限输入预算下保留更多任务相关3D细节。
Jingzhe Kang
stat.AP cs.LG
本文提出了一种融合Transformer和生成对抗网络的异常检测模型TransGAN-WT,用于风电机组时间序列数据。该模型通过放大重构误差、自回归推理提取多模态特征以及构建时间特征提取模块来提升检测性能,在真实数据集上取得了较好的F1分数。
Haitao Li et al.
eess.AS cs.AI cs.SD
本文提出了一种基于动态评分标准的音频指令跟随评估框架AnyAudio-Judge,通过将复杂音频描述分解为可验证的二元评分项,并构建了包含7,920个样本的基准测试集和105K样本的训练语料库,结合SFT和GRPO训练策略,提升了音频生成中的指令对齐评估能力。
Zehua Chen et al.
cs.CV cs.AI cs.LG
本文提出了一种无需训练的桥接模型引导方法Prior Guidance (PG),通过引入未见过的弱先验来对比增强先验利用,并设计了频率调制先验引导(FMPG)来适配桥接生成动力学。该方法在多种图像翻译任务上一致提升了预训练桥接模型的性能,但未涉及代码、上下文、谱方法等关键词相关领域。
Bagus Rakadyanto Oktavianto Putra et al.
cs.CR cs.AI cs.CL cs.LG
本文提出了一种轻量级的智能合约审计框架,通过解耦审计任务为漏洞检测、解释、严重性分类和修复建议四个组件,并利用rsLoRA、知识蒸馏和Chain-of-Verification聚合策略来提升小型开源LLM的性能。实验表明该框架在漏洞检测上达到98.25%的准确率,但方法主要聚焦于工程优化,与关键词中的spectral、Muon、pretrain等理论或训练方法关联较弱。
Aarav Bedi
cs.RO cs.LG
本文研究了机器人操作中模仿学习策略的false-success检测问题,通过仿真实验比较了基于proprioception(本体感觉)与基于vision(视觉)的检测器在识别隐藏失败时的效果。结果表明,在cube transfer任务中proprioception几乎完全可恢复,而在peg insertion任务中则需要vision辅助。
Muberra Ozmen, Subhabrata Majumdar
cs.CR cs.CL
本文提出PsychoPass框架,通过提取对话在embedding space中的几何特征来预测多轮对抗性LLM攻击,发现攻击意图在对话早期即存在几何信号,但该信号主要受对话轮次数量影响。
NVIDIA et al.
cs.CV cs.AI cs.RO
本文介绍了OmniDreams,一个基于Cosmos扩散模型构建的实时生成式世界模型,用于自动驾驶的闭环仿真。它通过自回归生成动作条件视频,能够合成极端天气等传统模拟器难以捕捉的复杂场景,并展示了作为世界-动作模型(WAM)骨干网络的潜力。
Jinliang Xu
cs.MA cs.AI
本文介绍了OpenAgenet (OAN)项目,这是一个用于可信Agent互联的开放基础设施,旨在解决Agent在开放网络中安全发现、选择和调用其他Agent时的信任问题。OAN作为一个协议无关的信任层,提供了身份准入、注册、包发布、授权发现和签名调用等机制。
Jinliang Xu
cs.MA cs.AI cs.DC
本文介绍了OpenAgenet/OAN的技术架构,这是一个用于开放Agent互连的协议无关信任层,定义了身份对象、注册工作流、发现机制和签名调用等组件,以支持异构Agent框架和交互协议。该设计旨在使Agent身份在协议交互前变得可接受、可发现、可验证且安全。
Xiaoyue Duan et al.
cs.SD cs.LG cs.MM
本文提出SketchSong,一种分层歌曲生成框架,通过先预测高层sketch tokens再生成音频tokens的粗到细过程,以及显式建模人声、贝斯、鼓和其他乐器四个音轨,来解决歌曲编排不连贯和音轨建模粗糙的问题。实验表明该方法在客观指标和主观听感上优于基线,但与关键词列表中的概念关联较弱。
Zijing Wei, Chao Peter Yang, Xuanjie Chen
cs.CY cs.LG cs.SI
本文使用多模态弱监督方法审计YouTube上“kidfluencer”视频中的剥削信号,发现剥削得分与观看量显著正相关,表明平台奖励儿童表演性劳动而非传统广告。该研究为数字劳工剥削提供了实证,但方法上未涉及关键词中的code、spectral、Muon等概念。
Jonggwon Park et al.
cs.CV cs.CL cs.LG
本文提出GLINT框架,通过引入Sparsely Gated Alignment机制(使用sigmoid gate在独立门控嵌入空间中选择与文本查询相关的图像patch)和Dense Feature Regularization(利用冻结的自监督学习教师模型保持细粒度特征),解决了放射学视觉-语言模型中图像与报告尺度不匹配的问题。该方法在2D胸部X光和3D胸部CT上实现了零样本分类、定位和分割,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Jiaze Sun et al.
q-fin.CP cs.LG q-fin.ST
FinStressTS是一个用于金融时间序列预测的机制感知合成基准,包含30个诊断环境,覆盖波动率聚类、重尾冲击等六种机制族。该基准评估了15个模型在点预测和概率预测任务上的表现,发现模型性能高度依赖于数据生成机制,且传统自回归模型在多个场景中优于Transformer模型。
Zhao Yang et al.
cs.CV cs.AI
本文提出XIPER,一种利用跨域视频预测模型为agent提供reward信号的方法,通过将agent观测映射到专家域并利用预测似然作为奖励,在视觉差异明显的域间实现模仿学习。实验在DMC Color Suite和Body Suite上验证了其有效性,并展示了sim-to-real迁移能力。
Yongjin Choi, Hyeonbin Moon, Seunghwa Ryu
cs.CE cs.LG math.NA
本文评估了PINN和可微有限元方法(DiffFEM)在FWD反分析中的表现,发现PINN因层状域不连续性和噪声敏感而效果不佳,而DiffFEM作为硬约束方法在精度、稳定性和效率上更优。
Kaito Takanami, Cengiz Pehlevan
stat.ML cond-mat.dis-nn cs.LG
本文通过随机矩阵理论在高维渐近下,推导了线性回归中上下文学习(In-Context Learning)的思维链(Chain-of-Thought)泛化误差的精确公式,揭示了推理深度与泛化性能之间的相变现象。
Zhe Sun et al.
cs.RO cs.AI
本文提出一个名为BotDirector的交互式机器人讲故事系统,通过结合tangible interaction和自然语言交互,让儿童能用日常物品布置场景并与LLM agent协作创作叙事,最终由自导航的swarm robots执行动作序列。该系统旨在降低技术复杂性以吸引儿童参与。
Wenxuan Xia et al.
cs.DB cs.DS
本文提出了一种名为HRNN的混合图索引,用于高维向量上的近似反向k近邻搜索。该方法通过使用代理点和离线物化kNN半径来减少候选集和验证开销,实验表明其吞吐量优于现有方法。
Johannes Resin, Lu Yang, Tilmann Gneiting
stat.ML cs.LG
本文回顾并扩展了分类与回归任务中的校准概念,强调了不同校准概念之间的层次关系,并引入了针对名义结果的模态校准等新概念。
Zian Liu et al.
cs.RO cs.AI
本文提出了一种基于world model和reinforcement learning的无人机导航框架AirDreamer,通过稀疏奖励函数避免局部最优,在仿真和真实环境中实现了对未知场景的有效导航。该方法在复杂地图上比最佳基线高出5.3%的成功率,并实现了无需调参的sim-to-real迁移。
Rachmad Vidya Wicaksana Putra et al.
cs.NE cs.AI cs.LG
本文提出PSViT方法,对Spiking Vision Transformer (SViT)模型进行结构化剪枝,通过均匀的channel-wise filter pruning和基于sensitivity analysis的细粒度剪枝,在ImageNet-1K上实现22.4%的内存节省,同时保持高精度。该方法旨在解决非结构化剪枝需要专用硬件的问题,但创新性有限。
Hang He et al.
cs.CV cs.AI cs.CL
本文提出了VistaHop基准测试,用于评估多模态大模型在视觉深度搜索中的多跳视觉推理能力,包含300张高分辨率图像和350个多跳问答任务。实验表明,当前最优模型SenseNova-MARS-32B仅达到24.31%的Pass@1,揭示了模型在视觉定位、证据回溯和长链推理方面的局限性。
Yuri Noviello et al.
cs.CY cs.AI
本文提出AI生成的动画轨迹(GATs)用于辅助编程教学,通过多机构实验比较其与文本解释的效果,发现GATs对即时学习有选择性益处但效果短暂且依赖上下文。
Pablo García-Santaclara, Bruno Fernández-Castro, Rebeca Pilar Díaz-Redondo
stat.ML cs.LG
本文提出了一种基于双流特征提取pipeline(结合预训练frozen foundation model的深度时间嵌入特征和统计特征)的方法,用于多变量时间序列的类增量持续学习。该方法在五个基准数据集上实现了有竞争力的平均准确率和低遗忘率。
Jongwook Han, Hyeongjin Kim, Yohan Jo
cs.RO cs.AI
本文提出了RobotValues基准,用于评估家庭机器人在人类价值观冲突场景中的行为选择,通过LLM辅助生成包含多种价值优先动作的测试实例。实验发现视觉语言模型存在默认价值偏好,且难以根据指令调整优先级。
Yang Yang et al.
cs.CR cs.AI
本文提出dstack-capsule,一个在Kubernetes上实现Pod级远程证明的平台,通过双层证明架构和特权熔断机制,允许多个Pod共享一个Confidential VM并保留独立硬件背书。该方法主要解决现有方案中容器级身份未验证和资源开销大的问题。
Lujie Ban et al.
cs.DB cs.CL
本文提出CAPER方法,通过counterfactual intervention在SQL abstract syntax tree上自动生成clause-level supervision信号,用于训练轻量级Clause-PRM模型以改进Text-to-SQL系统的reward modeling和候选验证。实验表明该方法在BIRD和Spider数据集上提升了执行准确率和错误定位能力。
Jinghuai Zhang et al.
cs.CR cs.LG
本文提出RogueMerge框架,针对LLM模型合并中的供应链攻击问题,通过联合优化、随机min-max公式和分布鲁棒优化,解决了自回归解码、未知合并配置和攻击提示泛化三大挑战。实验表明该方法在多种威胁和合并算法下优于现有攻击。
Youssef Mohamed, Kenneth Ward Church, Mohamed Elhoseiny
cs.CV cs.CL cs.CY
本文提出P-Topics建模问题,旨在从图像与文本数据中建模事实与情感感知体验,并引入PercepT架构通过无监督聚类和注意力池化实现感知主题发现与图像映射。该方法在ArtELingo数据集上取得较好聚类与映射效果,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Junxiao Yang et al.
cs.CV cs.AI
本文提出了SYNCRED-Bench基准,包含600张AI生成的虚假信息图像,并评估了现有检测系统在识别这些图像时的低效表现,揭示了合成可信度这一视觉虚假信息挑战。
Daniil Krasnoproshin, Maxim Vashkevich
cs.SD cs.CL cs.LG
本文提出了一种轻量级的语音情感识别架构ResLSTM-SA,通过在LSTM网络中集成residual connection和soft attention机制,在RAVDESS数据集上以极少的参数量(46.8k)取得了有竞争力的UAR分数,适用于边缘设备部署。
Ruipeng Zhang et al.
cs.CV cs.AI cs.CL cs.LG
本文提出P\textsuperscript{2}-DPO方法,通过让模型生成并学习自身的偏好对来缓解大型视觉语言模型中的幻觉问题,并引入校准损失以对齐视觉信号与文本生成。该方法在注意力区域保真度和图像退化场景下验证了有效性,但未涉及代码、谱方法或预训练等关键词相关领域。
Maxime Schwarzer et al.
cs.CR cs.AI
本文指出当前针对AI模型窃取攻击的防御策略普遍基于单一客户端假设,并通过提出的开源框架CerberusAI模拟分布式攻击场景,证明该假设在高级持续性威胁等协同攻击者面前无效,且现有防御机制可被简单策略绕过。
Jiahao Xu et al.
cs.RO cs.AI
本文提出GTP-FA框架,通过将抓取与运动规划解耦并引入失败归因模型,诊断抓取或规划环节的失败根源,从而优化抓取候选生成与运动规划策略。实验表明该方法在多种基学习器上提升了任务成功率,但未涉及code、spectral、Muon等关键词相关技术。
Michael T.M. Emmerich
math.OC cs.AI cs.CG cs.NE math.CO
本文针对Erdős单位距离猜想的下界证明中的参数选择问题,将其建模为非线性整数规划变体,并提出了一个轻量级、可复现的Python验证流程。通过贪心构造、定制整数进化策略等方法,作者优化了Sawin显式界中的有限参数,得到了一个改进的数值下界,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Rachmad Vidya Wicaksana Putra et al.
cs.NE cs.AI cs.LG
PrimeSVT提出了一种自动化的内存感知结构化剪枝框架,通过按层大小排序并基于L2-norm进行通道级滤波器剪枝,以压缩Spiking Vision Transformer模型。该方法主要关注嵌入式部署的效率,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Maxime Schwarzer et al.
cs.CR cs.AI
本文提出FlowGuard,一种基于flow matching的防御方法,通过Continuous Normalizing Flow检测数据无关模型窃取攻击中的异常查询,在分布式攻击场景下保持稳定检测率,但方法主要针对特定攻击类型且未涉及关键词中的核心概念。
Raja Khurram Shahzad, Muhammad Mustaqeem, Haroon Elahi
cs.CR cs.AI cs.LG
本文提出了一种基于特征融合(如API调用和n-gram)与投票集成算法的恶意软件分类方法,在Microsoft数据集上取得了高AUC和准确率。该方法主要关注恶意软件检测与家族分类,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)无直接关联。
Zihong Lu et al.
cs.RO cs.LG
本文提出PerchRL,一个基于reinforcement learning的框架,用于解决四旋翼飞行器在快速不规则运动的倾斜平台上进行视觉引导的自主降落问题。该方法采用两阶段学习策略,包括基于状态的预训练和基于视觉的微调,并通过随机化平台轨迹和时间增强来提高泛化能力。
Ying Tang et al.
cs.CV cs.AI
本文提出PRISM框架,通过双流Mixture-of-Experts (MoE)架构和两阶段范式(expertise deconstruction与dynamic recomposition)来整合多个Vision Foundation Models (VFMs)的特征,以缓解负迁移问题。实验在PASCAL-Context和NYUD-v2上取得了最优结果。
François Pachet
cs.SD cs.AI
本文研究了和弦序列的局部调性分配问题,提出了一种结合调性转换代价与调性词汇量的“调性简约”方法,并给出了在24个大小调固定空间下的精确算法。实验表明该方法能在保持转换最优的同时减少调性数量,适用于专业级别的和声分析。
Zhongyang Lin et al.
cs.CR cs.AI
本文提出NeuroArmor,一种针对大语言模型jailbreak攻击的白盒运行时防御方法。该方法通过为每个prompt构建安全变体作为局部参考,在隐藏状态空间进行一致性检查,并采用路由机制区分恶意与良性请求,从而在降低攻击成功率的同时减少对良性请求的误拦截。
Wenqi Chen et al.
cs.CR cs.AI
本文提出Tree-like Self-Play (TSP)框架,将安全代码生成建模为细粒度的序列决策过程,通过构建决策树让模型在关键节点区分安全与脆弱路径,从而提升代码安全性。实验表明TSP在多个安全基准上显著优于SFT等基线方法,并展现出跨语言的安全逻辑泛化能力。
Utku Şirin et al.
cs.CV cs.LG
本文研究了纹理驱动视觉学习中的低频率shortcut现象,发现模型主要依赖低频分量(LFCs)进行决策,而分类信息实际存在于高频细节中。通过剪枝LFCs可消除shortcut并提升ID准确率,但会引入高频与低频鲁棒性之间的权衡。
Charbel Abi Hana et al.
cs.RO cs.AI
本文提出了一种基于扩散增强的路径规划框架SPADE,通过改进的ROS 2标注工具和扩散模型增强的行为克隆训练策略,提升了自主移动机器人在未知环境中的泛化能力,同时保持了实时性和低参数量。
Natansh Mathur et al.
quant-ph cs.AI cs.LG
本文提出了一种可扩展的量子神经网络(QNN)硬件训练框架,通过结合Butterfly电路架构、逐层训练策略和并行化参数偏移规则,将梯度估计的电路评估次数从\(O(n^2)\)降至\(O(\log n)\)。在MIMIC-III临床数据插补任务中,该框架在16量子比特的IonQ硬件上实现了与理想模拟相当的训练性能,并在32量子比特规模上通过张量网络模拟验证了其可扩展性。
Peter Williams, Adam Sobey, Erisa Karafili
cs.CR cs.AI cs.LG
本文提出了一种基于排序二元分类器的高精度APT恶意软件归因方法,通过显式弃权机制处理训练中未出现的攻击组样本,在测试集上实现了高精度和高选择性准确率。该方法与关键词列表中的概念无直接关联。
David Vävinggren et al.
stat.ML cs.LG math.OC
本文提出了一种名为Adversarial PCA (AdvPCA)的鲁棒优化方法,通过在latent space中引入最坏情况扰动来实现sparse principal component analysis,避免了传统\(\ell_1\)-penalty的调参困难。该方法通过closed-form reduction转化为一个交替迭代算法,并在理论上给出了解的特征。
Yifan Cao et al.
cs.CV cs.AI
本文提出CR-Seg,一个两阶段的粗到细推理分割框架,通过设计EAP模块提取attention maps进行粗定位,并引入GLCoT引导模型从全局场景到局部细节逐步推理,以解决多模态对齐和推理-答案不一致问题。实验表明该方法在推理分割基准上有效。
Po-Jui Lu et al.
cs.CV cs.AI
本文提出了一种基于SwinUNETR的局部patch采样方法,用于多发性硬化症中脉络丛的自动分割。该方法通过在小尺寸patch上训练transformer架构,在保持高Dice系数的同时将计算量降低了99%,为医学图像分割提供了高效实用的解决方案。
Timo Osterburg, Stefan Schütte, Torsten Bertram
cs.CV cs.AI cs.LG cs.RO
本文提出了两种基于学习的过滤模块D2D-Rescore和GossipNet3D,用于替代LiDAR-based 3D object detection中的启发式非极大值抑制(NMS),通过利用检测结果间的关系来提升性能。实验表明,该方法在nuScenes数据集上相比CircleNMS提升了mAP和NDS,尤其对小物体和罕见类别效果显著。
Qingye Tang et al.
stat.ML cs.LG
本文提出了一种基于LSTM网络和模型无关元学习的方法,用于在脉冲星计时残差数据稀缺时进行预测,并采用粒子群算法优化超参数。该方法在IPTA数据集上验证了其在小样本下的泛化能力,但未涉及关键词中的code、context、spectral、Muon、pretrain、agent或attention等概念。
Ziyang Chen et al.
cs.RO cs.AI cs.CV
本文提出PHASER,一种用于视觉-语言-动作模型的持续学习框架,通过相位感知的容量分配和多模态干扰路由策略,缓解了灾难性遗忘问题。该方法在LIBERO基准上提升了平均成功率,但未涉及code、spectral、Muon或pretrain等关键词。
Nabil Alami, Jad Zakharia, Souhaib Ben Taieb
stat.ML cs.LG
本文提出了一种新的P2E校准器,用于将conformal p-values转换为e-values,并保持原始预测集不变。该方法在cross-conformal prediction和conformal aggregation中实现了理论上的\(1-\alpha\)覆盖保证,同时提升了统计效率。
Qinyan Zhou et al.
cs.SE cs.AI
DDOR提出了一种基于delta debugging的自动化框架,用于在黑盒场景下定位大语言模型过度拒绝(overrefusal)行为中的最小触发片段(mRTFs),并据此生成测试用例和进行提示修复。该方法主要关注模型安全性与可用性之间的平衡,与关键词中的code, context, spectral, Muon, pretrain, agent, attention无直接关联。
Yucheng Zhou et al.
cs.CV cs.CL
本文提出Privileged-Future On-Policy Self-Distillation (PF-OPSD)方法,用于在world model与multimodal large language model (MLLM)之间实现受控的具体推理(controlled concrete reasoning),通过训练模型调用、验证并整合视觉未来模拟与抽象推理,在VRQABench和OpenWorldQA基准上提升了性能。
Malia Barker et al.
cs.CR cs.AI
本文提出了一种自动生成数值重映射攻击的算法,用于测试LLM在算术推理任务中的鲁棒性。实验表明,在GSM8K数据集上模型性能显著下降,而在MAWPS和MultiArith上则较为稳定,揭示了数值鲁棒性与数据集结构的相关性。
Xuhui Lin et al.
cs.RO cs.LG
本文提出了一种3D Isovist世界模型,通过预测球形可见性深度图来建模城市中可导航的开放空间几何结构,而非传统的外观或二维占用网格。该模型使用深度残差预测和自滚动计划采样进行训练,并在曼哈顿和巴黎上训练后意外发现跨城市的空间特征可从时间潜在变量中线性解码。这项工作为具身AI和机器人导航提供了轻量级的几何表示,但与关键词中的code、spectral、Muon、pretrain、agent、attention等概念关联较弱。
Chao Wen, Jacqueline Staub, Adish Singla
cs.CV cs.AI cs.CY
TurtleAI是一个针对Turtle Graphics领域视觉编程任务的benchmark,包含823个任务。实验表明,当前主流VLMs(如GPT-4o)在该任务上成功率低于30%,主要受限于空间推理和精确视觉复现能力,而微调可提升约20%的性能。
Issar Tzachor, Michael Green, Rami Ben-Ari
cs.CV cs.AI
本文提出了VidMsg基准,用于评估短视频中隐含信息的理解,包含400个YouTube片段和52个细粒度目标消息,通过消息优先的pipeline构建。实验表明现有视频语言模型在该任务上表现不佳,因为需要语用推理和上下文线索整合。
Vincent Limbach et al.
cs.CR cs.AI cs.LG
本文提出了一种名为Indirect Harm Optimization (IHO)的黑盒攻击方法,通过迭代偏好优化训练masked diffusion language model,以高效地生成针对LLM的jailbreak攻击。该方法在无需防御特定调整的情况下,显著提升了针对多层防御的攻击成功率,但并未直接涉及关键词中的核心概念。
Maxime Elkael et al.
cs.NI cs.AI
本文提出AUGUSTE框架,一种基于在线学习的MAC调度方案,通过预测数据包到达来提前分配上行资源,以减少URLLC中的调度请求延迟。实验表明,该方法在真实5G测试平台上能以较低资源开销实现接近始终调度的延迟性能。
Zhenyu Yu, Jihong Guan, Shuigeng Zhou
cs.CR cs.IR
本文提出Ghost框架,通过将扰动限制在真实轨迹流形上(使用冻结的轨迹语言模型),生成地理和语义上合理的不可学习轨迹,以保护用户下一兴趣点(next-POI)隐私。该方法在多个攻击者设定下实现了与强基线(PGD)相当的防护效果,并表现出更好的抗净化能力。
Ruicheng Ao, Jiashuo Jiang, David Simchi-Levi
stat.ML cs.LG
本文研究了资源受限的序贯定价问题中,由于控制器资源状态可能导致目标价格邻域被排除在可行集外,从而使得固定价格推断不可行的现象。作者通过局部不可识别性结果和实现信息时钟形式化了这种支持排除失败,并设计了一种目标感知定价控制器来保证可行目标带并记录连续局部密度。
Tianhe Wu et al.
cs.CV cs.AI cs.GR cs.LG
本文从训练策略的角度重新审视了few-step distillation(少步蒸馏)方法,系统研究了数据组成、教师指导和任务混合三个因素对统一text-to-image生成和指令引导图像编辑任务的影响,并基于实证分析开发了Qwen-Image-Flash模型。
Glenn Jocher et al.
cs.CV cs.AI
本文提出了Ultralytics YOLO26,一个统一的实时视觉模型家族,通过双头设计实现无NMS的端到端推理,并移除Distribution Focal Loss以简化检测头。其训练流程结合了MuSGD(一种混合Muon-SGD优化器)、Progressive Loss和STAL标签分配策略,在COCO数据集上取得了精度-延迟的帕累托前沿改进。
Benjamin D. Shaffer et al.
cs.RO cs.LG
本文提出了一种名为Neural Navigation Functions (Neural-NF)的机器人运动规划方法,通过将数据驱动的适应性与结构化椭圆规划器结合,实现了在未见环境几何上的零样本迁移。该方法利用Laplacian特征映射局部PDE系数,并求解边界值问题以生成全局一致的价值函数。
Ning Li
econ.GN cs.AI
本文使用LLM评估器从文本中提取idea质量,结合执行质量、作者连接等指标,构建了一个五输入生产函数,分析经济学论文发表的决定因素。研究发现执行质量是基础,idea质量决定中间层次,而作者连接在顶级期刊处形成有限的特权天花板。
Pierre-Louis Cauvin, Panayotis Mertikopoulos
math.OC cs.LG math.PR
本文研究了随机镜像下降(SMD)在重尾噪声下的鲁棒性,通过引入由Lévy噪声驱动的连续时间模型(Lévy mirror flow)来分析其收敛性。结果表明,即使在无限方差的重尾噪声下,该方法在凸和强凸目标上仍能达到特定的收敛速率。
Truong-Thanh Le et al.
cs.DC cs.AI
本文提出了E2LLM框架,用于在异构边缘/雾计算环境中高效部署LLM。该框架通过遗传算法将设备分组并复制完整模型,在每个副本内采用模型并行,并基于PREFILL和DECODER阶段分离角色,利用动态规划优化分区策略,实验表明在高负载下平均等待时间降低超过50%。
Georgios Tsoumplekas, Stella Bounareli, Vasileios Argyriou
cs.CV cs.LG
本文提出了一种无需训练的LoRA组合方法,通过基于prompt token的语义重要性权重(W-Switch和W-Composite)来融合多个LoRA模块的输出,以解决多概念定制中的概念干扰问题。该方法在ComposLoRA测试集上提升了视觉质量和身份保持能力,并引入了新的基于图像的相似性评估框架。
Huannan Zheng, Jingli Liu, Kezhou Yang
cs.NE cs.AI
本文提出了一种基于正交易轴磁隧道结的符号脉冲神经元,用于实现符号泄漏积分点火操作。该设计通过磁矩动力学模拟符号LIF膜电位演化,并在CIFAR-10和CIFAR10-DVS数据集上验证了其性能。
Marco Pasini et al.
cs.SD cs.AI eess.AS
LiveBand提出了一种实时音频伴奏生成系统,使用causal transformer在预训练causal audio autoencoder的连续隐空间中生成高保真伴奏,通过对抗性序列级监督训练并避免teacher forcing。该方法在客观音频质量、节拍对齐和混合一致性上优于先前工作,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Weiguo Gao et al.
stat.ML cs.LG
本文为扩散模型中的流蒸馏(flow distillation)问题建立了一个定量逼近框架,将少步采样视为学习流映射复合下的误差传播。通过分析概率流ODE的轨迹蒸馏,作者证明了局部逼近误差在低噪声多模态区域会被强烈放大,并利用高斯混合Ornstein-Uhlenbeck设定分离了逼近分数场与控制动力学放大这两个核心困难。
Shaokun Lan et al.
cs.CV cs.AI
本文提出4D F-MeshLDM,一种用于生成虚拟人群心脏3D+t网格序列的条件生成框架。该方法结合卷积网格VAE、基于Fourier级数的运动参数化以及扩散先验,实现了可控且周期一致的序列合成。
Yinsheng Yao et al.
cs.SE cs.AI
本文提出了Flare框架,通过一个轻量级的诊断模型预测行级别的可疑信号,用于LLM代码生成中的bug定位与精炼。实验表明该方法在多个基准测试上优于现有基线,但主要聚焦于代码修复的工程应用,与关键词中的spectral、Muon、pretrain、agent、attention等理论或架构方向关联较弱。
Thomas Maillart et al.
cs.SI cs.CY cs.DL cs.LG physics.soc-ph
本文提出了一种可解释的机器学习方法,通过建模OpenAlex概念网络的演化来预测科学突破的结构性前兆。该方法使用59个语义和拓扑特征,通过两阶段LightGBM模型联合预测概念对的形成及其未来权重,在多个领域取得了优于现有模型的性能。
Luis Palacios et al.
cs.CV cs.CL cs.LG
本文通过探针分析和因果干预,研究了视觉指令微调如何将视觉特征嵌入到预训练LLM的层次化抽象结构中,发现微调主要将视觉特征直接对齐到LLM的中间语义层,并验证了仅微调中间层即可保持视觉任务性能。
Jiachen Li et al.
cs.HC cs.AI cs.MA
本文探讨了如何利用LLM为老年人的远程家庭成员生成多模态追踪数据的回顾性摘要,通过系统设计和用户研究验证了方法的有效性。该工作主要关注人机交互和AI辅助护理,与关键词中的code, context, spectral, Muon, pretrain, agent, attention无直接关联。
Prashant Shekhar, Caroline Howard
stat.ML cs.LG
本文针对广告系统中隐私保护导致的信号损失(如匹配率损失、归因窗口损失等),将隐私约束下的广告增量测量建模为鲁棒因果决策问题,并给出了决策边界与有限样本保证。实验在Criteo和Hillstrom数据集上验证了方法的有效性。
Wei Ding et al.
cs.CV cs.AI
本文通过重新训练和评估五种视觉编码器的所有31个非空子集,研究了多编码器视觉语言模型中编码器的作用。文章提出了Capacity和Necessity两个维度来分解编码器贡献,并分析了预投影器有效秩对性能的影响,但方法本身并非开创性,且与关键词列表中的概念关联较弱。
Ioannis Gatopoulos et al.
cs.CV cs.LG
CoralBay是一个基于自蒸馏的3D CT预训练框架,通过扩展DINO并使用层次化3D Swin backbone来学习医学影像的全局语义和局部结构特征。它在多种下游放射学任务上展示了良好的迁移性能,并提供了一个开源的3D放射学基准平台。
Jai Lal Lulla et al.
cs.SE cs.AI cs.HC
本文提出了一项研究协议,旨在通过受控实验探究Agentic AI Coding Tools(如Claude Code和OpenAI Codex)中的配置机制(如context files、Skills、MCP工具)如何影响其“build-vs-buy”决策(即自行实现功能还是导入外部库)。该研究将基于基准任务集测量工具选择的库及其披露的准确性,但尚未给出具体实验结果或理论突破。
Mubarak Adetunji Ojewale
cs.PF cs.AI cs.DC cs.NI
本文提出NetKV,一种面向解耦LLM推理的网络感知解码实例选择调度器。它通过引入网络成本oracle来优化TTFT,在64-GPU模拟器上相比轮询调度降低了21.2%的平均TTFT。该方法主要关注系统层面的调度优化,与关键词中的理论或算法方向关联较弱。
Stijn Van Vooren, Guy Van der Sande, Guy Verschaffelt
physics.app-ph cs.LG
本文研究了将Adam优化器扩展到连续时间模拟Ising机器的方法,通过推导连续时间版本的动量与Adam动力学,在Max-Cut基准测试上验证了其相比梯度下降能更快达到目标并提升解质量。
Thomas Maillart et al.
cs.SI cs.CY cs.DL cs.LG physics.soc-ph
本文利用OpenAlex中量子计算的概念子树构建了时间分辨的概念共现网络,并训练LightGBM模型预测概念的内生巩固与外生扩散。研究发现外生扩散和熵具有高度可预测性,主要由上游异质性、引用广度和分布离散度驱动,而内生巩固在量子计算基准中基本不可预测。
Mengdi Chu et al.
cs.HC cs.LG
本文提出了DiffUNet^2,一个基于conditional diffusion model的框架,用于科学数据的双向时间预测和概率生成,并结合交互式可视化分析支持假设探索。
Carlo Wenig, Raoul-Martin Memmesheimer, Christian Klos
cs.NE cs.LG
本文比较了quadratic integrate-and-fire (QIF)神经元与leaky integrate-and-fire (LIF)神经元在脉冲梯度下降训练中的表现,发现QIF神经元具有更连续且平滑的损失景观,从而在Spiking Heidelberg Digits数据集上取得更优性能。
Dan Jacobellis, Neeraja J. Yadwadkar
eess.IV cs.CV cs.LG cs.RO
本文提出了一种名为SEAOTTER的压缩框架,用于云机器人系统。它结合了自编码器的紧凑性与标准JPEG格式的广泛可用性,通过可学习的JPEG颜色和量化变换,在200:1压缩比下实现了比AVIF更快的编解码速度和更高的ImageNet准确率。
Mihail Stoian et al.
cs.DB cs.LG cs.LO
本文提出了一种名为MLSkip的数据跳过技术,用于处理ML filter(机器学习过滤器)的查询。该方法利用Parquet的min-max元数据或改进的2D convex hull结构来剪枝不满足条件的row group,初步实验显示在低选择性filter上平均剪枝有效率为27.4%到38.31%。
Hanjiang Hu et al.
cs.CV cs.LG cs.RO
本文提出了VLESA框架,利用egocentric video和goal-conditioned safety Q-filter(通过GRPO训练)来监测人类活动并触发实时安全干预。该框架在ASIMOV-2.0基准上相比基线方法提高了干预准确性,并通过goal-conditioned constrained decoding显著提升了动作安全性。
Roohan Ahmed Khan et al.
cs.RO cs.AI
本文提出AgenticRL框架,利用多模态GPT agent自动生成reward function并基于PPO算法训练UAV导航策略,通过闭环反馈机制实现策略的自我改进。实验表明该方法在多种导航任务中提升了策略性能,并实现了较高的sim-to-real迁移成功率。
Radu Curticapean, Jiaheng Wang
cs.CC cs.DM cs.DS
本文证明了在代数电路等计算模型下,计算边加权平面图中完美匹配的数量需要\(\Omega(n^{\omega/2-\epsilon})\)次算术运算,从而确认了Yuster算法的渐近最优性。该下界即使对边加权的方格图也成立。
Lianghuan Huang et al.
cs.CV cs.AI cs.LG q-bio.NC
本文用信息论方法形式化定义了binding problem(特征绑定问题),并提出一种探测方法来衡量模型表示中的绑定信息。实验在Vision Transformers上进行,测量了不同组件(如[CLS] token和spatial tokens)中的绑定信息,并使用了不同绑定挑战的数据集。
Zekun Qi et al.
cs.RO cs.AI cs.CV
本文提出Humanoid-GPT,一个基于causal attention的GPT风格Transformer,在20亿帧的运动数据上预训练,用于全身控制。该方法通过大规模数据与模型扩展,实现了对未见动作的零样本泛化,但未涉及code、spectral或Muon等关键词。

- 数据来源 Data Source: arXiv.org

- 本网页的内容由 bluearXiv-ai 自动生成。实际抓取的是 arXiv 中 "new" 页面的数据,即最近的有所在分类论文变动的一天的数据。

- 感谢 arXiv 提供的服务。评论和精选由 AI 生成,不代表任何人对论文本身的看法。精选依赖于论文与给定关键词的匹配度。

- 计数基于主学科,不计重数。

- This webpage is automatically generated by bluearXiv-ai.

- The data actually captured is from the "new" page, that is, the data of the most recent day when there were changes in corresponding subjects.

- Thanks for services prodived by arXiv. Comments and selection of good papers are generated by AI, not showing anyone's point of view about those papers.

- The selection also depends on the matched-degrees between papers and given keywords.

- The counters are based on main subject, not counting multiplicities.