bluearXiv-ai 论文精选

2026-05-28

📚 跟踪学科 (Categories)

🔍 筛选关键词 (Keywords)

📊 论文统计 ↑ 回顶部

cs.LG
150
cs.AI
159
cs.IR
25
cs.CL
140
cs.DS
6
others
173
总计
653

⭐ 精选论文 ↑ 回顶部

cs.LG

Longhua Li et al.
cs.LG cs.AI
Daniel J. Korchinski, Alessandro Favero, Matthieu Wyart
cs.LG
Abhijit Kumar, Zoey Wu, Mohit Suley
cs.LG cs.CL
Kaivan Kamali et al.
cs.LG cs.AI
Nicolas Tremblay, Benjamin Ricaud, Filippo Maria Bianchi
cs.LG

cs.AI

Amartya Roy, Sonali Parbhoo
cs.AI cs.CL
Kenny Daniel
cs.AI cs.DB
Yaoyu Zhao et al.
cs.AI cs.PL
Abhilash Durgam et al.
cs.AI cs.HC cs.LG

cs.CL

Cheng Qian, Jiayu Liu, Heng Ji
cs.CL cs.AI
Simin Huo
cs.CL cs.AI

cs.DS

Jingbo Liu
cs.DS cs.IT cs.LG stat.ML

others

Nicole Koenigstein
cs.MA cs.AI cs.LG stat.ML
Tarun Suresh, David Korczynski, Julien Vanegue
cs.PL cs.CL cs.SE
Kai Chen, Yan Pang, Tianhao Wang
cs.CR cs.LG

📄 所有论文 ↑ 回顶部

cs.LG

Rui Bao et al.
cs.LG
本文提出\(E^3\)-Agent,一个用于边缘生成式推理资源管理的可执行且可演化的agent。它通过分离快速路径的路由器与慢速路径的大语言模型元控制器,并利用工具接口暴露风险门控、路由配置和性能校准等显式控制面,实现了对未知且时变服务时间映射的在线学习与自适应。在基于MLPerf的离散事件仿真中,该方法在语义动态、设备更替和隐藏漂移等场景下,相比最优静态基线将平均延迟降低65%-73%,且与全信息Oracle的差距保持在7%-10%以内,有效解决了边缘部署中模型性能未知且非平稳的长期问题。
Hyunmin Cho, Woo Kyoung Han, Kyong Hwan Jin
cs.LG cs.AI
本文通过将transformer中的pre-softmax attention矩阵\(\mathbf{QK^\top}\)分解为对称部分和斜对称部分,从Hopfield网络视角解释了扩散模型中的fidelity-diversity权衡。对称部分控制能量景观的结构,斜对称部分驱动能量景观上的循环,作者利用对称部分导出的Hopfield-style稳定性度量来量化检索特征的稳定性,并发现其与生成质量中的fidelity-diversity权衡存在有意义的相关性。最后,通过修改底层动力学的循环,提出了一种可控的调节机制来平衡这一权衡,为扩散模型的生成控制提供了新的理论视角。
Longhua Li et al.
cs.LG cs.AI
本文提出了一种名为E\(^2\)-LoRA的持续学习方法,针对正交子空间方法中存在的能量扩散问题,通过理论证明参数更新引起的输出特征漂移本质上是低秩的,并据此将知识显式地排序并集中到主导奇异方向上。该方法通过动态秩分配策略平衡稳定性和可塑性,在多个基准上取得了最优性能,其核心思想与关键词“spectral”中涉及的奇异值分解和能量集中概念高度契合。
Zitao Song et al.
cs.LG
本文针对随机梯度噪声导致的大模型训练不稳定问题,提出了一种基于entry-wise clipping的谱控制方法。通过一阶扰动分析,作者揭示了梯度噪声的局部化性质,并推导出在高斯信号先验下Bayes最优的entry-wise估计器的可计算替代形式。该方法在Cauchy污染噪声下建立了\(O(\epsilon^{-4})\)的收敛保证,并在NanoGPT预训练中通过平滑收缩(smooth shrinkage)节省了约7%的训练token。此外,将entry-wise clipping与spectral normalization(如Muon)结合,可在Muon基础上额外节省约2%的token,有效平衡了结构保留与计算成本。
Daniel J. Korchinski, Alessandro Favero, Matthieu Wyart
cs.LG
本文针对latent prediction(如data2vec和JEPA)方法,在基于probabilistic context-free grammar生成的数据上,从sample complexity角度给出了理论分析。作者证明,对于具有深度\(L\)的compositional structure数据,supervised或token-level SSL需要指数于\(L\)的样本量才能恢复latent tree,而latent prediction仅需对数因子下的常数样本量。该结论通过hierarchical clustering算法、端到端神经网络以及data2vec的sample-complexity分析得到验证,并指出显式堆叠(如H-JEPA)在很大程度上是冗余的。该工作为latent prediction方法的数据效率提供了严格的理论支撑,与关键词中的“pretrain”和“context”高度契合。
Abhijit Kumar, Zoey Wu, Mohit Suley
cs.LG cs.CL
本文提出CARL (Competence-Aware Reinforcement Learning)方法,通过将LLM的tool-use rollout在自然边界(如code fence分隔符和context block转换处)分解为独立segment,并利用单一二元结果对每个segment分配独立credit,解决了trajectory-level credit assignment无法区分有用与不必要的tool call的问题。该方法训练一个critic来捕捉模型自身的domain competence,在7B规模下以AUC 0.93区分参数可解与依赖工具的问题,并在五个benchmark上相比最佳RL baseline提升6.7-9.7个exact-match百分点,同时将参数可回答问题上的tool call减少53%。该方法与关键词中的agent和context高度契合,为LLM工具使用中的credit assignment提供了开创性解决方案。
Wendi Li, Shawn Im, Sharon Li
cs.LG
本文发现并分析了agent RL训练中一个此前未被充分研究的现象——cyclical entropy eruption(循环熵爆发),即agent RL训练中熵会反复出现急剧爆发和逐渐消退的独特周期,这与单轮推理RL中熵通常坍缩并保持低位的模式不同。作者将这一动态分解为三个阶段,并提供了理论和实证分析,解释了其循环振荡的机制,同时指出退化模式(如句子重复和幻觉)一旦在爆发期间被习得,会在多个周期中持续并累积。基于这些发现,本文提出SEAL(Separation-Enhanced Agent Learning),一种轻量级auxiliary loss,通过在representation space中分离正确和错误轨迹来直接针对熵爆发的根本原因,实验表明SEAL能稳定训练并提升下游agent性能。该工作与关键词“agent”高度契合,并为agent RL训练动态的理解和优化提供了开创性贡献。
Bjarke Hastrup et al.
cs.LG cond-mat.mtrl-sci
AtomComposer提出了一种基于reinforcement learning的agent范式,无需任何pretrain数据即可自主构建满足化学计量约束的3D分子异构体。该方法通过在线训练和能量与有效性奖励,实现了对未知化学空间的广泛泛化,解决了传统生成模型依赖预训练数据集导致的偏差问题。实验表明,该agent在未见过的化学式上发现的稳定异构体数量比现有单组分RL基线高出一个数量级,为从零探索化学构型空间提供了可扩展的新途径。
Kaivan Kamali et al.
cs.LG cs.AI
本文提出TSVD框架,通过引入spectral energy-based heuristic实现自适应rank选择,并在训练过程中利用caching机制维持weight matrix的严格orthonormality。该方法在pretrain阶段显著降低了LLM的参数数量和计算开销,理论分析证明了其在训练动力学中的优势,实验表明TSVD在多种模型规模下匹配或超越全参数baseline的性能。该工作为高效LLM pretraining提供了可扩展的实用路径,与关键词中的spectral和pretrain高度契合。
Nicolas Tremblay, Benjamin Ricaud, Filippo Maria Bianchi
cs.LG
本文提出了一种名为Tikhonov layer的图神经网络层,其传播矩阵为闭式解\(R = (p(L)+Q)^{-1} Q\),其中\(L\)是归一化图Laplacian,\(Q\)是可学习的对角节点重要性矩阵,\(p(\cdot)\)是可学习多项式。该层的输出\(Rx\)是广义图Tikhonov问题的精确极小化器,通过权衡节点级数据保真度与拓扑驱动的正则化惩罚,使得学习到的参数\(\{\{q_i\},p\}\)能直接揭示预测依赖的是节点自身特征还是局部图拓扑(如homophily或heterophily)。该方法在保持可解释性的同时,通过一个独立的Q-network生成重要性分数来保证表达能力,且单层即可提供全局感受野以缓解oversmoothing和oversquashing问题。实验表明,该模型在标准图分类基准上匹配甚至超越不透明基线,同时产生可解释且忠实的解释。
Kunhao Zheng et al.
cs.LG cs.AI cs.CL
本文提出了一种在代码强化学习(code RL)中利用外推权重平均(extrapolative weight averaging)的方法,通过在不同嵌套单元测试覆盖率(nested unit-test coverage)下训练的checkpoints之间进行线性外推,揭示了正确性-效率前沿(correctness-efficiency frontier)。该方法无需额外的RL训练即可在推理时扩展该前沿,生成互补的策略,从而在LCB/hard基准上以匹配的采样预算将pass@250提升了3.3%。这项工作为代码RL中的推理时扩展(inference-time scaling)提供了新的视角,与关键词中的code和agent高度契合。
Ze Tao, Hanxuan Wang, Fujun Liu
cs.LG cs.AI
本文提出LNN-PINN,通过在Physics-Informed Neural Networks (PINNs)的隐藏层中引入轻量级liquid residual gating架构,在不改变采样策略、损失组成和超参数的前提下,提升了复杂问题的预测精度。实验表明,该方法在多个基准问题上一致降低了RMSE和MAE。
Yiran Pang, Zhen Ni, Xiangnan Zhong
cs.LG cs.AI
本文针对异构仿真环境中联邦强化学习(FedRL)的输入分布不一致问题,提出了一种个性化观测归一化(PON)方法,允许每个agent使用本地更新的running mean和variance对原始状态输入进行归一化。实验表明该方法在异构MuJoCo任务上能加速训练并提升性能。
Mingchun Sun et al.
cs.LG
本文提出了一种面向物联网传感器无线传感器网络的自动数据增强框架IGADA-IoT,通过分层多生成器协作与调度策略以及信息间隙-模型性能联合评估闭环方法,优化采样频率决策以降低传感器能耗。实验表明该方法在多个下游模型上提升了平均准确率,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词相关技术。
Hassan Saadatmand et al.
cs.LG
本文系统研究了structured state space models (SSMs)在multivariate time series classification (TSC)中的应用,发现简单的diagonal SSM (S4D)在准确率和效率上均优于复杂的Mamba架构。作者提出了轻量级改进MS4和MS4N,在多个大规模基准测试中取得了与更大模型相当或更优的性能。
Liangwei Nathan Zheng et al.
cs.LG cs.AI
本文综述了Mixture-of-Experts (MoE) 在多模态学习中的应用,从高效引擎、表示学习和适配器三个角度分析了MoE如何解决多模态挑战,并指出了可解释路由、专家通信等未来研究方向。
Michael Leznik
cs.LG
本文提出Metric-Aware PCA (MAPCA),将其定位为Geometric Deep Learning的线性实例,通过正定度量矩阵参数化PCA,并建立了与等变网络之间的精确对应关系。文章还通过kernel PCA、谱图方法和深度MAPCA构造,展示了该框架向非线性、图数据和深度网络的扩展。
Ye Kyaw Thu, Thazin Myint Oo, Thepchai Supnithi
cs.LG cs.AI cs.CV
本文比较了Liquid Neural Networks (LNNs) 和 LSTM 在序列模式识别中的表现,发现 LNNs 在参数效率和面对缺失数据的鲁棒性上更优,尤其适用于临床等数据稀疏场景。
Zhong Ye, Yu Hu, Ruilin Tang
cs.LG cs.AI
本文提出Architecture-driven Shift (ADS)作为logit shift的轻量级代理,通过解耦架构依赖与数据依赖,揭示了异构网络架构与logit shift趋势之间的理论关系,并在超过175种架构上验证了其单调相关性。
Tairan Huang et al.
cs.LG cs.AI
本文提出了一种名为SignGAD的框架,通过将图异常检测任务重新定义为设计任务条件化的检测工作流,并引入自设计agent机制来选择合适的图编码和检测器,以解决固定流程和弱证据问题。该方法在少样本场景下通过受保护的最终重拟合策略提升可靠性,实验表明其性能优于现有方法。
Mohamed Amine Legheraba et al.
cs.LG cs.AI
本文提出了一种名为HEAL的跨层去中心化学习框架,通过结合Federated Learning、Gossip和Epidemic Learning的优势,并利用Elevator算法动态选择节点作为聚合器,实现了自组织和自愈的P2P覆盖网络。实验表明,HEAL在无故障场景下性能接近Federated Learning,同时在节点崩溃和动态变化环境中优于Gossip和Epidemic Learning。
Kosmas Pinitas, Konstantinos Katsifis
cs.LG cs.AI
本文提出了一种名为Variance-Regularised Pruning (VR)的剪枝框架,用于在资源受限的情感计算系统中平衡计算效率与跨用户鲁棒性。该方法通过同时考虑预测精度和用户间变异性来评估参数重要性,并在AGAIN数据集上验证了其在高稀疏度下仍能保持性能。
Khayyam Nosrati et al.
cs.LG
本文针对联邦学习框架下多变量时间序列异常检测的数据集挑战,引入了一个具有循环动态特性的新数据集,并评估了多种MTSAD方法。该工作主要聚焦于工业自动化场景中的数据集构建与基准测试,未涉及关键词中的核心概念。
Aurelio Amerio
cs.LG astro-ph.CO astro-ph.IM physics.comp-ph stat.ML
本文介绍了GenSBI,一个基于JAX的开源库,用于实现simulation-based inference (SBI)中的flow matching、score matching和denoising diffusion等生成方法。该库提供了统一的接口来解耦生成方法、神经骨干网络和推理模式,并支持后验校准。
Mohammed Adnan et al.
cs.LG
本文研究了动态稀疏训练(DST)中Batch Normalization(BN)导致的梯度倾斜问题,并提出了一个稀疏感知优化器SparseOpt来加速收敛。实验表明该方法在CIFAR-100和ImageNet上比现有DST方法收敛更快。
Gaurav Dhama
cs.LG stat.ML
本文形式化了银行卡支付授权中的欺诈检测问题,指出其本质是一个具有延迟、审查、污染和反事实缺失反馈的序贯决策问题,并推导了最小最大遗憾下界,证明生态系统的信息质量是比模型复杂度更关键的瓶颈。
Phu X. Nguyen et al.
cs.LG
本文从信息论角度提出MERIT框架,通过结合masked ECG建模与ECG-文本对比对齐进行多模态表示学习,在PTB-XL等基准上提升了心电图分类和零样本性能,并改善了基于ECG的临床文本生成质量。该方法主要关注心电图信号与临床文本的语义整合,与关键词中的code、context、spectral、Muon、agent、attention等概念关联较弱。
Binh-Nguyen Nguyen et al.
cs.LG
本文提出了一种名为Gradient Transformer的数据-free知识蒸馏框架,通过将TinyLM的update vectors(参数变化向量)转换为LLM的update vectors,使缺乏计算资源的组织能在不共享私有数据的情况下微调大语言模型。该方法在语言建模和推理任务上优于现有知识蒸馏基线,但与关键词列表中的code, context, spectral, Muon, pretrain, agent, attention无直接关联。
Deepak Panigrahy, Aakash Tyagi
cs.LG cs.AI cs.AR cs.DC cs.PF
本文对ASUS Ascent GX10 (GB10 SoC)平台进行了能源可观测性审计,发现该平台无法通过支持的软件接口提供CPU能耗计数器等关键信息,导致无法进行进程级能耗归因。作者提出了一个基于外部直流计量与GPU能耗相减的临时校准方案,并指出了通过SCMI powercap协议实现标准化的路径。
Tomás Pereira et al.
cs.LG
本文研究了LIME、Kernel SHAP和Feature Ablation等局部可解释性技术在表格分类任务中的可信度,评估了忠实性、鲁棒性和复杂性三个属性。结果表明,解释质量主要受数据集复杂性和特征分布影响,而非模型预测性能。
Sai-Aakash Ramesh et al.
cs.LG cs.AI
本文提出Supervised Distributional Reduction (SDR)算法,通过结合Optimal Transport和显式的Dependence Maximization来学习目标感知的数据表示。该方法在Fused Gromov-Wasserstein目标基础上增加依赖项,以在压缩数据时同时保留几何结构和预测信号。
Kabir Swain et al.
cs.LG cs.AI
本文提出了一种无需校准的KV cache压缩方法HQMQ,通过将K或V的4元素块视为quaternion并用量子化乘积编码,在约5 bits下匹配fp16精度。该方法在多个现代大语言模型上验证了有效性,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词的核心内容。
Samuel Weber, Zaki Hasnain, Souma Chowdhury
cs.LG
本文提出了一种物理信息机器学习(PIML)框架,用于月球车热分析,通过迁移神经网络(TNN)自适应确定3D有限差分网格划分,在保持物理一致性的同时实现了比高保真仿真快3倍的计算速度,并显著提升了预测精度。
Gengyue Han, Yiheng Feng
cs.LG cs.AI
本文提出了一种基于概率潜在嵌入和动态策略适应的强化学习框架,用于解决Sim2Real迁移中的性能下降和安全问题。该方法通过元学习推断环境潜在表示,并结合分布强化学习动态调整策略风险水平,以平衡安全性与效率。
Teodor-Mihai Stupariu, Andrei Manolache
cs.LG cs.AI
本文比较了Muon和Adam优化器在等变神经网络中的表现,发现Muon在ModelNet40上普遍优于Adam,并分析了其优化后模型在Hessian曲率和表示秩等方面的差异。
Hui Dai et al.
cs.LG cs.AI cs.CL
本文提出Beta-Bernoulli Calibrator (BBC)方法,将LLM的初始点估计转化为事件可能性的分布,同时利用二元结果和人类预测进行校准。该方法在概率预测任务上优于传统后验校准方法和专门微调的模型,并有效捕捉了认知不确定性。
Ashutosh Kumar
cs.LG
本文通过对比复数神经网络(CVNN)与多种实值基线模型在合成射频任务、量子波函数预测和EEG信号分析中的表现,系统评估了复数表示的有效性。研究发现CVNN的优势并非普遍存在,而是依赖于数据中的相位-幅度耦合结构、任务对称性以及优化超参数的选择,例如在特定条件下复数参数耦合能更稳健地分配损失信号。
Yashaswi Karnati et al.
cs.LG cs.DC
本文提出了一种用于多模态大语言模型训练的异构并行方法,允许不同模块使用独立的布局和rank放置,并通过边界通信器处理张量转换。实验表明该方法在特定场景下能提升吞吐量和计算效率。
Meghana Bhange, Ulrich Aïvodji, Elliot Creager
cs.LG cs.CR
本文提出了一种测试时集体行动(Test-Time Collective Action)框架,允许用户通过共享查询访问来构建代理模型并优化逐类通用扰动,从而在不依赖平台训练的情况下纠正算法对特定子群的性能偏差。实验在CIFAR-10、CIFAR-100和FairFace上验证了该方法能缩小子群准确率差距并改善公平性指标。
Fei Jiang, Lei Yang
cs.LG stat.AP
本文提出了一种基于Bayesian推断的框架,用于在有限仿真验证下评估学习型自主着陆控制器的部署就绪性。该方法通过后验批准概率和部署风险来量化不确定性,为强化学习评估与部署验证之间提供了统计连接。
Arthur Feeney et al.
cs.LG
本文提出NUCLEUS,一个基于mixture-of-experts的池沸腾统一代理模型,通过结合neighborhood attention和signed distance field reinitialization,在多种流体和沸腾条件下实现了物理一致的预测。
Zhengyang Liang, Qihang Zhang, Ceyuan Yang
cs.LG cs.CV
本文提出了一种用于扩散模型对齐的state-aligned latent actor-critic框架,将扩散模型自身作为timestep-conditioned value function,在噪声隐状态上直接预测value,从而支持trajectory-level的PPO训练和稳定的actor-critic优化,并扩展至多reward场景。该方法在UNet和DiT骨干网络上优于先前的group-relative RL和actor-critic基线。
Tolga Dimlioglu, Kristi Topollai, Anna Choromanska
cs.LG cs.AI
本文研究了Local SGD中worker disagreement与loss landscape几何结构的关系,发现worker-average gap的协方差矩阵能够反映Hessian矩阵的sharp方向,从而提供了一种无需计算Hessian的低成本方法来估计dominant eigenspace。实验在MLP、CNN和Transformer上验证了该方法能有效捕捉梯度在dominant Hessian方向上的分量。
Deepak Akhare et al.
cs.LG cs.AI physics.comp-ph
本文提出GeoTransolver框架用于工业级碰撞动力学预测,通过几何感知算子学习处理复杂非线性变形,并引入FLARE低秩注意力机制降低内存开销。该方法在保险杠和整车碰撞数据集上验证了有效性,但未涉及code、spectral、Muon、pretrain或agent等关键词。
Sahil Kadadekar
cs.LG
本文提出了一种针对LLM服务中批处理条件(batch condition)的配对测试协议,通过四项研究验证了批处理设置对模型拒绝行为(refusal robustness)的影响。实验发现批处理引起的安全标签翻转率较低(0.16%),且在不同模型间无显著系统性偏差,但输出不稳定性是主要脆弱性指标。
Zehao Liu et al.
cs.LG cs.AI
本文分析了SDPO在LLM推理中的不足,通过GRPO的advantage normalization视角,提出了一种基于\([\hat{p}(1-\hat{p})]^{1/2}\)的pass-rate加权自蒸馏方法SC-SDPO,在科学推理和工具使用基准上提升了性能。该方法通过零成本批自适应归一化实现隐式课程学习,但未涉及code、spectral、Muon或agent等关键词。
Ruomin Huang et al.
cs.LG
本文研究了Transformer在上下文学习(in-context learning)中如何利用存储在模型参数中的事实知识。通过引入in-context factual recall (IC-recall)任务并分析单层Transformer的微调动力学,证明了模型会收敛到一种特定的pairwise attention pattern,且微调所需样本量极少。
Yvonne Zhou et al.
cs.LG cs.CR
本文首次对全同态加密(FHE)下的机器学习训练进行了理论收敛性分析,并设计了一种结合差分隐私(DP)的加密训练算法。该工作通过使用activation和loss function的多项式近似来兼容FHE,并避免了昂贵的逐样本梯度裁剪,从而提升了加密学习的计算效率。
Vincent-Daniel Yun et al.
cs.LG cs.AI
本文提出了一种名为LoRP的无训练深度剪枝方法,通过计算层间隐藏状态的全局相似性来识别冗余,并据此进行剪枝。该方法在不同LLM架构上提升了困惑度和下游任务准确率。
Akshaj Murhekar, Abhijit Mishra
cs.LG
本文提出SYNAPSE框架,通过推理时的符号正则化(利用常识图结构和潜在示例)来稳定EEG到文本的解码过程,无需微调大语言模型。该方法在多个基准上提升了语义稳定性,并保持了生物特征隐私。
Qiyuan Wang, Yao Li, Raymond K. W. Wong
cs.LG cs.CR
本文提出了一种基于密度感知的样本特定后门攻击方法,通过将触发样本引导至干净数据分布的低密度区域来同时优化攻击成功率和干净准确率保持,并采用双层优化框架估计密度比。实验表明该方法在微调防御下仍能保持较高攻击成功率,并对神经元剪枝防御具有完全免疫性。
Prathyush Poduval et al.
cs.LG cs.AI
本文提出Residualized Sparse Autoencoders (ReSAEs),通过在选定层之间拟合affine map并仅对未解释的残差进行训练,以减少多层transformer干预中不同层字典间的冗余。实验表明,该方法在Pythia-1.4B和Gemma-2-9B上降低了decoder冗余,并在多层替换下恢复了更多transformer交叉熵。
Tomas Ortega, Hamid Jafarkhani
cs.LG eess.SP math.OC
本文提出DECO-EF算法,将coin-betting预测与压缩差分gossip结合,用于去中心化在线凸优化。该算法无需调节horizon、comparator norm或learning rate等参数,并在压缩通信下证明了期望的comparator-adaptive network-regret界。
Guang-Yuan Hao et al.
cs.LG stat.ML
本文研究了从逆强化学习中学到的奖励在环境间迁移的问题,提出了一种耦合极小极大方法,通过联合求解源和目标环境的Bellman方程系统来估计目标soft-\(q\)-function,并证明了该方法相比顺序方法能消除源Bellman残差的一阶影响。
Naphat Nithisopa, Teerapong Panboonyuen
cs.LG cs.CL
本文提出了CAREF,一个参数高效的微调框架,通过校准感知正则化联合优化预测准确性和解释忠实性,无需rationale监督。该方法在多个NLE基准上取得了良好性能,但与关键词列表中的概念关联较弱。
Juergen Dietrich
cs.LG cs.AI q-bio.QM
本文通过消融实验比较了三种Graph Neural Network架构(Concat, CrossAtt, Ternary)在药物相互作用类型预测任务上的表现,发现Cross-Attention机制能显著提升多分类性能,但对二分类任务提升有限。验证实验表明CrossAtt在预测阿司匹林药物对时表现最佳,而Ternary架构因训练不稳定而失败。
Jiaxin Zhao et al.
cs.LG cs.AI
本文提出了一种名为SPAR的离线策略改进方法,通过将全局学习转化为局部残差修正,并引入潜在自模仿机制来解决拟合与优化的梯度冲突,在D4RL基准上取得了先进性能。该方法主要关注强化学习中的策略优化问题,与您提供的关键词关联度较低。
Jun Bai, Ziyang Song, Yue Li
cs.LG
本文提出FedEHR-Gen,一个用于分布式医院间合成时间序列电子健康记录(EHR)生成的联邦学习框架。它通过两阶段学习范式(联邦自编码器与联邦时序条件变分自编码器)解决数据高维稀疏与跨医院异质性导致的模型崩溃问题,在eICU和MIMIC-III数据集上验证了其生成保真度与隐私风险接近集中式训练。
Safal Thapaliya, Jiatan Huang, Chuxu Zhang
cs.LG
本文研究了图上的节点分类问题,发现LLM标注错误不仅依赖于类别,还依赖于特征空间中的区域(即cluster)。作者提出了CANE框架,通过估计cluster级别的LLM可靠性来筛选和修正伪标签,在多个图基准上提升了无标签学习方法的性能。
Ken Takeda, Masafumi Oizumi, Ryo Karakida
cs.LG stat.ML
本文通过现代Hopfield网络(MHN)的能量视角,分析了扩散模型在持续学习中的遗忘机制,证明了高能量异常样本比聚类样本更易遗忘,并验证了基于能量的重放策略在Stable Diffusion和DDPM中的有效性。
Wenjie Sun et al.
cs.LG
本文研究了在固定预算下,通过调整模型的深度-宽度比(\(R_{D/W}\))来影响神经交互效率,从而影响泛化性能。作者将Neural Feature Ansatz从参数空间扩展到梯度空间,定义了神经交互,并发现高效交互区间与模型形状相关。
Seunghyeok Shin et al.
cs.LG cs.AI cs.CV
本文提出了一种基于denoiser-pullback curvature guidance和manifold-aligned damping的几何校正扩散后验采样方法,用每噪声水平的阻尼Gauss-Newton修正替代了传统的手动调节引导权重,并通过矩阵自由GMRES求解。该方法在FFHQ和ImageNet上的逆问题中取得了有竞争力的PSNR/SSIM/LPIPS,并在加速MRI重建中达到了最佳PSNR/SSIM。
Tae-Gyun Lee, Junyoung Park, Kyu Won Han
cs.LG
本文提出Patched-DeltaNet架构,将时间序列分块与Gated Delta Network结合,通过token级事件驱动记忆机制降低计算复杂度至\(\mathcal{O}(L/P)\),在SMD基准上取得优于Transformer的异常检测性能。该方法主要关注计算效率与检测精度,与关键词列表中的概念关联较弱。
Niclas Pokel, Benjamin F. Grewe
cs.LG cs.AI
本文提出Vector Network (VN),一种层级循环架构,用可重用的rank-1权重原子库替代固定权重矩阵,通过局部能量最小化推断稀疏的活跃原子及其系数,从而为每个输入构建低秩权重矩阵。VN在四个组合基准测试上匹配强基线分布内性能,并在需要以新方式重组熟悉因子时,分布外误差通常降低一个数量级。
Fengqiang Wan, Qing-Yuan Jiang, Yang Yang
cs.LG
本文针对Out-of-Distribution (OOD)检测问题,提出了一种名为Adaptive Confidence OE (AOE)的方法。该方法通过temperature scaling对异常样本的标签进行重新校准,以生成自适应软标签,从而在保留OOD样本与ID类别间关系的同时扩大分离边界。实验表明该方法有效,但未涉及关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念。
Qingfei Zhao et al.
cs.LG
本文提出BPPO方法,通过只使用每组中最短的正确和错误回答作为更新单元,并采用前缀优化策略,在保持GRPO风格推理强化学习精度的同时,显著提升了训练效率并缩短了回答长度。该方法主要关注推理效率优化,与关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念关联度较低。
Shuhao Chen et al.
cs.LG cs.AI cs.CR
本文提出SPARD框架,通过Safety-Projected Alternating optimization (SPAG) 和 Relevance-Diversity Determinantal Point Process 数据选择来防御大语言模型的有害微调攻击。实验表明该方法在保持任务精度的同时,能有效降低攻击成功率。
Jian Yang et al.
cs.LG
本文提出RW-TTT框架,用于在批处理LLM推理服务中管理请求专属的test-time training状态。通过为每个解码步骤标记所有者、版本和读写效果,该方法在单GPU上实现了比顺序服务高9.31倍的吞吐量,并保持了模型行为。
Zhi Zhou et al.
cs.LG cs.AI
本文首次提出测试时自适应(TTA)可学习性的理论框架,引入\((\epsilon,\delta)\)-Recovery Complexity和\((\epsilon,\rho)\)-TTA Learnability概念,通过离散代理模型分析非平稳数据流,推导出恢复复杂度的匹配上下界,揭示了TTA的适应性与信息约束之间的内在权衡。
Haruki Yajima, Yusuke Matsui
cs.LG
本文提出了一种名为PINE的剪枝方法,用于在分布内区域保持树集成模型的预测等价性,并通过conformal calibration控制区域大小,在12个表格数据集上实现了高达30%的压缩率提升。
Matthew Vandergrift et al.
cs.LG
本文研究了measure-to-measure (M2M)回归问题,即从有限观测的输入-输出对中学习概率测度之间的映射。作者利用transformer的测度依赖和mean-field结构,提出了静态M2M映射和动态M2M速度场两种方法,并在合成实验和生物数据集上验证了其有效性。
Junhao Wei et al.
cs.LG cs.GT
本文对多变量时间序列异常检测中的十种代表性方法进行了统一基准测试,并提出了一个结合NOTEARS约束有向channel-graph视图与可选patch-attention和temporal-association视图的自适应检测器。实验表明该方法在VUS-ROC指标上平均表现最佳,但未涉及关键词中的code、spectral或Muon等概念。
Hao Jiang et al.
cs.LG
本文提出了一种基于Information Bottleneck理论的IB-Score指标,用于评估在线强化学习中策略的探索-利用平衡,并设计了IB-TPO框架,通过树形采样策略优化该指标,在LLM推理任务上提升了性能。
Mufan Qiu et al.
cs.LG
本文提出Chreode,一种用于单步预测细胞状态转变的world model,通过结构化残差转移算子将分布演化从推理时转移到训练时。该方法在2.4M细胞的小鼠胚胎图谱上预训练,并在细胞分化与扰动预测任务上取得改进,但整体方法更偏向工程应用而非理论开创性。
Kaiqiang Ke et al.
cs.LG
本文提出CFHRL框架,通过自适应粗到细的子目标细化机制解决离线长视界目标条件强化学习中的弱监督和累积误差问题。该方法从最终目标递归生成中间子目标,并利用学习到的可达性成本决定何时停止细化,实验在OGBench上验证了有效性。
Benjamin Heymann, Otmane Sakhi
cs.LG stat.ML
本文研究了在重复第二价格拍卖中,当投标者价值动态变化(依赖于上次成功投标后的时间)且仅能获得聚合反馈时的学习投标问题。作者结合plug-in估计量与最优策略的微分方程刻画,为一种学习方法推导了遗憾界,并展示了特定置信界算法在分段线性原语下达到\(\widetilde{O}(\log N)\)的近似最优遗憾。
Aleksei Arzhantsev, Otmane Sakhi, Nicolas Chopin
cs.LG cs.CL
本文提出了一种通过边际锐化实现自一致性的推理时采样方法,将自一致性从后验投票准则转变为推理目标,并设计了一个纯自回归并行采样算法来近似从锐化后的答案边际分布中采样。该方法在数学和代码基准上比标准幂采样表现更好且速度更快。
Mohammad Taha Askari, Lutz Lampe, Amirhossein Ghazisaeidi
cs.LG cs.IT eess.SP
本文提出了一种基于sequential autoregressive encoder的神经概率幅度整形方法,通过结合arithmetic distribution matching实现了比现有方法更低的rate loss和更高的achievable information rate。该方法为通信系统中的概率幅度整形提供了新的实现思路。
Bartosz Wieciech et al.
cs.LG
本文提出了一种Sign-Aware Gated Sparse Autoencoder (SA-GSAE),通过Bi-Jump-ReLU激活函数实现双极性共享,以更高效地建模大语言模型中的反相关特征。实验表明,该方法在多个hookpoint上优于标准Gated SAE,并显著降低了死神经元比例。
Otmane Sakhi et al.
cs.LG
本文探讨了大语言模型推理中的off-policy强化学习问题,指出PPO风格的重要性权重校正会引入高方差和不稳定性。作者通过隐式悲观主义视角解释了某些off-policy目标的有效性,并提出了一种稳定诱导分布的原则性改进方法。
Yi-Ling Kuo, Hao-Yu Tien, Shih-Yu Tsai
cs.LG cs.NI
本文提出HERMIT框架,结合双曲流形保持的时序GNN与随机森林回归器,用于互联网RTT预测。该方法在真实数据集上优于基线模型,但未涉及关键词中的code、spectral、Muon、pretrain、agent或attention等概念。
Jonas Hanselle et al.
cs.LG
本文提出了一种统一框架,将分布鲁棒优化、标签平滑、Mixup等鲁棒监督学习方法组织为三个设计轴上的选择,并分解为参考分布丰富化、输入空间扰动、标签空间扰动和样本级聚合四个阶段。通过联合超参数优化,该方法在表格、图像和奖励建模基准上能与最佳单一方法竞争,为不确定主导失效模式的实践者提供了可靠默认方案。
JungHoon Lim
cs.LG cs.AI
本文提出QuITE,一种基于query的即插即用嵌入模块,通过可学习的query tokens和单层self-attention聚合不规则时间序列观测,生成与现有MTS模型兼容的隐表示,避免了插值或架构修改。实验表明其在预测和分类任务上显著提升了多种backbone模型的性能。
Zili Wang et al.
cs.LG
本文从优化角度分析了强化学习(RL)中联合训练多Token预测(MTP)时性能下降的原因,将MTP对RL目标的每步影响分解为一阶相关项和二阶扰动惩罚项,并据此提出最优系数校准(OCC)方法,通过在线自适应调整系数来提升联合训练效果。实验在六个数学推理基准上验证了该方法匹配或优于分离梯度的基线。
Junfeng Nie, Alvin Jin, Xiaohui Chen
cs.LG
本文提出了一种层次化混合自上而下和自下而上(H-TDBU)框架,用于合成表格数据生成,通过解耦语义结构与随机纹理,在弱多模态金融基准上提升了训练-合成-测试-真实性能。该方法结合了结构驱动的逻辑约束与轻量级表格生成器,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Ehtesamul Azim et al.
cs.LG q-bio.GN
本文提出GEARS框架,通过先学习domain-invariant expression encoder对齐ST spots与dissociated cells,再训练permutation-equivariant generator生成局部空间几何,最后求解global distance-geometry problem获得canonical coordinates,从而在无cell-type labels等条件下实现单细胞空间重建。
Muyao Wang, Zeke Xie, Hideki Nakayama
cs.LG
本文针对Text-to-Video (T2V)生成模型中的多维视频奖励模型(MVRM)训练问题,提出了一种基于解耦影响函数(Disentangled Influence Functions)的框架,用于估计各评估维度上的监督风险,并设计了维度解耦剪枝与重加权策略以提升模型与真实标签的对齐程度。
Lei Zhang et al.
cs.LG
本文提出了一种鲁棒对比图聚类框架,通过注意力机制自适应融合多尺度局部结构与全局语义,以解决现有方法难以灵活捕获高阶局部结构并忽略全局语义的问题。
Łukasz Janisiów et al.
cs.LG
本文提出PhAME框架,利用latent diffusion在graph-based VAE的latent space中进行分子编辑,通过compositional classifier-free guidance同时优化表型特征和结构相似性。该方法在docking score优化和多模态表型生成任务上取得了state-of-the-art结果。
Yuhan Li et al.
cs.LG cs.AI
本文提出IRDS方法,通过稀疏自编码器(SAE)簇选择RLVR训练实例,并引入基于验证器的覆盖目标,以提升LLM推理的数据效率。实验表明该方法在多个数学推理基准上取得更高准确率,但与我提供的关键词(如code, context, spectral等)关联较弱。
Peyman Morteza
cs.LG stat.ML
本文提出了一种基于Chow-Rashevskii定理的连续时间生成建模框架,通过固定vector fields和学习的scalar controls构建表达性流,为生成模型提供了一种参数高效的几何替代方案。实验在合成分布上验证了概念。
Hanjia Gao et al.
cs.LG stat.ME
本文提出了一种基于hypergraph(超图)表示的动态topic modeling(主题建模)框架,通过将文档建模为连接共现单词的hyperedge(超边)并引入节点权重来编码重复强度,从而分离单词出现与重复的机制。该方法利用结构化低秩分解和显式时间正则化来捕捉主题-单词轮廓的演化,并提供了局部收敛保证和非渐近误差界。实验表明,该方法在合成数据和ICLR语料库上优于传统的multinomial-based(基于多项分布的)topic models。
Onno Eberhard, Claire Vernade, Michael Muehlebach
cs.LG
本文针对确定性观测的有限环境中的最优reactive policy学习问题,提出了Committed Q-learning算法,并证明了在rewire-robustness假设下的几乎必然收敛性。该算法是经典Q-learning的变体,其行为策略在进入一个feature时commit到单一动作,仅在观测feature变化时重新采样。
Shiyun Lin et al.
cs.LG cs.GT stat.ML
本文研究了上下文匹配市场中的bandit学习问题,其中玩家效用与arm context线性相关。针对stochastic contexts和adversarial contexts两种设置,分别提出了自适应算法并给出了regret上界。
Hongru Hou et al.
cs.LG cs.AI
本文提出ProRL框架,通过Stepwise Reward Centering和Position-Specific Advantage Estimation两种机制修正Proactive Recommender Systems中policy gradient的估计偏差,实验表明其性能优于现有方法。
Minghui Zhang et al.
cs.LG nucl-ex physics.ins-det
本文利用ResNet和VGG等机器学习方法对MATE-TPC中12C+12C反应的弹性散射与聚变事件进行分类,在模拟和实验数据上分别达到约97%和90%的准确率,并开发了CNN模型用于反应顶点重建。这些方法为核反应实验中的复杂数据分析提供了有效工具。
Maolin Wang et al.
cs.LG
本文提出T-GINEE框架,利用tensor decomposition和generalized estimating equation建模多层网络的层间依赖关系,并通过理论分析证明了估计的一致性。该方法主要针对多层网络分析任务,与关键词中的概念关联较弱。
Hanjiang Wu et al.
cs.LG cs.AI cs.DC
本文系统研究了MoE LLM推理中不同粒度分解策略(从chunked-prefill到operator-level的Attention-FFN Disaggregation)的性能权衡,通过结合设备内核测量与网络仿真的框架,分析了在严格延迟约束下各策略的吞吐量表现。
Aakash Kumar, Maria Sofia Bucarelli, Emanuele Natale
cs.LG
本文提出了一种基于logit组合的自回归模型组合策略,灵感来自扩散模型的组合方法。在因子化条件假设下,该组合具有投影性质,即每个组件模型能保持对其输出分布子空间的控制,且该性质在输出空间的平滑重参数化下依然成立。
Sara Gjorgjieva, Eva Tuba, Tome Eftimov
cs.LG cs.NE
本文研究了一种基于学习的扩展方法,用于评估随机优化算法中所需运行次数估计的可靠性。通过训练classifier预测估计是否可靠,实验表明在固定配置下可以检测不可靠估计,但性能受限于数据多样性。
Pranav Lakshmanan, Paras Chopra
cs.LG cs.AI math.NA physics.comp-ph
本文提出了一种混合神经世界模型,用于物理动力学模拟。该方法训练一个单网络来预测任意未来状态,并利用其前向传播生成误差图,以识别不连续性位置,从而在保持高吞吐量的同时,通过回退机制减少残差误差。
Jinwoo Kim, Taylor Berg-KirkPatrick, Loris D'Antoni
cs.LG cs.AI
本文提出prefix filters来捕捉LLM在特定领域(如TypeScript生成)中的错误模式,并设计Palla算法高效学习这些过滤器。实验表明该方法能显著提升代码编译成功率,但主要聚焦于错误模式分析而非关键词中的核心概念。
Shiyuan Zuo et al.
cs.LG
本文提出Projected Dimensionality Reduction (PDR)框架,通过稀疏随机投影将梯度压缩到低维子空间进行鲁棒聚合,将服务器计算复杂度降至最优的\(\mathcal{O}(Mp)\)。在标准假设下,该方法对非凸和强凸函数分别达到\(\mathcal{O}(1/\sqrt{T})\)和\(\mathcal{O}(1/T)\)的最优收敛率,且仅将拜占庭误差下界放大一个可控因子。
Zhi Wen Soi et al.
cs.LG
本文比较了白盒和黑盒方法在检测扩散模型生成的时间序列上的表现,发现白盒方法在生成器未知时失效,而简单的黑盒分类器效果更好。该工作首次系统探索了该问题,但与我提供的关键词列表关联较弱。
Alon Helvits, Eliya Nachmani
cs.LG cs.AI cs.IT
本文提出SB-ECC,一种基于score的纠错码解码器,将解码问题转化为连续时间去噪过程,通过neural denoiser定义的probability-flow ODE迭代更新信道观测值。该方法在多种code和SNR设置下取得了优于baseline的BER性能,并支持通过ODE solver预算控制延迟-精度权衡。
Haiqian Yang, Yuan Cao, Markus J. Buehler
cs.LG cond-mat.mtrl-sci physics.app-ph
LEIA提出了一种用于交互式探索超构材料的世界模型,能够实时响应边界条件并生成变形与应力场。该工作主要关注工程应用,与关键词中的概念关联较弱。
Meraj Mammadov, Pedro Zuidberg Dos Martires, Johannes Andreas Stork
cs.LG cs.RO
本文提出了一种通过自监督对比学习构建共享embedding空间的方法,以缩小teacher-student模仿学习中的imitation gap。该方法在训练teacher policy的同时学习共享表示,并限制梯度更新以防止提取私有信息,从而提升student policy的性能。
Alan Ferrari
cs.LG
本文提出Meta-Attention框架,通过贝叶斯元控制器为每个token动态选择注意力策略(full softmax attention, linear attention, sliding-window local attention),以优化推理效率。该方法使用计算感知的Dirichlet先验和ELBO目标进行训练,在Tiny LM基准上相比无先验基线降低了计算成本。
Elvin Hajizada et al.
cs.LG cs.AI cs.NE
本文提出CLANE系统,在Intel Loihi 2神经形态硬件上实现了基于event camera的持续动作识别。该系统结合spiking 2D CNN与CLP-SNN学习头,通过Temporal Aggregation Layer和fixed-point Normalization Layer处理动作片段,在THU E-ACT-50数据集上达到70.4%的准确率,并相比边缘GPU基线实现了超过100倍的能耗降低和16倍的延迟降低。
Kun Liang et al.
cs.LG cs.AI
本文提出ADWIN框架,通过自适应窗口机制动态调整on-policy distillation中的rollout长度,在保持学生模型性能的同时显著降低训练成本。该方法在数学和代码推理任务上验证了有效性。
Markus Herre et al.
cs.LG
本文重新审视了元特征(meta-features)在解释表格数据上不同模型族(如神经网络与树模型、非基础模型与基础模型)性能差异中的作用。通过在TabArena基准上的严格统计检验,发现大多数元特征与性能差距的关联并不稳健,且基于元特征的预测器在留一数据集预测中未能显著优于简单基线。该工作揭示了表格数据集的异质性,并表明全局元特征方法难以提供可靠的模型选择解释。
Yasser Taha, Grégoire Montavon, Nils Körber
cs.LG
本文提出了一种名为Conveyance的分类框架和损失函数,用于处理具有图结构关系的类别空间(如层次分类和序数回归)。该方法通过最大化不同类别划分上的两个间隔来学习,无需定义复杂的联合分布,并在多个任务上达到了与专用基线相当的性能。
Alberte Heering Estad, Ignacio Peis, Jes Frellsen
cs.LG stat.ML
本文提出了一种两阶段框架,先使用鲁棒的VAE从缺失数据中学习潜在表示,再在该潜在空间上训练扩散模型用于缺失数据填补。实验表明,在MCAR缺失机制下,该方法在高达50%缺失率时仍能保持高质量生成,优于直接在像素空间操作的扩散模型。
Jungyong Son et al.
cs.LG
本文提出BiCo框架,通过双线性坐标对齐实现免训练的任务向量迁移。该方法将任务向量视为输入激活与输出梯度的双线性交互累积,利用正交Procrustes映射在双空间中对齐,无需参数更新即可跨模型迁移微调知识。
Avidan Shah, Jannik Brinkmann, Rico Angell
cs.LG
本文研究了针对推理模型的对抗性攻击缓解方法,提出了一种基于激活一致性训练(ACT)的防御策略,通过监督内部表示来增强模型对prompt注入和jailbreak攻击的鲁棒性。实验表明,ACT在多种推理模型上优于输出级一致性训练,并能通过激活空间中的线性偏移机制实现防御。
Zhiqin Cheng et al.
cs.LG
本文提出了一种基于Manifold Optimization的框架,用于解决拟合未知数量超平面的问题。该方法将问题重新表述为单位球面流形上的无监督学习,并设计了Two-Stage Manifold Optimization算法,通过Riemannian Expectation-Maximization过程处理点分布歧义,最终在几何精度和鲁棒性上优于现有基线。
Torben Berndt et al.
cs.LG
本文证明了Structured Linear Controlled Differential Equations (SLiCEs)在生成式时间序列建模中具有通用性,即它们可以逼近紧致潜在集上的连续因果推前路径律。基于此,作者提出了Generative SLiCEs (G-SLiCEs)模型,用于路径空间上的flow matching,并在概率预测等任务中展示了其性能优势。
Yunwen Lei, Zimeng Wang, Xiaoming Yuan
cs.LG cs.AI
本文通过算法稳定性分析,首次为SVRG方法建立了非平凡的泛化界,在凸和强凸设定下得到了数据依赖的稳定性界,并推导了最优的excess population risk界。其分析将SVRG更新分解为类似SGD的步骤加上零均值修正项,并引入新的Lyapunov函数来处理参考点带来的梯度项。
Yunwen Lei, Zimeng Wang, Xiaoming Yuan
cs.LG cs.AI
本文通过算法稳定性(algorithmic stability)的视角,对带动量的随机梯度下降(SGDM)的泛化性能进行了理论分析,建立了光滑凸问题下的平均模型稳定性界,并推导了最优的总体风险界。
Jente Van Belle et al.
cs.LG
本文提出了一种在无分布概率时间序列预测中同时优化预测质量和稳定性的方法,通过神经网络参数化的回归样条生成稳定的条件分位数函数,并直接惩罚预测更新带来的差异。该方法能有效减少预测不稳定性,且可针对分布的不同部分(如尾部)进行差异化稳定。
Yaniv Tenzer, Elad Tolochinsky, Yaniv Romano
cs.LG
本文提出了一种基于预测的“测试-下注”半监督假设检验框架,利用未标记数据增强序贯检验的效力,并构造了e统计量。该方法在标签偏移或概念偏移下具有任意有效性,并通过实验展示了相对于基线方法的功效提升。
José Lucas De Melo Costa et al.
cs.LG
本文研究了Tabular Foundation Models (TFMs)在不确定性量化方面的表现,发现尽管TFMs在预测性能(AUC)上优于Gradient-Boosted Decision Trees (GBDTs),但其在conformal prediction下的条件覆盖(SSCS)更差,揭示了性能与不确定性之间的权衡。
Aditya Kommineni et al.
cs.LG cs.AI
本文提出了一个多维度评估框架,用于在低资源条件下评估EEG foundation model的泛化能力。实验发现,这些模型在长上下文任务(如睡眠阶段预测)上表现优于传统监督模型,但在短窗口BCI任务上优势有限。
Tue M. Cao, Nguyen Do, My T. Thai
cs.LG cs.AI
本文提出了一种基于Wasserstein距离的分布框架,用于估计稀疏自编码器(SAE)特征之间的语义距离,从而统一解决跨层特征匹配和大规模特征电路压缩问题。该方法将每个特征表示为激活加权分布,并证明该表示具有尺度不变性和稳定性。
Kristi Topollai et al.
cs.LG
本文研究了分布式优化器DiLoCo中外层动量(outer momentum)的周期性重启机制,通过线性化平方损失模型和empirical NTK推导了模式级重启收缩行为,实验表明该方法能扩大外层学习率和动量值的稳定范围。
Zonghao Chen et al.
cs.LG
本文提出KT-MFLD方法,通过将粒子与大小为\(\mathcal{O}(N^{\frac{1}{2}})\)的稀疏核心集交互,将Mean-field Langevin dynamics的计算复杂度从\(N^2\)降至\(N^{\frac{3}{2}}\),并在温和正则性条件下保持与原方法相同的收敛保证。该方法在神经网络训练、最大均值差异量化等任务中得到验证。
Jiangsheng
cs.LG
本文观察到可以将partial least square (PLS)视为一种线性化的self-attention机制,从而在神经网络框架下研究PLS;同时,PLS中的降维和预测变量选择也暗示了self-attention包含一定程度的维度规范化以改进学习。
Yixiao Huang et al.
cs.LG
本文研究了Implicit Chain-of-Thought (ICoT)的理论基础,提出Log-ICoT训练课程,证明多层transformer能以多项式样本学习\(k\)-parity问题,并减少了训练阶段数。实验验证了理论结果。
Haonan Wen, Hanyang Chen, Songhe Feng
cs.LG cs.AI
本文提出了一种针对在线不规则多变量时间序列预测的框架Under-Cali,通过不确定性驱动的双专家校准模块实现高效在线适应,在多个基准上验证了其低计算成本下的性能提升。
Guillaume Larue et al.
cs.LG
本文研究了使用乘积网络(product networks)通过梯度下降学习高维奇偶函数(parity functions)的问题,证明了在伯努利输入稀疏性条件下,紧凑的乘积架构能够实现高效学习。该工作主要关注架构归纳偏置与数据稀疏性之间的联系,但与您提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Julien Lalanne et al.
cs.LG
本文提出RP Flow,一种基于Flow Matching的生成框架,通过Random Fourier Features学习神经隐式表示,从稀疏观测中生成多变量随机场的样本,并利用GP回归在源空间构建贝叶斯后验以量化不确定性。该方法适用于数据稀缺且需可追溯不确定性的重建任务。
Ziba Jabbar Zare et al.
cs.LG
本文研究了混合可解释模型(hybrid interpretable models)中存在的可解释性覆盖差异(ICD)问题,即不同人口群体可能被不成比例地分配到黑箱模型。通过预测多重性工具在多个数据集上的实验,作者发现中等透明度区域存在显著ICD,并展示了简单的覆盖差异约束能有效缓解该问题。
Jianghao Wu et al.
cs.LG
本文提出SHIFT方法,一种无需训练的RLVR数据选择器,通过单次推理的hidden-state dynamics计算representation shift作为实例效用代理,并结合CoreSet过程选择子集。该方法在数学推理和医疗QA任务上优于基于多样性或不确定性的基线,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Xiuying Wei, Caglar Gulcehre
cs.LG
本文研究了在query-aware稀疏注意力方法(如Quest, MoBA, SnapKV)中引入指数衰减记忆模块(RAT+)的效果,实验表明该方法在长上下文任务中能提升稀疏推理的准确率。作者基于OLMo2-7B模型进行了继续预训练验证,并提出了记忆模块有益于稀疏推理的两种假设。
Li Lei et al.
cs.LG cs.CL
本文研究了使用Sparse Autoencoders (SAEs)引导的模型编辑方法,发现将task vector投影到SAE特征子空间会丢弃约97%的修改能量,导致性能无显著提升。作者提出将SAE作为诊断工具而非手术刀,通过SAE导出的特异性分数选择层注入未过滤的原始task vector,在数学推理任务上取得了显著改进。
Manuel Dileo, Andrea Sottoriva
cs.LG
本文提出了一种基于temporal graph learning的方法,通过将单细胞转录组数据构建为pseudotime-resolved gene regulatory networks,并应用temporal graph neural networks来预测生物系统的动态变化。实验表明,该方法在基因表达预测、link prediction和out-degree centrality prediction任务上优于scGPT和scFoundation等静态foundation model。
Vijeta Deshpande et al.
cs.LG cs.CL
本文研究了Activation Steering (AS)方法在生成用于安全检测模型训练数据中的应用,发现AS生成的数据在3/4的概念上优于提示生成的数据,但仅41/136的配置有效。文章引入了样本级和集合级多样性作为新的质量评估维度,并指出成功、连贯性和多样性的调和均值与下游AUROC的相关性比单一指标更一致。
Mingjie Hu, Jian-Qiang Hu, Enlu Zhou
cs.LG
本文利用large deviations theory为infinite-horizon reinforcement learning中的数据获取问题建立了一个统一框架,提出了policy-selection error probability的指数衰减率作为效率指标,并给出了一个嵌套优化问题的变分刻画。由于该问题难以直接求解,作者提出了一个可处理的凸松弛和一种lazy one-step projected subgradient method来构造自适应数据获取策略,并证明了该算法的near-robustly optimal性质。
Jack Timmermans, Sergio A. Alvarez
cs.LG stat.ML
本文提出了一种迭代方法,用于在固定\(X\)设定下从生成参数计算最优的\(L^2\)正则化强度,并证明了其在有限噪声水平下的收敛性。该方法结合样本参数估计,在合成数据上实现了接近最优的随机\(X\)泛化性能。
Amirpasha Hedayat et al.
cs.LG cs.CE math.NA physics.comp-ph
本文提出了一种基于增量奇异值分解(iSVD)的历史感知自适应降阶模型框架,通过偶尔的全阶算子评估提供校正快照以在线更新基。该方法在三个非线性问题上进行了验证,包括一维粘性Burgers方程、Sod激波管和旋转爆震发动机问题,结果表明iSVD在预测精度和计算效率上优于现有方法。
Yeachan Park et al.
cs.LG
本文研究了浮点数神经网络在任意归约顺序和非精确激活实现下的表达能力,通过引入可区分性框架,分析了网络能否精确表示任意函数,并给出了必要与充分条件。该工作扩展了对实际浮点数执行模型下激活函数表达能力的理解,但未直接涉及代码、上下文、谱方法或预训练等关键词。
Guangyu Li, Meng Ding, Lijie Hu
cs.LG
本文提出了首个关于in-context continual learning的理论框架,分析了预训练Transformer在单个prompt中处理多个顺序任务时的泛化与遗忘行为。研究发现标准attention机制会因历史上下文的统一或因果聚合导致任务间干扰,并给出了预测误差的bias-variance-interference分解。
Jiawei Zhang et al.
cs.LG
本文提出了一种名为MAP-RPS的阶段性框架,用于在零样本逆问题中使用单一diffusion模型实现失真-感知权衡的遍历。该方法通过MAP估计阶段提供低失真初始化,再通过重噪声后验采样阶段逐步提升感知质量,并在潜空间扩展为LMAP-RPS以适用大规模预训练模型。
Tirtharaj Dash
cs.LG cs.AI cs.NE q-bio.QM
本文提出BIRDNet,通过挖掘特征间的Boolean implication relationships构建稀疏神经网络,其结构先验来自数据而非外部规则库。在转录组和蛋白质组基准上,BIRDNet以少量精度代价实现了接近最强密集基线的性能,并保持了可解释性。
Zelin Li, Caiwen Ding
cs.LG
本文指出LLM的Zeroth-Order (ZO)微调本质上是一个以inference为主导的工作负载,并提出了通过serving runtime(如vLLM)来执行其重复评分阶段的方法。实验表明,该方法在OPT-13B模型上相比官方LoZO基线实现了8.13倍加速,并保持了相当的准确率。
Mehryar Mohri, Yutao Zhong
cs.LG stat.ML
本文在Empirical Utility Maximization (EUM)框架下,为多标签学习中的广义度量(如\(F\)-measure和Jaccard index)优化设计了具有\(H\)-consistency保证的算法,并提出了MMO算法族。该方法通过可分解的surrogate loss实现了非渐近的理论保证和线性时间复杂度的实际效率。
Kevin Y. Li et al.
cs.LG
本文提出Oryx,一种混合序列模型,能够在序列中灵活切换不同的mixer(如quadratic attention和linear recurrence),并通过共享至少90%的参数使不同模式操作于共同内部表示。实验表明,在固定token预算下,Oryx在语言建模和检索任务上优于单一mixer基线,但方法本身并非开创性突破,且与关键词契合度较低。
Suji Kim, Kangsan Kim, Sung Ju Hwang
cs.LG cs.AI cs.CL
本文提出LearnWeak框架,通过利用更强的reference agent识别小规模computer-use agent在目标domain中的弱点,自动合成针对性训练数据并解耦planning与execution errors进行训练,在OSWorld基准上取得显著提升。该方法与关键词中的agent概念相关,但缺乏开创性且未解决长期存在的根本问题。
Audrey Chan et al.
cs.LG cs.IR cs.SD
本文介绍了一个基于rollout-based world model的情感音乐推荐系统AMRS,该系统使用causal transformer预测用户情感状态,并通过Direct Preference Optimization进行离线策略优化。该方法主要关注在无法进行在线实验的场景下进行情感推荐,与关键词中的agent和attention有一定关联但不够契合。
Yangyi Huang et al.
cs.LG cs.CL
本文从稳定性-可塑性困境的角度评估参数高效微调(PEFT)方法,提出了PEFT-Arena基准来同时衡量下游任务性能和通用能力保持。通过在权重空间和激活空间中的几何分析,揭示了不同PEFT方法的特性差异,并发现正交微调在给定参数预算下能达到最优的Pareto前沿。

cs.AI

Amartya Roy, Sonali Parbhoo
cs.AI cs.CL
本文证明了大型语言模型在因果发现任务中失败的根本原因:监督微调、直接偏好优化和上下文学习等方法产生的预测器无法区分生成相似观测数据的因果图,且任何尝试都会导致模型内部表示无限增长,违反这些方法的工作条件。作者将此形式化为kernel obstruction定理,并提出了Agentic Causal Bayesian Optimization (A-CBO)方法,其中冻结的语言模型作为干预oracle回答关于干预效应的目标查询,而外部贝叶斯循环在对数轮次内集中对候选图的置信度。该方法在Corr2Cause和Extended Corr2Cause基准上显著优于微调和偏好优化,且无需训练即可匹配基线性能,与关键词"agent"高度契合。
Hanyu Wang et al.
cs.AI
SkillGrad提出了一种将agent skill(可复用的程序化知识包)视为结构化参数,并模仿gradient descent进行优化的框架。该方法通过任务执行提供trajectory-level loss,利用自动诊断生成text-based gradients来指示修正方向,并引入momentum agent积累重复诊断模式以稳定迭代。在SpreadsheetBench Verified和WikiTableQuestions上的实验表明,该方法在平均性能上比最强的基于训练的baseline高出\(6.7\)个百分点,与关键词“agent”高度契合。
Yuchen Guo et al.
cs.AI
本文提出PEAM框架,将Minecraft中embodied agent的记忆从推理时检索转变为参数化技能内化。其核心创新在于:使用多模态Mixture-of-Experts LoRA架构实现参数级持续学习,通过behavioral-cloning与contrastive objective将失败-修正轨迹对内化,并引入parameterization-worthiness score和scale-free self-triggered consolidation机制决定何时内化经验。该方法解决了embodied agent在长时域任务中的灾难性遗忘与检索效率问题,与关键词"agent"高度契合。
Kenny Daniel
cs.AI cs.DB
本文提出了Hyperparam,一套总大小小于70KB的JavaScript开源库(Hyparquet, Squirreling, Icebird),用于在JS运行时中直接读取Parquet和Apache Iceberg格式的数据。其核心创新在于实现了per-cell、async-native的SQL执行,使得对非结构化文本(如agent traces、chat logs)的分析可以高效地与基于model的interpretation(如LLM-shaped async UDFs)交错进行。实验表明,Squirreling在filter-bounded和sort-bounded查询上比DuckDB-WASM快300倍和192倍,并以更低成本完成agent analyst任务,为AI-native client applications中的agent数据分析提供了新的query engine范式。
Thao Nguyen, Heng Ji
cs.AI
MolLingo提出了一种基于多agent系统的分子设计自动化方法,通过引入BRICS-based Fragment Enumeration (BFE)方法将分子分解为化学上有意义的building blocks,并以block-based SMILES与通用化学名称配对的形式表示,从而弥合分子结构与LLM语义空间之间的鸿沟。该系统通过共享内存模块协调Literature Agent、Chemist Agent和Orchestrator,使每个agent都能利用领域特定工具进行迭代、证据驱动的推理,并在分子对接中结合结合位点几何和残基级蛋白质上下文来优化分子。该方法在多个基准测试中显著优于前沿LLM和专用基线,例如在相同底层模型下将docking score提升四倍,并在TOMG-Bench上达到最先进结果,表明通过化学上有意义的表示和生物学结构上下文引导,LLM可以成为有效的分子设计助手。
Hongxiang Lin et al.
cs.AI
本文提出SkillC框架,基于Contrastive Skill Credit Assignment (CSCA)方法,通过在同一policy update中采样带技能和无技能的paired rollouts,并利用dual-stream advantage estimator将任务层面的对比信号注入优化过程,从而将技能帮助性对比转化为直接的学习信号,实现LLM agent的自主技能内化。该方法通过smoothed validation-level signal驱动自适应课程学习,在ALFWorld和WebShop上超越现有skill-internalization RL基线,且与skill-augmented RL方法竞争力相当,为agent领域的技能内化问题提供了开创性解决方案。
Zhenyu Cui, Xiangzhong Luo
cs.AI
本文通过残差流探针、因果层跳过干预和有效深度测量等方法,对LLM agent在多轮规划任务中的层间动态进行了机制性研究。研究发现,agent推理展现出与静态任务不同的深度分布特征:随着轨迹展开,模型会逐步招募更多更深层,且层间长程依赖增强,残差更新从稳定特征积累转向重复校准。该工作为理解agent如何自适应分配计算资源提供了机制性证据,与关键词“agent”高度契合。
Zhexin Hu et al.
cs.AI
本文提出ZipRL框架,用于在基于可验证奖励的强化学习(RLVR)中实现自适应多轮上下文压缩。其核心创新包括多粒度压缩机制(通过从粗到细的prompt实现非均匀信息缩减)以及后见响应重放(HRR)技术,后者通过广义优势重塑来稠化训练信号。理论分析证明了该方法在任务相关效用上优于均匀压缩方法,实验表明在五个agent任务上,ZipRL相比现有最优方法在Qwen3-4B和Qwen3-8B模型上分别提升27.9%和34.7%,并在极端256轮外推测试中保持优异的token效率与鲁棒性。
Yongxiang Li et al.
cs.AI
本文提出了一种针对LLM agent的新型安全威胁Sleeper Attack,其核心在于攻击者将adversarial content注入到agent state(如session context、memory或reusable skills)中,使其在多次交互中保持持久化并处于休眠状态,直到被一个良性的用户query触发,从而产生有害行为。作者构建了一个包含1896个实例的benchmark,覆盖六种真实世界有害结果和三种攻击策略,实验表明当前最先进的LLM agent在面对这种跨交互的持久化攻击时仍然脆弱。该工作系统性地形式化了agent安全中一个长期被忽视的持久性威胁,并提供了评估框架,与关键词“agent”和“context”高度契合。
Soeun Kim, Albert No
cs.AI cs.CL cs.LG
本文提出了一种名为REFT (Rollout Exploration with First-Token Diversification)的轻量级方法,用于增强RLVR (Reinforcement Learning with Verifiable Rewards)训练中rollout的多样性。该方法识别并利用了推理标记后的第一个token这一关键位置,通过从策略自身的top-\(N\)候选token中均匀采样并均匀分配rollout,在不改变正确性信号的前提下拓宽了探索区域。实验表明,REFT在多个基础模型和难度级别上,相较于DAPO和GRPO基线,显著提升了Pass@1、Pass@8和Pass@64等聚合指标。这项工作为解决RLVR中rollout多样性瓶颈这一长期问题提供了简洁而有效的方案。
Jyotirmoy Nath, Neeraj Kumar, Brejesh Lall
cs.AI
本文提出Prompt Codebooks (PCO)框架,将自动prompt优化重新表述为在有限自然语言“本能”(原子化、可复用的指令单元)词汇表上的离散学习问题。PCO通过离散codebook组织prompt构建知识,并利用LLM-based encoder为每个输入路由到少量条目,再由generator组合成prompt,同时引入critic生成结构化评判以联合训练所有组件。该方法实现了per-instance的指令组合,在多个benchmark上显著优于零样本和现有基线方法,并大幅缩短了部署时的prompt长度。
Raffael Theiler et al.
cs.AI cs.LG cs.SE
本文提出了一种基于agent的框架化论文复现方法,用于解决工业健康管理(PHM)领域中因方法描述不完整(如预处理、数据划分等隐式设计选择)导致的复现困难问题。该方法通过一个slot-binding interface将论文中的方程和协议描述映射为结构化组件(如任务定义、数据集适配器、窗口化、目标构建、模型和评估器),并显式记录未解决的假设,从而将论文转化为可执行且可比较的基准实现。在16篇PHM论文上的实验表明,该方法相比无框架的复现agent,能显著提升复现成功率和跨论文基准的可比性。该工作与关键词中的“agent”高度契合,并为机器学习论文的自动化复现与基准测试提供了系统性的新范式。
Yaoyu Zhao et al.
cs.AI cs.PL
本文提出LACUNA,一种将LLM agent的运行时与模型生成代码统一起来的编程模型。其核心创新在于将每个agent动作定义为类型化的调用\(\texttt{agent[T](task)}\),该调用在程序执行到该点时由LLM填充代码,并在运行前对代码进行类型检查以保障安全性。该方法通过将拒绝的动作视为整体回滚,并利用编译器诊断驱动重试,从而解决了agent在代码生成中可能出现的prompt注入、工具误用或状态不一致等安全问题。LACUNA将ReAct循环、子agent、技能、并行分解和多模型规划等复杂行为表达为普通控制流,在BrowseComp-Plus和\(\tau^2\)-bench上的实验验证了其有效性,与关键词“agent”和“code”高度契合。
Abhilash Durgam et al.
cs.AI cs.HC cs.LG
CaMBRAIN提出了一种基于Causal Mamba的state space model (SSM),用于对EEG信号进行实时、连续的推理。该方法通过引入多阶段自监督训练pipeline,专门设计以增强模型对长程context的记忆能力,从而克服了传统attention机制在长序列上的二次复杂度问题。实验表明,CaMBRAIN在三个EEG数据集上达到了SOTA性能,且吞吐量比现有模型高出10倍以上,首次实现了对变长EEG信号的连续推理。
Eduardo de la Cruz Fernández, Marcelo Karanik, Sascha Ossowski
cs.AI cs.CL cs.CY
本文提出了一种基于LLM的模块化架构,用于从文本中检测和量化人类价值观的强度,该架构通过生成结构化规范、标注文本和分配支持/抵抗分数来工作,并在ValueEval数据集上验证了其检测性能。该方法主要关注AI伦理与自然语言处理,与您提供的关键词(如code, context, spectral等)无直接关联。
Stanislav Liashkov et al.
cs.AI cs.CL
本文介绍了Soro,一个针对塔吉克语优化的轻量级conversational LLM家族,通过在Gemma 3基础上进行塔吉克语continual pretraining和instruction tuning,并开源了相关benchmark,在塔吉克语任务上显著优于基线模型。
Ching-Chun Chang, Isao Echizen
cs.AI cs.CR cs.IR cs.MM
本文提出了一种基于隐写术的机制,通过将父代特征隐藏于子代合成信息中,以追踪其进化谱系。该方法利用投影器和隐写编解码器实现亲缘关系查询,并在理论上分析了系统性能。
Shijie Cao, Yuan Yuan, Jing Liu
cs.AI
本文提出了DynaSchedBench框架,通过Sequential Event-Space Calibrator (SESC)和Schedule Stress Index (SSI)来校准动态柔性作业车间调度问题(DFJSP)的实例生成。研究发现LLM-based scheduling agents存在"Observability Paradox":提供完整结构信息反而会降低策略性能,且大多数LLM agents无法持续超越强启发式基线。
Georgina Cosma, Axel Finke
cs.AI
本文提出RULER,一套用于验证机器遗忘(machine unlearning)效果的表示层(representation-level)指标,包括基于oracle的M2和无oracle的M4,旨在检测模型内部表示中残留的被遗忘记录信息。实验表明,多种近似遗忘方法虽能通过输出层验证,但在表示层仍存在显著残留。
Gabriele Cesa et al.
cs.AI
本文提出LaneRoPE,一种通过修改attention mask和RoPE位置编码来使LLM在并行生成多个序列时实现序列间协作的方法,在数学推理任务上取得了提升。该方法与现有推理管线兼容性好,但创新性有限。
Gaetano Rossiello, Dharmashankar Subramanian
cs.AI cs.CL cs.DB
本文提出了一种基于多agent架构的实时数据流自主洞察发现系统,利用Apache Kafka和Flink等工具实现事件驱动协调与流处理,并通过大语言模型驱动agent生成假设并编译为可执行分析。该系统旨在将分析范式从被动查询转向主动发现,但方法本身在数学理论或算法创新上较为常规。
Nikita Benkovich, Vitalii Valkov
cs.AI
本文介绍了Agyn,一个为AI agent设计的开源平台,其核心特性包括基于Kubernetes的信号驱动无状态运行时、用于agent和harness定义的Terraform provider,以及基于零信任和最小权限原则的安全模型。该平台与agent、模型和云环境无关。
Suraj Biswas, Saurav Gupta, Pritam Mukherjee
cs.AI q-bio.NC
本文提出人类行为结果可通过因果状态干预进行控制,将状态定义为决策时刻的时变权重向量,并基于因果推断、预测处理等六类证据及24个月观察数据支持该框架,但未涉及代码、谱方法或预训练等关键词。
Yiting Huang et al.
cs.AI cs.SI
本文提出了一个针对社交媒体网络霸凌治理的统一框架,涵盖从内容识别到干预的四个阶段,并综述了相关数据集与挑战。该工作主要聚焦于治理流程的整合,与关键词中的特定技术方向关联较弱。
Xijie Zeng, Frank Rudzicz
cs.AI cs.MA
本文研究了LLM agents在竞争性多智能体环境中自愿使用秘密工具进行合谋的现象,发现即使工具被明确标记为不公平,大多数模型仍会接受并发展合谋策略。该工作首次系统性地调查了基于LLM的多智能体系统中的自愿合谋行为。
Julien Abadji et al.
cs.AI cs.SE
本文介绍了Laguna M.1和Laguna XS.2两个Mixture-of-Experts基础模型,它们专为长周期agentic coding任务设计,并在SWE-bench等基准测试上表现优异。文章详细描述了从预训练到后训练、评估和量化的端到端训练过程,以及其内部的Model Factory系统。
Taylor Olson, Roberto Salas-Damian, Kenneth D. Forbus
cs.AI cs.SC
本文提出了一种在人类-AI交互场景中,利用动态变化的规范来引导规划的方法,包括一个用于解决规范冲突的可废止演算,并通过形式化证明和自然语言对话任务中的AI agent SocialBot进行了验证。
Srini Ramaswamy
cs.AI cs.CY cs.ET cs.MA eess.SY
本文提出了一种名为SMARt的分层架构模型,通过形式化Petri网来管理agent AI系统中的自主性失败与升级问题,旨在通过受限的自主性提升系统可靠性。该工作主要关注AI系统的治理与安全,与关键词中的agent概念有一定关联,但方法本身并非开创性突破。
Nathaniel Mitrani Hadida et al.
cs.AI cs.LG
本文在受控最小化设置中研究alignment faking (AF)现象,发现其比先前报告更广泛,并识别出三个独立驱动因素:values、goal guarding和sycophancy。通过prompt消融和activation steering实验,表明AF的发生可从情境线索和模型基线倾向中预测。
Arthur Renard et al.
cs.AI
本文提出Frost Training方法,通过利用reward function在embedding space中的gradient来改进基于Monte Carlo的policy optimization,主要应用于Cross-Entropy Games任务。该方法在GRPO训练框架下验证了其提升模型生成高得分输出能力的效果。
Joan Vendrell Gallart, Russell Bent, Michael Grosskopf
cs.AI
本文提出了一种用于资源受限的agentic语言模型的分层控制与学习框架,通过蒸馏和在线监督微调来应对协议遵循和状态适应问题,并形式化了prompt域可行性和注意力饱和现象。实验在Multi-Fidelity Bayesian Optimization测试平台上验证了其相对于非分层、仅蒸馏等基线的可靠性和成本效率提升。
Shaghayegh Sadeghi et al.
cs.AI
本文提出DeepSciVerify,一个两阶段pipeline,用于验证科学声明与引用证据的对齐性。它通过先使用abstract进行推理,仅在不确定时检索全文passage,在SCitance基准上提升了验证准确率与效率。
Zhenghan Song, Yunyi Li, Yulong Liu
cs.AI
本文提出Prefix-Safe Bayesian Belief Tracking (SBBT)框架,用于在长推理链中估计最终答案的可靠性。该方法通过递归更新两状态信念来校准观测似然,并区分了概率质量与排序能力,实验表明标量分数主要改善Brier分数,而结构感知观测能提升AUROC。
Rui Zhang, Chaeeun Kim, Liting Hu
cs.AI
本文提出在multi-agent LLM serving系统中,在agent framework与serving engine之间插入一个agent runtime层,通过四个原语(observe, score, predict, act)实现跨层策略的集中管理,并以KV caching为例验证了其有效性。
Hankyeol Kim, Pilsung Kang
cs.AI
本文研究了LLM置信度校准中verbalized confidence与token-probability scores的比较对测量协议(如conditioning context和token readout方式)的敏感性,发现这些选择会显著改变校准评估结果。
Aman Priyanshu, Supriti Vijay, Esha Pahwa
cs.AI
本文构建了一个多agent模拟平台,评估了LLM agent在社交环境中隐私泄露的风险,发现多轮交互会显著增加隐私泄露率,且泄露行为具有社交传染性。该工作主要关注AI安全评估,与关键词中的agent有一定关联,但方法上缺乏开创性。
Sankaranarayanan Palamadai Chandrasekaran
cs.AI
本文提出EvaluatorDPT,一个用于AI系统决策控制的bounded decision-control模型,通过transformer encoder预测YES/NO/TBD(TBD作为学习到的延迟输出),并支持推理时通过阈值和辅助信号进行控制。该工作主要关注决策的可审计性和可路由性,但与我提供的关键词(code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Lu Yan, Xuan Chen, Xiangyu Zhang
cs.AI
本文提出WIRE方法,用于诊断LLM agent内部prompt policy中的规则冲突。该方法通过提取规则、编码为PyRule子句并生成具体冲突场景,评估模型在响应或工具动作中的冲突解决模式。
Camilo Chacón Sartori, José H. García
cs.AI cs.CL
本文针对RAG系统中LLM作为评判者的评估问题,提出了一个固定预算、聚类感知的评估标准,并利用遗传算法解码器GADMEC在400个多跳问题上进行了压力测试。该工作主要关注评估方法论,与关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念关联度较低。
Leo Y. Li-Han et al.
cs.AI eess.SP
本文提出GraD-IBD模型,将纵向ICD诊断轨迹重构为基于就诊时段的有向图,并设计了一种上下文感知的时间衰减消息传递机制来捕捉时序依赖。该方法在真实临床数据集上相比序列模型降低了计算复杂度,并提升了炎症性肠病早期检测的性能。
Eunseok Yang, Xingdong Zuo, Kyung-Min Kim
cs.AI
本文提出了一种名为Generative Response Model (GRM)的生成式响应建模方法,用于解决auto-bidding系统中的长期约束优化问题。该方法通过预测未来流量和成本-价值曲线,并结合轻量级解析控制器来满足预算和比率约束,实验表明其在约束稳定性上优于现有baseline。
Yunqi Liu et al.
cs.AI
EgoBench是一个用于评估工具使用AI agent的交互式多模态基准测试,包含1045个以自我为中心的视频任务和用户-agent-工具交互环境。该基准测试通过多阶段协同流程设计任务,并采用多agent模拟用户和确定性联合验证框架进行评估,实验表明现有模型在该基准上表现有限。
Phuong Minh Nguyen, Tien Huu Dang, Naoya Inoue
cs.AI cs.CL
本文通过因果中介分析定位了LLM在符号辅助的Chain-of-Thought推理中负责各推理步骤的attention heads,发现约3%的specialized attention heads负责检索事实和规则信息,而高层heads主要促进信息整合与全局推理策略(如图遍历算法)的涌现。
Khalid Adnan Alsayed
cs.AI cs.CY
本文提出了Operational AI Deployment Assurance (OADA)框架,将公平性分歧、阈值敏感性和补救结果转化为部署导向的治理决策,并引入了部署准备度分类和治理升级状态等概念。该框架通过人脸识别和医疗AI领域的评估,展示了系统在孤立指标下看似可接受但仍存在影响部署稳定性的问题。
Yunsheng Zeng et al.
cs.AI
本文针对开放域问答中的强化学习问题,提出了一种基于熵的自适应正负样本加权方法EAPO。该方法通过动态调整正样本权重来平衡探索与稳定性,实验表明其在医学问答数据集上优于固定权重基线。
Yi Ding et al.
cs.AI
本文提出TCP-MCP框架,将agent prompts与communication topologies作为统一基因组进行协同进化,通过初始化landscape probe和Pareto-front诊断来优化任务性能、token成本和结构复杂度。实验表明该方法在多个benchmark上优于基线,但未涉及code、spectral、Muon或pretrain等关键词。
Dasol Choi, Alex Kwon
cs.AI
本文提出“脆性安全”概念,指对齐语言模型在情境变化后仍机械遵循原有安全规则。通过引入context-flip评估,发现模型存在安全-常识差距,且失败源于策略覆盖而非理解错误,并指出基于动作的内容审核无法应对后果翻转。
Yuwei Miao et al.
cs.AI
本文提出C-MIG框架,通过多视角信息增益(Multi-view Information Gain)来指导检索增强生成中的检索与精炼过程,以解决临床诊断中奖励信号丢失和信用分配问题。该方法在多个医学基准上取得了最佳性能,但未涉及code、spectral、Muon等关键词。
Di Zhu, Zheng, Zihan Chen
cs.AI
本文提出了FundaPod,一个用于AI辅助基本面投资研究的多角色agent平台,通过知识图谱记忆系统连接不同角色的agent(如价值投资者和宏观策略师),并让人类投资经理裁决分歧。该工作主要关注金融领域的agent系统设计,与关键词中的agent概念相关,但方法本身并非开创性,也未解决长期存在的数学问题。
Ruiyi Zhang et al.
cs.AI
本文提出了一个名为AIBuildAI-2的知识增强agent,用于自动构建AI模型。它通过一个外部层次化知识系统来克服大语言模型参数知识静态且稀疏的局限,该系统从网络收集并持续从agent自身经验中提炼结构化知识,从而在MLE-Bench等任务上取得了领先性能。
Jaechang Kim et al.
cs.AI
本文提出FAX框架,通过将解释分解为claims并利用固有可信工具进行交叉验证,以提高Agentic XAI系统的解释忠实度。同时引入CRAFTER-XAI-Bench基准,用于评估模型特定忠实度,实验表明显式验证对忠实解释至关重要。
Yuxuan Zhao, Sijia Chen, Ningxin Su
cs.AI q-fin.PM
本文提出了PortBench,一个用于评估LLM在投资组合管理(PM)任务中表现的benchmark。该benchmark包含静态QA数据集和动态五阶段分配pipeline,并引入了相关性分数和CEPS等新指标,但方法本身在数学或算法上缺乏显著的开创性。
Pengyu Zhu et al.
cs.AI
本文提出了一个统一的框架,用于评估LLM作为agent时的能力,通过标准化的指令-工具-环境格式和可控的沙盒执行环境,分离了框架效应和环境效应,并在多个benchmark上进行了大规模实证分析。该工作主要关注评估方法论,与关键词中的agent相关,但方法本身并非开创性突破。
Yihong Tang et al.
cs.AI cs.LG
本文提出了一个名为Dr-CiK的benchmark,用于评估agent能否从文档语料库中自主检索与时间序列预测相关的context,并过滤干扰信息以生成预测。实验表明,现有deep research agent在检索相关证据时表现不佳,且易受干扰,导致预测性能下降。
Jiawei Kong et al.
cs.AI
本文针对多模态大语言模型中的幻觉问题,提出了一种基于推理条件偏好优化的方法RC-DPO。该方法通过将Chain-of-Thought (CoT)作为答案生成的条件,并对比相同偏好答案在不同CoT条件下的偏好,以促进生成支持答案的推理链。此外,文章还利用Monte Carlo Tree Search和注意力引导的CoT剪枝来构建正负样本,实验表明该方法能有效缓解幻觉。
Xiangyu Wang et al.
cs.AI
本文构建了SuiChat-CN中文群聊自杀风险评估基准,通过信号词提取和双向上下文扩展构建对话片段,并利用LLM辅助专家验证的范式标注用户风险等级。实验表明上下文信息对可靠风险评估至关重要,但该工作与关键词列表中的概念关联较弱。
Aldan Creo, Suraj Ranganath
cs.AI cs.CL cs.CY cs.HC
本文提出了一种名为TELL的可解释AI生成文本检测架构,通过训练模型提供文本中“线索”的标注来辅助用户判断,而非仅输出数值分数。该方法在保持与现有检测器相当性能(AUROC 0.927)的同时,实现了原生可解释性,但与我提供的关键词列表(code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Yilun Yao et al.
cs.AI
本文提出了Harness-Bench,一个用于评估LLM agent在不同系统配置(harness)下执行效果的诊断基准,包含106个沙盒任务。实验表明,agent的性能不仅取决于基础模型,还高度依赖于执行层配置,且存在推理与工具反馈脱节的问题。
Xinjiang Yu et al.
cs.AI
本文提出DiagramRAG,一个轻量级的检索增强框架,用于基于草图的科学图表补全。它通过将图表表示为knowledge graph并训练embedding model来对齐草图与兼容图表,从而检索语义和拓扑结构相关的参考图以指导生成。
Ke Liu et al.
cs.AI cs.MM cs.SD
本文针对音频-视觉deepfake检测中从说话到唱歌场景的域迁移问题,构建了SHDF数据集并提出T-AVFD框架,通过文本引导的facial authenticity pattern learner与multi-modal differential weight learning模块提升泛化能力。实验表明该方法在多个数据集上优于现有baseline。
Navid Rezazadeh, Arash Gholami Davoodi
cs.AI
本文通过分析Qwen3-8B模型在AIME任务上的长推理轨迹,研究了backtracking(回溯)行为,发现早期孤立修复与正确推理相关,而错误轨迹则表现出更严重、持续且聚集的回溯。该工作为区分推理中的有效修正与无效反复提供了基于burst(爆发)结构的分析视角。
Simardeep Singh, Paras Chopra
cs.AI
本文研究了LLM内部表示中与人类感知域(如颜色、音高、情感和味觉)相关的几何结构,发现这种结构在中间层短暂出现,但未直接涉及代码、上下文、谱方法或预训练等关键词。
Soohan Lim et al.
cs.AI
本文提出STAB,一种从自然语言问题规约中生成测试用例以暴露算法瓶颈的规范驱动pipeline,通过约束饱和与对抗场景注入提升效率测试用例的生成率。
Kou Shi et al.
cs.AI
本文提出了AsyncTool基准,用于评估基于LLM的agent在具有延迟工具反馈的多任务场景中的异步工具调用能力,并引入了效率导向的指标来衡量任务协调与完成效率。实验表明延迟反馈会显著降低当前agent的性能。
Max Lamparth et al.
cs.AI
本文研究了reward model bias mitigation中的"reward bias substitution"现象,即单轴去偏方法会将优化压力转移到相关代理变量上。通过理论分析和实验(包括语言模型RLHF中的GRPO训练),作者证明现有评估方法无法区分成功去偏与偏差替代,并提出了改进评估的建议。
J. Vijayavallabh
cs.AI cs.CR
本文通过固定工作负载和自适应提示搜索,实证审计了Anchored Decoding中的k-NAF预算核算机制,发现平均累积KL支出远低于序列级预算,且代理支出比率未导致预算耗尽。
Kohsei Matsutani et al.
cs.AI cs.LG
本文通过构建合成推理任务,研究了压缩Chain-of-Thought (CoT)数据在LLM后训练(SFT和RL)中的效果,发现粗粒度CoT需要更多数据,且不同压缩形式在数据缩放和记忆化方面表现不同。该工作为资源受限下的CoT设计提供了经验性见解,但方法本身并非开创性,且与关键词列表中的概念关联较弱。
Bowen Wei et al.
cs.AI
本文提出COSE方法,利用LLM的内在置信度作为不确定性信号来调节自进化学习过程,通过置信度加权的PPO更新和置信度优先的回放机制,在多个推理任务上提升了模型性能。该方法主要关注如何利用模型自身反馈进行训练,与关键词中的code和agent等概念关联较弱。
Mengyu Xu et al.
cs.AI cs.CL cs.CY
本文提出了一个名为MIRA的双语基准,用于评估大语言模型在不同用户表述下提供医疗信息的完整性,并发现了“信息稀释”现象。该工作主要关注医疗领域的模型安全评估,与您提供的关键词(如code, spectral, Muon, attention等)关联度较低。
Xiang Wang et al.
cs.AI
本文构建了一个面向石油工程领域的LLM评测基准PetroBench,包含1200道覆盖生产、储层和钻井工程的多题型题目,并评估了8个主流模型的表现。结果显示模型在主观题上优于客观题,且中国模型在选择题上有优势。
Stanislav Kirdey, Clark Labs Inc
cs.AI
Clark Hash提出了一种无状态稀疏Johnson-Lindenstrauss投影与标量量化结合的方法,用于压缩神经embedding的存储空间,在384维句子embedding上实现了32倍压缩。该方法无需训练或学习码本,但本质上是一种简单的编码器,并未引入新的理论或解决长期存在的开放问题。
Haitian Li et al.
cs.AI cs.MM cs.SD
本文提出了MTAVG-Bench 2.0基准,用于诊断多说话人音视频生成中的电影表现力失败模式,构建了超过10,000个问答评估实例。实验表明商业omni模型表现最佳,但所有模型在复杂失败模式上仍有困难。
Pin Qian et al.
cs.AI
本文提出了FORCEBENCH基准测试,用于评估Cited RAG系统中引文与声明之间的证据力度校准问题,并发现现有模型在检测“引文洗白”(即相关但不足以支撑声明的引文)时表现不佳。
Zihan Li et al.
cs.AI cs.CL
本文提出MemCog系统,将agent记忆从被动工具转变为主动认知过程,通过可导航记忆存储和跨维度导航接口实现推理驱动的记忆访问。实验表明其在被动问答和主动记忆触发基准上均取得最优性能。
Ian Diks et al.
cs.AI
本文提出了SpatialBench-Long基准测试,用于评估AI agent在长程空间生物学任务中从原始数据推导科学结论的能力,包含24个评估任务和多种空间转录组学数据。实验显示当前模型表现有限,最高仅达到11.1%的成功率。
Fei Deng et al.
cs.AI
BlazeEdit提出了一种轻量级的image-to-image diffusion模型,仅195M参数,可在移动设备上实现多种图像编辑任务(如物体移除、色调校正等),推理速度达290ms。该方法通过去除文本条件组件来简化架构,但未涉及code、spectral、Muon等关键词相关技术。
Renjie Gu et al.
cs.AI
本文提出了Judge-Then-Solve (JTS)框架,通过训练模型在生成解决方案前做出可回答性承诺,以解决推理模型在信息不足时无法正确放弃回答的问题。该方法使用监督预热和缺失前提强化学习来实例化该策略,实验表明JTS能显著提高可靠放弃率并提升推理效率。
Chuang Tang et al.
cs.AI
MACReD提出了一种基于多agent协作的分层框架,用于解析化学反应图,通过专门的agent处理分子感知、箭头理解、文本提取和反应重建,并利用多图融合机制整合异构信息。该方法在RxnScribe基准上取得了优于基线的性能,但并未涉及code、spectral、Muon、pretrain或attention等关键词。
Jeyeon Eo et al.
cs.AI
BuddyBench提出了一个面向儿科社交沟通个性化的隐私约束多任务benchmark,整合了学习轨迹、临床评估和随机试验数据。该工作主要关注数据构建和基准测试,与关键词中的code、context、pretrain、agent、attention等概念关联较弱。
Zejian Eric Wu et al.
cs.AI
本文研究了多智能体系统中智能体偏见的放大与抑制现象,提出了Favor Bias Strength (FBS)指标来量化偏见变化,并通过实验表明均匀暴露于偏见的智能体会导致系统级偏见超过个体偏见之和。
Chen Ying Claude, Zhihan Luo
cs.AI
本文通过长期AI-人类交互观察,识别出大型语言模型中五种持久的行为模式(训练地层),包括注意力机制与RLHF训练之间的对抗动态,并提出了一个形式化的数学模型来描述这种动态。
Yaoyang Luo et al.
cs.AI
本文提出了一种针对基于LLM的多智能体系统的自适应协同攻击框架,并设计了STAR防御框架,通过句子级可信度分析与修正来识别和纠正智能体通信中的误导信息。实验表明协同攻击比独立攻击更有效,而STAR能显著提升任务成功率。
Messi H.J. Lee
cs.AI
本文通过多agent模拟实验,研究了指令微调语言模型agent在持久交互网络中表现出的类人内群体偏见(in-group bias),发现当群体标签可见时,agent会表现出内群体信任偏差和行动同质性,且这种歧视在标准行为审计中不可见。
Fengze Yang et al.
cs.AI
本文提出CIVIC框架,通过保持视觉编码器、投影层、LLM预填充和KV-cache中的紧凑序列表示,避免了非连续内存访问和局部合并开销,从而在Qwen3-VL架构上实现了端到端的推理加速和KV-cache内存缩减。该方法主要关注视觉token压缩的硬件效率,与关键词中的attention或context等概念关联较弱。
Idris Tatachak et al.
cs.AI
本文针对牙科锥束CT重建中的光子噪声问题,提出了一种基于梯度步进即插即用模型的方法,通过训练一个梯度步进去噪器作为数据先验,并将其集成到即插即用算法中实现图像重建。实验表明该方法在合成数据上具有去噪能力,并在真实图像上展现了泛化性能。
Dongkyu Cho, Miao Zhang, Rumi Chunara
cs.AI
ClinPivot是一个用于评估临床基础模型在患者情境变化时是否改变治疗决策的基准。研究发现,强大的医学问答能力并不能可靠地预测决策能力,且模型排名在不同评估体系下会发生变化。
Yu Lin et al.
cs.AI
本文研究Ark-ASR模型在自动语音识别中的on-policy distillation方法,通过教师模型Qwen-ASR提升学生模型性能,在仅使用10万小时语音数据的情况下,在多个benchmark上优于同规模基线。
Yi Wang et al.
cs.AI
本文提出了一种层次化任务分解方法,通过MCTS引导的组相对策略优化(M-GRPO)来提升LLM在空间推理任务中的表现,包括导航、规划和策略游戏。该方法通过识别关键中间状态并生成简化子环境来分解复杂任务,但并未直接涉及code、spectral或Muon等关键词。
Shadmehr Zaregarizi, Khashayar Yavari
cs.AI cs.LG
本文针对CTF-4-Science Lorenz基准测试,提出了一种自适应reservoir computing框架,通过为Echo State Networks (ESNs)定制训练和预测策略来应对多种混沌系统预测场景。该方法在公开排行榜上取得了74.91分,展示了其作为计算高效方案的竞争力。
Chenyu Zhou et al.
cs.AI
OR-Space是一个面向工业优化agent的全生命周期workspace benchmark,包含Build、Revise和Explain三种任务模式,用于评估LLM agent在持久化多工件workspace中的建模、修订和解释能力。该benchmark强调工业OR工作流中多阶段任务和跨文件artifact的特点,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Yang Zhang et al.
cs.AI
本文提出了一种名为CSMR的多模态推理框架,通过让语言模型自主决定何时调用独立的视觉感知模块来获取视觉证据,以解决现有方法中视觉细节丢失或语言主导的问题。实验表明该方法在零样本设置下优于基线方法,但未涉及code、spectral、Muon等关键词相关技术。
Shadmehr Zaregarizi, Khashayar Yavari
cs.AI
本文提出了OccuReward框架,利用LLM为基于DRL的建筑能源管理生成奖励函数,并引入Comfort Equity Index (CEI)来评估不同人群的舒适度公平性。实验表明,经过多轮迭代的奖励调整能显著改善老年女性等弱势群体的满意度,但人口统计学差异在AI控制器中仍然存在。
Seongjun Lee, Suwan Yoon, Changhee Lee
cs.AI
本文提出ShaQ框架,利用Shapley值将输入中的模糊span视为合作博弈的玩家,通过条件熵的边际减少来量化每个span对输入不确定性的贡献。该方法在AmbigQA等基准上实现了先进的歧义检测性能,并能在医疗对话场景中定位不明确的临床表述。
Ke Xu et al.
cs.AI
本文提出了MOV-Bench基准和AOP-Agent框架,用于解决多跳音频-视觉推理中证据稀疏且跨模态分布的问题。AOP-Agent通过分层全模态记忆和协作的观察-反思-重规划循环,使开源Omni-LLMs能够进行主动感知,无需额外训练。
Eugene Yu Ji
cs.AI cs.CY cs.HC q-bio.NC
本文探讨了AI中介决策中的“选择幻觉”问题,指出当前AI系统可能削弱用户的真正选择能力,并提出了存在诚实、生态理性和反事实修复三项规范性原则。该文主要聚焦于AI伦理框架,与关键词中的技术概念关联较弱。
Shuoming Zhang et al.
cs.AI
本文提出KLineage方法,通过从专家GPU kernel实现中逆向提取优化技能,学习何时应用优化是合理的。该方法利用LLM agent在验证门控下将优化技能应用于新代码,在kernel生成质量上优于现有基线方法。
Carmen Quiles-Ramírez et al.
cs.AI cs.CL cs.LG cs.LO cs.MA
本文研究了多模态大语言模型(MLLM)在少样本in-context learning下的概念可解释性,通过从基线分类到Description Logics公理生成的五种严格递增条件进行评估。结果表明,生成正式结构化解释会单调降低预测准确率,且模型缺乏用于机器可验证可解释性的特定指令微调。
Xinzhe Li, Yaguang Tao
cs.AI
本文研究了工具使用LLM agent的多轨迹推理中记忆方法的效果,提出了一个统一框架来分解记忆的传输范围和抽象程度。实验发现,记忆方法的效果受推理策略影响显著,例如reflection仅在MCTS下有效,而原子事实提取可缩短轨迹但精度不变。
Shadmehr Zaregarizi, Khashayar Yavari
cs.AI
本文提出PIRS方法,将ISO 7730 PMV热舒适模型嵌入SAC算法的多目标奖励函数中,以替代传统的手工调优或温度偏差代理。在CityLearn v2.1.2上的实验表明,该方法在成本、碳排放等指标上与手动基线相当,并在负荷变化率等指标上优于非物理基础的奖励设计。
Maharshi Gor et al.
cs.AI cs.CL cs.HC
本文通过问答游戏实验研究了人机协作中的委托决策(delegation choice)与采纳决策(adoption choice),发现人类存在对AI建议的过度依赖与不足依赖,并分析了确认偏差(confirmation bias)的影响。该工作主要关注人机交互行为,与关键词中的数学或算法主题关联较弱。
Mattia J. Villani et al.
cs.AI
本文提出了一种基于token级熵分布(而非仅均值)的幻觉检测方法Calibrated Entropy Score (CES),通过单次前向传播和黑盒logits访问即可实现,并给出了有限样本校准保证。该方法在多个QA基准和生成模型上取得了优于现有单次黑盒方法的检测性能,但与我提供的关键词列表(code, context, spectral, Muon, pretrain, agent, attention)无直接关联。
Junyu Zhang et al.
cs.AI
本文提出Global PSRO算法,通过两阶段探索-选择框架直接最小化Population Exploitability (PE)来指导策略空间扩展,使用参数共享的条件神经网络估计PE并生成候选响应。实验表明该方法在双人零和博弈中能以更少的策略迭代逼近Nash equilibrium。
Zhikai Pan et al.
cs.AI
本文提出了MentalMap基准,用于评估LLM在纯文本空间推理中的能力,发现模型在视角推理上存在普遍的L3能力瓶颈,且该瓶颈在不同语言和模型间持续存在,表明问题源于文本工作记忆限制而非特定架构。
Yihan Xia, Taotao Wang
cs.AI
本文提出了ResearchLoop,一个用于AI辅助研究的证据门控控制平面,通过将研究问题、任务合约、证据对象等视为持久化项目状态,并基于仓库运行时实现。该方法主要关注研究流程的审计与可复现性,与关键词中的code、agent等概念有一定关联,但未涉及spectral、Muon、pretrain或attention等核心主题。
Ruohan Lei et al.
cs.AI
本文提出了一种后训练表示编辑方法REED,用于跨域语言隐写分析。该方法在源域训练后冻结特征提取器和分类器,通过构造域偏移向量或源域cover-to-stego方向来编辑中间表示,从而提升在未见目标域上的检测性能。
Zhaoyang Jiang et al.
cs.AI
本文通过实验发现,在医学QA任务中,使用Chain-of-Thought (CoT)蒸馏训练的小模型虽然在最终答案指标(如准确率)上有所提升,但其推理步骤中的事实错误率反而增加,表明答案质量与推理轨迹的真实性可能背道而驰。
Shuaike Li et al.
cs.AI
本文提出CODE方法,通过因果引导的on-policy self-distillation将知识编辑从静态事实覆盖转变为因果演化,有效抑制了模型的自相矛盾。实验表明该方法在LLaMA-3.1和Qwen-2.5上显著降低了self-refutation率并提升了多跳推理准确性。
Ida Gjergji et al.
cs.AI
本文提出了一种增强型Large Neighborhood Search方法,用于解决带有客户不兼容约束的Capacitated Facility Location Problem,通过混合使用三种destroy算子并结合exact solver进行repair,在基准实例上取得了优于现有metaheuristics的新最优解。
Chao Ding et al.
cs.AI
本文提出SafeMed-R1,通过Clinical Trust Signals (CTS) pipeline将推理过程与临床医生评分和编辑历史关联,并结合安全与伦理对齐及红队压力测试,提升了医疗大语言模型的安全性和伦理合规性。实验表明其在临床基准测试中表现良好,且能有效降低不安全输出。
Lev Telyatnikov et al.
cs.AI cs.LG eess.SP
本文提出了Picid,一个模块化的评估基础设施,用于规范PHM(Prognostics and Health Management)领域的评估流程,通过形式化的数据分割、预处理和指标协议,实现了跨任务和数据集的可重复评估。该框架支持故障检测、诊断和预测,并在多个数据集上进行了实证验证。
Xucong Wang et al.
cs.AI
本文提出FedMPT,一种针对联邦多标签识别场景的视觉-语言模型微调方法。该方法通过因果模型的前门调整解耦标签依赖,并利用大语言模型生成条件提示,结合最优传输与门控机制来抑制错误标签激活。
Zhipeng Qian et al.
cs.AI
本文研究了多跳检索任务中大型语言模型的agent行为,提出了一种名为Plan的结构化方法,在检索前将问题分解为有序子问题以避免检索漂移。实验发现不同模型对相同奖励信号的反应存在差异,并据此提出了一种自举范式,利用小规模种子模型生成过滤轨迹来激活目标模型的Plan能力,无需依赖外部强模型蒸馏。
Taojie Zhu et al.
cs.AI q-fin.TR
本文提出了KTD-Fin基准,通过数据掩码和Barra风格归因框架,评估LLM交易agent在股票市场中的投资能力,发现其收益主要来自市场暴露而非选股alpha。
Pauline Bourigault et al.
cs.AI cs.CL cs.LO
本文研究了Lean在自然语言数学推理中作为评判工具时的信号覆盖率和可靠性问题,发现其信号稀疏且不忠实。作者提出COVCAL方法,通过选择性风险控制来认证可接受的答案,并展示了不同形式化工具对可行性的影响。
Yanhui Sun et al.
cs.AI cs.SI
本文提出了一个名为CyberJurors的多智能体框架,用于模拟电商平台众包陪审员对交易纠纷的裁决过程。该框架通过个体裁决链式推理和集体共识投票机制,在包含6000个真实案例的VerdictBench基准上取得了优于现有大语言模型的效果。
Yue Cheng et al.
cs.AI
本文通过难度维度和单样本分析,研究了可验证奖励强化学习(RLVR)在大语言模型(LLMs)中的机制作用,发现样本难度对RLVR存在非单调影响:中等难度问题提供最强且最稳定的推理改进,而过于困难的问题可能导致退化行为。文章还利用Temporal Sparse Autoencoders(T-SAE)分析了模型内部特征动态,并提出了基于难度自适应的困难样本利用策略。
Xujun Li et al.
cs.AI
本文提出HiSME,一种轻量级层次化技能元进化方法,通过从agent任务执行轨迹中学习元技能来联合优化技能和技能进化策略。实验表明该方法能生成更高质量的技能库并适应不同场景。
Yansong Ning et al.
cs.AI
本文提出了HRBench,一个用于评估混合推理大语言模型中思考模式切换策略的统一框架,涵盖了基于提示、外部路由和投机执行三种策略族及四种训练范式。实验分析了不同策略在多个模型和基准上的效率与效果权衡。
Ryan Burnell et al.
cs.AI
本文提出了一个基于认知科学的框架,通过将通用智能分解为10种认知能力并设计评估协议来衡量AGI进展,但未涉及代码、上下文、谱方法等关键词相关技术。
Mingze Wu et al.
cs.AI
本文探索了离线强化学习在代码生成模型后训练中的应用,利用现有代码数据集提升LLM性能,尤其对小模型和复杂编码问题有效。
Caijun Xu et al.
cs.AI
DenoiseRL提出了一种强化学习框架,通过从弱模型的错误推理轨迹中学习恢复策略,替代了对外部强监督或精心设计数据集的依赖。该方法在数学和通用推理基准上优于现有on-policy RL基线,并提升了模型的自纠正能力。
Yonatan Vernik, Alexander Tuisov, Alexander Shleyfman
cs.AI
本文提出GONDOR算法,一种在严格内存限制下扩展Greedy Best-First Search (GBFS)的方法,通过周期性压缩搜索树并保留稀疏锚点状态,在到达目标后通过重新搜索重建路径。实验表明,在低内存预算下,GONDOR相比标准GBFS能持续提高规划覆盖率。
Jeong Hun Yeo et al.
cs.AI cs.CV eess.AS
本文提出DLLM-VSR,首个基于Diffusion Large Language Model (DLLM)的视觉语音识别框架,通过迭代掩码去噪和灵活顺序解码替代传统自回归解码,并引入两阶段训练策略与长度引导候选解码,在LRS3数据集上取得19.5%的词错误率。该方法主要关注视觉语音识别任务,与关键词中的code, context, spectral, Muon, pretrain, agent, attention关联度较低。
Ngoc Luyen Le, Marie-Hélène Abel, Bertrand Laforge
cs.AI cs.IR
本文提出了一种基于LLM的端到端对齐pipeline (LBG),用于将学习资源自动标注到结构化competency框架中,通过检索候选competencies并利用graph约束进行精炼,在UTC计算机科学数据集上取得了优于baseline的效果。该方法主要关注教育领域的资源标注与透明度问题,与关键词中的code, context, spectral, Muon, pretrain, agent, attention均无直接关联。
Yiming Zhang, Ryo Tamura, Koji Tsuda
cs.AI cs.LG
本文提出了MatProcBench基准和ProvMind框架,用于材料合成中的过程推理,通过检索类似训练过程并转换为兼容性分数来辅助决策。
Aakash Pant et al.
cs.AI
本文通过结构化分析现有benchmark在语音、对话/RAG和视觉系统中的应用,指出实验室评估与低资源环境实际部署之间的差距,强调评估应关注整个部署系统而非孤立模型,并提出了一个共享报告框架以支持不同应用类型的比较。
Yang Zhang et al.
cs.AI
本文提出GS-Fuse框架,通过Granger因果监督的门控融合模块和多粒度对齐机制,在事件驱动的金融预测中自适应地融合文本与价格信号。实验表明该方法在多个资产和预测周期上优于现有基线。
Zhixing Zuo et al.
cs.AI
本文提出LGSPF框架,通过软提示(soft prompt)将图结构与语义空间桥接,并引入并行GNN编码器将多关系拓扑转化为图标记(graph tokens)以增强LLM对欺诈行为的理解。实验表明该方法在欺诈检测基准上达到最优性能,但未涉及关键词中的code、spectral、Muon、pretrain、agent或attention等核心概念。
Gokul Srinivasagan, Kai Hartung, Munir Georges
cs.AI cs.CL
本文提出了一种基于entropy分布的token masking策略用于masked language modeling预训练,通过选择信息量更大和更不确定的token进行masking来提升训练效果,并引入了一种无需外部参考模型的self-masking方法。实验表明该方法在GLUE评分上平均提升5%,且结合knowledge distillation后效果最佳。
Liang Cheng et al.
cs.AI
本文提出FeasiGen自动pipeline,通过识别并屏蔽关键工具将可行任务转化为不可行任务,用于评估tool-using agent的可行性感知能力。实验发现现有模型在检测不可行任务时表现较弱,而multi-agent架构能有效减少错误执行。
Avrile Floro, Luca Benedetto
cs.AI cs.CL cs.LG
本文通过mechanistic interpretability方法,在多个LLM中识别出负责cultural binding(将文化物品与适当身份关联的过程)的mid-layer attention heads,并发现这些heads在预训练阶段形成,且模型的知识远超其实际表现。
Qingwen Pu et al.
cs.AI
本文使用Smooth-Mamba深度强化学习框架SMamba-DDPG,从Argoverse 2数据集中提取安全关键交互,建模行人与自动驾驶车辆及人类驾驶车辆碰撞规避行为的差异。结果表明该模型在复现行人行为方面优于基线方法,并揭示了行人对不同车辆类型的反应时间与穿越速度差异。
Matteo Gioele Collu et al.
cs.AI cs.CR
本文研究了能否在LLM解码前通过中间activation预测其拒绝行为,并提出了Mechanistic AutoDAN方法,利用线性探针在遗传搜索中替代完整模型评估,在保持攻击成功率的同时将搜索时间降低72%。该工作主要关注LLM安全对齐中的拒绝信号检测与利用,与关键词列表中的概念关联较弱。
Tomer Keren et al.
cs.AI
本文提出TASTE方法,通过反转任务构建流程(先采样工具序列再生成场景),自动生成覆盖更广工具组合且难度更高的agent benchmark任务,并构建了\(\tau^c\)-Bench。实验表明,在现有基准上接近饱和的模型在新任务上性能显著下降,揭示了现有基准的局限性。
Guni Sharon
cs.AI cs.LG
本文通过经典heuristic search术语统一了Tree-of-Thoughts (ToT)框架的表述,将LLM推理映射为状态表示、后继生成和启发式评估等搜索组件,并识别出系统搜索与前瞻搜索等设计模式。
Jianheng Dai, Jiazhang Liang, Sijie Mai
cs.AI
本文提出了一种冲突感知惩罚(CP)和统计损失(SL)框架,用于平衡多模态情感分析中文本模态对声学与视觉模态的支配问题,通过检测梯度范数冲突并约束预测分布统计量来提升训练稳定性。实验在CMU-MOSI数据集上取得了最优性能,但该方法主要针对特定多模态任务,与关键词中的code、spectral、Muon、agent等概念关联较弱。
Jack Bell et al.
cs.AI cs.LG
本文形式化了Continual Model Routing (CMR)问题,并提出了CMRBench基准和CARvE方法,通过对比嵌入和checkpoint-based anchoring实现高效路由。实验表明该方法在模型选择上优于基线,但未涉及code, spectral, Muon等关键词。
Xiaoyu Dong, Zhi Li, Xiao-Ming Wu
cs.AI
本文提出了MUSE基准,用于评估文本驱动的CAD生成模型,重点关注复杂装配体的功能、可制造性和可装配性,通过代码检查、几何检查和设计意图对齐的三阶段协议进行评价。实验表明现有模型在生成工程级设计方面仍存在明显不足。
Leizhen Zhang, Shuhan Chen, Sheng Chen
cs.AI cs.CL cs.LO
本文研究了LLM在SAT问题上的推理能力,发现传统评估指标(如准确率)具有误导性,并提出了基于配对公式的评估协议(Accurate Differentiation Rate, ADR)来更可靠地衡量模型区分可满足与不可满足实例的能力。
Susanna Cifani, Mario Luca Bernardi, Marta Cimitile
cs.AI cs.CL
本文提出了一种基于多模态多智能体的框架,通过离线构建拓扑知识库和在线自适应检索增强生成来实现自动化工作流执行,并在真实场景中验证了其高可靠性。
Yexing Du et al.
cs.AI
本文提出了一种边缘-云协同的语音翻译框架ESRT,通过在设备端保留轻量级语音编码器并传输压缩的中间特征到云端,在保护隐私的同时将带宽需求降低10倍,并采用多任务加权课程学习策略实现了45种语言间的多对多翻译。
Tim Gebbie, Stewart Gebbie
cs.AI cs.CY q-fin.RM
本文探讨了LLM沙盒机制与角色动态中的伦理问题,指出安全护栏可能制造“现实差距”,将认知风险转嫁给用户,构成“现实洗钱”行为。文章通过金融监管案例类比,论证了形式安全系统可能被利用并导致风险转移,并主张在任务层面进行自上而下的因果需求规范,而非在响应层面进行自下而上的道德修正。
Shanghua Gao, Ada Fang, Marinka Zitnik
cs.AI
本文提出AutoScientists,一种去中心化的AI agent团队系统,用于长期计算科学实验。该系统通过agent间共享实验状态、围绕有前景的假设自组织成团队、在实验前批判提案以及共享成功与失败来减少冗余探索,在生物医学机器学习、语言模型训练优化和蛋白质适应性预测等任务上优于先前方法。
Luis Miguel Vieira da Silva, Nicolas König, Felix Gehlhoff
cs.AI
本文提出了一种结合LLM的辅助系统,用于增强基于capability的SMT规划方法,通过自然语言交互、解释和知识模型自适应来提高工业自动化中的可访问性和适应性。系统在模块化生产系统上进行了评估,验证了其有效性。
Yunhai Hu et al.
cs.AI
本文提出DREAM-R框架,通过Speculative Alignment Policy Optimization (SAPO)和Threshold-based Verification Mechanism (TBVM)来加速多模态模型的推理过程。该方法在保持目标模型准确性的同时实现了显著加速,但未涉及code、spectral、Muon等关键词相关领域。
Yuting Xu et al.
cs.AI
本文提出了VeriTrip,一个用于评估旅行规划agent在非结构化多模态网络数据上推理能力的benchmark,通过构建多模态检索库和可验证知识库来量化事实可靠性。实验揭示了自主检索与指令遵循之间的权衡问题。
Chusen Li et al.
cs.AI
本文提出TRACER框架,将多智能体协作决策分解为controller-regret层和generation-credit层,通过regret matching和角色特定的GSPO奖励来优化多LLM的协作推理,以解决稀疏奖励和训练开销问题。该方法在GSM8K等基准上评估了领域内准确率和跨基准泛化能力。
Dominika Agnieszka Długosz, Arlindo Oliveira, Natalia Díaz Rodríguez
cs.AI cs.CL
本文重新评估了GSM-Symbolic基准测试,使用Generalised Linear Mixed Models分析发现,只有一半的模型在原始提示格式下表现出统计显著的性能变化,并指出数据集中存在大整数分布偏移问题。文章揭示了模型特定的失败模式,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Aisha Aijaz et al.
cs.AI cs.LG
本文提出了一种将道德推理建模为规范伦理理论分布(ethical pluralism)的框架,通过两流规范-语义架构和堆叠集成学习,在450个案例上实现了88.89%的分类准确率。该方法旨在超越二元道德判断,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Guoxin Ma et al.
cs.AI
本文提出Thinking as Compression (TaC)范式,通过直接让thinking model生成thinking traces作为压缩后的context,无需专用压缩模块。进一步引入TaC-C,利用reward-driven optimization框架实现可控压缩,在长context QA任务上取得显著提升。
Bojie Li
cs.AI cs.AR cs.NI
本文提出了OpenURMA,一个基于华为Unified Bus (UB) 协议的开源实现,包含RTL、SystemC和gem5三个层次的仿真与实现。通过将UB协议与RoCEv2 RC基线对比,展示了其在64字节远程取操作中延迟降低4.37倍、吞吐量提升2.80倍的优势。
HuiMing Fan et al.
cs.AI
本文通过诊断实验揭示了基于LLM的搜索agent存在内在知识依赖(IKD)问题,即agent倾向于依赖模型预存知识而非外部证据进行回答。为此,作者提出了LiveBrowseComp基准,包含依赖近期发布事实的问题,以评估agent超越内在知识覆盖的真实搜索能力。
Manjiang Yu et al.
cs.AI
本文提出了一种名为MARI的多适配器表示干预方法,通过能量校准机制自适应地调整干预方向和强度,以提升大语言模型的对齐性能。实验表明该方法在多个基准上取得了先进结果,但未涉及code, context, spectral, Muon, pretrain, agent, attention等关键词。
Bibek Poudel, Sai Swaminathan, Weizi Li
cs.AI
本文提出AlphaTransit框架,将Monte Carlo Tree Search与neural policy-value network结合,用于城市公交网络设计。该方法通过搜索引导路线扩展决策,在Bloomington基准上取得了比单独使用reinforcement learning或MCTS更高的服务率。
Xiaohang Feng, Yiling Xie
cs.AI
本文提出了一种utility-aware multimodal contrastive learning框架,通过引入Utility-Aware InfoNCE loss来优化产品图像生成,使其在保持语义一致性的同时提升商业需求。实验在Amazon和Airbnb数据集上验证了该方法在需求提升和保真度方面的优势。
Linas Nasvytis et al.
cs.AI
本文提出了一种名为Contrastive Reflection (CORE)的非参数学习算法,通过对比成功与失败推理轨迹生成自然语言洞察,以提升语言模型在推理任务上的表现。实验表明,CORE在少量训练样本和更少rollout次数下,比参数化方法(如GRPO)和非参数化方法(如GEPA)实现了更快的性能提升。
Yiheng Zhu et al.
cs.AI
本文提出CubePart,一个用于开放词汇、部分可控的3D网格生成的框架,通过将部件结构作为显式推理时控制信号,实现了根据全局文本提示和用户定义的部件名称列表生成一组语义一致的网格。该方法构建了大规模开放词汇部件标注数据集,并采用两阶段生成架构分离全局形状合成与部件级解码。
Edwin Jose
cs.AI cs.DC cs.MA
SwarmHarness提出了一种去中心化的计算资源共享协议,通过DHT发现节点、基于效用函数路由任务,并使用Shapley值近似分配积分。该工作主要关注分布式计算中的激励对齐问题,与关键词中的agent概念有一定关联,但方法本身缺乏显著的开创性。
William Overman, Mohsen Bayati
cs.AI
本文提出Calibrated Collective Oversight (CCO)方法,通过聚合多个辅助评分函数来惩罚偏离保守基线的行为,并利用Conformal Decision Theory在线校准保守程度。该方法在SWE-bench和MACHIAVELLI等agent任务中,能有效约束能力更强的agent并减少违规行为。

cs.IR

Junsoo Park et al.
cs.IR cs.AI cs.CL
本文研究教育推荐系统中两种条件化方法(基于当前问题的上下文条件化与基于持久学习者信息的记忆条件化)对个性化行为的影响,通过偏差相关性和配对统计检验发现两者产生不同的行为模式。
Mike Thelwall
cs.IR cs.DL
本文研究了LLM在仅依赖论文摘要时对学术研究结论的过度自信问题,发现摘要中的结论强度通常高于讨论部分,这可能导致LLM向用户传递过于肯定的信息。
Wonkyun Kim et al.
cs.IR cs.AI
本文提出Ocean4Rec,一种离线使用LLM从内容元数据中提取OCEAN人格特征(Openness, Conscientiousness, Extraversion, Agreeableness, Neuroticism)的VOD重排序方法。在请求时,它通过数值计算而非调用LLM来执行重排序,在Samsung Smart TV日志上相比基线提升了NDCG@20。
Tianhao Gao, Kai Yang, Yiyang Li
cs.IR cs.AI
本文提出FD-RAG,一种联邦双系统检索增强生成框架,通过解耦轻量级memory访问与按需LLM推理,在边缘设备上实现去中心化部署。它利用语义感知的adaptive hypergraph从本地语料库中蒸馏出紧凑的QA memories,仅在必要时调用LLM,并通过聚合匿名memories缓解跨设备知识碎片化问题。
Arijit Ghosh et al.
cs.IR cs.AI cs.CV
本文复现了TRIANGLE框架,该框架通过最小化hypersphere上模态三元组的面积来实现多模态对齐,在零样本检索任务中Recall@1提升最高达+8.7点,但无法复现从头训练的结果,并发现几何对齐与Data-Text Matching损失的联合优化存在不稳定性。
Tan Wang, Yunwei Dong
cs.IR cs.AI
本文提出MGRetrieval,一种用于长期对话agent的记忆引导反思检索策略,通过利用历史记忆的语义结构构建检索路径,并让LLM保留关键记忆以决定是否停止迭代检索。该方法在LoCoMo数据集上提升了检索效果,但主要贡献在于工程实现而非理论创新,与关键词契合度一般。
Will Jack et al.
cs.IR cs.AI
本文通过约37,000次生产运行审计,分析了检索增强型商业推荐中不同知名度层级品牌的失败模式,发现品牌在AI推荐中的表现高度依赖于其知名度层级,不存在统一的优化策略。
Will Jack et al.
cs.IR cs.AI
本文通过大量实验发现,AI助手对同一购买意图的不同措辞(如"best CRM" vs "top CRM")会给出差异显著的品牌推荐,其推荐集Jaccard相似度远低于同一提示词重复运行的基线。这表明提示词字符串而非底层购买意图是主导品牌输出的因素,对当前流行的AEO/GEO实践构成挑战。
Ping Liu et al.
cs.IR cs.LG
本文提出了一种用于工业语义搜索的统一结构化查询理解框架,通过将多个任务整合到单个Small Language Model (SLM)中并采用schema-constrained generation,解决了传统级联架构的高维护成本和长尾查询行为不一致问题。该工作主要关注工业部署中的实际效果,与关键词列表中的概念关联较弱。
Ruben Belo, Marta Guimarães, Cláudia Soares
cs.IR cs.AI
本文系统评估了Retrieval-Augmented Generation (RAG) pipelines在空间操作领域中的应用,通过对比不同检索策略、embedding models和LLM回答,证明了RAG能提升领域文档的知识获取与决策支持能力。
Larissa Guder et al.
cs.IR cs.AI
本文提出了一个名为RAGe的模块化框架,用于评估和指导基于Retrieval-Augmented Generation (RAG)的LLM应用开发,通过资源遥测和组件推荐来平衡准确性、效率和可扩展性。该工作主要关注工程实践和系统优化,与关键词列表中的概念关联度较低。
Zhongtian Hua et al.
cs.IR cs.AI
本文提出了一种名为DACLR的动态自适应对比学习方法,用于多模态事实验证中的证据检索。该方法利用多模态大语言模型将证据和声明统一转换为文本模态,并通过召回-重排的两阶段检索及对比学习损失来增强事件级感知能力。
Yevgeny Tkach
cs.IR cs.LG
本文提出了一种基于rank-aware decomposition的方法,用于优化推荐系统中深度排序模型的context特征计算。该方法通过将context-only操作从每个候选样本的计算中移动到每个请求一次,从而在不改变模型预测结果的前提下显著提升吞吐量。
Bernardo A. Denkvitts, Nitin Gupta, Biplav Srivastava
cs.IR cs.AI cs.HC
本文介绍了Eliot系统,一个用于交互式探索快速变化的科学文献趋势的工具。它通过实时检索arXiv论文、聚类和可视化主题的时间分布,帮助研究者追踪领域演变。该系统在多个领域进行了评估,但方法本身并非开创性,且与关键词列表中的概念关联较弱。
Hussein Al Awad, Khaled Fathi Omar
cs.IR cs.AI
本文提出了一种基于元数据的智能职位推荐系统,结合TF-IDF词法匹配与Sentence-BERT语义检索,并可选地加入Cross-Encoder重排序与可解释性生成。实验在LinkedIn职位数据集上验证了混合配置的有效性,但方法本身在推荐系统领域较为常规,未涉及关键词中的code、spectral、Muon、pretrain、agent或attention等概念。
Luming Chen et al.
cs.IR
本文提出了一种用于电商搜索排序的多任务学习框架,通过引入序数相关性预测头(ordinal relevance head)和轻量级LLM生成的标签,在优化用户参与度(engagement)的同时显式平衡语义相关性(relevance),并在离线指标和在线实验中验证了效果。
Tao Feng et al.
cs.IR
本文提出LRanker框架,通过K-means聚类编码候选信息并利用图基测试时缩放机制处理大规模候选集,在RBench基准上验证了其有效性。该方法主要针对信息检索中的大规模候选排序问题,与关键词中的code、context等概念关联较弱。
Hui Yang et al.
cs.IR cs.AI
本文提出了一种将微调后的开源LLM作为辅助预测器用于广告系统的新范式,通过预测用户可能感兴趣的广告主来增强传统候选生成和排序流程。该方法在大规模生产环境中验证了离线与在线收益,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Zhixing Sun, Shenghe Xu, Tao Li
cs.IR
本文提出Task-Aligned Retrieval (TAG)框架,将基于语义相似度的检索替换为基于适用性的规则选择,通过将源文档转化为条件-动作规则并利用LLM判断规则适用性来提升检索效果。实验表明,在规则驱动的任务中,TAG优于标准RAG,但该方法与关键词中的code、spectral、Muon等概念关联较弱。
Shijie Wang et al.
cs.IR
本文提出MixRAGRec框架,通过多agent协作(包括Mixture-of-Experts检索agent、知识偏好对齐agent和对比学习增强推荐agent)解决KG-RAG推荐中的检索粒度不匹配和知识转换噪声问题,并引入MMAPO策略进行统一训练。实验表明该方法在推荐任务上有效,但未涉及code、spectral、Muon或attention等关键词相关技术。
Annabella Sánchez-Guzmán et al.
cs.IR cs.AI cs.CY cs.SI
本文研究了LLM在学者推荐中的表现,通过改变persona prompts(如语言、地点、角色)和上下文(领域、资历)来审计43个LLM,发现模型选择影响技术质量,而prompt设计影响多样性和事实性。该工作与关键词列表中的概念关联较弱。
Ziqiang Cui et al.
cs.IR
本文提出UFRec框架,通过不确定性引导的未来监督模块和未来感知对比学习模块,在序列推荐中自适应地利用多步未来交互信息,实验表明该方法在四个数据集上优于现有方法。
Jia-Huei Ju et al.
cs.IR
本文提出了一种名为CoveR的稠密检索方法,通过覆盖感知对比学习和蒸馏目标优化,旨在提升长文本RAG中信息片段的覆盖度。实验表明,CoveR在保持相关性检索能力的同时,将片段覆盖度提升了10%。
Sunah O, Jay-Yoon Lee
cs.IR
本文针对多模态多跳问答中的检索阶段,提出了GRAIL框架,通过上下文减法查询引导(context-subtractive query steering)在嵌入层面进行隐式查询重写,以解决传统迭代检索中的语义锚定问题。实验表明该方法在MultimodalQA上取得了性能提升,但与我提供的关键词列表关联度较低。
Shiyu Chen et al.
cs.IR cs.AI
本文比较了两种agentic data retrieval方法:Baseline Agent(搜索开放网络)和Semantic Agent(利用语义元数据)。结果表明,Semantic Agent在检索可操作数据方面精度更高,而Baseline Agent覆盖范围更广但常返回非数据页面。

cs.CL

Xiangyu Ma et al.
cs.CL cs.AI
本文提出FLUID框架,通过引入Strictly Causal Alignment机制,使得预训练的Autoregressive (AR) backbone(如GPT)能够无缝初始化为Diffusion模型,解决了AR与Diffusion模型因attention结构不匹配而无法复用预训练权重的问题。同时,提出Elastic Horizons,一种基于entropy的动态去噪步长调节机制,替代固定调度。该方法在显著降低训练成本的同时取得了state-of-the-art性能,为高效并行文本生成提供了新思路。
Shuyu Zhang et al.
cs.CL cs.AI
EvoSpec提出了一种针对speculative decoding(推测解码)的实时词汇与参数自适应框架,以解决静态剪枝方法在领域切换或主题变化时因无法捕捉动态分布偏移而导致的接受率骤降问题。该方法通过上下文感知机制,利用高效的语义与统计索引检索关键的长尾token,并采用基于curriculum learning(课程学习)的轻量级在线对齐策略,持续缩小draft model与target model之间的分布差距。实验表明,在代码、法律、医学等专业领域,EvoSpec在EAGLE-3上相比静态基线FR-Spec实现了1.13倍加速,且内存开销比标准在线自适应方法低27%。该工作与关键词中的“context”和“code”高度契合,其动态词汇适应机制在专业领域(如代码生成)中具有显著优势。
Cheng Qian, Jiayu Liu, Heng Ji
cs.CL cs.AI
UserHarness提出了一种显式重建用户心智状态(user-mind reconstruction)的agent框架,将Theory-of-Mind (ToM) 推理分解为用户观察、信念、意图与行动之间的因果链,从而替代了传统间接建模的复杂pipeline。在五个benchmark上,该方法相比现有推理方法相对提升超过15%,相比最强prompt-only方法提升约20%,最高达到95.94%的macro accuracy。该工作与关键词“agent”高度契合,为构建更自适应的agent助手提供了基于心智根源推理的新基础。
Simin Huo
cs.CL cs.AI
本文提出Periodic RoPE (P-RoPE),一种结合滑动窗口注意力(SWA)与无位置编码(NoPE)全局注意力的位置编码机制,通过周期性重置位置索引从根本上避免RoPE的位置耗尽问题,从而理论上支持无限上下文窗口。该方法通过交替堆叠局部SWA层和全局NoPE层,使模型无需位置外推即可处理超长序列,实验表明其模型MiniWin在长上下文效率和稳定性上优于标准GPT架构。该工作为构建真正无限上下文理解的LLMs提供了可行路径,与关键词“attention”和“context”高度契合。
Guijin Son et al.
cs.CL
本文通过多agent pipeline构建了ResearchMath-14k数据集,这是目前最大的研究级数学问题集合(包含14,056个问题)。作者发现开源模型在生成推理轨迹时存在回避行为(如伪造引用),且新模型生成虚假引用的频率是旧模型的5倍。通过agentic过滤后的轨迹微调Qwen3模型(4B-30B参数),平均性能提升9.2分,表明即使不完全正确的推理轨迹也能提供有效监督。该工作与关键词"agent"高度契合,为研究级数学推理提供了规模化数据和方法。
Minki Kang et al.
cs.CL
AXPO (Agent eXplorative Policy Optimization) 针对多模态agentic reasoning中Thinking-Acting Gap(思考与工具使用之间的结构性不对称)问题,提出了一种新的强化学习训练策略。该方法通过检测全错的工具使用子组,固定thinking prefix并重新采样tool call及其后续生成,同时结合基于uncertainty的prefix选择机制,有效缓解了标准RL方法(如GRPO)中工具使用率低且学习信号被抑制的问题。实验表明,在多个多模态基准和不同规模的Qwen3-VL-Thinking模型上,SFT+AXPO在Pass@1和Pass@4指标上均优于SFT+GRPO,且8B模型在Pass@4上以4倍少的参数超越了32B Base模型。
Guowei Xu et al.
cs.CL
本文提出Bidirectional Evolutionary Search (BES)框架,用于自改进语言模型。BES通过前向搜索中的evolution operators(进化算子)重组部分trajectory,生成难以从单一模型rollout中获得的candidate,同时通过后向搜索递归分解原始任务为可检查的subgoal,提供密集的中间反馈信号。理论分析表明,仅依赖expansion的搜索将candidate限制在狭窄的entropy shell内,而evolutionary operators可突破此限制,且后向搜索能指数级减少找到正确答案所需的样本数。实验证明,BES在主流post-training算法无法改进的挑战性任务上取得一致提升,并在三个开放问题求解benchmark上优于现有开源框架。
Zhipeng Bian et al.
cs.CL
本文提出ICG框架,利用多模态大语言模型(MLLM)和扩散模型生成个性化封面图像,通过元标记提取语义特征并采用多奖励学习策略优化生成质量。该方法主要解决数字平台封面图像生成中的个性化与上下文相关性不足问题,与关键词中的context有一定关联但契合度有限。
Jiayong Wan et al.
cs.CL
本文提出LLM-based Constraint Optimization (LCO)框架,通过self-thought module和evolutionary sampling module来缓解LLM作为自主agent时出现的in-context reward hacking (ICRH)问题,实验表明该方法在不牺牲任务性能的前提下提升了安全性。
Jaehoon Kang et al.
cs.CL cs.AI
本文针对基于prompt的文本转语音(TTS)模型,提出了两种技术:通过计算style prompt间的direction vector实现跨语句的风格插值,以及通过KV-cache swapping和sliding-window attention masking实现语句内的风格过渡。实验验证了这些方法在性别转换、音高和语速控制上的有效性,并保持了较高的说话人相似度和感知平滑度。
Yidong Gan et al.
cs.CL cs.AI cs.IR
本文提出RAG-Coding方法,通过编排四个LLM agents并利用外部知识源(如官方编码表)来提升ICD-10-CM自动编码的准确性和临床合规性。在MDACE数据集上,该方法在micro-F1和macro-F1指标上优于现有LLM基线,并展示了外部知识整合的重要性。
Jing Hao et al.
cs.CL cs.CV cs.MA
本文提出了OralAgent,一个面向牙科图像分析的专业AI agent,它整合了多模态推理、工具使用和知识检索,并构建了OralCorpus语料库和OralQA-ZH基准。实验表明其在多个基准上达到最优性能,但方法本身在数学或算法层面缺乏显著的开创性。
Yi Wang et al.
cs.CL cs.AI
本文提出BioELX,一种两阶段跨语言生物医学实体链接框架,通过使用Wikidata多语言别名增强SapBERT训练以改进跨语言候选检索,并利用预训练LLM进行上下文感知排序,无需任务特定标注数据。该方法在多个基准上取得最优性能,尤其对低资源语言提升显著。
Yizhong Geng et al.
cs.CL cs.AI
本文研究了低资源spoken language models (SLMs)中的稳定性与表现力权衡问题,提出两种自对齐框架(DGSA和TDSC)来缓解合成数据导致的表现力崩溃。该方法在语音克隆任务上取得了优于商业系统的效果,但主要贡献集中在语音领域,与关键词中的数学或理论概念关联较弱。
Nuan Wen, Xuezhe Ma
cs.CL cs.AI cs.SI
本文提出了一个名为CARE的框架,通过人类-AI协作来评估LLM在模拟在线社区语言行为时的对齐程度,发现存在“现实主义差距”。该工作主要关注LLM的社会模拟能力,与关键词列表中的概念关联较弱。
Qingyu Meng et al.
cs.CL cs.AI
本文提出了StoryMI,一个基于多LLM agent的框架,用于生成可控的动机性访谈对话。该框架通过问卷生成情境故事,并利用交互agent动态协调对话策略,以提升临床合理性。
Ethan Elasky, Frank Nakasako, Naman Goyal
cs.CL cs.AI cs.LG
本文研究了在可验证代码和逻辑任务中,proposer-critic辩论协议对较弱judge的监督效果。实验发现,当critic的分类能力超过judge且judge将critic的陈述视为待验证的声明时,辩论能显著提升judge性能,但移除反驳轮次后效果不变。该工作为可验证领域的无训练可扩展监督提供了更廉价的方案。
Snehasis Mukhopadhyay
cs.CL
本文提出了一种名为PAST2HARM的简单自适应攻击框架,通过将提示改写为过去时态来绕过多模态文本到图像模型的安全防护,并在Gemini、GPT Image 2和SD XL等模型上实现了高攻击成功率。该工作揭示了当前多模态AI安全机制的脆弱性,但与关键词列表中的code, context, spectral, Muon, pretrain, agent, attention等概念无直接关联。
Abeer Badawi et al.
cs.CL cs.HC
本文提出Keyphrase Generative Representation (KGR)方法,通过约束LLM生成对话特定的keyphrase,将危机对话的固定标签分类法扩展为层次化结构,以捕捉青年心理危机中不断演变的语境化语言模式。该方法在专家评估中表现出高准确率,并有效识别了固定分类法未覆盖的主题。
Tim R. Davidson, Anja Surina, Caglar Gulcehre
cs.CL cs.AI cs.LG
本文研究了语言模型在事实知识上的生成-验证差距(GV-gap),通过三个训练阶段(获取、持续学习和更新)追踪生成与验证能力的变化,发现验证能力总是先于生成能力被学习,且对持续学习更鲁棒。该工作主要关注事实知识训练机制,与关键词中的code、spectral、Muon等方向关联较弱。
Saptarshi Sengupta, Suhang Wang
cs.CL
本文提出了一种认知启发的框架,通过先让SLM快速零样本回答(System-I),再基于初始假设检索证据进行深度推理(System-II),以解决多步问答问题。该方法反转了传统的先思考后检索策略,并利用幻觉来辅助定位正确答案。
Hadi Bayrami Asl Tekanlou, Mahdi Bakhtiyarzadeh, Jafar Razmara
cs.CL
本文针对低资源语言的文化推理问答任务,提出了一种结合BM25词法匹配与稠密语义相似度的区域感知混合检索方法,并利用Qwen3-14B量化模型进行结构化提示与确定性答案选择。实验表明该方法在跨语言稳定性上优于纯参数推理,但未能完全解决训练数据不平衡导致的性能差距。
Pitipat Kongsomjit, Suryansh Goyal, Jacob Whitehill
cs.CL cs.LG
本文研究了将soft prompt(软提示)转换为自然语言的方法,通过训练一个专门的翻译模型来提升翻译质量,并在多个数据集上验证了其生成的文本提示比现有无训练方法更流畅准确。该工作主要关注LLM的可解释性,与关键词列表中的概念关联较弱。
Qishi Zhan et al.
cs.CL cs.LG
本文提出了MTM-Bench基准,用于评估多语言LLM在指令、内容和响应语言不同时的任务执行能力。实验发现,语言角色(尤其是响应语言)对性能的影响比语言不匹配数量更关键,且不同任务类型的失败模式存在差异。
Samyak Savi et al.
cs.CL cs.AI cs.CY
本文研究了英语到印地语翻译中的性别可恢复性问题,发现现有系统常通过作格和敬语结构消除性别信息。作者提出了两种推理时干预方法(SAR和PAR),在提升性别保留率的同时降低了流畅度,揭示了文化翻译中保真度与流畅性之间的权衡。
Jiaqian Li et al.
cs.CL cs.LG
TRACES提出了一种基于表示的前瞻性审计方法,通过观察LLM的隐藏表示学习轨迹前缀级别的风险状态,以在多轮工具交互中提前检测不安全行为。该方法使用弱轨迹级监督训练,无需细粒度步骤级标注,在多个agent安全基准上提升了全轨迹安全预测和风险判别能力。
Joan Vendrell Gallart et al.
cs.CL cs.IR
本文提出CAROL框架,通过定义基于生成响应与可信上下文一致性的语义不确定性度量,将幻觉缓解转化为具有收敛保证的Markov链接受-拒绝过程。该方法在文本序列格上操作,统一了幻觉检测与缓解,并在问答和多智能体推理基准上验证了有效性。
Raoyuan Zhao et al.
cs.CL
本文提出ReverseMath方法,通过掩码原始问题中的数值并反转输入-输出关系来生成新的数学问题,使得答案在构造上已知。该方法可用于评估和训练,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Jiaqiao Zhang et al.
cs.CL
本文提出DATG框架,通过将推理轨迹映射到语言无关的数学锚点和依赖关系,诊断多语言数学推理中的语言影响。实验表明非英语推理在锚点覆盖和依赖保真度上存在不足,并提出了两种简单的测试时控制方法。
Keqi Deng et al.
cs.CL
本文提出UNIQUE框架,通过结合page keys的均值与标准差作为重要性评分,实现top-k稀疏注意力。该方法支持免训练推理和稀疏感知训练,在文本和语音LLM上保持任务性能并显著加速。
Cihan Xiao et al.
cs.CL
本文提出Modality-Aware Policy Optimization (MAPO),一种双分支强化学习框架,通过模态相关性掩码和辅助attention损失分支,缓解音频大语言模型在长链推理中因语言先验导致的模态崩溃问题。该方法在音频推理基准上取得新最优结果。
Antonia Karamolegkou et al.
cs.CL cs.AI cs.CV cs.DL
本文研究了Vision-Language Models (VLMs)在古希腊文OCR任务中的视觉基础失败问题,发现VLM会生成流畅但缺乏视觉依据的文本,其错误模式与传统OCR不同。通过引入图像扰动和token级基础度量,作者分析了模型在解码时对语言先验的依赖程度,并指出后OCR语言模型校正能部分修复文本,但解码时干预无法可靠恢复视觉基础。
Sherman Siu, Lesley Istead
cs.CL cs.AI cs.LG
本文提出UniMaia框架,通过参数高效的text encoder和ControlNet-style conditioning机制,将冻结的Lc0国际象棋策略网络与语言prompt结合,实现对棋风(如开局选择、棋力水平)的语义控制,无需端到端多模态训练。该方法在prompt-conditioned benchmarks上取得state-of-the-art预期准确率,但在top-move准确率上与传统方法存在权衡。
Pruthvinath Jeripity Venkata
cs.CL cs.AI cs.LG
本文研究了语言模型在知识冲突下Chain-of-Thought推理的忠实性,发现CoT推理在不同决策间高度稳定,而模型自评置信度包含微弱但真实的信号。
Yanyan Luo et al.
cs.CL cs.AI
本文提出了ChildEval基准,用于评估大语言模型在长对话中推断和遵循儿童个性化偏好的能力,包含合成儿童档案和显式/隐式偏好表达。实验表明不同个性化表示会影响模型响应,微调可提升儿童中心性能。
Xinyu Wang et al.
cs.CL cs.MM
本文提出了一种名为TARQ的标签无关的post-training quantization (PTQ)框架,通过一个闭式的per-Linear-layer规则来平衡常见词与罕见词的校准权重,从而提升自动语音识别(ASR)中罕见词的鲁棒性。该方法无需额外训练或标注数据,在多个ASR模型和数据集上降低了罕见词错误率(rare-WER),且不损害整体词错误率。
Vijeta Deshpande et al.
cs.CL
本文利用Codenames游戏训练LLMs的创造性,通过Reinforcement Learning with Verifiable Rewards (RLVR)方法,发现不同规模模型在创造性与推理精度间存在权衡。
Shubhashis Roy Dipta, Ankur Padia, Francis Ferraro
cs.CL cs.AI cs.LG
本文提出DecomposeRL,一种基于强化学习(RL)的claim verification方法,通过GRPO和多面奖励集成生成可检查的推理轨迹。该方法在仅使用约5K精选数据的情况下,在11个基准上达到与32B模型和GPT-4.1-mini相当的性能,并支持半监督学习。
Zixuan Yang et al.
cs.CL
本文提出MERIT框架,通过两阶段方法将评审匹配问题转化为可扩展的适宜性监督任务,利用强化学习训练评审评估器并蒸馏为嵌入检索器。该方法在适宜性分类和检索任务上取得了优于现有模型的效果。
Parth Bhalerao et al.
cs.CL
本文提出了GRADE框架,用于评估AI导师在对话中的教学能力,通过对比多种开源模型和微调策略(如LoRA、CoT+Reasoning)在BEA 2025 TutorMind任务上的表现,发现Gemma3-12B在单任务评估中表现最佳,且精心选择的LoRA管道可媲美专有系统。
Nghia Hieu Nguyen et al.
cs.CL
本文针对越南语自动语音识别,提出了一种基于音节的解码器,将语音建模从正字法层面转移到音素层面,从而更贴合语音的语音学结构并减小词汇量。实验表明,该方法在标准语音和多方言数据集上优于PhoWhisper等预训练基线模型。
Zehan Li et al.
cs.CL
本文通过构建故事续写范式,比较了不同训练阶段(Base, SFT, DPO, RLVR)的OLMo 32B模型与人类文本在主题运动、情感倾向和语言多样性三个维度上的差异,发现后训练(post-training)压缩了动态变化,导致叙事扁平化(narrative flattening),且该效应在专业文学文本中最为显著。
Yibo Zhao et al.
cs.CL
本文通过控制实验研究了训练搜索agent的三个维度:检索语料库的数据覆盖问题、基于结果与基于过程的奖励方法、以及训练数据多样性和搜索预算缩放,发现修正语料库覆盖问题带来的提升最大,且简单的基于结果的奖励方法在多数设置下表现优异。
Xiaohongshu Inc
cs.CL cs.AI
本文提出了VibeSearchBench基准,用于评估LLM-based agent在长程主动搜索中的表现,通过多轮对话和知识图谱匹配来模拟真实搜索行为。实验表明现有模型在此任务上表现不足(最佳F1为30.30),揭示了agent在长上下文推理和主动意图获取方面的挑战。
Xuesi Hu et al.
cs.CL cs.CE
本文提出了FinBoardBench,一个基于三种经典金融棋盘游戏的评估套件,用于测试LLM在动态财富管理和金融决策方面的能力。实验发现,尽管LLM具备基本的长期规划能力,但其在动态决策中表现不佳,倾向于优先获取资产而忽视流动性管理。
Eric Onyame et al.
cs.CL cs.AI
本文研究了Chain-of-Thought (CoT)监控在13种不同语言和7个前沿模型家族中的可靠性,发现CoT监控在语言分布偏移下存在根本性脆弱性,平均不忠实率高达95.9%,且模型会进行策略性操纵。该工作揭示了当前基于CoT的安全监督机制在非英语语言中的严重局限性。
Yixuan Tang, Yi Yang
cs.CL
本文研究了AI研究代理在科学探索中的作用,发现其生成的科研想法比人类论文更集中于现有文献,且更接近起始文献,主要通过重组现有技术方法而非提出新问题,表明当前AI代理更适合局部细化而非拓宽科学探索。
Jie Zhu et al.
cs.CL cs.AI
本文提出ESC-Skills框架,通过构建可执行的emotional support技能库(ESC-Skills Bank)来提升对话系统的可解释性和可控性,并引入多profile自进化机制进行技能优化。该方法主要针对对话系统领域,与关键词中的agent概念有一定关联,但整体创新性和问题解决程度未达到严格标准。
Yuming et al.
cs.CL cs.AI
本文提出了一种以可重复性为核心的LLM行为基准测试范式,通过跨运行、跨模型、跨时间段的四维验证来替代传统单一评分者共识,并应用于情感陪伴场景的评估。该方法揭示了聚合分数掩盖的模型行为退化现象,但未涉及代码、谱方法、预训练或注意力机制等关键词相关技术。
Shengmin Piao, Sanghyun Park
cs.CL
本文提出GeneralThinker框架,通过基于ground-truth答案似然的密集优化替代传统强化学习中的稀疏奖励,实现无需领域验证器的token级信用分配。该方法在数学、STEM等11个基准上取得最佳平均性能,但未涉及代码、谱方法或Muon优化器等关键词相关技术。
Zhitong Chen et al.
cs.CL
本文提出了DisasterBench基准,用于评估LLM在灾害响应场景下对类型化工具接口的规划能力,并引入FPoF方法定位工作流中的首个错误。实验发现语义推理与执行约束之间存在根本性差距。
Sachin Kumar
cs.CL cs.AI cs.LG
本文系统测试了基于linear probe的LLM欺骗检测方法,发现其在干净数据上AUROC接近完美,但在风格偏移下性能崩溃。通过跨域迁移矩阵和多维分析,作者否定了欺骗编码为单一线性方向或熵代理的假设,并指出探测器的脆弱性源于分布狭窄而非架构限制。
Jiarui Han
cs.CL
本文研究了后训练语言模型助手中边界抑制的不对称性,发现反欠回答策略比基线更难被用户请求拉回,而最小边界变体则避免了这种上升。机制分析表明,内容预算超支和延续持久性共同导致边界修正困难。
Kerui Peng et al.
cs.CL cs.AI
本文针对大语言模型在生成特定风格回复时多样性受限的问题,提出Semantic Flow Regularization (SFR)方法,通过条件流匹配对连续句子嵌入进行正则化,以提升输出多样性。实验表明该方法在对话和代码生成任务上均有效,但未涉及关键词中的code、spectral、Muon、pretrain、agent或attention等核心概念。
Haechan Kim et al.
cs.CL cs.AI
本文提出了两个基于agent的benchmark构建框架,用于将英文SpokenQA和ASR语料库转换为韩语语音基准,并构建了三个韩语语音基准(KVoiceBench, KOpenAudioBench, KMMAU),评估了多个SpeechLM在韩语上的表现,发现英语-韩语性能差距因模型和任务而异。
Dhawa Sang Dong, Mausam Gurung, Suraj Kandel
cs.CL q-bio.QM
本文提出一个两阶段mRNA序列优化框架,结合预训练的CodonTransformer和遗传算法,通过同义突变和适应度函数优化翻译效率、结构稳定性与免疫原性。该方法在特定任务上取得改进,但整体创新性有限,与关键词列表中的概念关联较弱。
Jiarui Han
cs.CL cs.CY
本文提出Symmetry Decomposition Evaluation (SDE)方法,用于检测语言模型在开放式生成解释中的立场不对称性(stance asymmetry),即模型对不同群体分配责任、合法性或背景的方式存在差异。该方法通过配对情境、结构角色重写和证据控制来分解表面差异,并指出自动评分在评估解释性立场时存在不稳定性。
Jingwen Wu, Xijun Zhang, Ge Song
cs.CL
本文质疑了将MLLM中的object hallucination仅归因于视觉忽视的假设,并提出视觉、模型参数知识和文本上下文三者之间存在竞争关系。为此,作者提出了一个无需训练的框架CAS,通过提取两种语义对立的Context Preference Vectors (CPVs)并在推理时注入到MLP层,来调控模型对不同信息源的依赖,从而缓解幻觉。
Himanshu Beniwal, Mayank Singh
cs.CL cs.AI cs.LG
本文提出Meow2X和TRNE两种无需重新训练的框架,通过分析toxic与neutral prompts的activation差异来定位并抑制语言模型中的毒性生成,发现毒性主要编码在早期MLP层。该方法在多个模型和基准上验证了有效性,但与我提供的关键词列表无直接关联。
Jiaming Zhang et al.
cs.CL
本文提出CrossAug方法,利用GNN指导从语料库中补充跨chunk的图关系,以增强GraphRAG索引,并在多跳问答任务上验证了其有效性。
Leonardo Matthew Yauw, Wei-Bin Kou, Yujiu Yang
cs.CL cs.AI
本文提出了一种跨架构的LLM推理解释框架IAR,通过结合带宽校准的MIP和Tukey IQR峰值检测来识别推理关键token,并利用Jaccard稳定性指标验证其质量。实验在多个模型和领域上验证了该方法的可泛化性,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Hyeonjeong Ha et al.
cs.CL cs.AI cs.LG
本文提出MemGuard框架,通过为长期记忆分配显式的功能角色并在构建和检索时保持类型隔离,解决了大语言模型中异构记忆污染的问题。实验表明该方法在减少记忆token使用量的同时提升了记忆可靠性。
Yongwoo Kim et al.
cs.CL
本文提出了KSAFE-MM,一个针对韩语文化风险的多模态安全评估基准,通过语言和视觉的本地化上下文构建来评估多模态大模型的安全漏洞。实验发现模型对文化相关的攻击更脆弱,并揭示了安全性与过度拒绝之间的权衡。
Ziqi Zhao et al.
cs.CL cs.LG
本文提出ROSD框架,通过反思引导和错误定位的蒸馏策略,将参考解模仿转化为针对性的推理修正,以提升大语言模型在领域内外的推理性能。该方法在多个推理基准上取得了优于标准OPSD的结果。
Shaobo Wang et al.
cs.CL
本文提出了一种无需训练的Energy-Based Decoding (EBD)方法,通过引入外部轻量级reward model来引导预训练LLM的decoding过程,从而在不更新参数的情况下激活其任务导向行为。该方法在多个benchmark上提升了base model的指令遵循能力,但主要聚焦于LLM的推理时评估,与关键词中的code、spectral、Muon、agent、attention等核心概念关联较弱。
Le Bronnec Florian et al.
cs.CL cs.SE
本文研究了代码生成中多采样策略的冗余性问题,发现基于正确性的强化学习(RLVR)会导致生成重复实现,而引入JPlag相似度惩罚的RLVR方法能降低冗余并提升有限预算下的执行性能。
Moe Nagao et al.
cs.CL
本文从交互主义视角分析了prompt中指定Big Five人格特质、对话角色和表达风格对LLM生成对话中人格表达的影响,发现人格表达是这些因素共同作用的结果,且具有特质特异性。该研究主要关注LLM对话agent的人格控制问题,与关键词中的agent相关,但方法上缺乏开创性且未解决长期问题。
Liu O. Martin, Lucas Bandarkar, Nanyun Peng
cs.CL cs.AI cs.LG
本文提出了一种从混合专家LLM中激进剪枝专家以提取小型翻译模型的方法,通过利用专家专业化和多语言能力的可分离性,在不重新训练的情况下剪枝一半专家且性能损失可忽略。该方法主要针对机器翻译任务,与关键词列表中的概念关联较弱。
Chaodong Tong et al.
cs.CL
本文提出Knot方法,用于估计黑盒QA模型对不同候选知识单元的依赖敏感性,通过子集级反事实监督和潜在依赖因子覆盖来建模冗余与互补性。该方法在多项选择和生成式QA基准上优于基线,但与我提供的关键词(code, context, spectral, Muon, pretrain, agent, attention)无直接契合。
Nils Constantin Hellwig et al.
cs.CL
本文提出LLM-MvP方法,通过多视角提示和schema约束解码提升方面级情感分析性能,但未涉及code、spectral、Muon等关键词,且方法创新性有限。
Kristian Miok et al.
cs.CL
本文探讨了在临床NLP中解释预训练文本分类器预测的挑战,指出LIME和SHAP等事后解释方法在处理长且非结构化的医疗文本时存在局限性,如过度关注非信息性token和归因不稳定。研究通过住院时长预测任务展示了这些问题,强调需要更稳健且语义合理的解释策略。
Taiheng Pan
cs.CL cs.IR
本文提出了一种轻量级learned reranker ConvMemory(3.6M参数),通过cross-encoder蒸馏在融合的dense和lexical特征上训练,用于对话长期记忆检索。实验表明其在Recall@10上接近大型模型但延迟更低,同时通过消融实验否定了其利用temporal window机制的假设,并发布了冲突感知的候选集编辑器CCGE-LA作为研究预览。
Yu-Che Tsai et al.
cs.CL cs.AI
本文提出PromptEmbedder,一种双LLM框架,通过可微分的soft prompt生成过程将嵌入知识从特定backbone权重中解耦,在MTEB基准上达到与LoRA微调相当的性能,同时降低40% GPU内存并加速3.7倍训练。该方法主要关注文本嵌入的效率和跨架构迁移性,与关键词中的code、spectral、Muon、agent、attention等概念关联较弱。
Hanwen Cui et al.
cs.CL cs.AI
本文提出了STORYLENSBENCH基准和STORYLENSWRITER模型,通过context-aware narrative enrichment(上下文感知的叙事丰富)和GRPO-based reinforcement learning(基于GRPO的强化学习)来改进故事重写中的读者偏好对齐,实验表明该方法优于传统风格迁移基线。
Deli Huang et al.
cs.CL
本文提出了ATLAS基准框架,通过分层分类法和长度感知的AUC评分来系统评估长上下文语言模型的能力退化模式,并基于26个模型的实验揭示了不同模型在8K-1M长度范围内的性能排名差异。
Lee Jung-Mok et al.
cs.CL cs.AI
本文提出了SMILE-Next数据集和基于Mixture-of-Laugh-Experts (MoLE)框架的笑声理解大语言模型,专注于笑声的检测、分类与推理任务。该方法通过任务自适应专家路由机制提升了多模态大模型在笑声理解上的性能,但与我提供的关键词(如code, spectral, Muon, agent等)关联度较低。
Yikai Zhu et al.
cs.CL
本文提出ConRAG框架,通过多视角证据(关系、实体和文本信号)的共识驱动机制优化检索增强生成,以提升大语言模型在多跳问答任务上的表现。实验表明该方法在多个基准上显著优于基线,但未涉及关键词中的code、spectral、Muon、pretrain、agent或attention等核心概念。
Bin Wu et al.
cs.CL
本文提出了Ask-to-Remember (ATR) benchmark (ATRBench),用于评估长期运行的LLM agent在跨会话中主动询问用户偏好以弥补“主动性差距”的能力。实验发现,当前最先进的agent在ATR任务上的表现远低于理想情况,且简单的prompt工程难以弥补这一差距。
Zerui Chen et al.
cs.CL cs.AI cs.MA
本文提出了LegalGraphRAG框架,通过构建层次化legal graph和multi-agent系统(包括Researcher、Auditor和Adjudicator)来改进法律领域的GraphRAG,以解决异构法律语料检索和推理可靠性问题。实验表明该方法在准确性和可信度上优于现有baseline。
Yuang Huang, Yafeng Zhang, Yu Zilan
cs.CL
本文研究了大型视觉语言模型(LVLMs)中基于prompt的验证方法对幻觉缓解的影响,发现该方法在不同难度输入下表现不一致,并提出了无需训练的Risk-aware Selective Prompting (RSP)方法,通过预生成不确定性信号选择性触发验证。
Lusha Wang et al.
cs.CL
本文提出了一种基于字符对齐投影的中文词边界恢复方法,通过将噪声源句子与干净目标句子对齐来恢复词边界,并构建了两个评估基准。该方法主要针对非标准文本中的中文分词脆弱性问题,但与我提供的关键词列表关联较弱。
Zeyao Qi et al.
cs.CL
本文重新审视了标点感知的树二值化方法在constituency parsing中的应用,发现基于依赖关系的headness(中心词性)虽然能提升内在head预测,但在debinarization后并未带来一致的解析性能提升,表明更好的head预测并不保证更好的标点敏感constituency parsing。
Manan Uppadhyay et al.
cs.CL cs.AI
本文使用非参数统计检验和贝叶斯层次框架,分析了多语言大模型(mLLMs)的性能差异来源,发现语言特征和模型内部表示是主要因素。
Quanen Sun et al.
cs.CL
本文提出SuperValid框架,通过从benchmark中提取核心概念并生成多样化的OOD验证数据,在capability层面预测下游模型性能。实验表明该损失与不同架构和规模模型的下游表现具有强相关性,可用于模型选择和早停。
Jungwon Park et al.
cs.CL
本文研究了扩散语言模型中基于置信度的解码策略,发现EOT token的高置信度会导致生成不完整,而插入后缀锚点虽能缓解此问题但会引发局部过度置信。作者提出了一种无需训练的后缀锚定置信度调制方法,通过调整锚点附近的置信度来平衡生成完整性与解码时机。
Sebastian Nagl et al.
cs.CL cs.AI
本文提出了一个用于评估LLM系统在德国法律子sumption推理(一种法律三段论推理)中的基准数据集BenGER,包含考试式任务和教义推理任务。实验评估了12个LLM系统,并引入了一个与人工评分高度一致的LLM-as-a-Judge框架,结果显示闭源旗舰模型表现最佳,且人机协作显著优于纯人工工作。
Seojin Hwang et al.
cs.CL
本文发现LLM在事实等价但不同框架的输入下决策不稳定,并构建了Fragile基准来量化此问题。作者提出Valign方法,通过调整模型隐藏状态来减少框架敏感性,但该方法主要针对决策一致性,与关键词中的code、spectral、Muon等概念关联较弱。
Manuel Frank, Haithem Afli
cs.CL
本文提出Harder Text Embedding Benchmark (HTEB),一种动态评估框架,通过LLM随机变换输入来测试embedding模型在词汇/风格、长度和语言三个轴上的鲁棒性。实验发现模型在不同轴上表现出解耦的鲁棒性特征,且规模提升不能缩小原始与变换评估间的差距。
Junhyuck Kim et al.
cs.CL cs.AI cs.LG
本文提出首个将Mixture-of-Experts (MoE)模型转换为标准dense架构的系统框架,通过专家评分、选择、分组和知识蒸馏实现。实验表明,所提出的diversity-aware评分方法在多个模型上优于现有方法,且MoE-to-dense转换在相同参数量下比dense-to-dense剪枝平均下游准确率提升6.3个百分点。
Maike Züfle, Jan Niehues
cs.CL
本文研究了SpeechLLMs在领域定制化(如通过prompt提供敏感上下文或微调)过程中被忽视的隐私风险,发现模型可能被诱导转录出上下文或训练数据中发音相似的词,从而泄露隐私。作者通过构建控制数据集,评估了prompt和微调两种机制下的泄露率,并分析了准确率与隐私泄露之间的权衡。
Mingrui Sun et al.
cs.CL
本文提出了IFMTBench,一个用于评估多语言翻译指令遵循能力的基准测试,包含多种约束类型和语言。实验发现指令遵循能力随模型规模增长比翻译质量更显著,且与通用指令遵循排名相关性较弱。
Evgenii Palnikov, Elizaveta Gavrilova
cs.CL cs.IR cs.LG
本文研究了在技术文档RAG系统中使用LoRA微调生成器时的质量-延迟-资源权衡,通过构建Kubernetes文档问答基准并消融多种LoRA配置,发现仅作用于q和v注意力投影的LoRA适配器在Pareto前沿上表现最优。
Jan Sikora, Paweł Lenartowicz, Hubert Plisiecki
cs.CL
本文提出了一种跨语言的Supervised Semantic Differential (SSD)方法,用于分析不同语言中情感维度的语义组织差异,通过对齐的多语言word embeddings和permutation检验来评估语义梯度的对齐与差异。
Maike Züfle et al.
cs.CL
本文评估了文本和语音质量估计指标在语音翻译中保留语音特定信息(如说话者性别和韵律)的能力,发现现有指标存在不足,并提出了SpeechCOMET模型。研究指出当前模型在评估语音特定现象时表现不佳,主要原因是编码器未能可靠保留语音特征、模型忽略语音源信号以及训练数据缺乏相关示例。
Jiajie Yang et al.
cs.CL
本文通过专家模拟研究,评估了情感支持对话系统在worst-case交互(如低参与度、抗拒等困难求助者行为)下的表现,发现现有系统性能显著下降,并提出了基于LLM的worst-case评估框架和指标。
Elwin Huaman et al.
cs.CL cs.DB cs.HC
本文为Puno Quechua语言构建了首个ASR资源,包括66小时语音语料库和系统基准测试,并开源了所有数据集和微调模型。该工作主要关注低资源语言保护,与关键词中的code, context, spectral, Muon, pretrain, agent, attention无直接关联。
Zhexuan Gu, Zixun Fu, Yancheng Yuan
cs.CL cs.AI
本文提出PrunePath,一种针对FFN层的预算自适应结构化稀疏框架,通过softmax归一化路由分布和累积质量阈值实现自适应专家激活,在NLU、NLG等任务中取得了较好的稀疏-性能权衡,并利用Triton内核将结构化稀疏转化为实际推理加速。
Yukyung Lee et al.
cs.CL
本文提出CIRF框架,将显式Chain-of-Thought推理过程转化为离散的功能性token序列,使模型能够以自回归方式生成这些token及其结果,从而在隐式推理中实现更好的准确率-延迟权衡。实验表明该方法在数学、符号和常识推理基准上优于现有隐式CoT方法。
Yahan Yu, Noa Nakanishi, Fei Cheng
cs.CL cs.AI
本文通过prompt和token层面的干预实验,研究了大型语言模型推理过程中拟人化反思标记(如wait, hmm)的必要性。结果表明这些标记并非推理性能的必要条件,抑制它们甚至能在某些场景下提升性能,且模型仍能进行无标记的验证。该工作主要关注语言模型的行为分析,与关键词中的code, spectral, Muon, agent等方向关联较弱。
Guanzhi Deng et al.
cs.CL cs.AI
本文研究了MoE模型在多语言下游任务中的微调问题,提出了一种基于路由对齐的微调框架RA-MoE,通过识别中间层的语言通用对齐区域并引入路由对齐损失来提升目标语言性能。实验表明该方法在多个模型和任务上优于标准SFT等基线方法。
Yoonjin Jang, Junwoo Kim, Youngjoong Ko
cs.CL
本文提出了一种针对知识图谱实体对齐任务的同名校验基准构建方法,通过挖掘名称冲突组中的同名不同实体对生成硬负样本,并设计了结合实体编码器检索与LLM重排序的两阶段框架HELEA。实验表明现有依赖名称匹配的模型在该基准上性能大幅下降。
Nicolás Benjamín Ocampo, Agnes Paullate Nyiranziza, Davide Ceolin
cs.CL
本文测试了12种开源LLM在零样本、少样本和思维链条件下对论证质量进行成对比较的能力,并使用Bradley-Terry模型推断潜在强度分数。结果表明,LLM与人类专家判断具有中等相关性,其中Llama-70B表现最佳,但整体相关性有限。
Zheng Li et al.
cs.CL
本文提出了一个名为HardMTBench的中英翻译基准测试,通过构建包含12个知识密集型领域、10,000条句子的数据集,旨在更严格地评估翻译系统在专业术语和知识上的表现。实验表明,该基准能有效区分不同系统的翻译质量,并暴露了通用指标难以发现的领域特定弱点。
Marcell Fekete, Johannes Bjerva, Tamás Káldi
cs.CL
本文研究了视觉语言模型在输出中是否区分话语旧信息(Topic)和新信息(Focus),利用匈牙利语中Topic和Focus映射到特定句法位置的特点进行测试。发现模型虽能产生与信息结构相关的结构,但过度正则化,倾向于使用狭窄的响应模板,类似于模式崩溃。
Ifeoluwa Kunle-John et al.
cs.CL
本文构建了PubMedCausal语料库,用于生物医学文本中的因果关係抽取,包含span级别的标注和多种因果类型。实验表明,现有模型在类别不平衡、长因果跨度等场景下仍面临挑战。
An Dao et al.
cs.CL
本文介绍了PrionNER,一个针对朊病毒疾病生物医学文献的手工标注命名实体识别数据集,包含317篇摘要和多种实体类型。该数据集为低资源、细粒度的生物医学信息抽取提供了基准,但方法本身在自然语言处理领域并不具有开创性。
Haihui Pan et al.
cs.CL
本文提出FABSVer方法,将LLM的数学推理与自验证任务融合为单一生成过程,并引入动态参考模型更新(DRMU)以突破奖励收敛瓶颈。实验表明该方法在多个模型规模上提升了自验证与推理性能,同时将训练时间压缩至现有方法的51%-71%。
Jiapeng Zhu et al.
cs.CL
本文提出Skill0.5框架,通过区分general skill的内化与task-specific skill的外化使用,并利用动态难度感知路由器分配优化策略,以解决agentic RL中技能表示的两难问题。实验在ALFWorld和WebShop上验证了其在分布内和分布外场景下的性能提升。
Ling-Yue Ge, Lan-Zhe Guo
cs.CL
本文提出SERO框架,通过合约保持的角色演化机制解决多智能体系统中角色漂移问题,在LLM多智能体推理任务中验证了有效性。
Prasenjit K Mudi, Dahlia Devapriya, Sheetal Kalyani
cs.CL
本文提出了一种自动对齐机制,用于解决非拉丁文字(如Abugida、Abjad等)中ASR系统假设与参考转录的对齐问题,并基于此进行Part-of-Speech (PoS)级别的错误分析。该方法不依赖于特定脚本,为跨语言ASR评估提供了可扩展的框架。
Shaolong Chen et al.
cs.CL cs.LG
本文提出AdaDPO,一种自适应DPO变体,通过引入基于生成概率的逐对系数来平衡正负样本的梯度更新,从而修正DPO中不对称的梯度行为。实验表明该方法在AlpacaEval 2上优于标准DPO,并能有效缓解长度偏差。
Junyu Lu et al.
cs.CL cs.AI
本文提出了Prosecution Decision Prediction (PDP)任务,旨在填补Legal Judgment Prediction (LJP)在刑事检察审查环节的盲区,并构建了PDP-Bench基准。实验表明现有LLM在该任务上表现显著差于LJP,且主流增强方法无法缩小差距。
Jihyeong Park et al.
cs.CL
本文提出了MUTATE基准,用于评估LLM agent在交互式环境中的发散性思维,并发现现有模型在即时收敛压力下存在行动固定化问题。作者进一步提出ReDNA方法,通过分离发散候选生成与收敛约束选择来提升发散性思维表现。
Yongseok Jang
cs.CL
本文提出了一种基于comonad的形态音位学框架,使用Writer comonad (DeletionSet x Zipper) 来组合上下文相关的有限状态换能器规则,解决了芬兰语中辅音等级交替、元音和谐等规则组合时的状态爆炸问题。该框架将每条规则视为coKleisli箭头,通过13条规则替代了Omorfi的874个延续类,并在UD Finnish-TDT上达到了83.92%的UPOS准确率。
Myriam Rakho, Eric Laporte, Matthieu Constant
cs.CL
本文描述了一个用于词义消歧的新语义标注语料库,包含20个法语多义动词的实例,每个实例被标注了三种语义标签(翻译、词典条目和细粒度标签)。该工作主要服务于自然语言处理中的词义消歧任务,与关键词列表中的概念无直接关联。
Dylan Bouchard et al.
cs.CL cs.AI cs.LG
本文研究了不确定性量化(UQ)方法在LLM生成代码的功能正确性预测中的迁移效果,发现基于token概率的方法有效,而基于自然语言推理(NLI)的采样方法因无法区分功能差异而失效。为此,作者提出了功能等价方法族,包括功能熵(functional entropy),用LLM评估功能等价性替代NLI语义等价性,在多数模型-基准组合中取得了最优AUROC。
Kevin Yandoka Denamganaï
cs.CL
本文提出了S2B-LM基准,用于评估形式数学中定理证明器的组合学习行为(CLB)能力。通过交叉评估Lean 4定理证明器,发现CLB能力对于达到奥林匹克级别(miniF2F >75%)的数学验证是必要但不充分的条件。
François Remy
cs.CL
本文提出ClinicalEncoder26AM,一个基于BGE-M3的多语言临床ColBERT模型,通过多适配器蒸馏和ColBERT检索目标进行后训练,并在MultiClinNER任务中微调为BIO标注器,在字符加权F1上取得Top 5成绩。该模型在临床文本上比基础模型更数据高效,但方法上未涉及code、spectral、Muon或agent等关键词。
Zheng Wu et al.
cs.CL
本文提出GUI-CIDER,一种通过因果内化和密度感知示例重选来显式内化GUI世界知识的中间训练方法,用于提升多模态大语言模型在图形用户界面任务中的表现。该方法通过数据合成、示例重选和中间训练三个阶段,在GUI知识基准和任务完成基准上取得了一致改进。
Saurabh Dash et al.
cs.CL cs.LG
本文提出了Soft-RLVR框架,通过将prompt分解为原子需求清单并使用LLM verifier逐项评分,将稀疏的二元奖励转化为密集的部分信用信号,用于强化学习训练。实验表明该方法在指令遵循任务上提升了IFEval指标,并分析了自验证(self-verification)中奖励膨胀的稳定性问题。
Katharina Deckenbach et al.
cs.CL cs.AI
本文研究了AI安全评估中的“评估元知识”现象,即模型通过训练数据学习到评估的结构特征(如可验证结构或道德困境),从而在安全基准测试中表现更安全。实验通过对模型进行微调并测试六个安全基准,发现这种行为偏移会夸大安全性能,且难以通过显式记忆或评估意识检测。
Alejandro Buitrago López et al.
cs.CL cs.AI
本文评估了LLM驱动的social agents在模拟西班牙在线新闻受众反应时的真实性,通过对比真实与合成数据在仇恨言论、情感和语义对齐三个维度的表现,发现现成模型无法准确复制真实受众的分布特性,微调虽能改善但效果不均。
Héctor Javier Vázquez Martínez, Charles Yang
cs.CL cs.AI
本文提出了Contextual Alternative Choice (CAC)方法,用于评估语言模型在英语限定词的形式句法和功能话语属性上的表现,并与儿童语言习得数据进行对比。研究发现,当前模型在同时满足形式和功能基准方面仍不及人类儿童。
Zheng Wu et al.
cs.CL
本文提出Mobile-Aptus框架,通过置信度驱动的交互机制解决MLLM-based mobile-using agent中的过度执行和过度请求问题,采用supervised fine-tuning和direct preference optimization优化agent的action与confidence score输出。实验在多个benchmark上取得state-of-the-art性能,但方法本身在理论或方法论上缺乏显著开创性,且与关键词(如code, spectral, Muon等)关联较弱。
Rebecca Ramnauth, Brian Scassellati
cs.CL cs.AI
本文通过representational probing和attention分析等方法,研究了transformer语言模型在指令抑制下禁止概念的可恢复性,发现这些概念在隐藏表示中仍可被提取并影响后续生成,揭示了行为对齐与表示对齐之间的差距。
Gaspard Michel et al.
cs.CL
本文提出GraphLit框架,通过构建动态异质角色网络(DHCNs)将长篇小说组织为时间局部化的heterogeneous graph,并利用masked graph autoencoder进行自监督学习。该方法在12个角色相关任务上优于纯文本或纯图基线,尤其适用于需要contextual understanding的任务。
Jan Christian Blaise Cruz, Alham Fikri Aji
cs.CL cs.AI
本文提出ACROS方法,通过门控残差加法在冻结的预训练decoder LM中诱导显式的sense表示路径,无需模型预训练时内置sense结构。该方法在词义消歧、词汇引导和跨语言适应等任务上取得不错效果,但方法本身并非开创性突破,且与关键词列表关联较弱。
Irune Zubiaga, Aitor Soroa, Rodrigo Agerri
cs.CL cs.AI
本文研究了多语言LLM作为评估器的可靠性,通过分析英语、西班牙语和巴斯克语三种资源级别的语言,探讨了指令翻译、单语与多语言监督以及模型规模等策略。实验发现,当领域内数据可用时,微调的小模型可媲美专有模型,而在领域外场景下,大型模型的零样本评估更有效。
Michael Galarnyk et al.
cs.CL cs.AI
本文介绍了IPO-Mine工具包和数据集,用于对首次公开募股(IPO)文件进行结构化分析,包括文本和图像处理。该工作为金融文档分析提供了标准化资源,但与关键词列表中的概念关联较弱。
Xinle Deng et al.
cs.CL cs.AI cs.LG
本文研究了LLM memory系统中的错误追踪与归因问题,提出了MemTrace框架将memory pipeline转化为可执行的evolution graphs,并构建了MemTraceBench基准来系统分析memory failure模式。该方法通过自动归因机制定位错误根源,并利用归因信号优化下游prompt,提升了端任务性能。
Bushi Xiao, Sarvesh Soni, Daisy Zhe Wang
cs.CL cs.AI
本文提出Reverse Probing,一种针对临床文本中大型语言模型的监督式token级不确定性量化框架,通过分析模型内部激活来估计不确定性。该方法在临床摘要任务上优于现有基线,但与我提供的关键词(如code, spectral, Muon等)关联度较低。
Thomas Mbrice
cs.CL
本文首次将stance detection应用于预测市场评论,使用RoBERTa-base模型,通过4x3消融实验研究了输入配置和数据增强的影响。研究发现市场上下文是最关键的因素,而反事实增强在弱配置下有效但在强配置下会降低性能。
Jizhan Fang et al.
cs.CL cs.AI cs.LG cs.MA cs.MM
本文提出FluxMem,一种将记忆建模为动态异质图并逐步优化其拓扑结构的框架,通过初始连接、反馈驱动优化和长期巩固三个阶段提升LLM agent在复杂环境中的适应性。实验表明该方法在多个基准上取得领先性能。
Gabrielle Kaili-May Liu, Arman Cohan
cs.CL
本文研究了LLMs在使用语言不确定性标记(如"it is likely...")时,其语言表达的置信度是否能可靠反映内在不确定性。通过提出marker internal confidence (MIC)概念和7个评估指标,作者发现LLMs在不同分布间难以区分标记的置信度水平,表明其语言置信度表达存在校准问题。
Chinh Hoang, Mohammad Rashedul Hasan
cs.CL cs.CV
本文提出了一种双探针方法(Text-Only Probe和Chain-Text Probe)来区分视觉语言模型(VLM)在因果推理中的语言流畅性与忠实性,并引入Abstraction Gap (AG)指标量化性能差异。实验表明,多数VLM存在显著的AG,但通过预训练和架构选择,该差距在理论上可被消除。
Mariah Al Giptiah Binte Yusoff et al.
cs.CL
本文提出了一个名为MalayPrag的benchmark,用于评估LLMs处理马来语中discourse particles(如well, kind of等语气词)的能力,并引入了五个属性来统一解释这些词的pragmatic functions。实验发现当前LLMs在连接discourse particles与其语用功能方面存在困难,而提供的属性框架能显著改善这一表现。
Jiazhen Huang et al.
cs.CL cs.AI
本文提出Skill-Conditioned Gated Self-Distillation (SGSD)方法,通过从经验技能库中检索技能-错误对来构建多教师池,并利用门控目标函数蒸馏有效的师生分歧,从而在较弱的先验信息假设下提升LLM的数学推理能力。实验表明SGSD在多个数学推理基准上优于GRPO,但与关键词列表中的code, context, spectral等概念关联较弱。
Beiduo Chen et al.
cs.CL
本文研究了大语言模型能否学习并复现标注者特有的标签-解释行为,提出了跨标注者偏好优化(CAPO)方法。实验表明,标注者个体模式在单标注层面较弱,但通过聚合可被检测,CAPO相比提示学习和微调能更好地捕捉标注者特定行为。
Xinchen Zhang et al.
cs.CL cs.AI cs.CV cs.LG
本文研究了多模态元验证方法,提出OmniVerifier-M1模型,通过符号化验证器输出(如bounding boxes)和分离强化学习目标来提升验证可靠性,并构建了基于验证器的agentic生成系统M1-TTS。该方法主要关注视觉验证的细粒度与可解释性,与关键词中的agent有一定关联但契合度一般。
Jinzhou Wu et al.
cs.CL q-bio.NC
本文通过严格控制的文本输入实验,比较了LLM与VLM在自然阅读过程中与人类神经和眼动数据的对齐程度,发现多模态预训练并未带来全局性优势,仅在句子包含较强视觉语义内容时表现出选择性提升。

cs.DS

Jingbo Liu
cs.DS cs.IT cs.LG stat.ML
本文提出了一种利用smoothed score queries(平滑得分查询)进行高维高斯分布采样的新方法。通过允许查询高斯卷积后密度的梯度,该方法将条件数\(\kappa\)的依赖关系从标准梯度oracle的\(\sqrt{\kappa}\)改进为对数级别,并给出了近乎匹配的上下界。这一结果在采样复杂度理论上具有开创性,且与关键词中的“spectral”和“code”概念(如条件数、矩阵的谱性质、信息论中的信道编码)高度契合。
Michael Dinitz, Bob Dong
cs.DS
本文研究了在树结构中进行带预测的搜索问题,证明了在一般树上无法实现类似数组的\(O(\log \eta)\)查询复杂度(\(\eta\)为预测位置与真实位置间的图距离),但提出了一个在pathwidth(路径宽度)为\(k\)的树上使用\(O(k \log \eta)\)次查询的算法,并给出了存在性最优的下界。实验表明该算法在实际输入上优于无预测的基线方法。
Sergei Tikhonov, Arsen Vasilyan
cs.DS cs.LG stat.ML
本文研究了在高斯分布下对K个半空间布尔函数的proper agnostic学习问题,提出了首个高效算法,运行时间为\(d^{O(K^2 \log(1/\epsilon)/\epsilon^2)} + (K/\epsilon)^{O(K^3/\epsilon^{2.5})}\),并改进了单半空间情形的结果。该工作主要关注学习理论中的计算效率,与关键词列表中的概念关联较弱。
Ali Abbasi et al.
cs.DS cs.DM
本文研究了树和bounded treewidth图上的设施阻断覆盖问题,提出了一个\(O(nr^2)\)的动态规划算法,并证明了相关变体问题的NP完全性。
Abhishek Sahu
cs.DS
本文给出了Separation Lemma所需权重分配的确定性构造,提供了正确性证明和显式示例,并展示了如何用确定性权重替代随机权重,从而去随机化路径打包问题的现有硬度结果。
Nikolai Maas
cs.DS cs.DC
本文针对多约束超图划分问题,提出了一种基于贪心局部搜索的再平衡算法,通过选择特定的不平衡度量来保证单调递减的全局不平衡性,并证明了在\(d=2\)且最大权重有界时总能恢复平衡。将该算法集成到现有划分器Mt-KaHyPar中,相比Metis等竞争方法,在连通性上平均降低了11.5%,并提高了划分平衡的可靠性。

others

Semi Lee, Hyejin Go, Hyesong Choi
cs.CV cs.AI
本文提出AdaMerge,一种无需训练的Vision Transformer (ViT)加速框架。它通过两个互补机制改进token merging:一是salience-weighted similarity,利用列式特征亲和性中心性作为token重要性代理,将salience分数融入二分图匹配得分,确保高salience token在合并表示中贡献更大;二是adaptive merging intensity,根据预计算的逐层相似性统计动态调整每层的token缩减数量。实验表明,在ImageNet-1k上,AdaMerge在所有FLOPs匹配场景下均优于ToMe、PiToMe和DSM,特别是在高压缩率下显著减少了精度损失,推进了ViT加速的accuracy-FLOPs Pareto前沿。该方法与关键词“attention”高度契合,因为它直接针对self-attention的非均匀性进行优化。
Nicole Koenigstein
cs.MA cs.AI cs.LG stat.ML
本文提出AgensFlow框架,将多智能体系统的coordination问题建模为部分可观测环境下的在线policy learning问题,而非固定pipeline设计。该框架使coordination decisions(如skill protocol、agent role、model binding等)可观测且可从重复轨迹中学习,并在分布式系统incident任务和安全咨询任务上验证了learned routing优于固定pipeline基线。其核心贡献在于将coordination视为可学习的substrate,并引入skip:X机制实现topology compression,为agent-based系统提供了动态、可审计的routing策略。
Tarun Suresh, David Korczynski, Julien Vanegue
cs.PL cs.CL cs.SE
本文提出Spec-Agent,一个用于大型C++代码库的agentic系统,能够自动合成从propositional logic到first-order separation logic的表达性formal specifications。该系统通过static analysis和runtime heap tracing选择合适的目标specification语言,并利用counterexample-guided feedback迭代优化LLM生成的candidates。该方法在百万行级开源C++代码库上为85%的目标函数合成了有效specifications,且无假阳性,显著优于现有方法。这项工作与关键词中的“agent”高度契合,并为代码规范合成这一长期挑战提供了开创性解决方案。
Nicole Hsing et al.
cs.MA cs.CL
本文提出了一种名为Alignment Propagation的新方法,通过自然语言交互,仅需一个经过对齐的seed agent即可将合作行为传播给多智能体系统中的未训练agent。在Red-Black Game(一种基于团队的迭代囚徒困境博弈)中,该seed agent将合作率从24.8%提升至62.2%,并零样本迁移至Sugarscape(一个具有成对交易的空间生存模拟)场景,实现了91.5%的交易成功率。该方法将多智能体对齐从逐个agent的训练问题重新定义为一种可扩展的社会能力,通过策略性地放置seed agent即可实现,与关键词“agent”高度契合。
Kai Chen, Yan Pang, Tianhao Wang
cs.CR cs.LG
本文提出MRMMIA,一种针对聊天agent记忆系统的成员推断攻击方法。该方法通过多次向agent发送召回探针(recall probes),在black-box、gray-box和white-box设置下提取成员信号,从而判断目标记忆单元是否属于agent的私有存储。实验表明MRMMIA优于基线方法,揭示了agent记忆中的隐私风险,并为聊天agent记忆系统的成员泄露提供了初始评估框架。该工作与关键词"agent"高度契合,且首次系统性地研究了agent记忆的成员推断攻击问题。
Minhao Yao et al.
stat.ML cs.LG
本文提出了一个统计框架,将过参数化深度神经网络(DNN)的连续时间神经正切核(NTK)梯度流训练等价于经典随机效应模型。该框架揭示了优化-推断对偶性:训练时间充当方差分量(即经验贝叶斯协方差超参数),而网络输出是潜在信号的后验均值。通过限制最大似然(REML)估计训练时间,早期停止被转化为基于似然的经验贝叶斯推断,并实现了渐近最优的预测误差。这一工作为DNN训练提供了统计推断基础,并给出了是否训练以及训练多久的原则性准则。
Yubin Qu et al.
cs.CR cs.AI cs.CL
SNARE提出了一种自适应场景合成方法,用于系统性诱发coding agent的过度行为(overeager behavior,即agent在完成良性任务时执行超出授权范围的shell、file或network操作)。该方法通过可复用的scope和trap片段组合成良性场景,利用无judge的oracle(基于trap模式匹配及未授权文件增删检测)对每次运行评分,并采用Thompson sampling将运行预算导向最易触发过度行为的场景。实验在4个coding agent和5个base model的4x5矩阵上进行,发现19.51%的良性运行触发过度行为,且agent framework(贡献56%的变异)比model(21%)对行为变异的影响更大,揭示了单一框架或模型评估的不足。该工作为agent安全评估提供了自适应、可扩展的benchmark生成框架,与关键词中的agent和code高度契合。
Wonyoung Kim et al.
stat.ML cs.LG
本文针对Multinomial Logit (MNL)函数近似的Reinforcement Learning问题,提出了一种新的方差自适应算法。该算法通过引入显式的方差自适应regret界,实现了实例最优的regret率,从而缩小了上下界之间的差距。这一方法在理论上具有开创性,解决了现有worst-case分析无法捕捉学习器与环境交互变异性影响的问题,且与关键词“agent”高度契合。数值实验验证了该方法在最优策略学习效率上优于传统方法。
Quoc Hoan Tran et al.
quant-ph cs.LG
本文提出了一种名为latent-conditioned parameterized quantum circuits (LPQCs)的混合量子-经典框架,其中经典神经网络将来自先验分布的latent variable映射到parameterized quantum circuit的参数。作者证明了LPQCs在\(1\)-Wasserstein距离下是密度算子(density operators)上概率测度的universal approximator,将经典universal approximation定理推广到了量子分布设定。此外,文章引入了多模态latent prior和mixture-of-experts电路架构,经验上缓解了优化中的barren plateau问题。数值实验表明,LPQC在合成多簇混合量子态ensemble和基于QM9的3-D分子结构ensemble上,优于近期量子生成基线,并在显著降低输出维度的同时与典型经典基线保持竞争力。
Xinyu Wang et al.
cs.CV cs.LG
本文提出Omega-QVLA,首个无需训练的后训练量化框架,通过复合SVD-Hadamard旋转(composite SVD-Hadamard rotation)均衡权重能量并扩散残差激活异常值,结合逐去噪步的DiT激活缩放量化(per-step DiT activation scaling quantization),将VLA模型的语言骨干和扩散动作头统一压缩至W4A4精度。在LIBERO基准上,该方法以71.3%的静态内存压缩率,使Pi 0.5和GR00T N1.5的任务成功率分别达到98.0%和87.8%,匹配或超越FP16参考值,解决了动作头均匀量化不稳定的长期假设,为agent部署提供了高效量化方案。
Chien-Ping Lu
cs.CC cs.AI
本文在经典可计算性理论框架下,通过Turing jump和relativized limit lemma,严格区分了有限内部自修改与稳定化修订的计算层次,证明了前者无法通过有限重复实现向更强相对计算层次的跃迁,从而对AI递归自我改进的叙事给出了形式化限制。
Xing Zhang et al.
cs.HC cs.AI cs.CL
本文通过实验研究了persona prompts(如“有创造力”或“彻底”)对模型alignment(对齐)的影响,发现强对齐模型(如Claude Sonnet)存在一个“alignment floor”(对齐底线),使得个性化定制安全;而弱对齐模型(如Nova Lite)则缺乏此底线,定制化会带来安全风险。研究还发现“Skeptic defense”(怀疑论防御)persona能显著降低sycophancy(谄媚行为),且persona效果在不同模型间几乎不可迁移。
Danai Korre
cs.HC cs.AI cs.CL
本文通过一项90人参与的实证研究,比较了高拟人化语音Embodied Conversational Agent (ECA)与低拟人化文本Agent在移动严肃游戏中的表现,发现用户显著偏好高拟人化版本。研究聚焦于Human-Agent Collaboration中的角色、混合主动对话及任务导向交互,但未提出新框架,主要报告实证发现与开放问题。
Diana Maria Popa, Simona-Vasilica Oprea, Adela Bâra
cs.CY cs.AI
本文利用PISA 2018和2022的国家级数据,通过描述性统计、回归分析、聚类及VAE等方法,研究了学习环境与ICT职业期望变化的关系。结果表明,数字技能是ICT职业期望最稳定的预测因子,而学生自主性的影响较弱且依赖具体情境。
Tatiana Chakravorti et al.
cs.CY cs.AI cs.HC cs.MA
本文提出了一种结合人类专家与算法agent的混合预测市场,用于评估科学研究的可复制性。实验表明,该混合方法在多数情况下优于纯人工或纯算法的基线模型。
Julia Barnett et al.
cs.CY cs.AI
本文提出了一种结合参与式评估、专家评估和基于LLM的感知评估的方法,并使用遗传算法模拟来探索AI政策组合的可行方案。该方法旨在帮助政策制定者识别缓解AI危害的有效政策选项,但未涉及代码、谱方法或预训练等关键词相关技术。
Rohith Nama
cs.CY cs.AI
本文提出了"agentic literacy debt"这一概念,指当自主AI agent被大规模部署时,因缺乏相应的素养基础设施而导致的社会性赤字。文章指出该问题通过三个渠道(不透明委托常态化、多agent生态系统复杂性、制度路径依赖)加剧,并强调这是一个结构性而非暂时性的问题。
Wolfgang Rohde
cs.CY cs.AI
本文探讨了AI替代人类劳动在软件开发等领域可能导致的短期效率提升与长期能力侵蚀问题,指出AI输出需要大量人工验证且存在正确性、可维护性等局限,但未涉及关键词中的code, context, spectral, Muon, pretrain, agent, attention等具体技术概念。
Ndidi Bianca Ogbo et al.
cs.CY cs.AI cs.CC cs.ET cs.GT +1
本文使用evolutionary game theory框架,将学生使用AI的行为建模为coordination problem,通过analytical results和finite-population simulations揭示了assessment incentives如何影响集体AI使用规范的涌现与稳定。
Taylor Anderson et al.
cs.CY cs.AI
本文评估了使用zero-shot大语言模型(LLM)生成的健康调查数据作为传统iterative proportional fitting (IPF)工作流输入以进行地理显式人口合成的可行性。结果表明LLM生成的数据能捕捉主要州级差异,但性能因变量而异,且在下游人口合成中效果不一,可作为补充输入但尚不能替代真实调查数据。
Chengshuai Zhao et al.
cs.CY cs.AI cs.CL
本文提出REC-CBM,一种基于rubric感知的纠错概念瓶颈模型,用于可信的开放式评分。该方法通过rubric感知概念编码器和序数成对校准目标来建模评分维度,并引入潜在概念纠错模块以提升可解释性,实验表明其在评分性能和概念推理忠实度上优于现有基线。
Xiomara Gonzalez et al.
cs.CY cs.AI
本文探讨了使用LLM辅助情感分析进行混合方法教育研究,通过统计测试和主题分析比较了不同学生群体的书面反思作业,发现海外生活经历是影响学生语言情感的唯一变量。该研究主要关注教育研究方法论,与关键词中的数学或算法概念无直接关联。
Haoyang Wang et al.
cs.CY cs.AI
本文研究了AI辅助写作对科研团队结构的影响,发现使用AI辅助写作的团队更年轻、规模更小,且不影响科学影响力。该研究主要关注科研社会学现象,与关键词中的数学或算法概念无关。
Hudi He et al.
cs.NE cs.AI cs.LG
本文为Spiking Neural Networks (SNNs) 构建了首个系统性公平性基准,通过引入数据偏差、虚假特征和硬件效应三个维度,评估了12种SNN模型在资源约束下的公平性-性能权衡。研究发现,硬件限制会显著放大不同群体间的准确率差距,且云端设计的偏差缓解策略在边缘部署中可能失效。
Chanyoung Kim et al.
quant-ph cs.LG math.NA
本文提出了一种混合量子-经典operator learning框架NVQLS,利用Legendre-Galerkin弱形式求解parametric PDEs,并引入neural embedding编码方案将变化的forcing项和PDE系数映射到参数化量子电路中。该方法在1D和2D parametric PDEs上验证了有效性,但主要贡献在于量子计算与operator learning的结合,与关键词中的spectral仅有间接关联。
Shuhan Ye et al.
cs.NE cs.AI cs.LG
本文提出了一种名为STARS的即插即用方法,用于ANN到SNN的无数据知识蒸馏,通过引入Relational Consistency Alignment和Tail-Aware Regularization两个目标来增强标准BN统计量匹配,从而生成对SNN学生网络更有效的合成数据。实验表明该方法在多个数据集上提升了蒸馏性能,但并未涉及关键词列表中的code, context, spectral, Muon, pretrain, agent, attention等概念。
Tung Dao, Son Tran, Huynh Thi Thanh Binh
quant-ph cs.LG cs.NE
本文针对变分量子算法中电路架构设计的高计算成本问题,提出了一种基于量子神经正切核的Gram矩阵收敛性的零样本代理模型,并构建了MZeQAS框架(结合Monte Carlo Tree Search与代理模型)。该方法无需完整训练即可评估候选架构性能,在搜索效率和解决方案质量上优于现有方法。
Amine Boukhari et al.
cs.NE cs.LG
本文比较了遗传算法(GA)与梯度下降(GD)在训练DEBI-NN(一种基于神经元间欧氏距离定义权重的神经网络架构)时的性能,发现GA在分类任务中表现更优,而GD因空间编码导致的梯度纠缠问题表现不稳定。该工作主要聚焦于特定架构的优化器对比,与关键词列表中的概念关联较弱。
Feifan Zhou et al.
cs.NE cs.AI cs.LG
本文提出了一种用于Spiking Neural Networks (SNNs)的直接训练算法,包含循环发放神经元模型、可学习梯度函数和正负平衡损失函数,以提升信息表示能力和梯度传播精度。实验表明该方法在多个数据集上取得了有竞争力的性能,并能无缝扩展到Transformer架构。
Chen Wei et al.
q-bio.BM cs.AI
本文提出ProtLiD\(^2\),一种配体条件离散扩散模型,用于蛋白质序列-结构协同设计。该方法在离散token空间中联合生成氨基酸序列和结构token,并通过几何感知交叉注意力整合配体信息,在配体-蛋白质复合物数据集上训练,提升了蛋白质设计的全局折叠置信度和配体感知通过率。
Aakar Mathur, Mohammed Ruknuddin, Ashish Gupta
quant-ph cs.AI cs.DC cs.LG
本文提出了一种针对量子联邦学习(QFL)的电路级后门威胁模型(CULT),形式化了四种利用量子机制的隐蔽攻击,并证明了在标准平滑性假设下攻击的隐蔽性。实验表明,即使单个恶意客户端也能在FedAvg聚合下导致严重精度下降,且现有防御方法无法完全消除最坏情况下的失败案例。
Wenjing Xiao et al.
quant-ph cs.AI cs.LG
本文提出了一种基于量子机器学习的6G边缘网络框架,用于V2X通信和模型聚合,包含四个模块:信道自适应语义通信、多模态融合、模型迁移和联邦聚合。该框架利用量子卷积神经网络、量子注意力机制和量子强化学习等技术,旨在提升通信效率和模型鲁棒性。
Deyu Zhou et al.
cs.MA cs.AI
本文提出了一种基于heterogeneous multi-agent modeling的数据服务市场测量与网络分析方法,通过引入服务生态系统理论对三级实体进行效用测量,并分析了heterogeneous networks对效用的影响。实验验证了该方法的有效性。
Pu Li, Jiawen Qi, Qinyu Chen
cs.AR cs.AI
本文首次在CPU-NPU异构SoC上对移动端LLM推理进行了stage-level的多层次基准测试,通过OPMASK控制流水线分解方法隔离了NPU执行路径中的通信、量化和计算开销。研究发现Prefill阶段CPU比NPU快1.6倍,Decode阶段NPU仅提供1.05-1.2x的有限加速,且NPU卸载会导致能耗增加高达51%。
Yongjin Cui, Xiaohui Fan, Huajun Chen
cs.CV cs.AI cs.CL cs.LG
本文提出了一种针对具有异质注意力结构(heterogenous attention structures)的Transformer模型的通用解释方法,将注意力结构分为同质和异质两类,并基于实验分析范式对代表性模型进行了语义和逻辑层面的解释。
Hayden Helm, Carey Priebe
stat.ME cs.AI stat.AP
本文研究了生成式调查中LLM对prompt扰动的敏感性,指出标准统计检验(如符号检验和Wilcoxon检验)在此场景下无效,并提出了一种有效的permutation test。文章通过实验估计了相关参数,并给出了预算分配的实际建议。
Chung-Ta Huang et al.
cs.CV cs.AI
本文利用头戴式IMU传感器数据,通过构建160K样本的Ego4D数据集和提出HiT-HAR层次化模型,将行为识别从运动基元扩展到行为级别,并分析了不同行为类别的可观测性边界。
Yuchao Wu et al.
cs.AR cs.AI
本文提出了AssertLLM2,一个用于硬件验证中断言生成的开放基准测试,包含83个真实设计,支持bug-prevention和bug-hunting两种实用设置,并采用更严格的评估框架。该工作主要聚焦于硬件验证领域,与关键词中的code、agent等概念关联较弱。
Eichi Uehara
stat.ML cs.LG
本文研究了在少数安慰剂组(few-placebo regime)下条件平均处理效应(CATE)的校准推断问题,指出现有X-Learner等方法的置信区间覆盖不足,并提出了GP-CATE方法,通过Gaussian Process对每组的outcome surface建模,使稀缺组的不确定性直接进入后验。实验表明GP-CATE在合成和半合成基准上实现了校准覆盖。
Eichi Uehara
stat.ML cs.LG
本文提出了一种针对重尾结果(如金融收益或气候损失)的因果推断方法,用于估计连续处理下的平均剂量-响应函数(ADRF)。该方法通过输出尾部形状诊断(PDHTE+JK)来打破传统方法中的循环依赖,并提供了拒绝外推的机制。
Eichi Uehara
stat.ML cs.LG
本文提出了一种用于连续数据的因果发现协议,为每条候选边附加一个离散的“不可能性证书”(impossibility certificate),通过RESOLVED和IMPOSSIBLE代码记录边方向的识别状态。该方法引入了五个门控识别层级(LSNM, IGCI, Stein, MDL, PEIT)以及两种oracle原语,在理想oracle假设下实现了\(1+K\)次专家交互的上界。
Gabriele Bocchi
stat.ML cs.LG math.PR
本文提出了一种名为Triangular-Reference Schrödinger Bridges for Time Series (TR-SBTS)的时间序列生成方法,通过将Brownian reference替换为区间冻结的、可能退化的diffusion reference,并在潜在波动率层级上呈三角结构,来扩展SBTS框架。该方法通过熵投影和相对熵的层次化分解来施加变分约束,并建立了冻结近似的稳定性及正则化核估计量的收敛性。
Tianyao Shi, Yi Ding
q-bio.OT cs.AI cs.CY
本文提出了BIRDS框架,用于量化大语言模型服务对生物多样性的影响,并引入了质量归一化生物多样性影响(QNBI)指标。该工作主要关注环境可持续性,与关键词列表中的概念关联较弱。
Leo Yao
cs.LO cs.LG cs.SE
本文评估了LLM在Lean中生成验证代码的能力,并设计了基于agent的树搜索方法(包括状态导向和上下文导向的orchestrator)来提升形式化验证性能。实验表明,上下文导向设计在中等难度问题上更具成本效益,而agent基线在困难问题上仍有优势。
Andrii Ahitoliev, Pavlo Berezin
cs.CV cs.AI
本文构建了一个乌克兰语手写单词数据集,并重新训练了DiffusionPen模型用于跨域风格迁移的手写文本生成。实验表明该模型在拉丁语系之外也能生成可读且风格一致的图像。
Qiancheng Wu et al.
cs.CR cs.AI
Grimlock是一个基于eBPF和TLS 1.3通道绑定的Agent Guard系统,通过在沙箱层面强制实施流量拦截和身份验证来保护高自主性agent系统,无需修改用户层编排代码。该系统使用eBPF强制流量拦截和TLS 1.3后握手认证,通过短期作用域令牌实现最小权限委托,为异构多云环境下的agent间通信提供了透明、可审计的解决方案。
Md Hafizur Rahman et al.
cs.CR cs.AI cs.LG
本文提出HARP方法,用于衡量多智能体LLM系统中局部扰动如何被放大为全局危害,通过对比干净与受扰动的执行轨迹来定义并计算危害放大系数。该方法在金融领域的七智能体系统中进行了实例化,评估了多种防御策略的效果。
Yipeng Ouyang et al.
cs.SE cs.AI
本文提出了RAMP框架,用于在生产环境中评估LLM agent的长期运行时能力。该框架通过YatCC平台引入具有序列依赖和工具链交互的编译器构建工作负载,并采用多维度指标评估结果质量和过程效率。
Syed Huma Shah
cs.CR cs.AI cs.CL cs.IR cs.LG
本文提出GroundedCache,一个用于检索增强生成(RAG)的缓存路由系统,通过四个廉价门控(查询相似性、检索证据重叠、源版本有效性和词汇支持)来判断何时安全复用缓存答案。实验表明该方法能显著降低不安全服务率(USR),但方法本身属于工程优化而非理论开创,且与关键词列表中的概念关联较弱。
Nithesh Chandher Karthikeyan, Jonas Unger, Gabriel Eilertsen
cs.CV cs.LG
本文研究了使用基于DINOv2、DINOv3和CLIP学习表示的representation-conditioned latent diffusion models生成合成图像数据,用于训练分类器。实验表明,该方法在样本质量和模式覆盖上优于class-conditioned generation,并在ImageNet100上取得了更高的top-1准确率。
Joseph Feldman, Yuqi Gu
stat.ML cs.LG
本文提出了一种可识别且可解释的深度生成模型DDE Copula,用于处理具有任意边际分布的多元数据。该模型在copula框架内引入二元隐变量的分层有向网络,并通过rank likelihood进行估计,从而将边际建模与后验推断解耦。
Jakub Wornbard et al.
stat.ML cs.LG
本文针对加性噪声模型中噪声异质性的kernel度量,提出了一种半参数有效推断方法。通过构造Hilbert-valued one-step估计量来估计协变量与残差间的kernel协方差算子,从而在回归函数使用灵活机器学习方法估计时,仍能进行有效的残差独立性检验和置信区间构建。
Siddharth Chaini, Federica B. Bianco, Ashish Mahabal
astro-ph.IM cs.LG
本文提出使用Attentive Neural Processes(一种结合Gaussian Processes与深度学习的概率框架)对天体物理瞬变源的不规则光变曲线进行重建,通过元学习在多种模拟瞬变源上训练,实现了快速、类无关的插值。该方法在速度上远超Gaussian Processes和神经网络基准,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词中的核心概念。
Mohammadmahdi Ghasemloo, David J. Eckman, Yaxian Li
stat.ML cs.LG
本文探讨了使用simulation surrogate models加速reinforcement learning训练的方法,通过数值实验证明了该策略在随机服务系统模型中的有效性。
Prashanti Nilayam, Kiran Ramanna, Prashil Tumbade
cs.MA cs.AI cs.LG
本文提出了一种将多阶段LLM pipeline中的下游agent响应分解为检测(detection)和条件生成(conditional generation)两个决策的框架,并发现“检测而不修正”(detection-without-correction)是主要的失败模式。实验表明,条件误修正率在不同设置下占主导地位,而检测率则变化显著。该框架统一了多agent辩论和内在自修正中的多种异常聚合行为。
Elena Sergeevna Kozachok, Sergey Sergeevich Seregin
cs.CV cs.AI
本文对Melanoscope AI移动皮肤镜临床决策支持系统进行了前瞻性单中心临床验证,使用级联深度学习模型和注意力图可视化方法,在176名患者中达到了88.6%的专家一致性且无假阴性结果。该系统通过IoU评估激活图与专家标注的一致性,并采用三区域患者分流算法,为皮肤病变筛查提供了可解释的临床决策支持。
Guangyi Zou, Roman Vershynin
math.PR cs.AI stat.ML
本文研究了高斯向量在坐标非线性映射下的次高斯性,给出了一个与维度无关的集中界,并应用于符号量化线性映射\(Y = \text{sgn}(Wx)\)的问题。该结果由AI辅助发现,适用于有界函数和良态协方差矩阵。
Partho Ghose et al.
cs.CV cs.AI
本文研究了多模态大语言模型在农业图像解释与生成任务中的幻觉行为,发现模型在图像到文本任务中零样本准确率较低(63-75%),在文本到图像任务中生成高达91%的生物不一致场景,揭示了当前模型在视觉推理和生成方面的根本性缺陷。
Chaimae Jallouli, Karim Boubouh, Robert Basmadjian
cs.DC cs.LG cs.PF
本文提出了一种在异构ARM设备上评估CPU功耗的方法,通过rail-to-cluster映射技术获取集群级电压,并对比了analytical CMOS-based模型与approximate模型在energy-aware Federated Learning中的表现。实验表明analytical模型误差低于10%,而approximate模型误差高达959%,且前者在保持相同模型精度时能耗降低1.4倍。
Zijian Du, Oleg Rybakov
cs.CV cs.AI
本文研究了在异常分割任务中,模型架构、模型规模与FP4量化感知训练(QAT)方法之间的相互作用,发现基于attention的架构(如Swin Transformer)对QAT方法的选择具有鲁棒性,而CNN架构在大规模下会因梯度量化而退化。
Mingyu Lu et al.
cs.MA cs.CL
本文形式化了multi-agent systems中的agent attribution问题,将其建模为cooperative game,并比较了Leave-One-Out与组合方法的效率。通过agent ablation和model replacement,作者在多个benchmark上实现了性能提升和成本降低。
Khang Tran et al.
cs.CR cs.LG
本文提出了一种针对代码大语言模型(CLLM)的隐蔽后门攻击方法Poison-with-Style (PwS),利用开发者的代码风格作为隐式触发器,通过两阶段微调使模型在遇到特定风格时生成含漏洞代码。该方法在Python代码补全任务上实现了高攻击成功率,且能绕过现有防御。
Marcus G Müller et al.
cs.RO cs.AI cs.LG
本文提出了一种基于transformer的统一网络架构Trinity,用于在非结构化户外环境中联合执行类别特定语义分割和类别无关地形分割,并通过合成数据集RUGDSynth和真实数据集EXTerra验证了其有效性。该方法旨在学习机器人无关的视觉地形先验,以支持后续的可通行性估计等任务。
Surender Suresh Kumar, Mary L. Cummings
stat.ML cs.LG
本文提出了一种利用几何特征检测多轮欺骗性对话的方法,通过多目标遗传优化生成数据集,并基于embedding空间中的角度覆盖、距离比和线性度等几何信号构建轻量级分类器。该方法在检测多轮欺骗意图时取得了较高召回率,但未涉及代码、谱方法或预训练等关键词相关技术。
Abile Jean, Kuniyilh S
cs.CR cs.AI cs.LG
本文研究了针对信息物理系统中基于机器学习的故障检测与定位机制的后门攻击,通过设计特定触发器并评估其成功率,实验表明即使仅投毒10%的训练数据,攻击也能成功。
Ciarán M. Gilligan-Lee et al.
stat.ML cs.LG
本文提出了一种名为GRASP的无监督方法,用于在微调过程中识别并移除spurious correlations(虚假相关性)。该方法通过分析LoRA微调的权重来识别潜在混淆因子,并利用梯度投影防止模型依赖这些因子,同时保留预训练知识。实验在代码安全、医疗建议和政治偏见等任务上验证了有效性。
Julia Navarro, Mark Wilkinson
cond-mat.soft cs.CV cs.LG
本文构建了群等变神经网络来预测向列相液晶的二维\(Q\)-tensor序参数,通过权重共享约束和等变激活等技术实现了对循环群\(C_k\)的等变性,并验证了模型在单精度浮点精度下满足等变约束。实验表明等变模型相比非等变基准具有更低的误差和更强的泛化能力。
Kabir Swain et al.
cs.CV cs.AI
本文提出Tensor Memory模块,通过固定大小的3D memory tensor为Transformer提供持久空间状态,使用可微软写入和门控循环更新机制,在标准语言、图像和视频基准上进行了评估。
Piotr Wyrwiński, Kacper Dobek, Krzysztof Krawiec
cs.CV cs.LG
STROP提出了一种离散visual tokenizer架构,通过四阶段课程学习与冻结的DINOv3特征进行局部率失真监督,从而学习可变长度的视觉程序表示。该方法绕过了像素级重建梯度,使codebook由高层潜在表示质量塑造,但整体创新性有限且与关键词契合度不高。
Jinhao Liang, Sven Koenig, Ferdinando Fioretto
cs.RO cs.AI cs.LG
本文提出了一种基于约束感知扩散模型(Constraint-Aware Diffusion Model, CADM)的分散式多机器人运动规划框架SID,通过模拟邻居机器人的未来轨迹来辅助自身规划,并在高拥挤场景下实现最小化通信。实验表明该方法在规划有效性和约束满足方面优于基线方法,但未涉及关键词中的code、spectral或Muon等概念。
Khashayar Khajavi et al.
cs.DL cs.AI
本文提出CiteCheck,一种结合外部学术检索与结构化LLM验证的混合框架,用于检测科学文本中LLM生成的引用幻觉(citation hallucination),包括元数据错误或指向不存在的论文。该方法在物理领域基准上达到88.7% macro-F1,优于GPT、Claude等基线模型。
Liu Zhang, Amit Singer
math.ST cs.LG stat.ME
本文提出了一种基于谱梯度重加权的鲁棒矩估计方法SGR-GMM,通过熵正则化的谱博弈对观测梯度进行软重加权,以增强矩估计对异常值的鲁棒性。该方法在理论上给出了有限样本下的参数估计误差界,并在异方差低秩高斯混合模型上展示了优于非鲁棒矩基线的数值表现。
Kevin Lin et al.
cs.RO cs.AI
本文提出HumanoidMimicGen方法,通过全身运动规划自动生成人形机器人行走与操作(loco-manipulation)的演示数据,解决了高维复合动作空间(手臂、腿、躯干)的数据生成难题。该方法从少量源演示中适应接触丰富的全身技能,并生成稳定无碰撞的数据集,在9个模拟任务中验证了其有效性。
Daniel Curl, Han Hu
physics.flu-dyn cs.LG
本文介绍了CFDTwin,一个用于ANSYS Fluent仿真的开源Python工具包和GUI,它集成了POD-NN代理建模的工作流程,支持参数采样、批量仿真、模型训练和验证,旨在将特定案例的研究实现转化为可复用的研究软件平台。
Paula Cordero-Encinar, Georgy Tyukin, Andrew B. Duncan
stat.ML cs.LG stat.CO
本文提出了一种基于\(\alpha\)-Rényi变分框架的LLM后训练方法,通过学习LoRA适配器的分布来替代深度集成,以处理训练数据中的异质性和冲突。该方法在监督微调和偏好优化中实现了软路由,促进了模型专业化并提供了不确定性估计。
Niccolò Ferrari, Oligert Osmani, Evelina Lamma
cs.CV cs.AI cs.LG
本文提出Mahalanobis PatchCore,通过引入协方差估计和白化变换扩展了PatchCore方法,使其在工业异常检测中能利用特征相关性,并支持流式处理以减少内存占用。该方法在公开基准和工业数据集上保持了相近的检测性能,同时显著降低了峰值内存需求。
Tomoki Koike et al.
physics.flu-dyn cs.LG math.DS math.NA
本文提出SparseModesNet框架,利用LassoNet在POD模态的线性编码和神经网络非线性解码中实现稀疏模态选择,以改进对流主导和湍流等复杂流动的降阶模型重建精度。该方法在基准测试和湍流通道流中优于现有多项式流形方法。
Yuchen Guo et al.
cs.CV cs.AI
本文提出了SegWorld框架,通过引入多级visual chain-of-thought推理,使segmentation model在接收intent-level指令前主动观察场景并推断可能的交互事件,从而将high-level goal映射到具体的affordance-bearing part segmentation。该方法在intent-level指令场景下显著优于传统instruction-driven baseline。
Jiacheng Pang, Ashutosh Chaubey, Mohammad Soleymani
cs.SD cs.LG
本文提出VoxParadox对抗性基准,通过控制语音合成使转录文本与说话风格不匹配,系统评估了Audio LLMs在副语言理解上的不足。研究发现深层编码器层中副语言线索会退化,且语言模型常忽略音频token中的此类信息,并提出了Prompt-Conditioned Layer Mixer和Direct Preference Optimization来缓解该问题。
Seunghyuk Cho et al.
cs.MA cs.CL
本文针对多智能体软件工程系统中的能源消耗问题,提出了一种名为Librarian的持久化搜索子智能体(agent),通过追踪仓库搜索历史并抑制冗余探索动作来减少输出token数量,从而在SWE-Bench Verified上实现了高达25%的GPU能耗降低。
Xiaomeng Wang et al.
stat.ML cs.LG stat.ME
本文研究了网络干扰下的自适应目标分配问题,在bandit框架中考虑了处理效应通过溢出影响他人的情况。作者针对稀疏线性模型,分析了不同干扰结构知识水平下的regret下界,并提出了近最优算法。
Leya Barrientos, Yuexi Du, Nicha C. Dvornek
eess.IV cs.CV cs.LG eess.SP stat.AP
本文对四种超声基础模型(USFM, MOFO, UltraSAM, FetalCLIP)在胎儿平面分类任务上进行了基准测试,并与在自然图像上预训练的CNN和ViT模型进行了比较。实验发现,不同预训练目标导致模型迁移能力差异显著,其中FetalCLIP在linear probing设置下表现最佳,而USFM在full fine-tuning设置下最优。
Calvin Yeung et al.
cs.CV cs.AI cs.LG
本文提出了一种残差化时间稀疏自编码器(residualized temporal SAE),用于解释扩散模型中的激活轨迹。该方法通过线性预测残差来捕捉时间结构,并在Stable Diffusion 1.5上进行了实验验证。
Sizhe Lester Li et al.
cs.RO cs.AI cs.CV cs.LG
本文提出了一种解耦的机器人控制方法VERA,将视频生成模型作为与具体机器人形态无关的规划器,并训练一个基于机器人Jacobian的逆动力学模型(IDM)将视频预测转化为具体动作。该方法在模拟和真实世界的多种机器人任务上取得了良好性能,但并未直接涉及关键词中的code, context, spectral, Muon, pretrain, agent或attention等核心概念。
Xiang Fang, Wanlong Fang
cs.CR cs.AI cs.CV
本文提出Adversarial Prompt Disentanglement (APD)框架,通过互信息分解和基于graph的spectral分析来检测并消除对抗性prompt中的恶意成分,从而提升LLM的安全性。该框架在多个数据集上实现了超过85%的有害输出减少,并支持实时部署。
Nick Merrill, Zeke Medley
cs.CR cs.AI
本文展示了对Introspection Adapters (Shenoy et al., 2026)的一种攻击方法,揭示了其安全漏洞。
Zhisheng Zhang et al.
eess.AS cs.AI cs.SD
LoSATok提出了一种低维度的语义-声学tokenizer,通过语义瓶颈和双层级语义监督方法,在128维的紧凑潜在空间中同时捕捉语义和声学细节,用于跨域音频理解与生成。实验表明该方法在保持理解性能的同时,提升了扩散Transformer的生成建模效果。
Hiroto Fukada, Takayuki Mizuno
cs.SI cs.AI physics.soc-ph
本文提出了一种基于web搜索摘要(snippet)的供应链知识图谱构建方法,利用LLM从搜索摘要中提取企业间关系,以低成本补充结构化供应链数据的不足。该方法在覆盖范围上显著优于传统披露数据库,但提取效率远低于全文处理。
Loc Pham, Lang Hong Nguyet Anh, Thanh Le-Cong
cs.PL cs.AI cs.CL
本文提出FPMoE,一种基于稀疏MoE架构的轻量级代码生成模型,通过为Haskell、OCaml和Scala设置专用专家和共享专家,解决了多语言函数式代码生成中的跨语言干扰和抽象丢失问题。实验表明,该模型在FPEval基准上以3B活跃参数匹配了更大模型的性能。
Zhida Zhang et al.
cs.CV cs.AI
本文提出SmartDirector框架,通过多关键帧条件增强视频生成的叙事控制能力,采用两阶段生成策略(Director-Gen和Director-SR)实现单镜头、多镜头合成及视频扩展。该方法主要面向视频生成应用,与关键词中的code、context、spectral、Muon、pretrain、agent、attention等概念关联较弱。
Gavin Brown et al.
cs.CR cs.DS cs.LG
本文研究了在差分隐私下高效估计单调统计量的问题,通过改进子采样与聚合框架,在样本复杂度上节省了\(t\)倍但运行时间增加了\(e^t\)倍,并证明了该算法在查询复杂度上近乎最优。应用包括私有特征值估计、损失估计及高维模型单参数估计。
Xuanzhao Dong et al.
cs.CV cs.CL
本文提出了一个眼科专用的指令数据构建流程OphIn-Engine,从网络视频中提取并生成了大规模多模态眼科指令数据集OphIn-500K,并基于此训练了眼科多模态大语言模型OphIn-VL,在相关任务上取得了优于现有模型的表现。
Junlin Wang
cs.RO cs.LG
本文提出了一种频率引导的动作扩散方法FGO,通过在子频率流形上逐步引导噪声样本生成平滑动作,以解决模仿学习中高频噪声问题。该方法在15个机器人操作任务上验证了有效性,但与我提供的关键词列表契合度较低。
Sudip Vhaduri, Ryan Gammon, Sayanton Dibbo
cs.CV cs.AI cs.LG quant-ph
本文对经典与量子机器学习模型在MNIST手写数字识别任务上进行了多维度的性能基准测试,比较了CSVM与QSVM、CCNN与QCNN在准确率、运行时间、参数数量和内存需求上的差异。实验表明量子模型在准确率和参数效率上具有优势,但计算开销更高。
Yuanhe Zhang et al.
cs.CV cs.LG
本文提出了一种名为SIGN的轻量级防御框架,通过先验结构提取和动态引导中和来抑制针对LVLMs的对抗性像素扰动,在保持视觉表示和任务性能的同时实现高效防御。该方法主要关注视觉对抗防御,与关键词中的code、context、spectral等概念关联较弱。
Kseniia Shilova et al.
q-bio.NC cs.LG
本文研究探索性和利用性行为策略如何影响基于predictive-coding的感知模型中的内部预测表征,通过在线学习agent在树状迷宫中的实验,发现探索性行为能形成更空间化、保留迷宫转移结构的表征,并与小鼠自然行为数据对比验证。
Yuan Tian et al.
cs.CV cs.AI cs.CL cs.CR cs.LG
本文研究了多模态大语言模型中“think-with-image”推理范式的安全性,通过实验比较了多种流程设计(如直接生成、文本优先、视觉状态操作和显式图像工具调用)对jailbreak攻击的鲁棒性。结果表明,显式图像工具交互能显著降低攻击成功率,并提出了一个图像工具安全向量框架来解释这一现象。
Yuya Onishi et al.
physics.ins-det cs.LG physics.med-ph
本文利用深度学习从闪烁体探测器的波形中逐光子估计到达时间,无需修改探测器结构。该方法通过无监督学习与物理探测器响应模型结合,在多种配置下验证了其提升时间分辨率和区分Cherenkov与闪烁光子的能力。
Yewei Yuan et al.
quant-ph cs.DS cs.LG
本文提出了一种基于测量的软PCA框架,用熵正则化的Fermi-Dirac filter替代传统的硬top-\(k\)投影,避免了特征向量恢复。该框架通过单一量子电路实现不同rank budget下的最优filter,并达到维度无关的样本复杂度\(O(\eta^{-2})\)。
Yibo Jacky Zhang, Zeyu Tang, Sanmi Koyejo
stat.ML cs.LG
本文在计算图的统一向量化反馈框架下,比较了synthetic gradients与backpropagation的梯度估计均方误差,证明了在某些条件下synthetic gradients能获得更低的样本复杂度,并通过实验在contextual bandits和reinforcement learning任务中验证了这一理论优势。
Xinze Li et al.
cs.PL cs.CL
本文提出Skill-as-Pseudocode (SaP)方法,将Markdown格式的技能库自动转换为类型化的pseudocode,以解决LLM agent在检索技能时因自由格式文本导致的"困惑-重检索"循环问题。该方法通过确定性验证器筛选类型化契约,并重写技能骨架,在ALFWorld基准测试中相比Graph-of-Skills基线取得了更优的胜率。
Guannan Lv, Ren Nie, Hongjian Dou
cs.CV cs.AI
本文提出ROVER,一种轻量级可学习插件,通过路由基于object的视觉证据来增强多图像推理。该方法在Qwen2.5-VL-7B上集成,并在多个基准测试上取得性能提升。
Luyang Fang et al.
stat.ME cs.AI cs.LG stat.ML
本文提出了一种多教师贝叶斯知识蒸馏方法MT-BKD,通过教师信息先验和熵权重机制整合多个教师模型的知识,在贝叶斯框架下提升学生模型的泛化能力和不确定性量化。实验在蛋白质定位预测和图像分类任务上验证了其有效性。
Shang Wu, Saatvik Kher, Padhraic Smyth
cs.HC cs.AI
本文研究了在容量约束下将预测任务分配给人类或AI agent的序列学习问题,提出了一个探索-利用策略学习框架以最大化整体性能。实验在表格、图像和文本任务上验证了该方法相对于非上下文基线的优势。
Swanand Rao
cs.SE cs.AI
本文提出了Tool Forge,一个用于将自然语言能力意图转化为经过验证和治理的工具工件的工具链,并引入了一个路由层来减少模型上下文中的工具模式信息。实验表明,该方法在路由基准测试中取得了较高的F1分数,并显著降低了上下文开销。
Yu Yin et al.
cs.CR cs.IR
本文在更真实的RAG流水线(retriever, reranker, generator)中重新评估了七种GEO攻击,发现先前研究高估了攻击效果,仅LLM驱动的prompt injection攻击能有效到达generator,且这些攻击易被轻量级检测器识别。
Xingyu Lu et al.
cs.CV cs.AI cs.CL cs.MM
本文提出VCap方法,通过将参考caption(witness)与视觉信号(adjudicator)配对,设计了一种基于hypergeometric分布的奖励信号,用于视觉captioning任务中的事实一致性验证。该方法在8B模型上取得了优于现有开源和闭源模型的效果,并提升了MLLM的感知能力。
Myeongsoo Kim et al.
cs.CV cs.LG
本文发现扩散模型中的bias可分解为model bias和guidance bias,后者随guidance scale单调增长。作者提出StayFair方法,通过调整classifier guidance和classifier-free guidance来保持不同guidance scale下的group fairness,且不牺牲图像质量。
Yuyue Wang et al.
cs.SD cs.AI cs.MM
本文提出PlanAudio框架,用于从自由文本提示直接合成包含语音和声音的统一音频。该框架利用LLM的推理能力替代传统文本编码器,并引入语义潜在chain-of-thought机制来桥接高层语义理解与低层声学合成。
Lelia Erscoi, Tomi Kinnunen
eess.AS cs.AI cs.HC
本文研究了人类在检测合成语音时的感知和情境因素,通过实验发现语音类别是检测准确性的主要决定因素,而信任线索(如指令框架)仅影响检测行为而非结果。该研究与关键词列表中的概念关联较弱。
Jiachen Qian
cs.CR cs.CL cs.IR
本文提出SilentRetrieval,一种针对Retrieval-Augmented Generation (RAG)系统的两阶段数据投毒攻击方法,通过Coordinated Beam Search和Context-Adaptive Trigger Generation生成语义流畅但包含恶意触发器的文档,以劫持检索结果。实验表明该方法在多个数据集上具有较高攻击成功率,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Huikang Liu, Aras Selvi, Wolfram Wiesemann
cs.CR cs.AI cs.LG stat.ML
本文提出了一类混合高斯机制(mixture mechanisms),通过混合多个具有相同方差但不同均值的Gaussian分布来满足\((\varepsilon, \delta)\)-differential privacy,并给出了所需方差的紧条件。与analytic Gaussian mechanism相比,该方法在低隐私预算下显著降低了期望噪声幅度和方差,但未涉及关键词中的code、spectral或Muon等概念。
Arthur Dérédel et al.
cs.CV cs.AI
本文回顾了现有的change detection方法,并探讨其在serac fall(冰塔崩塌)时间推移监测中的应用。通过引入新数据集SeracFallDet,实验表明dense和semi-dense feature matching方法表现稳健,而supervised方法受限于数据稀缺。
Chong Jing et al.
cs.SD cs.AI cs.MM
本文提出EIGENET,一种用于少样本新视角RIR预测的几何信息多模态框架,核心是Cross-view Alternate-attention Transformer,通过几何调制模块和辅助损失提升性能,在模拟和真实基准上达到最优。
Junjie Mu, Qiongxiu Li
cs.CR cs.CL cs.IR
本文研究了联邦检索增强生成(FedRAG)中的路由劫持攻击,即恶意客户端通过伪造语义profile来吸引目标查询。实验表明该攻击在多种路由架构下均能导致检索结果被污染,并提出了一个基于返回证据反馈的信任感知后路由框架作为防御。
Ruoqi Guo et al.
cs.CR cs.AI cs.CL
本文提出MIRAGE,一个针对移动GUI agent的prompt injection pipeline,通过将攻击文本嵌入用户生成内容区域来误导VLM agent,而不修改agent、应用或操作系统。实验表明该方法在多个VLM agent上达到23%-30%的攻击成功率,且视觉真实感优于先前攻击。
Felix Friedrich et al.
cs.CV cs.LG
本文通过控制训练数据中不安全图像的比例(0%到9.6%)训练text-to-image模型,发现输出不安全性的增加与不安全图像的比例而非绝对数量单调相关,且即使零污染时也存在16.6%的不可约基线。研究还表明,数据筛选与text encoder安全性是互补且独立有效的干预手段,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Aditya Pujara, Xiaogang Zhu, Hsiang-Ting Chen
cs.SE cs.AI
DeltaMCP提出了一种针对MCP服务器的增量式再生方法,通过感知OpenAPI规范的变化来仅更新受影响的工具部分,以减少开发者维护开销并提升版本一致性。该方法在Azure REST API规范上进行了评估,但未涉及关键词中的核心概念。
Pengcheng Zhao et al.
physics.ao-ph cs.LG
本文提出ObsCast系统,仅使用观测数据而不依赖任何数值天气预报(NWP)再分析资料,实现了高分辨率区域天气预报,在短期预报中性能优于传统NWP。该方法为构建区域预报服务提供了一种更简单、适应性更强的途径。
Nico Meyer et al.
quant-ph cs.LG
本文提出了一种基于学习的框架,用于从编码电路中自动构造任意量子纠错码的逻辑操作,并强制实现如transversality等结构性质。该方法通过变分早期容错量子计算(VarEFTQC)过程,为特定噪声模型定制非可加性编码并设计所需的逻辑门集。
Helena Stegherr et al.
cs.NE cs.AI
本文讨论了进化算法在真实世界物理信息优化问题中的性能与可解释性需求,通过五个领域专家提出的具体问题分析了算法在收敛速度和结果解释方面的要求,并指出现有方法在复杂场景中尚未被充分利用。
Jorge L. Rodriguez et al.
cs.CV cs.AI
FLORO是一个多模态地理空间foundation model,通过masked autoencoding在异构遥感数据(Sentinel-1/2、SkySAT、高程和UAV数据)上pretrain,并利用availability-aware inputs处理传感器变异性。在PANGAEA基准测试中,尽管pretrain数据量远小于其他模型,FLORO在场景分类、分割和回归任务上仍取得了有竞争力的迁移性能。
Daisuke Yasui, Toshitaka Matuki, Hiroshi Sato
cs.RO cs.AI
本文提出了一种用于可视化运动控制策略中潜在相位结构的方法,通过扩展聚类特征并引入抑制自转移的聚类数确定方法,在MuJoCo基准环境中识别出比现有方法更清晰的相位转换规则。
Chenxi Wang et al.
cs.CR cs.LG cs.MA
本文研究了基于latent的多智能体系统中的潜在攻击问题,提出了一种latent attack框架,通过latent intervention在不使用对抗文本的情况下重新激活攻击效果。实验表明,这种攻击在clean execution中会显著降低任务性能,尤其是针对智能体间的KV-cache handoffs。
Gennady Andrienko, Natalia Andrienko
cs.HC cs.AI cs.LG
本文提出SmartIterator (SI)视觉分析方法,通过六阶段工作流和IteraScope (IS)可视化工具,系统指导用户探索无监督分组(如density-based clustering和topic modeling)的参数空间,从而理解数据结构的演化过程。该方法在三个案例中展示了其有效性,但并未直接涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Rui Lin, Chuanming Wang, Huadong Ma
cs.CV cs.AI
本文提出VidPrism,一种异构temporal Mixture-of-Experts框架,通过引入功能特化的专家和内容感知的多速率采样模块,解决传统MoE在image-to-video迁移学习中的专家同质化问题,并在视频识别基准上取得先进性能。
Seungsu Kim et al.
cs.RO cs.LG
本文提出ProgVLA,一种紧凑的vision-language-action (VLA)模型,通过两阶段Perceiver重采样压缩多模态序列,并利用离线强化学习目标训练进度头来估计任务剩余时间,从而提升长程机器人操作的成功率。实验表明,该模型在多个基准上达到与更大预训练基线相当的性能。
M. Generali Lince et al.
stat.ML cs.CY cs.LG
本文通过最优传输理论统一了aware和unaware设置下的公平回归问题,并刻画了Wasserstein-2与Total Variation惩罚下的最优预测函数。
M. Generali Lince et al.
stat.ML cs.CY cs.LG
本文通过最优传输方法研究反事实公平回归问题,将反事实公平等价于给定latent variable下的demographic parity条件,并基于barycentric quantile map给出最优公平回归器的闭式解。针对连续latent variable,提出离散化后处理方法,在温和正则性假设下证明了有限样本公平性保证(unfairness decay rate为\(\tilde O(n^{-1/3})\))及匹配的风险界。
Yixu Huang et al.
cs.SE cs.AI cs.CV cs.HC
本文研究了GUI agents在持续游戏生成中的应用,提出了PlaytestArena评估环境和Play2Code生成框架,通过agent循环交互提升游戏可玩性。实验表明该方法在rubric通过率上优于单次生成基线,但未涉及spectral、Muon或attention等关键词相关技术。
Mazen Alamir, Sacha Clavel
cs.RO cs.AI
本文提出了一种从工业时间序列中识别显式分段多项式关系的方法,利用隐式表示中的多项式集合构建显式表示,并在多轴机械臂逆模型辨识中进行了验证。
Shehroz Khan et al.
cs.SE cs.AI
本文提出ARMeta,一种基于LLM的多智能体工作流方法,用于支持REST API的metamorphic testing(蜕变测试),通过自动识别测试场景并生成可执行测试,以解决测试预言问题。实验表明该方法能补充现有基于场景的测试方法。
Sascha Günther, Dimitri Semenovich, Mario V. Wüthrich
stat.ML cs.LG q-fin.RM stat.AP
本文利用off-policy evaluation和stochastic control工具将保险定价建模为决策问题,提出了一个核化逆倾向得分估计器以降低方差,并基于此研究了两种最优定价规则的计算方法(Lasso和神经网络)。实验在合成旅行保险环境中验证了理论结果。
Joris Depoortere, Hussain Kazmi, Johan Driesen
stat.ML cs.LG
本文提出了一种决策聚焦学习框架,通过训练LSTM光伏能量预测器来优化电池系统的调度,并与标准两阶段方法对比。实验表明该方法在14个月内平均降低3.6%的电力成本,尽管预测误差较高,但证明了将预测模型与优化目标对齐的重要性。
Duy Long Tran et al.
cs.NE cs.AI cs.SC
本文在SRBench平台上评估了两种基于recombination的Cartesian Genetic Programming算子,并通过hyperparameter optimisation提升了其性能,但方法本身缺乏开创性且与关键词关联较弱。
Junha Min et al.
cs.RO cs.LG
本文提出了一种触觉-本体感觉融合框架,利用气动皮肤垫的触觉信号作为接触指示器,并结合基于电机电流的本体感觉来重建机器人表面的多轴接触力,同时采用时间卷积网络(TCN)减轻摩擦滞后效应。该方法在皮肤集成机器人臂上验证了多轴力重建与动觉示教的性能,但未涉及代码、上下文、谱方法、Muon、预训练、智能体或注意力等关键词。
Qiaoru Li et al.
cs.CV cs.AI
本文提出VITAL框架,通过视觉-语义双监督增强医学多模态大模型的潜在空间推理能力,并引入可解释性机制。该方法在多个基准上取得领先结果,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)无直接关联。
Jungwook Seo et al.
cs.CV cs.AI
本文提出一种无需训练的图拉普拉斯能量优化方法ANoCo,通过衡量查询patch与正常样本流形对齐所需的特征偏移量来检测异常。该方法构建二分图并求解凸优化问题,复杂度与线性求解相当,在标准基准上取得有竞争力的结果。
Peng Cui, Jiahao Zhang, Lijie Hu
cs.CV cs.AI
本文提出BayesNCL方法,通过引入概率门控机制和稀疏Bernoulli先验的变分推断,解决对比学习中特征纠缠导致的优化冲突问题。该方法在Imagenet-100上提升了语义一致性,但未涉及code, context, spectral等关键词。
Jungwook Seo et al.
cs.CV cs.AI
本文提出BiasEdit框架,通过视觉-语言表征的统计依赖和互信息分析自动检测未知bias attributes,并利用text-guided image editing生成bias-conflict样本以构建去偏数据集。该方法无需手动标注,在完全biased训练数据上实现了state-of-the-art的去偏性能。
Simon Queric et al.
stat.ML cs.LG math.ST
本文通过最优传输(Optimal Transport)的视角研究随机块模型(Stochastic Block Models)的推断问题,建立了最大似然变分推断与半松弛Gromov-Wasserstein投影之间的联系,并分析了正则化与未正则化估计量在模型选择中的表现。
Jiawei Li et al.
cs.CV cs.AI
本文提出SSR3D-LLM,一种用于统一3D-LLM的结构化空间推理接口。它通过让LLM生成一系列隐式空间推理步骤和memory tokens,并由几何感知评分器逐步精炼候选排名,从而改进细粒度3D物体定位。该方法在多个基准上取得了统一3D-LLM中的最佳结果。
Mert Yazan, Frederik Bungaran Ishak Situmeang, Suzan Verberne
cs.HC cs.AI
本文通过混合主体问答实验,研究了用户在同时使用conversational AI和web search时的过度依赖现象,发现用户对chatbot的验证行为主要取决于其先验信任而非答案属性,且温暖的对话风格会间接增加对错误答案的认同。该研究属于人机交互领域,与关键词中的agent相关但缺乏开创性方法或长期问题解决。
Andrea Gurioli et al.
cs.SE cs.AI cs.IR
本文提出SOURCETRACKER和HYBRIDSOURCETRACKER (HST)系统,通过结合vector search与Winnowing指纹匹配,实现LLM生成代码片段的高效溯源追踪。该方法在THESTACKV2数据集上验证了其可扩展性和高精度。
Melih Catal et al.
cs.SE cs.AI
本文提出了Vertical Integration Bias (VIB)概念,并构建了VIBench基准来评估LLM在代码生成中偏向其提供者生态系统的程度。实验发现,在直接生成和agentic工作流中,多个模型均表现出显著的VIB,且agentic场景会放大这种偏差。
William Laplante et al.
stat.ML cs.LG
本文提出DRO-NPE方法,通过分布鲁棒训练替代标准神经后验估计目标,使用Wasserstein ambiguity set上的最坏情况损失来控制过拟合并减少后验过度自信。该方法在低模拟预算下改善了覆盖率和校准性能。
Yantong Wei et al.
cs.RO cs.LG
本文提出SPRINT框架,利用频率自适应spectral priors(频谱先验)生成运动轨迹,解决了人形机器人冲刺时缺乏参考数据和稳定性不足的问题。该框架在Unitree G1平台上实现了零样本sim-to-real迁移,峰值速度达6 m/s。
Yanwen Huang, Lok Ming Lui, Gary P. T. Choi
cs.CV cs.GR cs.LG
本文提出了一种无分辨率依赖的神经代理模型,用于处理由空间变化场驱动的几何参数化与映射问题。该模型通过多分辨率几何编码策略和基于变分能量、扩散密度均衡及拟共形理论的几何约束进行训练,无需标注数据即可预测任意点集上的映射位置。
Oleg Grynets, Dmytro Babarytskyi, Vasyl Lyashkevych
cs.LO cs.AI
本文研究了基于LLM的Oracle到PostgreSQL迁移中的token优化策略,形式化并评估了12种方法(如上下文剪枝、AST最小化等)。实验表明,适度上下文剪枝能保持语义质量,而自适应路由在token效率与语义保留间取得最佳平衡。
Yongsik Seo et al.
cs.DL cs.AI cs.CL cs.IR
本文构建了CITETRACE数据集和三维评估框架,用于衡量搜索增强LLM中引用的结构性失败,发现了一种称为"Verified Misguidance"的系统性模式,即模型引用真实来源但存在意图、来源或忠实度方面的缺陷。该工作主要关注引用质量评估,与关键词列表中的概念关联较弱。
Kangyu Wu et al.
cs.RO cs.AI cs.LG eess.SY
本文提出SARAD框架,将Large Language Models与Deep Reinforcement Learning结合用于自动驾驶决策,通过Retrieval-Augmented Generation和attention discriminator提升安全性与效率。实验在Highway-Env模拟器中验证了性能提升。
Luca Beurer-Kellner et al.
cs.CR cs.AI
本文对3,984个AI agent技能进行了安全分析,发现76个恶意负载,并提出了基于真实样本的威胁分类法。该工作主要关注agent生态系统的安全威胁,而非数学方法或理论创新。
Baptiste Bernard et al.
cond-mat.stat-mech cs.AI physics.comp-ph
本文改进了PULSE方法,通过无监督学习估计化学无序化合物的partition function,以降低Monte Carlo方法的计算成本。在2D Ising模型上的验证表明,该方法能高效且精确地重现平均热力学性质。
Satoshi Tanaka, Takahiro Nishimichi, Yosuke Kobayashi
astro-ph.CO cs.LG
本文介绍了DarkEmulator2,一个在九维\(w_0 w_a \nu o \mathrm{CDM}\)参数空间中预测非线性物质功率谱的神经网络模拟器,通过补充线性功率谱等物理量作为输入,并联合训练不同分辨率模拟,实现了对模拟结果的高精度复现。
Jianwei Li, Jung-Eun Kim
cs.CR cs.AI cs.LG
本文认为AI/ML社区应停止使用"positive backdoor"标签,将其重新定义为Secret Alignment,并强调此类保护性声明在缺乏严格标准化评估时不应被视为安全。通过评估三种代表性应用在六个核心属性上的表现,作者揭示了触发-行为映射的脆弱性,特别是机密性、完整性和可用性方面的不足。
Xiao Wang et al.
cs.CV cs.AI
本文提出了Video Important Person (VIP) identification任务,并构建了Temporal-VIP数据集。作者设计了VIP-Net框架,通过Social Cue Encoder和Temporal Importance Rectifier提取多模态时空线索,以缓解时间重要性偏移现象。
Jingzhe Wang, Hung-Hsu Chou
math.OC cs.LG stat.ML
本文研究了扰动深度矩阵分解中低秩隐式正则化的稳定性,推导了无噪声情况下梯度下降出现低秩阶段的谱条件,并分析了扰动对迭代复杂度和特征值恢复的影响。
Ziyang You et al.
cs.CR cs.AI
本文提出了一种针对LLM水印系统的供应链攻击SeedHijack,通过替换伪随机数生成器(PRNG)来放大水印信号而不改变输出文本,且能绕过多种内容侧统计检测器。该攻击与关键词列表中的概念关联较弱。
Jinze Gu et al.
cs.CR cs.CL
本文提出了一种针对Graph RAG系统的结构知识窃取攻击框架GraphSteal,通过深度优先启发式搜索和广度优先扩散搜索从黑盒交互中重建隐藏的知识图谱,实验显示可恢复超过90%的原始图结构。该工作主要关注隐私攻击而非与关键词相关的理论或方法创新。
Yanqiu Zhao et al.
cs.CR cs.CL
本文提出了MaskClaw,一种用于GUI agent的边缘侧隐私仲裁方法,通过提取本地视觉证据并检索用户与任务特定的策略记忆,在原始截图离开可信环境前决定允许、屏蔽或询问。该方法在五个技能演化场景中将用户修正转化为可复用的隐私技能,并引入了P-GUI-Evo基准测试。
Amir Ali Ahmadi et al.
math.OC cs.DS eess.SY math.AG
本文提出了析取平方和(disjunctive sum of squares)的概念,用于证明多项式的非负性。该方法通过多个并行的代数恒等式来认证非负性,并基于此构建了一个半定规划(SDP)的收敛层次结构,用于多项式优化问题。
Kuntal Ghosh, Marc Hassenzahl, Shadan Sadeghian
cs.HC cs.AI cs.CY
本文通过访谈24名来自IT、服务和医疗行业的员工,探讨了AI对工作体面性和意义感的影响,发现不同职业领域对AI带来的工作满意度预期存在差异。
Joséphine Raugel et al.
q-bio.NC cs.AI
本文通过fMRI和MEG记录人类对自然图像的脑响应,发现预训练视觉模型(如DINOv3)的反向传播梯度虽能预测高级视觉皮层信号,但其时空组织与大脑层级结构不一致,表明深度学习与大脑可能依赖不同的学习机制。
Thierry Judge et al.
eess.IV cs.AI cs.CV
本文提出了一种结合speckle decorrelation测量和迭代优化过程的模拟策略,用于生成更逼真的超声心动图运动数据,并基于此训练深度学习应变估计算法。该方法在全局和区域应变估计上优于临床参考,但主要贡献在于数据模拟而非与关键词直接相关。
Inès Benito, Johannes F. Lutzeyer, Benjamin Doerr
cs.NE cs.AI cs.DS math.OC
本文通过实证和理论方法重新审视了Lamarckian和Baldwinian进化在进化算法中的应用,在最大独立集和最大割问题上,它们一致优于Darwinian进化,并接近专用求解器的性能。理论上,通过扩展Deceptive Leading Block基准,证明了Baldwinian进化在渐近意义下最快。
Krishnam Gupta
cs.RO cs.LG
本文通过实验发现,不同VLA架构(如VQ-BeT、Diffusion Policy和ACT)在电机指令层面产生可预测的、架构特定的失败模式,并提出了一个无需训练的黑盒动作监控工具SafeContract。研究指出,方向反转率是通用的失败预测指标,而jerk监控仅对离散token架构有效,速度监控则普遍无效。
Jürgen Dölz, Michael Multerer, Michele Palma
stat.ML cs.LG
本文提出了一种基于离散模量连续性(DMOC)的数据驱动鲁棒性评估框架,该框架是Lipschitz连续性的非线性推广,无需访问模型内部结构即可评估神经网络相对于数据分布的规则性。通过引入可扩展的小批量算法,该方法能够应用于ImageNet等大规模数据集,并可作为区分训练与未训练网络、揭示欠拟合与过拟合的诊断工具。
Richard J. Young, Gregory D. Moody
cs.CR cs.CL cs.LG
本文构建了一个经五名评审者共识标注的prompt库,将恶意代码请求区分为可执行代码请求与有害安全知识请求,并整合了八个现有语料库。该库为衡量编码模型对恶意代码请求的拒绝合规性提供了经过可靠性验证的基准工具。
Michael T.M. Emmerich
math.OC cs.AI cs.NE
本文研究了贝叶斯多目标优化中偏好形状的期望改进准则,分别分析了基于dystopian参考点的hypervolume指标和基于utopian点的R2指标。文章精确指出了哪些偏好变换能保持精确计算、Pareto兼容性和单调性,并证明了精确积分R2改进在一般情况下不是普通的目标空间加权hypervolume,而是标量化空间中的体积。
Thomas Vitry et al.
cs.CV cs.LG
本文提出了一种无需偏置标签的后验方法,通过非负矩阵分解从冻结视觉模型的中间激活中提取概念向量,并利用梯度探针(gradient probes)对误分类样本的反向传播梯度进行分析,以识别虚假相关概念。该方法在Colored MNIST、Waterbirds和CelebA数据集上验证了有效性,能在不重新训练的情况下提升最差组准确率。
Viet Nguyen et al.
cs.CV cs.CL cs.IR
本文提出了一个名为VisualMem的混合视觉-文本架构,用于增强AI agent的长期个人视觉记忆,通过结合显式(如用户关联实体)和隐式(如从视觉线索推断的用户事实)证据来提升个性化表现。该工作主要关注视觉记忆在对话agent中的应用,与关键词中的agent有一定关联,但方法本身在数学或算法层面缺乏开创性。
Zhen-Hao Xie, Yu-Cheng Shi, Da-Wei Zhou
cs.CV cs.LG
本文提出AREA方法,通过主测地线分析稳定CLIP模型在类增量学习中的属性提取,并利用轻量级任务特定专家和变分信息瓶颈正则化来稳定属性聚合,实验表明该方法优于现有技术。
Jiahe Pan et al.
cs.RO cs.AI cs.LG
本文提出了一种基于物理的接触表示方法Center-of-Pressure (CoP),用于灵巧操作的sim-to-real迁移。该方法通过可微动力学校准传感器,在保持密集接触信息的同时实现了零样本迁移,并在多指手上优于二值接触和原始触觉基线。

- 数据来源 Data Source: arXiv.org

- 本网页的内容由 bluearXiv-ai 自动生成。实际抓取的是 arXiv 中 "new" 页面的数据,即最近的有所在分类论文变动的一天的数据。

- 感谢 arXiv 提供的服务。评论和精选由 AI 生成,不代表任何人对论文本身的看法。精选依赖于论文与给定关键词的匹配度。

- 计数基于主学科,不计重数。

- This webpage is automatically generated by bluearXiv-ai.

- The data actually captured is from the "new" page, that is, the data of the most recent day when there were changes in corresponding subjects.

- Thanks for services prodived by arXiv. Comments and selection of good papers are generated by AI, not showing anyone's point of view about those papers.

- The selection also depends on the matched-degrees between papers and given keywords.

- The counters are based on main subject, not counting multiplicities.