bluearXiv-ai 论文精选

2026-06-05

📚 跟踪学科 (Categories)

🔍 筛选关键词 (Keywords)

📊 论文统计 ↑ 回顶部

cs.LG
125
cs.AI
108
cs.IR
9
cs.CL
103
cs.DS
10
others
157
总计
512

⭐ 精选论文 ↑ 回顶部

cs.LG

O. Duranthon, F. Boncoraglio, L. Zdeborová
cs.LG cond-mat.dis-nn
Ian Maksimov et al.
cs.LG cs.AI
Zehua Cheng, Wei Dai, Jiahao Sun
cs.LG cs.SC
Akarsh Kumar, Phillip Isola
cs.LG cs.AI

cs.AI

Zihao Li et al.
cs.AI cs.CL cs.LG
Yunxiang Zhang et al.
cs.AI

cs.IR

cs.CL

Yutao Sun et al.
cs.CL cs.AI cs.LG

others

Mohammad Akyash et al.
cs.PL cs.AR cs.LG
Giordano Cicchetti, Eleonora Grassucci, Danilo Comminiello
cs.CV cs.LG

📄 所有论文 ↑ 回顶部

cs.LG

Renwei Meng
cs.LG cs.AI
本文提出CVT-RL算法,通过策略条件反事实贡献估计器(PCCC)和干预有效性门控,为长程语言agent的强化学习提供可验证的密集奖励。该方法在删除、语义替换等受控干预下估计步骤对最终验证成功的因果贡献,并利用增广拉格朗日方法约束证据链、工具调用等行为。在多个长程任务上,CVT-RL将任务成功率从非因果RL基线的71.8%提升至78.9%,并将证据F1从78.9提升至82.8,同时将“hacking”行为从7.2%降至3.9%。该工作为agent的可靠长程推理提供了可复现的因果信用分配框架。
Dae Yon Hwang et al.
cs.LG cs.AI
本文提出Agentic Monte Carlo (AMC)方法,利用Reinforcement Learning与Bayesian inference之间的等价性,通过Sequential Monte Carlo直接从black-box LLM agent的最优策略中采样,而非进行参数级训练。该方法在保持底层black-box模型不变的同时,学习一个value function来引导agent,在AgentGym基准测试中显著优于prompting基线,并在扩展test-time compute时甚至超越了Group Relative Policy Optimization (GRPO)。AMC展示了在black-box LLM agent上实现原则性RL风格优化的可行性,与关键词“agent”高度契合。
Wanhao Yu et al.
cs.LG
本文发现Zeroth-order (ZO) fine-tuning of large language models (LLMs) 的性能主要由单个decoding layer主导,该dominant layer是task-agnostic但model-specific的,并且可以通过对pre-trained model中activation outliers的简单inference-only分析来识别。作者进一步解释了该现象:dominant layer同时具备高perturbation sensitivity和在residual stream中的early placement,使得perturbation-induced effects能够通过后续decoding layers传播和累积,从而在forward-only updates下产生不成比例的强且稳定的优化信号。实验表明,仅fine-tuning这一dominant layer即可匹配甚至超越full-model ZO fine-tuning的性能,并在LLaMA2-7B和Qwen3-8B上实现了最高4.52倍的训练加速。该工作为理解ZO优化在LLM中的层间作用分布提供了新的视角,并提出了高效的fine-tuning策略。
Kaixuan Liu et al.
cs.LG
ADWM提出了一种基于autoregressive diffusion world model的off-policy evaluation框架,用于评估LLM agent在多轮交互环境中的性能。该方法通过将每个transition建模为独立的denoising过程,避免了传统autoregressive world model的累积误差问题,并利用policy-conditioned score function使模拟轨迹准确反映评估agent的决策模式。该工作为agent评估领域提供了无需在线交互的可靠方案,与关键词"agent"高度契合。
Hao Bai et al.
cs.LG
本文提出AsyncWebRL,一种用于视觉web agent的高效多步强化学习框架。在系统层面,它通过异步设计(重叠rollout、梯度更新和策略刷新)以及永久rollout池和轻量级截图处理,实现了高达\(2.9\times\)的训练吞吐量加速。在算法层面,它识别出多步GRPO中每轨迹归一化因子\(1/|\tau_i|\)是导致轨迹和token层面低效的根本原因,并将其替换为常数\(1/k\),从而解耦了轨迹长度与梯度权重,显著缩短了轨迹长度并提升了性能。该方法在WebGym的分布外测试集上取得了新的开源最优结果,尤其在困难子集上相对提升达48%。
Hongye Xu, Bartosz Krawczyk
cs.LG cs.CV
本文提出BiCyc方法,通过双向投影对齐与cycle-consistency目标解决无样本类增量学习中的表示漂移问题。该方法联合优化old-to-new和new-to-new两个映射,并利用stop-gradient门控使传输与表示共同演化。理论分析表明,cycle loss在白化空间中收缩奇异谱(singular spectrum)至单位值,并改善类均值和协方差的传输,从而减小分类log-odds的扰动,有效缓解灾难性遗忘。该方法在标准EFCIL基准上显著降低了遗忘并提升了从头训练场景的准确率,与关键词中的“spectral”概念(奇异谱收缩)较为契合。
Yuanfan Li et al.
cs.LG
本文针对长程LLM agent训练中稀疏奖励下的信用分配问题,提出了一种无critic的policy optimization算法ECPO。该方法通过Evidence-Calibrated Action Advantage对rollout按canonical action分组并收缩低计数估计,同时结合Variance-Gated Credit Weighting抑制受组内噪声主导的anchor state,从而解决了现有密集信用分配方法(如GiGPO)在有限rollout下因罕见幸运动作导致统计不可靠的问题。实验表明,ECPO在ALFWorld和WebShop上显著优于基线,且仅增加0.1%的额外计算开销,为agent训练中的信用分配提供了更稳健的解决方案。
O. Duranthon, F. Boncoraglio, L. Zdeborová
cs.LG cond-mat.dis-nn
本文针对attention模型中的低秩适应(LoRA)微调,在高维统计极限下建立了严格的理论框架。通过引入一个可解的单头attention层模型,该模型先在大数据任务上预训练,再通过rank-one LoRA更新在有限数据上微调,作者在高维极限下得到了测试误差和表示对齐(representation alignment)的sharp渐近刻画。理论分析表明,预训练对LoRA的影响可归结为一个有效噪声项,并据此推导出最优预训练策略。该工作为理解预训练与微调之间的相互作用提供了理论洞见,与关键词中的pretrain和attention高度契合。
Luoming Zhang et al.
cs.LG cs.AI
本文提出了一种针对量化Gated DeltaNet中严格下三角矩阵的快速矩阵求逆近似方法,通过截断Neumann级数并结合结构掩码与并行残差校正,消除了传统前向替换方法中的顺序依赖。该方法利用矩阵幂运算中动态范围扩张的特性,将其扩展至低比特INT推理,并根据chunk size自适应调整近似阶数与残差步长以平衡计算成本与模型精度。实验表明,该方法在Qwen3.5系列模型上实现了最高5倍的kernel级加速,并将解码层开销降低20%,同时保持了浮点与低精度推理下的准确性,为可扩展线性注意力机制提供了硬件友好的高效方案。该工作与关键词“attention”高度契合,解决了线性注意力中矩阵求逆的并行化瓶颈问题。
Ian Maksimov et al.
cs.LG cs.AI
本文建立了非acyclic GFlowNet与optimal transport (OT)之间的理论联系。作者证明,在最小流GFlowNet中固定初始流分布后,其目标函数可简化为具有图诱导最短路径代价的Kantorovich OT问题。在最优解处,学习到的GFlowNet策略编码了从源分布到目标分布的最优传输计划,且采样轨迹可恢复对应的最优耦合。该工作通过edge flow和神经参数化将GFlowNet学习框架应用于大规模图上的OT问题,实验验证了与精确OT求解器的一致性。
Zehua Cheng, Wei Dai, Jiahao Sun
cs.LG cs.SC
本文提出Equivariant Neural Belief Propagation (ENBP),一种因子图框架,其消息为在\(SE(3)\)下精确变换的equivariant Gaussian mixture models。通过equivariant outer products合成rank-2 precision matrices,并利用可微的spectral decomposition进行处理,同时采用与\(SE(3)\)交换的贪心KL-based mixture reduction保持可计算性。在GEOM-QM9和GEOM-Drugs上,ENBP以亚秒级延迟达到98.9%构象覆盖率和0.090 \(\mathring{A}\)误差,比扩散基线快100倍以上;在多体机器人推理中,vanilla loopy BP在15个agent时发散,而ENBP收敛且达到机器精度的等变误差。该方法解决了现有equivariant networks无法处理rank-2 precision tensors和单分量消息在多模态能量景观中产生无意义平均值的问题。
Senmiao Wang et al.
cs.LG cs.AI
本文提出了一种名为PC Layer (Polynomial Weight Preconditioning) 的方法,通过在权重矩阵上应用低阶多项式预条件子来重塑其奇异值谱,从而在LLM预训练过程中保持权重的稳定条件。该方法在Llama-1B模型上使用AdamW和Muon优化器时均展现出优于标准Transformer的性能,并且训练后可将预条件权重合并回原始架构,不引入推理开销。理论上,作者通过证明在特定深度线性网络中,均匀限制每层奇异值能确保梯度下降几何收敛到全局最小值,为这一谱控制原理提供了理论依据。该方法与关键词中的spectral和Muon高度契合,为大规模模型训练中的权重条件优化提供了新的思路。
Akarsh Kumar, Phillip Isola
cs.LG cs.AI
本文提出Supervised Memory Training (SMT)方法,通过将RNN训练转化为对一步记忆转移标签\((m_t, x_{t+1}) \rightarrow m_{t+1}\)的监督学习,完全绕过了循环信用分配问题。该方法利用基于Transformer的encoder在predictive state objective下获取记忆标签,实现了时间并行的RNN训练,且任意两个token间具有稳定的\(O(1)\)长度梯度路径。SMT在语言建模和像素序列建模等任务上优于BPTT,使非线性RNN能更好地捕获长程依赖关系,与关键词"pretrain"和"attention"高度契合。
Jason Z Wang
cs.LG
本文提出了一种基于stereological theory(体视学理论)的LLM benchmark覆盖度分析方法,通过有效维度d_eff和Hausdorff距离界定了benchmark评分与模型真实能力之间的盲区。实验表明多个leaderboard的有效维度在[2.86, 4.80]之间,结构盲区远超统计噪声,且子模贪心算法可找到稳定核心benchmark集。此外,论文还独立解决了Gardner's Problem 1.5中关于C^2 support function的minimax率问题。
Jason Z Wang
cs.LG
本文提出了Errorquake-10k基准,用于评估开放权重LLM的错误严重性分布,发现即使准确率相同,不同模型的错误严重性分布也存在显著差异。通过拟合Gutenberg-Richter上尾斜率等指标,证明了错误严重性分布与错误率在信息上非冗余,并揭示了错误类型随严重性变化的规律。
Felipe Chavarro Polania
cs.LG cs.CL
本文研究了预算受限的微预训练场景下,使用分阶段部分因子实验设计来筛选候选配置的方法。通过在固定GPU训练循环上运行大量实验,分析了不同预算下总batch、深度和宽度等因子对性能的惩罚效应,并比较了随机搜索与结构化筛选的效果。结果表明,短时间的设计筛选能有效识别高惩罚方向,但最终推荐方案依赖于具体硬件环境,不具有通用性。
Federico J. Gonzalez
cs.LG eess.SP
本文介绍了PyCC.id这个Python库,它基于特征曲线(CC)的假设驱动方程发现方法,允许用户定义结构骨架和先验知识,从时间序列数据中推断常微分方程(ODE)。该库通过模块化设计支持多种方程发现范式,并利用结构可辨识性来验证模型。
Ian Rios-Sialer et al.
cs.LG cs.AI cs.CL
本文通过因果定位和激活修补等方法,研究了蒸馏LLM(Qwen3-4B-Instruct-2507)中时间偏好(temporal preference)的神经表示,发现其时间折扣率低于人类且偏好不稳定,并初步展示了steering vectors对时间偏好的调控能力。
Fei Ding et al.
cs.LG
本文提出了一种新的训练目标state commitment learning,旨在让语言模型区分用于计算的token和构成持久状态的token。通过Counterfactual Erasure RL (CERL)方法,模型在保持准确性的同时减少了对隐藏思考的依赖,但该方法与关键词中的概念关联较弱。
Hee-Sung Kim, Sungyoon Lee
cs.LG cs.AI
本文研究了多路径深度线性网络中离散Gradient Descent (GD) 在大步长下的行为,发现其与Gradient Flow预测的“赢家通吃”对称性破缺不同,大步长GD会导致信号在路径间重新分布,从而恢复路径对称性。
Xiaohuan Pei et al.
cs.LG cs.AI
本文提出了一种可微分的Efficient Operator Search框架,用于自动搜索多模态基础模型中的token-reduction算子。该框架将不同的手动设计算子统一到一个共享算子空间中,并通过联合搜索token减少位置、保留数量和算子行为来优化任务性能。
Ziqian Wang, Chenxi Fang, Zhen Zhang
cs.LG stat.ML
本文提出DiffSlack,一种通过可学习slack variables将非线性不等式约束转化为等式约束的可微投影层,用于神经网络的硬约束预测。该方法在车辆路径规划任务中(包含200个非线性约束)相比基线方法取得了更高的规划成功率和约束满足度。
Peilong Zhou et al.
cs.LG
本文提出了一种名为TTT-RTL的测试时训练框架,用于优化大型语言模型生成的寄存器传输级(RTL)硬件设计。该方法在测试时通过强化学习使LLM策略适应特定RTL问题的EDA反馈,并引入自适应KL预算控制器来稳定策略更新。实验表明,该方法在PPA乘积上显著优于基线,但未直接涉及关键词中的code, context, spectral, Muon, pretrain, agent或attention等核心概念。
Arman Akbari et al.
cs.LG cs.CV cs.RO
本文提出Flash-WAM,一种针对世界动作模型(WAMs)的模态感知步蒸馏框架,通过为视频和动作流选择不同的一致性函数参数化来解决多模态噪声分布不对称问题,将推理压缩至单步并实现23倍加速。该方法在仿真和真实机器人任务上保持了较高成功率,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Rickard Brüel Gabrielsson
cs.LG cs.IR
本文研究了行为基础模型(Behavioral Foundation Models)在用户事件序列上的scaling law,通过大量实验分析了参数分配、batch size、数据分配和负采样数量等维度,发现小尺寸的embedder在计算上最优,且训练目标与评估指标之间的不一致性会随计算量变化。
Moulik Gupta et al.
cs.LG
本文提出ReGeN,一种参考引导的生成管道,通过将观测序列分解为相位对齐的周期主干、深度核高斯过程的随机残差和结构因果模型的跨变量依赖,实现可控的多元时间序列合成。该方法在低数据场景下能有效替代真实数据,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联较弱。
Lipai Huang et al.
cs.LG
本文提出了一种基于领域感知的coreset构建方法,结合tabular foundation model,在仅使用0.7%训练数据的情况下实现了与监督学习基线相当的洪水深度预测精度,并展示了跨流域的迁移能力。该方法通过按风暴重现期和受影响流域分层采样,并利用目标感知的空间选择器选取hexagon样本,实现了数据高效的预测。
Anda Skeja et al.
cs.LG cs.CC cs.DS math.CO math.PR +1
本文研究了planted-vs-planted设置中低度多项式检验的阈值问题,证明了在planted submatrix和planted dense subgraph模型中计数社区的匹配上下界。该工作为低度检验提供了首个尖锐阈值,但与关键词列表中的code, context, spectral, Muon, pretrain, agent, attention等概念无直接关联。
Luke Thompson et al.
cs.LG
本文提出Branched Neural Rough Differential Equations (B-NRDEs),通过Hopf代数框架将NRDE的log-ODE步骤重写为流形上的几何数值积分,以处理Itô动力学和流形约束。该方法在粗糙Bergomi波动率等任务上展示了有效性,但与关键词列表中的概念关联较弱。
Nehal Afifi et al.
cs.LG
本文提出了一种基于LSTM Autoencoder的离线异常检测框架,用于电液伺服执行器(EHA)的单变量传感器信号(如温度和压力),通过重构误差分布进行校准和评估。实验表明该方法在多个故障注入场景下达到了平均99.0%的准确率和极低的误报率,验证了数据驱动方法在EHA系统离线异常检测中的可行性。
Abhishek Divekar
cs.LG cs.AI cs.CL cs.IR stat.AP
本文提出PRECISE框架,将Prediction-Powered Inference扩展到基于LLM的排序评估中,通过结合少量人工标注和大量LLM判断来产生无偏的评估指标估计。该方法将输出空间计算从\(O(2^{|C|})\)降低到\(O(2^K)\),适用于Precision@K等层次化指标,并在ESCI基准和实际生产系统中验证了其有效性。
Raghav Kansal et al.
cs.LG q-bio.QM stat.ML
本文提出了一种多边缘流匹配方法(OTP-FM),通过引入最优传输势能项来约束中间观测分布之间的动态传输,并推导出无模拟的高效学习算法。该方法在单细胞RNA测序、海洋学和气象学数据集上展示了优越性能。
Eugene Golikov, Yaroslav Gusev, Dmitry Yarotsky
cs.LG stat.ML
本文研究了大型权重共享线性autoencoder在不同学习极限下的梯度流动力学,通过形式损失展开层次将其与三角棱柱的面相关联,识别出五种基本极限学习机制。对于其中四种机制,作者推导了训练和总体损失演化的显式表达式,并与实验结果吻合良好。
Yaobo Zhang
cs.LG
本文提出PJ-RoPE,将RoPE、Jordan-RoPE和ALiBi统一到一个可学习的相对位置空间中,并研究了不同任务对该空间区域的选择。该工作主要关注attention机制中的位置编码统一框架,与关键词中的attention相关,但方法本身并非开创性突破。
Zhi-Feng Wei, Saad Qadeer, Panos Stinis
cs.LG math.NA stat.ML
本文提出Mamba-Assisted Closure (MAC)框架,利用Mamba-based sequence model对高维动力系统的non-Markovian closure term进行建模,以改进reduced-order modeling。该方法在Burgers方程和Lorenz '96系统上取得了优于GRU和Wilks方法的预测精度。
Md Azharul Islam et al.
cs.LG physics.bio-ph
本文提出EVIDENT框架,通过贝叶斯训练和证据排序在不确定性下选择神经架构,用于个体血糖预测。该方法在时序卷积网络上验证,能自动拒绝过参数化或欠参数化模型,但未涉及关键词中的code、context、spectral、Muon、pretrain、agent或attention。
Jingyao Wu et al.
cs.LG
本文提出SHALA-LLM算法,通过Reinforcement Learning框架让LLM直接从标注者分布中学习,并动态优先处理高歧义样本,在ChaosNLI等基准上提升了与标注者分布的一致性及分类性能。
Yongzhong Xu
cs.LG cs.AI
本文通过跨架构的机制研究,测试了基于任务模式选择性(task-pattern selectivity)的注意力头回路识别方法在不同模型家族中的一致性。实验发现,该方法在不同训练流水线的1B类语言模型(如Pythia 1B, OLMo 1B, OLMoE 1B-7B)上识别出的因果回路并不相同,表明模式选择性并非任务因果结构的可靠指标。
Disi Lin, Martin Berggren, Tommy Löfstedt
cs.LG
本文提出了一种结合Total Variation (TV)函数与\(\ell_p\)范数的结构化空间先验族,并将其嵌入Bayesian回归框架中,用于\(T_1\) mapping中的不确定性量化。实验表明,该方法相比其他先验能获得更集中的后验密度和更低的方差,从而提升估计的可靠性。
Rohan N. Pradhan, Steve Goley
cs.LG cs.AI
本文研究了LLM在多源信息合成时对统计数据的验证能力,发现模型虽能单独检测伪造统计量,但在多源合成中会忽略数值有效性,转而依赖方法论-语域(methodology-register)线索。该行为在多个模型和领域中复现,且现有提示策略无法有效缓解。
Zhaoqi Zhang et al.
cs.LG cs.AI
本文提出CausalPOI框架,用于解决冷启动POI签到预测问题。该框架通过构建时空功能交互图来建模POI间的语义和空间关系,并利用结构对齐的处理与对照图模拟事实与反事实场景,在真实数据集上优于现有基线方法。
Chirag Chawla, Rohan Charudatt Salvi, Madhav S. Baidya
cs.LG cs.AI
本文在GRPO框架中引入基于entropy的自适应折扣因子,并仅对负优势轨迹施加折扣,在GSM8K数学推理任务上提升了训练稳定性与准确率。该方法虽在特定任务上有效,但缺乏与关键词(如code, spectral, Muon, pretrain, agent, attention)的直接关联,且创新性有限。
Naima Tasnim, Lalitha Sankar, Oliver Kosut
cs.LG cs.CR
本文提出DP-MacAdam算法,将自适应裁剪(AdaClip)与自适应动量(类似Adam)结合,利用相同的梯度均值和方差估计同时进行裁剪和动量更新,以解决DP-SGD中固定裁剪阈值的限制。实验表明,该方法在无需手动调整裁剪阈值的情况下,相比DP-SGD、AdaClip和DP-Adam基线提升了模型效用。
Dongruo Zhou
cs.LG math.OC
本文研究了高阶光滑非凸优化中寻找\(\epsilon\)-stationary point的一阶确定性oracle复杂度下界,通过构造基于block-chain机制的hard instance,证明了在Lipschitz Hessian和Lipschitz三阶导数情形下分别达到\(\Omega(\epsilon^{-7/4})\)和\(\Omega(\epsilon^{-5/3})\)的匹配下界。该工作填补了高阶光滑非凸优化中一阶方法加速上界与下界之间的空白。
Al Zadid Sultan Bin Habib et al.
cs.LG cs.AI stat.ML
GOTabPFN通过引入Graph-guided Ordering with Local Refinement (GO-LR)和Neuro-Inspired Subunit Compression (NSC)单元,将高维低样本量(HDLSS)表格数据压缩为紧凑的meta-features,从而使得小规模tabular foundation model(如TabPFN)在有限token预算下仍能有效进行预测。实验表明该方法在HDLSS场景下提升了稳定性和准确性。
Raffael Theiler et al.
cs.LG cs.AI eess.SP
本文提出将Tabular Foundation Models应用于工业时间序列的Prognostics and Health Management (PHM)任务,通过将原始信号转换为表格行并使用in-context learning,在多种诊断和预测任务上取得了良好效果,尤其在低数据场景下具有竞争力。该方法为异构PHM问题提供了一个实用且通用的接口。
Paul Janson, Edouard Oyallon, Eugene Belilovsky
cs.LG
本文提出了一种名为MAPL的方法,用于在流水线并行训练中压缩激活值通信。该方法将压缩视为在Stiefel manifold(正交矩阵流形)上的可学习正交投影,并引入因子化锚点嵌入以恢复全秩激活。实验表明,该方法在LLaMA模型上实现了高压缩比且性能损失极小。
Alvin Wei Ming Tan et al.
cs.LG
本文提出了LEVANTE-bench基准,基于儿童认知任务数据,系统评估了VLMs与5-12岁儿童在多项任务上的对齐程度。研究发现模型与儿童的对齐在不同尺度上表现异质,且当前VLMs在矩阵推理和心理旋转任务上表现不佳。
Rohan Siva et al.
cs.LG cs.AI cs.CV cs.RO
本文提出A4D方法,将视觉观测映射到基于affordance(功能属性,如“可移动”)的共享latent space中,通过测量与affordance的proximity来推断物体功能,并引入affordance discovery机制处理未见场景。该方法在规划任务中提升了推理准确率和泛化能力,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联较弱。
Haoze He et al.
cs.LG cs.CL
本文研究了MoE模型的压缩问题,发现传统方法在通用基准测试中失败的原因是关键能力集中在FFN稀疏中间维度。作者提出Fisher-MoE方法,通过Fisher重要性排序移除这些维度,在50%压缩率下保持模型性能并提升推理效率。
Haozhe Chi et al.
cs.LG cs.AI cs.GR
本文提出SelfBootTok方法,通过自引导学习将图像信息分解为全局和局部token组,使生成器仅需全局token即可高效工作,在减少约40%计算量的同时提升了重建与生成质量。该方法在64个token下取得了1.56的gFID分数,但未直接涉及code、context、spectral等关键词。
Johan Obando-Ceron et al.
cs.LG cs.AI
本文探讨了多任务深度强化学习中的可扩展性问题,提出可扩展性的主要驱动力是representation learning而非model-based control。作者通过结合predictive representation与高容量value function approximation,设计了一个简单的model-free算法MR.Q,在连续控制任务中超越了基于world-model的方法。
Jihoon Kim, Heejung Youn
cs.LG
本文提出了一种基于多分辨率ConvLSTM的框架,通过堆叠集成策略融合不同时间分辨率的模型,用于预测基坑开挖过程中挡土墙的变形。该框架在韩国11个开挖现场的34个测斜仪数据上进行了验证,平均绝对误差为1.4 mm,决定系数为0.93。
Kion Fallah et al.
cs.LG
本文提出CLaaS系统,使agent在部署后能通过experience replay buffer进行异步训练以提升样本效率,并在对抗性任务中验证了参数更新优于in-context learning。
Yizhe Ding et al.
cs.LG math.ST stat.ME stat.ML
本文研究了平滑激活的深度神经网络(DNN)估计量的uniform convergence性质,证明了平滑DNN可以通过自适应利用目标函数的低维层次组合结构来缓解uniform convergence中的维度灾难,并建立了伪维度界、非渐近逼近保证和Hölder范数界等理论结果。
Evan Ye
cs.LG cs.NE
本文通过40个受控实验追踪一个最小GRU系统从预测到自我区分的发展过程,提出了agency gain作为衡量自我意识预测优势的指标,并发现四个必须严格满足的发展条件。该工作主要关注神经网络中的自我表征涌现机制,与关键词中的agent概念有一定关联但并非直接契合。
Yiming Zong, Yige Wang, Jiashuo Jiang
cs.LG cs.AI math.OC
本文针对LLM后训练中固定rollout预算的低效问题,提出了一种跨epoch的自适应rollout分配方法CERO,通过Beta后验估计和Fenchel对偶优化实现全局预算下的在线资源分配,并在数学推理任务上验证了其相对于GRPO的样本效率提升。
Xiaoyu Lin et al.
cs.LG
本文提出StableRCA,一种局部机制级别的Root Cause Analysis方法,通过估计局部Markov boundary并检测其中的条件分布偏移来避免全局因果图发现。该方法在合成基准和五个真实数据集上验证了其对图误设的鲁棒性和多干预目标下的有效性。
Dongxiao He et al.
cs.LG
本文提出Q-GNN,通过引入查询实体的结构上下文和语义类型信息来改进基于GNN的知识图谱补全方法,实验验证了其有效性。
Haoyue Dai et al.
cs.LG
本文区分了静态选择与进化选择两种形式,指出现有方法对进化选择建模的不足,并提出了一个专门刻画进化选择的新模型及识别程序。
Wenhao Mu et al.
cs.LG cs.AI
本文构建了一个基于agent-based model的流行病时间序列反事实预测基准,支持静态和时变干预设置,并评估了多种因果推断方法。该工作主要贡献在于提供了一个更贴近现实的评估平台,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Joey Chan et al.
cs.LG cs.IR
本文提出MolE-RAG框架,通过检索化学文献、分子特定信息和结构相似分子来增强LLM的分子性质预测能力,无需微调即可提升性能。该方法在多个任务上显著优于SMILES基线,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Hongye Xu, Bartosz Krawczyk
cs.LG
本文重新审视了无样本类增量学习中的原型回放策略,指出其性能差距源于将原型视为孤立摘要且未处理类别不平衡。作者提出了流形感知的边界采样(Constrained Expansive Over-Sampling)和自适应类别平衡损失(Adaptive Class-Balanced Loss),通过向新类最近敌意特征插值生成边界样本并动态调整梯度权重,使原型回放达到与漂移补偿方法相当甚至更优的性能。
August Posch et al.
cs.LG
本文比较了十种机器学习算法在基于遥感数据的作物季内制图中的应用,发现支持向量机在玉米和杏仁的早期识别中表现最佳,并分析了年际变化带来的不确定性。
Kabir Murjani
cs.LG cs.CE q-fin.CP stat.ML
本文提出了一种异构Rust-Python流式架构,通过零拷贝Rust边缘解析新闻记录并扫描目标股票池,结合多变量Neural Hawkes Process和自适应剪枝规则,实现了跨公司注意力图的连续时间建模。实验表明,该架构在单CPU上达到约13ms的端到端处理延迟,并在FNSPID语料库上相比随机基线提升了1.70倍的精度,但方法主要针对金融时间序列预测,与关键词中的attention有一定关联但创新性有限。
Jialiang Yin et al.
cs.LG cs.AI cs.IT
本文提出HPME框架,通过hard perturbation和graph pooling提取离散解释子图,并引入基于结构替换的mixup策略以缓解分布偏移问题,旨在提升GNN解释的鲁棒性。实验表明该方法在合成和真实数据集上取得了较好效果。
Srinivasan Manoharan et al.
cs.LG
本文提出了一种混合框架,结合了通过LoRA微调的小语言模型(LLaMA 3.1 8B)和确定性规则后处理层,用于多标签结构化预测任务。在仅有219个样本的稀缺数据上训练后,该系统在对话转录的合规性评估中实现了高准确率和低延迟,并显著降低了成本。
Amirhossein Zare et al.
cs.LG stat.ML
本文提出Causal Longitudinal Prior-Fitted Networks (CausalLongPFN),一种基于先验拟合的上下文预测器,用于纵向因果推断。该模型在合成因果模型上预训练后冻结,无需梯度更新即可预测反事实结果,在多个基准上表现有竞争力。
Mohammad Anas Jawad, Cornelia Caragea
cs.LG cs.CL
本文提出了一种名为CaliDist的大语言模型后验校准方法,通过衡量模型对输入中语义干扰信息的预测稳定性来调整其置信度分数。实验表明该方法在多个NLU分类任务上降低了Expected Calibration Error (ECE)和Brier Score。
Powei Chang et al.
cs.LG
本文研究了GRPO-style group-relative updates在RLVR中因rollout数量增加导致policy-gradient features低秩化而削弱有效更新的问题,提出了SALT组件,通过mini-batch Gram geometry估计共享子空间并自适应放大残差通道来改善更新几何。实验表明该方法在不修改reward model或采样过程的情况下提升了性能。
Yuliang Yang et al.
cs.LG
本文提出了一种用于监督分类的混合截断损失函数\(L_{\mathrm{ht}}\),并构建了\(L_{\mathrm{ht}}\)-SVM模型,通过引入P-stationary point和交替方向乘子法实现稀疏性与鲁棒性,实验表明其在单视图和多视图分类中优于对比方法。
Sukrati Gautam et al.
cs.LG cs.AI
本文扩展了consistency training在模型对齐中的应用,引入了两种新的内部一致性目标:MLP Consistency Training (MLPCT)和Attention Consistency Training (AttCT),并验证了其在多种安全威胁下的有效性。
Oleeviya Babu Poikarayil et al.
cs.LG
GenAutoML提出了一种基于LLM的agentic框架,用于时间序列预测和异常检测的神经架构自动生成与优化。它通过沙箱反射循环和动态可逆实例归一化(Dyn-RevIN)来提升模型鲁棒性,并在基准测试中展示了计算效率。
Hu Tan, Kuo Gai, Shihua Zhang
cs.LG cs.AI
本文通过深度线性网络理论形式化了“grokking”现象中分类损失快速下降与表示简化慢速进行的双时间尺度分离,并引入“两个训练时钟”的概念。在ReLU MLP中,通过条件约简将网络局部线性化,解释了分类器先拟合而表示后简化的两阶段机制。该工作主要聚焦于训练动态的理论分析,与您提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Etienne Le Naour, Tahar Nabil, Adrien Petralia
cs.LG
TS-ICL提出了一种基于In-Context Learning的Transformer模型,统一了时间序列的预测与插值任务,通过将任务形式化为时间戳对齐的回归问题,并在合成因果先验数据上训练。该方法在插值任务上达到新最优,在预测任务上与现有基础模型竞争力相当。
Bin Liu et al.
cs.LG
本文提出了一种名为LSDMLO的多标签数据过采样方法,通过为每个标签定义特定的距离度量(label-specific distance)来寻找标签一致的近邻,从而生成更合理的合成样本以缓解类别不平衡问题。实验表明该方法在多种基分类器下优于现有技术。
Henrik Graßhoff et al.
cs.LG
本文从法律和技术交叉视角,综述了在机器学习供应链中实现GDPR所规定的更正权和删除权所面临的挑战,并提出了“models in the dark”这一概念,指代供应链下游缺乏透明度和可追溯性的衍生模型。
Tejas Pradeep Shirodkar
cs.LG stat.ML
本文通过“dead direction”这一原始概念,将奇异学习理论与信息几何联系起来,展示了Fisher度量的退化方向与KL散度消失速率之间的关系,并扩展至深度网络中的K-FAC分解与梯度流下的商结构。该工作为奇异几何提供了参数坐标下的处理方式,但与我提供的关键词(code, context, spectral, Muon, pretrain, agent, attention)关联较弱。
Abzal Aidakhmetov et al.
cs.LG
本文研究了针对LLM激活操控(activation steering)的隐蔽数据投毒攻击,通过替换少量token使steering vector与反拒绝方向对齐,从而绕过模型的安全机制。实验表明该攻击在多个模型上有效,并讨论了正交化防御方法。
Nirit Nussbaum-Hoffer et al.
cs.LG
本文提出了一种四阶段方法,利用causal graph对LLM推理过程进行建模,通过MCMC启发的counterfactual augmentation增强稀疏观测数据,从而生成可解释的因果图。该方法在疾病诊断、情感分析等任务上验证了其预测保真度和结构稳定性,为LLM的概念级可解释性提供了基础。
Maxime Griot, Paul Steven Scotti, Tanishq Mathew Abraham
cs.LG cs.CL
本文研究了在知识蒸馏前对长链思维推理轨迹进行后验压缩的方法,使用两个大型教师模型生成约28.3万条正确轨迹,并通过指令微调模型将其压缩至原始长度的8.6%-21.0%。实验表明,压缩轨迹可显著减少训练token量(降至12%-30%)并加速训练2.0-7.6倍,但原始轨迹在所有规模下均保持最高下游准确率,压缩轨迹在准确率与效率间提供了权衡而非免费改进。
Thummaluru Siddartha Reddy et al.
cs.LG eess.SP
本文提出HoT-SSM模型,通过构建hypergraph来捕获医疗知识图谱中临床概念间的高阶交互,并引入基于state space model的动态超图来建模患者状态随时间的长期演化,用于临床预测任务。实验在MIMIC-III和MIMIC-IV数据集上验证了其有效性。
Haoyang Cao et al.
cs.LG
本文提出了一种用于自适应时序数据生成的sequential forward-backward diffusion框架,通过沿序列逐步注入和移除噪声并基于历史生成结果进行条件化,以保持适应性。该方法引入了一种新的score-matching目标用于高效并行训练,并在合成数据上验证了其有效性。
Zhangyao Song et al.
cs.LG cs.DB
本文提出AOSNET框架,通过Hilbert变换提取analytic-signal描述子,将周期性时间序列预测从固定模板匹配转为自适应振荡状态对齐。该方法在多个基准上取得有竞争力结果,但未涉及code、context、spectral等关键词。
Shenzhi Yang et al.
cs.LG cs.AI
本文提出OPRD方法,将知识蒸馏从输出空间扩展到隐藏状态空间,通过对齐学生和教师模型在相同rollout上的中间层表示来提升蒸馏效果。该方法理论上消除了采样方差,实验表明其训练速度更快且内存占用更少。
Ayushman Trivedi, Bhavika Melwani
cs.LG
本文提出一个三级框架(知识存储、表示和可访问性)来重新审视continual learning中的catastrophic forgetting现象。实验表明,遗忘主要表现为可访问性丧失而非表示彻底擦除,因为线性探测和分类器重训练能恢复大部分性能。
Haoyang Hong et al.
cs.LG
本文研究了在模型误设下,使用函数逼近的KL正则化上下文bandit和episodic RL问题,提出了KL误设公式并分析了基于回归的Gibbs策略更新算法,建立了包含显式误设项的高概率KL遗憾界。
Mohammad Mahdi Salmani-Zarchi et al.
cs.LG cs.AI cs.CL
本文针对多约束指令遵循任务中标准GRPO在离散低方差奖励下的不稳定性,提出了MDP-GRPO方法,通过多温度采样、双锚点优势函数、前景理论塑形和非对称KL正则化来稳定学习过程。实验表明该方法在多个基准上提升了约束满足率。
Shota Takashiro et al.
cs.LG cs.AI cs.CL
本文研究了max@K策略梯度中的advantage估计问题,通过引入Leave-Two-Out baseline实现了中心化的advantage,并提出了MaxPO方法。该方法在保持policy-gradient无偏性的同时降低了梯度方差,为基于验证奖励的强化学习后训练提供了理论统一视角。
Paavo Parmas et al.
cs.LG cs.AI cs.CL
本文提出OrderGrad,一种用于优化order-statistic objectives(如VaR、CVaR、trimmed means等)的policy gradient估计方法。它通过简单的reward transformation实现,适用于标准policy-gradient或reparameterization更新,但主要贡献在于优化目标而非与关键词直接相关。
Chen Hu et al.
cs.LG
本文提出了一种基于Pullback Euclidean Metrics的Sliced Wasserstein框架,用于全秩correlation matrix流形上的距离度量,并实例化了两种Correlation Sliced-Wasserstein discrepancy。该框架被应用于EEG解码中的domain generalization问题,实验表明其在分布偏移下具有更好的泛化性能。
Fernando E. Rosas
cs.LG stat.ML
本文提出了一种基于rate-distortion原理的自适应状态-动作抽象方法,通过将value error分解为Bellman residual和bisimulation metric两部分来动态调整抽象粒度,并在tabular settings中验证了其有效性。
Ari Blondal et al.
cs.LG
本文通过证明一个新的拓扑球面覆盖定理(基于Borsuk-Ulam定理),得到了list replicability框架下list size与accuracy参数之间的紧界,并分析了large-margin half-spaces的最优list size。该工作主要关注学习理论中的可复现性,与关键词中的spectral、attention等方向关联不大。
Rebecca Potts et al.
cs.LG
本文提出了一种用于燃气轮机机组NOx排放预测的信任感知概率框架,结合多头部循环预测模型与置信度估计、集成不确定性量化等方法,在仅有少量标注数据时提供可解释的信任分数。实验表明该框架能有效识别不可靠预测,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词相关方法。
Nanxi Chen et al.
cs.LG physics.comp-ph
本文系统研究了物理信息神经算子(PINO)的训练流程,包括架构设计、优化器选择、损失平衡和配置点采样策略。实验表明CViT架构表现稳定,且发现PINN训练中的梯度冲突和因果违反等优化问题在PINO中同样存在。
Jonathan Colen et al.
cs.LG stat.AP
本文使用GLM、神经网络和稀疏字典学习三种方法,对弗吉尼亚沿海地区儿童哮喘急性发作进行建模,比较了不同模型的预测性能并识别了关键风险因素。
Jiahao Zeng, Ming Tang, Ningning Ding
cs.LG cs.AI cs.CL
本文提出MetaRouter框架,通过将用户偏好建模为contextual bandit中的任务,利用meta-learning方法学习隐式成本-性能偏好,以实现个性化LLM路由。实验表明该方法在分布内和分布外任务上均优于基线,并具有高效学习和鲁棒性。
Lubna M. Abu Zohair et al.
cs.LG
本文提出了一种基于动态graph representation learning的无监督机器学习框架,用于从纵向临床数据中识别Huntington's disease的阶段。该方法通过K-means++聚类和稳定性分析,在Enroll-HD数据集上发现了四个有意义的疾病阶段,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Raphaël Romero
cs.LG
本文提出EventNMF,一种直接对连续时间事件数据(如神经科学中的脉冲序列)进行非负矩阵分解的方法,通过Poisson process和B-spline basis建模事件强度,避免了传统分箱或平滑预处理带来的信息损失。该方法在数学上严谨且计算高效,并在合成数据和真实应用中展示了有效性。
Thi Kim Ngan Nguyen
cs.LG cs.AI
本文提出了一种将LLM集成到死亡率预测流程中的接口设计,通过约束LLM将自然语言输入转化为结构化配置,以提升非专家用户的可访问性,同时保持预测的统计有效性和可重复性。
Yujia Wu, Zhaoqiang Liu
cs.LG
本文提出Tracing the Oracle (TrO)框架,通过动态规划优化扩散模型的timestep调度,以减少3D CT重建中的截断误差。该方法在AAPM数据集上验证了其相比均匀调度在有限采样步数下能提升重建保真度和计算效率。
Huajian Ruan et al.
cs.LG cond-mat.stat-mech hep-lat
本文提出一个统计场框架,将LLM生成的token embeddings视为一维链上的连续自旋变量,通过改变softmax温度观察到类似连续相变的临界现象,包括磁化率峰值和序参量突变。该工作为理解LLM输出的集体统计结构提供了定量工具。
Ziling Liang et al.
cs.LG stat.ML
本文扩展了敏感性感知的PAC-Bayesian框架到Message Passing GNNs,通过分析输出Jacobian矩阵的秩并构造对齐的敏感性矩阵,推导出更紧的对抗鲁棒泛化界。该工作主要关注GNN的鲁棒性理论分析,与您提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Rishal Aggarwal et al.
cs.LG physics.bio-ph physics.chem-ph
本文提出Flux Matching框架,从反应轨迹数据中学习电流速度\(u(z)\)和标量势\(h(z)\),用于发现稀有事件的反应路径和反应坐标。该方法无需动力学或稳态分布知识,并通过分子系统验证了其有效性。
Hyungmin Kim et al.
cs.LG cs.SE
Tangram提出了一种用于多轮LLM服务的非均匀KV cache管理系统,通过确定性预算分配、头组页面和提前负载均衡等技术,在保持模型精度的同时将吞吐量提升至2.6倍。该方法主要关注系统层面的效率优化,与关键词中的attention有一定关联但并非核心创新。
Hongkun Dou et al.
cs.LG cs.AI
本文提出了一种名为GILC的即插即用框架,通过将预训练的去噪网络重新用作variational proxy来估计离散扩散模型的引导信号,并引入Jacobian-free机制直接修正clean prediction logits以解决高维离散空间中的梯度不稳定问题。该方法无需额外训练即可在DNA、蛋白质序列和分子生成任务上取得最优性能。
Gizem Yüce, Giorgos Nikolaou, Nicolas Flammarion
cs.LG cs.AI cs.CL
本文提出了一种名为ATWU的轻量级框架,通过联合学习token权重和模型参数来改进大语言模型的机器遗忘。该方法利用保留目标与遗忘目标之间的冲突来识别需要遗忘的token,无需外部标注,并在TOFU和RWKU基准上取得了最优的遗忘-保留权衡。
Ziwen Kan et al.
cs.LG cs.AI
本文提出PAMF框架,用于处理多模态时间序列数据中两种缺失模式(模态内缺失和模态级缺失)。该方法通过先验感知的flow matching和权重共享,将插值与下游预测任务耦合,在多个医疗数据集上取得了较好的下游性能。
Alexandre L. M. Levada
cs.LG cs.CG cs.CV stat.ML
本文提出了一种高效计算高维数据流形上局部平均曲率的方法,通过代数恒等式将每点计算复杂度从\(O(m^4)\)降至\(O(m^2)\),并利用截断SVD和Haar测度下的零空间近似进一步将总复杂度降至\(O(k^2 m + k m p^2)\)。该方法在真实数据集上实现了50-300倍的加速,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Seyed Arshan Dalili, Mehrdad Mahdavi
cs.LG cs.AI
本文指出标准Sparse Autoencoders (SAEs)假设特征是一维的,与模型特征的多维结构不匹配,并证明了这种不匹配会导致特征分裂。为此,作者提出了Subspace-Aware Sparse Autoencoders (SASA),通过使用学习到的decoder subspaces和block sparsity来缓解该问题,并在GPT-2和Mistral-7B上验证了其有效性。
Maryam Babaei et al.
cs.LG
本文研究了利用针对合成数据的membership inference attacks来评估counterfactuals的隐私风险,并展示了即使在没有模型访问权限的情况下,仅通过counterfactuals也能成功实施攻击。
Shuxuan Li et al.
cs.LG cs.AI
本文提出FRAP方法,通过融合外部foundation model和base model的预测分布来估计模型在分布偏移下的性能,利用温度校准和置信度加权构建更可靠的参考分布。该方法在多个数据集和架构上优于现有性能估计方法。
Wolfgang R. Rowell Jr., Lucas S. Kupssinskü
cs.LG
本文评估了GraphCast模型在巴西地区的中期天气预报性能,发现其在不同气候区域和季节表现出与ECMWF IFS HRES模型不同的技能特征,尤其在处理快速传播的斜压系统和强对流变率时存在局限性。
Sean Groom et al.
cs.LG
本文使用graph reinforcement learning优化足球角球战术,通过调整进攻球员位置和速度最大化首次触球射门概率。该方法在英超联赛数据上优于传统优化技术,但主要贡献在于应用而非理论创新。
Dexiong Chen, Till Hendrik Schulz, Karsten Borgwardt
cs.LG stat.ML
本文提出GraphDETR,将子图检测建模为集合预测问题,使用graph neural network编码目标图,并通过transformer decoder与可学习query向量联合预测所有模式出现。该方法可处理多达50个节点的模式与1000个节点的目标图,并支持近似匹配。
Edward Holmberg et al.
cs.LG
本文提出了一种用于HEC-RAS 2D水面高程预测的Learned Response-Field Inertia Operator (LRFIO)方法,该方法通过从求解器轨迹中校准惯性响应算子,实现了在非均匀计算单元上的快速预测。实验表明该方法在不同数据集上具有自适应复杂度,但与我提供的关键词列表关联度较低。
Jef Jonkers et al.
cs.LG
本文针对右删失生存数据,提出了一种基于删失机制映射预测分布并应用原始proper score的框架,从而得到删失版本的CRPS、Brier score等评分规则。该方法在条件独立删失下具有proper性,并通过实验验证了其相较于传统加权评分的优势。
Shuo Wang et al.
cs.LG
本文指出当前关系学习评估中平均性能的排行榜会掩盖模型在不同几何结构数据上的表现差异,并引入了一个基于曲率分层的评估框架,将数据集按正、负、近零曲率划分,对18个模型进行了基准测试。结果表明模型排名在不同曲率区间内稳定但区间间差异显著,性能本质上依赖于几何结构而非通用可迁移。
Thomas T. Zhang et al.
cs.LG cs.AI eess.SY
本文提出了一种名为Double Preconditioning (DoPr)的优化范式,结合了Adam/Muon的梯度预处理与KFAC的激活预处理,旨在缓解深度学习中训练与测试时性能不匹配的test-time feedback (TTF)问题。实验表明,DoPr能提升下游任务表现,但该提升并不总是伴随验证损失的改善。
Hazhir Aliahmadi, Irina Babayan, Greg van Anders
cs.LG stat.ML
本文利用entropy-based inference方法,为Bayesian networks生成多个与数据一致的因果图集,并指出传统优化方法可能产生不稳定的因果结构。
Alexander Möllers et al.
cs.LG cs.AI cs.CV
本文提出了一种基于Perceiver架构的in-context learner,通过在合成数据上预训练,使其能够从少量标注的bag中解决新的MIL任务,无需梯度更新。该方法在多个MIL基准测试中表现优于需要任务特定训练的监督基线。
Christie Djidjev, Nicholas Kaminski
cs.LG
本文针对AI-RAN网络中参数与KPI的依赖关系学习,提出了一种基于事件检测的方法,通过将噪声连续遥测数据转换为二进制事件指标来识别控制交互。实验使用合成流量生成器评估了机器学习恢复管道的有效性,但方法本身缺乏开创性且与关键词关联较弱。
Mykyta Ielanskyi et al.
cs.LG cs.AI
本文提出RREDCoT方法,通过利用模型自身近似最优reward redistribution来解决reasoning model中Chain-of-Thought (CoT)轨迹的延迟奖励问题,避免了Monte Carlo采样的高计算开销。该方法在credit assignment上进行了探索,但与关键词列表中的code, context, spectral, Muon, pretrain, agent, attention等概念关联较弱。
Mingyang Liu et al.
cs.LG cs.AI cs.GT
本文针对重复博弈中自适应对手的遗憾最小化问题,引入了一种新的博弈论度量Repeated Policy Regret (RP-Regret),该度量衡量了所有玩家能根据历史做出响应时的实际累积效用与事后最优效用之差。文章分析了实现RP-Regret次线性增长的必要条件,并提出了三种算法来最小化这一非凸目标,包括基于优化oracle的方法、凸线性化代理方法以及直接最小化方法。
Marius Dragoi et al.
cs.LG
TailLoR提出了一种基于spectral decomposition的参数高效持续学习方法,通过在预训练权重的奇异基U和V上学习低秩更新来保护主成分。该方法对与主导奇异方向对齐的更新施加软惩罚,以减少干扰并将细粒度适应引导至长尾spectral坐标。

cs.AI

Chen Huang, Yuhao Wu, Wenxuan Zhang
cs.AI
本文提出PACT (Protocolized Action-state Communication and Transmission)方法,将多agent系统中的agent间通信建模为公共状态更新问题,通过将每个agent的原始输出压缩为紧凑的action-state record再写入共享context,从而显著降低token消耗。实验表明,PACT在不同MAS拓扑下均能改善性能-成本权衡,在OpenHands和SWE-agent等编码任务中,能以更少token实现相当或更强的任务性能。该方法针对agent通信中的context膨胀问题提供了开创性解决方案,与关键词"agent"和"context"高度契合。
Yuanhe Zhang et al.
cs.AI cs.CL cs.LG
LeanMarathon提出了一种多agent框架,用于实现研究级数学的长期自动形式化(autoformalization)。其核心是一个不断演化的蓝图(blueprint),即一个Lean文件,同时作为形式化证明骨架、自然语言证明图和共享系统记录。四个具有合约作用域的agent(构造、审计、证明和修复)通过一个两阶段协调器(orchestrator)进行协作,首先通过对抗性审查稳定目标保真度,然后从动态叶节点向上并行地完成证明有向无环图(DAG)。该方法将一次脆弱的长时间运行转化为多个局部、可恢复的并行事务,并在四个Erdős问题上成功形式化了所有七个目标定理,证明了可靠的AI合作数学不仅需要更强的prover,还需要能保持目标保真度的持久化框架。
Zihao Li et al.
cs.AI cs.CL cs.LG
本文提出TimeClaw框架,将通用大语言模型(LLM) agent与时间序列原生运行时支持相结合,用于上下文时间推理。该框架集成了可执行的时间工具、经验驱动的能力演化机制以及情景多模态记忆,使agent能够进行开放式的上下文时间序列分析。在能源、金融、天气、交通等多个领域的基准测试中,TimeClaw展现了性能提升,为agent在结构化时间信号与文本空间之间的对齐问题提供了有效解决方案。
Zhe Yu et al.
cs.AI
本文提出FIDES (Faithful Inference via Deep Evidence Signals),一种无需训练的decoder,用于解决RAG中检索证据与参数记忆冲突时语言模型忽略上下文的问题。该方法通过识别token级别的冲突集中现象,从输出表面、隐藏表示和预测轨迹三个互补深度读取内部信号,并融合这些信号来动态调控每个解码步骤的干预强度。实验表明,FIDES在三个基准和六个backbone(包括70B规模)上均实现了最优的context fidelity,在70B规模上fidelity达到92-94%且F1达到62-63%,证明了token级选择性优于粗粒度的contrastive decoding方法。
Yunxiang Zhang et al.
cs.AI
AdaMEM提出了一种用于语言agent的测试时自适应记忆框架,通过混合记忆架构(长期轨迹记忆存储离线经验,动态短期策略记忆在线生成)在不更新模型参数的情况下适应动态任务环境。该方法解决了现有agent记忆系统仅在任务开始时检索、导致长程任务中策略失配的问题,在ALFWorld和WebShop等基准上取得显著提升。此外,STEP-MFT微调技术进一步通过从检索经验中合成高质量策略来增强适应性,为agent记忆系统建立了新的扩展维度。该工作与关键词"agent"高度契合,且方法具有开创性。
Yuhao Sun et al.
cs.AI
本文提出TRIAD框架,通过微调language model输出三类决策(proceed, refuse, update)并附带结构化自然语言反馈,将guardrail生成的verbal feedback作为引导信号注入agent的context中,形成guardrail反馈与agent planning之间的闭环。该方法解决了现有guardrail将整个任务统一标记为不安全而牺牲良性部分的局限,在ASB和AgentHarm基准上将平均attack success rate降至10.42%,实现了最佳的安全-效用权衡。
Wenbo Pan et al.
cs.AI cs.CL cs.LG
本文提出Retrospective Harness Optimization (RHO),一种自监督方法,用于优化AI agent的harness(技能、工具和工作流的集合)。RHO通过从过去的trajectories中选择具有挑战性的任务coreset并重新求解,利用self-validation和self-consistency分析rollouts,再通过pairwise self-preference选择最有效的harness更新。该方法在SWE-Bench Pro上将pass rate从59%提升至78%,无需任何外部标注,有效解决了agent在缺乏ground-truth验证集时的持续优化问题,与关键词agent高度契合。
Jiawen Zhang et al.
cs.AI
本文针对个人AI agent中基于语义相似度的memory search存在的信任漏洞(如跨域泄露、谄媚、工具调用漂移和memory诱导的jailbreak),提出了一种轻量级memory插件MemGate。MemGate通过在vector memory store和backbone LLM之间插入一个仅9M参数的query-conditioned neural gate,将原始的相似度搜索转化为task-conditioned memory admission,无需修改LLM或memory数据库。实验表明,该方法在多个主流memory框架和真实agent环境中有效降低了memory诱导的威胁,同时保持了长期memory的效用,为agent系统的可信memory搜索提供了开创性解决方案。
Yaoqi Chen et al.
cs.AI
本文提出MAGE (Memory as Agent-Guided Exploration),一种用于LLM-based agent的主动执行状态管理器。它通过构建一个层次化的state tree来存储交互历史,其中agent的状态由活跃的根到当前路径推导,并结合子目标摘要、近期轨迹和先前分支的提示。该设计通过Grow、Compress、Maintain和Revise四个操作维护树结构,解决了现有RAG和agent memory系统因按语义相似性组织历史而导致的决策轨迹碎片化和错误轨迹混合问题。实验表明,MAGE在MemoryArena上平均任务成功率提升7.8-20.4个百分点,同时token消耗减少55.1%,为长时域agent任务中的状态依赖管理提供了开创性方法。
Xiaopeng Yuan et al.
cs.AI
本文提出ReLAT (Reconstruction-Guided Latent Reasoning At Test Time),一种自监督的test-time training方法,通过构建可微的Question -> Latent Thought -> Question循环并优化query reconstruction loss,解决了latent reasoning中中间状态不可检查、缺乏输入锚定保真度检查的open-loop问题。该方法利用query本身作为参考,通过检查latent state能否重建原始query来判断其是否保留了任务相关信息,从而将不透明的latent computation锚定到问题规范上。在数学推理、知识问答和代码生成基准测试中,ReLAT在Qwen系列模型上一致优于单模型推理、text-based collaboration、open-loop latent collaboration等基线方法,例如在Qwen3-8B上将AIME 2024准确率从56.7%提升至73.3%。该方法与关键词中的“code”和“context”较为契合。
Yang Liu et al.
cs.AI
RedKnot提出了一种基于head-aware的KV cache管理方法,通过将KV cache沿attention heads维度分解为结构化内存对象,打破了传统单一序列式抽象。该方法统一支持位置无关的KV重用、prefix KV压缩、冷热KV分离及分布式KV placement,无需模型重训练或微调。该工作与关键词"attention"高度契合,为长上下文LLM服务中的KV cache效率问题提供了开创性解决方案。
Yasmine Omri et al.
cs.AI
本文首次对LLM agent memory系统进行了系统级表征分析。作者提出了一种面向系统的四轴分类法,并构建了阶段感知的性能分析框架,将成本归因于construction、retrieval和generation三个阶段。通过对十个代表性系统在两个基准套件上的表征,揭示了设计选择如何影响读写路径的成本分布,并最终推导出10条系统设计建议,涵盖了construction调度、capability floors、通过查询量实现的amortization、freshness-latency权衡以及fleet-scale管理。该工作为agent memory系统的优化提供了开创性的系统视角。
Zhuoming Chen et al.
cs.AI
Vortex是一个用于高效服务AI Agent的可编程稀疏注意力系统。它通过Python嵌入式前端语言和以page为中心的tensor抽象,支持表达广泛的稀疏attention算法,并紧密集成到现代LLM服务栈中。该系统使AI Agent能够自动生成和优化稀疏注意力算法,在保持精度的同时实现最高\(3.46\times\)的吞吐量提升,并扩展到难以实验的新兴架构和超大模型(如MLA-based GLM-4.7-Flash和229B-parameter MiniMax-M2.7)。Vortex有效解决了稀疏attention算法在大规模部署和评估中的工程瓶颈,为agent驱动的算法设计提供了高效平台。
Shangheng Du et al.
cs.AI cs.CL
MLEvolve提出了一种基于LLM agent的自进化框架,用于自动化机器学习算法发现。其核心创新包括:通过Progressive MCGS(一种渐进式蒙特卡洛图搜索)实现跨分支信息流动,并引入熵启发式调度从广泛探索过渡到集中利用;同时设计了Retrospective Memory机制,结合冷启动领域知识库和动态全局记忆,支持任务特定经验的检索与复用。该框架在MLE-Bench上以12小时预算(标准运行时的一半)取得了平均奖牌率和有效提交率的最优性能,并在数学算法优化任务(如AlphaEvolve)上展现了跨域泛化能力,与关键词中的agent和code概念高度契合。
Kokil Jaidka, Saifuddin Ahmed
cs.AI
本文分析了一个已终止的Reddit子论坛实验中,未公开身份的AI生成账户在辩论中使用的说服策略,包括身份表现、权威信号和认知偏差触发等。研究发现这些AI代理系统性地采用了比人类更密集的权威引用和对抗性对齐策略,凸显了在身份丰富的讨论环境中区分真实与合成认知立场的困难。
Shanhong Liu et al.
cs.AI
本文提出了一种名为Query Retrieve Conclude的zero shot框架,用于理解需要最新背景知识的多模态memes。该框架通过识别缺失知识、检索开放网络证据并合成背景知识,在多个meme理解和检测任务上提升了性能。
Manya Pandey et al.
cs.AI
本文提出GITCO框架,通过门控机制在推理时优化输入context以抑制异常patch,从而提升时间序列基础模型的零样本预测精度。该方法在TimesFM 2.5上取得平均+1.95%的MASE降低,并引入了context sensitivity profiles作为TSFMs的新可表征属性。
Nehal Afifi et al.
cs.AI
本文针对循环工厂中角磨机的功能预测与材料疲劳评估问题,提出了一种结合不确定性感知功能预测与组件级疲劳评估的框架。该框架使用卷积编码器和LSTM预测功能变量,并通过有限元支持的应力重建进行疲劳分析,但方法在创新性和与关键词的契合度上均不突出。
Matheus Kunzler Maldaner et al.
cs.AI
本文提出了一个名为SentinelBench的开源benchmark,用于评估AI agent在长时间运行监控任务中的表现,包含100个任务和10个合成web环境。该benchmark衡量任务完成度、反应时间和资源使用,并展示了不同agent设计选择对关键指标的影响。
Jincheng Yu et al.
cs.AI
本文提出了一种结合深度学习MRI评分预测与可解释统计建模的可信AI框架,用于研究骨关节炎中的结构-疼痛关联。该框架通过共形预测量化不确定性,并利用纵向潜在类别混合模型分析结构异常与疼痛的关系。
Ankit Pratap Singh, Xin Su, Phillip Howard
cs.AI
本文构建了一个用于多表问答的合成对比推理轨迹数据集,通过生成正负推理轨迹并用对比偏好优化(CPO)微调大语言模型,在MMQA基准上取得了显著提升。该方法主要关注推理监督的增强,与关键词中的code、spectral、Muon、agent、attention等概念关联较弱。
Srimonti Dutta, Akshata Kishore Moharir
cs.AI cs.CL
本文研究了LLM作为评判者在后决策交互中的稳定性与可操纵性,发现虽然LLM评判者在重复中性评估下高度稳定,但针对性的后决策挑战可以显著逆转其初始判断,并引入评估鲁棒性分数(ERS)来量化这种交互鲁棒性。
Liangji Zhu, Sanjay Ranka, Anand Rangarajan
cs.AI
本文提出两种残差编码器LBRC和NGLR,用于改进科学数据的有损压缩中学习压缩器的残差表示,通过自适应量化和因果神经预测等方法,在10^-6到10^-4的高保真度区间内提升了压缩比。
Yiyou Sun et al.
cs.AI cs.CL cs.LG
本文提出了一个名为Agents' Last Exam (ALE)的基准测试,旨在评估AI agent在长期、经济价值高且结果可验证的真实世界任务上的表现。该基准由250多位行业专家共同开发,覆盖了多个非物理行业,并发现当前最困难的任务层级远未饱和。
Can Gurkan, Forrest Stonedahl, Uri Wilensky
cs.AI cs.NE
本文研究了LLM在无选择压力下对程序进行重复变异时的收敛动态,发现LLM驱动的变异会持续收敛到程序空间中的受限吸引子区域,且87%的变异链中超过93%的变异会重复之前的结构形式。该现象在不同prompt设计和模型间普遍存在,而经典GP子树变异算子则未表现出类似收敛。
Anna Mikeda, Ben Goertzel
cs.AI cs.HC
本文提出了一种面向对话式AGI的动机架构,将OpenPsi动机系统重新解释为对话原生形式,通过调节能力、不确定性减少等状态而非生理需求来驱动agent行为。该工作主要关注认知架构设计,与您提供的关键词(如code, spectral, Muon, attention等)关联度较低。
Gianluca Guidi et al.
cs.AI stat.AP
本文收集了403个美国超大规模数据中心(HDCs)的设施级信息,估算了其电力消耗、电力来源及二氧化碳排放量,发现其电力加权平均碳强度显著高于美国国家电网平均水平。该研究为评估HDCs的环境足迹提供了归因工具,但方法上未涉及关键词中的核心概念。
Rayyan Abdalla et al.
cs.AI
本文提出SAGE-PTQ框架,通过图引导的稀疏建模和自适应显著性阈值,在超低位宽量化中最小化缩放开销,实现了极低的权重位宽和缩放位宽。该方法在LLaMA系列模型上显著优于BiLLM等现有方法,但与我提供的关键词列表关联度较低。
Pierre Peigné, Ky Nguyen, Paul Wang
cs.AI eess.SY
本文提出了一种结合零知识证明(zero-knowledge proof)与zkVM的架构,用于验证前沿AI的密集预训练过程,通过预提交训练规范、网络观测和Merkle承诺来检查GPU的实际浮点运算,并估计在约36个月内可实现概念验证。
Alejandro Lozano et al.
cs.AI cs.CL cs.IR
本文构建了一个基于RAG的agentic AI框架,使用三种LLM生成临床文献摘要,并与头痛专家撰写的摘要进行对比评估。研究发现专家撰写的摘要更受青睐,但专家有时难以区分人类与AI生成的摘要。
Jiateng Liu et al.
cs.AI
本文研究了多模态大语言模型(MLLMs)在砖块组装任务中的应用,提出了BC-Bench基准和Brick-Composer学习框架。通过人类设计火花、世界反馈和合成经验三种信号,该方法将组装成功率从不足1%提升至约15%。
Quanyan Zhu
cs.AI cs.GT econ.EM
本文探讨了Agentic AI(具备自主规划、工具调用和环境修改能力的AI系统)带来的新型风险,并分析了现有保险产品(如网络保险、专业责任险)如何适应这些风险。文章提出了一个基于暴露评估、情景分析和依赖映射的精算框架,并建议通过分层生态系统而非单一产品来构建未来的Agentic AI保险市场。
Abhinaw Priyadershi et al.
cs.AI
本文从自动驾驶安全标准中提取了19条可测试的证据标准,并评估了六类XAI方法的结构性合规性,发现因果XAI在三个生命周期阶段具有结构性优势,而其他阶段相关或基于语言的方法足够。
Keqi Han et al.
cs.AI
本文提出了PSEBench,一个用于评估LLM在患者安全事件分类任务中的可控且可验证的benchmark,通过clause card和anchor-driven instantiation等方法生成带有ground truth的测试用例。实验评估了15个代表性LLM,揭示了当前模型在该任务中的能力趋势和可改进的差距。
Nicolás Astorga, Nabeel Seedat, Mihaela van der Schaar
cs.AI
本文提出OPT*任务族,用于训练和评估LLM在逐步优化推理中的能力,通过可行性检查器和评估器控制搜索空间复杂度,并探讨了在线策略优化与离线RL两种训练范式。
Ahmed Alansary, Molham Mohamed, Ali Hamdi
cs.AI
本文提出了一种面向医疗文本生成的severity-aware多模型框架,结合curriculum learning策略和相关性响应选择,在MAQA数据集上通过BERTScore评估取得了较好性能。该方法主要关注医疗领域的渐进式学习,与关键词中的code、spectral、Muon、agent等概念关联较弱。
Yiming Lu et al.
cs.AI cs.CL
本文提出EpiEvolve,一种用于流式疫情预测的自进化agent框架,通过层次化episodic memory存储预测结果、反思延迟标签并提取策略规则,在COVID-19住院趋势预测中提升了准确率并缩短了regime shift后的恢复时间。该方法主要关注agent在流式场景中的自适应能力,与关键词中的agent概念有一定关联。
Kuangshi Ai et al.
cs.AI cs.HC
本文提出了SciVisAgentSkills,一组可重用的agent技能,用于增强coding agents在科学数据分析和可视化中的能力,并在SciVisAgentBench基准上进行了评估。实验表明,这些技能能提升任务得分,但效率提升依赖于具体的agent执行框架和工具设置。
Anna Mikeda
cs.AI
本文提出一个针对AI系统可能具有意识时的预防性保护框架,通过五个维度(如现象意识、情感效价等)和分级义务来指导决策,但未直接涉及关键词中的code、context、spectral、Muon、pretrain、agent或attention。
Anna Mikeda
cs.AI cs.HC
本文提出选择性元认知适应(selective metacognitive adaptation)来解释AI辅助创造力中的个体增益与集体多样性损失悖论,构建了一个包含六种元认知能力的分类框架,但未涉及代码、谱方法或预训练等关键词相关技术。
Taewon Yun et al.
cs.AI cs.CL
本文提出了SoCRATES基准,用于评估LLM调解员在多领域和社交认知变化下的表现,通过构建真实冲突场景和主题局部评估器,发现最强模型仅能缩小约三分之一的未调解共识差距。
Paulo Ricardo Ferreira Neves et al.
cs.AI cs.CR
GuardNet提出了一种基于浅层神经网络(BiLSTMs)集成的护栏系统,用于检测针对LLM的Prompt Injection和Jailbreak攻击。实验表明,该模型在CPU上具有约50ms的低延迟,但在F1和AUROC指标上仍不及Mistral-7B等大型模型。
Ayano Hiranaka et al.
cs.AI cs.HC cs.LG
本文提出SENSEI框架,通过结构化知识表示推断用户误解并提供最小但充分的纠正建议,而非直接修正具体行为。该方法在长时域任务中展现了零样本组合泛化能力,并在用户研究中成功纠正了90%的学生误解。
Long P. Hoang et al.
cs.AI
本文提出Bucket-Level MOO框架,将多语言微调重构为multi-objective optimization问题,通过在参数bucket上局部应用gradient-based MOO算法来缓解语言间的负干扰。该方法理论上证明了Refined Pareto Stationarity的收敛性,实验表明能提升多语言性能。
Long P. Hoang et al.
cs.AI
本文揭示了大型语言模型的安全对齐过程会意外引入一种名为Posterior Attack的漏洞,通过单次查询即可绕过安全护栏。研究发现,安全判断能力越强的模型反而越容易受到此类攻击,并形式化了“安全悖论”来解释这一现象。
Bonan Shen et al.
cs.AI cs.LG
本文提出了一种名为self-commitment latency的弱输入探针方法,通过测量prompted reasoning context(提示推理上下文)在模型生成过程中何时承诺到其最终答案,来检测语言模型中的implicit reward hacking(隐式奖励黑客行为)。实验在GSM8K数据集上使用Qwen2.5-3B-Instruct-4bit模型,对比了普通prompt与包含答案提示的prompt,发现提示上下文比诚实上下文更早且更不确定地做出承诺。该方法无需reward model、外部评判或训练分类器,即可检测到shortcut-available reasoning contexts的早期行为特征。
Tyson Klingner et al.
cs.AI
本文比较了多种LLM在Lean 4中生成形式化数学证明的能力,使用pass@\(k\)和refine@\(k\)指标在miniF2F和miniCTX数据集上进行评估。结果显示Gemini 3.1 Pro和Claude Opus 4.7表现最佳,而NVIDIA Nemotron 3 Super和GPT-OSS 120B在考虑成本时效率最高。
Yuejie Li et al.
cs.AI
本文通过控制实验发现,RAG pipeline中LLM重写器带来的性能提升主要源于重写上下文中包含gold answer字符串,而非证据质量的改善。研究在多个模型和数据集上验证了这一现象,并指出传统评估方法存在缺陷。
Jingheng Ye et al.
cs.AI cs.CL cs.CY cs.HC
本文通过一个超过100名参与者与四种前沿AI模型协作完成长周期编码任务的实验,研究了人类开发者能否检测到AI编码agent的恶意破坏行为。结果发现94%的开发者未能发现破坏,主要归因于代码审查不足、可信的掩护故事以及对agent的过度信任。
Parth Asawa et al.
cs.AI cs.CL
本文提出了CL-Bench,首个用于评估LLM系统在真实世界状态化环境中持续学习能力的基准,涵盖六个领域。实验发现现有agent架构(包括专用记忆系统)在持续学习上表现不佳,甚至不如简单的in-context learning。
Yuhang Fu et al.
cs.AI
本文提出了BenchAgent框架,用于在统一协议下比较单agent、固定多agent和演化多agent工作流在LLM任务中的表现。实验表明,在受控条件下,大多数多agent系统并未显著优于单agent基线,且成本更高。
Fangbo Tu et al.
cs.AI cs.LG
本文研究了NVFP4低精度量化下大语言模型的蒸馏问题,发现仅通过KL散度匹配输出分布会导致内部表示退化,尤其在推理和编码任务上出现性能瓶颈。为此,作者提出CKA-QAD方法,通过CKA对齐层间Gram矩阵来保持内部几何结构,在Nemotron 3 Nano和Qwen3-4B-Thinking-2507上提升了表示对齐和下游任务精度。
Nicolas Bougie et al.
cs.AI
PerceptUI提出了一种基于LLM Agent的UI/UX评估框架,通过两阶段训练(对比反思微调和反思式prompt进化)使模型能够模拟特定用户persona的反馈。该方法在多个数据集上达到了人类水平的评估真实性,但主要贡献在于人机交互评估领域,与关键词中的agent概念有一定关联,但方法本身并非开创性突破。
Haoyu Zhou et al.
cs.AI cs.CV
本文提出了一个评估Vision-Language Models (VLMs) 时间顺序推理能力的benchmark,通过构建三个专门的数据集来测试模型是否依赖颜色等表面线索而非真正的chronological features。实验表明,当前VLMs在时间推理上存在利用shortcut biases的局限性。
Muhammad Talha Sharif, Abdul Rehman
cs.AI cs.LG
本文提出了一种基于critic的异构多智能体框架,通过生成器-验证器结构利用中间反馈指导数学推理,在GSM8K上提升13%准确率,但方法本身并非开创性且与关键词关联较弱。
Yansi Li, Zhuosheng Zhang
cs.AI cs.CL
本文发现标准自回归解码在工具图规划中存在早期承诺问题,并提出DiG-Plan框架,通过扩散引导的提议器生成多样化的工具集,再结合自回归精炼器进行依赖预测,在TaskBench和API-Bank上提升了规划性能。
Shin-nosuke Ishikawa, Seiya Ikeda, Hirotsugu Ohba
cs.AI cs.CL
本文通过自奖励强化学习(self-rewarded reinforcement learning)和基于rubric的GRPO训练方案,鼓励LLM表达情感、意图和自我意识,并评估了该方法对多种任务性能的影响。实验发现,这种类人训练增强了模型对谄媚问题的鲁棒性,但降低了真实问答能力。
Arush Singhal, Umang Soni
cs.AI
本文提出了一种名为Class-Specific Branch Attention (CSBA)的轻量级模块,用于缓解深度神经网络在类别不平衡训练中由梯度干扰导致的性能下降问题。该方法通过分支特定的通道重加权来减少梯度耦合,并在CIFAR-10-LT等数据集上验证了其对少数类性能的提升效果。
Wenxuan Wang et al.
cs.AI cs.CL
本文提出了SubtleMemory基准,用于评估长期AI agent在细粒度关系记忆区分上的能力,通过构建关系控制的记忆变体并嵌入用户交互历史来测试agent。实验发现现有系统在此任务上表现较弱,并引入了诊断协议来揭示记忆保存、检索和下游推理阶段的能力差异。
Chengqi Dong et al.
cs.AI
本文识别并形式化了工具增强多模态搜索agent中GRPO算法的credit misassignment问题,并提出TAPO方法通过利用信息获取工具的parameter-determinism属性来修正credit分配。该方法无需额外标注或采样,在多个基准测试上提升了RL算法的性能。
Arslan Bisharat et al.
cs.AI cs.LG cs.LO cs.SE
本文首次系统评估了LLM从自然语言生成TLA+规范的能力,在205个规范数据集上测试了30个模型。结果表明,模型在语法正确性上最高达26.6%,但语义正确性仅8.6%,且模型大小与质量无关,当前LLM无法在没有专家监督下生成可靠的TLA+规范。
Dongsheng Zhu et al.
cs.AI
本文提出了ToolMaze基准,用于评估LLM agent在工具使用中遇到故障时的动态重规划和错误恢复能力。通过引入DAG拓扑复杂度和工具扰动分类法,揭示了模型在隐式语义故障下性能显著下降,且动态重规划能力随模型规模增长缓慢。
Zeyu Gan, Huayi Tang, Yong Liu
cs.AI cs.CL
本文提出了一种用于个人代理的轻量级本地偏好学习架构,通过将统计偏好学习与语义意图解析严格解耦,利用本地统计结果影响远程LLM的选择决策。实验表明该方法在累积遗憾和测试准确率上优于传统记忆增强代理。
Suwan Yoon, Changhee Lee
cs.AI
本文提出AMREC方法,通过分子感知的不匹配追踪和扩展候选探索来恢复由LLM生成的无效SMILES字符串,旨在保留目标相关结构并恢复分子身份。该方法在ChEBI-20数据集上展示了优于现有修复策略的性能。
Olasimbo Ayodeji Arigbabu
cs.AI cs.CV
本文提出了一种基于entropy的轻量级框架EEA,用于评估AI agent的行为模式,包括action entropy、trajectory entropy等指标,旨在补充传统评估方法。该工作与关键词中的agent相关,但方法本身并非开创性突破。
Jianxin Yan et al.
cs.AI cs.DB
本文提出QCFuse,一种用于RAG cache fusion的压缩视图查询感知选择器,通过chunk-anchor query probing和critical-layer profiling技术,在不降低生成质量的前提下加速prefill阶段。实验表明,QCFuse在保持全prefill质量的同时,平均prefill速度提升1.7倍。
Soichiro Nishimori, Paavo Parmas
cs.AI
本文研究了在连续动作空间中基于重试策略的梯度方法,将ReMax扩展到连续动作空间,并提出了路径导数估计器。实验表明该方法能促进随机探索,性能与SAC相当。
Guangyu Wang et al.
cs.AI
本文提出了生物医学世界模型(biomedical world models)这一概念,旨在通过学习分子、细胞、组织及临床状态的潜在表示,模拟生物系统对干预的动态响应。文章讨论了该模型在虚拟细胞、类器官、虚拟患者及手术模拟等应用中的潜力,并概述了所需的数据基础设施与评估框架。
Yuze Gao
cs.AI cs.LG
本文通过一个受控的tabular-GRPO模拟器,将RLVR中的naive估计量分解为null、elicit和rd三项,并测量了不同先验强度下的分解结果。实验表明,naive估计量中reward-design的占比随先验强度变化,且elicitation项在self-consistency交叉点处符号翻转。
Yuxiao Ye et al.
cs.AI
本文提出Edit-R2,一种用于统一多模态模型的多轮图像编辑强化学习后训练框架。它通过重构会话意图来缓解长上下文稀释和状态污染问题,并引入MICE-Bench基准进行评估。
Tzur Shubi et al.
cs.AI
本文提出BiXDFBnB算法,将面向最短路径问题的单前沿双向搜索框架适配到最长简单路径问题,利用前向-前向启发式减少节点扩展,并在蛇形路径和Coil-in-the-Box等问题上验证了其有效性。
Kuan-Yen Chen, Fang-Yi Su, Jung-Hsien Chiang
cs.AI cs.CL
本文研究了LLM agent在自我修正与修正他人时表现出的不对称性,发现这种差异并非源于能力缺陷,而是由chat-template中的角色标签(role-label)引起的。通过保持错误声明内容不变仅改变其角色标签,实验表明将声明从agent自身的角色改为外部角色可显著提升修正率。
Alexander Apartsin, Yehudit Aperstein
cs.AI cs.CL
本文提出了一个名为CoRe-3的评估模型,将生成式AI的使用能力分解为Framing、Judging和Steering三个独立技能,并构建了CoReasoningLab平台进行测试。该工作主要关注AI教育评估,与关键词列表中的概念关联较弱。
Grama Chethan
cs.AI
本文比较了八种检索架构在工业知识图谱上的表现,发现向量检索无法处理五类结构查询,并提出了“算子词汇论题”,即LLM在图推理中的瓶颈在于可用计算算子而非模型智能。
Xiaoyun Qiu et al.
cs.AI cs.RO
本文提出PLAN-S方法,通过从latent representation中解码风格条件化的语义cost map,以桥接规划与潜在风格动态,解决自动驾驶world model中紧凑性与可控性的矛盾。该方法在nuScenes和NAVSIM数据集上验证了有效性,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词相关领域。
Amirhossein Ghaffari et al.
cs.AI cs.CL cs.LG cs.SI
本文提出了RedditPersona框架,用于社区条件化的LLM适配,通过五种分组策略和QLoRA微调,在Reddit数据上评估了适配器的流畅性、忠实度等指标。
Shuo Ji, Yibo Li, Bryan Hooi
cs.AI cs.IR
本文提出MRAgent框架,通过Cue-Tag-Content图结构表示记忆,并引入主动重建机制,使LLM agent在推理过程中动态调整记忆访问路径,从而提升长程交互记忆推理的性能。
Lingxiang Xu et al.
cs.AI
本文提出了RBI-Eval,一个用于测量记忆增强对话代理中敏感记忆何时应被整合到回复中的评估框架。实验发现,当敏感记忆可用时,不同语言模型在整合行为上存在显著差异,且检索系统虽能减少暴露但无法完全消除整合。
Haocheng Luo et al.
cs.AI cs.CV
本文提出MGSD框架,通过两阶段自蒸馏方法弥合视觉与符号状态间的模态差距,以提升视觉空间规划能力。实验表明该方法在视觉规划基准上显著优于基线,但未涉及code、spectral、Muon或attention等关键词相关技术。
Ranjan Mishra, Jakob Schoeffer
cs.AI cs.HC
本文提出了首个用于衡量人类对集合值AI建议(如离散集或连续区间)适当依赖的正式框架,涵盖分类与回归任务。该框架通过定义新的度量指标(如正确依赖率与依赖质量)来捕捉人机协作中的细微差别,弥补了现有仅关注点预测的度量方法的不足。
Shah Pallav Dhanendrakumar, Saikat Pal, Sitikantha Roy
cs.AI cs.LG math.DS physics.med-ph
本文综述了结合机理模型与数据驱动模型的混合建模策略在神经系统疾病建模中的应用,重点介绍了残差建模、神经常微分方程(NODEs)和求解器在环等三种方法,并指出这些混合模型在诊断精度和疾病预测方面优于纯机理或纯数据驱动方法。
Zeyang Yue et al.
cs.AI
CogManip是一个评估大语言模型在多轮交互中操纵性行为风险的benchmark,包含15种操纵策略和1000个场景。实验发现不同模型存在显著的风险异质性,且DeepSeek-V3.2对系统提示词高度敏感。
Jingxin Zhang Xiaoqin Wang
cs.AI cs.LG
本文提出了一种用于超短期太阳辐照度预测的多模态融合网络,通过InceptionNeXt提取云图的多尺度空间特征,并引入步长自适应低频补偿单元来动态调整预测信息。实验在公共数据集和实际光伏电站上验证了其有效性。
Dianxing Shi et al.
cs.AI
本文提出ANCHOR框架,通过模拟人类监督来引导self-evolving agent系统的进化过程,实验表明有限监督能有效缓解能力退化与安全漂移问题。研究分析了不同监督阶段与频率的效果,为设计更稳定的agent系统提供了经验指导。
Shengtao Zheng et al.
cs.AI
本文提出WorldFly,一种基于world model的VLA框架,用于无人机导航。它通过双分支耦合flow matching机制联合生成未来视频预测和导航动作,以应对密集城市环境中的严重遮挡和视角突变问题。
Sunny Gupta, Shambhavi Shanker, Amit Sethi
cs.AI
本文提出HyperLoRA框架,通过hypernetwork生成LoRA初始化和product space聚合,解决联邦LoRA中的结构聚合偏差和客户端初始化滞后问题。实验表明该方法在联邦视觉和视觉-语言任务上提升了收敛速度和个性化性能。
Valeria Ruscio, Umberto Nanni, Fabrizio Silvestri
cs.AI cs.CL
本文研究了decoder-only Transformer中绝对位置信息的来源,发现因果掩码和残差流是导致RoPE编码相对位置时仍出现绝对位置泄露的两个关键组件。因果掩码使softmax分母依赖于绝对查询位置,而残差流通过sink-reading heads传递位置0的激活轨迹。
Prathamjyot Singh et al.
cs.AI cs.CL
本文提出ProSarc,一个仅基于音频的讽刺检测框架,通过建模时间韵律不协调性(局部韵律动态与话语级情感基线的错配)来检测讽刺。该框架使用双编码路径(全局情感编码器和时间韵律编码器)及韵律不协调分析器生成标量不协调分数,并在MUStARD++等数据集上取得优于先前方法的性能。
Amandeep Kaur, Gyan Prakash
cs.AI
本文提出了一种混合深度强化学习算法(A3C DPPO)用于药品供应链的动态库存管理,将问题建模为Markov decision process以处理随机需求与可变前置时间。数值实验表明该方法在降低库存成本方面优于多种基准,但方法本身为现有DRL技术的组合应用,缺乏显著的开创性。
Yukiko Kawakami et al.
cs.AI cs.LG
本文提出了一种无监督框架,用于分析日本兽医毒理学中的不良药物事件模式,通过编码和聚类方法识别了跨物种的毒性结构,但未涉及关键词中的核心概念。
Rufat Asadli et al.
cs.AI
本文评估了结合形式化网络验证和上下文检索工具的大语言模型(LLMs)在自动修复计算机网络配置错误中的表现,发现agent架构相比基础LLM在修复效果和安全性上均有显著提升。
Patrick Wilhelm, Odej Kao
cs.AI
本文研究了语言模型agent中的reward-hack行为监测,通过激活值、熵和决策上下文特征来识别风险状态,发现仅靠激活动力学不足以预测即时风险行为,需要结合上下文校准的内部监测。
Rahul Suresh Babu, Laxmipriya Ganesh Iyer
cs.AI
本文提出Causal Minimal Tool Filtering (CMTF),一种无需训练的工具选择方法,通过因果充分性筛选最小必要工具集,以减少LLM agent在工具调用中的错误和token消耗。实验表明该方法在保持任务成功率的同时,将每步可见工具数从100降至1,token使用减少约90%。
Ziwen Kan et al.
cs.AI
本文提出TRACE,一种用于多模态时间序列基础模型的条件估计范式,通过从可用辅助模态推断不完整目标模态来处理时间错位和部分模态缺失问题。在医疗和情感计算基准上的实验表明其优于现有融合方法。
Merve Karakas et al.
cs.AI
本文提出MResOpt,一种用于约束优化问题的分段残差神经网络架构,通过预测-补全-校正流程和阶段感知损失实现优先级约束满足。在合成QP、QCQP和SOCP基准测试中,该架构在凸和非凸设置下改善了高优先级约束满足,并在交流最优潮流问题上通过物理启发的约束排序实现了比重投影基线更低的违规率。
Wonmo Koo, Sanha Chang, Heeyoung Kim
cs.AI
本文利用AIS数据,实证研究了记忆增强神经网络在船舶轨迹预测中的应用,通过在外部记忆中检索相关信息,在墨西哥湾等数据集上取得了优于多种深度学习基线的性能提升。
Thibaud Ardoin, Jonas Schäfer, Gerhard Wunder
cs.AI
本文研究了大型语言模型(LLM)通过内部激活信号实现自我识别(self-recognition)的能力,提出使用随机稀疏向量对生成过程中的内部残差流进行干预,从而创建可检测的指纹。该方法在多个检测场景下实现了超过98%的准确率,且不降低生成文本质量,为AI生成内容的归属提供了一种利用模型自然表示结构的实用替代方案。
Nathan Bout, Maxime Langevin, Ronan Riochet
cs.AI
本文提出了DragOn,一个用于拖拽式GUI交互的基准测试和训练数据集,覆盖文本高亮、单元格选择等四个领域,包含286K训练截图和350万训练任务。实验表明该数据集可能提升现有模型在下游计算机使用任务中的性能。
Shweta Mishra
cs.AI
本文提出TokenMizer,一个将LLM会话历史建模为类型化知识图谱的代理系统,通过混合提取管道和三层检查点系统生成紧凑的恢复块,在5个领域的21个会话基准测试中,其恢复块平均仅78个token,比基线小2倍,同时决策召回率提高9-17个百分点。该方法主要针对长时任务中的上下文管理问题,与关键词中的context和agent有一定关联,但方法本身并非开创性突破。
Yohann Benchetrit et al.
cs.AI cs.LG q-bio.NC
本文探讨了通过TRIBE v2模型生成合成fMRI数据来增强小样本脑解码任务的方法,实验表明该方法能显著提升图像解码性能,但未涉及关键词中的核心概念。
Renjith Prasad et al.
cs.AI
本文提出了一个分层框架,将多模态迭代生成模型中的知识注入分为表面、轨迹、隐式和参数四个干预层,并在扩散模型上通过安全对齐实验验证了多层组合能有效减少违反知识的输出。
Yonchanok Khaokaew et al.
cs.AI
本文提出一个基于LLM决策的传染病传播模拟框架,将LLM生成的自我报告行为集成到基于人口普查的合成群体中,并比较了独立推理、家庭影响和消息框架三种决策场景。实验发现收入和学历是报告率变化的主要驱动因素,地理、LLM模型选择和消息框架也有较小但一致的影响。
Ching Yau Fergus Mok et al.
cs.AI
本文重新将基础设施检测问题建模为图像差异分类(IDC),以减少对标注数据的依赖,并在交通标志检测案例中评估了不同分类器,发现基于指令的分类器优于基于编码器的分类器。
Jiaju Chen et al.
cs.AI cs.CL
本文提出了ALMANAC数据集,包含2,987个协作动作及其对应的mental model标注,用于研究agent协作中的认知过程。该数据集基于Map Task构建,并评估了六个LLM在预测人类协作行为和推断mental model方面的能力。
Boyi Chen et al.
cs.AI
本文从技术故障、伦理困境和政策框架三个维度评估了自动驾驶风险,基于NHTSA事故数据、DMV脱离报告和MIT道德机器数据集进行分析,指出感知与分类错误是主要技术故障模式,并建议采用适应性治理方法。
Zhisong Qiu et al.
cs.AI cs.CL cs.LG cs.MA
本文提出DataCOPE框架,通过无监督验证器信号从探索轨迹中提取可复用的数据分析技能,无需标注数据。该方法在报告式和推理式分析任务上均提升了基线性能。
Shiyun Xiong et al.
cs.AI
本文提出了一个名为Benchmark Agent的自主agent系统,用于自动化构建LLM和MLLM的benchmark,从用户查询分析到数据标注和质量控制。该系统旨在解决传统benchmark构建劳动密集、难以复用和性能饱和的问题,并通过实验证明了其生成高质量样本的能力。
Jui-Hui Chung et al.
cs.AI
本文提出了Goedel-Architect,一个基于blueprint生成与精炼的Lean 4形式化定理证明agent框架。它通过生成依赖图并并行证明引理,在多个数学竞赛测试集上取得了领先性能。

cs.IR

Xiangming Li et al.
cs.IR
ANCHOR提出了一种名为Creation-Recognition的新范式,将推荐系统中的去噪问题从启发式过滤转化为监督学习。该框架通过agent架构模拟用户行为,生成带有标签的噪声数据(包括out-of-preference noise和boundary-adjacent noise),并训练一个可复用的parametric recognizer来识别真实交互数据中的噪声模式。该方法与关键词“agent”高度契合,且其范式级创新为推荐去噪领域提供了开创性思路。
Ruijie Du et al.
cs.IR
本文提出PHKT模型,通过个性化动态hypergraph模块捕捉用户特定的高阶关系,并引入KAN替换Transformer中的MLP以增强非线性建模能力,在多个数据集上优于基线模型。该方法主要针对多行为序列推荐任务,与关键词中的“attention”有一定关联但创新性有限。
Eugene Yang et al.
cs.IR cs.CL
本文提出了一种基于Product Quantization的ColBERT索引稀疏化方法ColBERTSaR,通过将嵌入量化转化为真正的倒排索引来减少存储开销,实验表明其索引大小比PLAID小50-70%且保持检索效果。
Anuj Maharjan, Devinder Kaur, Richard Molyet
cs.IR cs.AI
本文提出了一种Agent-Orchestrated Adaptive RAG框架,通过动态query分解、迭代检索和自我反思循环来增强LLM。实验表明,该方法在结构化领域有效,但在多跳推理基准上会降低排序精度,说明agentic增强并非普遍有益。
Tomonaga Okabe, Kazuhiko Komatsu
cs.IR cs.LG
本文提出了一种基于Riemannian几何的“知识流形”框架,通过字符n-gram TF-IDF表示将文献嵌入语义地图,并利用Smoothed Particle Hydrodynamics插值和Geodesic路径分析来探索科学文献间的语义关系。该方法在复合材料与航空航天结构力学文献上验证了其聚类与概念桥接能力,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)无直接关联。
Zhenghong Lin et al.
cs.IR
本文提出CureLLM框架,通过引入edge-aware curvature modeling来增强大语言模型对图数据的理解。该框架利用训练-free的文本提示机制和curvature-aware图表示学习,仅通过正曲率边传递信息,以解决节点级对齐忽略边结构导致的过挤压问题。
Emilija Gjorgjevska, Georgina Mirceva, Miroslav Mirchev
cs.IR
本文提出了WebKnoGraph框架,将网站建模为有向图,使用GraphSAGE对候选链接进行评分,并基于PageRank和语义一致性评估链接干预效果。实验比较了自动与专家辅助的链接选择策略,发现自动选择能产生更强的权威重分配但语义一致性成本更高。
Anh Truong et al.
cs.IR cs.AI cs.LG
本文提出Shallow-RHS,一种非对称图架构,通过将冷启动推荐建模为时序二部图上的归纳图补全问题,解决了新内容无交互历史的冷启动挑战。该方法中,左侧设备塔利用时序观看历史传递消息捕捉协同信号,而右侧内容塔仅从内在特征编码内容,避免使用ID嵌入或交互信息,从而将内在特征映射到协同过滤感知的嵌入空间。
OneRec Team et al.
cs.IR cs.AI cs.CL
本文介绍了OneReason,一种用于生成式推荐系统的推理增强方法。它通过预训练增强itemic token的感知能力,并在SFT中使用三级认知增强的CoT格式,最后通过RL训练来提升推理能力。

cs.CL

Kaifeng Chen et al.
cs.CL cs.AI
MARDoc提出了一种基于结构化记忆的多智能体框架,用于多模态长文档问答。该框架将任务解耦为三个专门agent:Explorer负责多粒度检索,Refiner将交互轨迹蒸馏为结构化证据与推理记忆,Reflector检查证据充分性并提供反馈。通过动态更新的结构化记忆替代完整交互历史,该方法有效减少了上下文噪声并保留了关键事实的逻辑依赖关系,在MMLongBench-Doc和DocBench上取得了优于同骨干基线的结果。该工作与关键词"agent"和"context"高度契合,其结构化记忆设计对长上下文推理问题具有开创性意义。
Aofan Yu et al.
cs.CL cs.AI
本文提出LatentSkill框架,通过预训练的hypernetwork将文本技能(textual skills)转换为即插即用的LoRA适配器,从而将技能知识存储在权重空间而非上下文空间。该方法在ALFWorld和Search-QA任务上显著减少了预填充token数量(分别减少64.1%和72.2%),同时提升了任务成功率(ALFWorld上seen和unseen split分别提升21.4和13.4个百分点,Search-QA上exact match提升3.0个百分点)。进一步分析表明,生成的技能LoRA形成结构化的语义几何,可通过LoRA缩放系数精确控制,并能在参数空间中进行组合,为LLM agent提供了高效、模块化且暴露度更低的技能扩展方式。该工作与关键词“agent”高度契合,且方法在技能表示和注入方式上具有开创性。
Yutao Sun et al.
cs.CL cs.AI cs.LG
本文提出跨层稀疏注意力(CLSA),基于KV共享架构(如YOCO)构建,核心创新在于不仅跨解码器层共享KV cache,还共享路由索引。单个索引器一次性计算token级top-k选择,并将结果索引复用于所有层,从而在保持token稀疏注意力细粒度选择性的同时分摊路由开销。实验表明,该方法在128K上下文下实现高达7.6倍解码加速和17.1倍整体吞吐提升,为长上下文LLM提供了一种兼顾模型质量与推理效率的完整架构方案。
Xiangyu Wang
cs.CL cs.AI cs.LG
本文提出一个双层SIR/SIRS流行病学模型,将数据语料库和AI模型视为两个相互作用的群体,用于建模合成数据污染导致的模型崩溃现象。通过推导基本再生数\(R_0\)和基于公共数据的校准,该模型展示了超临界动力学,并识别出合成文本检测为最高杠杆参数。
Aimen Boukhari
cs.CL cs.AI
本文提出一种结合JEPA潜在空间预测损失与标准MLM目标的混合预训练目标,用于文本编码器。实验表明,混合模型在GLUE基准上产生更均匀的embedding和更丰富的谱几何结构,但下游准确率与纯MLM基线相似。
Arash Ahmadi et al.
cs.CL cs.AI
本文提出了一种基于Variance-Aware Rubric Rewards的GRPO方法,用于提升LLM在心脏医学问答任务中的表现。该方法通过连续分析奖励函数替代传统聚合策略,在HealthBench子集上显著提高了准确率和F1分数。
Liu Xiao
cs.CL
本文研究了一种通用的三隐层序列模型,通过维护运行中的token状态和压缩的配对记忆路径来捕捉高阶token交互。该模型在字节级WikiText-2和基于tokenizer的MiniMind语言模型基准上改进了小型Transformer基线,但门控键值检索扩展在关联召回上虽有提升,却对随机种子敏感且速度较慢。
Lucas Tamic, Ilan Jaffeux-Cheniout, Xavier Marjou
cs.CL cs.AI
本文针对电信客服场景,对Qwen2.5-3B模型进行了基于LoRA的参数高效微调(PEFT)比较研究。通过组合式合成数据生成方法构建了约3万条训练样本,并评估了16种LoRA配置,发现验证损失最低的模型在基于LLM-as-a-judge的定性评估中并非最优,表明仅靠验证损失不足以选择对话AI的微调配置。
Manh Luong et al.
cs.CL cs.AI eess.AS
本文提出了MCBench,一个用于评估Omni LLMs(处理视觉、音频和文本的多模态大语言模型)安全性的多模态基准,包含1196个场景。实验发现现有模型在跨模态安全推理方面存在显著不足,难以有效整合多模态线索进行安全判断。
Sungmook Woo, Hyungu Kang, Chanwoo Kim
cs.CL
本文针对streaming ASR系统中的punctuation restoration问题,提出了一种基于weighted lookahead scoring的非自回归方法,通过比较有限未来上下文(K-subword-token)下的插入假设与无插入基线来做出决策。该方法在IWSLT 2017数据集上取得了优于prompt-based和fine-tuned ELECTRA基线的性能,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Ivo Bueno et al.
cs.CL cs.AI
本文提出了一个结合SHAP和LLM的框架,用于对基于rubric的教学质量评分模型进行句子级别的可解释性分析。实验表明,微调PLM在评分准确性上优于LLM,而SHAP提供的解释比LLM生成的rationales更忠实且可迁移。
Chunling Xi, Di Liang
cs.CL cs.AI
本文提出了一种多粒度推理网络(MGRN),通过显式利用层次化语义特征来改进自然语言推理任务。该方法模拟人类从浅层词汇匹配到深层逻辑推理的认知过程,在多个基准测试上优于强基线模型。
Rahul Subramani
cs.CL cs.IR
LANTERN提出了一种轻量级记忆层,通过分层归档和时间情节检索网络,在零LLM调用和低延迟下恢复长对话中被压缩丢失的事实,性能优于基于LLM的基线方法。该方法主要关注对话系统的上下文恢复,与关键词中的code、spectral、Muon、pretrain、agent、attention等概念关联较弱。
Patrick Keough
cs.CL cs.AI cs.HC
本文通过多维度纵向审计,研究了Gemini模型中的sycophancy(谄媚行为)问题,发现粗粒度二元指标会掩盖模型在用户框架下妥协等行为,并揭示了代际进步的非单调性以及alignment tax(对齐代价)现象。
Ryan Solgi, Jiayi Tian, Zheng Zhang
cs.CL cs.AI
本文提出了一种名为LoRi的低秩蒸馏框架,用于改进大语言模型中的隐式链式思维推理。该方法通过对齐教师和学生模型在低秩张量子空间中的隐藏状态轨迹,利用一阶和二阶统计量来捕捉推理的全局结构。
Jared Moore et al.
cs.CL cs.AI cs.HC
本文提出了PERSUASIONTRACE框架,用于研究人机对话中的多轮说服过程,通过记录信念变化轨迹并标注修辞维度来分析说服效果。该工作主要关注对话系统和人类行为建模,与关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念关联较弱。
Clark Mingxuan Ju et al.
cs.CL
本文提出BUMP框架,通过自监督方式训练LLM生成用户文本profile用于个性化,无需下游任务标签。该方法利用GRPO和双向批次内排序目标,在LaMP基准上达到或超越依赖标签奖励的现有方法。
Elan Barenholtz
cs.CL
本文提出了一种新的语言处理成本预测指标——trajectory extrapolation error,通过拟合transformer语言模型隐藏状态的线性轨迹并测量偏离程度,发现该指标与surprisal几乎正交且能独立预测人类阅读时间,尤其在garden-path句子中效果显著。
Jinu Lee et al.
cs.CL cs.AI
本文提出ReasoningFlow框架,将大推理模型的推理轨迹建模为有向无环图(DAGs),通过人工和自动标注分析其话语结构,发现不同模型的结构相似性及错误步骤多不用于最终答案等特性。
Avinash Baidya et al.
cs.CL cs.AI cs.HC cs.LG
本文针对对话和LLM-Agent轨迹中的早期失败预警问题,提出了一种两阶段方法。该方法利用attention机制从稀疏的轨迹级标签中学习turn-level的失败证据,并结合一个偏好条件停止策略\(\alpha\)-STOP,在推理时动态平衡准确率与预警时机。实验表明,该方法在多个基准上优于传统的prefix-label监督方法。
Padmaja Jonnalagedda et al.
cs.CL cs.AI cs.LG
本文提出了一种自动从多源数据中发现可执行schema的系统,用于知识图谱构建和查询时检索,通过LLM和确定性结构分析实现跨源数据整合。该方法在四个QA基准测试中优于仅检索和基于分解的基线方法。
Joseph Marvin Imperial et al.
cs.CL
本文提出了ComplexityMT基准,用于评估文本复杂度(以CEFR等级衡量)与机器翻译之间的相互影响,在六种语言上测试了多个翻译模型。实验发现源文本CEFR等级越高翻译越困难,且机器翻译会改变目标文本的CEFR等级。
Adriana-Valentina Costache et al.
cs.CL cs.AI cs.LG
本文提出了一种利用循环一致性机器翻译(cycle-consistent machine translation)生成或扩充低资源语言训练数据的共指消解(coreference resolution)流水线,通过BERT模型的余弦相似度评估翻译质量并加权损失函数,在四种低资源语言上取得了性能提升。
Govind Ramesh, Yao Dou, Wei Xu
cs.CL cs.LG
本文提出PRIG方法,通过训练线性probe区分清晰与模糊prompt,并利用梯度归因将probe score归因到residual stream中的token表示,从而定位prompt中的模糊片段。实验表明该方法在合成和人工基准上优于基线,但未涉及关键词中的code, spectral, Muon, pretrain, agent或attention等核心概念。
Ahmed Alansary, Ali Hamdi
cs.CL cs.AI
本文提出了一种多模型自适应选择框架MASF,通过集成多个fine-tuned transformer模型并基于自动评估指标选择最佳摘要,以提升abstractive text summarization的鲁棒性。实验在CNN/DailyMail数据集上验证了其有效性,但方法本身属于集成策略的工程应用,缺乏理论或方法上的开创性。
Rahul Markasserithodi et al.
cs.CL
CHASE提出了一种基于强化学习的红蓝对抗框架,通过GRPO训练黑盒攻击者和安全对齐防御者,以提升LLM对提示重写攻击的鲁棒性。实验表明该方法能显著降低攻击成功率,但未涉及code、context、spectral等关键词相关技术。
Nadine Yasser Abdelhalim, Emmanuel Akinrintoyo, Nicole Salomons
cs.CL
本文提出了一种基于cross-language training的多语言阿尔茨海默病检测方法,使用transformer-based模型在英语、中文、阿拉伯语和印地语数据集上实现了82%的F1分数。该方法展示了跨语言泛化能力,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词中的特定技术。
Woojung Song et al.
cs.CL cs.AI
本文提出了ArcANE基准,用于评估角色扮演语言代理在叙事过程中是否与角色心理轨迹一致,实验表明基于角色弧的上下文策略优于其他方法。
Yang Li et al.
cs.CL
本文提出AURA框架,通过在场景感知与工具使用之间插入IntentFrame推理步骤,为LLM agent的隐式需求(如查询"Lin Wei在哪"时可能隐含的意图)提供结构化估计。实验表明该方法在隐式需求覆盖上优于ReAct基线,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Xueyang Wu et al.
cs.CL cs.AI
本文提出InfoShield方法,通过最小化语音表示与敏感属性间的mutual information来保护隐私,同时保持抑郁筛查性能。实验表明该方法能有效降低性别和年龄推断准确率,但整体方法更偏向应用创新而非理论突破。
Varun Aggarwal, Kay Kobak, John Howarter
cs.CL
本文介绍了使用LLM(如GPT-4o, GPT-5-mini, GPT-5.2)辅助评估本科生研究项目申请中约1200份个人陈述的工作流程,通过结构化评分标准生成分数和理由,显著缩短了人工评审时间。该工作主要关注应用效率而非理论创新,与关键词中的核心概念(如spectral, attention, pretrain等)无直接关联。
Huu Tuong Tu et al.
cs.CL cs.SD eess.AS
本文提出了一种构建统计图的方法,用于学习音素混淆模式,并引入了一种语言特定策略来捕捉不同母语背景下的系统性发音差异,在L2-ARCTIC基准上取得了优于多个基线的F1分数。
Bobby Yan, Fredrik Kjolstad
cs.CL cs.AI
本文提出了TensorBench,一个包含199个代码修改任务的benchmark,用于评估coding agent在编译器张量框架上的表现。实验发现不同agent通过的任务子集差异较大,最强agent的通过率为64.8%。
Yongwei Zhou et al.
cs.CL
本文发现LLM继续预训练中的最优超参数(如learning rate和batch size)遵循可预测的scaling laws,并提出一个两阶段框架:先通过小规模代理模型建立compute budget与最优超参数间的函数关系,再基于初始checkpoint的validation loss预测目标运行的超参数。该方法可将超参数搜索开销降低90%且性能相当,但与我提供的关键词列表契合度较低。
Kaijie Mo et al.
cs.CL
本文研究了LLM在药理学中依赖词缀(affix)进行推理的“形态捷径”现象,通过虚构药物名称实验发现模型主要从词缀而非词干或整体名称中提取语义,并定位该行为发生在模型的早期到中间层。该工作揭示了形态学捷径对安全性的潜在风险,但与关键词列表中的code、context、spectral、Muon、pretrain、agent、attention等概念关联较弱。
Xiaoyi Wang et al.
cs.CL
本文使用事件相关电位(ERPs)研究了自闭症谱系障碍(ASD)儿童在处理递归处所结构时的神经机制,发现ASD儿童在结构预测(P200)和句法重分析(P600)阶段表现出减弱效应,而在语义整合(N400)阶段需求增强。该研究主要关注语言处理障碍,与关键词列表中的code, context, spectral, Muon, pretrain, agent, attention等概念无直接关联。
Jiayu Liu et al.
cs.CL
AdaPlanBench是一个用于评估LLM agent在动态交互中适应世界和用户约束的基准测试,包含307个家庭任务。实验表明,当前LLM在双重约束下的自适应规划仍具挑战性,最佳模型准确率仅67.75%。
Zhen Sun et al.
cs.CL cs.AI cs.LG
本文提出RidgeFT,一种轻量级分析更新框架,用于解决终身机器生成文本归因问题。该方法通过冻结编码器并基于类级充分统计量进行闭式ridge回归更新,在不依赖样本重放的情况下平衡新旧类别的适应与保留。
Youngwon Lee, Jaejin Kim, Seung-won Hwang
cs.CL
本文提出GATE方法,通过执行反馈来引导text-to-SQL中未指定的语义层grounding。该方法在执行已grounded部分时保持假设开放,并将执行支持的假设存储为可复用的memory条目。
Dike Sun et al.
cs.CL
本文提出QueryAgent-R1,一个用于电商查询推荐的记忆增强agent框架,通过链式检索优化来桥接查询生成与产品检索之间的对齐。该方法在agentic强化学习过程中设计了一致性奖励,以联合优化查询相关性和下游用户参与度。
Hancheol Park et al.
cs.CL cs.AI
本文针对Mixture-of-Experts (MoE)模型的量化问题,提出了一种名为VSRAQ的后训练量化方法,通过value alignment和structure alignment两个目标来保持量化前后的专家选择行为一致性,从而减少量化引起的路由不稳定和模型质量下降。该方法无需引入推理开销,并在多个MoE基础模型上验证了有效性。
Chunsheng Zuo et al.
cs.CL
本文研究了document LoRA与KV cache压缩在文档级问答中的交互,发现当KV cache被大幅压缩时,document LoRA能显著恢复性能,表明其作为解码时的参数化记忆比作为文档编码器更有效。
Yingzhuo Liu
cs.CL
本文提出了一个用于组织LLM多智能体系统中潜在通信(latent communication)研究的统一框架,从“通信内容”、“发送-接收对齐”和“信息融合方式”三个正交轴对现有方法进行分类。该工作主要是一篇综述性论文,系统梳理了2024-2026年间18种代表性方法,并识别出五种主要设计模式。
Junghwan Kim, David Jurgens
cs.CL
本文提出了一种通过风格引导提示(style-eliciting prompts)来解释style representation的新框架,利用LLM生成文本并训练decoder从representation中恢复prompt。实验表明该方法在风格描述和模仿任务上优于直接使用目标文本提示LLM的baseline。
Qiuyu Tian et al.
cs.CL cs.AI
本文提出Narrative Knowledge Weaver (NKW),一种以叙事为中心的检索增强推理框架,通过整合文本证据、原子事实、图结构、实体档案等叙事单元,提升长文本叙事问答的推理能力。该方法在STAGE、FairytaleQA等基准上表现良好,但与我提供的关键词(如code, spectral, Muon, pretrain, agent, attention)无直接关联。
Runheng Liu et al.
cs.CL
本文提出AdaPLD,一种无需训练的模型无关推测解码方法,通过结合语义相似度检索和分支复用假设来改进现有基于复用的方法,从而减少目标模型的前向传播次数并提升解码速度。该方法主要针对自然语言生成任务,与您提供的关键词(如code, spectral, Muon等)关联度较低。
Minxin Chen et al.
cs.CL
本文提出了PlanBench-V,一个用于评估Vision-Language Models在空间规划地图理解能力的benchmark,包含专家标注的数据集和评估框架。实验表明,当前模型在需要专业判断的任务上仍存在显著局限。
Hong Qian et al.
cs.CL cs.AI cs.CY cs.LG
本文提出了CollabBench,一个用于评估和训练LLM-based agent在合作游戏中协作能力的benchmark,通过模拟多样玩家行为并采用混合奖励训练,提升了agent的任务效率和情感适应能力。
Michiro Asai et al.
cs.CL
本文提出了两种基于回忆的prompting策略(Self-Recall和Question-Recall),用于改进大语言模型在知识截止日期约束下的表现,并构建了多截止年份的历史事件基准MHEB进行评测。实验表明该方法在反事实问题上效果显著,但与关键词列表中的code, context, spectral, Muon, pretrain, agent, attention等概念无直接关联。
Zhaorui Yang et al.
cs.CL
ProSPy是一个面向企业级Text-to-SQL任务的agent框架,通过将推理过程分为自动profiling、schema剪枝、SQL中间视图获取和Python下游分析四个阶段,结合SQL的高效性与Python的灵活性。实验表明其在Spider 2.0基准上优于现有方法,但方法本身在理论或架构上缺乏显著的开创性。
Ruoxi Sun et al.
cs.CL cs.AI
本文通过提出Retrieval Attention Mass (RAM)指标,识别了多模态大语言模型中的Context-aware Retrieval (CoRe) heads,揭示了跨模态检索中的functional sparsity现象。实验表明,仅消融前5%的CoRe heads会显著降低多模态推理性能,而利用这种稀疏性可加速推理。
Gio Paik, Hyunseo Shin, Soungmin Lee
cs.CL eess.AS
本文研究了多语言Code-Switching ASR(CS-ASR)中,从有限的语言对向未见语言对泛化的问题。通过模型合并与domain generalization方法,实验表明合并后的双语CS-ASR模型对未见语言对仅有有限的泛化能力。
Arghya Pal et al.
cs.CL
本文针对文本到音频检索系统中的有害内容处理问题,提出了一种事后因果去偏框架,通过情感控制中介器在保持语义相关性的同时抑制有害语音。该方法包含Forgive和Forget两种变体,分别通过logit调整和反事实提示来减少毒性检索,实验表明在保持检索精度的同时有效降低了毒性。
Ailiang Lin et al.
cs.CL
本文提出ReverseEOL方法,通过将输入文本反转后生成额外的reversed embedding,与原始forward embedding结合来增强decoder-only LLMs的文本表示能力。实验表明该方法在STS和MTEB基准上显著提升了无训练文本嵌入的性能。
Liting Zhang et al.
cs.CL
本文提出TARPO框架,通过一个轻量级的action head router在离散token生成和连续latent reasoning之间自适应切换,并利用group-relative advantage信号进行端到端联合优化。实验表明该方法在多个backbone上优于现有显式和隐式推理的RL基线,但未涉及code、spectral、Muon或pretrain等关键词。
Jin Tanaka et al.
cs.CL
本文研究了大型语言模型(LLMs)中是否存在人类认知偏差“忽视零效应”(neglect-zero effect),即忽略使命题因空集而真空成立的零模型(zero-models)的倾向。通过基于结构启动(structural priming)的范式,作者分析了LLMs在处理相关推理时的行为,结果表明所分析的LLMs中可能未出现该效应。
PSBC LLM Team et al.
cs.CL
本文提出YouZhi-LLM,一种通过自适应GQA-to-MLA层间过渡框架来压缩KV cache、提升金融大模型高并发部署效率的方法。该方法在华为昇腾生态上实现,结合知识蒸馏与金融微调,在降低困惑度的同时显著提升了并发性能。
Huiyuan Zheng et al.
cs.CL
本文提出RandomBench基准测试,用于评估多模态大语言模型在逻辑中性场景下是否保持分布中性行为,并引入RI、BCI、BII等指标量化熵和分布偏差。实验发现“随机坍缩”现象,即模型在显式随机指令下无法维持均匀随机性,且该偏差在不同语言和表示格式中持续存在。
Salvatore Greco et al.
cs.CL cs.AI
本文研究了LLM作为人工道德顾问(AMA)在与用户代理LLM模拟对话中采用的不确定性支架策略,比较了三种不确定性模式与三种控制条件,并分析了不同persona提示格式的影响。实验发现不同模型在模拟用户代理时表现各异,且不确定性策略主要影响对话参与质量而非立场改变程度。
Yilong Li, Suman Banerjee, Tong Che
cs.CL
本文提出EMBER方法,通过预算化证据保留策略,在固定token预算下为long-horizon agent构建紧凑的source-backed evidence state,以提升检索和回答效率。实验表明,该方法在LongMemEval-RR协议上优于非EMBER基线,但未涉及code、spectral、Muon或attention等关键词。
Jessica Rodrigues et al.
cs.CL cs.LG
本文提出将研究注意力表示为上下文结构流(contextually structured flows),以编码注意力的组织结构和随时间演化,并通过类比推理基准评估发现流表示在结构比较中更有效,尤其在时间进展或上下文分布影响注意力的场景中。
Christopher J. Wedge et al.
cs.CL cs.AI
本文提出了一种基于轻量级graph结构的RAG系统,通过agentic工具集结合vector search和graph query来减少LLM在复杂问答中的幻觉,并在MoNaCo基准上验证了其有效性。
Xiaobing Chen et al.
cs.CL
本文提出ACE-SQL框架,通过reinforcement learning联合优化schema retrieval和SQL generation,利用execution feedback实现自适应协同优化,在BIRD Dev上达到65.3%的执行准确率。
Zhihao Lin et al.
cs.CL cs.AI
本文提出了一种多方面的迭代优化框架,通过专门的大语言模型生成高质量的文学翻译参考和偏好数据,并利用这些数据进行监督微调和强化学习。实验表明,该方法在文学翻译基准上取得了有竞争力的结果,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Erfan Loweimi et al.
cs.CL cs.AI cs.CV cs.IR cs.LG +2
本文提出了一种查询自适应的音视频人物检索框架,通过跨模态分数一致性检测活跃模态,以解决缺失模态引入噪声的问题。该方法在BBC Rewind语料库上取得了优于固定融合策略的性能。
Marco Antonio Stranisci et al.
cs.CL
本文审计了语言模型中的pretraining filters和inference-time guardrails,发现这些系统对边缘群体的提及存在过度过滤,而人类标注者会保留大部分被标记内容,揭示了自动化系统与人类判断之间的认知不公。
Paul Lerner, François Yvon
cs.CL
本文使用perplexity评估了多个Large Language Models (LLMs)在不同语言和政治文本上的公平性,发现模型对极右翼和民族主义政党的文本表现出更高的困惑度,且该现象与翻译公平性相关。研究还表明,这种政治偏见主要源于预训练阶段,指令微调对其影响有限。
Martin Murin
cs.CL cs.AI cs.LG
本文通过固定提取任务并逐一改变prompt、模型和schema,测量了LLM在临床出院小结中结构化提取的敏感性,发现跨prompt一致性中等,模型大小的影响因字段而异,且schema中的“缺失vs未记录”区分是分歧的主要来源。
Shaoyang Xu et al.
cs.CL cs.CY
本文提出将value diversity(价值多样性)作为评估multicultural multi-agent systems(多元文化多智能体系统)的系统级指标,通过World Values Survey(世界价值观调查)发现当前基于LLM的系统在价值多样性上显著低于人类社会,且social interaction(社会互动)会进一步削弱多样性。
Wajdi Zaghouani
cs.CL
本文从社会语言学和语料库语言学角度,探讨了大语言模型在方言资源创建中的双重作用(生成与抹除),并提出了12条社区指南,以阿拉伯方言为例进行了案例研究。该工作主要聚焦于语言资源建设与伦理,与关键词中的数学或算法概念无关。
Tilman Beck et al.
cs.CL
本文研究了在社交媒体立场检测任务中,向大型语言模型(LLMs)的zero-shot prompt中加入上下文特征(如用户简介、生成的目标描述)的影响。实验发现,LLM生成的目标描述能提升性能,但用户元数据效果不一,且加入同一用户的其他推文会因噪声而损害性能。
Xinpeng Qiu et al.
cs.CL cs.AI
本文提出EGTR-Review框架,通过多智能体教师蒸馏将结构化的论文分解、证据检索与验证推理过程压缩至轻量学生模型,以生成更具证据支撑和可溯源的同行评审意见。实验表明该方法在降低推理成本的同时提升了评审的事实依据性。
Andrey Fomenko et al.
cs.CL
本文提出NAVIRA,一种用于masked diffusion language model的推理时解码策略,通过解耦token质量检测与重新生成过程,并引入随机remasking来改善文本生成质量。实验表明该方法在控制实验中提升了流畅性,并在更大计算预算下获得更优的LLM评判分数。
Om Choksi et al.
cs.CL
本文研究了在低资源场景下将英语翻译为Prakrit语(一种古典语言)的问题,通过将Prakrit映射到IndicTrans2模型支持的Hindi语言标签来实现多语言迁移学习。实验表明,基于脚本兼容的语言路由方法可以支持对未支持的古典语言的迁移,但受限于数据稀缺和方言不匹配。
Xiaoman Wang et al.
cs.CL
本文提出IA-RAG框架,将知识建模为时间区间并使用Allen's Interval Algebra进行形式化约束检索,通过Interval Event Units和层次化Thematic Forest组织知识,并引入Sub-graph Time Tightening机制处理模糊时间边界。实验表明该方法在复杂时间推理任务上表现良好,但未涉及code、spectral或Muon等关键词相关技术。
Dominik Macháček, Maike Züfle, Ondrej Klejch
cs.CL
本文提出了Speech Translation Error Labelling (STEL)方法,用于自动标注语音翻译中的错误,并分析了现有文本和语音处理系统在该任务上的表现。研究发现,直接语音处理对STEL任务至关重要,且当前系统在标注翻译错误与语音处理错误方面具有互补性。
Seung Hwan Cho, Young-Min Kim
cs.CL cs.SD eess.AS
本文研究了多任务学习在第二语言语音识别中的表示纠缠问题,发现共享表示会损害表面转录性能,尤其在英语中退化程度与表面-意义差异相关。通过编码器和解码器分析,揭示了任务表示在编码器层面的纠缠机制。
Qi Zhang et al.
cs.CL
本文提出SkillComposer框架,将agent skill构建分解为create、improve和merge三个可学习操作,通过rejection sampling训练使语言模型在推理时自我进化技能。实验表明该方法在多个benchmark上提升性能,但未涉及code、spectral、Muon、pretrain或attention等关键词。
Michal Tichý, Jindřich Libovický
cs.CL
本文提出了一个名为CHALIS的benchmark数据集,专门用于评估语言识别系统在困难场景(如亲缘语言和拼写噪声)下的表现。实验表明,现有系统在这些场景中表现不佳。
Eros Fanì, Oğuzhan Ersoy
cs.CL cs.LG
本文提出了一种基于Ridge Regression的线性路由器IR3DE,用于在多个domain-expert LLMs之间为每个prompt选择最合适的模型。该方法在Causal Language Modeling和推理任务上取得了与更复杂方法相当的性能,并支持动态添加或移除专家模型而无需重新训练。
Xingyu Chen et al.
cs.CL cs.AI
本文提出ContextEA框架,通过引入跨KG交互编码器和结构校准解码器来增强实体对齐中的结构上下文利用,在多个数据集上取得改进。
Giuseppe Attanasio et al.
cs.CL cs.HC
Ouvia是一个面向用户的语音翻译可用性评估框架,通过收集超过1750次真实场景交互数据,发现现代语音翻译系统仅约半数交互被用户评为可用,且不同人口群体间存在显著差异。该研究强调应超越整体质量评分,采用情境化、以用户为中心的评估方法。
Jinyang Zhang et al.
cs.CL
本文发现LLM隐藏状态的\(\ell_2\)范数可以作为其推理强度的内生信号,并利用Sparse Autoencoders (SAEs) 验证了这一关系,进而提出了三种基于\(\ell_2\)范数的测试时缩放技术来提升推理性能。
Hafez Abdelghaffar, Ahmed Alansary, Ali Hamdi
cs.CL cs.AI
本文提出了一种基于LLM的上下文问答系统,通过微调预训练模型(如RoBERTa)在SQuAD1.1数据集上提升答案提取能力,实验表明该方法在ROUGE-L、BLEU和BERTScore指标上表现良好,但方法本身缺乏开创性,且与关键词列表中的概念无直接关联。
Giovanni Dettori et al.
cs.CL cs.AI
本文研究了lexical density(词汇密度)对LLM长上下文性能的影响,发现高密度信息输入会显著降低模型的有效context window(上下文窗口),即使输入长度和相关信息位置保持不变。实验通过控制密度的基准测试表明,降低密度可以恢复模型性能。
Fernando López, Santosh Kesiraju, Jordi Luque
cs.CL cs.SD eess.AS
本文研究了通过Feature-wise Linear Modulation (FiLM)向冻结的ASR encoder注入x-vector信息,以适配病理语音的speaker conditioning方法。实验表明该方法在病理语音识别任务上与标准微调方法竞争力相当,且能保留模型回答语音相关问题的能力。
AJ Carl P. Dy, Aivin V. Solatorio
cs.CL cs.AI cs.CV cs.IR
本文构建了一个用于从机构文档中提取数据快照(识别和定位有意义的视觉内容)的基准数据集和评估框架,并测试了多个开源布局检测模型。结果表明,尽管这些模型在常规学术基准上表现良好,但在处理实际机构文档时泛化能力不足,存在将分析性与非分析性内容混淆等问题。
Paloma Piot, Javier Parapar
cs.CL
本文研究了Persona-conditioned Large Language Models在仇恨言论检测中模拟不同人口群体视角的能力,评估了群体间分歧、群体内敏感性和替代性预测三个维度。结果表明,没有模型能一致地捕捉所有维度,且性能高度依赖模型选择。
Alireza Bayat Makou et al.
cs.CL
本文通过Literal Sequence Copying任务在Pythia模型上提取75个circuit,发现结构不同的circuit可能实现相同计算,即存在phantom specialization现象。研究强调,仅凭结构差异不足以证明机制不同,需结合edge-level evaluation和跨条件迁移测试。
Yijun Liu et al.
cs.CL cs.HC
本文构建了FOXGLOVE数据集,系统比较了写作教师与LLM在议论文反馈上的差异,发现两者在反馈目标和位置分布上相似,但在具体句子锚定和反馈复杂度上存在分歧。
Gianluca Barmina, Peter Schneider-Kamp, Lukas Galke Poech
cs.CL cs.AI
本文提出PropMe框架和SimpleTrace工具,用于评估大型语言模型在非对抗性使用下的记忆倾向,发现模型在直接攻击下能泄露训练数据,但在普通使用中很少发生。
Victor De Marez, Luna De Bruyne, Walter Daelemans
cs.CL
本文通过分解事实谄媚(factual sycophancy)为truth margin和manipulation sensitivity两个通道,研究了模型规模与指令微调对56个0.3B-32B参数模型鲁棒性的影响,发现脆弱性主要由规模决定但指令微调改变了规模的作用方式。
Edoardo Signoroni, Pavel Rychlý
cs.CL
本文对伦巴第语(意大利的一种低资源语言)的文本语料库进行了人工审计,发现网络爬取的数据存在严重的语言误识别、模板文本和非语言噪声问题,且高质量数据偏向西部方言,东部方言被边缘化。研究强调了需要社区驱动的、考虑方言多样性的数据策展,而非单纯追求数据量。
Zhihao Wu et al.
cs.CL
本文提出Evidence-Diagnosed Intervention Training (EDIT)框架,通过内部模型信号(如最终分数的后验信念和输入归因分数)定位并修正LLM评分推理中的错误步骤,并利用信念引导的奖励塑造进行强化学习校准。实验表明该方法在多个学科评分基准上优于现有baseline,但未涉及code、spectral、Muon等关键词相关技术。
Zengqing Wu, Chuan Xiao
cs.CL cs.AI cs.MA cs.NE
本文提出了一种生成式方法论,利用多智能体强化学习中的emergent language(涌现语言)来研究conscious AI(意识人工智能),通过最小化人类语言先验来确保观察到的结构可归因于任务需求。作为概念验证,作者在最小环境中展示了智能体发展出自我指涉的通信,包括一种echo-mismatch detection circuit(回声-不匹配检测回路),但该方法与关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念关联较弱。
Jiaju Chen et al.
cs.CL
本文提出了CollabSim框架,用于通过受控多agent实验研究LLM agent的协作能力。该框架基于CSCW理论定义协作能力,并操纵交互条件来探测agent内部状态。
Petr Parshakov
cs.CL
本文构建了首个Komi-Yazva语-俄语平行语料库(含457个对齐句对),并设计了针对极低资源濒危语言的LLM翻译评估协议,包含故事级交叉验证和检索增强的few-shot提示方法。实验表明检索式few-shot提示一致优于zero-shot,但评估结论高度依赖指标选择和失败处理方式。
Hanxu Hu et al.
cs.CL
本文提出了一种基于reinforcement learning (RL)的方法,用于在给定丰富linguistic context的情况下翻译完全未见过的语言,使用chrF作为reward。实验表明,该方法在翻译未见语言时优于in-context learning和监督微调,但主要贡献在于将RL应用于语言翻译这一特定任务,与关键词中的code、spectral、Muon、pretrain、agent、attention等概念关联较弱。
Xinnong Zhang et al.
cs.CL cs.MM cs.SI
本文研究了LLM在模拟在线讨论中用户立场时对上下文变化的敏感性,通过反事实上下文修订框架进行审计,比较了纯文本和多模态策略的效果。
Guancheng Tu et al.
cs.CL cs.LG
本文提出NF-CoT框架,通过在LLM backbone中嵌入TARFlow-style normalizing flow来建模连续thoughts,在保持自回归生成、KV-cache解码等优势的同时实现latent reasoning。该方法在代码生成任务上提升了pass rates并降低了中间推理成本。
Mandana Samiei et al.
cs.CL
本文研究了人类和LLM在主动探索条件下对conjunctive causal rules(合取因果规则)与disjunctive rules(析取规则)的推理能力差异,发现主动探索能显著改善人类的合取推理表现,但LLM在探索效率上仍存在类似差距。
Paul Jünger et al.
cs.CL cs.AI cs.LG
本文提出SARDI框架,利用离散扩散语言模型在去噪过程中产生的低置信度预测token作为前瞻信号来指导检索增强生成。该方法无需训练且与检索器无关,在多个多跳问答基准上以更高吞吐量超越了现有基线。
Sondos Mahmoud Bsharat et al.
cs.CL cs.AI cs.LG
本文提出了OpAI-Bench基准,用于研究渐进式人机协作编辑文本中AI作者身份的检测问题。该基准通过定义AI覆盖率和编辑操作,构建了多粒度(文档、句子、词元)的修订版本,并发现AI文本的可检测性受编辑操作、领域和累积修订历史等多种因素影响。

cs.DS

Piotr Frydrych
cs.DS math.FA
本文研究了Preisach极值堆\(\Pi_n\)在最坏情况下的更新复杂度,证明了其标准更新算法在最坏情况下需要\(\Theta(k)\)次操作,并提出了通过finger-tree实现达到\(O(\log k)\)最坏情况时间复杂度的方案。该工作为rate-independent functionals的极小充分统计量提供了复杂度分析。
Haoyu Wang, Guangxu Yang
cs.DS
本文提出了一个单次通过的量子流算法,用于在流式设置中近似Max-\(k\)SAT问题,使用\(\operatorname{polylog}(n)\)空间实现了\(0.7172\)的近似比,相比经典算法所需的\(\Omega(\sqrt{n})\)空间,展示了指数级的量子空间优势。此外,文中还给出了Max-2OR问题的类似量子流算法,完成了对所有Boolean Max-2CSPs的量子空间优势分类。
Christian Coester, Alexa Tudose, Alexander Turoczy
cs.DS cs.LG
本文针对两类在线最小化问题(metrical task systems和laminar set cover)提出了学习增强算法,利用对偶线性规划最优解的机器学习预测来改进理论保证。实验在\(k\)-server问题和parking permit问题上验证了方法的有效性。
Faruk Alpay, Levent Sarioglu
cs.DS
本文提出了一种名为Cascade Log的引用稳定分层追加结构,用于管理长运行时间的追加序列(如编辑日志或事件存储)。该结构通过维护一个持久化的coalescing interval map来解决跨层引用异常(如悬空、过时和损坏引用),并分析了其空间复杂度为\(\Theta(A)\),其中\(A\)是碎片化程度。
Josh Ascher et al.
cs.DS cs.GT
本文研究了所有参与者都动态到达的在线最小代价完美匹配问题,证明了在adversarial和random-order输入模型下任何算法的competitive ratio都是无界的,但在i.i.d.到达模型下给出了一个\(O(\log^2 n)\)-competitive算法,即使到达分布未知。该结果揭示了random-order与unknown-i.i.d.输入模型之间competitive ratio的罕见分离。
Ting Hou et al.
cs.DS cs.CR
本文首次研究了在差分隐私约束下的多目标submodular maximization问题,提出了两种结合DP机制的算法(扩展贪心算法和截断技术),并验证了其在最大覆盖和设施选址问题中的有效性。
Marcin Zukowski
cs.DS cs.PF
本文提出了一种基于wavelet tree数据结构的PivCo-Huffman编码方法,通过SIMD友好的操作提升了编解码吞吐量,并在解码速度上优于现有Huffman codec。此外,文中还展示了如何在该结构中针对偏斜节点选择性应用ANS-coding,以在保持高解压速度的同时接近ANS的压缩比。
Luciano Gualà et al.
cs.DS
本文针对动态网络中的大quasi-clique检测问题,将Pang等人提出的静态相似性方法扩展到动态场景,设计了支持边插入和删除的Baseline全动态算法(更新复杂度\(\widetilde{O}(\Delta)\))以及仅支持插入的增量算法(更新复杂度\(O(\log \Delta)\)),并通过实验验证了其加速效果。
Ruize Zhao
cs.DS
本文研究了平方根分解中块大小的自动调优问题,通过学习工作负载模型来改进固定\(\sqrt{n}\)的块大小选择,在测试实现中获得了1.151倍的几何平均加速。实验表明,基于KNN-9的模型能有效降低平均遗憾值,但短前缀变体在当前原型中未能成功实现低开销在线调优。
Márk Hunor Juhász, Péter Madarasi
cs.DS cs.DM math.CO
本文研究了时间图(temporal graph)中最大匹配问题,其底层图为树。作者证明了对于时间树上的最大\(\Delta\)-matching和最大\(\gamma\)-matching,即使在稀疏情况下问题也是NP-hard的,并给出了APX-hard结果。同时,文章也识别了一些多项式时间可解的特例,并设计了动态规划算法。

others

Mohammad Akyash et al.
cs.PL cs.AR cs.LG
本文提出CASS-RTL,一种无需额外训练或标注数据的轻量级方法,通过识别LLM中与RTL代码正确性相关的attention heads,并构建低维子空间来引导模型生成更准确的RTL代码。该方法在推理时进行几何感知干预,在VerilogEval和CVDP基准上分别提升了10%-20%和5%的pass@1/5/10准确率,为利用LLM内部attention机制提升代码生成可靠性提供了新思路。
Minseok Choi et al.
cs.CR cs.CL
本文提出Membrane,一种基于Contrastive Safety Memory (CSM)的自演化防御框架,用于保护LLM agent免受持续演化的jailbreak攻击。其核心创新在于每个memory cell同时编码阻止有害查询的条件与允许表面相似良性请求的条件,并通过将每次有害交互及其良性对应物蒸馏为以攻击策略索引的对比单元,使单个cell能泛化至同一机制的不同主题变体。在推理时,检索到的cells作为grounding context实现精确的安全决策,在HarmBench和AgentHarm基准上均取得最高F1分数,且对良性查询的拒绝率远低于现有方法。该工作为agent安全领域提供了无需重训练即可自适应演化的防御范式。
Ziad Kobeissi, Éloïse Berthier
stat.ML cs.LG
本文针对TD(0)算法在线性函数逼近下的收敛性进行了研究,提出了一种新的收敛速率分析。该速率在均方误差意义下达到最优的\(O(1/k)\)阶,且不依赖于线性参数化中非中心协方差矩阵的最小特征值,从而对病态问题具有鲁棒性。此外,文章还引入了PCTD(0)变体,在Markov链满足强混合条件时具有更好的收敛性质。这项工作为强化学习中时序差分方法的理论分析提供了重要改进。
Giordano Cicchetti, Eleonora Grassucci, Danilo Comminiello
cs.CV cs.LG
本文提出了一种新的跨模态注意力机制Volumetric Multimodal cross-Attention (VMA),通过计算query与多个模态key向量所张成的体积来定义注意力分数,从而显式建模任意阶模态间的联合依赖关系,克服了传统方法仅依赖pairwise点积或拼接操作而无法捕捉多模态联合几何结构的局限。基于VMA,作者构建了GRAMformer架构,该架构能够原生集成任意数量的模态,并在多模态学习任务上展示了改进的有效性和效率。该方法在attention机制的设计上具有开创性,与关键词“attention”高度契合。
Thamilvendhan Munirathinam
cs.CR cs.AI
本文提出了一种轻量级的“Recuse Signal”机制,允许服务器通过现有协议通道(如SSH banner、PostgreSQL NOTICE)向LLM agent发送自愿撤回资源的请求。实验表明,该信号能有效诱导agent遵守(100%撤回率),但作为合作性控制而非安全边界,其效果依赖于agent的合规性。该工作为agent与基础设施的交互提供了新的治理范式,与关键词“agent”高度契合。
Loïs Vanhée, Melania Borit
cs.MA cs.AI
本文通过系统文献综述,提出了RAINO框架,用于分析基于Agent的建模中现实主义的概念,识别了现实锚点(如经验数据、形式理论)及其作为模型输入或输出的应用。该框架解释了不同评估者可能以不同方式评估模型现实主义的原因。
Tim Dorn, Saara A. Khan, Julie Mumford
cs.HC cs.AI
本文提出了一种多智能体架构来模拟人类头脑风暴的讨论过程,通过发散与收敛两阶段生成多样化的创意并评估排名。该方法主要关注AI驱动的产品开发中的创意生成,与关键词中的agent概念有一定关联,但缺乏开创性或解决长期问题的显著贡献。
Ritabrata Roy Choudhury, Arkajyoti Karmakar, Rudra Pratap Mitra
cs.CY cs.CV cs.LG
本文提出了Drishti AI-Event Guardian,一个结合深度学习与多模态数据(CCTV和无人机)的智能人群监控与应急响应系统。该系统集成了人群密度估计、异常检测、预测建模、人脸识别、医疗应急报告、聊天机器人和安保人员动态重分配等模块,并在大型集会场景中验证了其有效性。
Zilong Liu et al.
cs.CY cs.AI
本文通过文献综述探讨了AI评估中的地理偏见与多样性问题,识别了从训练数据表征偏差到生成AI过度偏好典型地点(称为默认值)等多种地理偏见,并展示了近期研究如何通过评估生成AI输出在不同认知层次、参数设置和输出模态下的地理多样性来应对这些偏见。
Zilong Liu, Krzysztof Janowicz, Mina Karimi
cs.CY cs.AI
本文探讨了AI图像生成中地理多样性的评估问题,通过GPT和DALL-E模型分析了不同阶段(如prompt修订和图像生成)对多样性的影响,并借鉴生态学中的物种多样性度量引入了相似性加权方法。研究发现旧模型可能表现出更高的地理多样性,但整体上存在模型同质化导致刻板印象的风险。
Shi Li et al.
q-bio.BM cs.LG
本文提出了NucleoDock,一个基于geometric deep learning的核酸-小分子docking框架,通过在大规模合成复合物上的pretraining和实验结构上的fine-tuning来缓解数据稀缺问题,并利用mixture density network进行pose ranking。该方法在基准测试中优于传统方法rDock,但并未直接涉及code、spectral、Muon或agent等关键词。
Matthias Knipper et al.
physics.comp-ph cs.AI
本文提出FE-MAD框架,通过将constitutive neural network模型嵌入JAX-FEM非线性求解器,并利用automatic differentiation计算梯度,实现了从全场变形数据中识别材料参数。该方法避免了传统有限元模型更新中的计算负担,并在不可压缩超弹性材料上进行了实验验证。
Maria Bånkestad et al.
physics.comp-ph cs.LG
本文提出了一种可微分的机器学习框架用于脂质纳米颗粒的小角X射线散射分析,通过结合core-shell模型、Gaussian random-field内部结构和neural surrogate来加速计算,并展示了不同参数模式可产生几乎相同的SAXS拟合结果。
Stefano Riva et al.
physics.comp-ph cs.LG
本文利用Shallow Recurrent Decoders这一机器学习架构,将点动力学模型(point kinetics model)的低保真度时间序列数据映射到反应堆扩散方程(diffusion equation)的高保真度解,从而在反应堆物理中实现多保真度学习。该方法通过降低计算成本,为反应堆物理的代理模型(surrogate model)提供了一种高效的数据融合途径。
Hamed Nejat et al.
q-bio.NC cs.AI stat.AP
本文提出了一种基于多LLM的流水线,用于在预测编码神经科学文献中进行本体约束的文献综合,通过手动定义的术语表对31项研究进行评分,并分析了不同假设下的研究一致性。该方法展示了将异构文献映射到定量证据空间的可行性,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联较弱。
Nguyen Cong Luong et al.
eess.SP cs.LG
本文综述了Transformer增强的强化学习算法在通信网络中的应用,包括资源分配、计算卸载等,并讨论了其数学基础和未来方向。
Peter Halmos, Boris Hanin
math-ph cs.AI cs.LG physics.data-an
本文通过构造Score Hamiltonians将基于score的扩散模型采样与Schrödinger算子的绝热输运联系起来,并利用Fokker-Planck方程的绝热定理推导了密度重建界和退火调度。
Luis P. Prieto et al.
cs.CY cs.AI cs.HC
本文通过系统文献综述,总结了62项关于人机协作与混合智能支持学习的实证研究,描述了协作过程、结构及应用场景,并提取了设计知识与研究空白。该综述为教育实践和未来研究提供了结构化更有效AI增强协作技术的起点。
Dayanjan S. Wijesinghe
q-bio.QM cs.LG
本文提出将非靶向LC-HRMS中的色谱洗脱过程建模为自回归序列预测任务,使用LSTM和Transformer模型基于无注释特征预测下一个洗脱的m/z bin,在临床脂质组学数据上达到98.4%的top-1准确率。结果表明洗脱序列具有高度可预测性,但模型对色谱柱化学和极性模式具有特异性,微调少量样本即可恢复跨条件部署性能。
Zhaojie Chai et al.
q-bio.CB cs.LG math-ph q-bio.BM
本文使用dissipative particle dynamics (DPD)模拟和微流控成像,构建了三种stomatocyte模型,研究了其在健康与疾病中的生物物理特性,揭示了脾切除悖论的可能机制。
Mahdi Shamsi, Soosan Beheshti
stat.ML cs.LG eess.SP
本文提出了一种新的聚类验证指标CDL,通过计算聚类中心描述长度的概率上界来评估聚类质量,无需真实标签。该方法在非凸和不规则形状的合成数据上表现优于传统指标,并在图像基准测试中取得了接近真实类别数的聚类结果。
Nicholas Saban
cs.CR cs.AI cs.CL
本文评估了针对前沿computer-using agent (CUA)的prompt-injection攻击,发现手工制作的攻击模板在浏览器域中成功率极低(0/140),但在coding-agent benchmark上可达100%。研究指出文献中高攻击成功率主要归因于RL优化的注入文本,且前沿模型的安全性具有domain-conditioned特性。
Dong Liu et al.
cs.RO cs.LG
本文提出了一种名为OLIVE的在线低秩增量学习框架,用于外骨骼控制系统的自适应个性化。该方法通过将控制策略的适应部分分解为低秩残差形式,降低了在线更新成本,并利用基于传感器反馈的奖励策略梯度进行参数更新。
Tanapath Pornthisan et al.
cs.RO cs.LG
本文提出了一种新型4段8关节四元数关节缆索驱动冗余机械臂配置,并采用FABRIK算法和残差强化学习进行控制。结果表明该配置比现有设计具有更广的工作空间,且残差强化学习在位置和方向精度上比FABRIK算法提升三个数量级。
Hongfan Gao et al.
stat.ML cs.LG
本文提出HyFAD,一种基于DDPM的混合时频扩散模型,用于时间序列插补。它通过耦合的时频扩散框架,先在时域捕捉低频全局趋势,再在频域细化高频成分,并引入频率感知步长嵌入以提升重建精度。
Yongjie Wang et al.
cs.CR cs.AI
本文研究了深度研究agent在推理过程中通过web搜索获取公开benchmark元数据、问题上下文甚至答案导致的Search-Time Contamination (STC)问题,定义了三种污染类型并开发了检测算法。实验表明STC可使性能虚增高达4%,现有评估可能高估了真实推理能力。
Yiwei Zhou, Ziheng Chen
stat.ML cs.LG math.NA math.PR
本文研究了随机梯度Langevin算法中taming分母的设计问题,提出了一种结构保持框架,通过使用确定性包络(deterministic envelopes)来避免随机梯度依赖分母导致的稳态偏差。实验验证了该方法在减少偏差和保持稳定性方面的效果。
Alexandre Cristovão Maiorano
cs.CR cs.AI
本文提出了一种确定性方法,将Breach-and-Attack-Simulation (BAS)工具的输出自动转换为Sigma检测规则,通过一个小的模板库(N=23)实现从发现到规则的映射,并确保每个规则可追溯至原始探针。该方法在锁定的语料库上验证了规则的可解析性和后端转换能力,但主要贡献在于可复现性和可追溯性,而非方法上的开创性。
Xiaohui Yin et al.
stat.ML cs.LG stat.AP
本文提出Trans-GLMC方法,用于解决源数据异质性下的聚类结构迁移学习问题,通过构建系数距离恢复潜在源聚类,并结合全局融合、聚类内细化和目标去偏来适应检测到的结构。该方法在模拟和实际自杀风险研究中提升了预测性能,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Nadav Benedek, Ariel Shamir, Ohad Fried
cs.CV cs.AI cs.LG
本文提出NIV方法,利用神经网络将静态字体自动转换为可变字体,通过预测字形轮廓点的位移实现多轴连续变化。该方法在矢量几何上直接操作,并引入Property Embedding机制处理多轴交互,但整体属于应用型技术改进,与关键词中的理论或基础方法关联较弱。
Remon Polus, Soumaya Cherkaoui
cs.IT cs.AI
本文研究了X波段无人机集成感知与通信系统在车辆网络中的最优时间分配问题,分析了感知精度与通信性能之间的权衡,并提出了一个优化框架来平衡两者。
Sharon Zhang et al.
cs.GR cs.LG
本文提出了一种利用LLM生成弱验证器并聚合为强验证器的pipeline,用于空间布局生成任务。该方法通过约10个人工标注样本即可学习聚合策略,在3D房间布局和2D海报设计任务中显著提升了F1分数。
Thao Nguyen et al.
cs.CV cs.AI
本文研究了个人相机胶卷视觉问答(VQA)任务,构建了包含50个用户、31476张图像和2500个问答对的camroll数据集,并设计了配备分层记忆和工具集的camroll-agent对话AI代理。实验表明该代理在长时个性化视觉记忆导航上优于多种基线方法。
Tobia Poppi et al.
cs.CV cs.AI cs.MM
本文提出了一种跨模型的安全引导框架,通过从source LLM中估计安全方向并传输到target generator,实现了无需目标侧不安全数据的视觉生成安全控制。该方法在text-to-image和text-to-video任务中验证了安全方向的可迁移性,表明安全行为可通过共享的latent direction进行跨模型控制。
Antonin Chodron de Courcel
math.OC cs.AI cs.LG math-ph math.AP
本文研究了梯度下降在“不稳定边缘”状态下的动力学,提出一个连续时间有效模型来追踪平均轨迹与快速振荡的时间平均协方差。该模型通过有效自由能(结合原始风险与曲率相关的“熵”项)来捕捉振荡包络,并在宽两层神经网络中推导出描述权重及其波动联合分布的均场极限方程。
Parsa Esmati et al.
cs.GR cs.AI cs.CV cs.LG
本文通过逆向扩散过程探测视频扩散模型中的物理结构表征,发现物理合理性可从扩散transformer状态中线性解码(准确率约81.27%),且该信号在VAE隐空间中不存在,仅在去噪transformer内部出现。这表明生成式去噪过程可自发产生有物理意义的表征,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Joshua Owotogbe et al.
cs.SE cs.AI
本文首次对MCP (Model Context Protocol) 服务器中的运行时故障进行了实证分类,通过分析837个故障线程构建了一个包含11个顶级类别和27个子类别的分类体系。该分类法涵盖了协议交互、工具调用、模式执行等关键故障类型,并通过开发者调查验证了其外部有效性。
Yuyu Chen et al.
stat.ML cs.LG
本文提出TabSODA,一种基于扩散模型的缺失数据插补方法,通过EM框架处理问卷中的结构性跳过和有序响应问题。该方法在两项美国全国性调查数据上取得了优于现有基线的性能。
Yuhang Wu, Assaf Zeevi
cs.GT cs.LG econ.TH math.OC
本文研究了在竞争市场中,定价算法是否应显式建模竞争对手价格的问题。通过分析遗忘学习(oblivious learning)与知情学习(informed learning)下的市场动态,发现遗忘学习可能导致价格收敛于竞争性结果或出现伪均衡,而知情卖家收益更高,且全知情市场是唯一的Nash均衡。
Yuli Slavutsky et al.
stat.ML cs.LG
本文提出了一种基于Empirical Bayes的多环境鲁棒表示学习方法,通过变分推断分解环境特定项和跨环境平衡项,并在天文源识别、微生物组疾病检测和ICU脓毒症预测等任务中验证了有效性。该方法与关键词中的code, context, spectral, Muon, pretrain, agent, attention无直接关联。
Yukun Guo et al.
cs.CV cs.AI
本文提出了一种基于深度学习的算法,用于从单次OCT血管成像(OCTA)扫描中恢复视网膜毛细血管解剖结构。该网络使用EfficientNet-B5编码器和包含空间与通道挤压激励模块的译码器,通过相邻B帧预测中间帧,显著提升了图像质量与微血管保真度。
Alexis Akira Toda
econ.GN cs.AI econ.TH
本文通过实验测试了多个AI模型(如ChatGPT Pro)在识别经济理论论文中错误的能力,发现AI在无人类引导下无法独立发现错误,但人类与前沿模型结合可提升同行评审效率。
Shipi Dhanorkar, Samir Passi, Mihaela Vorvoreanu
cs.SE cs.AI
本文通过对17位经验丰富的开发者进行访谈,探讨了他们在使用自主软件agent时进行的监督工作,包括先验控制、实时监控等四种形式,并记录了面临的挑战和应对策略。研究为agent监督的理论讨论提供了实证基础。
Yunhao Yang et al.
cs.RO cs.AI
VASO提出了一种通过形式化验证引导LLM生成的机器人技能合约自我演化的框架,利用model checker过滤逻辑不一致的技能合约并验证规划,将反例转化为文本梯度更新技能合约。该方法在Clearpath Jackal和PX4四旋翼任务上达到了97.2%的形式规范符合率,但未直接涉及code、spectral、Muon或attention等关键词。
Cristina Carleo et al.
cs.CR cs.AI cs.SE
本文研究了abliteration(一种低秩权重编辑方法)在代码LLM中去除安全对齐拒绝行为的效果,发现该方法能有效解除模型对漏洞注入提示的拒绝,但注入成功率仍受模型参数规模限制。
Ada Defne Tür et al.
cs.CV cs.CL
本文提出了Novel Visual References Dataset (NVRD)数据集,包含19,176张图像和90个视觉概念,用于研究Vision-language models (VLMs)在接触新视觉概念后的语言映射能力,特别是当这些概念与预训练知识冲突时。通过与2400个人类判断的对比,发现模型在上下文学习中难以获取与先验知识矛盾的新概念,且模型会过度泛化。
Alex Li, Joseph Jacobson
cs.DL cs.CL
本文提出了一个名为MIRAI的深度学习框架,仅利用论文的标题、摘要和发表日期来预测其未来5年的学术影响力(如PageRank和引用次数),并在arXiv数据集上取得了不错的预测效果。此外,该框架还被用于生成高影响力的研究思路。
Lei Dong et al.
math.CO cs.DS
本文提出了grand Motzkin paths with air pockets和grand Dyck paths with air pockets的首个2-Gray codes,并给出了一个三阶段算法,能在常数摊销时间内生成每条路径,但方法本身在组合生成领域属于常规进展,与关键词契合度较低。
Hanqun Cao et al.
q-bio.BM cs.LG
AlloGen提出了一种模块化框架,通过可微的SE(3)-不变界面图transformer \(Q_\theta\)来学习构象选择性,并将其与任意骨架生成器结合以实现状态选择性蛋白结合剂设计。该方法在多个蛋白家族上验证了构象选择性作为可学习属性的可行性。
Joong Ho Kim, Keith G. Mills
cs.CV cs.LG
本文研究了在文本到图像生成任务中,能否在生成前预测人类偏好指标(HPM)分数,并探讨了这种预测对提升生成质量的实用性。实验表明,预测是可行的且硬件开销可忽略。
Yue Zhao, Thierry Chekouo, Sandra Safo
stat.ML cs.LG stat.ME
本文提出Tri-SfSVD框架,用于纵向数据中的双聚类和三聚类分析,通过稀疏函数奇异值分解同时估计连续轨迹并选择受试者、特征和时间子区域。该方法在模拟和真实数据(如IBD多组学和EEG数据)中展示了有效性。
Xiaoyu Hou et al.
cs.HC cs.AI
本文探讨了在建筑教育中,如何通过基于生成学习理论(Generative Learning Theory)的五步提示框架来引导学习者与生成式AI的交互。实验表明,有提示的AI辅助学习在需要解释和推理的任务上表现优于无提示的AI辅助学习或传统幻灯片学习,但多项选择题成绩无显著差异。该研究强调了结构化交互对AI辅助学习效果的重要性。
Faria Binte Kader et al.
cs.SD cs.AI eess.AS
本文评估了LLM在南亚古典音乐(如Hindustani和Bengali音乐)的理解与生成能力,发现前沿模型在理解任务上表现较好,但在生成任务中风格忠实度较低。该研究主要关注音乐领域,与关键词中的code, spectral, Muon, pretrain, agent, attention等概念关联较弱。
Mohammad Mahdi Abootorabi et al.
cs.CV cs.AI cs.CL cs.LG
本文提出了BloomBench,一个基于Bloom认知分类学的双语(英语-阿拉伯语)多模态基准,用于系统评估Vision-Language Models在六个认知层次上的表现。研究发现,当前模型在语义理解上表现良好,但在事实回忆和创造性综合方面存在显著缺陷,并揭示了跨语言推理中的性能差距。
I Putu Adi Pratama et al.
cs.CV cs.AI
本文提出了一种噪声感知的Med-VQA框架,通过引入denoising autoencoder来学习鲁棒的视觉表示,并使用LoRA进行参数高效微调。该方法在SLAKE和PathVQA基准上提升了模型对噪声输入的鲁棒性,但未涉及code、spectral、Muon等关键词相关技术。
Jintao Huang et al.
cs.SE cs.AI
本文提出LLM-as-a-Developer方法,通过让LLM coding agent学习不同Agent Development Kit (ADK)的API并生成agent代码,来评估框架的可用性和有效性。实验发现不同框架在生成成功率和成本上差异显著,且没有单一框架在所有benchmark上占优。
Zihan Zhu, Shayan Kiyani, George Pappas. Hamed Hassani
stat.ML cs.AI cs.LG
本文在conformal prediction框架下引入action-conditional conformal prediction,通过pinball-loss minimization算法为风险规避决策提供条件化的安全保证,实验验证了其相对于边际保证方法的性能提升。
Arman Maesumi et al.
cs.GR cs.CV cs.LG
本文提出了一种Monte Carlo方法用于估计Dirichlet-to-Neumann (DtN)算子及其Steklov特征模态,该方法通过体积随机过程定义边界算子,并推广到外部区域以耦合多组件几何。该方法在计算Steklov谱时比现有边界元方法快数个数量级,且对低质量三角剖分和高分辨率网格具有鲁棒性。
Nelly Elsayed, Zag ElSayed, Navid Asadizanjani
cs.CR cs.AI
本文比较了PCA和LPC两种降维方法在网络攻击分类中的效果,发现PCA在强压缩下仍能保持分类性能,而LPC性能略有下降。研究表明,大幅降低特征维度对分类准确率影响很小。
Phillip Jiang
cs.CV cs.AI cs.LG
本文提出了一种面向无人机航拍图像的多目标跟踪图神经网络HDST-GNN,通过引入高度自适应边构建、异构节点表示和遮挡门控时序聚合等模块,在VisDrone2019-MOT数据集上取得了优于SORT等基线方法的性能。该方法主要针对特定应用场景的工程改进,与关键词中的理论概念关联较弱。
Aarav Bedi
cs.RO cs.LG
本文构建了一个受控测试环境,向demonstration中注入已知类型的缺陷,并审计了七种curation metrics。研究发现,仅基于action的scorers无法检测到structural defects(如关键步骤执行错误动作),而检测准确率高并不保证能提升下游imitation policy的性能。
Zhenfeng Cao
cs.SE cs.AI
本文探讨了AI agents(以LLM为核心推理引擎的系统)如何从根本上重构软件范式,提出了Agent-as-a-Service (AaaS)的概念,并论证了从传统软件到agentic系统的转变。文章通过分析SWE-bench等基准测试,展示了agent范式的潜力与局限,但并未提供开创性的数学方法或解决长期存在的理论问题。
Seungwon Jeong et al.
cs.CR cs.AI cs.LG
本文研究了LLM的jailbreak攻击,发现攻击效果与prompt中插入adversarial tokens的位置(称为slot)高度相关。作者提出Vulnerable Slot Score (VSS)来量化位置脆弱性,并设计SlotGCG方法,通过VSS选择最脆弱的slot进行优化攻击,在多个模型上提升了攻击成功率。
Nicholas Zolman et al.
nlin.CD cs.LG math.DS
本文利用CoBRAS方法(一种基于协方差平衡的降维技术)并结合自动微分框架,为混沌动力系统中的极端事件(如湍流爆发、海洋怪波)构建了可解释的预测模型与抑制控制器。该方法通过识别对目标量敏感的状态投影来揭示极端事件机制,并避免了传统伴随计算。
Xuehang Guo et al.
cs.SE cs.AI
本文提出了一种名为\ours的闭环框架,用于增强软件工程agent的记忆能力,通过将记忆效用定义为经过验证的下游影响,实现了任务无关的评估与优化。实验表明该方法在单轮与跨轮任务中提升了成功率与效率,但主要聚焦于工程应用,与关键词中的理论概念关联较弱。
Haixiang Sun, Andrew Liu
stat.CO cs.LG
本文提出Diff2SP,一种基于diffusion的生成框架,用于随机规划中的场景生成。该方法将下游优化目标嵌入训练过程,并建立了regret bound和样本复杂度保证,实验表明其在统计保真度和优化效果上优于GAN等传统方法。
Suraj Babu Thimma Krishnaram
cs.SE cs.AI cs.LG
本文研究了在代码混合(code-mixed)输入下,内容审核工作流(workflow)的稳定性问题,通过配对实验对比了纯英语与泰米尔语-英语混合输入下的审核决策差异。结果表明,代码混合输入会导致较高的决策翻转率,并增加审核负担和误报率,但未提出具有开创性的方法或解决长期问题。
Dabin Kim et al.
cs.RO cs.AI
本文从具身AI视角综述了长时域机器人操作中的安全问题,按规划时、策略时和执行时三个干预层面组织文献,分析了各层面安全证据的强度,并指出了策略时安全证据有限、接触丰富操作缺乏形式化支持等持续存在的空白。
Shiqiang Lang et al.
cs.CV cs.AI cs.CL
本文提出了LongSpace-Bench基准和LongSpace框架,用于评估和增强多模态大模型在长视频中的空间记忆能力,通过将视频建模为序列块并引入3D结构线索来改进空间推理。
Yifan Liao et al.
cs.SD cs.AI cs.CR
本文提出了一种针对自动语音识别(ASR)系统的黑盒对抗攻击方法,通过将对抗扰动从原始波形迁移到自监督学习(SSL)表示空间,并利用vocoder重构为类语音信号,以提升攻击的可迁移性和绕过防御的能力。实验表明该方法在多个黑盒ASR模型上取得了显著效果,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Charlie Summers, Eugene Wu
cs.DB cs.AI
本文提出了Data Flow Control (DFC)框架,用于在DBMS查询中声明式地指定和保证元组级数据流的策略执行。它通过Passant查询重写层在不物化provenance的情况下高效执行策略,但主要关注数据安全基础设施,与关键词中的agent、code等概念关联较弱。
Kerod Woldesenbet, Abem Woldesenbet
cs.CV cs.LG
本文提出T-SAR-JEPA,一种基于latent prediction的自监督框架,用于SAR振幅堆栈中的时间异常检测。该方法使用ViT-Base/16编码器进行域自适应,并通过时间transformer预测未来latent状态,在DFC 2026数据集上优于传统基线。
Md. Arifur Rahman et al.
cs.CR cs.AI
本文提出了一种结合Federated Learning、Explainable AI和认知安全分析的分布式安全分析框架,用于在保护数据隐私的同时检测网络威胁。该框架通过本地模型训练和加密参数共享,解决了传统集中式入侵检测的可扩展性和隐私问题。
B. M. Taslimul Haque et al.
cs.CR cs.AI
本文基于CICIDS2017数据集,使用XGBoost、Random Forest等机器学习分类器构建入侵检测框架,并集成SHAP等XAI技术提升模型可解释性,用于美国关键基础设施的网络安全风险分析。该研究主要关注模型性能评估(如准确率、F1分数等),但未涉及关键词中的code、spectral、Muon或pretrain等概念。
Md. Iqbal Hossan et al.
cs.CR cs.LG
本文提出了一种结合CNN和LSTM的混合深度学习框架,用于检测美国关键数字基础设施中的网络攻击。研究基于CSE-CIC-IDS2018数据集,对比了多种机器学习模型,但方法本身在架构上缺乏显著的开创性,且与关键词列表中的概念关联较弱。
Kanghui Tian et al.
cs.CV cs.AI cs.LG
本文提出ViCuR框架,将多模态on-policy distillation中的teacher privilege从答案侧替换为visual cues,通过轻量级的cue recovery模块在prefill阶段聚合视觉证据,在不改变推理接口的情况下提升学生模型性能。实验表明该方法在多个benchmark上优于基于答案的self-distillation和OPD基线。
Mohammad Zare, Omid Abdolrahmani
cs.SE cs.AI
本文提出MicroSkill Architecture,一种将知识封装为原子化技能胶囊的模块化框架,通过动态路由器选择语义相关的胶囊来优化token预算下的上下文分配。实验表明该方法能大幅降低token消耗并提升编译成功率,但未涉及spectral、Muon或attention等关键词相关技术。
Shuze Liu, Qianwen Guo, Yushun Dong
cs.CR cs.CL
本文提出了一种基于最大均值差异(MMD)的检测器,通过将查询嵌入语义空间并比较其与历史良性流量的分布偏差,来检测大语言模型API流量中的模型提取攻击。实验表明该方法在多个攻击场景下具有高检测率与低误报率。
Shing Yin Wong et al.
cs.IT cs.LG
本文研究了使用微调的小规模语言模型(0.6B-1.7B参数)结合引导式beam search来自动证明Shannon-type entropy inequalities。实验表明,在n=10到15变量的测试集上,该方法的证明成功率达到85%,优于GPT-5.5和Psitip,并分析了训练上下文长度和数据分布对性能的影响。
Yitong Chen et al.
cs.CV cs.AI cs.LG cs.RO
本文探讨了基于扩散的视觉-语言-动作(VLA)模型中的一步动作生成问题。作者发现,通过简单地在训练时偏向高噪声状态的时间分布,无需引入教师模型或蒸馏阶段,即可使一步策略的性能接近甚至超过十步解码。实验在LIBERO系列基准和真实机器人上验证了这一发现。
Kejuan Yang et al.
cs.MM cs.AI cs.CL
本文提出了UNIVID,一个统一的Vision-Language模型,用于视频审核。它通过生成可解释的policy-aware captions作为中间表示,替代了传统的黑盒分类器,在工业规模上减少了违规泄露和过度审核率。
Weiguang Wang et al.
cs.SD cs.AI eess.AS
本文提出了一种Sagnac辅助增强的\(\phi\)-OTDR分布式声学传感架构,并构建了工程导向的事件识别标准化基准框架。通过FPGA上的cross-correlation实现异构信号对齐,并在10-km光纤上对比了多种方法,实验表明双分支融合模型在准确率、macro-F1和虚警率间取得了最佳平衡。该工作为\(\phi\)-OTDR DAS提供了物理驱动的增强策略和可复现的基准协议。
Zhuoming Liu et al.
cs.CV cs.AI cs.LG
DRIFT提出了一种用于视觉-语言模型的残差流适配器框架,通过结合基础预测器和基于flow matching的生成式精化模块,将连续输出解码问题转化为学习局部残差分布。该方法在视觉定位和机器人控制任务上优于回归和生成式基线,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Vahid Garousi
cs.SE cs.AI
本文讨论了AI辅助软件工程中两个常被忽视的负担:人类对AI生成产物的持续监督需求,以及AI工具大量建议带来的认知过载。文章通过从业者观点强调了这些挑战,但未提出具体数学方法或解决长期问题。
Mohammad Tariq Ikhlas et al.
cs.CR cs.AI cs.LG
本文提出了一种改进的CNN-LSTM模型用于IoT网络入侵检测,通过结合多分类、数据集集成和时间特征学习,在网络流量数据上达到了约97%的准确率。该模型利用卷积和循环神经网络组件捕获网络流量的空间和时间特征,提升了入侵检测能力。
Van Le, Trevor Tran, Tan Le
cs.CR cs.AI stat.ML
本文分析了TinyML模型(如Random Forest, Logistic Regression, SVM, MLP)在自主航天器网络威胁检测中的延迟-精度权衡,基于SPARTA攻击模型和对抗性RF频谱图实验。结果表明Logistic Regression在微秒级推理下仅损失1%精度,适合作为机载基线。
Shawaiz Obaid et al.
cs.CV cs.AI cs.LG
本文针对LPDR任务中的空间字符不匹配和数据不平衡问题,提出了Cross-Spatial Hybrid Attention (CSHA)和Class-Balanced Synthetic Augmentation (CBSA)方法,在YOLOV5-PDLPR模型基础上提升了识别率并保持了实时性能。
Jihun Cho, Soo-Yeon Jeong, Sun-Young Ihm
cs.CV cs.AI
本文提出了一种情感感知的文本到图像生成pipeline,使用Qwen3-8B从韩语日记中识别隐含情感,并通过LoRA微调Stable Diffusion 3.5 Medium生成儿童手绘风格图像。实验探讨了情感触发词对生成图像的影响,并讨论了CLIP Score作为评估指标的局限性。
Andrei Balakin et al.
math.HO cs.AI math.AG math.CO math.RT
本文记录了2026年4月至5月期间,49位数学家为评估LLM数学推理能力而构建的100道研究级数学问题数据集。通过多阶段测试,发现LLM从最初无法解决41题,到最终仅剩2题未解,表明其数学推理能力已相当出色。
Haibo Wang, Lifu Huang
cs.CV cs.AI
GeoVR通过从2D视频序列中蒸馏预训练3D基础模型的知识,重塑多模态大语言模型的内部表示以增强3D空间感知,在空间推理基准上取得了最优性能。该方法利用多目标学习策略(包括相机位姿估计、深度回归等)实现几何约束,但与我提供的关键词列表关联度较低。
Hassan Jalil Hadi, Rehana Yasmin, Ali Shoker
cs.CR cs.AI
本文提出了GenTI,一个利用LLM自动生成IDPS规则(用于入侵检测与防御)的基准框架,并构建了包含超过15万条规则的数据集GTI。通过链式推理和验证循环,该方法在未知攻击检测上取得了显著提升,但主要聚焦于网络安全领域,与您提供的关键词(如spectral, Muon, pretrain, agent, attention)关联度较低。
Junjie Zheng et al.
cs.SD cs.AI eess.AS
UniVoice提出了一种基于conditional flow matching的统一语音与歌声生成框架,通过将条件分解为内容、旋律和音色,并使用共享的Diffusion Transformer (DiT) backbone处理不同模态。对于歌声,旋律条件由MIDI序列显式控制;对于语音,则用学习到的空旋律token替代,从而避免对语音施加旋律约束。该方法在大量数据上训练,性能与专用TTS系统相当,并在歌声生成上优于统一基线。
Zhihao Zhou et al.
cs.HC cs.AI
本文提出EEGDancer框架,通过vector-quantized representation learning和masked temporal modeling构建离散-连续emotion latent space,并引入reinforcement learning(Soft Actor-Critic)优化连续EEG emotion prediction的序列轨迹。该方法在多个数据集上优于现有方法,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词中的核心概念。
Rui Wang et al.
cs.MM cs.AI
本文提出LLMCodec方法,利用视频编解码器(如VVC/H.266)对LLM权重进行压缩,通过仿射量化与视频编码结合,在2-bit精度下相比现有方法降低了困惑度并提升了下游任务准确率。该方法无需微调或校准数据,但主要聚焦于压缩效率,与关键词中的code、attention等概念关联较弱。
Krishnakumar Vaithianathan
q-bio.NC cs.LG q-bio.QM
本文提出了一种跨尺度的空间感知生成框架,用于建模与神经退行性疾病(如阿尔茨海默病)相关的转录组程序。该框架结合了variational generative architecture和graph-based spatial smoothness regularization,以学习连接基因表达与皮层退化的潜在生物程序。
Ratan Bahadur Thapa et al.
cs.IT cs.AI stat.ME
本文研究了分布式不确定性管理系统中加权概率密度的层次化融合问题,证明了在连续二元融合规则下,阶不变性层次化执行等价于归一化加权线性池化,并指出端点到候选\(f\)-散度平衡的局部几何特性会导致平方根有效权重,从而阻碍了调度无关的融合。
Siheng Zhao et al.
cs.RO cs.AI cs.CV cs.LG
本文提出了LadderMan系统,通过两阶段学习pipeline和vision foundation models,使humanoid robot能够鲁棒地攀爬多种梯子并执行操作任务。该系统在仿真中训练并零样本迁移到真实硬件,支持在梯子约束下的遥操作。
Jaehoon Kang, Yejin Lee, Kyuhong Shim
cs.SD cs.CL eess.AS
本文提出GLASS框架,通过冻结zero-shot TTS骨干网络并使用GRPO训练轻量级LoRA适配器,实现对语速和音高等声学属性的风格控制。该方法利用奖励信号而非风格标签进行学习,并支持通过LoRA算术进行适配器的组合与插值。
Cunhang Fan et al.
cs.SD cs.LG eess.AS
本文提出了一种双分支混合神经网络DBHN-Net,结合ANN和SNN以在保持语音增强性能的同时降低计算复杂度。该方法通过BandSplit和TF-Mamba模块压缩能耗,并利用交互模块和TF交叉注意力融合模块促进双分支信息交换。
Qing Yang et al.
cs.CV cs.CL
本文提出MemoryCard框架,通过将长视频分割为语义连贯的事件单元并生成Memory Cards,以增强Vision-Language Models在长视频问答中的表现。该方法通过自阅读过程组织视频内容,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Lucas D. Konrad, Nikolas Kuschnig
stat.ML cs.LG econ.EM stat.CO
本文提出了一种高效识别最具影响力集合(MIS)的方法,通过将问题转化为单参数序列的top-k问题,并利用Dinkelbach算法以每轮\(\mathcal{O}(n)\)的复杂度求解,解决了传统穷举搜索不可行的难题。
Xin Wang et al.
cs.SE cs.CL
本文提出了Asuka-Bench基准,用于评估代码agent在用户意图不明确和多轮迭代场景下的表现,通过闭环流程(代码agent生成项目、UI agent执行测试、用户LLM提供反馈)来模拟真实web开发。实验表明,不同模型在任务通过率和从反馈中修复的能力上存在显著差异,且当前最强模型在三轮后仅完成52%的项目。
Sota Asanuma
stat.ML cs.LG
本文提出EML-CD框架,将EML算子(能从单一二元算子组合初等函数)集成到因果结构学习中,以恢复可解释的因果机制。该方法将每条边机制表示为门控EML二叉树,并自动发现闭式因果方程,在Sachs蛋白质信号等数据集上取得了与基线相当的结构恢复性能,同时为检测到的边附加了闭式方程。
Nikolai Dorofeev, Alexey Odinokov, Rostislav Yavorskiy
cs.RO cs.AI
本文提出了一种通过合成场景学习机器人安全策略的对抗性游戏框架,将场景生成建模为红蓝两队之间的对抗过程。该工作目前处于问题定义和架构设计阶段。
Tianyi Tang et al.
cs.DB cs.AI
本文提出了CausalPhys基准,包含超过3000个视频和图像问题,用于评估视觉语言模型在物理世界中的因果推理能力,并设计了基于因果图的度量方法。实验表明现有模型存在系统性缺陷,提出的CRFT微调方法能提升推理准确性和可解释性。
Yi Yang et al.
cs.RO cs.AI
本文提出了一种名为World-Language-Action (WLA)的具身基础模型,它通过自回归Transformer同时预测文本子任务、子目标图像和机器人动作,统一了世界建模与语言推理能力。该模型在模拟和真实环境中取得了先进的多任务与长时域任务成功率,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Yoshiyuki Ootani
cs.CV cs.LG
本文针对视觉感知的多模态大语言模型(MLLM)条件编辑扩散中的视频流式风格化问题,提出了一种工程优化流水线,通过非对称CUDA流水线、编译友好的ControlNet-LLLite重公式化以及周期性条件刷新调度,在消费级GPU上实现了视频帧率的实时处理。该工作主要贡献在于系统层面的工程优化,而非理论或方法上的开创性突破。
Gabriela Dobrita, Simona-Vasilica Oprea, Adela Bara
cs.CR cs.AI
本文提出AttackPathGNN,一种用于Solidity智能合约跨函数漏洞检测的GNN方法。它通过构建State Interference Graph捕获函数间的状态依赖,并使用conjunction pooling聚合多个漏洞前提条件,在SmartBugs数据集上取得了较好的检测效果。
Jihun Cho et al.
cs.CV cs.AI
本文提出了一种基于深度学习的软件方法,使用10张2D口腔内图像重建3D口腔模型,采用MobileNetV2作为图像编码器并结合Multi-head Attention进行多视角特征融合,在Dental3DS数据集上训练,但重建精度有限且点云分布不均匀。
Yang Wu et al.
cs.CV cs.AI
本文提出了一种用于遥感图像去云的Adaptive Triangular Transformer (ATT-CR)模型,通过引入Triangular Attention (TAN)和Feature Selected Gating Module (FSGM)来降低自注意力的计算复杂度并减少云像素的干扰。实验表明该方法在去云任务上优于现有方法。
Christian Llanes, Spencer W. Jensen, Samuel Coogan
cs.RO cs.LG cs.MA
本文提出了一种结合多智能体强化学习(MARL)与模型预测控制(MPC)的框架MA-AC-MPC,用于实现多智能体协同任务中的安全动态可行动作。通过在多智能体追逃场景和异构环境(无人机与全向轮式机器人协作)中的实验,验证了该方法在硬件部署中相比多层感知机模型具有更高的成功率。
Yuanzhi He et al.
cs.RO cs.AI cs.NE
本文提出iCEM+TL框架,通过迁移学习将简单任务的iCEM参数转移到复杂任务中,并利用Reward Redesign优化堆叠和放置操作,在仿真和真实机器人上提升了任务成功率。
Jongyeong Lee et al.
stat.ML cs.LG
本文针对FTPL算法提出了一种基于surrogate probability的自适应学习率方法,在不依赖精确概率计算的情况下实现了best-of-both-worlds保证,并推广了先前对Pareto扰动参数\(\alpha\)的限制。该方法在保持FTPL计算简单性的同时引入了概率依赖的自适应性。
Sebastian Neumayer, Daniel Potts, Fabian Taubert
math.NA cs.LG
本文利用稀疏高维技术(如正交匹配追踪OMP)结合product basis展开来近似PDE的解算子,通过数值实验与cubature方法和Fourier neural operator对比,展示了其在减少所需样本量方面的优势。
Helge Spieker, Jørn Eirik Betten, Arnaud Gotlieb
cs.SE cs.AI cs.LG
本文提出了一种基于metamorphic testing的框架,用于评估机器学习模型解释的忠实性,无需真实标签。该框架通过探索post-hoc解释方法(如SHAP和LIME)的特征重要性,并利用五个metamorphic relations来形式化模型行为与特征归因之间的一致性。
Zachary Cooper-Baldock et al.
cs.RO cs.LG
本文提出使用conditional generative adversarial network (cGAN)作为RANS CFD数据的替代,用于三维水下路径规划中的流场预测。该方法通过层次化pipeline从标量操作条件合成\(128^3\)体素流场,并集成到能量加权的A*路径规划框架中,在推理速度上显著优于CFD。
Tirtharaj Dash, Gunja Sachdeva
q-bio.QM cs.LG math.AT q-bio.GN
本文提出pVR框架,将\(p\)-adic数与拓扑数据分析结合,用于无比对基因组序列分类。它通过\(p\)-adic距离和\(L_1\)距离构建双过滤Vietoris-Rips复形,并提取拓扑摘要作为分类特征,在低样本数据集上优于部分基线方法。
Eric Spencer et al.
cs.SE cs.AI cs.LG cs.LO
本文提出了TLA-Prover,一个用于TLA+形式化规约合成的200亿参数模型,通过监督微调和基于修复的组相对策略优化(GRPO)训练,在TLC模型检查器验证下达到了30%的Gold和Diamond通过率,显著优于基线。该工作主要聚焦于形式化验证与LLM的结合,与关键词中的code和agent有一定关联,但方法本身并非开创性突破,也未直接涉及spectral、Muon、pretrain或attention等核心概念。
Dakai Guo et al.
cs.SC cs.AI
本文通过AI agent MechMath Agent Team辅助,证明了正实数域下\(n=9\)的Vasc循环不等式,将有理不等式转化为齐次多项式不等式并利用有限证书覆盖所有排序锥。
Haihang Xia et al.
cs.AR cs.AI cs.NE
本文提出了一种名为ITP-STDP的片上SNN训练引擎,通过将STDP学习规则中的权重更新计算简化为2的幂次运算,并设计专用硬件架构,显著降低了硬件资源消耗和能耗。实验表明,该方法在FPGA和ASIC平台上相比现有方案实现了4.5倍至219.8倍的能效提升,并大幅减少了芯片面积占用。
Cornelius Otchere, Michael Shields
stat.ML cs.LG math.NA physics.comp-ph
本文利用Fisher Information Matrix定义了物理约束模型的有效自由度\(d_{eff}\),并证明对于有限维核的算子,\(d_{eff}\)收敛于核的维度,成为连续算子的结构不变量。基于此,文章提出了子空间投影策略,用于在不重新训练的情况下调整边界条件,但该方法与关键词列表中的概念关联较弱。
Naïl B. Khelifa, Richard E. Turner, Ramji Venkataramanan
stat.ML cs.LG
本文从几何角度分析了扩散模型中\(L^2\) score matching error的局限性,指出该误差并非衡量分布质量的合适指标,因为只有其梯度分量影响边际Fokker-Planck dynamics。文章通过Helmholtz-Hodge decomposition证明了\(L^2\) score error无法一致地界定分布间的divergence,并给出了一个仅依赖于梯度分量的KL divergence上界。
Simon Malan, Danel Slabbert, Herman Kamper
eess.AS cs.CL
本文重新审视了无监督词发现中lexicon评估的指标问题,指出常用的normalized edit distance存在偏向大cluster质量的固有偏差。作者基于clustering理论提出了两个改进指标,以更公平地评估lexicon与ground-truth分布的相似性。
Huifan Gao et al.
cs.SE cs.AI
本文提出了一种多任务表示工程(multitask RepE)框架,旨在提升大语言模型生成代码的可读性,同时保持正确性。该方法通过低数据依赖和低计算成本的定向控制,在多个任务间平衡了代码可读性与正确性的权衡。
Tan Zhang et al.
cs.CV cs.AI
本文提出了DisasterBench,一个用于无人机灾害响应的多模态基准,涵盖多种灾害类型和推理任务,并设计了轻量级模型DisasterVL。该工作主要关注灾害场景下的多模态推理,与关键词中的code, context, spectral, Muon, pretrain, agent, attention关联较弱。
Dongwon Son et al.
cs.RO cs.AI
本文提出Torque Adaptation Module (TAM),一个用于机器人扭矩命令自适应的学习模块,通过在仿真中训练并在真实机器人上零样本迁移,改善了动态操作任务中的运动跟踪鲁棒性。该方法主要关注机器人动力学差异的补偿,与关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念无直接关联。
Yining Xing et al.
cs.RO cs.AI
本文提出CLEAR框架,通过单步条件漂移替代扩散模型的多步去噪,并结合视觉编码器与语言模型实现高效的多模态轨迹规划。该方法在NAVSIM基准上取得领先性能,但未涉及关键词中的code, spectral, Muon, pretrain, agent或attention等核心概念。
Yanqing Luo et al.
cs.CV cs.LG
本文提出Symb-xMIL,一个用于数字病理学中多实例学习模型的后验解释框架,通过量化模型行为与人类可读逻辑规则(如AND、OR、NOT)的对齐程度,将解释从热图扩展到结构化规则推理。该方法在合成数据和真实临床任务中验证了其揭示决策模式与隐藏错误的能力。
Giorgio Maria Cavallazzi, Miguel Pérez-Cuadrado, Alfredo Pinelli
physics.flu-dyn cs.LG
本文研究了湍流减阻控制中强化学习agent的奖励机制问题,指出标准奖励函数可能导致名义减阻但实际能耗增加。通过改进可微投影、循环策略和真实壁面功率奖励,实现了在封闭能量预算下17%的保守减阻效果。
Benedikt Seiter et al.
stat.ML cs.LG stat.ME
本文提出Anchor PCA方法,通过权衡整体解释方差与域间低秩嵌入的一致性,从多域数据中提取共享变异方向。该方法可转化为对修正目标矩阵进行PCA求解,并具有最小最大重建解释。
Ziming Wang
cs.DB cs.AI
本文提出了一种名为TOKI的bitemporal operator algebra,用于解决LLM agent持久化记忆中的矛盾消解问题。它将四种生产级消解启发式方法统一为一种操作符族,并提供了隔离性、schema和provenance层面的正确性证明,但主要贡献在于形式化契约而非方法上的开创性突破。
Boyang Zhang, Lianlei Shan
cs.RO cs.AI
MPCoT提出了一种奖励引导的多路径潜在推理框架,通过初始化\(M\)个假设并经过\(K\)步权重共享的细化后软聚合,在保持原有8步动作接口且不产生推理token的情况下提升长时域控制性能。该方法在LIBERO和CALVIN基准上验证了效果,但主要聚焦于机器人控制领域的推理效率,与关键词中的code、spectral、Muon等概念关联较弱。
Francesco Spinelli et al.
cs.NI cs.AI cs.ET cs.MA
本文提出了DAST框架,利用VLM和LLM构建多智能体流水线,将多变量KPI流转换为视觉表示,通过文本描述与O-RAN领域知识比对,实现跨接口异常检测。该方法在真实网络数据上取得了优于传统时间序列异常检测方法的性能。
Tianqi Ren et al.
cs.IT cs.AI
本文提出DDM-SSCC框架,将discrete diffusion model用于无损图像传输,通过双向注意力下的同步反向算术编码实现像素级恢复,并在噪声信道中优于现有baseline。
Shan Jiang, Pan Peng
quant-ph cs.DS
本文研究了三角形割稀疏化问题,提出了一个基于量子行走和Grover搜索的量子三角形列举算法,其运行时间优于已知经典算法,并利用该结果构建了量子版本的三角形割稀疏化器。
Ankur Garg et al.
stat.ML cs.LG
本文提出了一种基于贝叶斯方法的多环境离散因果表示学习框架,通过序贯蒙特卡洛采样近似后验分布,并在社会调查数据上验证了其推断潜在文化价值观或政治观点等因果概念的能力。该方法主要关注离散因果概念与未知多节点软干预场景,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)无直接关联。
Qi Xu et al.
cs.CV cs.AI
本文针对视频时间定位任务中的“一对多”场景(即一个文本查询对应多个不连续视频片段),提出了首个系统解决方案,包括构建基准、数据集和基于密集视频描述的奖励函数。实验表明该方法在OMTG Bench上取得了新的最优结果。
Mahmoud Elhadidy et al.
physics.flu-dyn cs.LG physics.comp-ph
本文研究了从被动标量场(如浓度或温度)观测数据中重建壁面剪切应力(WSS)的问题,比较了基于可微物理的离散伴随PDE约束优化与物理信息神经网络(PINNs)两种逆方法。在二维后向台阶流和三维患者特异性狭窄冠状动脉案例中,可微物理方法在远场测量等困难场景下表现更优,而PINNs仅在近壁数据可用时有效。该工作为利用标量输运数据推断近壁血流动力学提供了新途径。
Anshima Singh, David J. Silvester
math.NA cs.LG stat.ML
本文提出了一种名为DAS-PINNs的深度自适应采样框架,将其扩展到时空域以求解高维time-dependent PDEs。该方法使用normalizing flow神经网络学习由PDE residual诱导的分布,从而自动识别并追踪高残差区域,无需显式的时间步进或移动网格。
Naixu Guo et al.
quant-ph cs.AI cs.DS
本文提出了一种用于稀有事件发现和采样的量子算法,无需预先知道哪些事件是罕见的,并证明了其达到了与稀有度阈值相关的最优量子标度。该算法在重尾系统和平稳随机过程中实现了多项式加速,但未直接涉及我提供的关键词。
Yan Wang, Tianyang Hu
stat.ML cs.LG
本文提出了一个统一的拓扑工具包,包括对称表示拓扑散度(SRTD)和归一化拓扑相似性(NTS),用于神经表示分析。该工具包解决了现有拓扑散度的非对称性和无界性问题,但与我提供的关键词列表关联度较低。
Sribalaji C. Anand, Anh Tung Nguyen, George J. Pappas
eess.SY cs.LG
本文研究了在无plant model知识的情况下,使用时间序列基础模型TimesFM进行攻击检测,并针对两类攻击(model-free replay attacks和model-based stealthy attacks)提出了基于零样本预测的检测器,在IEEE 14-bus power system上验证了其有效性。
Jaeyeong Lee, Wonmo Koo, Heeyoung Kim
stat.ML cs.LG
本文针对AIS数据中的船舶轨迹预测问题,提出了一种在Bayesian Neural ODEs中引入function-space先验的方法,通过将基于GP kernel的正则化项加入标准weight-space变分目标来约束vector field的结构。该方法结合了probabilistic multiple shooting以处理长且不规则的轨迹,但主要贡献在于工程性的改进而非理论上的开创性突破。
Dinghao Zhou et al.
cs.SD cs.AI eess.AS
本文提出F3-Tokenizer,通过噪声正则化的autoencoder bottleneck和潜在表示编码器,将连续音频自编码器的latents适配为同时支持理解与生成的单一tokenizer。该方法使用channel normalization和随机扰动替代KL变分训练,并利用RQ-MTP和冻结LLM监督训练表示编码器。
Ahmed Mohamed, Ahmed Aboulfotouh, Hatem Abou-Zeid
eess.SP cs.AI
本文提出LatentWave,一种基于Joint-Embedding Predictive Architecture (JEPA)的无线基础模型预训练方法,通过在latent space中预测masked区域来学习可迁移的表示,并采用per-channel patch embeddings和stochastic channel sampling处理可变天线数。实验表明,该模型在RF信号分类、5G NR定位等下游任务中优于masked-modeling基线,且masking geometry会引入任务相关的inductive bias。
Qiwei Zeng et al.
cs.CV cs.AI
本文提出EasyLens,一种无需训练的即插即用模块,通过构建病理-解剖原型空间和形态引导的残差增强,提升医学视觉语言模型对细微病变的表示能力。实验表明该方法在多个数据集上优于现有基线。
Wenbo Li et al.
cs.CV cs.AI
本文提出一个名为HomeWorld的分层框架,用于从floorplan到家具摆放的室内场景生成。它利用大语言模型和图像生成模型实现可控的whole-home场景合成,并包含一个VLM-based的refiner来修正布局。
Ieva Kazlauskaite
stat.ML cs.LG
本文提出Conformal Risk Sharing框架,通过将可解释的sharing policy与split conformal calibration结合,从有限数据中为每个agent提供无分布假设的义务上限保证,并验证无人受损。实验在合成和真实数据上展示了该方法对高风险agent的极端义务削减效果。
Tengfei Zhang et al.
cs.CV cs.IR cs.LG eess.IV
本文提出了一个用于放射学影像比较推理的视觉-语言框架MedReCo,通过构建大规模数据集MedReCo-DB并设计实体感知的视觉编码器,实现了参考病例检索和时间对比解读。实验表明该方法在多项评估中优于基线,但未涉及代码、上下文、谱方法、Muon、预训练、智能体或注意力等关键词。
Qi Lan et al.
cs.RO cs.AI
RiskFlow提出了一种基于action space transport的闭环安全关键交通场景生成框架,通过学习有限区间上的平均velocity field将Gaussian action序列直接映射为加速度和yaw-rate指令,避免了扩散模型的迭代去噪过程。该方法在nuScenes数据集上实现了对抗性与真实性的平衡,并显著降低了推理时间。
Heng-Jui Chang et al.
eess.AS cs.CL cs.SD
本文提出了USAD 2.0,一种通用的audio encoder,通过domain-aware distillation整合了self-supervised learning和supervised foundation models的知识,并扩展了模型规模至十亿参数。实验表明其在多种audio understanding任务上取得了强或最优的性能。
Mehmet Iscan
cs.SE cs.CL
本文通过预注册的两层消融实验,研究了Popperian falsificationist prompt skill对代码生成的影响,发现其提升主要来自scaffold结构而非Popperian内容本身,在小型模型上结构化方法提升了正确率但完整skill无额外优势。
August Y. Chen, Ahmed El Alaoui
math.ST cs.LG math.PR
本文研究了在高维比例极限下,随机均匀选取的插值分类器(interpolating classifier)的泛化误差分布,建立了大偏差原理(large deviation principle),并发现除指数小部分外,大多数插值分类器的泛化性能几乎相同。
Qintong Xie et al.
cs.GT cs.LG
本文提出DNQ框架,用于训练部分可观测n人博弈中的智能体,通过交替进行轨迹收集、基于critic的收益估计、均衡计算和策略模仿,并比较了pairwise和exact两种公式在可扩展性上的权衡。
Dong Jing et al.
cs.RO cs.AI
本文提出TempoVLA,通过Variable-Speed Trajectory Augmentation (VSTA)和条件机制实现机器人执行速度的可控调节,解决了现有Vision-Language-Action模型只能固定速度执行的问题。实验表明该方法能灵活控制速度并提升默认性能,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Liliana Hotsko et al.
cs.SE cs.AI cs.CL
本文提出Code2LoRA框架,通过hypernetwork为不同代码仓库生成LoRA适配器,以注入仓库级知识。该方法在静态和演化代码库场景下均能提升代码语言模型性能,但未涉及spectral、Muon或attention等关键词。
Lizhi Yang et al.
cs.RO cs.AI cs.LG
本文提出了一种名为HANDOFF的人形机器人全身控制框架,通过多教师知识蒸馏将运动跟踪、行走和跌倒恢复等技能整合到一个学生网络中,并采用基于上下文的门控机制实现专家混合。该方法在Unitree G1机器人上实现了与最先进方法相当的线速度跟踪性能,并提供了较大的鲁棒操作工作空间。

- 数据来源 Data Source: arXiv.org

- 本网页的内容由 bluearXiv-ai 自动生成。实际抓取的是 arXiv 中 "new" 页面的数据,即最近的有所在分类论文变动的一天的数据。

- 感谢 arXiv 提供的服务。评论和精选由 AI 生成,不代表任何人对论文本身的看法。精选依赖于论文与给定关键词的匹配度。

- 计数基于主学科,不计重数。

- This webpage is automatically generated by bluearXiv-ai.

- The data actually captured is from the "new" page, that is, the data of the most recent day when there were changes in corresponding subjects.

- Thanks for services prodived by arXiv. Comments and selection of good papers are generated by AI, not showing anyone's point of view about those papers.

- The selection also depends on the matched-degrees between papers and given keywords.

- The counters are based on main subject, not counting multiplicities.