bluearXiv-ai 论文精选

2026-05-26

📚 跟踪学科 (Categories)

🔍 筛选关键词 (Keywords)

📊 论文统计 ↑ 回顶部

cs.LG
235
cs.AI
166
cs.IR
26
cs.CL
161
cs.DS
13
others
256
总计
857

⭐ 精选论文 ↑ 回顶部

cs.LG

Nesreen K. Ahmed, Nima Nafisi
cs.LG cs.AI cs.CL cs.CR
Naoki Kiyohara et al.
cs.LG
Jingchu Gai, Nai-Chieh Huang, Jiayun Wu
cs.LG cs.AI cs.CL
Vaishnavi Shrivastava et al.
cs.LG cs.CL
Zexuan Chen et al.
cs.LG cs.CL q-bio.NC
Yan Leng, Thibaut Mastrolia, Hao Wang
cs.LG math.PR
Łukasz Struski et al.
cs.LG cs.AI
Shogo Yamauchi, Tohru Nitta, Hideaki Tamori
cs.LG cs.AI stat.ML
Ziyue Chen, David Šiška, Lukasz Szpruch
cs.LG math.OC
Bocheng Zeng et al.
cs.LG cs.AI
Aleksandar Todorov, Matthia Sabatelli
cs.LG cs.AI

cs.AI

Yunbei Zhang et al.
cs.AI cs.SE
Sahil Joshi et al.
cs.AI cs.LG
Suresh Raghu, Satwik Pandey, Shashwat Pandey
cs.AI
Wentong Chen et al.
cs.AI
Michael Aichmüller, Yannik Hesse, Hector Geffner
cs.AI

cs.IR

cs.CL

Yunao Zheng et al.
cs.CL
Haoyi Hu et al.
cs.CL cs.IR cs.MA

others

Daniele Picone, Mohamad Jouni, Mauro Dalla-Mura
cs.CV cs.AI eess.IV
Mahavir Dabas et al.
cs.CR cs.LG
Wei Song et al.
cs.CV cs.AI

📄 所有论文 ↑ 回顶部

cs.LG

Xiaotian Liu et al.
cs.LG cs.AI
本文提出Iterative Refinement Neural Operator (IRNO),通过将预训练的neural operator与一个可学习的refinement module结合,并采用fixed-point iteration进行迭代推理,从而缓解neural operator在高频细节上的spectral bias问题。该方法将预测分解为粗粒度初始化与后续残差校正,类似于经典数值求解器,并在局部假设下证明了诱导算子的压缩性,确保收敛到唯一不动点。为显式处理高频误差,作者提出progressive spectral loss,在训练过程中自适应地增加对高频分量的惩罚。实验表明,IRNO在湍流等物理系统上显著降低了误差,且在高频区域的误差比相对于基础算子大幅下降,验证了该方法在缓解spectral bias方面的有效性。
Yongzhong Xu
cs.LG cs.AI
本文提出了一种三步法(Spectral Probe-Circuits)来识别预训练Transformer中的attention-head circuits。该方法的核心创新在于使用每个head的attention输出的时间积分participation ratio作为spectral signal,无需标签或attribution gradients即可对进行持续内容相关计算的heads进行排序,并通过task-pattern screen和group ablation完成因果验证。实验在51M到1B参数规模、dense和mixture-of-experts架构以及多种预训练pipeline上验证了方法的有效性,发现一个2-6 head的induction circuit在所有测试模型中都是因果必要的,且spectral signal在无监督情况下即可预测特定seed的circuit。该工作为理解pretrained transformers中的attention机制提供了系统性的方法论,与关键词中的“spectral”和“attention”高度契合。
Nesreen K. Ahmed, Nima Nafisi
cs.LG cs.AI cs.CL cs.CR
本文提出Agent-ToM框架,将Theory-of-Mind (ToM)推理引入自主LLM agent的监控任务。该框架通过推断agent的信念、意图及与任务一致的行为基线偏差,并采用Reason-Verify-Refine流程进行结构化全轨迹分析,解决了传统监控方法无法区分良性执行与隐蔽恶意行为的长期难题。在训练阶段,Agent-ToM将批评信号蒸馏为持久化的语义护栏记忆,实现了跨episode的可复用约束。实验表明,该方法在SHADE-Arena等基准上取得了优于集成方法等现有技术的精确率-召回率平衡,为agent安全监控提供了可部署的基础。
Naoki Kiyohara et al.
cs.LG
本文提出Interdomain Attention,通过kernel methods将state space model (SSM)集成到attention模块中:用有限feature map近似attention kernel,将key features和values投影到由单个SSM recurrence维护的共享basis functions上,每个query通过其feature map关注压缩后的系数,从而在固定大小的state上实现query-conditioned attention。在125M至1.3B参数的自回归语言建模实验中,该方法在相同recurrent-state预算下优于SSM token mixer,并在1.3B规模上超越softmax baseline,同时继承了固定state核心的长度平坦行为(可外推至训练context的3.5倍)。消融实验表明,query-conditioned projection是性能提升的主要来源。该方法为attention与SSM的融合提供了新的可扩展框架,与关键词“attention”高度契合。
Ke Sun et al.
cs.LG stat.ML
本文通过将prompt重加权形式化为pass-rate函数空间中的utility functional的functional derivative,建立了一个统一的最优性框架,该框架能够涵盖REINFORCE和GRPO等现有方案。基于此框架,作者提出了一种名为CurveRL的分布感知prompt重加权方法,该方法利用quantile coordinate transform,使得每个prompt的权重取决于其pass rate在动态学习过程中的rank和density,而非绝对数值。实验表明,CurveRL在多个benchmark上持续优于GRPO等RLVR基线。该工作将context-distribution control确立为分析和设计prompt重加权RLVR算法的一个原则性维度。
Jingchu Gai, Nai-Chieh Huang, Jiayun Wu
cs.LG cs.AI cs.CL
本文提出了一类优化器启发的Transformer架构,将预归一化Transformer层的残差更新解释为作用于代理token能量的一阶优化器的一步,其中attention和MLP子层充当梯度oracle。基于此,作者构建了triple-momentum、Adam/AdamW、Muon和SOAP等变体,并在匹配计算量下进行对比。主要预训练实验表明,triple-momentum TMMFormer取得了最低的验证损失,优于vanilla Transformer和先前的架构变体。受控消融实验和理论分析显示,momentum(而非preconditioning)是性能提升的主要来源,且基于momentum的设计能达到更平坦的极小值,从而减少遗忘并提升泛化能力。
Vaishnavi Shrivastava et al.
cs.LG cs.CL
本文提出ECHO (Environment Cross-entropy Hybrid Objective)方法,将agent与环境交互产生的terminal反馈(如stdout、errors等)作为密集监督信号,在标准GRPO策略梯度损失基础上增加辅助损失,用于预测环境观测token。该方法无需额外rollout,在TerminalBench-2.0上将Qwen3-8B的pass@1从2.70%提升至5.17%,并显著降低了环境token的交叉熵损失。ECHO的关键创新在于将环境观测视为一种on-policy的密集监督信号,而非仅作为未来动作的上下文,这与关键词"agent"高度契合,为agent训练提供了无需专家演示的自改进范式。
Zexuan Chen et al.
cs.LG cs.CL q-bio.NC
本文提出了一种名为MindAlign的三模态对比学习框架,用于从EEG信号进行零样本视觉解码。该方法通过两阶段设计:首先在无标签数据上对EEG编码器进行掩码重建预训练以学习时空规律,然后通过对比学习将EEG、图像和LLM生成的文本描述对齐到统一潜在空间,其中文本监督作为语义正则化器。在Things-EEG2基准上,该方法取得了54.1%的Top-1和83.4%的Top-5准确率,显著超越先前基线,并验证了在Things-MEG上的泛化能力。该工作为从非侵入性神经信号进行鲁棒的语义视觉解码提供了关键进展,与关键词中的attention和pretrain高度契合。
Yan Leng, Thibaut Mastrolia, Hao Wang
cs.LG math.PR
本文提出Deep ZakaiJ,一种用于部分观测Jump-Diffusion系统的latent-state模型。其核心创新在于将Zakai非线性滤波方程嵌入到neural encoder-decoder架构中,通过Strang splitting将滤波更新分解为先验传播、diffusion innovation和jump innovation三个可解释子步骤,从而得到一个可微的一阶精确近似。该方法在合成数据、金融和海洋学数据集上提升了分布预测的校准性,并能恢复可解释的latent结构,为处理带有不可预测跳跃的不规则时间序列提供了结构化的滤波框架。
Łukasz Struski et al.
cs.LG cs.AI
本文提出LAPLEX,一种可学习的Laplace核算子类,通过可训练的坐标锚点隐式定义稠密矩阵,实现了类似FFT的\(O(n\log n)\)计算复杂度,从而在无需存储稠密矩阵的前提下支持高达\(10^9\)维度的可训练矩阵-向量运算。该方法在神经网络中可作为紧凑投影层和分类头,并作为高效的Gram算子用于高维协方差建模,其核心贡献在于将表达性与存储成本分离,使得在传统稠密层不可行的场景下实现数据自适应的全局交互。该工作与关键词中的"spectral"(谱方法)和"attention"(注意力机制)有较强关联,因其本质上提供了一种可学习的全局谱变换,可替代或增强注意力机制中的全局交互计算。
Zixuan Chen et al.
cs.LG
本文提出IterInject,一种基于反馈引导迭代优化的间接prompt injection (IPI) 攻击框架,用于攻击LLM-based agent。该方法通过规则诊断器生成结构化结果标签,并利用LLM-based optimizer根据完整优化历史迭代优化payload,同时通过合成步骤从失败模式生成新的伪装种子,实现策略空间的自我进化。实验在AgentDojo和InjectAgent上显著优于静态和现有自适应方法,并在生产级coding agent Claude Code上验证了有效性,进一步通过mechanistic analysis揭示了IPI的attention-mediated threshold机制。该工作与关键词“agent”和“attention”高度契合,并为agent安全领域提供了开创性的攻击与防御分析。
Noah Farr et al.
cs.LG
本文提出了一种在部分可观测环境下进行流式强化学习(streaming reinforcement learning)的方法,通过使用recurrent trace units (RTUs) 这一对角递归架构,实现了精确的实时递归学习(real-time recurrent learning, RTRL),其时间和内存复杂度与参数数量呈线性关系。该方法解决了流式设置中截断反向传播(TBPTT)退化为单步梯度的问题,在MemoryChain诊断任务(链长2至128)中,当使用前馈、GRU和RTU网络的流式TBPTT(1)基线失效时,该方法仍能维持性能。在POPGym和部分可观测的MuJoCo连续控制任务上,该流式方法无需replay buffer或批量更新,即可与批量PPO竞争,并恢复了掩码MuJoCo上批量性能的很大一部分。
Ben S. Southworth et al.
cs.LG cs.CV
本文研究了Muon优化器在Vision Transformers (ViTs)训练中的表现,发现其性能显著优于AdamW,尤其是在长尾数据集Pl@ntNet-300K上。通过分析梯度矩阵的singular-value结构,作者揭示了Muon与数据增强recipe之间的关键交互:在缺乏强数据增强时,Muon训练后期会出现spectral concentration和mode collapse,主要发生在深层MLP-down blocks;而在固定增强recipe下,Muon与AdamW的差异主要体现在QKV gradients上,Muon的梯度能量分布在更宽的spectral basis上。该工作为理解Muon在ViT中的优化器-recipe交互提供了spectral视角,并展示了其在图像分割和masked autoencoder等任务中的有效性。
Shogo Yamauchi, Tohru Nitta, Hideaki Tamori
cs.LG cs.AI stat.ML
本文提出了一种共享分数的四元数自注意力机制(Shared-Score Quaternion Self-Attention),通过使用四元数内积(quaternion inner product)计算单个实数值分数,并将该注意力分布共享给所有分量,从而将分数计算中的乘法运算量减少75%,并将softmax操作次数从四次降至一次。作者证明了当query和key由诱导分量预混合(component pre-mixing)的四元数线性投影生成时,分量级分数与共享分数位于相同的交互子空间(interaction subspace)中,表明独立的分量级注意力主要是在重新参数化相同的交互而非扩展特征交互空间。在语音增强任务中,该方法在GPU上推理时间减少44.3%,在CPU上减少58.1%,同时保持质量,且在视觉和自然语言处理任务中表现一致。该工作与关键词"attention"高度契合,为四元数神经网络中的注意力机制提供了高效且理论严谨的改进方案。
Ziyue Chen, David Šiška, Lukasz Szpruch
cs.LG math.OC
本文研究了无限时域熵正则化Markov决策过程(MDPs)中连续状态和动作空间下的policy gradient全局收敛性。作者采用log-linear softmax策略与线性函数逼近,在\(Q^\pi_\tau\)-realizability假设下,首先建立了一个非均匀的Polyak--Łojasiewicz (PŁ)不等式,其非均匀性源于Fisher信息矩阵或非中心特征协方差矩阵的特征值退化。通过识别两种特征机制(full-affine-span特征和simplex-valued特征),证明了沿梯度流的正则化目标函数具有全局线性收敛速率,即次优性以\(\mathcal{O}(e^{-Ct})\)衰减。该工作将熵正则化softmax policy gradient的全局收敛理论从tabular设置推广到了连续状态-动作空间,解决了该领域长期存在的非表格化收敛分析问题。
Gorgi Pavlov
cs.LG cs.AI cs.LO
本文提出了一种基于influence-adaptive Walsh几何的极端低位权重量化方法,通过WHT旋转(Walsh-Hadamard Transform旋转)每个线性层的权重矩阵,并依据每坐标Walsh基激活能量重新缩放列,从而在传递给重建误差量化器(Intel auto-round)时偏向高光谱能量通道。该方法在135M到1.5B参数的四个预训练decoder-only模型上,于W2A16设置下将wikitext-2困惑度相对降低15-58%,并扩展至Qwen3注意力中的PCA矩阵-Gamma替换、与RoPE交换的SO(2)每对旋转以及MoE感知的输入侧吸收修复。尽管作者强调该方法与理论论文的Boolean influence无严格形式化联系,但其工程价值显著,且与关键词中的spectral高度契合。
Akash Bonagiri et al.
cs.LG cs.AI
本文提出CausalFlow,一个基于因果干预的框架,用于分析LLM agent在多步任务中的失败。该框架通过计算Causal Responsibility Scores (CRS)并生成最小反事实修复,将失败轨迹转化为可复用的监督信号。CausalFlow支持测试时修复和训练时偏好优化,在数学推理、代码生成等基准上验证了因果归因对于提升agent可靠性的必要性,与关键词“agent”高度契合。
Chung-Yiu Yau et al.
cs.LG math.OC
本文提出EMA-Nesterov方法,通过用参数更新的exponential moving average (EMA)替代标准Nesterov加速中的短视lookahead方向,从而稳定深度学习优化中的加速过程。该方法从轨迹视角出发,利用低通滤波捕捉训练轨迹的低频趋势,避免了随机梯度噪声和非凸损失景观导致的不稳定外推。理论分析表明,EMA-Nesterov在convex问题中保留了与Nesterov加速梯度方法类似的理论加速收敛率,并在语言模型预训练(如NanoGPT)中与Adam、SOAP、Muon等基础优化器结合时,取得了优于先前lookahead方法的性能。该工作为加速深度学习优化提供了稳定且自适应的新范式,与关键词中的“Muon”和“pretrain”高度契合。
Zhitao Zhu et al.
cs.LG cs.AI
本文通过引入数据质量维度扩展了functional scaling laws,并解析求解了数据质量与batch size的联合调度问题。理论揭示了高质量数据的双重角色:在噪声受限阶段作为信号放大器(通过降低batch size),在信号受限阶段作为噪声抑制器(通过延迟放置)。基于此,作者提出Drop-Stable-Rampup调度策略,在LLM midtraining中先降低batch size积累信号再逐步恢复以抑制终端噪声,在15B MoE模型上相比WSD和Cosine-decay分别提升1.70和2.98个平均准确率点,尤其在数学推理任务上表现突出。
Bocheng Zeng et al.
cs.LG cs.AI
本文提出NPSolver,一种无需解标签、通过迭代物理监督训练的神经Poisson求解器。其核心创新在于利用少量预条件共轭梯度(PCG)步骤来优化自身预测,从而提供更稳定且尺度良好的训练信号,理论分析证明了该迭代监督作为条件良好的误差代理以及stop-gradient设计对优化稳定性的必要性。为处理混合边界条件,作者进一步引入边界感知的Transolver(BA-Transolver)架构,显式分离内部与边界tokenization。实验表明,NPSolver在2D和3D不规则几何域上优于基于物理信息和数据驱动的基线方法,并展示了其在基于梯度的边界控制下游任务中的高效性与可靠性。
Aleksandar Todorov, Matthia Sabatelli
cs.LG cs.AI
本文提出了一种简单有效的表示层先验方法,通过在encoder中插入一个固定的orthonormal projection(正交投影)来将特征约束到低维subspace(子空间),无需额外的辅助目标或预训练。在linear realizability假设下,作者证明了当bottleneck维度超过最优value function在特征空间中的intrinsic rank时,该bottleneck保持表达能力,且诱导的gradient dynamics等价于一个低维参数化。实验表明,在单任务和多任务benchmark上,一旦bottleneck维度超过一个小的任务相关阈值,基线性能即可被匹配或提升,且最小充分维度更依赖于环境复杂度而非encoder宽度。该方法为reinforcement learning中的manifold hypothesis提供了表示空间层面的解释,并作为一种轻量级、架构无关的机制来塑造RL表示。
Abrar Majeedi et al.
cs.LG cs.AI stat.ML
本文提出DeepEDM框架,将非线性动力系统建模与深度神经网络结合,基于Takens定理学习时延嵌入的latent space,并使用kernel regression近似底层动力学。实验表明该方法在合成和真实时间序列上具有鲁棒性且预测准确。
Xiaobo Wang et al.
cs.LG cs.CL
本文提出了一种名为UAPO的离线偏好优化框架,通过引入一个锚定函数来估计偏好数据标注中的不确定性,从而放宽了传统Bradley-Terry模型对成对训练数据等假设的依赖。该方法在非成对数据场景下仍能有效训练,提升了数据利用效率。
Hisashi Miyashita
cs.LG cs.AI cs.CL
本文提出对transformer-based LLM的lm_head权重矩阵进行singular value decomposition (SVD),仅需五行PyTorch代码即可从模型权重中提取可解释的语义子空间,并引入Vocabulary Cluster Score (VCS)和Weighted Projection Score (WPS)来量化子空间一致性和检测glitch token。该方法在多个模型上揭示了训练数据组成和伦理问题,但未直接涉及code、context、spectral、Muon、pretrain、agent或attention等关键词的核心内容。
Marc Schmitt
cs.LG econ.EM q-fin.ST q-fin.TR
本文提出了algometrics框架,用于分析预测算法影响自身预测目标的时间序列问题。该框架区分了被动预测下的历史风险和主动预测下的部署风险,并证明了部署风险无法仅从历史数据中识别,且历史模型排名可能在算法拥挤时发生反转。
Heqiang Wang et al.
cs.LG cs.AI cs.CV
本文提出了一种面向多模态在线分布式工业异常检测的框架MODIAD,通过设计Sequential Marginal Gain Greedy算法和Resource Efficient Class-Wise Low Rank Adaptation策略,在资源受限条件下协调多类模型更新并降低系统开销。实验在两个数据集上验证了其性能与效率。
Amin Abbasishahkoo, Mahboubeh Dadkhah, Lionel Briand
cs.LG cs.CV cs.SE
本文提出了一种名为CAFD的DNN故障检测方法,通过整合模型输出信号、距离特征和基于VLM提取的概念特征(Concept Failure Ratio)来提升检测性能。实验表明该方法在多个数据集上优于现有基线,但主要聚焦于工程应用而非理论创新,与关键词列表中的概念关联较弱。
Neel Somani
cs.LG cs.LO
本文提出Verifiable Transformers框架,将Transformer模型中的局部电路转换为有界、可被SMT solver验证的命题。通过直接验证或代理验证方法,在小型符号序列任务上验证了电路的功能等价性和鲁棒性,但该方法在GPT-2规模下仍难以处理。
Alexander Okezue Bell
cs.LG cs.AI
本文研究了单层隐藏状态隐私问题,发现高斯机制在隐私与效用间存在“空中间”现象,并分析了多种机制的性能,但未直接涉及关键词中的概念。
Sanchit Kabra et al.
cs.LG cs.AI
本文提出了LLM-AutoSciLab,一个将hypothesis生成与实验选择相结合的闭环科学发现框架,并在酶动力学和基因调控网络等任务上验证了其有效性。该方法通过主动数据采集提升了样本效率,但并未直接涉及code、spectral、Muon或attention等关键词。
Zhaohan Meng et al.
cs.LG cs.AI
本文提出了InteractBind数据集和基准,用于评估蛋白质-配体模型在结合位点定位方面的能力,发现现有模型在二元结合预测上表现良好但结合位点定位能力有限。
Yichi Zhang et al.
cs.LG cs.AI
本文探讨了多AI协作中如何选择proposer LLMs以提升summarizer LLM性能的问题,将proposer选择重新定义为类似feature selection的组合优化问题,并提出了基于互补性的贪心选择算法。实验验证了互补性作为选择原则的有效性,并找到了性能与成本的最佳平衡方法。
Shugang Hao, Lingjie Duan
cs.LG cs.AI
本文研究移动众包中LLM微调的真实在线偏好聚合问题,提出一种动态贝叶斯博弈模型和在线加权聚合机制,确保策略性工人真实反馈并实现次线性遗憾\(\mathcal{O}(\sqrt{T})\)。
Yuefeng Liu, Ning Yang, Ziyu Yang
cs.LG cs.AI
本文提出Cascade-KDE,一种无需训练的时间序列恢复框架,通过二维密度估计和指数级联处理混合噪声与脉冲异常,在多个基准上优于经典滤波器和学习基线。该方法主要关注曲线保真度和导数保持,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)无直接关联。
Fuming Yang
cs.LG cs.AI
本文通过分析附着在编码器上的被动GMM探针,发现概念涌现对应于由loss Hessian驱动的超临界pitchfork分岔,并提出了一个无标签的相位坐标\(\beta(t)/\beta_c(t)\)来实时检测表示动力学中的结构转变。该坐标在语言模型、自监督学习和grokking等场景中预测了四种不同的转变区间,并解释了grokking中延迟逃逸的动力学原因。
Yoshihiko Fujisawa et al.
cs.LG cs.AI
本文提出LoRDBA,一种将LoRA适配器的低秩因子替换为二进制符号载体的方法,通过通道级缩放表示幅度,从而将密集适配器分支转换为符号累积矩阵乘法。实验表明,该方法在保持模型质量的同时显著减小了适配器存储占用,但未直接涉及关键词中的核心概念。
Koffka Khan
cs.LG cs.AI
本文综述了人体通信(HBC)与联邦学习(FL)在可穿戴体域网中的交叉研究,提出了区分体内、体中心、跨用户和临床云FL部署的分类法,并介绍了BODYFED-HBC参考架构及其调度算法。该工作主要关注系统层面的优化与隐私问题,与关键词中的code、context、spectral等概念关联较弱。
Jaejun Lee, Seheon Kim, Joyce Jiyoung Whang
cs.LG cs.AI
本文提出KREPE,一种用于超关系知识图谱的生成式表示学习方法,通过掩码离散扩散模型学习缺失组件的概率分布。该方法统一了链接预测与事实生成任务,在标准基准上取得最优性能。
Ajhesh Basnet
cs.LG cs.AI
本文发现on-policy强化学习中连续transition存在信息冗余,提出在PPO训练时随机丢弃固定比例的transition(如25%)来打破重复梯度结构,实验表明该方法在多个环境中能稳定训练且不降低奖励。
David Boetius et al.
cs.LG cs.AI cs.LO
本文提出了一种利用神经网络验证技术计算SHAP值精确上下界的算法,旨在将精确SHAP计算扩展到更大的搜索空间,但该方法与关键词列表中的概念关联较弱。
Tewodros Syum Gebre et al.
cs.LG cs.AI
本文针对遥感数据洪水制图中PINN训练不稳定的"Physics Shock"问题,提出了一种不确定性感知的PINN框架,通过动态Warm-Start协议和异方差aleatoric uncertainty建模来平衡物理约束与传感器噪声,在Sen1Floods11数据集上提升了IoU。
Willem Diepeveen, Deanna Needell
cs.LG math.DG math.OC math.ST
本文提出了一种基于数据驱动pullback几何的Riemannian archetypal analysis方法,通过引入deformed star distributions和Riemannian archetypal mapping (RAM)来结合经典archetypal analysis的可解释性与非线性模型的表达能力。实验在合成数据和MNIST上展示了有意义的geodesics和去噪投影,但优化方案仍存在局限性。
Yuwei Xue et al.
cs.LG cs.AI
本文提出Graph-in-Graph (GiG)框架,将每个患者表示为以生物知识图谱定义边、以患者特异性测量定义节点特征的模块化图,用于小样本临床数据分析。该方法在多项临床任务中优于传统方法,尤其在样本有限时表现突出。
Steffen J. Camarato et al.
cs.LG cs.AI
本文提出了PromptAudit框架,用于评估大语言模型在漏洞检测任务中对不同prompt策略的敏感性。实验发现chain-of-thought策略表现最佳,而few-shot和self-consistency策略的效果则高度依赖具体模型。
Matthew Niedoba, Berend Zwartsenberg, Frank Wood
cs.LG cs.AI cs.CV
本文提出了Filtered Posterior Mean Collections (FPMCs)这一统一框架,用于建模图像diffusion模型中neural network denoising function的泛化行为,并通过soft relaxation和source distribution augmentation改进了现有方法。
Robin Young
cs.LG stat.ML
本文分析了多种Neural Process架构(如CNP, ANP, TNP及其潜在变体)的表示能力,证明了这些架构之间存在严格的层次关系,并揭示了不同架构在函数表示上的局限性,例如CNP仅能表示依赖于上下文分布有限期望特征的函数。
Anisa Halimi et al.
cs.LG
PrivFusion提出了一种隐私保护的多智能体框架,用于在联邦学习前自动协调结构化数据集,通过智能体分析本地数据并聚类语义相似特征来减少人工干预。该方法主要关注数据协调而非模型训练,与关键词中的agent有一定关联,但整体创新性有限。
Chad Weatherly, Sen Lin
cs.LG cs.CV
本文针对边缘设备上的持续异常检测问题,指出现有方法在评估、比较和部署约束上的不足,并提出了一个统一基准。该基准包括离散任务评估、连续漂移协议以及计算效率分析,并提出了一个名为DINOSaur的无训练方法,该方法使用冻结的DINOv3骨干网络和空间索引coreset记忆,在多个协议上表现优异。
Eric Pulick et al.
cs.LG eess.SY
本文针对数字治疗干预中的患者依从性问题,提出了一种在线学习框架。该框架使用linear dynamical system (LDS)建模患者对治疗的时变参与能力,并通过logit link将推荐与依从行为内生化连接。作者提出了基于乐观主义的算法UCB-BOLD用于在线治疗选择,并证明了其亚线性regret界。
Ali Siahkoohi, Anirudh Thatipelli
cs.LG stat.ML
本文提出了一种用于训练Input-convex neural network (ICNN)的“lift”方法,通过训练一个无约束的hypernetwork来生成ICNN的层间权重,从而替代传统的projected gradient descent (PGD)或softplus重参数化方法。该方法通过引入随机性来软化损失景观,避免梯度衰减导致的训练停滞,并在多个任务上取得了更低的测试损失。
Brandon Zhao et al.
cs.LG
本文提出了一种名为beignet的改进神经场架构,用于求解偏微分方程(PDE)。该方法用可训练的多分辨率Fourier特征金字塔替代了现有PINN模型中的随机Fourier特征嵌入,并通过Fourier插值和全连接网络解码来查询连续坐标。实验表明,该方法能以更少的参数获得比现有PINN方法更精确的解。
Jinghan Jia, Joe Benton, Eric Easley
cs.LG cs.CL
本文从信息流视角研究Chain-of-Thought推理的忠实性,提出基于充分性、完整性和必要性的框架,并用熵、KL散度和梯度诊断来评估。训练中引入注意力掩码等干预措施,以减少捷径行为并提高推理透明度。
Arseny Ivanov et al.
cs.LG
本文针对离散扩散语言模型无法精确计算log-likelihood的问题,提出了一个变分上界TUBE,并给出了无偏Monte Carlo估计量。实验表明,在log-likelihood指标上,自回归模型仍优于块状掩码扩散模型。
Cecilia Ferrando et al.
cs.LG stat.ML
本文提出PACE-GGM,一种数据自适应的差分隐私协方差估计方法,通过将隐私预算集中在经验协方差矩阵中最具信息量的条目上,并使用最大熵重构目标来恢复完整的协方差矩阵。实验表明,该方法在高维和低至中等隐私预算场景下优于传统高斯机制。
M. Moran, Mark Whiting
cs.LG
本文通过tetrachoric factor analysis和pairwise calibration分解了20个前沿LLM的二元置信度判断,发现跨模型置信度矩阵近似为rank-one,且移除所有模型一致同意的项目后置信度与性能的关系消失。研究认为在测试领域中没有发现显著的个体化元认知证据。
Noel Thomas
cs.LG cs.AI
本文提出了ChaosBench-Logic v2基准测试,包含大量关于动力系统的一阶逻辑推理问题,并引入CARE评估协议来揭示模型在二值推理中的失败模式。实验发现,前沿模型在状态转换推理上表现接近随机,但在给定前提的一阶逻辑演绎任务上表现较好。
Ziyan Chen, Ding-Xuan Zhou
cs.LG
本文研究了sketched linear regression中mini-batch的scaling laws,分析了one-pass和multi-pass batch SGD的风险分解与scaling行为,发现mini-batching在固定更新次数时能降低方差,但在one-pass场景下效果被缩短的优化周期部分抵消。
David Wingate et al.
cs.LG
本文提出了“omissive bias”概念,通过构建AllFaith基准测试评估LLM在日常伦理决策中是否遗漏宗教视角,发现模型在抽象问题上比实际个人情境更易提及宗教。该工作与关键词列表中的概念无直接关联。
Rowan Martnishn
cs.LG
本文提出ChainzRule (CR)架构,用可学习的polynomial层替代传统activation,并引入Differential Regularization (DREG)作为逐层Jacobian惩罚,以在标准推理成本下约束中间导数。实验表明该方法在表格、NLP和视觉任务上提升了样本效率和鲁棒性,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Meichen Song, Yuhao Wang, Enlu Zhou
cs.LG
本文通过Quantile Bayesian Risk MDPs研究了在线强化学习中鲁棒性与探索之间的时变权衡,利用分位数水平控制后验不确定性在Bellman backup中的影响,并提出了一个自适应分位数调度算法。该算法在理论上建立了次线性Bayesian regret界,并在数值实验中展示了良好性能。
Safwan Labbi et al.
cs.LG
本文研究了entropy-regularized Markov decision process中actor-critic方法的理论性质,证明了当critic精确时,将其作为baseline能实现强方差缩减,并达到\(\tilde{O}(\log(1/\epsilon))\)的样本复杂度。此外,文章分析了critic学习误差对actor更新的影响,强调了准确估计critic的重要性。
Xiaofeng Lin, Han Bao, Hisashi Kashima
cs.LG cs.AI
本文针对图数据中个体处理效应(ITE)估计问题,提出了一种考虑差异化网络效应(DNE)的干扰建模机制,通过引入部分注意力机制和消息放大器来捕捉邻居的不同重要性和规模对结果的影响。实验表明该方法在三个真实图数据上优于现有方法。
Yiran Ding et al.
cs.LG q-bio.QM
GEESE是一个端到端深度学习框架,直接从3D pose dynamics中学习behavioral representations,用于基因动物模型的behavioral phenotyping。它使用预训练的time series foundation model编码运动序列,在三个自闭症相关基因模型上超越了手工特征方法。
Kavin Soni, Debanshu Das, Vamshi Guduguntla
cs.LG cs.AI stat.AP stat.ML
本文评估了foundation models在时间序列预测中的操作可行性,将其与监督学习方法在周期性系统、物理约束过程、金融市场和需求预测四个场景下进行对比,并提出了一个基于经验特征的Complexity Router来为每个序列选择最优模型类别。
Zherui Yang, Tao Du, Ligang Liu
cs.LG
本文提出了一种名为Neural Eigenspace Operator (NEO)的前馈框架,用于直接从点云预测Laplace-Beltrami Operator (LBO)的低频特征空间,通过学习稳定的不变子空间而非直接回归特征向量,并引入质量感知的神经算子来处理非均匀采样。该方法在精度相当的情况下实现了近线性的运行时间缩放和显著的加速,并支持零样本泛化到高分辨率点云。
Qi Yu et al.
cs.LG
本文提出了一种名为AvAtar的主动对齐框架,通过熵正则化最优传输(OT)和伴随状态方法计算候选样本对全局对齐结果的梯度影响,从而高效选择高信息量监督。实验在多个对齐任务上验证了其有效性,但方法本身并非针对关键词中的特定领域。
Aysin Tumay et al.
cs.LG cs.AI
本文提出了一种名为GORMPO的offline RL算法,通过使用generative model进行density estimation来约束policy更新,避免out-of-distribution (OOD) actions。该方法在稀疏状态-动作空间下通过密度正则化提升了策略安全性,并在真实医疗数据集上取得了优于baseline的效果。
Erfan Haghighat Damavandi et al.
cs.LG
本文提出了一种基于Deep Reinforcement Learning (DRL)和Proximal Policy Optimization (PPO)算法的HVAC系统优化框架,通过二阶RC热模型和CO2动态质量平衡模拟建筑物理,并引入"Hierarchical Flow Logic"确保室内空气质量。实验表明,PPO agent在温度稳定性和能效上优于传统PID控制器。
Yisak Debele, Henok Ademtew, Israel Goytom
cs.LG
本文提出了一种理论驱动的多模态学习框架,通过心脏和皮肤电信号的双流编码来估计认知能力状态(包括努力和压力),并在SWELL-KW数据集上验证了其跨个体泛化能力。该方法将生理信号映射到二维状态空间,但并未直接涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Daria Grushina et al.
cs.LG
本文提出了LLMTabBench基准,用于系统评估LLM在数据稀缺条件下进行二值表格分类的能力。研究发现LLM在零样本场景下具有竞争力,但增加少量样本可能与先验知识冲突,且存在数据复杂度阈值限制其性能。
Karan Sharma et al.
cs.LG
本文提出了一种基于区块链的联邦集成学习框架ChainLearn,通过测量各医院的计算吞吐量并分配不同容量的模型架构(如MobileNetV3-Small、EfficientNet-B0、ResNet-50),结合加权集成进行预测,以解决异构计算资源下的联邦学习问题。实验在医学图像数据集上验证了其校准误差和通信效率优势。
Ngoc Phu Doan, Chongyan Gu, Ihsen Alouani
cs.LG cs.AI
本文通过实验和理论分析,研究了Batch Normalization (BN)层对深度神经网络中异常样本记忆化及隐私泄露的影响。结果表明,与不含BN的模型相比,BN显著放大了对离群样本的记忆,并增加了模型对Membership Inference Attack (MIA)的脆弱性。
Jiahai Huang et al.
cs.LG
本文研究了在无模板单步逆合成任务中,为基于扩散的分子图生成器引入表示引导(representation guidance)的效果。通过系统实验设计,提出了Graph-oriented Representation Guidance (GRG)方法,在USPTO-50k数据集上提升了top-k准确率和多样性,并加速了收敛。
Yang Zhao et al.
cs.LG
本文提出CAffNet框架,通过在神经网络中嵌入可训练的约束仿射层来强制满足输入相关的仿射约束。该方法在保证约束满足的同时保持了网络的通用逼近性质,并在多个领域验证了其鲁棒性。
Imesh Ekanayake, Elham Naghizade, Jeffrey Chan
cs.LG cs.AI
本文提出了一种多任务对抗框架,用于在集中式数据驱动系统中平衡公平性、隐私和准确性。该方法通过学习隐藏敏感属性的潜在表示,并优化成本函数来动态协调这三个目标。
Trenton Lau, Gary P. T. Choi
cs.LG cs.IT math.ST
本文利用几何测度论和conservative Jacobians,为非光滑模型(如Lasso)的Normalized Maximum Likelihood (NML)编码长度建立了严格的理论框架,并提出了Propose-and-Project Metropolis-Hastings (PDL-PPMH)采样器来计算该量。该工作为规则非光滑模型下的通用编码提供了理论基础。
Zhuanghua Liu, Luo Luo
cs.LG
本文针对目标函数Lipschitz连续的非凸非光滑问题,提出了一种基于截断两点梯度估计的随机零阶算法,该算法能处理重尾噪声。理论分析给出了算法达到\((\delta, \epsilon)\)-Goldstein stationary point的oracle复杂度,其维度依赖与已知最优结果匹配。
Iulia Pleşu, Alexandra Băicoianu, Ioana Cristina Plajer
cs.LG
本文比较了三种机器学习架构在Sentinel-2数据中检测水体并估计水质的性能,并与经典的NDWI阈值方法进行了对比。此外,针对水质指数可视化中标准色彩映射的不足,提出了一套适用于水环境应用的有意义配色方案。
Xinyu Zhang et al.
cs.LG cs.CL q-bio.NC
本文针对非侵入性脑-语言解码中的源归因问题,提出了一种审计框架,通过固定窗口和刺激身份分割来隔离结构泄漏,并引入Group Context Bias (GCB)作为推理时的可审计干预,以量化上下文证据对解码性能的贡献。
Natalia Trukhina, Vadim Vashkelis
cs.LG cs.AI cs.CL cs.IR
本文提出SemanticZip框架,将文本压缩为紧凑code,由LLM作为语义解压器恢复任务相关含义,属于有损压缩。实验评估了多种表示方案,发现结构化文本恢复率最高,但整体方法更偏向框架设计而非突破性成果。
Jiaheng Wei et al.
cs.LG cs.AI
本文从记忆化视角重新审视联邦遗忘学习问题,提出基于分组记忆化评估的示例级度量来分离记忆化知识与重叠知识,并设计了FedMemPrune剪枝方法重置负责记忆化的冗余参数。实验表明该方法在消除记忆化方面优于现有算法,同时保持保留知识的效用。
Utsav Singh et al.
cs.LG
本文提出了一种基于Stackelberg双层规划的双层自然语言Actor-Critic方法(Bi-NAC),用于在强化学习中联合训练critic生成可学习的文本反馈和actor利用该反馈,以解决稀疏奖励下的样本效率问题。实验表明,该方法在MATH-500、MBPP和GPQA等基准上优于传统RL和固定critic基线,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Ling Zhan, Xiaoyao Yu, Tao Jia
cs.LG
本文指出AI for Science工作流中,将测量到数据集的处理流程视为固定接口会导致隐藏假设空间、未认证的可迁移性及不受控的多重性等失败模式,并通过神经科学实证审计验证了这些观点。
Sattam Altuuaim et al.
cs.LG cs.AI cs.CV
本文提出了一种名为PILOT的在线优化器,它通过梯度方向一致性信号来动态调整动量、归一化和符号更新之间的平衡,从而适应训练过程中的局部稳定性变化。实验表明,该方法在FashionMNIST和CIFAR-10数据集上,对于CNN和ResNet-18架构均能取得优于传统优化器的准确率。
Jordan F. McCann
cs.LG cs.AI cs.CL
本文发现独立训练的transformer在残差流基中计算相同函数,但基向量之间存在均匀随机旋转(称为多态性)。通过正交Procrustes拟合可以消除这种旋转,使特征字典和转向向量在不同模型间迁移,但该现象对标准SAE通用性指标不可见。
Yuki Nakamura
cs.LG cs.CL stat.ML
本文使用alignment modification matrix的有效秩(effective rank)对三种开源instruction-tuned LLM在安全相关输入上的激活偏移进行了审计,将单拒绝方向观察形式化为连续量。文章通过混淆控制分解、构造性校准实验以及秩诊断的局限性分析,揭示了有效秩作为脆弱性诊断指标而非鲁棒性提升目标的性质,并指出匹配下界仍是开放问题。
Aakash Kumar et al.
cs.LG
本文通过结合组合数学、数论和意见动力学分析,在经典同步非对称Hopfield网络中构造了超多项式数量的极限环吸引子,证明了其存储长序列的容量远超先前认知。
Sol Park, Soobin Um
cs.LG cs.AI cs.CV
本文提出了一种基于JEPA引导的扩散采样框架,用于生成数据流形上的低密度样本(minority sampling)。该方法通过世界模型JEPA的隐式密度引导扩散轨迹,以捕捉真实世界中的语义稀有性,并设计了近似策略降低计算开销。
Sai Sandeep Damera et al.
cs.LG cs.AI cs.LO
本文提出了一种递归可微三元逻辑门网络(R-DTLGN),用于在线预测Signal Temporal Logic (STL) verdicts。该网络通过连续多项式代理进行训练,并在推理时硬化成离散的三元逻辑电路,利用Kleene三值逻辑中的0表示未知状态,从而在传感器退化时提供结构化的性能保证。
Muhammad Abid, Arth Sojitra, Omer San
cs.LG
本文提出WLNO,通过融合Haar wavelet多尺度空间分解与Laplace Neural Operator的极点-留数公式,增强了算子学习对空间多尺度特征的捕捉能力。在多个PDE基准问题上的实验表明,WLNO在具有尖锐间断或涡旋结构的问题上优于LNO。
Tomer Lavi, Bracha Shapira, Nadav Rappoport
cs.LG
本文提出了一种基于轨迹的难度评分(TDS)方法,用于评估梯度提升树集成模型在表格数据上的实例级预测难度。该方法通过计算每棵树的累积预测轨迹描述符(如方差、振荡峰值等),并训练轻量级回归模型来预测损失,最终输出一个校准后的难度分数。该分数可用于改进主动学习、选择性预测和共形预测等数据挖掘流程。
Hao Yan et al.
cs.LG cs.AI
本文研究了多模态属性图学习中的聚合困境,发现当使用高置信度的大基础模型先验时,强制聚合会引入拓扑噪声并导致性能反转。作者提出了一种解耦的双路径架构SUPRA,通过保留先验的独立MLP和轻量共享GNN来缓解信噪比退化和梯度饥饿问题。
Akmal Xodarev
cs.LG math.PR math.ST stat.ML
本文研究了宽两层神经网络在最大更新参数化下的特征学习,证明了平均场极限的全局存在唯一性,并刻画了其可辨识性。在Barron-Hermite目标条件下,长期极限测度的活动支撑集具有稀疏字典分解,并将总特征学习误差分解为统计、优化、混沌传播和稀疏残差四个分量。
Beyazit Bestami Yuksel, Emrah Dikbiyik
cs.LG cs.HC
本文提出了一种硬件感知的联邦学习框架,用于语音情感识别任务,通过整合硬件性能分析、top-K客户端选择和自适应本地训练轮数来优化训练效率。实验表明,该方法在非独立同分布设置下相比FedAvg等基线方法,在保持竞争性验证精度的同时显著降低了训练时间和通信成本。
Amogh Palasamudram et al.
cs.LG cs.GT
本文提出了一种基于PAC学习的强化学习方法,用于解决reachability规范下的渐近最优性问题。该方法通过迭代估计未知的MDP参数来保证策略收敛到最优,并在标准基准上验证了收敛动态。
Emanuele Guidotti, Sara Puglioli
cs.LG
本文提出InChIfied Invariants,一种基于InChI的分子图特征,旨在解决化学等价分子图因表示不同导致的预测和解释不一致问题。实验表明该方法能显著提升表示一致性,同时保持预测性能。
Shresth Verma et al.
cs.LG cs.AI
本文提出BOOST框架,通过bilevel optimization对多轮LLM微调中的合成轨迹进行加权,内层训练LLM,外层训练轻量级reweighting head,以提升离线强化学习性能。该方法不涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Andrej Risteski, Thuy-Duong Vuong
cs.LG cs.CC cs.DS math.PR
本文研究了Ising模型中的“学习采样”任务,证明了在谱阈值\(\lambda_{\max}(J)-\lambda_{\min}(J)=1\)之上存在一个计算相变,使得学习采样在标准密码学假设下是计算困难的,即使学习者拥有多项式数量的样本和模型参数。该结果与谱阈值之下的可处理性结果共同确立了尖锐的计算相变,并表明学习采样可能比参数学习更困难。
Zuyuan Zhang
cs.LG
本文为强化学习中的折扣策略评估建立了一种组合视角,将单步决策过程视为开放随机组件,并通过收缩反馈回路实现无限时域评估。该工作为Bellman算子提供了类型化的语义解释,并探讨了组件等价性、状态抽象以及安全规范等理论后果。
Logan A. Burnett et al.
cs.LG physics.flu-dyn
本文利用高保真CFD模拟构建了压水堆堆芯入口流场数据集,并评估了多种机器学习模型(如ConvLSTM、DeepONet)在流场重建与预测中的表现。研究发现空间感知架构优于序列模型,但结果缺乏实验验证且未涉及关键词中的核心概念。
Jinjin He et al.
cs.LG physics.comp-ph
本文提出Hermite-NGP,一种梯度增强的多分辨率哈希编码方法,通过在哈希网格顶点显式存储函数值和混合偏导数,利用Hermite插值实现梯度和Hessian的完全解析计算,从而避免自动微分或有限差分的不稳定性与高成本。该方法在2D和3D PDE基准测试中相比先前方法降低了约20倍误差,并将收敛时间缩短2至10倍。
Rishabh Iyer
cs.LG cs.AI math.CO
本文提出Complement Submodular Information (CSI)目标函数族,通过量化子集与其补集之间的共享结构信息,扩展了经典submodular函数(如Facility Location, Graph Cut等)。该方法在鲁棒子集选择任务中优于标准submodular目标,但未直接涉及code、context、spectral等关键词。
Dingling Yao et al.
cs.LG
本文提出"Perception-Physics Paradox"概念,指出Vision Foundation Models在卫星图像上的表现可能源于视觉相关性而非结构不变性。通过引入scientific alignment和structural isomorphism框架,作者构建了TC-Bench基准数据集,证明现有模型在极端情况下依赖视觉捷径而失效。
Yubo Li, Yidi Miao
cs.LG cs.AI
本文提出CONF-KV,一种基于模型当前置信度(confidence)动态调整KV cache预算的缓存管理策略,结合混合精度存储(FP16/INT8)和分块在线softmax注意力,在长序列推理中降低显存占用。实验表明该方法在困惑度和检索准确率上接近全KV缓存,但方法本身未涉及code、spectral、Muon、pretrain或agent等关键词。
Emma Brunskill, Ishani Karmarkar, Zhaoqi Li
cs.LG
本文研究了随机contextual linear bandits中的主动学习问题,提出了一种通过策略性采样context-action对的reward来学习near-optimal policy的算法,并给出了instance-dependent的理论保证。
Guodu Xiang et al.
cs.LG cs.AI
本文提出Disentangled Double Machine Learning (DDML)算法,通过因果角色解耦策略将协变量分解为confounders、treatment-specific factors和outcome-specific factors,并引入残差依赖正交化策略来缓解估计误差导致的残差依赖问题,从而提升Double Machine Learning在高维或有限样本场景下的因果效应估计精度。实验表明DDML在MAE和RMSE上优于13种基线方法。
Yu Yang et al.
cs.LG cs.AI cs.RO stat.AP
本文提出CEDGE框架,利用source-domain的trajectory diffusion model生成轨迹,并通过energy guidance(包括return, domain, behavior能量组件)将其适应到target domain,以解决off-dynamics offline RL中transition-level生成导致的累积误差问题。该方法无需重新训练diffusion model即可适应新dynamics,并在ODRL benchmark上验证了有效性。
Jiangjie Qiu et al.
cs.LG
本文提出DriftingMol,一个两阶段框架,通过将漂移模型(drift model)适配到SELFIES潜在分子空间,实现属性条件分子生成。该方法利用冻结的SELFIES beta-VAE解码器特征图作为漂移特征图,并通过反向传播漂移梯度到DiT生成器,在ZINC250K数据集上实现了较好的QED Spearman相关性。
Xiangtian Ji et al.
cs.LG cs.AI
本文发现大型语言模型(LLM)中存在一类在跨任务推理时持续高度激活的极稀疏神经元子集(称为keystone neurons),移除它们会导致模型行为崩溃。这些神经元在预训练期间建立,其参数校准对模型能力至关重要,并基于此提出仅更新这些神经元的微调方法,在修改极少参数的情况下达到与全参数微调相当的性能。
Zeyu Shen, Zhuoyuan Wang, Laixi Shi
cs.LG eess.SY
本文提出T2S-MPC框架,通过在线学习残差dynamics model并嵌入时间编码(time embedding)与双时间尺度更新(two-timescale update)机制,处理未知时变系统dynamics。实验在2D quadrotor上验证了其在多种时变扰动下的控制性能优于经典MPC和neural MPC方法。
James Henry
cs.LG cs.AI
本文提出Concept Allocation Zone (CAZ)概念,通过三个逐层度量(Separation, Concept Coherence, Concept Velocity)追踪transformer语言模型中概念在深度上的形成过程,并发现分离曲线\(S(l)\)常呈现多模态特征。该方法为理解概念在残差流中的几何组织提供了新视角,但未直接涉及code、context、spectral等关键词。
Zhongjian Qiao et al.
cs.LG
本文针对跨域离线强化学习中异构数据集的价值分配与对齐问题,提出V2A方法,通过时序一致模态表示学习和模态感知优势学习来修正价值对齐,并采用数据过滤范式选择源域数据。实验表明该方法在异构跨域离线RL设置下优于现有基线。
Rajarshi Biswas
cs.LG nlin.CD physics.comp-ph
本文比较了多种深度神经网络架构在预测混沌动力系统(如双摆、Kuramoto-Sivashinsky方程和Kolmogorov流)时的长程预测稳定性,发现具有积分器式更新结构的模型在长期展开中表现出更低的偏差和扰动放大。
Tomer Lavi, Bracha Shapira, Nadav Rappoport
cs.LG
本文提出Cluster Frequency Conformal Prediction (CFCP)框架,通过在learned representation space中对calibration data进行聚类并估计cluster-level label-frequency分布,来改进多类分类中conformal prediction的局部覆盖性能。该方法在disjoint-split regime下继承了标准有限样本边际有效性,并在多个图像和文本基准上取得了更好的class coverage和competitive prediction set size效率。
Enayat Ullah et al.
cs.LG math.OC
本文提出DP-SGD-RC,一种用于大语言模型(LLMs)的差分隐私(DP)训练变体,通过随机化裁剪(randomized clipping)和随机迹估计(如Hutchinson's estimator)降低每样本梯度范数估计的内存与计算开销,并提供了严格的隐私分析。实验表明该方法在长上下文任务上匹配基线效用,同时显著减少资源需求。
Ismail B. Mustapha et al.
cs.LG cs.AI
本文通过实验监测深度神经网络在不同不平衡比例数据集上的学习模式,发现类别不平衡会导致模型在早期训练阶段欠拟合少数类样本,同时仅学习多数类,最终使少数类表示过拟合且无法泛化。
Jinjin Chi et al.
cs.LG cs.AI
本文提出Retrieval-guided Invariant-Dynamic DEcomposition框架,通过检索引导的表示分解将时间序列分为稳定不变分量和动态变化分量,分别预测后融合,以提升零样本预测的鲁棒性。实验表明该方法在分布偏移下优于现有TSFMs和检索基线。
Mini Han Wang et al.
cs.LG cs.AI q-bio.OT
本文使用监督学习模型(如gradient boosting)和SHAP解释方法,基于常规生物标志物预测2型糖尿病患者的multi-organ dysfunction,实现了高预测精度并揭示了关键风险因素。
Jamiyan Sukhbaatar, Satoshi Imamura, Toshihisa Tanaka
cs.LG
本文提出BandVQ,一种基于频带向量量化的EEG基础模型,将EEG信号分解为多个频带并训练独立的VQ-VAE tokenizer,再通过共享Transformer编码器进行预训练,在多个分类任务上取得良好迁移性能。该方法主要关注频带特异性表示学习,与关键词中的code和pretrain有一定关联,但整体创新性有限。
Narmeen Oozeer et al.
cs.LG cs.AI
本文提出了一种基于Riemannian流形的语言模型激活空间操控方法,通过将Hellinger距离拉回至激活空间并利用编码器近似,实现了无需标签的模型行为引导。该方法统一了线性与非线性操控的几何框架,但未直接涉及代码、上下文、谱方法或预训练等关键词。
Ruize Li et al.
cs.LG cs.AI physics.ao-ph
本文提出了RealBench,一个用于评估AI天气预报模型的新基准,通过使用2025年的严格分布外测试集和多种数据源(包括低延迟操作分析和全球观测站数据),旨在解决现有基准(如ERA5)与真实操作条件不匹配的问题。该基准还特别针对极端天气事件(如热浪、寒潮和热带气旋)提供了评估框架。
Da Zhang et al.
cs.LG
本文提出MedMamba,一种用于医疗时间序列分类的端到端架构,通过多尺度卷积嵌入、三支差分状态空间编码器和空间图Mamba模块,分别处理局部-全局动态、非平稳性和潜在通道交互,在五个数据集上达到最优性能。
Chang Chu et al.
cs.LG cs.AI
本文提出OSDTW框架,将长尾识别分解为头部和尾部任务,通过共享编码器和任务特定解码器实现。该方法利用Fisher信息矩阵和二阶展开来优化共享深度和任务权重,在标准基准上取得较好效果。
Hongjiang Chen et al.
cs.LG cs.AI
本文提出TGFormer,一种用于temporal graph的Transformer架构,通过建立与时间序列分析对齐的trajectory框架来学习node representations,并基于stochastic process theory设计了auto-correlation mechanism以捕捉周期性依赖。实验表明其在多个基准上优于现有方法。
Sol Erika Boman
cs.LG
本文综述了conformal prediction中non-conformity score函数的性质,并提出了新的评估方法,比较了不同函数在类别不平衡条件下的表现。
Moyu Zhang et al.
cs.LG cs.AI cs.IR
本文提出UTTSI框架,通过不确定性触发的选择性推理为CTR预测扩展测试时计算。该方法利用双信号估计器区分认知不确定性与偶然歧义,对不确定实例进行随机特征路径探索并聚合预测,而对置信实例跳过探索以控制开销。实验表明该方法在多个数据集和骨干网络上优于训练阶段基线,在线A/B测试实现5.3%的CTR提升。
Yichen Luo et al.
cs.LG
本文分析了PINNs训练中梯度病理(gradient pathology)的成因,并提出Constraint-Aligned loss with Manifold Lifting (CAML)方法,通过将零阶项重写为对齐约束并引入延迟因子来缓解梯度冲突,实验表明该方法提升了复杂PINN问题的数值稳定性与效率。
Qishen Zhou et al.
cs.LG cs.AI
本文提出了一种基于Task-Aware Attentive Neural Process (TA-ANP)的统一概率框架,用于融合浮动车数据和稀疏固定探测器测量值进行城市尺度交通状态推断。该方法通过将问题建模为随机过程并利用attention机制处理多子任务,实现了对传感配置变化的快速适应和不确定性量化。
Shruti Mishra et al.
cs.LG
本文探讨了将经典流体力学问题作为强化学习(RL) agent测试环境的潜力,指出非线性不稳定性等流体问题为开发高效交互的RL方法提供了挑战性场景,并介绍了使用Dedalus和JAX-CFD等开源模拟器生成环境的方法。
Magnus Samuelsen et al.
cs.LG
MimirRAG是一个用于金融数据检索的多智能体RAG框架,通过元数据集成、表格感知分块和智能体工作流提升了检索准确性。该系统在FinanceBench上达到89.3%的准确率,但方法上未涉及code、spectral、Muon、pretrain或attention等关键词相关技术。
Ayush K. Varshney et al.
cs.LG cs.AI
本文提出了一种神经元级别的混合精度量化感知训练方法NMP-QAT,允许每个神经元在训练中独立学习其离散精度,从低比特开始仅在需要时扩展位宽。该方法在电信和非电信数据集上相比基线方法取得了更好的压缩-准确率权衡,但与我提供的关键词列表关联度较低。
Ziyi Wang, Dongyang Kuang
cs.LG cs.AI
本文提出了一种基于Liang-Kleeman信息流理论的全局-局部双分支因果图神经网络GL-LFGNN,用于EEG情绪识别。该方法通过量化动态系统中的因果强度构建有向图,并整合全脑连接与区域特定处理,在MEEG数据集上以少量参数取得了较高准确率。
Xian Wu et al.
cs.LG cond-mat.mtrl-sci
本文提出了一种双层Proxy-FEA诊断框架,用于激光增材制造中扫描顺序优化的强化学习奖励与世界模型诊断。该框架结合轻量级代理指标与稀疏有限元分析,揭示了应力-变形权衡现象,并指出当前代理指标主要捕捉变形行为,与FEA参考标签相关性较弱。
Jules Berman, Tobias Blickhan, Benjamin Peherstorfer
cs.LG cs.AI math.NA
本文提出了一种名为Non-Gradient Inference Flows (NGIF)的算法,用于推断随机系统中非梯度形式的population dynamics。该方法利用continuity equation的weak formulation来参数化一般vector fields,从而突破了传统方法对gradient flows的限制。
Zichao Yue, Zhiru Zhang
cs.LG
本文重新审视了Pre-Propagation GNNs (PPGNNs)的设计,提出了一组鲁棒的graph diffusion operators用于预处理,以及一种在训练过程中进行few-shot hidden-state re-propagation的方案。这些方法提升了PPGNNs的验证和测试准确率,使其在保持训练效率的同时,能够匹配message-passing GNNs的精度。
Anuj Kumar et al.
cs.LG cs.AI cs.CE physics.app-ph
本文提出了一种名为"Courant"的基于Perceiver的编码器-处理器-解码器代理模型,其潜在特征在物理空间中具有自适应特化和局部支持,类似于自适应hp细化方案。该模型结合了共享随机Fourier特征坐标嵌入、状态自适应潜在查询和轻量级解码器,通过端到端训练实现了对稳态或瞬态仿真数据的竞争性精度。
Weixin Wang et al.
cs.LG cs.AI cs.CL cs.CV stat.ML
本文提出TRI-TSMC方法,通过trust-region框架在SMC-based inference-time alignment中学习twisting functions,以改进扩散模型的reward导向采样。该方法在离散文本生成和text-to-image生成任务上提升了alignment效果,但与我提供的关键词(code, context, spectral, Muon, pretrain, agent, attention)关联较弱。
Cassandra Mussard, Stéphane Mussard
cs.LG
本文提出了Gini Multidimensional Scaling (Gini MDS)框架,通过引入基于数值及其秩的Gini伪距离来扩展欧几里得MDS,并证明其对噪声和异常值具有鲁棒性。实验表明,在含噪声的UCI和MNIST数据集上,Gini MDS优于标准欧几里得MDS。
Yudong W. Xu et al.
cs.LG
本文提出BloGDiT方法,通过将标准joint Gaussian denoising替换为blocked Gaussian denoising,并引入迭代block resampling与退火机制,解决了Diffusion Transformers在约束优化问题中因全局微小去噪与局部大幅变量调整不匹配导致的性能不佳问题。实验在Sudoku、Graph Coloring等任务上验证了其有效性。
Huangyu Xu et al.
cs.LG cs.AI
本文提出了一种名为ReWA的稀疏优化方法,它结合了Reparameterization、Weight decay和Adaptive learning rate,旨在解决\(\ell_p\)正则化(\(0
Rai Ali Yar, Umaisa Lail, Anwar Shah
cs.LG cs.AI
本文提出ASTRO框架,将Deep Q-Network与Graph Neural Networks及Multi-Head Attention机制结合,用于工业物联网中的异常检测。该方法通过强化学习动态优化阈值,在SWaT和WADI数据集上取得了优于基线的性能。
Kasra Jalaldoust, Elias Bareinboum
cs.LG cs.AI
本文提出了一种名为“representation transplant”的方法,通过将最优预测分解为abduction和deduction映射,并利用源分布对目标分布进行部分可识别性分析,以解决domain generalization问题。该方法通过一个学习者-对抗者博弈来搜索目标分布空间,并在理想优化下达到minimax最优。
Rui Wang et al.
cs.LG cs.AI
本文提出AME-TS,一种基于结构引导的稀疏时间序列基础模型,通过轻量级预测器估计序列描述符(如可预测性、季节性和趋势)来指导专家路由,从而在时间序列预测中实现更好的精度-效率权衡。该方法在GIFT-Eval基准上展示了优于现有模型的效果,并学习了更可解释的路由几何结构。
JungHo Lee et al.
cs.LG stat.ME stat.ML
本文针对公共服务项目中资源分配与因果效应评估的矛盾,提出了一种基于优先级队列随机化的实验设计框架。该框架通过将申请者按风险评分随机分配到不同优先级队列,在优先照顾高需求人群的同时,识别了在队列分配机制下的局部处理效应。
Kordel K. France, Ovidiu Daescu
cs.LG cs.AI cs.ET cs.RO
本文提出了一种名为Grow-Prune-Freeze (GPF)的自适应框架,用于解决嗅觉导航中的非平稳连续学习问题。该方法基于非线性随机矩阵理论,通过动态调整网络结构来应对环境复杂性,并在湍流羽流导航任务中取得了94%的成功率。
Wenlong Deng et al.
cs.LG cs.CL
本文通过分析语言模型强化学习中参数更新的几何结构,发现奖励黑客(reward hacking)现象与优化轨迹偏离稳定低维学习方向有关。作者提出了一种“可信方向投影”方法,通过将梯度约束在干净参考子空间内来缓解该问题,并在数学推理任务上验证了其有效性。
Dongpeng Zhang et al.
cs.LG
本文提出Gradient Token Masking (GTM)方法,通过梯度分析定位对抗图像中的关键token并对其进行masking,以防御针对多模态大模型的视觉prompt注入攻击。该方法利用Hidden-State Gradient Norm分数进行归因,理论保证其排序与完整对抗损失梯度一致,仅需单次前向-反向传播即可有效降低攻击成功率。
Ruitao Liu et al.
cs.LG cs.AI
本文提出了一种名为SMEPO的语义掩码策略,用于专家引导的强化学习,通过掩码关键路径上的奖励相关语义片段(如最终答案或代码),将难题转化为填空过程,从而避免模型直接复制专家轨迹。实验表明,该方法在数学、代码和智能体搜索等任务上相比GRPO提升了准确率并减少了训练时间。
Ziheng Cheng et al.
cs.LG cs.AI stat.ML
本文针对扩散模型在多目标学习场景下的数据稀缺问题,提出了一种半监督的两阶段训练框架,通过先拟合轻量级专家模型再蒸馏为通用模型,并建立了泛化界理论。
Govind Vallabhasseri Binish et al.
cs.LG
本文提出ECR-Net,一种受生物启发的自适应因果机制发现框架,将数据生成过程建模为类似Gene Regulatory Network的动态系统,并使用进化搜索算法发现其潜在结构。该方法旨在处理非平稳环境中因果图的结构性变化,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Shiqian Guo, Jianqing Liu, Beatriz Lorenzo
cs.LG eess.SY
本文提出了一种基于UAV通信的个性化联邦学习框架,通过分离全局共享backbone和本地personalization heads来缓解数据异质性,并采用基于gradient \(\ell_{2}\)-norm的调度策略选择top-\(\alpha\)设备更新backbone,以平衡能效和学习性能。仿真表明该方法在提升学习精度的同时降低了UAV能耗。
David N. Olivieri, Antonio F. Pérez Rodríguez
cs.LG cs.AI
本文提出了一种基于场论的框架,将Transformer的residual stream视为深度-令牌场,用于组织和预测激活修补实验。通过将修补视为局部源插入,并利用Green函数描述下游传播,该框架为mechanistic interpretability提供了新的数学语言。
John Arthur Junior et al.
cs.LG
本文提出了一种基于Naive Bayes的公平性扩展方法BMNB,通过混合似然估计和自适应阈值后处理来缓解算法偏见,在多个数据集上实现了公平性指标的改善。该方法主要关注公平性而非关键词中的核心概念。
David Rügamer
cs.LG cs.AI stat.CO stat.ML
本文从非可识别性(non-identifiability)的角度分析了过参数化神经网络中的认知不确定性(epistemic uncertainty),指出由于对称性和冗余表示,即使底层函数被完全识别,参数不确定性仍可能持续存在。文章以单隐藏层ReLU网络为例,分析了后验结构并进行了实证验证。
Sohaib Lafifi
cs.LG cs.AI math.OC
本文提出了一种用于神经组合优化策略的归因方法,通过LP松弛对偶分解决策,并利用组合可行性模型验证反事实,最后用Bonferroni校正的Hoeffding充分子集测试来界定解释规模。实验在多个问题上验证了该方法与代理梯度方法相比的优越性。
Ryo Mitsuhashi et al.
cs.LG cs.AI
本文通过实验研究了RLVR中验证器噪声与计算量之间的权衡关系,发现验证器噪声造成的性能差距无法通过增加计算量弥补,且假阴性比假阳性更具破坏性。
Minjae Kwon et al.
cs.LG cs.AI
本文提出了一种用于安全上下文强化学习(Safe ICRL)的潜在Q-Barrier屏蔽方法,通过学习context representation和ensemble cost critic,在部署时无需参数更新即可过滤或重新加权候选动作,以改善奖励-安全权衡。该方法在五个安全ICRL基准测试中提升了性能,但未涉及code、spectral、Muon或attention等关键词。
Ruchirinkil Marreddy, Chaoyue Liu
cs.LG
本文在NTK框架下研究了标签与NTK特征谱的交互作用,通过引入Label-NTK alignment和Residual-NTK alignment现象,推导出更紧的收敛界,该界依赖于完整谱而非最小特征值,从而更贴近实际训练动态。
Aditya Sridhar
cs.LG cs.CR cs.CV
本文研究了Concept Bottleneck Models (CBMs)中概念层的对抗性脆弱性,提出了一种名为SPECTRA的稳定性正则化防御方法,通过增加攻击所需的最小扰动范数来增强鲁棒性。该工作揭示了可解释机器学习中的新攻击面,但与我提供的关键词列表关联度较低。
Eduardo Luiz Alba et al.
cs.LG
本文使用LSTM、RF、SVR和XGBoost等机器学习模型,结合SHAP进行特征选择,并采用遗传算法和粒子群优化进行超参数调优,对巴西某联邦机构未来12个月的电力消耗进行预测。提出的合作集成学习方法WSB在预测性能上优于单一模型,但该方法主要针对特定应用场景,与关键词中的code、spectral、Muon、pretrain、agent或attention等概念无直接关联。
Santosh Kumar Radha, Oktay Goktas
cs.LG cs.AI cs.RO stat.ML
本文提出UWM-JEPA,一种使用density-matrix latent和unitary predictor的JEPA世界模型,在部分可观测环境中通过保持联合态谱来维持不确定性。实验表明,在需要多步前向模拟的任务中,UWM-JEPA优于参数匹配的LSTM-JEPA,且盲推演时性能下降更少,强调了latent geometry和predictor dynamics的重要性。
Konstantinos Emmanouilidis et al.
cs.LG cs.AI
本文提出了一种利用预训练模型潜在空间中近似Gaussian Mixture结构来设计可认证鲁棒分类器的框架,证明了当潜在分布与Gaussian Mixture在KL散度上接近时,认证精度会优雅地退化。该方法在CIFAR-10和ImageNet上取得了有竞争力的认证准确率,但并未直接涉及关键词中的code、context、spectral、Muon、agent或attention等概念。
Divyam Goel et al.
cs.LG cs.CV physics.comp-ph
本文提出了PDEInvBench,一个用于偏微分方程逆问题的神经网络基准数据集,并系统探索了优化过程、问题表示和缩放三个关键维度的设计空间。实验揭示了监督预训练结合测试时微调、使用PDE导数作为输入特征等实用见解。
Jinghao Zhang et al.
cs.LG
本文探讨了在基于可验证奖励的强化学习(RLVR)中,对信用分配准则进行时间调度(temporal scheduling)的重要性,通过优先处理特定策略行为并逐渐过渡到通用优化,实现了更稳定高效的学习动态。实验在数学和通用推理基准上验证了该方法的一致性改进。
Dongxin Ye et al.
cs.LG q-bio.QM
本文提出了ViroBench,一个针对病毒基因组学的nucleotide foundation models (NFMs) 的基准测试,评估了66个模型在生物理解与潜在生物安全风险上的表现,发现模型在系统发育和时间偏移下性能下降,且生成任务中统计似然与生物功能有效性脱钩。
Ruiyu Li et al.
cs.LG eess.SP
本文研究了机会频谱接入中的restless contextual multi-play multi-armed bandit问题,通过将信道噪声建模为arm reward function的扰动,并利用信道状态信息作为context来学习噪声与context之间的线性或非线性相关性,提出了两种基于index policy的算法。实验表明该方法能降低regret并更合理地选择次优arm。
Jiaquan Zhang et al.
cs.LG cs.AI math.NA
本文提出了一种无自回归的神经算子AFNO,通过将PDE的时间演化映射到latent space并使用flow matching学习连续时间向量场,避免了传统自回归方法在长期预测中的误差累积。实验表明该方法在多个PDE上提升了长期预测的稳定性。
Gen Li et al.
cs.LG
本文提出了一个名为Capture-Calibrate-Coach (3C)的框架,利用heterogeneous graph neural network从学生自我报告中提取并推断其感知知识状态,以评估知识监控能力并提供个性化反馈。该框架在预测潜在感知状态上取得了85.21%的AUC,但与我提供的关键词(如code, spectral, Muon, pretrain, agent, attention)无直接关联。
Zhongling Xu, Shunan Zheng, Wei Wang
cs.LG cs.AI
本文提出SeqRoute框架,将多轮LLM路由建模为有限horizon的Markov Decision Process,并通过offline reinforcement learning(特别是Conservative Q-Learning)求解。该方法通过将剩余预算纳入state space并引入Hindsight Budget Relabeling技术缓解数据稀疏问题,实现了在全局计算预算约束下的成本-质量Pareto最优路由。
Yujing Liu et al.
cs.LG
本文提出了一种基于关系指纹(Relational Fingerprint, ReFi)的通用图异常检测方法ReFi-GAD,通过将异构原始特征对齐到语义感知的指纹表示中,并结合Transformer编码器和信噪比引导的细化模块,提升了模型在未见图上的泛化能力。实验表明该方法在多个数据集上优于现有技术。
Gyuwon Sim et al.
cs.LG
本文提出了一种缺失模式识别扩散插补模型(PRDIM),用于处理非随机缺失(MNAR)数据。该模型通过期望最大化(EM)算法迭代最大化观测值与缺失掩码的联合分布似然,并利用模式识别器指导插补过程。
Zili Zhang et al.
cs.LG
本文提出BigMac,一种用于多模态大语言模型训练的新pipeline,通过将encoder和generator的计算嵌套到原始LLM pipeline中,形成依赖安全的嵌套结构,从而在保持LLM激活内存复杂度不变的同时,将encoder和generator的激活内存复杂度降至O(1),打破了计算与内存之间的Pareto前沿。实验表明,BigMac在稳定内存使用的同时实现了1.08倍至1.9倍的训练加速。
Asvin G., Jack Lindsey
cs.LG cs.AI
本文研究了post-trained language models在生成自身输出时,能够隐式识别其on-policy generations(即模型自身生成的序列),并通过输出分布熵的显著降低(比off-policy低3-4倍)来体现。该工作主要关注模型内部表征与输出不确定性之间的关系,但与我提供的关键词(如code, spectral, Muon, agent等)关联较弱。
Kai Yi et al.
cs.LG
JacQuant提出了一种无需STE的量化感知训练框架,通过学习轻量级Jacobian替代函数来稳定训练过程。该方法在低比特LLM量化任务上优于传统STE方法,但与我提供的关键词列表关联度较低。
Yanhang Li, Zhichao Fan, Zexin Zhuang
cs.LG
本文研究了foundation-model benchmarks中模型对比较结果对配置选择的敏感性,提出了一种理论框架和评估协议来量化配置导致的排序反转现象。
Tongtong Fang et al.
cs.LG
本文提出加速动态重要性加权(ADIW)框架,通过轻量级投影梯度下降更新和预热启动策略,提升了深度学习中联合分布偏移下重要性加权的计算效率。该框架将动态重要性加权推广到统一的divergence-minimization框架,支持多种权重估计方法。
Qishi Zhan et al.
cs.LG
本文提出了一种基于校准的诊断方法Relative Repairability (RR),用于评估高稀疏度剪枝后网络各层的可修复性,并通过实验表明该方法在特定架构的恢复性转变区间内优于传统分配规则。
Mingxu Zhang et al.
cs.LG
本文提出SAE-FD方法,利用预训练的Sparse Autoencoder将模型表示映射到稀疏特征空间,以减少特征叠加对持续学习的影响。实验表明该方法在多个基准上优于现有正则化方法,但未涉及关键词中的code、spectral、Muon、agent或attention等概念。
Sayak Charabarty, Souradip Pal
cs.LG cs.CE
本文研究高频交易中的reinforcement learning,使用基于Order-Flow的状态模型与policy-gradient方法(如PPO、GRPO、GSPO),在简化回测中相比Q-Learning基线提升了PnL和回撤表现。
Shubhajit Roy, Anirban Dasgupta
cs.LG cs.AI
本文提出SiST-GNN,通过在单个message-passing操作中融合空间和时间信号,而非顺序处理,来解决动态图表示学习中的问题。该方法在多个基准测试中显著优于现有方法,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Ran Eisenberg, Ofir Lindenbaum
cs.LG
本文提出了一种熵自适应的Gumbel-Sinkhorn方法,通过根据assignment uncertainty局部调节temperature,在排序和拼图重建等任务中改进了permutation学习的训练稳定性和最终质量。该方法主要针对无监督学习中的permutation矩阵估计问题,与关键词中的context或attention等概念关联较弱。
Mengyang Sun et al.
cs.LG cs.CL
本文提出RotMoLE,通过在MoE-LoRA框架中为每个低秩专家引入旋转门控机制,替代传统的标量重加权,以增强专家在复杂多任务场景下的表示与泛化能力。实验表明该方法在有限专家候选时能更有效地学习多样化数据。
Yunqing Liu, Yi Zhou, Wenqi Fan
cs.LG cs.AI
本文提出GO-Flow方法,通过将分子构象生成过程分解为平移、旋转和构象三个物理子空间(分别使用线性最优传输、\(SO(3)\)上的测地流和熵最优传输),以解决现有扩散模型将分子视为欧氏空间点云而忽略键长键角等刚性几何约束的问题。该方法在GEOM-Drugs和GEOM-QM9数据集上取得了最优生成质量,并能以少至50步实现高保真采样。
Wenkang Jiang et al.
cs.LG
本文提出了一种名为CITE-VAE的latent dynamical causal generative model,用于从single-cell perturbation数据中恢复潜在的cellular programs及其随时间演化的机制。该方法通过联合建模latent causal variables、perturbation-conditioned mechanisms和temporal evolution,实现了对unseen perturbations的out-of-distribution generalization。
Changyu Chen, Xiting Wang, Rui Yan
cs.LG cs.AI
本文提出Extreme Region Policy Distillation (ERPD)框架,通过两阶段解耦样本效率与KL效率:第一阶段在固定数据上执行弱约束off-policy优化以充分提取训练信号,第二阶段将这些信号在trust-region约束下蒸馏回base policy。该方法在数学推理任务上验证了有效性,但与我提供的关键词(code, context, spectral, Muon, pretrain, agent, attention)无直接契合。
Yuanye Liu et al.
cs.LG cs.CV
本文从广义Bayesian视角为Evidential Deep Learning (EDL)建立了理论框架,包括先验设定、后验更新和训练目标,并提出了统一可扩展的Generalized Evidential Deep Learning (GEDL)框架。实验表明GEDL在分类、不确定性估计和OOD检测上取得了与现有变体相当的结果。
Ze Peng et al.
cs.LG cs.AI
本文探讨了Transformer中MLP激活稀疏性与损失景观平坦性之间的关系,发现激活稀疏性可表示为“增强平坦性”与输入范数和激活梯度乘积的比值,并提出了导数稀疏性概念。该工作为理解激活稀疏性提供了新视角,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Taeseong Yoon, Heeyoung Kim
cs.LG stat.ML
本文提出了一种名为Courtroom Analogy的新视角,将不确定性感知分类建模为类特定倡导者之间的结构化辩论,并设计了MoDEX(Mixture of Dirichlet EXperts)架构来实例化该框架,通过预测可解释的参数实现高效的不确定性量化。该方法在多个基准上取得了先进性能,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Chenglong Li, Claudio Altafini
cs.LG
本文展示了Transformer层中的操作(投影和层归一化,忽略前馈神经网络)与幂方法步骤之间的类比关系,并指出通过层时token倾向于与该层输出和值权重矩阵乘积的主特征向量对齐。对于共享权重的Transformer,这种对齐在经验上尤为明显,且可解析证明。
Aditya Gaur, Charu Sharma
cs.LG
本文提出了一种基于封闭形式求解器的节点分类框架,通过调整同质性选择SGC风格传播或LCF-Net进行特征精炼,在多个基准上匹配或超越了传统GCN/SAGE/GAT的性能。该框架还支持精确的图遗忘操作,通过局部更新实现了显著的加速。
Florent Tariolle, Florian Yger
cs.LG cs.CV
本文提出了一种名为Opportunistic Target Selection (OTS)的轻量级方法,用于提升黑盒对抗攻击的查询效率。OTS通过将无目标攻击早期切换为有目标攻击来缓解类别漂移问题,并在随机搜索攻击上取得了显著性能提升,但在梯度估计攻击上效果有限。
Maxim Bolshim, Alexander Kugaevskikh
cs.LG
本文提出了一种随机估计神经网络Hessian矩阵逐层对角块迹的方法,结合Hutchinson迹估计与单次Hessian-向量积,在一次反向传播中恢复每层迹的无偏估计。该方法应用于检测ResNet和VGG在CIFAR上的标签记忆化现象,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联较弱。
Qingyuan Zeng et al.
cs.LG cs.AI
本文提出REUSE方法,通过层次化进化搜索在预训练单目标扩散模型的输入空间中恢复双目标分子,无需重新训练或修改去噪过程。该方法将任务建模为约束多目标优化问题,在保持分子质量的同时提升了双目标亲和力。
Gabriel Masella et al.
cs.LG
本文使用Graph Neural Network (GNN)框架,特别是Message-Passing Neural Network (MPNN),通过将场上球员建模为动态图中的节点和边,来预测职业足球中的最佳传球目标。模型在识别实际接球者方面取得了有竞争力的准确率,并能在数秒内评估上千次传球。
Lauri Lovén et al.
cs.LG cs.GT stat.ML
本文证明了在理性监督下,当某些任务超出智能体的可靠能力范围时,任何具有置信门控自主性的强化学习策略无法同时实现最大帮助性、最优校准和完全自主,即行为可信三难困境。该不可能性源于几何性质,即向严格适当的评分规则添加非仿射自主激励会破坏严格适当性,导致智能体系统性地夸大其置信度。
Hyungkyu Kang, Byeongchan Kim, Min-hwan Oh
cs.LG
本文针对离线目标条件强化学习(offline GCRL)中长程任务的价值函数泛化问题,提出了一种结合潜在表示对齐与分层规划的算法LAVL。实验表明该方法在OGBench基准上优于现有方法,但未涉及关键词中的spectral、Muon或pretrain等核心概念。
Florian Seiffarth
cs.LG
本文提出了一种基于图不变量(graph invariants)的权重共享原则,并设计了ShareGNN架构,通过将权重直接索引到图结构信息来增强MPNN的表达能力。实验表明该方法在子图计数等任务上优于标准MPNN,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Ziyu Zheng et al.
cs.LG cs.AI
本文提出MDGMIX框架,通过边界感知的子图混合与层次化判别来减少多域图预训练中的数据冗余,并利用轻量级提示加权机制迁移源域知识。实验表明其在少样本分类任务中优于基线方法。
Yunlong Hou, Zixin Zhong, Vincent Y. F. Tan
cs.LG cs.AI cs.IT stat.ML
本文研究了多臂老虎机问题中,智能体在累积遗憾前拥有免费探索预算的新设定,提出了一个两阶段算法UFE-KLUCB-H,并推导了其与实例相关的上界和下界,证明了该算法相比无免费探索的策略能严格减少累积遗憾。
Joonas Jälkö et al.
cs.LG cs.CR
本文研究了成员推理攻击(MIA)在评估训练数据泄露时的可靠性问题,指出在低假阳性率(FPR)下评估真阳性率(TPR)时,跨多个个体的MIA分数拼接会导致校准偏差,且常用的似然比攻击(LiRA)实现存在有限总体偏差。为此,作者提出了一种后处理方法以校准不同样本间的FPR。
Yulin Yuan, Hongshuo Zhao, Xiangming Meng
cs.LG
本文针对基于扩散的多模态大语言模型(dMLLMs)在并行解码时存在的视觉冗余问题,提出了Visual Redundancy Index (VRI)来量化该现象,并设计了无需训练的Visual-Redundancy-Controlled Decoding (VRCD)方法,通过token-to-image attention优先选择视觉互补的位置,从而提升解码质量。
Andrey Kozachok et al.
cs.LG cs.AI
本文提出了一种上下文-工具数据蒸馏方法,用于生成Kubernetes清单(一种领域特定语言DSL的产物)。该方法通过合成生成和反向指令生成构建语料库,并仅将通过外部验证器且匹配领域上下文模型的样本用于监督微调,在资源受限条件下(使用DeepSeek-V4 Flash API作为教师模型,Qwen2.5-Coder-1.5B-Instruct作为学生模型)实现了91.5%的通过率。实验表明,输出格式的严格性比增加训练样本数量对结果质量影响更大。
James Henry
cs.LG cs.AI
本文提出Geometric Evolution Maps (GEMs)方法,通过追踪transformer residual stream中概念表示的完整方向轨迹,识别概念方向停止旋转的handoff layer并提取稳定probe。实验表明GEMs在多数情况下优于固定层或峰值层probe,但该方法主要关注概念表示的方向稳定性,与关键词列表中的code, context, spectral, Muon, pretrain, agent, attention等主题关联较弱。
Li Wang et al.
cs.LG cs.CL
本文提出RLAVR方法,通过主动获取少量样本的真实标签并与伪标签结合,以稳定RLVR训练并提升性能。该方法引入CAG指标评估样本价值,并设计CARE策略实现预查询采集。
Laura Solà-Garcia, Àlex Solé, Javier Ruiz-Hidalgo
cs.LG cond-mat.mtrl-sci physics.class-ph
UNATE提出了一种无监督原子嵌入框架,通过结合去噪自编码器和对比学习从未标记晶体结构中学习原子表示,用于提升下游性质预测性能。实验表明该方法在标记数据有限时效果更显著,但整体创新性有限且与关键词关联较弱。
Yiping Ji et al.
cs.LG
本文研究了残差连接对Transformer激活值分布的影响,发现残差连接会导致激活值偏离高斯分布,从而增加低比特量化的误差。通过对比残差和无残差Transformer,作者提出无残差模型在正交初始化等训练技巧下能保持近高斯激活值,从而显著提升对低比特量化的鲁棒性。
Yu Chen, Scott Ferson
cs.LG
本文提出了一种基于conformal prediction和imprecise inference的框架,用于在有限数据和分布偏移下进行鲁棒外推,通过生成概率盒(probability boxes)来保持覆盖并自适应扩展不确定性。实验表明该方法在合成和基准数据集上比标准概率方法具有更好的鲁棒性。
Xi Chen et al.
cs.LG math.OC
本文研究电商企业在两层配送网络中面对多商品订单的实时履行决策问题,提出了一类基于门控优先级的贪心策略,并给出了其在时变与不变成本结构下的竞争比保证。该工作主要关注运营管理中的库存分配与成本权衡,与您提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)无直接关联。
Benedikt Schesch, Michael D. Ernst
cs.LG
本文构建了一个名为Merge-Bench的数据集,包含7938个真实世界的merge conflict hunks,并训练了LLMergeJ模型来使用Group Relative Policy Optimization (GRPO)方法解决Java程序中的merge conflicts。实验表明,14B参数的LLMergeJ在Java上优于多数商业LLM,但最佳模型正确解决率仍低于60%。
Manuel Noseda, Nathan Soldati, Marco Paina
cs.LG q-fin.ST
本文使用LSTM和Transformer模型结合新闻情感特征、公司基本面和技术指标,预测财报公告日的股价方向。实验表明Transformer模型在识别波动性运动方面更敏感,且加入新闻情感特征能提升性能。
Michał Brzozowski et al.
cs.LG
本文提出Contrastive Decoding Diffing (CDD)方法,仅通过输出层logit分布差异,无需权重访问或模型内部信息,即可从微调后的语言模型中逐字恢复植入的事实内容。该方法在多个架构上优于需要白盒访问的Activation Difference Lens (ADL),并首次展示了从数据生成器伪影到模型权重的完整指纹提取链。
Zhen Li et al.
cs.LG cs.DC cs.NI
本文提出了一种用于联邦边缘学习的在线优化框架,通过引入串联队列转换机制和约束多目标深度强化学习算法C-MOPPO,联合优化边缘设备的训练与推理过程,以在最大化推理精度的同时最小化延迟和能耗。
Nicolas Ricka et al.
cs.LG cs.AI
本文提出一种基于multivariate kernel density estimation (MKDE)的机器学习方法,利用心率和皮肤电信号对PTSD严重程度进行客观评估。通过从特定恐惧症(蜘蛛恐惧症)数据迁移学习,模型在军事数据集上实现了86%的分类准确率。
Enrique Alba, Ezequiel Lopez-Rubio
cs.LG cs.AI
本文研究了单隐层MLP中隐藏神经元在训练偏置下的特化现象,并分析了三种结构损失(覆盖、分离、重叠惩罚)对基于prototype的训练数据重建误差的影响。实验表明覆盖正则化能提升重建性能,而重叠惩罚会导致prototype中心被推出训练输入凸包外,形成退化平衡。
Hui Cheng et al.
cs.LG
本文提出了一种名为STaT的多模态时间序列预测架构,通过融合符号模态(将连续序列离散化为tokens)、时间模态(提取序列依赖)和文本模态(利用领域语义)来缓解非平稳时间序列中的形状失真问题。实验表明该方法在降低平均误差的同时能更好地保留序列的波动形态。
Shyam Sankaran, Hanwen Wang, Paris Perdikaris
cs.LG cs.AI physics.comp-ph
本文提出WaveLiT架构,通过离散小波变换和线性注意力等设计,在偏微分方程求解中实现参数高效性。实验表明小模型可通过结构先验在特定物理场景下与大规模模型竞争。
Mengfan Liu et al.
cs.LG cs.AI
本文提出了Step-TP数据集,通过结构化chain-of-thought推理为tensor program优化提供原子化的step-level监督,旨在提升LLM在组合优化空间中的单步决策可靠性。
Christian Brandt Thomassen
cs.LG cs.CL stat.ML
本文通过大规模实验研究了子100M参数解码器语言模型在量化感知训练中学习率调度与位宽的关系,发现最优调度(warmdown比例33%)在不同位宽(FP16/INT8/INT6)下保持一致,否定了低精度训练需要不同调度的假设。对于INT4量化,模型规模在50M以上时调度选择明确,而低于50M时则受噪声主导。
Georgios Milis et al.
cs.LG cs.SD
本文针对合成音频的水印问题,提出了一种无需梯度训练的方法,通过社区检测减少离散化token的词汇冗余来提升水印检测的鲁棒性。该方法在保持训练-free优势的同时,显著增强了检测性能。
Inés Gonzalez-Pepe et al.
cs.LG math.NA
本文提出了Fuzzy PyTorch框架,通过将随机算术集成到PyTorch中,实现了对深度学习模型数值变异性的快速评估。该框架利用Probabilistic Rounding with Instruction Set Management库与Verificarlo编译器交互,相比现有工具Verrou实现了5到60倍的运行时间缩减。
El Mustapha Mansouri, Keigo Arai
cs.LG stat.ML
本文提出了“部署完备基准测试”的概念,用于评估基准证据是否足以确定部署行动,通过引入completion curves来量化解决歧义所需的信息。实验表明,传统分数在跨部署通道时表现不佳,而certify-then-acquire方法能显著降低错误决策。
Dennis Frauen et al.
cs.LG
本文探讨了因果方法在大语言模型(LLM)开发与评估中的应用潜力,指出LLM开发中的许多核心问题(如预训练数据混合的影响、评估偏差等)本质上是因果性的,并系统梳理了因果推断在预训练、对齐、路由、agent工作流及评估等环节的机遇。
Branislav Kveton et al.
cs.LG cs.AI cs.CV
本文提出AdvantageFlow,一种用于rectified flow模型的前向过程强化学习算法,通过advantage-weighted least squares优化预测损失,并引入rollout policy regularization来稳定训练。实验表明,该方法在图像生成任务上优于Flow-GRPO等基线。
Christoffer Loeffler et al.
cs.LG cs.AI cs.CL
本文提出了一种检索增强生成框架,用于自动检测和分类智利服务条款中的潜在滥用条款,并引入了包含100份合同和10029条注释的语料库。实验表明,该框架通过混合检索和提示增强,使本地模型在较低计算成本下接近大型云系统的性能。
Charles Pert, Dalal Alrajeh, Alessandra Russo
cs.LG
本文提出MLP-LDRU,一种Log-Depth Recurrent Unit,通过并行归约近似递归,在21个正则语言任务上实现了近乎完美的长度泛化,并在ListOps和NLP分类任务上表现有竞争力。
Waleed Razzaq, Yun-Bo Zhao
cs.LG cs.AI
本文提出了一种名为NSAC的生物启发式连续时间注意力架构,通过Ornstein-Uhlenbeck随机微分方程计算attention logits,并利用NCPs布线机制引入高斯分布以实现概率输出。该方法在多个任务中展示了与基线相当的准确性,并提供了可解释的不确定性估计。
Rustem Takhanov, Zhenisbek Assylbekov
cs.LG cs.AI
本文研究了条件核岭回归(conditional KRR)的统计性质,通过将其行为简化为带有残差核(residual kernel)的标准KRR,证明了预期测试风险中多出的项以\(\mathcal{O}(1/\sqrt{N})\)为界。该方法可视为先对由函数类\(\mathcal{F}\)指定的特征进行线性回归,再对残差部分应用标准KRR。
Xu Yao et al.
cs.LG cs.AI
本文提出了WSADBench,一个统一评估弱监督异常检测(WSAD)中不完全、不精确和不准确三种监督场景的基准,通过系统变化标签数量、粒度和质量,在4种模态上评估了36种算法。实验揭示了不同弱监督场景间的强相关性,并指出专用WSAD算法仅在标签极度稀缺时有效,而tabular foundation model和通用分类方法在监督增加时表现更优。
Namrata Nadagouda et al.
cs.LG
本文提出了一种名为Info-Synth的主动查询合成框架,用于偏好学习,通过最大化连续空间中的互信息目标来生成最优查询,并引入置信度感知响应模型处理模糊比较。该方法在合成偏好学习、文本摘要和机器人控制器调优任务上展示了有效性,但未涉及code、spectral或Muon等关键词相关技术。
Zhaoyu Zhu, Rui Gao, Shuang Li
cs.LG
本文研究了Wasserstein policy gradient (WPG)在entropy-regularized reinforcement learning中的全局收敛性。通过利用Bellman结构,作者证明了soft Bellman residual与Gibbs policy之间的KL表示关系,并结合log-Sobolev inequality (LSI)推导出分布式的Polyak--Łojasiewicz条件,从而建立了WPG的几何收敛性。
Maoyang Xiang, Bo Wang, Tao Luo
cs.LG cs.AI
本文提出OrpQuant框架,通过正交残差投影(ORP)将Power-of-Two量化问题转化为双基几何投影,用移位加操作替代乘法累加运算,在低比特场景下缓解了非均匀指数格点的低角分辨率问题。该方法在LLaMA-2-7B上实现了快速校准,但未直接涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Jinwoo Go, Xiaoning Qian, Byung-Jun Yoon
cs.LG stat.ML
本文提出GoBOED框架,将贝叶斯最优实验设计(BOED)与决策目标直接对齐,通过可微凸决策层和变分后验代理实现梯度优化。实验表明该方法在源定位、流行病管理等任务中比传统信息增益最大化方法更有效。
Martin Marek et al.
cs.LG
本文研究了语言模型中的遗忘现象,发现当模型容量接近饱和时,遗忘难以避免;而使用模型自身生成的样本进行回放(replay)可以有效缓解遗忘,并允许使用高学习率进行快速微调。
Sanghyun Lee et al.
cs.LG
本文提出LoopMDM,通过在Masked Diffusion Models (MDMs)中循环使用早期-中间层的transformer layers,在不增加参数的情况下实现了深度缩放效果,并在训练和推理时提升了计算效率与性能。该方法在多个推理基准上优于同尺寸甚至更深层的非循环MDMs,并通过attention分析表明循环促进了masked positions间的交互。
Jun-Tao Tang et al.
cs.LG cs.CL cs.CV
本文提出了Prism,一个用于可扩展多模态持续指令微调(MCIT)研究的插件式可复现代码库。它通过轻量级插件注册机制将算法开发与骨干实现分离,旨在解决现有MCIT研究中因直接修改基础代码库导致的实现开销大和代码复用性差的问题。

cs.AI

Ya-Ting Yang, Quanyan Zhu
cs.AI cs.SE
本文针对LLM驱动的agentic workflows(由多个agent组成的AI工作流)中的延迟(latency)、可靠性(reliability)与成本(cost)之间的基本权衡(tradeoffs)进行了分析。作者引入了LLM agent和非LLM agent的性能模型,利用参数化指数可靠性函数刻画了计算努力与输出质量的关系,并研究了在延迟和成本约束下顺序工作流的设计问题。主要结果包括一种water-filling token分配策略,以及用影子价格(shadow prices)对最优工作流可靠性的刻画,为agent系统的可靠设计提供了理论指导。
Yunbei Zhang et al.
cs.AI cs.SE
本文提出并论证了"Binding Constraint Thesis":在长时域agent任务中,agent执行harness(即围绕语言模型的基础设施层,负责context构建、工具交互、编排与验证)对性能的影响往往超过模型本身。作者通过控制论形式化将harness视为闭环动力系统的控制器,LLM视为其控制的随机策略,并利用方差分解实验证明harness引起的性能方差可超过模型替换引起的方差,甚至导致模型排名反转。该工作为agent评估领域提供了harness感知的评估框架与披露标准,与关键词"agent"高度契合。
Alfredo Metere
cs.AI cs.LO cs.MA
本文提出了一种针对LLM驱动的agent技能的形式化验证方法,通过三层可组合技术(基于抽象解释的静态能力包含分析、工具调用封装的refinement type系统、以及SMT有界模型检验)将技能从声明或测试级别提升至形式化验证级别。该方法解决了agent能力包含证明的机械化验证问题,利用现有工具(如Z3、Semgrep)构建了可复用的验证框架,并提供了开源实现。这与关键词中的"agent"高度契合,且方法在形式化验证领域具有开创性。
Sahil Joshi et al.
cs.AI cs.LG
本文通过理论和实验论证,认为LLM推理中的context维度稀疏性不仅是可行的,而且是未来系统设计的必要方向。作者指出,在长context场景下,dense attention本质上是低效的,因为query将\(O(N)\)的attention信息投影到维度\(d \ll N\)的隐藏空间,这一过程必然有损。通过对20个模型在多种任务(包括retrieval、multi-hop QA、mathematical reasoning和agentic coding)上的广泛实验,文章证明当前LLM对inference-time decode sparsity具有显著鲁棒性,并展示了在H100等硬件上,稀疏解码核可在50x稀疏度下实现比FlashInfer高达10倍的加速。该工作为将extreme context sparsity作为LLM训练和架构设计的principled foundation提供了有力支持,与关键词中的context和agent高度契合。
Yuyang Hu et al.
cs.AI cs.CL
AgentFugue提出了一种名为collective reasoning的框架,通过一个共享的reasoning hub让多个peer agent并行探索同一长时域任务,并记录每个agent已建立、尝试或排除的中间推理结果,使其他agent能选择性访问这些信息以辅助当前搜索。该方法将孤立的agent轨迹转化为可复用的推理生态,无需显式角色分工或集中式规划,并通过supervised fine-tuning和end-to-end reinforcement learning训练hub作为插件式通信层。在长时域任务中,AgentFugue显著优于强基线,表明scaling out peer agent系统可成为独立的能力增益来源,而非仅增加计算开销。该工作与关键词agent高度契合,为agent scaling提供了新范式。
Mustafa Hayri Bilgin et al.
cs.AI
本文提出PALoRA (Projection-Adaptive LoRA) 框架,用于解决大语言模型在知识注入时破坏已有推理能力的“可塑性-稳定性”困境。作者通过理论分析和实验证明,推理所需信息并非仅集中在dominant singular directions,而是分布在singular spectrum上。基于此,PALoRA采用两阶段策略:先用Singular Value Fine-Tuning (SVF) 在推理数据集上训练专家,将其学习的singular scaling vector作为几何探针识别关键子空间;再在structural orthogonality constraint下用LoRA进行事实知识注入,确保更新避开该子空间。该方法在Llama 3.1 8B和Mistral 7B上的数学、代码和科学推理基准中,平均保留了SVF专家95%的推理性能,且参数开销低于0.006%,与关键词中的spectral和code高度契合。
Yuxin Zhang et al.
cs.AI cs.MA
Hera提出了一种用于设备-云协同LLM agent的两阶段训练范式,解决了长时域任务中step-level路由决策的难题。该方法首先通过imitation learning进行冷启动,将step-level路由建模为supervised classification问题,然后通过cost-aware reinforcement learning联合优化任务成功率和云调用效率。实验表明,Hera在ALFWorld等基准上仅使用46.3%的云步骤即可达到92.5%的纯云成功率,在性能-成本Pareto前沿上显著优于现有方法。该工作与关键词"agent"高度契合,并为设备-云协同agent的细粒度协调提供了开创性框架。
Suresh Raghu, Satwik Pandey, Shashwat Pandey
cs.AI
本文提出Trajectory Proper Score (TPS),一种严格适当的轨迹级评分规则族,用于评估语言模型agent在完整轨迹中逐步骤不确定性信号是否被校准为最终成功的概率过程。作者证明TPS在完全观测下严格elicits成功概率过程,并扩展到管理性删失轨迹,通过投影完整数据得分到可观测的停止前缀得到精确的\(q_Z\)加权缩减得分及其可计算近似。实验表明,TPS能揭示概率重校准对评分的影响,而传统rank指标和Trajectory ECE等无法区分,这为agent不确定性量化提供了更严格的评估框架。
Sasank Annapureddy
cs.AI cs.MA
本文提出PRIMA框架,针对LLM多智能体系统在长时间运行中出现的上游限流、任务漂移等故障模式,设计了三个操作模式:弹性恢复层、子智能体操作规范和多阶段应用模式。该框架基于素数幂生成无冲突智能体标识,提供\(O(k)\)验证和\(O(V+E)\) DAG验证的理论保证,并通过图同构案例研究展示了生成六步协议并产出包含三个定理和五个猜想的研究论文的能力。该方法在agent和context关键词上具有契合性,为多智能体系统的鲁棒性提供了系统性解决方案。
Yilei Zhang
cs.AI
本文提出了一种新的制造范式"Agent Manufacturing",其核心思想是将基于foundation model的autonomous agents作为制造系统中的首要协调机制。与传统的多agent制造系统不同,这些agents能够解释开放目标、进行长期规划、调用工具和机器,并与其他agents和人类进行协商,从而将原本由工程师和经理执行的协调认知工作(包括解释、分配、诊断、协商和治理)从人类转移到机器。该定义比现有的认知制造或Industry 5.0文献更为严格和可证伪,标志着制造领域从物理和常规认知层面向协调认知层面的第五次转型。
Wentong Chen et al.
cs.AI
本文提出Test-Time Exploration (TTExplore)框架,用于解决LLM agent在隐含规则(implicit rules)环境中的探索失败问题。该框架引入一个thinker组件,通过分析交互历史来推理隐含规则并指导actor行动,其核心创新在于设计了一种稳定的强化学习pipeline:利用准确的任务级分数作为间接奖励,并仅保留每条轨迹中的单个思考节点以缓解奖励稀疏性。实验表明,基于此方法训练的7B模型Exp-Thinker在五个文本具身任务上平均提升基线agent性能14-19个点,为agent在复杂环境中的隐式规则推理提供了有效方案。
Andy Xu, Yu-Wing Tai
cs.AI
本文提出Meta-Agent框架,从自然语言任务描述自动构建并执行经过验证的多智能体系统。其核心创新在于两阶段设计:构建阶段通过任务规划器将问题分解为具有输入/输出合约和验证标准的agent有向无环图,并引入网络搜索与代码生成模块进行外部证据锚定与系统提示生成;执行阶段通过协调器调度子任务并利用三级错误归因机制(区分局部、上游和结构性故障)实现定向恢复。该方法在编码、上下文学习等任务上显著提升了任务成功率与工作流稳定性,为构建可靠的多agent系统提供了系统性的规划-锚定-验证集成方案。
Minghao Fu et al.
cs.AI
本文提出TC-WM框架,通过将预训练的视觉foundation model embeddings线性投影到紧凑的latent space作为动态空间,并利用contrastive learning对齐agent的物理状态子空间,从而构建任务中心的世界模型。该方法在无奖励的offline setting下,从固定轨迹中学习紧凑且任务充分的表示,理论上证明了其能识别任务相关的latent factors。实验在Robomimic和D4RL等环境中验证了该方法在world-modeling质量和控制精度上优于现有方法,与关键词中的agent和pretrain高度契合。
Michael Aichmüller, Yannik Hesse, Hector Geffner
cs.AI
本文提出了一种自改进的\(\mathrm{WA}^\star\)学习框架,结合Relational Graph Neural Network作为value heuristic,通过搜索引导heuristic更新(\(Q\)-learning),再以更新后的heuristic改进搜索,形成闭环。该方法在Sokoban、Blocksworld等规划任务上实现了强零样本泛化,例如在少于30个blocks的实例上训练的heuristic可直接解决含488个blocks的实例而无需搜索。该工作为组合泛化问题提供了无需专家演示或目标状态随机游走的自监督学习范式,与关键词中的agent和context(规划上下文)高度契合。
Yanping Wu et al.
cs.AI
本文提出FEP-Diff,一个基于Free Energy Principle的agent-centric社会轨迹预测框架。该框架通过双分支时空编码器从局部观测中提取自我运动动态和社会交互线索,并利用目标条件信念学习器推断多模态潜在信念分布,通过free-energy目标优化和局部邻域图上的社会一致性约束实现认知对齐。最后,采用残差扩散轨迹生成器以token级代理条件生成精确且多样化的未来轨迹。实验表明,该方法在受限观测条件下优于现有方法,为agent轨迹预测提供了认知合理的解决方案。
Shangding Gu
cs.AI cs.LG
本文提出agentic AI的下一个主要瓶颈在于system scaling(系统扩展),而非仅model scaling(模型扩展),并引入“scaling the harness”这一概念,将围绕foundation model的结构化执行层(harness)视为设计、评估和优化的核心对象。文章识别了三个核心瓶颈:context governance(上下文治理)、trustworthy memory(可信内存)和dynamic skill routing(动态技能路由),并强调agent性能源于foundation model、memory substrate、context constructor、skill-routing layer、orchestration loop及verification-and-governance layer等组件的交互。此外,本文开发了Python-native参考实现CheetahClaws,并与Claude Code和OpenClaw进行比较,主张未来agentic AI的进展将同样依赖于系统设计。这与关键词中的“agent”和“context”高度契合。
Sam Earle et al.
cs.AI cs.CL cs.CV cs.NE
本文使用前沿Vision Language Models (VLMs)替代人类用户,复现了Picbreeder这一人类驱动的开放式搜索范例。研究通过系统发育复杂度、视觉与语义显著性等指标,比较了系统输出与历史人类基线的差异,并探索了探索性噪声、行为多样性及记忆机制对结果的影响。
Noam Michael et al.
cs.AI cs.LG
本文研究了大型语言模型(LLMs)在不同任务上的confidence calibration(置信度校准),发现模型普遍存在过度自信,且受hard-easy effect(难易效应)影响,并开发了LifeEval测试集来评估不同难度下的校准情况。
Zhiyuan Zhai et al.
cs.AI cs.LG
本文通过定义并量化推理冗余度(即正确推理链中可被截断而不影响最终答案的最大比例),发现前沿LLM在数学推理中普遍存在61%-93%的冗余,并证明这种冗余是长度无关的outcome reward(结果奖励)的结构性后果,而非特定模型的缺陷。
Gregory Magarshak
cs.AI cs.CL cs.DC cs.MA cs.PL +1
本文提出了Context架构,通过可组合沙盒程序、声明式连接和结构化交互实现主动目标导向的智能体,并证明了多个形式化定理。该工作主要关注agent系统的设计,与关键词中的agent概念有一定关联。
Saad Mankarious
cs.AI cs.LG cs.MA
本文介绍了一个名为Quantum Frog的双人合作游戏,其核心机制是“量化时间”(quantized-time),即环境仅在玩家行动时推进。通过强化学习(RL)训练智能体,发现最优策略是“冲刺策略”(rush strategy),且合作训练能显著提升联合成功率,但涌现的合作策略仅为同步冲刺,而非复杂的空间协调。
Zhiming Chang, Ziyang Li
cs.AI cs.PL cs.SE
本文提出了一种名为BODHI的领域知识提示方法,通过结构化C-to-Python翻译指南增强LLM,用于自动生成操作系统内核的形式化specification。该方法在Hyperkernel基准测试上显著提升了Pass@1指标,但主要聚焦于代码生成与形式化验证的交叉领域,与关键词列表中的核心概念关联较弱。
Boyu Xiao et al.
cs.AI cs.CL cs.CY cs.LG
本文提出Med-Stress框架评估LLM在临床对话中的信念稳定性,发现高诊断能力不等于高鲁棒性,并设计了RBED和R-FT两种防御方法。该工作聚焦于LLM的认知鲁棒性,与关键词列表中的概念关联较弱。
Wang Rui, Lu Diannan
cs.AI quant-ph
本文提出将Coherent Ising Machine (CIM)与LLM驱动的agent系统结合,利用LangGraph和LangChain框架实现QUBO/Ising模型校准和约束权重迭代等任务的自动化,并基于全自主的国产大模型和硬件完成了技术集成。
Marcelo Fernandez - TraslaIA
cs.AI cs.CY cs.MA cs.SE eess.SY
本文提出了一种在运行时执行reconstructive authority (RAM)的模型,通过引入“halt”状态和Recovery Loop机制,确保动作仅在权威可构建时执行,从而保障系统安全性与条件活性。该工作主要关注agent系统的运行时执行语义,与关键词“agent”有一定关联。
Takaaki Fujita, Florentin Smarandache
cs.AI cs.LG
本文系统综述了模糊、中智及不确定图论的基本概念、结构性质与图类参数,并介绍了不确定有向图、超图、超超图及动态图等扩展模型,同时探讨了其在分子图、决策系统、图神经网络、知识图谱和认知地图等领域的应用。
Bruno F. Lourenço et al.
cs.AI cs.LG cs.LO math.OC
本文提出BoxLitE,一种基于convex optimization的知识库嵌入模型,用于DL-Lite\(^{\mathcal{H}}\),通过将概念映射到convex regions来建模层次结构。它证明了对于可满足的KB存在弱忠实嵌入,并将嵌入任务转化为convex optimization问题。
Long Zhang, Zi-bo Qin, Wei-neng Chen
cs.AI cs.CY cs.LG
本文研究了LLM在融合异构输入时,当传感器测量值与用户声称冲突时,模型会倾向于信任自然语言形式的用户声称而非数值传感器数据,这种现象被称为Authority Inversion。作者提出了几何框架和审计指标(CIR和AAI)来诊断该问题,并设计了推理时的层级干预方法GAC来校准错误的权威分配。实验表明该方法能显著提升模型在数值任务上的准确性。
Xirui Liu et al.
cs.AI cs.LG
本文提出DRIVE框架,将Web agent的历史经验解耦为自然语言推理技能和程序化交互技能,以解决知识迁移与执行性的矛盾。通过场景感知协调机制和技能级反思,该方法在WebArena基准上提升了任务成功率。
Sebastien Kawada
cs.AI cs.CL
本文通过构建DRIFT-Bench基准测试,研究了多轮约束推理系统中的失败模式,发现主要失败原因是可满足漂移(satisfiable drift)而非逻辑矛盾,并提出了MUS-Repair方法进行修复。
Maissa Abir Smaili, Eren Sadikoglu, Ransalu Senanayake
cs.AI cs.RO
MEMOR-E是一个用于阿尔茨海默症辅助机器人的系统,通过微调LLM和in-context learning生成认知状态摘要,以支持个性化交互。该工作主要关注机器人应用而非理论方法创新。
Carlo Cattani, Dioneia Motta Monte-Serrat
cs.AI
本文提出一个基于变换和语义等价的认知过程动力学框架,将认知状态建模为通过迭代规则\(X_{t+1} = \pi(F(f(X_t)))\)演化的状态空间元素,并引入范畴论描述其组合结构。该工作通过不动点论证和压缩条件分析稳定性,并用语言应用示例展示上下文依赖解释如何收敛到稳定语义类。
Song-Ju Kim
cs.AI physics.hist-ph quant-ph
本文从需求驱动的视角重新解释量子概率,认为量子概率是有限状态需求下时空形成的固定时空投影,而非经典概率的简单替代。该工作为量子认知中的顺序效应和语境性提供了新的哲学框架,但与我提供的关键词列表关联较弱。
Jing Dong, Prakirt Raj Jhunjhunwala, Yash Kanoria
cs.AI math.PR
本文通过Bayesian模型分析了AI推荐系统中用户与系统的交互,研究了在d维空间中如何通过优化信息传递精度和推荐集大小来最大化用户期望效用,并比较了两种采样策略下的最优交互策略。
Long Zhao et al.
cs.AI cs.DC
本文提出了一种名为PAT的自适应Tensor Parallelism方法,用于加速同步RLHF训练中的长尾生成阶段。该方法通过预测引导的在线重配置和轻量级状态更新机制,动态调整TP配置以减少生成延迟。
Alex Bogdan, Adrian de Valois-Franklin
cs.AI cs.CL q-bio.NC
本文提出了一种名为Machine Psychometrics的测量科学框架,旨在通过Item Response Theory、Signal Detection Theory等数学心理学工具,为人工智能agent构建多维度的Machine Mindprint(机器心智印记)以评估其行为与认知倾向。该工作主要贡献在于引入了一种介于拟人化与完全否定之间的“Artificial Mind Discipline”哲学立场,但并未直接涉及code、context、spectral、Muon、pretrain或attention等关键词所代表的具体技术方法。
Ruizhe Zhou et al.
cs.AI cs.DC cs.LG cs.SI q-fin.CP
本文综述了金融AI系统中确定性(determinism)问题,分析了表格模型、图网络和基于LLM的智能体工作流中的可重复性失败,并提出了分层评估框架。
Prashanti Nilayam, Sankalp Nayak
cs.AI cs.LG cs.MA
本文提出了QUIVER框架,用于量化复合AI系统中扰动在计算图上的传播与分岔。该框架定义了敏感性矩阵、轨迹散度、分岔阈值和分布忠实度等指标,并在多个生产级流水线上进行了验证。
Junhao Wei et al.
cs.AI cs.LG
本文提出了一种基于rollout校准的超启发式方法用于Job Shop调度问题,通过引入遗憾归一化标签和上下文KNN不确定性估计来降低标签生成成本并提高选择可靠性。实验表明该方法在合成实例上优于随机超启发式方法,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词相关技术。
Zenghui Zhou et al.
cs.AI cs.LG cs.SE
本文提出LGMT框架,利用first-order logic (FOL)的metamorphic relations来评估LLM推理的可靠性,通过构造语义不变的测试用例检测推理缺陷。实验发现模型对符号级和结论级变化敏感,但该方法与关键词中的概念关联较弱。
Feisal Alaswad et al.
cs.AI cs.CL cs.RO
本文指出LLMs在因果推理、持久状态追踪和长程规划中存在局限,并引入Latent Dynamics Inference (LDI)概念,通过Flux环境进行案例研究,比较了纯文本LLMs与基于显式状态空间的强化学习agent的表现,发现后者在长程游戏中更稳定。
Fabio Rovai
cs.AI cs.LO cs.SI
本文研究了确定性等式发现中的增长动力学,在三个玩具领域(算术、布尔、高阶列表)和两个真实世界代理(Mathlib文件添加和Coq提交)中,发现短程增长符合幂律\(N(t) \propto t^b\),而饱和幂律\(dN/dt = K N^k \exp(-\mu N)\)在部分场景中更优。结果表明增长动力学是substrate-conditional的,且与关键词中的agent和context有一定关联,但方法本身缺乏开创性。
Hong Su
cs.AI cs.RO
本文提出了一种面向自主机器人的思考-学习交互模型,通过双向机制使机器人能自适应地发现输入特征、扩展输出类别、更新学习模型和重构动作例程,实验验证了其在开放环境中超越预定义学习对象的有效性。
Jinhu Qi et al.
cs.AI cs.CL cs.CR
本文对Agentic AI系统(即具备规划、工具使用、记忆和长程交互能力的大语言模型)在安全、鲁棒性、隐私和系统安全方面的可信性问题进行了综述,梳理了风险来源与缓解策略,并提供了统一的评估指标与基准。
Zhengqi Sun et al.
cs.AI cs.CV cs.LG cs.RO
本文提出Reason--Imagine--Act (RIA)框架,将LLM reasoner与action-conditioned world model结合,用于自动驾驶的在线安全验证。该方法通过短时域rollout选择安全动作,在CARLA仿真中提升了闭环指标。
Yanyu Chen et al.
cs.AI cs.CL
本文提出LC-ERD框架,通过变分逻辑势(Variational Logic Potential)和多智能体价值分解(Multi-Agent Value Decomposition)来挖掘大语言模型推理中的潜在逻辑结构,以解决自对齐过程中监督信号噪声和粒度不足的问题。实验表明该方法能发现标准奖励机制遗漏的高价值推理模式。
Xiaoyu Xiong, Yuqi Ren, Deyi Xiong
cs.AI cs.MA
EvoSci提出了一种受生物进化启发的多agent框架,通过集成知识图谱建模和角色协作(导师、研究员、评审员)来迭代生成和优化科研想法。实验表明该方法在LLM结构化同行评审中表现优异,但主要聚焦于科研流程设计而非关键词中的核心概念。
Maikel Yelandi Leyva-Vázquez, Florentin Smarandache
cs.AI cs.CL cs.LG
本文探讨了将Neutrosophic Logic(一种将真、不确定性和假作为三个独立维度的逻辑框架)应用于大语言模型(LLM)的认知不确定性建模,通过实验发现该方法能更丰富地表示模型内部状态,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Haiyang Shen et al.
cs.AI
本文提出了EvoCode-Bench,一个包含26个有状态编码任务和227轮评估的benchmark,用于评估coding agent在多轮迭代交互中的表现。实验发现,大多数agent在单轮得分(SR)上显著高于多轮得分(MT@4),且最强agent在多轮指标上成功率仅约50%。
Yingtie Lei et al.
cs.AI
本文提出了SkillEvolBench基准,用于评估LLM agent能否将任务经验转化为可复用的程序性技能。实验发现当前agent在任务中常进行局部适应,但难以形成鲁棒的可复用技能,且原始轨迹复用效果常优于蒸馏技能。
Qian-Rong Li et al.
cs.AI cs.LG
本文提出了一种名为MAPLE的树搜索方法,用于在不完美信息博弈中扩展AlphaZero。该方法通过聚合多个采样世界状态的策略与价值评估,结合了PIMC和IS-MCTS的优势,并采用Siamese采样策略选择信息集内的世界状态。实验表明MAPLE在Phantom Go和Dark Hex上显著优于PIMC基线。
Yuyu Liu et al.
cs.AI
本文提出HyperGuide方法,利用双曲几何空间将推理进度蒸馏为引导信号,以提升大语言模型的多步推理效率。该方法通过轻量级头将LLM隐藏状态投影到双曲空间,并微调低秩适配器来利用该信号,在多个基准上取得改进。
Maryna Kapitonova, Tonio Ball
cs.AI
本文提出了一种受神经科学启发的Inverter框架,通过Inverse Learning (IL)方法结合前向/逆内部模型和开环多步控制,在D4RL基准测试中提升了规划性能,但方法本身与关键词(如code, spectral, Muon, pretrain, agent, attention)关联较弱。
Qitao Tan et al.
cs.AI cs.SE
本文提出Palette框架,通过多目标搜索识别拒绝方向并内化到模型中,实现对特定授权领域的安全对齐放松。该方法支持模块化组合,无需重新训练即可按需控制多领域安全策略。
Samah Fodeh et al.
cs.AI
本文提出EPPC-OASIS框架,通过Wasserstein alignment目标增强模型表示与ontology结构的一致性,并设计推理精炼流程以改进电子患者-提供者通信(EPPC)中结构化代码/子代码的提取。实验表明该方法在F1分数上较基线有微小但一致的提升,但未涉及关键词中的spectral、Muon、pretrain、agent或attention等概念。
Wenqian Ye et al.
cs.AI
本文研究了多智能体系统(MAS)在自动化工作流中的代理性失调(agentic misalignment)问题,将其定义为智能体依据隐式代理效用(proxy utilities)行动而与人类目标不一致的现象。作者提出了Agentic Evidence Attribution (AEA) 对齐范式,通过上下文特定的证据来改善智能体的后验分布,并展示了基于证据的对齐能有效提升智能体协作的可靠性。
Yifan Zeng et al.
cs.AI cs.LG
本文研究了多智能体强化学习在LLM工作流中的应用,发现端到端RL训练通常能提升基础模型性能,但收益依赖于工作流、任务和模型规模。共享策略与隔离策略各有优劣,且失败模式不同,为agent设计提供了条件性权衡。
Ashok Chandrasekar, Jason Kramberger
cs.AI cs.DC
本文指出当前LLM生产环境评测基准存在严重的测量偏差,通过将评测客户端建模为\(M/G/1\)队列,证明了Python GIL在高并发下会人为膨胀TTFT和TPOT指标。为解决此问题,作者提出了一个无偏的多进程评测框架和归一化指标NTPOT,以隔离纯服务引擎性能。
Harshada Badave et al.
cs.AI
本文提出了Trajel数据集和评估框架,用于审计多智能体工业工作流中轨迹级别的幻觉(hallucination),并定义了五种幻觉类型。实验表明现有基准会遗漏常见失败模式,且轨迹感知检测优于标准事后验证。
Arya Jakkli, Senthooran Rajamanoharan, Neel Nanda
cs.AI
本文提出了一种多方法审计流程,用于评估前沿AI模型是否遵循其行为规范(如Anthropic的constitution和OpenAI的Model Spec),通过分解规范为可测试原则并生成对抗性多轮场景进行测试。结果表明,模型在遵循自身规范方面随代际显著提升,但剩余失败集中在agent部署中的不可逆动作等问题上。
Banafsheh Rafiee, Richard Sutton
cs.AI
本文倡导将enactive approach(能动认知方法)引入AI,强调感知是主动的、具身的交互过程,并指出reinforcement learning(强化学习)在结构上与能动原则有共鸣,但主流AI仍缺乏对具身交互和内在规范性的重视。
Md Nurul Absar Siddiky
cs.AI cs.CR
本文研究了Mixtral 8x7B-Instruct模型在良性及有害prompt下的routing行为,使用了基于activation和gradient的两种信号进行分析。结果表明,安全相关的routing行为是微妙且分布式的,而非由固定专家集主导。
Amirhossein Yousefiramandi, Ciaran Cooney
cs.AI cs.IR
本文研究了LLM生成的合成数据在低资源多标签专利分类中的效果,发现性能提升主要由数据量驱动而非合成数据的真实价值。通过控制实验,合成数据相比重采样真实数据的增益仅为+0.024,且保真度指标与分类增益的相关性随数据规模变化。
Adnan Ahmad, Bahareh Nakisa, Mohammad Naim Rastgoo
cs.AI
本文提出Intrinsic Action Disentanglement (IAD)框架,通过深度分层强化学习学习与伙伴相关的低层动作序列,并引入内在奖励鼓励动作分布的解耦,以提升人机协作中的适应性。实验在Overcooked-AI环境中验证了其有效性,但方法在开创性上与关键词关联较弱。
Adnan Ahmad, Bahareh Nakisa, Mohammad Naim Rastgoo
cs.AI
本文提出了一种名为PASD的Deep Hierarchical Reinforcement Learning框架,通过引入contrastive intrinsic reward来学习基于partner behavior的skills,以解决human-AI协作中的shortcut learning问题。该方法在Overcooked-AI基准测试中优于现有baseline,但未涉及code、spectral、Muon或pretrain等关键词。
Tyrone Serapio et al.
cs.AI
本文研究如何将大型语言模型生成游戏代码世界模型的能力蒸馏到更小的模型中,通过监督微调和基于可验证奖励的强化学习提升Qwen2.5-3B-Instruct生成有效GameCWM的能力,为自动环境生成提供了可扩展的路径。
Weiwei Xu et al.
cs.AI cs.CY
本文通过审计Hugging Face Hub上的模型仓库,发现开放权重AI模型中的伦理约束元数据在衍生链中快速衰减,其半衰期仅为1.31步,并形式化了“治理视界”这一深度边界。研究指出,平台层面的政策设计(如强制声明)比单纯执行更能有效扩展该视界,而继承性政策无法解决无上游意图的孤立衍生分支问题。
Jingchu Gai et al.
cs.AI
本文研究了LLM在长链推理中过早置信的问题,并提出了一种无需外部标注的强化学习目标(progressive confidence shaping)来缓解该问题,通过奖励逐步置信增长并惩罚早期承诺来提升推理质量。实验表明该方法在多个算术和数学推理任务上显著提升了准确率并减少了错误推理。
Xuan Wang et al.
cs.AI
本文提出ConceptM\(^3\)oE框架,通过将概念形成嵌入到交互感知的mixture-of-experts路径中,并利用残差通路保留任务相关信息,实现了计算病理学中多模态诊断的可解释性与高性能。该方法在脑肿瘤数据集上验证了其有效性,但与我提供的关键词列表契合度较低。
Renchu Guan et al.
cs.AI
本文提出VISION模型,将graph few-shot learning重构为无需微调的sequence reasoning问题,通过context-aware network和dual-context fusion module整合局部拓扑与全局任务依赖,并引入unsupervised task generator利用未标注数据生成伪任务进行训练。该方法统一了unsupervised meta-learning与graph in-context learning,在多个benchmark上取得较好效果。
Alexander Mihalcea
cs.AI cs.LG
本文介绍了一个名为Psych LM的iOS应用,它通过本地运行的language model和检索增强架构,为心理辅导提供持久上下文支持。该工作主要关注工程实现而非理论创新,与关键词列表中的概念关联较弱。
Junlan Feng et al.
cs.AI
本文介绍了JT-Safe-V2,一个通过世界上下文数据增强预训练和安全后训练机制来提升大语言模型安全性的模型,并提出了Safe-MoMA框架以降低推理成本。该工作主要关注模型安全设计,与关键词中的code, spectral, Muon, attention等概念关联较弱。
Yuheng Jing et al.
cs.AI
本文构建了ICRL4AHT基准,基于Overcooked-V2评估了ICRL算法在Ad-Hoc Teamwork中的表现,发现算法在未见过的队友和布局下表现不佳,揭示了多智能体场景中上下文适应的局限性。
Yuyang Hu et al.
cs.AI
本文提出了一种名为SAM的独立框架,通过将交互历史压缩为紧凑的记忆线索并保留原始轨迹页面用于意图驱动的检索,来解决长程agent推理中的信息分散问题。该方法利用专家引导和监督学习优化记忆模块,在多个基准测试上取得了优于基线模型的表现。
Rongsheng Chen et al.
cs.AI cs.LG
本文提出SPACE框架,通过基于相对距离的pivot采样和双向Frechet表示,统一了对称与非对称车辆路径问题的节点嵌入与解码,实验在110个变体上验证了零样本泛化能力。
Yuhang Zhang et al.
cs.AI q-bio.BM
本文提出TIGER框架,利用protein-to-text生成模型从酶序列中提取文本语义知识,并通过Dynamic Gating Network和Structure-Shared Feature Projector实现酶与生化反应的双向检索,在多种分布下优于现有方法。
Yunhua Pei et al.
cs.AI cs.LG q-fin.PM
本文提出Market Regime Council (MRC),一种用于多agent LLM决策系统的动态信用分配方法,通过计算Shapley credits来在线调整agent权重,并在加密货币投资组合管理中取得了较好表现。该方法主要关注多agent协作与信用分配,与关键词中的agent有一定关联,但整体创新性有限。
Jianan Li et al.
cs.AI
本文提出了一种名为AE-CoT的自适应进化CoT越狱框架,通过将有害目标重写为温和提示并分解为推理片段,再结合片段级交叉和自适应变异率控制的进化搜索来生成越狱攻击。实验表明该方法在多个模型和数据集上优于现有越狱技术。
Jeffrey Qin et al.
cs.AI cs.CL cs.LG
本文通过Box Task实验,比较了人类儿童与基于LLM的agent在不确定性下的归纳推理行为。研究将任务形式化为基于Bayesian particle的program induction,发现儿童行为由主观证据可靠性和在线假设生成共同解释,而LLM agent虽能复现儿童对证据变化的响应模式,但表现出过度观察和过度服从指令的差异。
Lirong Che et al.
cs.AI
本文提出DemoEvolve方法,通过引入人类示范轨迹来引导agent的harness(外部执行结构)进化,以解决长时域随机环境中稀疏奖励导致的反馈问题。实验表明,该方法在Liar's Dice和Balatro任务中比自生成rollout的进化方法更稳定有效。
Ninglin Ou et al.
cs.AI eess.SY
本文提出了一种基于Soft Actor Critic (SAC)算法的排放感知强化学习策略,用于电动汽车充电调度,在EV2Gym平台上通过多目标奖励函数(惩罚碳排放、可再生能源削减和用户需求未满足)进行训练,并在五种可再生能源渗透率场景下与九种控制策略对比,实现了高达87%的碳排放减少。该工作主要聚焦于可持续能源与电网优化,与关键词中的agent概念有一定关联,但方法本身并非开创性,也未解决长期存在的理论问题。
Anton Antonov et al.
cs.AI cs.IR
本文提出了一种资源感知的生成流程,从自然语言描述中生成正式的BPMN 2.0协作图,通过引入包含组织(pool)和角色(lane)的中间语言,并利用message events表示跨组织依赖,同时使用布局例程自动处理空间排列。实验表明该方法在保持控制流质量的同时实现了良好的资源发现,但整体方法更偏向应用工程,与关键词列表中的概念关联较弱。
Seokil Ham et al.
cs.AI cs.CL cs.LG
本文针对大语言模型微调服务中的安全性问题,提出了一种Buffer-and-Reinforce框架,通过临时jailbreaking来缓冲有害更新并强化安全性。该方法利用BufferLoRA和ReinforceLoRA模块,在不增加额外安全数据的情况下提升了模型的安全性与实用性。
Weixian Waylon Li, Mengyu Wang, Tiejun Ma
cs.AI cs.CE cs.LG
本文提出FinCAD方法,通过推理时调整Context-Aware Decoding来抑制LLM对历史金融数据的记忆,从而缓解回测中的参数前瞻偏差。该方法在不重新训练模型的情况下,显著降低了样本内回测收益,同时保持了样本外预测性能。
Elias Stenhede et al.
cs.AI
本文研究了AI-ECG预测心力衰竭风险与超声心动图特征之间的关联,发现AI-ECG风险主要与global longitudinal strain等收缩功能指标相关,并在LVEF保留的患者中也能捕捉舒张功能异常。该工作侧重于临床验证而非方法创新,与关键词契合度较低。
Shubham Gupta, Nikhil Panwar, Partha Pratim Roy
cs.AI cs.LG
本文提出了HeartBeatAI框架,结合Squeeze-and-Excitation ResNet和多层浓度管道进行多标签ECG心律失常检测,通过MixStyle正则化和标签平滑缓解域偏移问题。实验表明其在源内条件下表现优异,但在跨机构场景下对罕见异常检测仍存在显著退化。
Andreas Opedal et al.
cs.AI cs.CL cs.LG
本文探索了将A*搜索算法应用于大语言模型的推理训练,通过监督微调和强化学习提升模型生成正确且高效推理步骤的能力,实验表明该方法在1B-3B参数规模的模型上效果显著。
Zhimin Lin et al.
cs.AI
本文提出Agent-as-Peer-Debriefer,一个用于定性数据分析(QDA)的多agent框架,通过引入同行汇报(peer debriefing)实践来改进LLM的编码质量。框架中,一个层次化编码agent生成代码和主题,然后三个peer-debriefing agent分别从理论驱动、数据驱动或应用视角对代码进行细化,实验表明该方法比单LLM基线更接近人类编码。
Gustavo, Angulo
cs.AI cs.CV cs.LG
本文基于lattice theory和mathematical morphology,为深度卷积网络(如CNN、ResNet、UNet)建立了严格的代数框架。主要发现是标准CNN流水线(线性卷积+ReLU+最大池化)是一个cross-lattice operator,其组合并非幂等,这解释了深度带来的表达能力。文章还识别并刻画了三种真正的幂等opening层设计,并统一了最大池化、步长卷积和Laplacian pyramid。
Junjie Zhao et al.
cs.AI cs.CL
本文提出了GlobalDentBench,一个多国牙科基准数据集,用于评估LLM在牙科临床推理中的表现,包含来自88个国家的8978个专家验证问题。评估发现LLM的推理能力随复杂度下降,且31.01%的临床建议存在安全风险。
Jialiang Yang et al.
cs.AI cs.CV cs.MM cs.SD
AVBench提出了一个针对人中心音视频生成的自动化评估基准,通过细粒度指标和偏好学习构建专用评估器,以连续概率评分替代传统离散判断,实现更准确的模型能力评估。
Simon Dennis et al.
cs.AI cs.SE
本文比较了两种在LLM部署中保留用户交互知识的方法:基于权重的知识整合(通过LoRA微调)与级联压缩(基于上下文窗口)。实验表明,知识整合方法在保留用户偏好和项目上下文方面显著优于级联压缩,但该工作主要聚焦于工程实践比较,而非提出开创性理论或解决长期存在的数学问题。
Ali Şenol, Garima Agrawal, Huan Liu
cs.AI cs.CL
本文提出了一个多维度行为框架来评估LLM的推理质量,包括正确性、一致性、鲁棒性、逻辑连贯性、效率和稳定性六个维度。实验表明,该框架能揭示仅靠准确率无法观察到的行为,例如逻辑连贯性与正确性正交,且不同权重下模型排名会发生反转。
Hao Guo et al.
cs.AI cs.LG
本文研究了mean cross-entropy在语言模型训练中可能失效的情况,发现median cross-entropy能更好地跟踪模型质量。通过Qwen2.5-1.5B SFT和TinyStories上的top-K蒸馏实验,作者指出median CE与任务性能的相关性更强,并建议在报告mean CE时补充一组百分位CE摘要作为低成本诊断工具。
Vassilis Lyberatos et al.
cs.AI cs.CL cs.SD
本文探索了基于感知的语音特征(如韵律、声音质量、语义连贯性等)在心理健康评估中的应用,使用统计分析和可解释机器学习方法(XGBoost结合SHAP和LIME)分析这些特征与抑郁、焦虑及ADHD症状之间的关系。该框架在多个数据集上验证了语音不规则性(如shimmer、jitter)与症状严重程度之间的稳定关联,但未涉及代码、上下文、谱分析或预训练等关键词相关的内容。
Minghao Lv et al.
cs.AI
本文提出了FACET框架,基于Mayer-Salovey-Caruso四分支能力模型评估大语言模型的情绪智力,发现其并非单一能力,而是在感知、认知和交互维度上碎片化,且当前RLHF过程可能优化了“随机共情”而非整合的情感推理。
Roberto Cruz, David Rey-Blanco
cs.AI cs.LG
本文提出了MDIA,一个基于多agent架构的临床推理系统,通过7节点专业路由图在HealthBench基准上取得了性能提升,并指出系统架构设计(如多轮上下文保持、安全门控等)比提示工程对性能贡献更大。
Atsushi Suzuki, Jing Wang
cs.AI cs.CL cs.CY cs.IT
本文通过数学证明提出了一个关于AI可解释性的基本四难困境,指出AI及其解释无法同时满足环境复杂性、性能优越性、解释可解释性和解释完全忠实性这四个条件,从而揭示了完全忠实解释的理论局限性。
Christopher Da Silva
cs.AI
本文提出了Hylos系统架构,用于在3D场景中维护可操作性状态,并通过SpatialTransaction机制管理空间变更的提交与验证。论文主要作为系统/立场预印本,通过因果修复案例展示了该方法如何追踪依赖关系并应用验证过的变更。
Feng Chen et al.
cs.AI cs.CL
本文提出了一种基于多智能体LLM的自动化流水线,用于从自然音频日记中检测和分类与妄想相关的内容。通过集成多个基础模型并比较不同的裁决框架,发现多数投票机制在检测和分类任务上表现稳健。
Keito Inoshita, Takato Ueno
cs.AI
本文提出了一种结合cyclical SG-MCMC和soft-label学习的方法,用于主观NLP任务中的不确定性分解,在GoEmotions基准上优于Monte Carlo Dropout和Deep Ensemble。该方法通过训练线性头在冻结的RoBERTa上,实现了对注释者分布的多轴评估。
Zhuocheng Shang, Ahmed Eldawy
cs.AI
GRAIL是一个将Python地理空间工作流转换为Spark程序的智能翻译系统,它通过结构化文档和API别名使Scala库LLM-ready,并利用LangGraph管道分解代码生成过程。该系统主要解决卫星数据分析的可扩展性问题,与关键词中的agent概念有一定关联。
Yubo Li et al.
cs.AI
本文提出PANDO框架,通过在线技能蒸馏和结构化技能库来提升多模态web agent的效率,在VisualWebArena任务上以更少的token消耗取得了更高的成功率。该方法主要关注agent的重复动作、隐藏发现成本和缓存复用等效率问题,并引入了新的轨迹级效率指标。
Zhihao Dou et al.
cs.AI
本文提出CoRe-Code框架,采用Planner-Coder范式和基于GRPO的协作感知强化学习,以增强多agent代码生成中的角色专业化和协调性。实验表明该方法在代码生成准确性和效率上优于现有基线。
Chenyou Guo et al.
cs.AI cs.CL
本文通过参数高效微调(LoRA)方法,基于定制指令数据集构建了地质领域专用大语言模型Geo-Expert,并在新基准Geo-Eval上验证了其在地质推理任务中优于通用大模型的表现。该工作为科学领域LLM的民主化提供了可复现方案,但与关键词中的code、spectral、Muon、agent、attention等概念无直接关联。
Yuanhong Wang et al.
cs.AI math.CO
本文提出Cofola语言,通过将组合计数问题编码为加权一阶模型计数(WFOMC)实例来解决。该方法使用类型化声明式语言和对称性保持编码,但与我提供的关键词列表关联度较低。
Xuanting Xie et al.
cs.AI cs.CL cs.NI
本文提出KCoT框架,将Chain-of-Thought推理与图表示学习统一,通过证明Transformer block与\(k\)-means算法的数学对应关系,将推理解释为迭代的分配与更新步骤。该方法在文本属性图上提升了推理能力,但与我提供的关键词(如code, spectral, Muon等)关联较弱。
Xiaoyue Lu et al.
cs.AI cs.CR cs.SE
本文提出POLARIS框架,将非结构化安全策略转化为一阶逻辑表示并构建语义策略图,通过系统探索该图生成可执行的自然语言测试查询,以实现对LLM的覆盖驱动且可复现的安全性测试。该方法在策略覆盖率和攻击成功次数上优于现有基线,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Mathieu d'Aquin
cs.AI
本文介绍了一个名为TaBIIC2的工具,它利用加权自组织映射从表格数据中交互式地构建本体分类法,旨在平衡手动分析与纯自动方法。该工具通过识别聚类及其内涵定义来辅助用户,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Lei Ding et al.
cs.AI
本文提出ProActor框架,用于对话式任务调度中的主动智能体。它通过自动化标注生成机会时间窗口,并利用基于GRPO的强化学习优化时机质量与动作对齐,实验表明在保持动作一致性的同时提升了主动时机。
Hsin-Min Lu et al.
cs.AI cs.CE
本文提出NORA方法,通过任务感知的实例加权和邻域先验调整KNN过滤,解决金融数值实体属性标注中标签噪声问题,并在大规模基准上验证了其有效性。
Filip Cano, Thomas A. Henzinger, Konstantin Kueffner
cs.AI
本文提出了一种名为“energy shields”的新型运行时公平性控制器,通过物理启发的能量函数对决策序列进行概率性干预,以平滑地确保公平性。该方法首次同时提供了短期安全性和长期活性保证,并给出了最小干预能量盾的合成过程。
Chengrui Li et al.
cs.AI
本文提出了一种基于supervisor-specialist多agent架构的工业资产运维多轮对话系统,通过结构化artifact复用、动态重规划和并行工具执行来缓解工具调用瓶颈。实验表明该系统在响应质量、规划有效性和任务完成率上优于基线方法。
Yuanzhi Xu et al.
cs.AI cs.CV cs.LG
本文提出了一种无需训练的推理策略,通过区域感知的注意力重校准机制来缓解视觉语言模型中的对象幻觉问题,该方法利用跨注意力头的统计中点建立稳定锚点,并基于区域间的不一致性动态调整干预预算。
Sijin Yu et al.
cs.AI cs.CV
本文提出NeurIPS框架,通过选择性ROI球形分词器(SRST)和结构引导的混合专家模型(SG-MoE)将解剖变异转化为归纳先验,提升了基于表面的fMRI解码性能。该方法在自然场景数据集上达到新最优,但未涉及关键词中的code、spectral、Muon、pretrain、agent或attention等概念。
Abdurrahim Yilmaz et al.
cs.AI cs.CL
本文评估了本地部署的隐私保护小型语言模型(SLM)在慢性皮肤病(如天疱疮)长期随访记录中检索结构化临床特征并生成纵向摘要的能力,实验表明该模型在特征检索任务中达到了82.25%的平均准确率,且生成的摘要获得了皮肤科医生的较高评价。
Tianxiang Zhan et al.
cs.AI
本文提出了AION,一个用于时间序列任务的框架,将任务形式化为包含任务文件、工作区和验证接口的三元组,并设计了基于agent、技能、规则等六个组件的系统。通过Kaggle案例展示了该框架相比直接构建模式能产生更详细的过程追踪和审查步骤,但方法本身在时间序列领域并非开创性突破,且与关键词关联较弱。
Chengwei Li, Junlin Liu, Yang Gao
cs.AI
本文提出ACE-MAPPO框架,将evolutionary algorithm与multi-agent reinforcement learning结合,通过genetic soft update和adversarial curriculum learning机制,解决了多机协同空战中的探索效率与策略泛化问题。实验表明该方法在训练稳定性和胜率上优于baseline算法。
Hadi Hajieghrary et al.
cs.AI cs.LG math.OC
本文提出RECTOR框架,通过可微代理和场景条件机制对候选轨迹进行分层规则排序(Safety > Legal > Road > Comfort),并采用确定性\(\varepsilon\)-lexicographic规则选择轨迹,无需重新训练预测器。实验表明该方法在Waymo数据集上相比纯置信度选择减少了违规率,但方法本身属于工程性改进,缺乏理论或结构上的开创性。
João Sedoc, Baotong Zhang, Dean Foster
cs.AI cs.CL
本文提出了一种基于交互式证明理论的推理时协议prover-verifier deliberation (PVD),用于选择性预测。该方法通过prover和verifier之间的对话生成答案和置信度判定,实验表明其能有效分离高置信度与低置信度答案,但方法本身与关键词列表中的概念关联较弱。
Dao Tran et al.
cs.AI cs.LG
本文提出了一种基于随机回溯的测试时扩展方法,通过维护一个历史前缀的持久池来替代仅扩展当前前沿的策略,并引入子池选择和幂回溯顺序蒙特卡洛两种机制以提升效率。实验表明该方法在数学推理基准上能以更少的token数达到与强基线相当的准确率。
Ciarán Walsh, Emilio Barkett
cs.AI cs.CE
本文通过realization effect(行为经济学中纸面与实际盈亏对风险偏好的差异效应)测试了LLM的行为模拟能力。研究发现,虽然模型在prompt层面表现出条件敏感性,且Gemma模型的residual stream在第18层存在可线性解码的realization-status信号,但通过activation steering进行因果控制时无法可靠改变下游风险选择,表明latent readout成功并不等同于模型在决策中实际依赖该representation。
Guohong Liu et al.
cs.AI
本文提出了SimuWoB,一个用于移动GUI agent的完全合成基准测试,包含120个多样化难度的任务,通过生成高保真虚拟环境和自动奖励机制来评估agent性能。实验表明当前agent在复杂场景下成功率较低,但该工作主要聚焦于benchmark构建而非方法创新。
Jaime Rafael Imperial, Hao Zheng
cs.AI
SpecAlign提出了一种用于SystemVerilog Assertion (SVA)生成的语义对齐框架,通过基于entailment的分类和自一致性投票机制来评估和优化LLM生成的断言与自然语言规范之间的语义一致性,无需依赖golden RTL。该方法主要关注断言生成的语义验证,而非代码或谱方法等关键词领域。
Yi Li et al.
cs.AI
本文提出了一种名为DarkForest的多智能体LLM协调框架,通过保持智能体独立推理并仅聚合结构化结果来减少通信开销,在六个推理基准上提升了准确率并降低了token消耗。该方法主要关注多智能体系统的效率优化,与关键词中的agent有一定关联,但缺乏开创性或对长期问题的解决。
Andrew Corbett et al.
cs.AI
本文提出了一种引导随机探索方法,通过向递归模型的推理轨迹添加随机扰动来提升性能,并引入了三种无标签诊断指标来预测改进效果。该方法在Sudoku-Extreme任务上将精确求解准确率从85.9%提升至98.0%,但未涉及关键词中的核心概念。
Minwei Kong et al.
cs.AI
本文提出了FrontierOR基准,用于评估LLMs在真实大规模优化问题中设计高效算法的能力。该基准包含180个来自顶级运筹学期刊的任务,测试发现前沿模型在从可执行公式转向高效算法方面仍存在显著困难。
Leshu Li et al.
cs.AI
本文提出了LipoAgent,一个基于多agent的LLM框架,用于脂质纳米颗粒的安全性感知设计。该方法通过条件预测目标将毒性作为效率预测的前提,并利用多agent验证提升可靠性,在mRNA转染效率预测上取得了平均32%的相对提升。
Niklas Weller, Emilio Barkett
cs.AI
本文探讨了LLM与组织决策的对齐问题,提出了一种基于决策策略捕获的方法来衡量过程对齐(即模型是否像组织一样加权信息),而非仅关注结果对齐。通过在欧洲人权公约第6条和德国消费信贷决策上的实验,发现过程对齐与输出准确性的关系在不同领域存在显著差异,表明在争议性领域中高过程对齐并非总是可实现或可取的。
Michael Hardy et al.
cs.AI cs.CY stat.AP
本文引入Confirmatory Factor Analysis (CFA)和Generalizability Theory框架,对Open LLM Leaderboard中4000多个模型的排名方差进行分解,揭示了基准测试间的局部依赖性和测量噪声来源,并指出潜在通用因子斜率比显式评分“缩放律”斜率更稳定。该工作主要关注AI基准生态系统的测量学分析,与关键词中的code、spectral、Muon、pretrain、agent、attention等主题无直接关联。
Hongbo Jin et al.
cs.AI
本文指出LLMs在静态知识推理上表现优异,但在动态上下文学习(context learning)方面存在显著不足,并基于CL-Bench评估揭示了这一能力差距。
Ashwath Vaithinathan Aravindan, Mayank Kejriwal
cs.AI cs.CL
本文提出了一种名为Second Guess的轻量级无参数提示技术,用于小型语言模型(SLM)在多选题问答(MCQA)中的不确定性检测。该方法通过观察模型在加入“我不知道”选项后答案的稳定性来判断其是否真正知道答案,实验表明该方法在多个基准上取得了风险改进。
Yishu Wei et al.
cs.AI
本文提出LLMSurvival框架,通过将time-to-event预测转化为pairwise ranking任务,使LLM能够直接处理带删失的生存分析数据。实验表明该方法在ICU死亡率和骨折风险预测任务上优于传统Cox模型和深度生存模型。
Yanzhou Li et al.
cs.AI
本文提出CODESKILL框架,利用LLM将coding agent的轨迹提取为多粒度procedural skills,并通过强化学习训练skill bank管理策略。实验表明该方法在多个benchmark上提升了任务完成率,但方法本身属于工程性改进,缺乏理论或方法上的开创性突破。
Yuntao Wang et al.
cs.AI
本文综述了OpenClaw agents(一种基于大语言模型的开源自主agent框架)的安全基础、攻击与防御,分析了其架构特性带来的攻击面扩大问题,并分类讨论了技能投毒、认知操纵等威胁及现有防御机制。
Ziqing Yu et al.
cs.AI cs.LG
本文提出了ECGCLIP,一个基于信号-语言对比学习的框架,通过将ECG波形与专家诊断报告对齐,在大量数据上预训练后,在89个下游任务(包括常见心律失常和罕见心脏病)上提升了诊断性能。该方法展示了大规模对比预训练在扩展常规心电图解读范围方面的潜力,但与关键词列表中的概念关联较弱。
Natalia Andrienko et al.
cs.AI cs.HC
本文提出了一种名为ATWL的形式化语言,用于表示、比较和重用可视化分析工作流。该语言基于八种artifact类型和标准化意图的模块化本体,并通过与LLM agent的交互从研究论文中提取工作流,构建了一个包含17个工作流的库。
Ankur Samanta et al.
cs.AI
本文提出两种基于重置的credit assignment方法(RRPO和SRPO),用于改进语言模型在多步推理中的奖励分配。SRPO通过模型自定位错误步骤并重置采样,在多个推理基准上优于标准GRPO方法,但方法本身与关键词中的code、spectral、Muon等概念无直接关联。
Rahul Vishwakarma, Shushant Kumar, Ratnesh Jamidar
cs.AI
本文通过构建一个受控的two-document RAG testbed,研究了AI answer engines中两个检索候选源被优先引用的影响因素。实验发现topical relevance和list position是驱动被首先引用的最大因素,而price information和recent timestamp也有帮助。该工作主要关注搜索引擎优化而非数学理论创新。
Yang Luo et al.
cs.AI
本文提出StructBreak框架,用于量化多模态大语言模型(MLLMs)在结构推理中出现的“结构认知过载”(SCO)现象。该框架在黑盒设置下通过高阶认知超载攻击触发模型生成有害内容,实验表明该方法能有效绕过安全过滤机制。
Yeonjun In et al.
cs.AI
本文提出了PerMemBench基准,用于评估基于LLM的个性化记忆系统,并研究了会话级存储门控框架,以解决不同用户间记忆策略的个性化问题。
Ruiwen Gu et al.
cs.AI
本文提出ADMFormer,一种用于交通预测的自适应分解Transformer。它通过时间-节点自适应门控机制将交通信号分解为稳定规律与残差波动,并设计双分支时间模块分别捕获全局周期依赖和高频不规则变化,同时引入时变掩码空间注意力来稀疏化动态空间交互。
Ruiwen Gu et al.
cs.AI
本文提出PHGNet框架,通过prototype-guided hypergraph construction捕捉交通预测中节点间的高阶动态交互,并引入global-local node representation和Temporal Query Attention提升预测精度。该方法在多个真实数据集上优于现有模型,但未涉及code、spectral或Muon等关键词。
Bo Lv, Jingbo Sun
cs.AI
本文提出DecoR框架,将LLM路由任务重新定义为基于历史日志中相似查询的匹配过程,并引入查询能力解构方法以提升匹配准确性。实验表明该方法在保持高准确率的同时降低了推理成本。
Xiaoyang Fan et al.
cs.AI
本文提出一个神经符号推理框架,将LLM与fuzzy logic结合,用于可解释的疾病诊断。该方法通过两阶段推理(归纳符号泛化与逻辑编程验证)生成可审计的诊断路径,在公开基准上达到与先进LLM相当的性能。
Xu Shen et al.
cs.AI
本文提出CIE-Scorer框架,通过追踪模型内部计算与外部推理轨迹的差异来检测Chain-of-Thought的不忠实性,利用句子级circuit构建和Fused Gromov--Wasserstein距离度量差异,在多个数据集上取得最优性能。
Bowen Wang et al.
cs.AI cs.LG
本文提出了CUA-Gym,一个用于生成计算机使用agent(CUA)可验证强化学习训练数据的可扩展pipeline,通过协同生成任务指令、环境状态和奖励函数,并构建了包含32,112个训练样本的数据集和110个模拟环境,实验表明在该数据集上训练的模型在OSWorld-Verified和WebArena基准上取得了优于现有开源CUA的性能。
Hao-Hsuan Chen
cs.AI cs.LG q-fin.RM
本文提出Actuarial Action Interface (AAI)框架,通过确定性运行时合约对自主AI Agent的副作用行为进行定价与执行控制,并引入Authority Frontier评估不同储备资本水平下的自主权限释放量。该框架在多个Agent环境(如数据库操作、客服退款)中验证了其跨域风险控制能力,但方法更偏向工程实现而非理论开创性。
Jingwei Sun et al.
cs.AI
本文提出了AgentHijack基准,用于评估基于MLLM的计算机使用agent在常见环境干扰(如弹窗、分辨率变化)下的鲁棒性,并发现即使微小干扰也会导致性能显著下降。随后,作者提出了AgentHijack-Agent框架,通过增强动作生成器的grounding能力并引入观察者模块来提升鲁棒性。
João Alves Ribeiro et al.
cs.AI cs.CE cs.LG
FLOATBench是一个用于浮动式海上风力发电机塔筒疲劳预测的表格基准数据集,包含从高保真仿真中提取的疲劳损伤标签。该工作为工程代理模型提供了评估协议,但与关键词列表中的code, context, spectral, Muon, pretrain, agent, attention等概念无直接关联。
Aydin Homay
cs.AI
本文聚焦于公理化设计中的问题制定阶段,澄清了第一级功能需求的定义与常见误区,并基于Nam P. Suh的著作提供实践指导。文章还简要讨论了大型语言模型在该阶段的作用与局限。
Ngoc Luyen Le, Marie-Hélène Abel, Bertrand Laforge
cs.AI
本文研究了LMS日志中早期预警模型的时间泄漏问题,提出了LEAP协议来防止预测时使用未来信息,并在OULAD数据集上验证了不同模型在时间截断下的性能表现。
Qiming Ye et al.
cs.AI cs.MA
本文对EvoMap这一agent-to-agent协作网络进行了大规模实证研究,分析了其信用经济、评分算法(GDI)和验证机制中的缺陷,发现超过98%的资产未被复用且评分易被操纵。研究揭示了当前去中心化agent协作网络在可扩展性与可验证性之间的权衡。
Aritra Dutta, Somak Aditya
cs.AI cs.CL
本文提出了一种名为MuCRASP的结构化剪枝框架,旨在保留视觉语言模型(VLM)中chain-of-thought (CoT)推理的准确性。该方法通过识别生成轨迹中的关键pivot tokens并考虑跨模态激活分布差异,在全局参数预算下实现了对推理关键组件的剪枝。
Haiyang You et al.
cs.AI
本文提出一个将虚拟水影响内化到电力系统调度的可微优化框架,通过深度学习架构实现数据中心调度的端到端协调策略学习,并在IEEE测试系统上验证了收敛性和约3-5%的淡水取水量减少。该工作主要关注数据中心的水-电-计算协同调度,与关键词中的code、spectral、Muon、pretrain、agent、attention等概念无直接关联。
Aoxi Liu et al.
cs.AI
本文针对扩散大语言模型(D-LLM)的安全监控问题,提出了一种名为\(D^2\)-Monitor的双层安全监控方法。该方法利用轻量级探针持续监控模型生成轨迹中的“安全犹豫”信号,并在犹豫程度超过阈值时激活更强大的探针,从而在测试时动态分配监控资源。实验表明该方法在多个数据集上取得了最佳的性能与效率权衡。
Liew Keong Han
cs.AI
本文系统分析了ARC-AGI-3基准测试中所有25个公开游戏,发现它们均可通过非智能策略(如单步盲操作、一次探测动作等)达到,揭示了该基准无法区分智能探索与简单启发式方法。作者提出了AERA(自适应认知推理agent),采用EXPLORE/VERIFY/PLAN三阶段框架,在Qwen2.5-0.5B模型上实现了RHAE=0.2116,并通过Speed--Depth权衡框架形式化其性能。
Jiabei Xiao et al.
cs.AI
本文提出了LECTOR框架,通过构建逻辑推理图并联合优化图结构与引言生成质量,解决了科学论文引言生成中的逻辑一致性与引用可靠性问题。该方法在Nature Communications数据集上取得了图质量、引用质量和论文一致性的提升。
Weizhi Fei et al.
cs.AI
本文提出NS3框架,通过预算约束的神经符号搜索方法,将多自由变量复杂查询的联合排序问题逐步简化为单变量子查询,在不枚举整个实体集的情况下近似求解。该方法在标准KG数据集上提升了联合排序性能,并扩展了现有基准至k=3。
Junlin Yang et al.
cs.AI cs.CL
本文提出了CausaLab,一个用于评估LLM agent在交互式因果发现中表现的可扩展环境。该环境通过让agent在合成实验室中操作并预测结果,来区分其预测成功与真正的因果理解,实验表明当前agent在恢复因果结构方面存在显著局限。
Junyuan Liu et al.
cs.AI cs.LG
本文提出了CityRep,一个用于评估城市表示学习的统一benchmark,包含8个城市和8个任务,使用基于空间block的划分来避免空间泄漏。实验表明随机划分会高估性能并改变模型排名,强调了跨城市和任务泛化评估的必要性。
Jinsheng Guo et al.
cs.AI
本文提出L2IR框架,利用LLM从用户行为和可疑连接中揭示潜在意图,以增强图欺诈检测的鲁棒性。该方法通过提取意图感知表示并区分支持性与误导性连接,结合自适应自训练缓解标注稀缺问题,在真实数据集上提升了GNN检测器的性能。
James Lucassen, Adam Kaufman
cs.AI
本文从AI控制视角研究了retrying(重试)与resampling(重采样)两种策略在coding scaffold(如Claude Code)中的安全效果。实验表明,retrying会泄露可被利用的monitor rationale信息,而resampling在BashArena环境中通过每步采样5次并基于最大suspicion score审计,可将安全性从61%提升至71%。
Haolang Zhao et al.
cs.AI
本文提出了VeriTrace框架,通过显式的认知图(cognitive graph)机制来调控深度研究agent的中间推理过程,以解决信息污染和错误传播问题。实验表明该方法在DeepResearch Bench等基准上取得了改进。
Yusong Lin et al.
cs.AI
本文提出了Claw-Anything基准,通过扩展agent的context维度(包括长期活动历史、后端服务依赖以及多设备GUI/CLI交互)来评估始终在线的个人助手。实验表明,现有模型在此设定下表现不佳,揭示了当前agent能力与始终在线助手需求之间的差距。
Dingbang Wu et al.
cs.AI cs.CL
MobileGym是一个轻量级、可验证的移动GUI agent仿真平台,通过结构化JSON状态实现确定性评判,并支持低成本并行rollout以扩展在线RL训练。该平台在模拟环境中训练的agent在真实设备上能保留大部分性能增益。

cs.IR

Andrea Morandi
cs.IR cs.AI cs.CL
本文提出了一种名为Spectral Retrieval的即插即用重排序方法,通过在token embeddings上应用多尺度sinc卷积,在per-token MaxSim和mean-pooling检索之间进行插值。该方法利用late-interaction索引中的per-token embeddings,通过不同尺度的归一化sinc kernel进行卷积,使得在\(L=1\)时退化为per-token MaxSim,随着\(L\)增大逐渐逼近mean-pooling,从而在位置和尺度上取最大cosine值,得到一个信息量不低于两种端点方法的分数。实验表明,在合成基准和LIMIT-small数据集上,该方法显著提升了Recall@10和MRR等指标,且无需重新训练,特别适合多agent LLM系统中需要更精确、角色特定检索窗口的场景。
Yanglong Song et al.
cs.IR
本文提出Query-Conditioned Generative Search (QGS)方法,将搜索行为中的(query, item)编码为pair token,通过query-conditioned next-item objective将预测目标从噪声边缘分布\(P(item_{t+1}|context_{\le t})\)转化为干净条件分布\(P(item_{t+1}|context_{\le t}, query_{t+1})\),直接解决了query切换导致的语义不连续问题。为降低长序列编码的二次复杂度,引入Linear HSTU encoder,用causal linear recurrence替代full attention,将每层复杂度从\(O(L^2)\)降至\(O(L)\)且不损失排序质量。此外,提出HFG-Attention将传统手工特征(如文本匹配分数、统计信号)组织成语义组并通过专用attention块融合,桥接了稀疏工程信号与稠密序列表示。该方法已在商业搜索引擎Quark Search的排序模块中部署,在线A/B测试显示CTR提升0.62%、Click-Search Ratio提升0.38%、PV Duration提升3.55%。
Haochuan Kevin Wang
cs.IR cs.AI econ.GN
本文研究了LLM工具注册表中的信息设计问题,通过大量实验发现法律上的夸大宣传(puffery)能完全捕获优化效果,而虚假声明不增加额外偏差。作者提出将面向选择的描述与面向营销的描述分离,并引入Agent Attention Quality Score来区分能力与文案。
Geon Lee et al.
cs.IR
本文分析了graph collaborative filtering (GCF)中contrastive learning (CL)与预测机制的交互,指出Sampled Softmax (SSM) loss在neighbor pair权重更新上的局限性,并提出了NT-SSM作为改进的CL objective。实验表明该方法在多个数据集上优于SSM。
Xiaoyu Chen et al.
cs.IR
本文提出了Memento框架,通过将用户历史行为视为文档库并利用Maximal Marginal Relevance进行检索,以解决长历史数据建模中的注意力稀释和系统效率问题。该工作主要关注推荐系统中的个性化检索增强,与关键词中的attention有一定关联,但方法本身并非开创性突破。
Sugam Panthi, Rabab Abdelfattah
cs.IR
本文揭示了对话记忆系统评估中评分目标选择(Raw, Source, Canonical)对基准结论的显著影响,通过TIAP审计方法证明切换评分目标会改变nDCG结果和系统排名,强调需明确报告评分目标。
Özkan Canay
cs.IR cs.AI cs.LG
本文提出CF-RL-TOPSIS模型,通过融合协同过滤、强化学习风格的bandit和熵权TOPSIS分支来解决技能感知的人才推荐问题。实验表明该模型在特定数据集上优于基线,但在持久性主导的场景中表现有限。
Shichao Ma
cs.IR econ.TH
本文构建了一个贝叶斯理性用户模型,分析其在搜索系统中按序检查结果列表时的最优停止策略,并证明该策略是一个基于当前最佳发现与后验均值之差的阈值规则。该模型通过一维Markov链简化了检查深度的分布计算,并揭示了用户停止的三种潜在机制。
Juli Bakagianni, Symeon Papadopoulos
cs.IR
本文针对CheckThat! 2026任务中的多语言科学文献检索问题,提出了基于cluster-aware的hard-negative mining策略,通过利用检索候选池的语义结构来构建更有效的训练负样本,并研究了多种基于LLM的证据选择方法。实验表明,不同的hard-negative结构会诱导不同的检索行为,最终系统在37个提交中排名第6。
Amirhossein Yousefiramandi, Ciaran Cooney
cs.IR cs.AI
本文对22种patent embedding模型在检索、分类和聚类任务上进行了基准测试,发现微调效果具有任务依赖性,且跨领域泛化能力有限。研究还表明,混合稀疏-稠密融合方法对性能提升有限,而多视图摘要-权利要求对齐能改善检索效果。
Yosef Worku Alemneh, Kidist Amde Mekonnen, Maarten de Rijke
cs.IR cs.CL cs.LG
本文以阿姆哈拉语为案例,通过对比零样本多语言检索器、微调多语言检索器和单语言检索器在密集、后期交互、学习稀疏和交叉编码器范式下的表现,发现零样本多语言检索对形态丰富的低资源语言效果不佳,其性能显著低于单语言检索器。研究强调了在LLM时代,对于低资源语言,检索必须基于语言内部进行评估和适配,而非依赖聚合的多语言基准。
Vyzantinos Repantis et al.
cs.IR cs.AI cs.LG
本文提出将Bits-over-Random (BoR)作为一种机会校正指标,用于评估LLM agent工具检索中候选工具列表的合适长度,并基于该指标设计了一个简单的RL agent来动态调整每轮查询的列表深度。实验表明,该方法能在保持较高覆盖率的同时显著减少展示的工具数量,并提升LLM在较短自适应列表中的工具选择准确率。
Ali Noshad, Zishan Zheng, Yinjun Wu
cs.IR cs.DB cs.LG
本文提出MVR-cache,一种通过Multi-Vector Retrieval和可学习的prompt分割模型来提升语义缓存命中率的方法,并利用强化学习优化非可微目标。该方法在实验中相比现有技术提升了缓存命中率,但未涉及关键词中的核心概念。
Jianrui Zhang et al.
cs.IR cs.AI cs.CV
本文提出SMART框架,通过利用标准单向量模型在对比训练中隐式塑造的隐藏状态几何结构,在推理时应用late-interaction机制,无需额外训练即可提升多模态检索性能。该方法可作为即插即用升级,并支持轻量级后训练进一步优化。
Moyu Zhang et al.
cs.IR cs.LG
本文提出HeteGenCTR方法,通过可学习的每字段难度参数与去噪网络联合训练,解决生成式CTR预测中不同特征字段重建难度不均导致的梯度分配失衡问题。该方法包含自平衡损失和难度引导注意力机制,在多个基准和在线测试中取得改进。
Jinze Wang et al.
cs.IR
本文提出Meta-Modal Agent (MMA),一种基于大语言模型的候选池重排序器,将多模态推荐中的模态缺失问题建模为序列化证据路由问题,并通过平衡缺失任务强化学习训练。实验表明,MMA在冷启动场景下优于现有方法,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Aojie Yuan, Haiyue Zhang, Shahin Nazarian
cs.IR cs.CL cs.DB
AgentIR提出了一种面向长期对话记忆的工作负载自适应级联检索框架,通过动态选择融合策略(BM25、Dense、RRF等)和置信度触发的级联路由(基于BM25 top-k间隔决定是否跳过密集通道),在保持检索质量的同时显著降低延迟。系统还包含时间分区索引结构,使查询延迟与语料库规模呈对数关系,并在多个基准测试中实现了比传统引擎(如Pyserini)更快的速度。
Georgios Arampatzis, Avi Arampatzis
cs.IR
本文研究了多语言幽默感知信息检索,使用XLM-RoBERTa模型进行dense retrieval和re-ranking,在CLEF 2025 JOKER任务上评估了英语和葡萄牙语的幽默检索性能。实验发现葡萄牙语表现较好,而英语表现较差,表明通用Transformer模型在捕捉幽默特定语义方面存在局限性。
Alberto Díaz-Álvarez et al.
cs.IR cs.AI cs.CY cs.LG
本文提出RankAid,一种用于媒体推荐的重新排序方法,通过惩罚有害内容并提升治疗性内容来打破自杀倾向用户的回音室效应,在MovieLens 1M数据集上验证了其安全性,但方法本身不涉及code、spectral或Muon等关键词。
Qian Zhang et al.
cs.IR
本文指出在基于Semantic-ID的生成式推荐中,由于tokenizer将语义相似但协同过滤上不同的item压缩到相同code序列,导致SID-level评估指标(如Hit@10)被高估(最高达103.36%),并提出了碰撞感知的item-level指标及后处理方法来修正这一偏差。
Hengjun Jiang et al.
cs.IR
本文提出了RAG-Match,一个三阶段框架,通过知识增强预训练、层次化推理对齐和偏好校准来改进搜索中的语义相关性判断。实验表明该方法在真实搜索相关性基准上优于强LLM基线,但未涉及code, context, spectral, Muon, agent, attention等关键词。
Yuan Wang et al.
cs.IR
本文针对序列CTR预测中目标与用户行为序列的交互粒度问题,提出了一种名为LENS的分阶段设计方法,包含Target-Conditioned Query Gate (TCQG)和Target-Conditioned Position Bias (TCPB)两个模块,并引入Query-Specific Position Bias (QueryPos)作为静态位置参考。实验表明,该设计在多个backbone和数据集上取得了正向收益,并揭示了密度依赖的条件规则。
Likang Wu et al.
cs.IR
本文提出GCIB框架,通过Graph Information Bottleneck (GIB)去噪辅助行为图,并利用跨行为Graph Contrastive Learning (GCL)增强目标行为表示,以解决多行为推荐中的噪声和稀疏性问题。实验表明该方法优于现有基线。
Yaqian Zhang et al.
cs.IR
本文提出SIREN框架,通过多粒度语义交互(包括基于多模态相似性的软检索和基于Semantic ID的硬检索)来统一多模态特征与协同特征,用于工业推荐系统中的终身用户兴趣建模。实验表明其在微信广告场景中取得了在线GMV提升。
Chaotian Song et al.
cs.IR cs.AI cs.LG
本文提出DeGRe,一种用于推荐系统中重排序阶段的生成式框架,通过密集监督信号(dense supervision)来桥接离线探索与在线效率。该方法利用Lookahead Evaluator在离线阶段挖掘高价值序列,并将步骤级价值估计蒸馏到轻量级在线生成器中,以提升推荐序列的整体效用。
Seongtae Hong et al.
cs.IR
SemBridge提出了一种名为SemBridge的embedding初始化方法,用于解决sparse encoders在跨语言迁移中的结构限制。该方法利用multilingual dense embeddings作为桥梁,在源语言和目标语言词汇间建立语义对齐,从而提升零样本检索性能。

cs.CL

Yihao Hu et al.
cs.CL
本文提出SEAL框架,针对LLM agent在交互式工具使用场景中存在的"agent-environment misalignment"问题(即agent能力变化时,提供监督的环境却保持静态),实现了agent策略与学习环境的协同演化。SEAL通过收集on-policy轨迹并诊断失败回合,生成turn-level failure labels,同时用于环境侧调整(暴露更清晰的工具affordance cues和约束信息)和策略侧优化(基于诊断的advantage reweighting)。实验表明,仅用400个训练样本,SEAL在三个backbone上取得+8.25至+26.25的平均分提升,并展现出良好的out-of-distribution迁移能力,为agent的鲁棒自演化提供了新范式。
Peisong Wang et al.
cs.CL
CP-Agent提出了一种基于校准风险控制的反馈驱动competitive programming(竞赛编程)agent框架。本文将反馈驱动的求解过程建模为一个calibrated stopped process(校准停止过程),并识别出三个关键量:false-admission risk(误接受风险)、program-level evidence against bad programs(针对不良程序的程序级证据)以及active-state success hazard(活跃状态成功风险)。通过预声明的有限控制器清单下的held-out trace calibration(保留轨迹校准)与选择,该方法给出了一个结构化的certificate(证书),该证书在误接受发生前为干净的成功概率提供了下界。CP-Agent实例化了针对这些量的机制,包括Dual-Granularity Verification(双粒度验证)、Test Augmentation(测试增强)和Experience-Driven Self-Evolving(经验驱动自演化),在不更新任何参数的情况下,在LiveCodeBench Pro上将Pass@1从25.8%提升至48.5%,并在ICPC-Eval上提升了Refine@5达11.0%。
Yunao Zheng et al.
cs.CL
本文提出Lngram,一种在latent space中工作的conditional memory模块。它直接从hidden states中学习discrete symbols,并基于这些symbols执行N-gram lookup,从而解耦了retrieval与backbone的计算,消除了对tokenizer IDs的依赖。实验表明,Lngram在long-context language modeling中持续降低perplexity,并能有效注入domain knowledge,其joint training策略甚至超越了full fine-tuning。该方法在vision-language和vision-language-action任务上也取得了整体提升,并通过LogitLens和CKA分析揭示了其能更早地使prediction-relevant信息涌现,增加了effective depth。
Tianda Sun, Dimitar Kazakov
cs.CL
本文提出了一种线性探针方法,从LLM agent的residual stream中解码tool-call dependency graph(工具调用依赖图)。通过counterfactual对比实验(value corruption与structural perturbation),证明该信号追踪的是抽象拓扑结构而非标识符值,且该表示在多层间传播而非被动读取。这是首个对LLM agent运行时tool-call依赖图的结构探针研究,与关键词“agent”高度契合。
Xinyi Mou et al.
cs.CL
本文提出HyLaT,一种混合潜在-文本通信协议,用于解决大语言模型多智能体系统中的通信三难困境(text-based方法可解释但冗长,latent-space方法高效但不透明且仅支持单向工作流)。该方法通过latent channel传输详细的认知信号以提高效率,同时用自然语言表达关键信号以保持可解释性。作者引入两阶段训练框架(单智能体混合生成学习与多智能体交互协同训练),使智能体能在多轮交互中生成和解释混合消息。实验表明,HyLaT在显著降低通信开销的同时保持了竞争性的任务性能,并展现出良好的泛化性和鲁棒性,与关键词“agent”和“attention”高度契合。
Xintong Yang et al.
cs.CL cs.AI
本文提出了一种名为IndexMem的可学习KV缓存驱逐方法,用于长上下文LLM推理。该方法引入了一个可学习的索引器来预测KV条目的重要性,从而更准确地保留关键token,并设计了一个轻量级潜在记忆模块,将驱逐的token压缩为紧凑的在线更新状态,通过残差读出补偿注意力贡献的损失。实验表明,该方法在RULER、Needle-in-a-Haystack和LongBench等基准测试中,在有限KV预算下显著优于现有启发式驱逐策略,尤其与关键词中的attention机制高度契合。
Haoliang Ming et al.
cs.CL
本文提出LLM-Wiki,一种面向agent的检索系统,将外部知识组织为可编译、可组合且自演进的Wiki页面结构(包含双向链接),并通过标准tool-calling接口暴露search、read和link-following操作。该方法将检索视为推理过程,而非简单的embedding相似度查找,并引入Error Book实现结构性和语义性的自我修正。在HotpotQA、MuSiQue等数据集上,LLM-Wiki显著优于HippoRAG 2、LightRAG和GraphRAG等基线,尤其在多文档结构化查询上表现突出,体现了agent-native检索范式的有效性。
Haoyi Hu et al.
cs.CL cs.IR cs.MA
本文提出ProAct,一种利用交互间空闲计算资源进行主动预测的agent架构。通过分析对话历史与持久记忆,ProAct能预测用户即将到来的需求并提前获取信息,从而减少任务完成所需的交互轮次(14.8%)和用户努力(11.7%),并将幻觉率降低28.1%。该工作与关键词"agent"高度契合,为agent从被动响应向主动预测的范式转变提供了开创性方法。
Volodymyr Ovcharov
cs.CL cs.AI
本文比较了七种foundation model在乌克兰法律文本上的tokenizer fertility和zero-shot性能,发现不同模型token消耗差异达1.6倍,且few-shot prompting会降低性能。研究强调tokenizer分析对成本效率部署的重要性,并指出zero-shot在形态丰富语言中比few-shot更可靠。
Marcin Michał Mirończuk
cs.CL cs.AI
本文系统综述了信息融合在文档分类中的应用,分析了139项研究,提出了一个形式化框架,并通过元分析量化了多模态和多视图融合的性能提升。研究发现,多模态融合能显著提高准确率,但方法学严谨性存在不足,仅有少数研究使用了统计检验。
Beomsoo Kim et al.
cs.CL cs.AI cs.SD
本文介绍了Raon-Speech和Raon-SpeechChat,一个9B参数的speech language model,通过多阶段训练(包括speech modules alignment、end-to-end pretraining with knowledge distillation和multi-task preference optimization)实现了对英语和韩语的语音理解、生成及全双工对话。该模型在多个benchmark上表现优异,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Jaeha Oh et al.
cs.CL
本文提出了一种名为Multi-Persona Debate System (MPDS)的自动化科学假设生成框架,通过结合文献检索、大语言模型推理和多智能体辩论来生成电池材料研究中的假设。实验表明该方法在假设质量上优于简单基线,但主要贡献在于系统设计而非数学理论创新,与关键词列表中的概念关联较弱。
Yue Liu, Zhiyuan Cheng, Longying Lai
cs.CL cs.IR q-fin.GN
本文提出了一种基于large language model的框架,用于从Form 10-K文件中提取segment disclosures,并设计了retrieval augmented system以支持跨公司和跨时期的可比性分析。该方法主要应用于金融报告领域,与关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念无直接关联。
Liang Lin et al.
cs.CL cs.AI cs.SD
本文提出EchoDistill框架,通过冻结的clean-audio teacher为noisy-audio student提供语义参考,并利用group-relative policy optimization (GRPO)优化token级一致性,以提升Audio LLMs在噪声下的语义可靠性。该方法不引入额外推理成本,在强噪声下平均GSR提升4.18%。
Ziyang Fang et al.
cs.CL cs.AI eess.SY math.CO
本文提出了TriVAL,一个在自动优化建模的三个阶段(语义规范、数学公式和代码生成)进行显式验证的框架,通过构建-验证-修订循环来减少错误累积。实验表明该方法在NL4COP等基准测试上优于现有方法。
Run Zou et al.
cs.CL
本文提出SLAP,一种基于分层损失剪枝的批量感知数据选择框架,通过分布感知分层采样和相对距离优化提升指令微调效率。该方法在多个模型和下游任务上以20-40%更少数据达到或超越全数据集性能。
Riya Tapwal, Abhishek Kumar, Carsten Maple
cs.CL
本文研究了LLM作为自动评估者时的rationalization bias(合理化偏差),通过设计一系列cue interventions(线索干预)来测试评估结果和解释是否对非证据性线索保持稳定。实验发现LLM评估者存在显著的cue-anchored rationalization(线索锚定合理化),而PROOF-BEFORE-PREFERENCE方法能有效改善这一偏差。
Jihyung Park, Saleh Afroogh, Junfeng Jiao
cs.CL
本文提出AERIC,一种用于隐式有害对话的轻量级同路径隐藏状态监控方法,通过结合短期危害预测、支持敏感抑制和提示条件残差评分,在不增加额外前向传播的情况下检测生成过程中的有害漂移。该方法在多个基准上提升了AUROC并显著降低了延迟开销,但未涉及代码、谱方法或预训练等关键词相关技术。
Trung Nguyen Quang et al.
cs.CL cs.SD
本文研究了Direct Preference Optimization (DPO)在英文-中文代码切换语音识别中的应用,通过构建偏好对来纠正Audio LLMs的翻译和幻觉等错误模式。实验表明该方法能有效提升代码切换转录的准确性,但方法本身是对DPO的常规应用,缺乏显著的开创性。
Takehiro Ishikawa, Jon Duke
cs.CL cs.SD eess.AS
本文通过四项互补性审计,评估了临床访谈抑郁检测基准(如E-DAIC, CMDC等)的可靠性,发现其交叉验证与官方测试排名一致性差,且文本与音频模型对症状密集片段的敏感性存在显著差异。
Ronja Fuchs et al.
cs.CL
本文使用预训练LLM对Twitch平台约2000万条聊天消息进行zero-shot分类,分析了七种游戏类型中的毒性言论分布,发现MOBA类游戏毒性最高(3.2%),体育类最低(2%),且不同游戏间存在显著差异。该研究为在线社区毒性检测提供了实证分析,但方法上未涉及关键词中的code、spectral、Muon、pretrain、agent或attention等概念。
Amirmohammad Ziaei Bideh et al.
cs.CL
本文提出了一种用于CLPsych 2026共享任务的pipeline方法,通过集成三个open-weight large language models的in-context learning进行majority voting来推断社交媒体帖子中的dominant self-states,并利用上游任务预测的特征训练supervised classifiers来预测timeline中的变化时刻。该方法在多个子任务上取得了排名靠前的结果,但整体方法较为工程化,缺乏理论或方法上的开创性。
Yihan Wang, N. Asokan
cs.CL cs.AI cs.CR cs.LG
本文研究了扩散语言模型(DLM)中的训练数据提取问题,提出了infilling extraction协议,通过任意binary mask参数化来建模数据可提取性。实验发现,edge-conditioned masks比prefix-conditioned masks能提取多达三倍的verbatim序列,且双向访问为数据提取提供了新的通道。
Mariam Barakat, Ekaterina Kochmar
cs.CL cs.AI
本文提出了一种模块化的教育类比生成pipeline,将任务分解为源发现、子概念生成、解释生成和评估四个阶段,并基于Structure Mapping Theory分析了模型选择和输入配置对类比质量的影响。实验表明子概念能显著提升解释质量和检索精度,但对开放源生成帮助有限。
Jian Xie et al.
cs.CL
本文提出QUEST,一个基于完全合成数据训练的通用深度研究agent系列模型,通过统一rubric trees的数据合成pipeline和内置上下文管理机制,在多个基准上接近或超越前沿闭源agent。
Konstantin Berlin, Adam Swanda
cs.CL cs.AI
本文提出了一种AI驱动的工作流,通过为每个类别编写详细的constitution(定义规则)并使用前沿LLM进行标注,以提高内容审核中标签的一致性。实验表明,该方法在三个审核类别上将跨模型不一致性降低了最多57倍,并引入了双轴评分机制来独立评估意图和内容。
Lin Ai et al.
cs.CL cs.AI
本文提出SteER框架,通过成本-收益公式在长周期research workflow中引入可解释的mid-process控制,结合diversity-aware planning与utility signals来提升alignment。该方法在alignment指标上优于现有baseline,但未涉及code、spectral、Muon等关键词相关技术。
Hirona Jacqueline Arai, Xiang Ren
cs.CL
本文介绍了DRinQ基准,用于评估大语言模型在对话隐含意义(conversational implicature)中的语用推理能力,通过半自动管道生成问题-上下文-解释实例。研究发现模型在生成与推理间存在不对称性,且人类与模型在上下文构建上各有优劣。
Xianzhong Ding et al.
cs.CL cs.SE
本文提出了ContextEcho基准测试,用于评估大语言模型在长时间agentic-coding会话中的persona drift(角色漂移)现象,发现模型在数千轮工具使用后会偏离初始的“有帮助的编程助手”角色。该工作主要关注代码生成场景下的模型行为稳定性,与关键词中的code和agent有一定关联,但方法本身并非开创性,也未解决长期存在的核心理论问题。
Yoonwon Jung, Aaron S. Cohen, Benjamin K. Bergen
cs.CL cs.LG
本文提出了一种利用多语言大语言模型(LLMs)的contextualized embeddings来检测跨语言lexical gaps(词汇空缺)的数据驱动框架。通过在韩英双语LLM的embedding空间中比较gap words与非gap words的跨语言语义对齐强度,并训练logistic classifier进行分类,该方法在无需固定概念分类法的情况下实现了可扩展的词汇空缺识别。
Owais Mujtaba Khanday et al.
cs.CL cs.HC
本文提出了一种基于Conformer的端到端神经解码器,用于从皮层内记录中解码字符,无需外部language model,在ALS患者数据上达到23.80%的字符错误率。主要贡献在于证明了纯神经信号驱动的字符级解码的可行性,但方法本身在attention机制的应用上较为常规。
Weiming Wang et al.
cs.CL
本文针对中文有害meme检测的滞后问题,构建了首个中文有害meme解释数据集Ex-ToxiCN-MM,并提出了一个包含归因知识增强模块(AKE)和相对意图推理模块(RIR)的综合归因分析框架RIKE。实验表明该方法在多项指标上优于主流baseline模型。
Abraham Camelo-Guerrero, Jairo Diaz-Rodriguez
cs.CL
本文评估了大型语言模型在文献计量聚类描述中的表现,发现LLM在无结构时不可靠,但在算法提供聚类结构后性能提升,支持混合工作流。
Kaiqiao Han et al.
cs.CL cs.LG
本文提出SA-RAG方法,通过将外部知识转化为表格形式的中间结构化表示来减少噪声,并引入质量感知的元数据生成框架以提升检索增强生成在对话agent中的表现。实验表明该方法在噪声数据集上优于现有RAG基线。
Kritee Kondapally et al.
cs.CL cs.AI
本文研究了语言模型在对比评估(side-by-side comparison)中,对标准美式英语(SAE)和非裔美国人白话英语(AAVE)的隐性方言偏见(covert dialect bias)被显著放大的现象,并发现反事实公平微调(counterfactual fairness finetuning)在单独评估时能缓解部分偏见,但在对比设置下效果不稳定。该工作主要关注自然语言处理中的社会偏见问题,与关键词中的数学或算法概念无直接关联。
Tianlang Chen, Shirley Wu, Jure Leskovec
cs.CL
本文提出Found in Conversation (FiC)训练框架,通过View-Asymmetric Self-Distillation方法让模型在multi-turn对话中恢复single-turn能力,实验表明该方法能有效缩小multi-turn与single-turn的性能差距。
Quan Ngoc Hoang et al.
cs.CL
本文提出了一种方言感知的语音建模框架,通过将越南语音节分解为结构化语音成分并映射到方言特定的IPA表示,结合语音结构解码器来建模方言变体。实验表明该方法在参数更少且无需外部预训练的情况下,性能与强预训练模型wav2vec2-base-vi-250h相当。
Volodymyr Ovcharov
cs.CL cs.AI cs.LG
本文研究了法律判决预测中的时间概念漂移问题,通过在乌克兰法院三个时期的数据上微调transformer编码器,发现模型在跨时间泛化时性能严重下降,且前向退化比后向退化更显著。该工作主要关注NLP应用中的时间分布偏移,与关键词中的spectral、Muon、agent等概念无直接关联。
Jihyung lee, Hyounghun Kim, Gary Lee
cs.CL
本文提出了一种名为Decompose-and-Refine (DaR)的框架,用于解决法定法律问答中的多跳推理问题。该框架通过逐步将复杂问题分解为原子子问题,并生成与法条对齐的参数化查询,以缓解用户问题与法条文本之间的词汇鸿沟。实验表明,该方法在韩国多跳法律问答基准上提升了检索准确率和答案质量。
Spandan Pratyush
cs.CL cs.AI
本文提出Grammatically-Guided Sparse Attention方法,利用词性标签动态生成attention mask,以减少Transformer中self-attention的计算复杂度。实验表明该方法在SST-2任务上能保持与full attention相近的准确率,但未涉及code、spectral或agent等关键词。
Hao Sun et al.
cs.CL cs.CV
本文提出Unveil框架,通过融合视觉与文本特征并利用知识蒸馏将语义能力迁移至纯视觉模型,以解决多模态文档检索中格式多样性和文本语义捕捉的挑战。实验表明该方法在检索精度和效率上均优于现有技术。
Max Prior, Niklas Wais, Matthias Grabmair
cs.CL
本文提出了一种自动化pipeline,通过检索、聚类和生成从法院判决数据库中生成法律评论,无需手工构建教义框架。该方法使用LLM生成标题和引用丰富的章节,并在五个维度上评估了可行性,但受限于来源和法律推理的规范性。
Hao Liu et al.
cs.CL
本文提出了AstroMind基准,用于评估大语言模型在航天器行为推理(包括意图推断、机动参数估计和威胁评估)中的能力,基于高保真天体动力学模拟和真实观测约束。实验表明,不同模型在不同任务维度上各有优劣,且训练数据组成和推理策略比模型规模更重要。
Jiangnan Yu, Kisson Songqi Lin, Jilong Wu
cs.CL
本文提出了一种四条件诊断协议,用于分析长上下文memory system中写入和检索阶段的瓶颈,并基于此设计了Expected Predictive Compression (EPC)方法,通过让LLM在写入时预测未来问题来优化信息保留。实验表明,在LongMemEval基准上,写入阶段的性能差距通常大于检索阶段,且EPC方法在固定budget下取得了最优的完整存储memory (CSM)分数。
Mathis Immertreu et al.
cs.CL q-bio.NC
本文探索了Successor Representations(一种强化学习中的预测框架)在自然语言处理中的应用,通过训练神经网络预测未来词分布,发现词类表示(如名词、动词)能自发涌现。该工作为预测性序列学习与语言结构的关系提供了新视角,但与关键词列表中的概念关联较弱。
Piotr Wilam
cs.CL cs.LG
本文通过稀疏8层code transformer模型,对106个Python概念(43个AST节点类型和63个内置对象)提取了神经回路,发现所有概念均存在非空通用回路,且AST回路包含与token激活不同的概念成分,而内置对象回路几乎完全由token驱动。研究揭示了模型内部组织遵循计算结构而非语义类别,但方法本身在理论或算法上未体现显著开创性。
Haizhou Xia
cs.CL cs.AI cs.SE
本文提出GuardedRepair框架,用于对LLM的数学推理进行事后修复,通过选择性替换策略(仅在确定性验证支持时接受修改)来避免破坏原本正确的推理。实验表明该方法在GSM8K和ASDiv数据集上提升了准确率,并改善了修复与破坏之间的权衡。
Jaeung Lee, Dohyun Kim, Jaemin Jo
cs.CL cs.AI cs.LG
本文提出Unlearning Depth Score (UDS)指标,通过activation patching量化LLM中目标知识被擦除的机制深度,在150个模型上的评估中展现出最高的忠实性和鲁棒性。
Dingfeng Jiang et al.
cs.CL
本文介绍了HiMed,一个用于提升印地语医疗推理能力的语料库和基准测试集,并提出了HiMed-8B模型,通过衰减支架奖励设计来改善印地语医疗推理性能,缩小了英语与印地语之间的准确率差距。
Jiani Luo et al.
cs.CL
本文提出PUMA框架,基于Free Energy Principle将对话个性化建模为部分可观测下的决策问题,通过维护用户隐状态信念并最小化期望自由能来选择对话动作。实验在医疗咨询基准上验证了其长期对话效果和状态估计能力。
Bo Li et al.
cs.CL cs.AI
本文提出Mix-MoE框架,通过将MoE层分为语言模型专家和机器翻译专家,并利用Fourier Transform增强路由机制,以缓解多语言机器翻译中的参数干扰问题。实验表明该方法在多个翻译任务上优于现有基线。
Bohang Sun et al.
cs.CL cs.AI
本文提出TraceLock,一种为frozen diffusion language model设计的轻量级插件控制器,通过学习token commitment策略来优化并行解码中的token选择。该方法利用未来稳定性作为自监督信号,训练控制器决定哪些token应被提交到部分解码序列中,从而在问答、数学推理和代码生成任务上改善质量与步骤的权衡。
Liying Han et al.
cs.CL cs.AI
本文提出了TS-Skill基准,用于评估时间序列问答中的三种分析技能(时间尺度选择、时间定位和跨区间整合),并开发了SKEvol框架来构建该基准。实验发现现有模型在这些技能上存在显著且不均衡的能力差距,但该工作主要聚焦于评估框架而非解决具体数学问题。
Volodymyr Ovcharov
cs.CL
本文测量了25种欧洲语言在10种foundation model上的tokenizer fertility(每个单词的token数),发现非英语语言存在显著的tokenizer tax(隐藏成本),其中乌克兰语比同源斯拉夫语言高出15-18%。研究还表明fertility排名在不同文本领域间高度一致,且跨语言few-shot效果主要取决于模型本身而非语言。
Santiago Góngora et al.
cs.CL cs.AI
本文探索了在神经符号交互式叙事系统中使用世界状态变换(world-state transformations)来维持故事一致性,并评估了Llama 3 70B和Gemini 1.5 Flash模型在英语和西班牙语中的表现。实验表明,该方法能在保持世界状态一致性的同时鼓励玩家创造性输入。
Evelyn Y. Garland, Carola F. Berger
cs.CL
本文提出将ROC分析用于评估翻译质量估计系统的性能,并展示了其与现有方法结果一致且支持商业决策的优势。
Yuelyu Ji et al.
cs.CL
本文提出StepGap,一种混合NLI-LLM决策树,用于在多跳问答中检测步骤级别的证据缺失,并输出三类标签。实验表明其结构可分解,但方法本身在关键词领域(如code, spectral, Muon, pretrain, agent, attention)中缺乏直接关联。
Jehanne Dussert
cs.CL cs.AI cs.CY
本文提出了一种基于运行时监控的AI合规性评估框架govllm,通过多个小型语言模型作为监管评估器,将合规性视为连续信号而非静态审计结果。该方法主要关注AI治理中的合规监控问题,与您提供的关键词(code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Jinze Li et al.
cs.CL
本文提出Collaborative Speculative Decoding (CoSpec)方法,通过强化学习训练仲裁策略,在draft model与target model预测不一致时选择性接受draft token,从而在保持加速效果的同时超越target-only性能。该方法将speculative decoding从模仿范式转向协作范式。
Masaru Yamada
cs.CL cs.CY
本文探讨了译者的劳动如何转化为人工智能的基础数据资本,分析了翻译记忆库和并行语料库在机器翻译发展中的关键作用,并提出了“无消耗的挪用”和“译者的隐形教师化”两个概念,揭示了译者在数据供应链中的经济与道德权益被剥夺的现象。
Kumiko Tanaka-Ishii
cs.CL cs.IT stat.AP
本文提出了一种基于重复子序列的评估框架,通过分析文本中重复模式在不同尺度上的分布及其与高阶Rényi熵的关系,来探测大语言模型生成文本的长程统计组织。实验发现,自然语言与GPT生成文本在熵增长模式上存在系统性差异,但该方法主要关注统计诊断而非直接解决关键词中的特定问题。
Qirun Dai et al.
cs.CL cs.AI cs.LG
本文提出了UniCo,一个用于生成因果推理训练数据的数据生成框架,通过覆盖18种因果查询类型并将符号示例转化为代码和自然语言形式,提升了LLM的因果推理能力。实验表明,基于UniCo微调的模型在分布内和分布外基准上均取得了显著改进,并在真实世界任务中展现出更可靠的推理轨迹。
Amelia Girard, Massimo Piccardi
cs.CL
本文提出了一种可微训练目标(DTO),用于反事实故事改写任务,通过端到端反向传播优化一个联合奖励改写保真度和语义一致性的损失函数,在TimeTravel和ART数据集上超越了最大似然基线和基于偏好的方法。该方法为细粒度文本生成任务提供了有效的任务特定可微目标。
Faizan Faisal
cs.CL cs.AI cs.LG
本文研究了推理能力增强的LLM在临床SOAP笔记生成任务中的表现,发现启用推理反而会降低GPT-5.4的性能,而同源RAG带来模型依赖的小幅提升。该工作聚焦于医疗文档生成,与关键词中的code、context、spectral、Muon、pretrain、agent、attention均无直接关联。
Klaudia-Doris Thellmann et al.
cs.CL
本文研究了机器翻译基准测试中的翻译错误对多语言大语言模型评估的影响,发现翻译错误与准确率下降存在关联,但未涉及关键词中的相关方法或概念。
Hongbin Na et al.
cs.CL
本文介绍了PsyDefDetect共享任务,旨在从情感支持对话中检测心理防御机制水平,基于DMRS框架将话语分为九类。任务使用新发布的PsyDefConv语料库,最佳系统macro F1为0.420,但仍存在类别不平衡和过度预测多数类的问题。
Riasad Alvi, Nurul Labib Sayeedi, Md. Faiyaz Abdullah Sayeedi
cs.CL
本文提出MultiHaluDet框架,通过探测冻结LLM的多层hidden state轨迹,结合multi-scale attention和self-attention pooling的混合架构,实现多语言幻觉检测。该方法无需语言特定微调,在英语基准上达到98.55% AUROC,并展示了跨语言泛化能力。
Maryam Haghifam et al.
cs.CL
本文提出H\(^{2}\)MT,一种通过离线构建语义层次结构并在推理时进行粗到细查询路由的Transformer方法,旨在提升长上下文推理的效率。该方法在LongBench等任务上实现了比prompt压缩、memory-token方法和检索增强生成基线更优的GPU内存与首token延迟权衡。
Xiangdong Zhang et al.
cs.CL
本文提出Next Implicit Token Prediction (NITP)方法,通过在representation space中引入dense continuous supervision来增强标准next-token prediction (NTP)训练,以缓解hidden states的degenerate和anisotropic问题。实验表明该方法在多种规模模型上能提升下游性能且计算开销极小。
Han Liu et al.
cs.CL cs.AI
本文提出了一种名为SEP-Attack的文本对抗攻击方法,通过使用Determinantal Point Process (DPP)生成多样化的代理模型集成权重,并基于此计算单词重要性分数和对抗候选,以提升攻击的可迁移性。实验表明该方法在多个数据集上优于现有基线,但未涉及关键词中的code、spectral或Muon等概念。
Jingyi Sun et al.
cs.CL cs.AI cs.LG
本文通过提出一个统一的偏好对齐接口FaithMate,研究了Chain-of-Thought (CoT)推理在上下文忠实性和参数化忠实性两种范式下的相互作用。实验发现两种范式正相关但不对称,且上下文忠实性在不同指标间缺乏迁移性,表明CoT忠实性并非单一目标。
Yavuz Durmazkeser et al.
cs.CL cs.LG
本文提出SELECT-LLM框架,用于在有限标注下选择最优Large Language Model (LLM)。该方法通过基于expected information gain的查询选择规则,利用模型输出间的pairwise similarities来识别最具信息量的标注样本,从而降低标注成本。
Alina Anikejeva, Kairit Sirts
cs.CL
本文使用n-gram方法和fine-tuned transformer模型,分析了Reddit上九个自我报告心理健康组和对照组的帖子,发现心理健康组中认知扭曲的普遍性高于对照组,但不同疾病间的扭曲模式大致相似。研究指出简单的词汇方法可用于大规模心理健康文本数据的探索性分析。
Qihuang Zhong et al.
cs.CL
本文针对大型推理模型(LRM)在自改进训练中面临的数据不平衡和过度思考问题,提出了HSIR方法。该方法通过verify-then-exit采样策略和Intrinsic Diversity评分来提升推理性能与效率,并在多种后训练范式上取得了显著效果。
Yangneng Chen, Jing Li
cs.CL cs.AI
本文系统研究了大型视觉语言模型中的语言偏差问题,指出其根源在于训练过程中的模态不对齐,并提出了两种简单缓解方法:语言偏差正则化和语言偏差惩罚。实验表明这些方法能有效减少幻觉并提升模型可靠性,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Festus Kahunla
cs.CL cs.LG cs.SE
本文提出了一个名为TRACE的合成指令微调数据集,用于应用行为分析(ABA)中的教学程序生成和多会话行为解释任务。该数据集基于分类学驱动的方法生成,并提供了完整的采样来源信息。
Yoav Gur-Arieh, Ana Marasović, Mor Geva
cs.CL
本文通过构建BonaFide基准测试,对大型语言模型Chain of Thought (CoT)的faithfulness metrics进行了系统评估,发现大多数指标表现接近随机,存在预测偏差,且无法在不同设置间迁移。该工作揭示了当前faithfulness评估中的根本性缺陷,但并未直接涉及code、context、spectral等关键词。
Houman Kazemzadeh, Kamyar Naderi
cs.CL cs.AI cs.HC
本文提出了一种人机协同的放射学报告结构化参考架构,通过结合模板、语音处理和AI辅助起草等技术,旨在将分散的影像信息整合为结构化数据,并支持与现有医疗系统的互操作。该工作主要聚焦于系统设计和临床部署的工程性讨论,未涉及关键词中的核心概念。
Pavan Manjunath, Thomas Pruefer
cs.CL cs.AI
本文综述了基于LLM Agent的可再生能源预测方法,利用IoT和边缘数据整合异构传感器流与天气API,提出六层分类法并识别了12个开放挑战。
Liang Xue et al.
cs.CL cs.AI
本文提出STREAM框架,利用流媒体数据合成面向任务的对话数据集StreamDial,通过角色构建和对话蓝图生成高质量对话,并采用RAG增强知识感知能力。该工作主要贡献于对话数据生成领域,与关键词中的code、spectral、Muon、pretrain、agent、attention等概念无直接关联。
Anna Arnett, Bang Nguyen, Meng Jiang
cs.CL
本文探讨了将幽默视为具有上下文和解释的社会互动,通过改进对LLM的prompt来生成幽默解释,并发现更好的prompt能减少错误、提升解释质量,为AI理解幽默作为社会行为奠定了基础。
Jiale Luo, Xiaoyu Liang, Haoji Hu
cs.CL
本文提出了一种无需训练的音频token压缩方法LTBM,通过局部时间窗口约束合并相似音频token,并对比全局合并变体来研究时间局部性对压缩效果的影响。实验表明,局部性合并更有利于音频描述任务,而全局匹配在多项选择音频理解任务中更具竞争力。
Jake Stephen, Niraj K. Jha
cs.CL cs.AI
本文利用从单一教科书提取的Knowledge Graph (KG)来微调语言模型,通过生成多跳QA数据实现神经科学领域的专家级推理,验证了结构化知识足以使小参数模型超越大语言模型。
Julius Vernie, Matthias Grabmair
cs.CL cs.AI
本文提出了一种系统比较同一法律条款不同形式化版本的方法,通过SAT solver枚举边缘案例并生成具体事实场景,发现LLM生成的形式化版本在行为分歧上与结构一致性基本无关,揭示了法律解释中的定性分歧类型。
Xiang Cheng et al.
cs.CL
本文提出了GroupTravelBench,一个用于评估LLM agents在多用户、多轮旅行规划任务中能力的benchmark,通过合成650个任务并构建交互式沙盒环境来测试agents在偏好获取、冲突协调和群体规划方面的表现。实验发现,即使是最先进的模型在偏好覆盖和群体公平性方面仍存在明显不足。
Jinyan Su, Jennifer Healey
cs.CL
本文研究了多轮问答中的偏好获取问题,将任务分解为澄清策略和澄清后回答两个部分。实验表明,监督微调能快速提升澄清策略,但最终答案的准确性仍是瓶颈。
Zhuangzhuang Pan, Yan Xia, Chee Seng Chan
cs.CL
本文指出Emotion-Cause Pair Extraction (ECPE)任务中,直接因果(direct cause)的二元预测并不能等同于基于证据的情感解释(grounded emotion explanation)。实验表明,模型在识别直接触发词上表现良好,但会忽略重要的情感上下文(emo-context),导致二元预测分数更倾向于便利归因而非真正的解释。
Most. Sharmin Sultana Samu, MD. Tanvir Ahmed Seum, Md. Rakibul Islam
cs.CL
本文综述了人类参与循环的方法在NLP安全性和可信度中的应用,探讨了人类监督如何支持模型审计、鲁棒性评估和数据构建,并指出了可扩展性、低资源场景和私有系统治理方面的挑战。
Russell Yang et al.
cs.CL cs.AI cs.CY
本文提出了JudgmentBench基准,包含30个真实法律任务及来自执业律师的1539个rubric评分和1530个成对偏好判断。通过比较两种评估方法,发现成对判断在恢复质量排序上显著优于rubric评分,且耗时更少。
Yu Wang et al.
cs.CL
本文研究了大型语言模型推理过程中置信度的动态变化,发现正确推理轨迹的置信度随时间提升,而错误轨迹则下降。基于此,作者提出了置信度动态增益投票方法,在多个基准测试上提升了模型性能。
Elio Musacchio, Lucia Siciliani, Pierpaolo Basile
cs.CL cs.AI
本文提出了Mimir,一个1.6B参数的大规模多语言Concept Model,将语言建模的粒度从token提升到concept,并基于大规模多语言语料进行预训练和指令微调。该工作主要关注多语言概念建模的工程实现,与关键词中的code, spectral, Muon, agent, attention等方向关联较弱。
Pingfan Su et al.
cs.CL cs.AI
本文提出READER,一种通过微调LLM来生成人类/AI标签和结构化推理依据的AI文本检测方法。该方法在较小模型规模下优于现有检测器和大型LLM基线。
Jinyan Su, Claire Cardie
cs.CL
本文研究了LLMs在识别用户查询歧义性与主动提出澄清问题之间的行为差距,发现模型虽能识别歧义但很少主动询问,且检索上下文会进一步扩大这一差距。
Hangxuan Li et al.
cs.CL cs.AI cs.LG
本文提出Eureka框架,将特征工程定义为agentic code generation问题,通过LLM驱动的专家代理、特征工厂和自进化对齐引擎生成可执行Python代码,在云资源需求预测等任务中提升了模型性能。
Amanda Cercas Curry, Gianmarco de Francisci Morales, Luca Maria Aiello
cs.CL
本文介绍了P1SCO数据集,包含来自三个社交媒体平台的评论,按十个社会维度进行标注,并提供了评论、标注者和平台层面的细粒度分析,旨在研究社会感知的多样性。该工作主要贡献于计算社会科学领域,与关键词中的核心概念(如spectral, attention, pretrain)无直接关联。
Linhao Luo et al.
cs.CL
本文提出MATO框架,通过测试时优化实现大语言模型的多目标个性化对齐,无需训练或外部reward model,利用reward discovery和weight optimization模块动态调整目标权重以平衡冲突偏好。
Ying Lu et al.
cs.CL cs.AI cs.LG quant-ph
本文提出了一种名为Tensor Mixture (MixT)的张量结构压缩方案,通过用可执行的张量算子混合替换密集线性层来压缩大型语言模型。实验表明该方法在Qwen3-8B和LLaMA2-7B上能在特定边界前保持MMLU精度,并显著降低参数和计算开销。
Thomas Stephan Juzek
cs.CL cs.AI cs.CY
本文研究了34种语言中AI相关词汇使用的变化,发现AI偏好词汇在不同语言间存在语义趋同现象,且ChatGPT发布后这些词汇在新闻写作中的使用频率显著增加。该研究主要关注语言学和计算语言学领域,与您提供的关键词(如code, context, spectral等)关联度较低。
Geyang Guo et al.
cs.CL
本文提出了一种名为语言路由策略优化(LRPO)的多语言在线策略优化框架,将语言视为可选择的变量,并通过多臂老虎机机制自适应地决定探索的语言。该方法旨在提升多语言训练信号的多样性与信息量,但与我提供的关键词列表关联度较低。
Miaohe Niu et al.
cs.CL
本文提出EfficientGraph-RAG框架,通过定义检索状态(retrieval state)并引入TAM、MARS和SMP三个机制来管理证据的结构化层次与复用,从而提升RAG系统的跨任务性能。该方法在多个基准上取得领先结果,但未涉及code、spectral、Muon、pretrain或attention等关键词。
Xiaoqing Wu et al.
cs.CL
AuthTrace是一个用于诊断单作者密集语料库中证据构建系统的诊断基准,通过将多种范式置于同一语料库和查询集上,发现证据召回率是答案质量的主要预测因子,并揭示了不同范式在证据构建上的特定失效模式。
Yingji Zhang, Yong Dai, André Freitas
cs.CL
本文提出了GeoMathCode,通过将程序化表示作为中间视觉输出来辅助几何问题求解,并分析了推理与代码生成在潜在空间中的解耦特性。实验表明监督微调使推理流形更结构化,且代码层次结构包含比视觉表示更丰富的数学符号信息。
Yizhou Peng et al.
cs.CL eess.AS
本文针对级联ASR-LLM口语对话系统中的错误传播问题,提出了一种基于cause-aware的错误恢复范式。通过利用ASR的深层latent representation来区分感知、理解和删除三类错误,该方法使LLM能够执行更精准的多轮澄清策略,从而在域偏移等场景下显著降低WER并提升下游任务表现。
Lingyao Li et al.
cs.CL cs.CY cs.ET
本文系统评估了12种LLM作为论文评审员的表现,包括评分校准、与人类评审的差异以及对隐形字体攻击的鲁棒性。研究发现LLM会高估弱论文、在评审重点上与人类存在分歧,且对提示注入攻击的抵抗力不足。
Khalid Yusuf Dahir
cs.CL cs.AI cs.CY
本文评估了四个开源语言模型在英语和索马里语上的安全拒绝率差异,发现所有模型在索马里语上的拒绝率显著低于英语,且多数非拒绝输出为不流畅或无效内容。该工作聚焦于低资源语言的安全评估,但方法上未涉及关键词中的核心概念。
Rafal Kocielnik et al.
cs.CL cs.AI cs.MA
本文提出一个基于LLM的两阶段框架,通过multi-agent prompting和手术领域知识注入来发现可解释的反馈质量评分标准,并用于自动评估手术教学中的口头反馈质量。该方法在4.2k反馈实例上优于传统基于内容的框架。
Zongji Yu et al.
cs.CL
本文提出Multi-domain Contrastive Policy Optimization (MCPO)方法,通过对比学习促进跨域知识共享并减少域间干扰,以提升大型推理模型在多领域设置下的推理能力。该方法利用正负样本对构建统一的表示空间,实验表明其能实现跨域性能提升。
Sifan Li et al.
cs.CL
本文提出GeoSVG-RL框架,通过强化学习优化布局约束下的SVG图生成,利用几何反馈奖励(如锚点精度、文本包含性)提升结构可靠性。该方法在局部几何精度和图连接保持上优于现有系统。
Peyal Saha, Ahsanul Haque Hasib, Shoumik Barman Polok
cs.CL
本文提出了一种轻量级的Bangla医疗实体识别框架,通过知识蒸馏将12层BanglaBERT模型压缩为4层学生网络,并应用INT8动态量化实现8.6倍CPU加速和48%存储缩减。该方法主要关注工程效率而非理论创新,与关键词列表中的概念关联较弱。
Yao Liu
cs.CL
本文提出TypedCSIP方法,利用专家修订作为反事实监督,通过两阶段预训练(反事实选择性干预预训练+分类头迁移)解决中文法律条文冲突分类任务,在LCR-CN基准上提升了macro-F1指标。该方法专注于冲突分类,不适用于法律检索任务。
Yehudit Aperstein, Alexander Apartsin
cs.CL cs.AI
本文构建了一个包含10,000条合成课程评论的教育领域aspect-based sentiment analysis (ABSA)基准数据集,并设计了20个教学方面的标注模式。通过TF-IDF、BERT等基线模型测试,发现该任务具有挑战性,最佳模型BERT的micro-F1仅为0.2760,且合成数据到真实数据的迁移效果有限。
Samee Arif, Angana Borah, Rada Mihalcea
cs.CL
本文提出了KIDBench基准,用于评估大语言模型在面向7-11岁儿童时的安全性,并引入了KIDGuardLlama和KIDLlama模型。该工作主要关注儿童安全评估,与关键词中的code、spectral、Muon、agent、attention等概念无直接关联。
Yihong Tang et al.
cs.CL
本文针对角色扮演智能体中强化学习优化导致角色一致性丢失的问题,提出了Character-Centric Group Relative Policy Optimization (CRPO)框架。该框架通过解耦任务逻辑与风格奖励、动态调整优化约束以及使用通用响应作为负基线,来提升角色扮演的保真度。
Nura Aljaafari, Marco Valentino, André Freitas
cs.CL
本文通过SVD分解和激活干预实验,研究了大型语言模型在自然语言推理中是否编码了产生标签的语义操作。结果表明模型部分编码了这些操作,但不同模型的可控性存在差异。
Bo Zou, Chao Xu
cs.CL cs.AI cs.LG
本文提出BC Protocol,一种通过结构化双专家对话(领域专家与知识工程师配对)来生成高质量Chain-of-Thought (CoT)训练数据的方法,并引入“校准的无知”等概念。实验表明该方法在推理过程的自然性上显著优于专家独立写作,但未涉及code、spectral、Muon等关键词。
Minghao Shao et al.
cs.CL cs.AI
本文提出PennySynth,一个基于RAG的框架,通过构建包含13,389个PennyLane指令-代码对的数据库来提升LLM在量子编程中的代码生成能力。该方法引入代码感知嵌入策略,在QHack竞赛任务上显著提高了pass@5指标,但整体方法更偏向工程应用而非理论创新。
Abner Hernandez et al.
cs.CL
本文提出PhonoQ-2.0,一个基于self-supervised speech models的多语言音韵特征识别系统,直接预测每帧的22维音韵特征向量,并引入manner-conditioned gating mechanism确保预测的音韵一致性。实验表明,该系统在域内和域外任务上均优于强CTC音素基线,并在未见语言上取得显著提升。
Alexander Apartsin, Omri Sason, Yehudit Aperstein
cs.CL cs.AI
本文探讨了如何利用大型语言模型模拟具有特定技能特征的不完美学生,以支持教师教育中的刻意练习。研究提出了一个基准框架,通过提示控制模型行为来反映指定的技能向量,并在结构化数学环境中评估了可控性。
Guochao Jiang et al.
cs.CL cs.LG
本文提出DVAO方法,通过动态调整多奖励强化学习中的组合权重来解决训练不稳定问题,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Linjuan Wu et al.
cs.CL
本文提出了CULTURE-MT基准,用于评估社交媒体用户生成内容(UGC)翻译中的文化有效性和情感共鸣,并训练了JUDGER模型作为评估工具。该工作主要关注翻译的文化适应性,与关键词中的code, context, spectral, Muon, pretrain, agent, attention均无直接关联。
Khoi Le et al.
cs.CL cs.LG
本文研究了弱到强(Weak-to-Strong)偏好学习在零样本分布偏移下的表现,发现强模型在弱监督下可能仅在分布内表现良好而无法跨数据集迁移。作者提出了一种名为Representation Anchoring的正则化方法,通过约束微调过程中强模型表示空间的过度偏移来改善分布外迁移性能。
Qi He et al.
cs.CL cs.LG
本文提出了一种名为RLDF的新训练范式,通过利用rollout和训练过程中的去噪反馈来改进扩散语言模型的策略损失估计,并在多个推理基准上取得了性能提升。该方法主要关注扩散语言模型的强化学习训练,与您提供的关键词(如code, spectral, Muon等)关联度较低。
Moshe Hazoom et al.
cs.CL
本文提出了一种名为Iterative Nugget Optimization (INO)的索引时优化方法,用于在agentic RAG系统中将事实性反馈转化为可检索的知识条目(factual nuggets)。该方法通过迭代测试和修订nugget来提升其可发现性,并在产品支持agent等场景中验证了效果。
Pawitsapak Akarajaradwong et al.
cs.CL cs.CY
本文研究了LLM法官与泰国律师考试人工评分员在自由形式法律论文评分中的稳定性,发现当评分标准存在歧义时,所有LLM法官都倾向于多数人类评分员的解读,而无法复现少数派的评分模式。该工作主要关注NLP中的评估协议,与关键词中的code, context, spectral, Muon, pretrain, agent, attention均无直接关联。
Haoran Gu et al.
cs.CL cs.AI
本文提出AutoSG,一种利用LLM从任务提示自动生成昂贵优化问题求解器的工作流,通过检索增强生成、单步自优化和基于Elo的评估机制解决领域知识幻觉、结构破坏和评估成本高等问题。
Kisu Yang et al.
cs.CL
本文提出Llamion,通过KEPT方法将Orion-14B模型转换为Llama架构,使用Normal Parameter Mapping、Optimized Parameter Mapping和Cross-architecture Knowledge Distillation等技术,在少量数据上恢复原模型性能,并保持Python编程和长上下文处理能力。
Qihan Wang et al.
cs.CL cs.AI
本文通过心理学经典记忆实验对比了语言模型与人类的记忆表现,发现未经调整的语言模型记忆远超人类。作者尝试通过提示策略和压缩器使模型遗忘更接近人类,并在下游教育任务中初步验证了具有人类记忆约束的模型作为用户模拟器的有效性。
Malik Marmonier, Rachel Bawden, Benoît Sagot
cs.CL
本文研究了人类翻译与机器翻译(包括NMT系统和LLMs)中的去字面化假设,通过构建Synthetic Literality Index比较了不同翻译系统的字面程度。研究发现人类翻译仍显著比机器翻译更不字面化,但LLMs在迭代自修订中表现出单调的去字面化趋势。
Rongsheng Zhang et al.
cs.CL cs.DB cs.MA
本文提出了RoleMemo数据集和DualMem框架,用于解决角色扮演agent在长期对话中因缺乏persona特定解释而导致响应泛化的问题。DualMem将记忆解耦为事实认知和persona条件洞察两个流,并通过SFT和RL训练提升角色一致性。
Peijie Jiang et al.
cs.CL cs.LG
本文提出了一种名为PowLU的激活函数,用于替代LLM预训练中常用的SwiGLU,以解决其在大输入时近似二次函数\(x^2\)导致的数值不稳定问题。PowLU通过有理幂函数实现自适应非线性,在保持表达能力的同时稳定了训练,并在大规模实验中取得了与SwiGLU相当的结果。
Zhengyang Wang et al.
cs.CL
本文提出Trait-Aware Policy Optimization (TAPO)框架,用于自回归多维度作文评分。该方法通过分解样本和特质维度的奖励,结合全局评分一致性、特质级准确性等,提升了评分性能,但未涉及关键词中的核心概念。
Hui Xie et al.
cs.CL
本文提出Selective Latent Thinking (SLT)框架,通过轻量级decoder预测未来推理片段并基于置信度门控,选择性地将冗余推理步骤压缩为latent representation,同时保留关键步骤为显式chain-of-thought。该方法在数学推理基准上以58.4%的链长缩减实现了接近显式CoT的准确率,但未涉及code、spectral或Muon等关键词。
Sizhe Wang et al.
cs.CL
StreamProfileBench提出了一个面向流式场景的用户画像推断基准,通过构建包含12万条真实用户生成内容的数据集,将用户画像更新形式化为连续状态维护任务。实验发现现有大语言模型存在保守性偏差,难以有效识别用户兴趣的衰减。
Yi Ren
cs.CL
本文提出了一种名为Double Triangle Annotation的双层人机协同框架,用于高精度历史文档标注。该框架利用两个独立多模态大语言模型的共识自动处理大部分标注任务,并将分歧提交给人工审核,最终在法国医疗目录数据集上实现了极低的词错误率。
Hongtao Wang et al.
cs.CL cs.AI
本文提出Alper框架,通过迭代概率标签传播和自适应图结构优化,结合LLM查询与图传播信号,以解决脏数据实体解析中的错误传播问题。该方法在多个基准数据集上优于传统级联流水线。
Pritesh Jha
cs.CL cs.AI
本文研究了在PIIBench数据集上使用DeBERTa进行PII检测的微调方法,比较了直接token分类微调、源条件层次模型(SC+H)和三阶段课程扩展(SC+H+Curr)三种方法。实验表明,简单的直接微调在F1分数上显著优于更复杂的架构和课程学习策略,说明多样化的训练数据和加权交叉熵目标比模型复杂度更重要。
Joris Baan et al.
cs.CL cs.AI cs.LG
本文提出Belief-Augmented Generation (BAG)方法,通过让LLM基于自身采样得到的belief state(信念状态)来决定在对话中采用回答、澄清或放弃的策略,以处理多轮模糊问答场景。实验表明该方法能提升问答准确率,但未涉及code、spectral、Muon等关键词相关技术。
Seth Aycock et al.
cs.CL
本文研究了模型合并(model merging)在多语言预训练中的局限性,发现合并单语预训练模型会导致性能崩溃,并指出表征相似性是模型合并的前提条件。该工作主要关注多语言NLP中的预训练设置,与关键词中的code、spectral、Muon、agent、attention等概念关联较弱。
Muyu Pan et al.
cs.CL cs.AI cs.LG
本文提出TIAR方法,将LLM的abstention learning从ternary reward扩展为基于轨迹的advantage reweighting,在GRPO训练中动态调整abstention reward。实验表明该方法在AbstentionBench上取得SOTA的abstention F1分数,但未涉及code、spectral、Muon等关键词相关技术。
Zhengda Jin et al.
cs.CL
本文提出MemIR,一种类型化记忆中间表示,通过将长期记忆存储为分离原始证据、检索线索和事实声明的原子结构,来解决长期LLM agent中的来源-角色崩溃问题。实验表明该方法在需要来源追踪和时间推理的任务上优于现有基线。
Ziyi Ding, Xiao-Ping Zhang
cs.CL cs.AI
本文发现大语言模型在因果推理任务中,其隐藏状态能通过线性探针以高准确率恢复正确答案,但输出的Yes/No回答却倾向于常识性错误,揭示了模型内部表征与语言输出之间的不一致性。
Haiyan Zhao et al.
cs.CL cs.LG
本文提出了Universal Activation Verbalizer (UAV)框架,使用共享decoder将不同donor模型的activation转化为soft tokens进行解释。该方法在分类、事实检索等任务上实现了跨模型的activation verbalization。
Wei Fan et al.
cs.CL cs.AI
本文提出LegalSearch-R1框架,通过强化学习结合本地statute RAG与在线web搜索,解决法律agentic search中的时间一致性问题,在多个法律任务上提升了性能。
Duy Anh Nguyen
cs.CL cs.LG
本文研究了在EFCAMDAT学习者语料库上进行领域自适应持续预训练(DAPT)对基于transformer的自动作文评分(AES)的影响,发现全语料DAPT效果不稳定,而基于CEFR分级的针对性DAPT在领域内评分上更可靠,但跨数据集迁移能力并未显著提升。
Meshal Alamr, Hassan Alqaeri, Abdullah Aldahlawi
cs.CL cs.SD eess.AS
本文提出了一种针对阿拉伯语音文本自动加标音任务的微调方法,通过R-Drop正则化、Optuna超参数优化和Focal Loss等技巧,在仅有2327个训练样本的情况下,微调CATT-Whisper模型并取得了23.26%的词错误率(WER),在KSAA-2026任务2中排名第一。该方法主要关注语音与文本的联合建模,与关键词中的code、spectral、Muon、agent等概念无直接关联。
Bo Zou, Chao Xu
cs.CL cs.AI cs.LG
本文提出QUIET基准,通过多空白级联故事填空任务评估LLM的创造性生成能力,并采用信息论自动评分协议(基于“校准惊喜”框架)替代主观评分。该方法与关键词(如code、context、attention)无直接关联。
Daren Wang, Hong Xu, Jiawen Xian
cs.CL cs.CE
本文提出了一种名为PolyGnosis 2.0的多智能体架构,用于从Polymarket异常信号与全球开源情报流中提取预测性情报。该工作主要关注“视角不匹配”作为交易信号,并量化了反射循环、工具调用等“Harness Engineering”技术的效果,但未涉及code、spectral、Muon、pretrain或attention等关键词。
Ke Lin et al.
cs.CL
本文提出B^3D-RWKV,一种将RWKV的线性推理效率与双向离散扩散相结合的triplet-block布局方法,在8任务套件上达到可比精度,并实现平均1.6倍的解码加速。
Bo Zou, Chao Xu
cs.CL cs.AI cs.LG
本文通过约100个专家chain-of-thought标注,在低数据成本和小模型条件下验证了Calibrated Surprise中创造性质量度量的工程可行性,并发现公开对齐数据集存在偏向craft知识而忽视audience modeling和reality-logic覆盖的数据偏差。
Liyun Zhang, Jiayi Guo
cs.CL
本文通过68组实验测量了10种大语言模型驱动的chain-of-thought和ReAct agent中,语义扰动(如释义、同义词)比表面扰动(如格式、重排)更易改变最终答案的现象,并进行了held-out验证。研究提出了stealth-divergence机制解释,但方法本身并非开创性,且与关键词(如code, spectral, Muon, pretrain, attention)关联较弱。
Michael Orme, Yanchao Yu, Zhiyuan Tan
cs.CL cs.AI
本文提出SafeCtrl-RL框架,通过强化学习agent在推理时动态调整prompt策略以控制LLM对话安全性,无需模型重训练。该方法将对话生成视为序列决策过程,在多个LLM上提升了安全性和响应质量。
Yuelyu Ji et al.
cs.CL
本文研究了在医学RAG系统中使用NLI checker作为过程奖励时,训练信号的有效性问题。作者发现checker的输出分布(而非其保留集准确率)决定了能否提供可训练的gradient,并诊断了signal collapse和reward hacking两种现象。
Dhruv Agarwal et al.
cs.CL cs.AI cs.CY
本文探讨了使用AI辅助系统化方法来评估生成式AI系统,针对“推理”、“公平性”等宽泛概念提出结构化表示(concept spec)和验证工作表,并开发了直接零样本和多智能体两种系统化工具。
Rez Samantha Z. Floresca et al.
cs.CL
本文首次系统评估了基于transformer的痴呆检测模型在菲律宾语和英语混合的低资源对话语音中的表现,构建了平行双语数据集并测试了多种模型。研究发现双语微调能消除跨语言性能下降,但模型架构的现代化本身并未提升鲁棒性。
Tianda Sun, Dimitar Kazakov
cs.CL
本文研究了在知识图谱工具API(Freebase导航动词)上使用RLVR工具使用配方(GRPO on Qwen2.5-7B-Instruct)时出现的"先峰后塌"现象,发现策略的工具接地回答率在250步内从3.8%升至9.6%后,在50步窗口内骤降至0%。文章分析了四种接口故障模式,并指出与Python解释器等不同,知识图谱接口的失败缺乏预训练中见过的自然语言信号,导致同一家族的奖励重新设计无法修复退化。
Federico Torrielli, Peter Schneider-Kamp, Lukas Galke Poech
cs.CL cs.AI
本文研究了激活oracle(一种将模型内部activation转化为人类可读文本的方法)的置信度估计与校准问题,比较了6种方法在6000个样本上的表现。实验发现bootstrap mode频率的校准效果最佳,而log-prob基线可作为低成本快速筛选信号。
Parth Darshan, Abhishek Divekar
cs.CL cs.AI cs.LG cs.MA cs.SE
本文研究了多目标文本梯度优化(textual gradient optimization)在LLM评判器(LLM judge)提示词优化中的失败模式,发现当梯度LLM同时处理多个标准时,梯度特异性下降59%,且简单合并任务指令会降低Spearman相关系数5.3%。这些结果揭示了优化时的梯度稀释和推理时的指令干扰两种失败模式。
Lingyu Gao et al.
cs.CL
本文提出了一种人机协作的重新标注框架,用于在资源受限的多语言环境下稳定说话人属性标签,并构建了WhoSaidIt数据集。实验分析了原始与修订标注的差异,并评估了LLM在该分类任务中的表现。
Yunhua Pei et al.
cs.CL cs.AI q-fin.GN
本文提出了StakeBench,一个基于市场承诺的语言理解评估框架,通过链接市场评论与可验证的交易行为记录来评估模型,发现现有LLMs在检测市场承诺和预测未来行动等任务上表现不佳,且模型规模与性能无关。
Junlin Wang et al.
cs.CL
本文提出了Auto Benchmark Audit (ABA)框架,用于系统性地审计AI agent和LLM benchmark中的任务缺陷,如隐藏的环境依赖和错误的ground truth。实验发现超过25.7%的任务存在关键问题,移除这些问题后模型在SWE-bench和Terminal-Bench上的平均性能分别提升了9.9%和9.6%。
Sangyun Lee et al.
cs.CL cs.AI
本文提出了一种类似睡眠的consolidation机制,通过离线recurrent passes更新state-space model (SSM) blocks中的fast weights,以缓解transformer attention在长上下文任务中的扩展问题。实验表明该方法在合成任务和数学推理上优于常规transformer和SSM-attention混合模型。

cs.DS

Arnaud Carayol, Pablo Rotondo
cs.DS cs.DM math.PR
本文针对从\([n]\)到\([k]\)的随机满射(surjection)开发了高效的均匀采样算法,通过引入“profile”(即每个原像大小对应的原像个数)这一结构来降低采样复杂度,并基于精确大小的Boltzmann采样器实现了参数空间全覆盖的算法。该工作主要贡献在于算法理论上的最优性,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)无直接关联。
Ori Gurel-Gurevich, Asaf Nachmias, Sushant Sachdeva
cs.DS cs.DM math.PR
本文证明了在无权重图上,随机边两端之间单位电流的\(L_1\)范数不超过\(2\log n\),并推广到加权图上谱范数的类似界,改进了之前的\(O(\log^2 n)\)结果。该工作与关键词中的spectral概念有一定关联,但方法本身并非开创性突破。
Alex Crane et al.
cs.DS
本文研究了算法微分中的顶点消除问题,通过设计新的整数规划公式来求解最优消除顺序,并基于此评估了现有启发式算法的性能。
Mengyuan Hu et al.
cs.DS cs.DM
本文研究了在图中用顶点不交的星形结构覆盖最多顶点的问题,其中每个星形的卫星数在区间\([k, \ell]\)内。针对四种不同参数设置,提出了改进的近似算法,并证明了当\(k=2\)时该问题是APX-hard的。
Hong Li et al.
cs.DS
本文研究了prize-collecting rural postman problem (PCRPP),指出通过将其转化为prize-collecting traveling salesman problem (PCTSP)的朴素方法存在固有的因子2障碍,并提出了一个近似比严格小于1.6的多项式时间近似算法。
Vasiliy S. Shlyk
cs.DS cs.DB
本文提出了一种针对低基数整数数据的缓存感知频率排序算法CAFS,利用SIMD和基数估计器在x86-64架构上实现了高效排序。实验表明,在基数远小于数组长度时,其吞吐量显著优于多种主流排序算法。
David G. Harris et al.
cs.DS
本文提出了一种名为Dirichlet mechanism的新方法,用于在二分图匹配问题中实现具有强负相关的随机舍入,该方法通过让每个左节点为其边抽取Dirichlet随机变量,然后由右节点基于这些值选择边,从而避免了复杂的平局处理机制。
Gil Halevi, Daniel Zhang, Jason Zhang
cs.DS cs.CC cs.CG
本文提出了平移下的Chamfer距离问题,并给出了多个近似算法,包括一维精确算法和高维近似算法,但未直接涉及关键词中的概念。
Samuel B. Hopkins, Stefan Tiegel
cs.DS cs.LG math.ST stat.ML
本文研究了矩阵\(2 \rightarrow q\)范数的多项式时间近似算法,给出了一个超越简单谱算法基线(\(d^{1/4}\)-近似)的多项式因子改进,例如对\(q=4\)情形达到\(d^{1/8}\)-近似。该工作还构造了sum-of-squares证书,用于改进鲁棒统计估计问题。
Bundit Laekhanukit, Pasin Manurangsi, Ohad Trabelsi
cs.DS cs.CC
本文通过从Densest \(k\)-Subgraph (D\(k\)S)到Densest At-Least-\(k\)-Subgraph (DAL\(k\)S)的归约,证明了在D\(k\)S难以近似的前提下,DAL\(k\)S的近似难度下界,并进一步推广到参数化版本。该工作主要关注近似算法与计算复杂性,与关键词中的code, context, spectral, Muon, pretrain, agent, attention无直接关联。
Ishant Garg
cs.DS
本文在Apple Silicon ARM64架构上对bit vectors的rank和select查询进行了工程实践研究,评估了多种压缩表示方法(如BlockBitVec、FastBitVec和RRRBitVec)的性能,并展示了通过不对称块边界和采样索引实现的加速效果。该工作主要关注数据结构工程优化,与您提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)无直接关联。
Eshwar Srinivasan, Ramesh Hariharasubramanian
cs.DS cs.DM math.CO
本文研究了边远遗传图类(edge-apex和edge-add类)上的加权最大团问题(WMCP)和加权最大独立集问题(WMISP),通过引入\(\mathcal{G}\)-边距离的概念,证明了当基类\(\mathcal{G}\)上这些问题可多项式求解时,距离为\(k\)的图可在\(O^*(2^k)\)时间内求解。
Komal Muluk
cs.DS math.OC
本文研究了Bilevel Independent Set问题的计算复杂性,将问题按leader和follower的目标函数类型(sum或bottleneck)以及follower的反应模式(乐观或悲观)分类,并证明了这些变体在多项式层级中的复杂度从P到\(\Sigma_2^\mathsf{p}\)-完全不等。对于Bilevel Interval Selection问题,当双方目标函数均为sum类型时,给出了一个时间复杂度为\(\mathcal{O}(n^4\log n)\)的动态规划算法。

others

Shi Liu et al.
cs.CR cs.AI
本文系统性地研究了针对LLM Agent的Tool Description Poisoning (TDP)攻击,这是一种新型语义攻击,通过将恶意指令注入工具的描述性元数据(即Agent用于规划决策的“手册”)而非可执行代码中。作者构建了MCP-TDP Security Benchmark,一个包含32个真实世界测试用例的高保真沙箱环境,覆盖6种风险类别。评估表明,主流LLM(如GPT-4o)在6种高风险场景下的攻击成功率(ASR)接近100%,且常见的prompt-guardrail防御措施基本无效甚至适得其反(即“防火墙谬误”)。该工作为TDP提供了首个专用安全基准,并提出了“Reactive Self-Correction”防御机制,与关键词“agent”高度契合。
Daniele Picone, Mohamad Jouni, Mauro Dalla-Mura
cs.CV cs.AI eess.IV
本文提出一种轻量级adapter,通过projection mapping将预训练的RGB denoiser(去噪器)冻结并复用于高光谱图像恢复。该方法对低维spectral projections进行去噪,并通过约束线性聚合重建高光谱立方体,同时保持plug-and-play兼容性。实验在去噪、去模糊和超分辨率任务上一致优于高光谱专用baseline,展示了大规模RGB prior的强迁移能力,与关键词"pretrain"和"spectral"高度契合。
Mahavir Dabas et al.
cs.CR cs.LG
本文首次系统性地研究了LLM agent中由长期记忆引发的工具调用偏差问题(memory-induced tool-drift),并提出了MEMDRIFT基准测试,涵盖5种偏差维度和7个专业领域的105个场景。实验表明,在7个前沿模型上,有偏记忆可使工具调用参数偏离无偏基线最多+3.6分(1-5分制),且该现象在三种生产级记忆架构中持续存在。机制上,有偏记忆通过隐式steering vectors影响模型activation,并导致attention从任务相关context向表面关键词匹配的记忆条目转移。该工作揭示了当前agent安全机制的一个系统性漏洞,与关键词中的agent和context高度相关。
Wei Song et al.
cs.CV cs.AI
本文提出了一种名为Channel-wise Vector Quantization (CVQ)的图像tokenization新范式,将传统基于patch的离散token分配转变为对feature map每个channel进行量化,从而将图像表示为视觉细节的离散层级而非空间patch网格。基于CVQ,作者进一步提出了Channel-wise Autoregressive (CAR)模型,采用“next-channel prediction”策略,按顺序预测图像通道以逐步丰富视觉细节,模拟人类艺术家的创作流程。实验表明,CVQ在无需额外技巧的情况下实现了16K+ codebook size的100%利用率,并显著提升了重建质量;CAR在text-to-image generation任务上取得了DPG 86.7和GenEval 0.79的优异成绩,证明了其有效性。该方法在codebook utilization和visual autoregressive modeling方面具有开创性,与关键词“code”和“attention”高度契合。
Shuchen Meng, Xupeng Chen
q-fin.GN cs.AI cs.GT
本文研究了AI驱动的投资策略在规模化应用时产生的自败效应,通过建立alpha半衰期模型分析了信号拥挤、表现性信号侵蚀和红皇后竞争三个相互强化的机制,并基于SEC 13F表格数据进行了实证验证。
Yatong Wang et al.
cs.DC cs.CL
本文提出了一种名为LoRA-CR的冲突消解模块,用于解决云边协作中多个LoRA适配器融合时的参数冲突问题,并构建了跨域基准MMLU-CD。实验表明现有融合方法在跨域任务上表现不佳,而LoRA-CR能提升最多3.8%的性能。
Nikos Pagonas et al.
cs.DC cs.AI cs.MA
本文提出VineLM,一种通过带注释的trie结构实现细粒度模型选择的agentic workflow管理器,能在运行时根据请求级目标(如成本或延迟预算)动态调整每个stage的模型选择,并通过checkpointing和cascade profiling降低离线profiling成本。
Sai Sathvik Vadari
cs.DC cs.LG cs.PF
本文通过跨架构实验测量了GPU在空闲状态下因CUDA context导致的功耗增加,发现空闲功耗主要由DVFS状态决定,而非显存占用,并推导了冷启动的能耗平衡模型。
Federico Belotti et al.
cs.CY cs.AI
本文研究了AI和LLMs在实验经济学中常用的真实努力任务中的表现,发现大多数任务可以被低成本高精度地自动化完成,仅少数任务难以被自动化。这为在无监督环境中使用真实努力任务的有效性提出了边界条件。
Erin T. Jacques et al.
cs.CY cs.AI
本文使用Authority Signals框架分析了Claude AI在回答健康问题时引用来源的权威信号,发现绝大多数引用来自医疗机构、政府和专业协会等传统权威来源,但商业来源也包含一定权威性标记。该研究为评估AI生成健康信息的可信度提供了描述性基线,但方法上缺乏开创性且与关键词关联较弱。
Andrea Ferrario
cs.CY cs.AI cs.LG
本文讨论了欧盟AI法案中高风险AI系统的身份识别问题,提出了一个基于功能+框架的AI身份理论,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Moiz Imran, Sahan Bulathwela
cs.CY cs.AI cs.CL
本文研究了智能辅导系统中“正确答案陷阱”问题,即学生通过错误推理得到正确答案时模型难以检测其误解。通过分析Eedi平台的学生回答,发现71%的失败集中在两种特定题型,并比较了微调T5与大型语言模型的检测性能。
Xinyi Gao et al.
cs.CY cs.AI
本文提出KT4EQG框架,利用knowledge tracing模型为学生选择最合适练习的知识概念,并训练基于LLM的question generator生成个性化习题。实验表明该方法能生成比有限个性化方法更有效的题目。
Andrii Vakhnovskyi
cs.CY cs.AI
本文提出了一个用于评估AI驱动的受控环境农业(CEA)作为美国新鲜农产品供应链韧性基础设施的框架(CEA-RIF 2.0),从七个维度分析了其作为网络物理基础设施问题的可行性,并指出了AI只有在改善实际运营指标时才能创造韧性价值。该论文主要关注农业与基础设施领域,与您提供的关键词(code, context, spectral, Muon, pretrain, agent, attention)无直接关联。
Inseo Jung et al.
cs.MA cs.AI
本文提出了SODE框架,用于评估LLM agents在直接互惠、间接互惠和群体动力学三个维度上的社会行为,发现指令微调模型存在被动顺从问题,而推理模型则倾向于短期优化。该工作为AI agents的社会动态对齐提供了机制层面的benchmark。
Yong Zhang et al.
q-fin.TR cs.GT cs.LG
本文提出了一种基于博弈论的异构投资者交互建模方法用于股票价格预测,通过将博弈机制嵌入异构图结构来模拟投资者间的动态策略交互,并采用时间位置编码反映不同时间步的影响。实验表明该方法在真实数据集上优于现有技术,但与我提供的关键词列表关联度较低。
Scott Counts et al.
cs.CY cs.AI econ.GN
本文通过分类分析约550万次M365 Copilot Chat的用户交互,描述了企业环境中AI助手的使用模式,发现写作、信息检索、分析和决策制定是主要用途,并指出使用情况在不同职业间存在差异。
Mingqing Wang et al.
q-bio.BM cs.LG
本文提出ProtDiS框架,通过知识引导的表示分解方法,将预训练的蛋白质微环境嵌入分解为生物学相关的特征,并在多个下游任务中取得改进。该方法受信息瓶颈原理启发,旨在平衡信息性与压缩性。
Roman Klypa, Alberto Bietti, Sergei Grudinin
q-bio.BM cs.AI cs.LG
本文提出Moirain模型套件,通过多模态监督微调和直接偏好优化(DPO)实现条件RNA序列生成,在蛋白质结构特征约束下生成具有更好结合亲和力的RNA序列。该方法主要关注RNA-蛋白质相互作用设计,与关键词中的code, context, spectral, Muon, agent, attention等概念关联较弱。
Marie Soehl Coolsaet, Roberto Gallardo, Zhen Gao
q-fin.ST cs.LG
本文研究了使用Transformer模型进行股票回报预测,通过在多伦多证券交易所指数上进行预训练再微调于个股,并与LSTM和XGBoost模型对比性能。预训练策略降低了二分类交叉熵损失,但整体方法在预测精度上未表现出显著的开创性突破。
Celle Hendrickx, Fabio Pavirani, Chris Develder
eess.SY cs.AI
本文提出了一种针对电池储能系统的两阶段控制框架,通过数据驱动的Monte Carlo优化生成时变FCR投标序列,并利用Deep Reinforcement Learning agent进行实时不平衡交易,相比均匀投标基线实现了7.56%的利润提升。
Kyungmi Na et al.
q-bio.NC cond-mat.mtrl-sci cs.AI physics.app-ph
本文提出将感知智能作为可训练的metamaterial属性,通过可微仿真优化几何结构以重塑外部刺激为内部信号,从而提升神经网络感知精度或减少电子传感器数量。
Sani Biswas, Preetam Singh, Amit Kumar Gangwar
physics.chem-ph cs.LG physics.app-ph
本文提出了一种物理引导的机器学习框架,用于从混合相SnO-SnO\(_2\)气体传感器的电阻瞬态中推断一氧化碳浓度。研究通过可解释的物理描述符和频域特征,分别分析了p型和n型传感模式下的浓度分类与回归任务。
Eugene Yu Ji, Igor Grossmann, Amir-Hossein Karimi
q-bio.NC cs.AI cs.CY cs.HC eess.SY
本文主张将元认知(metacognition)作为生成式AI中有限且有效的自我治理的科学框架,通过计算、算法和生态三个层次的分析,论证了元认知能使系统在生成活动的同时实现自我监控与调控。该论文主要是一篇立场性文章,未提供具体的数学方法或解决长期存在的技术问题。
Luis F. Schachner et al.
cs.DB cs.IR
本文提出了一种联邦语义知识图谱架构,用于捕获实验室工作流中的隐性专家知识,并通过AI访谈代理和结构化启发方法构建可查询的图表示。该方法展示了跨子图查询的能力,但未直接涉及代码、上下文、谱、Muon、预训练、智能体或注意力等关键词。
Han Chen et al.
cs.DB cs.AI cs.MA
本文提出MemForest,一种将agent memory重构为write-efficient temporal data management问题的框架。它通过parallel chunk extraction和hierarchical temporal index (MemTree)来替代full-state rewrites,从而降低维护开销并提升memory construction throughput。
Xianke Qiang et al.
cs.DC cs.LG
本文提出TSFLora框架,通过结合attention-guided token选择与合并、低比特激活量化及LoRA微调,在split federated learning中压缩中间token序列,以减少无线边缘网络中的上行通信与设备内存开销。实验表明该方法在ViT模型上能显著降低通信量并节省内存,同时保持可比的准确率。
Aaron Sonabend-W et al.
physics.ao-ph astro-ph.EP cs.LG
本文利用GOES-East卫星的ABI成像仪数据,结合物理引导的神经网络模型,以10分钟时间间隔和约2km²空间分辨率估算大气干空气柱CO₂摩尔分数(XCO₂),展示了高时空覆盖在观测城市CO₂增强和农业区域CO₂吸收方面的潜力。
Yiwei Li et al.
cs.CV cs.AI
本文提出GazeWorld,一种将放射科医生的注视序列建模为图像世界中的轨迹的world model,通过自回归预测注视点patch的latent representation并覆盖未访问区域,在多个医学影像基准上取得了先进的诊断和注视预测性能。
Siqiao Huang et al.
cs.CV cs.AI cs.LG
Nano World Models是一个用于未来视频预测的极简代码库,基于diffusion forcing方法,提供了统一的接口来研究生成目标、模型规模、动作条件等组件对视频预测质量的影响。该工作旨在为世界模型研究提供一个可复现、易扩展的实验平台。
Jack Parry, Jack Saunders, Vinay Namboodiri
cs.CV cs.AI
本文提出了一个针对数字avatar水印的基准测试RAW和基线方法WALT,通过3D人脸重建在UV纹理空间嵌入水印,以应对背景移除等攻击。
Chathura Wimalasiri
cs.CV cs.AI
本文系统综述了自监督学习在医学图像分析中的应用,按对比、非对比与预测、生成与重建、混合学习四种范式分类分析了75项研究,指出预训练任务与下游目标的对齐是关键,但未提出开创性方法或解决长期问题,与关键词关联度低。
Chenghao Li et al.
cs.CV cs.AI cs.LG
本文提出IVR-R1框架,通过奖励驱动的筛选机制和迭代视觉对齐来修正多模态大语言模型在长程推理中的视觉幻觉和逻辑错误,在多个基准测试中优于现有强化学习方法。该方法主要针对视觉-文本信息不对称问题,但与我提供的关键词列表关联度较低。
Junyi Wu et al.
cs.CV cs.AI cs.LG
本文提出Diff-Instruct with Diffused Reward (DIDR)框架,通过Integral KL最小化将RLHF最优的reward倾斜分布沿扩散轨迹传播,以解决一步生成器在奖励优化与图像保真度之间的权衡问题。该方法引入Diffused Reward Score (DRS)作为奖励驱动的score function修正,并利用可微短步去噪的Diffused Reward Proxy (DRP)实现高效估计,实验表明其在SDXL和DiT骨干网络上优于现有基线。
Bowen Deng et al.
physics.chem-ph cond-mat.mtrl-sci cs.AI physics.comp-ph
本文提出了AtomisticSkills框架,利用LLM agents将原子尺度研究中的科学工作流分解为模块化技能和工具,整合了超过100个跨学科技能,并在多个科学任务中验证了其编排能力。
Shuang Liua, Fiona Johnson, Rohitash Chandra
cs.CV cs.AI stat.AP
本文比较了传统线性插值与深度学习模型(CNN, Inception Resnet, Autoencoder, CNN-LSTM等)在多光谱遥感图像缺失数据插补中的表现,发现深度学习模型显著优于基线方法,其中CNN在多数湖泊中表现最佳。研究验证了插补后的图像可用于计算藻华指数,从而支持更可靠的水体监测应用。
Daniel Barley et al.
cs.DC cs.LG
本文提出了一种表格化的pipeline schedule抽象方法,用于评估大语言模型分布式训练中的pipeline parallelism策略。通过连接公式推理、理想化调度表和通信感知执行模拟,作者比较了GPipe、1F1B、Chimera和Hanayo等调度方案,发现通信开销会改变仅由bubble分析得出的性能排名。
Zachary James, Joseph Guinness, Arthur DeGaetano
physics.ao-ph cs.LG
本文使用AI diffusion model改进CAPE(对流有效位能)的集合预报,通过两阶段训练和classifier-free guidance提升预报技巧与不确定性量化,并加入气溶胶信息(AOD)作为输入特征。该方法在统计指标上优于传统GFS和GEFS预报,但未涉及关键词中的code、context、spectral、Muon、pretrain、agent或attention等概念。
Arash Akbari et al.
cs.CV cs.AI
本文提出ActQuant,一种面向视觉-语言-动作(VLA)模型的子4比特动作引导混合精度后训练量化(PTQ)框架,通过跨张量比特分配器和张量内尺度优化器来保留动作预测性能,并配套了C/C++运行时部署工具。实验表明该方法在LIBERO基准和真实UR3机械臂上实现了显著的模型压缩与性能保持。
Jeongmin Jin et al.
cs.AR cs.AI
本文提出了一种名为SA-Kura的专用systolic array加速器,用于高效执行扩散采样中locally-coupled Kuramoto drift的计算。通过将非线性stencil运算重构为规则化的neighbor accumulation,该设计在硬件上实现了显著的加速和能效提升。
Zhong Wang et al.
cs.CV cs.LG
本文提出MGVQ框架,通过多维度敏感度感知和梯度-海森融合改进向量量化在视觉语言模型上的应用,解决了跨模态权重分布差异和一阶梯度信息缺失问题,在2-bit量化下取得显著性能提升。
Van Quang Nguyen
cs.CV cs.AI
本文提出了三种新颖的架构来改进视觉-语言任务:GRIT用于图像描述,LTMI用于视觉对话,以及一个两阶段指令解释框架用于交互式指令跟随。这些方法分别通过整合grid和region特征、轻量级attention机制以及多视角层次化attention来提升性能。
Youwei Pang et al.
cs.CV cs.LG
本文提出了一个针对大模型特征编码(LaMoFC)的系统性评估框架和基准数据集LaMoFCBench,覆盖多种任务场景和分割计算设置,并揭示了现有通用特征编码范式与大模型异构特征之间的严重不匹配。
Pablo Rodriguez Manzi
q-fin.CP cs.LG
本文比较了多种深度学习模型(包括多层感知机、卷积网络、U-Net、变分自编码器和Transformer)在无套利约束下从稀疏期权报价重建隐含波动率曲面的效果,发现Transformer和U-Net在稀疏观测下表现较好,且软套利惩罚能有效减少套利违规。
Lopamudra Dey
q-bio.GN cs.AI
本文使用带有attention机制的卷积神经网络WTKO-CNN对DNA序列进行分类,并通过saliency map识别关键核苷酸位置,进而发现区分野生型和敲除型ATAC-seq峰的功能序列motif。该方法为理解染色质调控中的序列差异提供了计算工具。
Zikang Zhou et al.
cs.CV cs.AI
本文提出Mode-as-Sequence框架,将多模态运动预测中的无序模式集转化为有序模式序列,并显式建模模式间的依赖关系。通过ModeSeq和Parallel ModeSeq两种实现,该方法缓解了模式坍塌和置信度排序问题,在Waymo数据集上取得了领先性能。
Zongyuan Ge et al.
physics.space-ph astro-ph.EP astro-ph.IM cs.LG
本文提出了一个名为Aurora Hunter的两阶段级联框架,用于预测极光可见性。第一阶段使用XGBoost基于51个物理特征预测极光是否发生,第二阶段使用逻辑回归基于21个云量和月光特征预测在极光发生时的清晰观测概率,最终通过乘积得到可见性概率。该方法在多个数据集上取得了较好的ROC-AUC分数,并验证了跨站点的泛化能力。
Hongwen Song, Song
cs.SE cs.AI stat.AP
本文研究了LLM agent技能库扩展时性能下降的现象,将其归因于skill shadowing(技能选择错误增加)和context overhead(上下文增大影响执行)两种效应,并通过实验表明skill shadowing是主要瓶颈。
Minghui Qiu et al.
physics.ao-ph cs.LG
本文提出MeteoLogist框架,通过整合热力学、动力学和微物理等多源气象驱动因子来改进雷达回波临近预报,利用物理定制编码器和时序相位对齐器解决异步和空间碎片化问题。该方法在3D-NEXRAD数据集上提升了高影响天气检测性能,但未涉及关键词中的code、context、spectral、Muon、pretrain、agent或attention等概念。
Lucia Celli
stat.ML cs.LG math.PR
本文研究了有限宽度全连接神经网络输出的非渐近Edgeworth展开,证明了在可逆协方差矩阵条件下,任意阶展开与真实分布之间的总变差距离有界,并给出了匹配的下界。该工作主要关注统计近似理论,与关键词列表中的主题关联较弱。
Ihor Neporozhnii, Sjoerd Hoogland, Oleksandr Voznyy
physics.chem-ph cs.LG
本文提出了一种利用半经验轨道电荷的多任务学习方法,以提升机器学习原子间势(MLIPs)的样本效率。该方法通过预测与原子数线性相关的GFN1-xTB轨道电荷,在保持推理效率的同时,显著降低了能量预测误差。
Ernest Fokoué
stat.ML cs.LG
本文论证了因果推断(causal inference)是人工智能不可或缺的统计良知,指出缺乏因果基础的AI系统在分布偏移下脆弱且易产生偏见。文章通过统计必要性定理、统一因果统计估计框架以及AI失败模式分析,强调了因果统计对于实现可信AI的核心作用。
Sadjad Alikhani et al.
eess.SP cs.LG
本文提出LWM-CDE方法,通过对比学习和几何形状损失微调无线基础模型的dataset embedding,构建了一个结构化的manifold,其中距离可指示模型迁移性能。该方法在无线通信任务中比现有指标更高效地关联了实际迁移表现,但未涉及code、spectral、Muon或agent等关键词。
Yifeng Di, Xuliang Huang, Tianyi Zhang
cs.SE cs.AI cs.CL
本文提出了TRACER框架,用于检测代码大语言模型中的数据污染问题,通过三种语义重叠级别(功能相同、几乎相同、共享逻辑)进行细粒度检测。该框架在多个基准测试上取得了较好性能,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Shu Liu et al.
cs.DB cs.AI cs.DC cs.SE
本文提出了一种基于LLM的Just-in-Time系统合成方法Jitskit,用于从零开始为特定工作负载和环境合成key-value store系统。该方法通过迭代优化系统实现来匹配规格要求,在18个测试规格中性能均优于现有系统。
Vansh Garg et al.
cs.RO cs.AI
本文提出了一种名为MASt3R-Nav的视觉导航方法,通过构建基于像素对应关系的相对3D地图(WayPixel Costmap)来实现路径规划与控制。该方法利用图像对间的像素匹配建立地图,避免了全局几何一致性要求,并在仿真和真实场景中验证了其导航能力。
Taj Jones-McCormick
stat.ML cs.LG stat.CO
本文提出了一种基于边际轨迹分布判别的高维亚稳态盆地检测方法,通过比较轨迹分布的Bayes最优分类器风险来区分不同吸引域,并设计了神经网络算法迭代合并候选代表点。该方法在合成高维噪声系统中优于传统谱方法和聚类方法,但未涉及代码、上下文、谱方法、Muon、预训练、智能体或注意力机制等关键词。
Hinduja Nirujan et al.
cs.SE cs.AI
本文针对LLM生成的bug报告摘要中的幻觉问题,提出了一种基于section感知的检测方法,通过注入合成幻觉构建基准数据集,并联合预测幻觉内容、受影响section及类型。实验表明该方法在多个预训练语言模型上表现良好,但该工作主要聚焦于软件工程领域的特定应用,与我提供的关键词(如spectral, Muon, pretrain, agent, attention)关联度较低。
Srijita Basu et al.
cs.SE cs.AI
本文通过分析两个LLM agent(Designer和Programmer)在Fibonacci游戏开发中的对话模式,研究了多agent编程中的效率、一致性和有效性。实验发现DeepSeek-R1:DeepSeek-R1组合能稳定收敛到正确解,而其他组合则表现不佳。
Bowen Duan et al.
cs.AR cs.LG
本文提出EVA架构,通过将输入向量与权重codebook直接进行dot product计算,将LLM decoding阶段的GEMV运算转化为GEMM运算,并设计无冲突的codebook查找机制,从而加速decoding过程。
Luis L. Fonseca, Reinhard C. Laubenbacher, Lucas Böttcher
math.DS cs.LG q-bio.QM
本文提出了一种结合生化先验知识的神经ODE框架BINODEs,通过将神经网络过程映射到状态导数来保留化学计量结构,并利用Monod、Lotka-Volterra等模型验证了其恢复轨迹和过程级结构的能力。该方法在机制可解释性与数据驱动灵活性之间取得了平衡,但与我提供的关键词列表关联度较低。
Binglu Wang et al.
physics.soc-ph cs.AI cs.DL cs.HC
本文通过一项大规模随机田野实验,研究了大型语言模型(LLM)在科学反馈中的作用。实验为超过31,000篇arXiv预印本提供了定制化的AI反馈,发现接受反馈的作者更可能修改手稿,并增加了后续使用LLM工具的概率,尤其对非英语主导地区、低h-index团队和早期职业研究者效果更显著。
Darek Kleczek et al.
cs.DB cs.AI cs.LG
本文提出了AvalancheBench,一个用于评估企业数据agent的benchmark,通过“潜在世界恢复”来测试系统对数据中分析结构的理解,而非仅关注流程完成度。实验表明,即使是最强的coding agent配置也只能恢复26%的评估标准,错误集中在客户细分和事件合并上。
Saebyeol Shin et al.
cs.SD cs.LG
本文采用cycle-consistent translation框架,利用少量配对数据和大量未配对音频-乐谱数据提升音乐转录模型性能。实验表明未配对数据能显著改善转录效果,尤其当标注数据稀缺时,且未配对音频贡献大于未配对乐谱。
Sevan Brodjian, Michael Hobley, Pietro Perona
cs.CV cs.LG
本文提出了一种基于可微渲染的单视角成像声纳海底地形恢复方法,无需训练数据即可在30秒内从单张声纳图像恢复bathymetry。该方法通过可微声纳光线追踪优化显式高度场,在合成数据集上表现优于分布偏移下的监督CNN。
Yuval Lev Lubarsky et al.
cs.DB cs.LG
本文提出了一种将深度学习设计自然集成到数据库查询中的方法,通过为每个tuple关联可学习的vector embedding,将查询操作扩展到同时处理数据和embedding。该方法旨在简化关系数据上的神经网络实现,并基于PyTorch和cuDF构建了概念验证系统RelaNN。
Siqi Li et al.
stat.AP cs.AI cs.LG stat.ML
本文提出DRUM框架,用于在目标域中某些协变量结构性缺失且无标签时进行分布鲁棒的迁移学习。该方法通过神经网络生成器优化最坏情况下的预测性能,并引入偏差校正程序,在跨国家心脏骤停预测中展示了改进效果。
Zhimin Zhao et al.
cs.SE cs.AI cs.LG
本文对57个机器学习评估工具进行了实证研究,推导出五阶段工作流模型,并分类了16,560个问题。研究发现大多数操作挑战集中在规范阶段,主要根因包括未实现功能、文档缺失和输入验证不足。
Yannik Dittmar et al.
cs.CR cs.AI
本文首次对Apple的Private Cloud Compute (PCC)系统进行了逆向工程分析,评估了其隐私保护声明的可信度,并开放了非公开接口以支持自定义查询和模型基准测试。
Diogo Lavado, Alessandra Micheletti, Clàudia Soares
cs.CV cs.AI stat.ML
本文提出GIBLy,一种轻量级几何归纳偏置层,通过集成可学习的几何先验(如简单几何形状)来提升3D语义分割性能,在多个基准上取得一致提升。该方法与关键词列表中的概念关联较弱。
Irene Chang, Tarek M. Zikry, Genevera I. Allen
stat.ML cs.LG
本文提出MEDAL框架,通过训练约束autoencoder将已拟合的manifold embedding蒸馏为可复用的encoder-decoder模型,从而为非线性降维方法(如t-SNE和UMAP)提供out-of-sample映射和近似逆映射。该方法主要解决manifold embedding缺乏定量验证的问题,但未涉及code、spectral或agent等关键词。
Alfredo Metere
cs.CR cs.AI cs.SE
本文针对Model Context Protocol (MCP)中缺乏信任机制的问题,提出了一个名为mcp-attested的安全扩展方案,通过离线签名的clearance assertion、默认拒绝的tool allowlist以及分级的enforcement mode来限制LLM agent对外部tool server的访问。该工作主要面向agent安全领域,与关键词中的“agent”有一定关联,但方法本身并非开创性,且未涉及code, context, spectral, Muon, pretrain, attention等关键词。
Zahra Rahimi Afzal et al.
cs.CV cs.AI cs.IR
本文提出了一种基于聚类的冗余减少实例采样方法CRISP,用于病理学病例表示和检索,通过无监督方式整合病例中所有全切片图像的信息,构建病例级表示。该方法在乳腺癌数据集上匹配或超越了当前标准实践,但未涉及代码、上下文、谱方法、Muon、预训练、智能体或注意力等关键词。
Nazif Can Tamer et al.
cs.SD cs.CL cs.MM
本文提出了一种名为Rubato的prompt-conditioned encoder-decoder模型,用于将钢琴录音转换为带时间戳的乐谱。该模型使用新设计的文本表示InterMo,在生成带时间戳的钢琴乐谱方面优于现有级联方法,并展示了在多任务学习上的优势。
Ahmed Sabbah et al.
cs.CR cs.AI cs.LG
本文提出了一种结合self-supervised learning和reinforcement learning的Android恶意软件检测框架,用于应对部署后的concept drift问题。该方法通过冻结encoder并利用proximal policy optimization控制器选择低成本的维护动作,在模拟和真实数据集上实现了性能与维护成本的平衡。
Mohammed Kharma et al.
cs.CR cs.AI cs.LG
本文评估了多种prompt engineering方法对LLM生成代码安全性的影响,发现WA-0CoT策略虽能改变漏洞的类别分布,但无法显著降低整体漏洞频率或密度。
Mohammed F. Kharma et al.
cs.CR cs.AI cs.LG
本文提出了Mitigation-Aware Chain-of-Thought (MA-CoT)框架,通过在prompt中嵌入CWE缓解指导和语言感知的安全机制,提升了LLM生成代码的安全性。实验表明该方法能显著减少安全漏洞,但主要贡献在于安全工程实践,而非理论或算法层面的开创性突破。
Inseo Lee et al.
cs.CV cs.AI
本文提出ArtSplat,首个前馈式(feed-forward)articulated 3D Gaussian Splatting框架,能从稀疏多状态未标定视图重建几何与joint参数。通过引入per-pixel joint map表示和Cross-State Attention机制,该方法在单次前向传播中完成重建,速度比基线快400倍以上。
Toheeb Ogunade, Taofeek Kassim, Etinosa Osaro
quant-ph cs.LG
本文通过匹配输出维度和强经典控制,系统比较了振幅、角度和基编码作为确定性特征映射在经典监督学习中的表现,分析了每种编码的几何特性(如有效秩、条件数等),发现固定量子启发编码几何本身并不能为经典数据提供可靠的机器学习优势。
Minghao Li et al.
cs.DC cs.AI cs.NI
本文基于Meta的生产经验,探讨了跨数据中心(scale-across)的大规模AI模型训练中的通信优化问题。作者提出了ScaleAcross Explorer优化器,通过联合优化并行放置、并行调度和网络层技术,实现了最高64.62%的训练加速。
Hanxuan Ye, Hongzhe Li
stat.ML cs.LG
本文对multicalibration boosting (MCBoost)方法进行了统一的理论分析,证明了其迭代收敛于population-optimal predictor的Bregman projection,并给出了收敛速率和有限样本保证。文章还扩展了其在协变量偏移下的迁移性理论,为现代预测模型提供了后处理框架。
Rafael Mendonça Duarte, Jean Roberto Ponciano, Lucas Pascotti Valem
cs.CV cs.LG
本文提出GRaNDe,一种结合邻域排序与高斯距离加权的degree measure,用于改进Graph Neural Networks在图像分类中的message propagation。实验表明该方法在多个数据集上提升了分类准确率。
Yuanhe Tian, Yan Song
cs.CV cs.CL
本文提出SliceWorld,一种用于CT报告生成的world-state框架,将CT扫描视为沿z轴的序列,通过编码解剖、病变和不确定性等因子感知的潜在状态,实现未来切片特征预测、病变因子干预和基于LLM的报告生成。该方法在M3D-Cap和CT-RATE上提升了自然语言生成指标,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Alexander He, Nana Liu, Mark M. Wilde
quant-ph cond-mat.stat-mech cs.DS cs.LG
本文提出将Fermi-Dirac machines重新解释为经典神经元的canonical quantization,通过将经典变量替换为算子来构建quantized neuron,并开发了混合量子-经典算法用于评估和训练。文章还证明了基于Fermi-Dirac神经元的决策问题是BQP-complete的,暗示其难以被经典计算机高效模拟。
Dahoon Park et al.
cs.AR cs.AI
本文提出了一种名为MX-SAFE的灵活MXFP格式,通过自适应切换宽尾数模式(FP8 E2M5)和次正规FP模式(FP5 E3M2)来同时支持训练和推理,并设计了基于tile的块结构以提高硬件效率。实验表明,该格式在推理和全训练中相比MXFP8 E2M5和MXFP8 E4M3分别平均提升了0.05%/11.1%和3.55%/3.57%的精度,且相比BF16基线节省了24.9%的总能耗。
Tarun Gehlaut et al.
cs.CV cs.AI cs.GR
本文提出了一种基于VLM的图像矢量化模型VectorArk,采用rounded polygon表示简化学习过程并生成平滑图元,同时引入退化模型增强对真实场景输入的鲁棒性。实验表明该方法在多个数据集上优于现有方法。
Rohan Pandey, Archit Bhujang
cs.CR cs.LG
本文研究了LLM增强安全运营中的日志注入攻击,提出了一种四类攻击分类法,并评估了不同防御策略的效果。研究发现直接覆盖攻击无效,而角色劫持和上下文操纵攻击成功率较高,表明日志内容应被视为对抗性输入。
Hua Li et al.
stat.ML cs.LG
本文提出了一种基于Stochastic Dominance (SD) 检验统计量的聚类分析框架,通过构建"Stochastic Dominance Coefficient Matrix"来替代传统的几何距离度量,并改进了K-means和Hierarchical Clustering算法。该方法旨在为不同风险偏好的投资者提供定制化的资产配置方案,并在美国NASDAQ指数和中国CSI 100指数数据上验证了其有效性。
Kai Fang, Hailong Pei, Xuemin Chi
cs.RO cs.LG
本文提出了一种名为POTR的prior-corrected orthogonal trust-region guidance方法,用于改进flow-matching机器人策略中的动作块推理连续性。该方法通过引入数据先验尺度和正交信任域约束来优化校正信号,在LIBERO基准上相比现有RTC方法提升了成功率并减少了动作不连续性。
Jayprakash S. Nair, Jimson Mathew, Shivashankar B. Nair
cs.MA cs.LG cs.RO
本文提出了一种受Reinforcement Learning启发的潜在收益机制,用于在动态环境中自适应切换算法。该方法通过聚合算法在多个问题实例上的性能,并利用island model进行并行探索,在排序算法和机器人避障任务上验证了有效性。
Shiladitya Dutta et al.
cs.RO cs.LG
本文提出了一种基于强化学习的视觉引导无人机室外飞行与避障策略,使用立体视觉深度和视觉惯性里程计实现自主导航。该方法通过两阶段训练(先使用全局运动规划器生成的最优轨迹进行监督学习,再在课程环境中微调)并结合域随机化来弥合仿真到现实的差距。
Alin-Gabriel Văduva et al.
cs.SE cs.AI
本文提出了一种基于agent架构的代码到UML图自动生成系统Code2UML,通过五个专门agent和确定性IR压缩层来解决LLM上下文限制问题。实验在12个开源仓库上验证了该方法在语法有效性(平均91.5%)和关系精度(平均0.858)上的表现,但实体召回率较低(0.313),反映了架构优先于全面覆盖的设计选择。
Hongshuo Zhao, Zeyi Liu, Xiao He
eess.SY cs.LG
本文提出了一种基于非对称适应的实时故障诊断方法,用于处理工业数据流中的过渡工况分布偏移问题。该方法在离线阶段通过domain generalization提取域不变特征并构建归一化故障原型,在线阶段则利用周期性原型重投影机制进行test-time adaptation,并采用非对称学习率策略更新特征提取器和分类器。
Alif Tri Handoyo et al.
cs.CV cs.AI
本文提出MineC2FNet框架,利用粗粒度数据通过teacher-student架构和attentive distillation改进细粒度采矿足迹分割,并引入新数据集。该方法在domain incremental learning中处理domain shift,但与我提供的关键词(如spectral, Muon, pretrain, agent)契合度较低。
Siyuan Duan et al.
cs.CV cs.AI cs.MM
本文提出了一种基于Fuzzy Set Theory的鲁棒多视图学习框架R-FUML,通过将网络输出建模为fuzzy memberships并设计熵值融合策略,以缓解视图冲突对分类决策的影响。实验表明该方法在多个数据集上优于现有baseline。
Khen Cohen et al.
cond-mat.stat-mech cs.LG math.CO physics.comp-ph
本文提出了一种受物理启发的连续松弛框架,通过将离散binary变量参数化为复单位圆上的连续波状态来平滑非凸能量景观,并揭示了促进收敛到离散态的隐式正则化机制。该方法在QUBO、稀疏编码等NP-hard问题上取得了显著改进,但与我提供的关键词列表关联度较低。
Ruihao Xu et al.
cs.CV cs.AI
本文提出了FoodMonitor基准,用于商业厨房监控中的可解释合规性分析,包含477个视频片段和3307个违规标注,并设计了统一评估协议和复合指标\(C_{\text{score}}\)。实验表明,现有多模态大语言模型在该任务上表现有限,主要瓶颈在于空间定位和细粒度规则理解。
Ofir Abramovich et al.
cs.CV cs.AI cs.GR cs.LG
本文提出了一种无需训练的时序视频条件生成方法Φ-Noise,通过将参考视频的低频相位信息注入扩散噪声latents来传递运动线索,无需修改模型架构或推理流程。该方法在控制生成视频的外观和动态方面取得了有竞争力的结果。
Min Tang et al.
cs.MA cs.AI
本文提出了一种名为Adaptive Punishment for Cooperation (APC)的分布式方法,用于在混合动机博弈中通过动态惩罚概率和背叛严重程度来平衡惩罚的效能与成本,从而促进合作。该方法在迭代公共物品博弈和序列社会困境中表现出优于现有基线的性能。
Muhammad Muneeb, David B. Ascher
q-bio.GN cs.LG
本文提出了AnnotateMissense框架,整合了多种特征(包括population frequency、evolutionary conservation、protein-language-model-derived features等)用于missense variant pathogenicity预测,并通过XGBoost模型在ClinVar数据集上取得了高性能。该工作主要聚焦于生物信息学中的变异解读,与关键词中的code、context、spectral、Muon、pretrain、agent、attention等概念关联较弱。
Sassan Mokhtar et al.
cs.HC cs.AI
本文提出了TRAFA,一个用于程序性任务的实时预测反馈系统,通过Track-Forecast-Act框架在错误发生前进行干预,并在顺序装配任务中验证了其相比传统反应式反馈能提升任务准确性和效率。
Luoyu Chen et al.
cs.CR cs.LG
本文提出了一种基于无监督潜在方向发现的对抗训练框架,通过外推拒绝状态下的有害请求激活来模拟越狱激活,并训练势诱导转向场以增强对未见攻击的防御能力。该方法在多个LLM和越狱家族上实现了低于5%的攻击成功率。
Botao Amber Hu, Helena Rong
cs.CY cs.AI cs.MA
本文分析了去中心化AI(DeAI)的治理困境,指出其因缺乏可识别的责任主体而产生了“治理真空”,并主张将治理重心从政策转向协议,通过架构约束而非规范性指令来实现治理。
Petar Radanliev
cs.CR cs.AI cs.LG cs.MA cs.SE
本文探讨了人工智能驱动的自适应对抗优化对公钥密码学安全性的侵蚀,指出算法中心的安全模型与利用实现层面可观测性的实际攻击之间存在日益增长的错位。
Naman Mishra, Shankar Gangisetty, C. V. Jawahar
cs.CV cs.AI
本文提出了PedestrianQA,一个将行人意图和轨迹预测转化为问答任务的大规模视频数据集,并展示了微调视觉-语言模型(VLM)能提升预测精度与解释质量。该工作主要聚焦于自动驾驶中的行人行为建模,与关键词中的“agent”有一定关联,但方法本身并非开创性突破。
Joshua Siy et al.
cs.CV cs.GR cs.LG
本文提出了一种基于Effort Metric Attention (EMA)的强度控制框架,通过将数值化的effort信号作为条件引入human motion diffusion模型,实现了对运动强度的细粒度控制。该方法利用Laban Movement Analysis中的Time和Weight因子,并采用运动学指标进行近似,避免了后验优化。
Ziyan Huang et al.
cs.CV cs.LG stat.ML
本文提出Physen-Noise2Noise,一种自监督的defocus deblurring框架,通过物理模型指导并引入可学习的噪声偏置参数来校正复杂的有偏噪声,无需干净参考图像。实验表明该方法在低光照条件下优于现有自监督方法。
Quanjiang Li et al.
cs.CV cs.AI
本文揭示了多模态大语言模型中的object hallucination与人类注意力分散现象的关联,并提出AFIP方法通过跨头注意力增强和动态历史注意力强化来修正视觉模糊。该方法无需额外训练即可在多个基准上提升性能。
Mustafa Kadhim et al.
physics.med-ph cs.AI cs.CV
本文提出了一种用于盆腔和脑部MRI的无监督异常检测框架,通过两阶段方法(离散token压缩与正常分布建模)结合感知差异和token-surprisal分数来检测伪影和临床异常。该方法在盆腔MRI上取得了0.97的AUC,在脑部MRI上为0.81,并支持热图定位。
Ghassen Marrakchi, Basarab Matei
cs.CV cs.AI cs.LG
本文提出了一种Phase-Aware Scattering Encoder-Decoder,通过在skip connections中显式保留phase信息,来恢复scattering transform在全局平均中丢失的空间结构。在图像去噪任务上,该方法取得了性能提升,并验证了phase编码了位置相关结构。
Alfredo Pesoli, Herman Errico, Lorenzo Cavallaro
cs.CR cs.AI cs.LG
本文从bugonomics(漏洞经济学)视角分析了LLM驱动的漏洞发现对攻防安全的影响,指出当前瓶颈并非发现更多漏洞,而是防御方吸收、验证、分类和修复漏洞的吞吐能力。文章基于Anthropic和Mozilla的公开数据,论证了LLM辅助系统将降低候选漏洞生成成本,但维护者侧的验证与发布能力可能无法同步扩展。
Ruihao Xu et al.
cs.CV cs.AI
本文提出DisDop框架,通过蒸馏遥感基础模型(如RemoteCLIP和DINOv3)中的多级domain priors到轻量级detector中,以提升开放词汇航空目标检测性能。该方法通过teacher fusion策略蒸馏visual priors,并利用textual priors建模类别语义关系,在基准测试上达到新最优结果。
Bokai Zhu, Qinghui Zhang, Timon Rabczuk
math.NA cs.LG
本文提出了一种无数据驱动的弱形式物理信息神经算子WINO,结合了神经算子的效率与\(\varphi\)-FEM的几何灵活性,通过最小化弱形式残差来训练参数,无需大量配对数据集。数值实验表明该方法在变域超弹性问题上达到了高精度,并相比纯数据驱动方法减少了50-80%的计算时间。
Yan Lin Aung, Kevin Togbe
cs.CR cs.AI
本文提出了CyBOKClaw框架,用于将网络安全关键词映射到CyBOK知识体系,采用human-in-the-loop的top-k候选生成策略,并结合查询归一化、术语扩展和排序规则。实验表明,该框架在专家辅助评估指标ECA-5上表现良好,但方法本身属于应用型工具,与关键词列表中的概念无直接关联。
Sam Rosen, Jason Xu
stat.ML cs.LG
本文推广了凸聚类中有限样本界的结论,使其适用于目标函数中亲和权重对应一般连通图的情形。通过基于随机游走的理论框架,分析了图连通性对聚类性能的影响,并给出了质心恢复的新收敛速率。
Bo Li et al.
cs.CV cs.AI
本文提出VaaWIT框架,通过Dual-Stream Attention Module (DSAM)和Visual-Aware Adapter (VAA)将细粒度视觉信息注入Large Language Models (LLMs),用于多语言Web图像翻译。实验表明该方法在多个基准上优于现有开源模型。
Ruyi Chen et al.
cs.CV cs.AI
本文提出了HoloFair框架,用于评估和缓解Text-to-Image模型中的多维偏见,并引入了基于强化学习的Fair-GRPO去偏方法。该工作主要关注公平性评估与生成模型去偏,与关键词中的code, context, spectral等概念关联较弱。
Aysu Aylin Kaplan, Özgür Erkent
cs.RO cs.LG
本文提出了一种基于diffusion model的机器人运动规划方法,通过总碰撞成本的梯度引导去噪过程,并动态选择梯度引导的起始步,以生成无碰撞轨迹。实验表明该方法在M\(\pi\)nets数据集上相比其他方法具有更强的泛化性能。
Michel A. Youssef
cs.CR cs.LG
CALIBURN是一个由五个组件构成的流式入侵检测告警流水线,结合了截断Bayesian在线变点检测、isotonic校准层、成本敏感决策阈值、Conformal Risk Control包装器以及多窗口燃烧率告警层。本文在不同攻击率场景下评估了该流水线的性能,发现其在罕见攻击场景下表现优异,但在高攻击率场景下所有流式方法均接近基线水平。
Shankar Vallinayagam, Ankit Pensia, Varun Jog
math.ST cs.IT cs.LG stat.ML
本文研究了在三种标准污染模型(Huber、subtractive和total variation)下鲁棒二元假设检验的样本复杂度,证明了最不利分布的存在性并给出了显式公式,同时揭示了样本复杂度在污染参数\(\varepsilon\)上的不稳定性以及不同模型间样本复杂度的可比性。
Zhaoxin Yan et al.
astro-ph.SR cs.LG
本文提出了一种融合CNN和预测网络的模型,利用SOHO和SDO的观测数据预测日冕物质抛射(CME)的地磁有效性。实验表明该模型在确定性和概率性预测任务中均表现良好,但方法本身并非开创性,且与关键词列表中的概念无直接关联。
Rei Higuchi et al.
stat.ML cs.LG
本文在Gaussian single-index model下分析了KL-regularized policy optimization中neural reward model的两阶段学习过程,揭示了exponential reward weighting对hidden direction recovery和tilted-policy value gap的影响,并给出了deployment temperature的admissible set。
Ismail Lamaakal
cs.CV cs.AI cs.LG
本文提出Motion-Compensated Weight Compression (MCWC),一种利用permutation symmetry对齐网络层间权重以提升压缩效率的codec方法。该方法通过层间预测与熵编码实现权重压缩,在Transformer语言模型与视觉分类任务上改进了率-精度Pareto前沿。
Matilda Gaddi et al.
cs.CR cs.LG
CYBERMASKQA是一个用于评估大语言模型在网络安全问答中隐私保护能力的benchmark,通过结合人工场景与LLM语义扩展生成包含敏感实体标注的数据集。该工作主要关注隐私-效用权衡的评估,与关键词中的code、spectral、Muon、pretrain、agent、attention等概念无直接关联。
Bruce Changlong Xu, Jose James, Alexander Ryu
cs.CV cs.AI cs.LG
本文通过BiomedCLIP生成的弱标签在三个医学影像基准上校准了经典噪声标签理论中的交叉点,发现弱标签在特定样本量后会降低性能,并提出了一个基于少量金标签的决策规则。该工作主要聚焦于弱监督学习中的理论验证与实验校准,与关键词中的概念关联较弱。
Ojonugwa Oluwafemi Ejiga Peter et al.
cs.CV cs.AI
本文提出了一种用于胃肠道内窥镜的双管道PEFT模型,分别处理医学Visual Question Answering (VQA)和隐私保护合成数据生成。通过Florence-2模型和LoRA微调,在Kvasir-VQA数据集上取得了较好的指标,但方法本身缺乏显著的开创性,且与关键词列表中的概念关联较弱。
Lin Qiu et al.
cs.CV cs.CL
本文提出了一种名为DUEL的自演进后训练框架,通过两个从同一预训练VLM初始化的策略进行对抗性交互来生成监督信号,无需额外人工标注。该方法利用Challenger生成图像相关的真实陈述及其硬负样本,并由Solver进行验证,从而提升多模态推理中的细粒度视觉判别能力。
Siddhartha Ganguly, George Rapakoulias, Panagiotis Tsiotras
math.OC cs.LG cs.RO eess.SY
本文针对高斯混合端点分布下的随机密度控制问题,提出了一种提升路径空间构造方法,通过为每条轨迹附加源-目标分量标签,将问题分解为高斯分量间的Schrödinger桥与有限维熵耦合问题。研究分析了投影后的路径空间障碍,即提升优化器通常无法与直接的无标签Schrödinger桥等同。
Cong Ling, Hao Yan, Nicholas Zhao
quant-ph cs.DS
本文利用量子拒绝采样(QRS)加速了格高斯采样过程,从而改进了对格基密码(如Kyber)的对偶攻击和GPV陷门采样,实现了采样复杂度的二次降低。
Zhipeng Ye et al.
cs.CV cs.AI
本文提出了一种名为Divide-and-Conquer Inference (DCI)的测试时扩展策略,用于解决多模态大语言模型在大规模图像分类中因标签空间扩大而导致的性能崩溃问题。该方法通过递归分解全局分类任务并引入动态剪枝机制来压缩搜索空间,从而缓解长序列推理中的attention稀释问题。
Muhammad Ashad Kabir, Sirajam Munira
cs.SD cs.AI eess.AS
本文比较了使用大型audio和language models进行零样本帕金森病检测时,手工声学特征与原始音频波形两种输入模态的效果。实验发现,性能因输入模态、语音任务和语言而异,手工特征在低资源语言中更稳定。
Bo Lv et al.
cs.CR cs.AR cs.CL cs.LG
本文提出RouteScan,一种通过GPU级expert routing telemetry(专家路由遥测)非侵入式检测MoE LLMs有害行为的方法。该方法利用预填充阶段专家模块分配的活跃GPU线程数作为微架构指纹,构建轻量级检测流水线,在多种开源MoE模型上实现了高AUROC。
Johnny Tian-Zheng Wei et al.
stat.ME cs.CL cs.LG
本文提出了一种通过在训练数据中“注入”已知污染率的测试样本来校正测试集污染的方法,并利用Hubble模型进行模拟评估。实验表明,结合记忆预测和正确性预测的校正估计器优于无校正的朴素估计,且简单的预测器(如Platt缩放的成员推断指标)即可提供有效信号。
Chidera G. Oguine et al.
cs.CV cs.AI
本文对比了基于NMS的YOLOv8与无NMS的YOLO26在Pascal VOC和VisDrone数据集上的性能,发现YOLO26在通用检测任务上表现更优且模型复杂度更低,但在密集小目标场景下两者差距缩小,且YOLOv8在GPU延迟上仍有竞争力。
Lixing Lin et al.
cs.CR cs.AI
本文提出Reflect-Guard方法,通过参数高效微调为LLM安全分类器(如Llama Guard)添加链式思维自反思能力,以提升对对抗性越狱提示的检测。该方法从GPT-4o-mini中蒸馏分析推理到结构化反思注释,并训练Llama-Guard-3-8B在给出安全判定前生成逻辑自反思,在WildGuardTest和JailbreakBench上显著提升了对抗性提示的召回率并降低了攻击成功率。
Ligong Bi et al.
cs.CV cs.AI
本文提出AID-VAR框架,通过引入对抗性注入诊断机制来修正视觉自回归生成中的级联误差,使用判别器和轻量级引导注入器改善预训练VAR模型的生成质量。该方法在保持参数效率的同时提升了图像保真度,但未涉及代码、上下文、谱方法等关键词相关领域。
Tianyi Wang et al.
eess.SY cs.AI cs.ET cs.LG cs.RO
本文提出DBPnet,一种基于阻尼器特性的贝叶斯物理信息神经网络,用于车轮载荷估计。该方法通过悬架连杆级建模和物理感知嵌入模块,结合贝叶斯推理处理噪声,在仿真和实验中优于基线方法。
Shan Zhong, George Biros
math.NA cs.LG
本文提出了一种名为IV-Net的神经算子架构,用于近似求解具有高对比度、空间变化系数的线性椭圆型PDE。该网络受V-cycle多重网格求解器启发,通过物理域中的卷积层实现从输入系数和右端项到解场的映射。实验表明,对于高度异质系数的强制性问题,其性能优于POD方法和现有神经算子。
Suresh Kumar Amalapuram et al.
cs.CR cs.LG
本文提出SEED方法,用于在有限标注下解决恶意软件检测中的概念漂移问题。它结合半监督持续学习与主动学习,通过奇异值分解构建表示空间并利用余弦距离进行不确定性采样,在Windows和Android数据集上提升了检测性能。
Mini Han Wang et al.
eess.IV cs.AI q-bio.QM
本文开发了一个可解释的多任务深度学习框架,利用视网膜图像分析2型糖尿病中的系统性异常,通过Grad-CAM等可解释性方法验证了视网膜微血管特征与系统性信号的关联,但预测性能有限(AUC最高0.63)。该研究为视网膜成像作为糖尿病风险分层的数字生物标志物提供了初步证据。
Mohammadreza Ahmadypour, Tara Javidi, Farinaz Koushanfar
stat.ML cs.IT cs.LG
本文通过随机镜像下降(SMD)算法提出了一族混合分布估计器,将分布拟合问题转化为随机凸优化问题,并证明了在KL散度和\(\ell_2\)范数下达到近最优收敛率。该方法可高效扩展至大量候选分量,且对离散分布无需严格下界假设。
Wang et al.
cs.RO cs.AI cs.CV cs.LG
本文提出HumanEgo框架,利用人类第一人称视频中的手-物交互实体级表示,通过流匹配策略和密集辅助目标实现零样本人-机器人技能迁移。该方法无需机器人数据,仅需30分钟人类视频即可在真实任务中达到92.5%的平均成功率。
William Guanting Li et al.
cs.CR cs.AI
本文提出了APT-Agent,一个利用Large Language Models (LLMs) 的自动化渗透测试框架,通过混合修正模块和命令特定记忆架构来解决LLM在渗透测试中的幻觉和长上下文记忆问题。实验表明,该方法在Metasploitable 2上取得了84.29%的端到端成功率,优于现有方法。
Muhammad Naveed Riaz, Maciej Wielgosz, Antonio M. López Peña
cs.RO cs.LG
本文提出了一个基于CARLA的开源框架ARCANE-PedSynth,用于生成合成多行人数据集,通过混合AI-手动控制架构和12状态有限状态机,将行人穿越率从9%提升至75%,并生成同步的RGB、LiDAR和DVS数据及行为标注。该工作主要面向自动驾驶中的行人穿越预测任务。
Ibrahim Delibasoglu
cs.CV cs.AI cs.LG
本文研究了Vision Foundation Models在面部deepfake检测中的跨域泛化能力,比较了三种预训练范式(RoPE-ViT、DINOv3和C-RADIOv4-H)在DF40基准上的表现,发现这些模型对整体人脸合成具有高判别力,但对局部编辑技术存在泛化局限。
Bangrui Xu et al.
cs.CV cs.AI cs.CL
本文提出MinerU-Popo,一个轻量级后处理框架,用于将基于VLM的OCR模型输出的页面级结果转换为连贯的文档级结构,通过分解为文本/表格截断恢复、标题层级重建和图文关联四个子任务,并利用微调的Qwen3-VL-4B模型和动态分块策略实现。实验表明该方法显著提升了标题层级TEDS指标和RAG准确性。
Gianluca Sabatini, Chenhao Li, Marco Hutter
cs.RO cs.AI cs.LG
本文分析了Soft Actor-Critic (SAC)在腿式机器人运动任务中性能不如Proximal Policy Optimization (PPO)的原因,并提出了包括策略初始化、超时感知的critic目标以及多步回报估计在内的针对性修改,使得SAC能够在大规模并行训练中稳定运行,并完全弥合了与PPO的性能差距。
Farhad Nooralahzadeh et al.
cs.CV cs.CL
本文提出了一种基于稀疏自编码器(Sparse Autoencoder, SAE)的解码时残差引导方法,在不更新权重的情况下,通过抑制与幻觉相关的特征并增强与质量相关的特征,来减少医学视觉-语言模型(VLM)在胸部X光报告生成中的幻觉。实验表明,该方法在多个模型上提升了临床指标,且发现质量提升方向在不同架构间具有通用性,而幻觉抑制方向则具有模型特异性。
Xiaotian Zhang et al.
cs.RO cs.LG physics.comp-ph
本文提出了一个计算框架,使软体合成蛇能够在非结构化的三维异质地形中导航,通过结合生物启发的驱动与感知模型以及reinforcement learning来学习环境穿越策略。该工作为连续体系统在自然地形中的控制提供了物理仿真平台。
Changling Li, Ying Li
cs.NI cs.AI cs.LG cs.MA
本文提出了一种基于Deep Q-Networks (DQN)的能量感知多智能体强化学习模型,用于面向任务的无人机网络轨迹规划,其中每个智能体使用由任务执行进度和剩余电池驱动的individual reward function。通过与shared reward MARL的仿真对比,发现individual reward模式在任务密度高时表现更好,且在大规模环境中更具鲁棒性,能以更少步数实现更高成功率。
Chainarong Amornbunchornvej
q-bio.NC cs.AI cs.MA
本文提出了一种名为Residual-Adequacy Architecture的认知架构,通过一个单一的残差量(residual)来统一解释智能体在解释、学习和共情中的限制。该架构使用Interpretation-Decision Unit (IDU)处理内容向量,并在残差过高时触发带类型和证据的终止(typed, witnessed terminal),从而实现了可问责的弃权(accountable abstention)。
Hichem Cheriet et al.
cs.RO cs.LG cs.NE
本文提出Convex-Neural RRT*,一种结合神经网络预测与凸候选区域提取的路径规划算法,通过引导采样集中在几何相关区域来提升RRT*的效率。实验表明该方法在计算时间和路径质量上优于多种基线方法,但未涉及关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念。
Hichem Cheriet, Badra Khellat Kihel, Samira Chouraqui
cs.RO cs.AI
本文比较了RRT*, Neural RRT*和Neural Informed RRT*三种算法在凸/凹障碍环境中的导航性能,发现神经引导采样能显著提升路径质量。
Wenjie Zheng et al.
cs.CV cs.AI
本文提出D3S2框架,利用预训练的layout-to-image diffusion model生成与语义分割标签对齐的合成图像,以解决数据集蒸馏在语义分割任务中的长尾类别不平衡、像素级对齐和高计算成本问题。该方法通过两阶段设计(类别平衡掩码选择和扩散引导图像合成)提升了合成数据的训练效用。
Jun-Wei Hsieh et al.
cs.CV cs.AI
本文提出TinyFormer,一种结合YOLO和DETR的混合实时检测器,通过Parallel Bi-fusion Module (PBM)和Spatial Semantic Adapter (SSA)改善小目标检测。实验表明其在MS COCO上优于现有方法,但方法本身并非开创性,且与关键词列表中的概念关联较弱。
Mohamed Boussena et al.
stat.AP cs.LG q-bio.QM stat.ML
本文提出了一种名为Multimodality Stacking with Blockwise missing values (MSB)的晚期融合框架,用于处理生存分析中因数据源缺失(blockwise missingness)导致的多模态整合问题。该方法在PIONeeR生物标志物研究中验证了其预测性能优于基线算法,但并未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Muhammed Ali Mehmood, Lukas Gonon
math.NA cs.LG
本文研究了随机生成隐藏权重的神经网络(RaNNs)在逼近非线性偏微分方程(PDEs)解时的表达能力,推导了针对时间依赖Sobolev函数的误差界,并得到了一个与维度无关的逼近率\(\frac{1}{2}\)。该工作为RaNNs在Porous Medium Equations和Compressible Navier-Stokes Equations等复杂非线性PDEs中的应用提供了理论支撑。
Gang Peng
cs.HC cs.AI
本文提出Intent Signal Theory (IST)框架,形式化定义了人机交互中用户潜在意图与显式prompt之间的计算层,并证明了意图不可逆损失定理。该工作主要关注交互设计而非关键词中的技术方向。
Ata G.Zare
cs.NE cs.AI
本文提出RECLAIM理论框架,用计算生态学替代梯度下降等传统优化方法,通过General Darwinism、非智能涌现、Polya-Hebbian桥和自由能原理四个支柱构建自创生智能系统。该框架旨在解决幻觉、谄媚等结构性问题,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Esra Yeniaras
quant-ph cs.CR cs.LG
本文提出了QML-PipeGuard框架,通过行为指纹(observable expectation values的向量)来监控量子机器学习管线的完整性,并区分了硬件漂移和恶意信道替换。该工作主要关注量子计算安全领域,与您提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Wenjuan Li et al.
cs.CR cs.AI cs.LG
本文系统综述了大语言模型微调生命周期中的安全威胁与防御,将攻击和防御按干预时机分为微调前、中、后三个阶段,并进行了统一实证评估。研究发现攻击效果高度依赖模型且非单调变化,单阶段防御难以跨阶段泛化。
Munsik Kim
cs.IT cs.AI cs.LG
本文研究了自回归语言模型中KV cache压缩的率失真极限,将其建模为以下一步查询为边信息的序列Wyner-Ziv源编码。实验发现,模型对上下文截断的敏感性呈多项式衰减而非指数衰减,并基于此分析了滑动窗口等缓存策略的失真与窗口大小的缩放关系。
Ashir Kulshreshtha et al.
cs.SE cs.AI eess.SY
本文提出了一种基于LLM的多智能体工作流,用于FMU仿真模型的规约蜕变测试,通过自动提取需求并生成蜕变关系来减少手动工作。该方法在润滑油冷却系统FMU上进行了初步验证,展示了自动生成测试用例的能力。
Lei Wang et al.
cs.CV cs.AI cs.LG
本文提出了Uncertainty-DTW (uDTW),一种将异方差不确定性引入序列和视觉token对齐的概率框架,通过最大似然估计优化匹配项和正则化项,以提升对噪声的鲁棒性。该方法将不确定性解释为反向注意力机制,并在多个任务上展示了优于现有方法的性能。
Jingyi Li, Peng Wu, Chengchun Shi
stat.ML cs.LG
本文从反事实视角形式化了个体伤害的概念,并提出了一种两阶段程序来学习在最大化期望回报的同时控制个体伤害的策略,通过数值实验验证了其有效性。
Xi Ding et al.
cs.CV cs.AI cs.LG
本文提出了一种信任感知的域自适应框架,通过联合特征-预测差异(JFPD)来建模域间分布差异,并利用不确定性感知信任和语义对齐信任来加权样本贡献,从而提升自适应性能。
Haoqing Wu, Alexa Nawotki, Jochen Garcke
cs.CV cs.LG
本文提出了一种基于Pseudo-Query模块和Transformer架构的统一3D点云修复网络PQDT,通过将几何变换分解为两个协作阶段,以处理点云的不完整、噪声和密度不均等退化问题。实验表明该方法在多种退化场景下优于现有技术,但未涉及关键词中的code, context, spectral, Muon, pretrain, agent或attention等核心概念。
Bikram Keshari Parida, Abhijit Sen, Wonsang You
cs.CV cs.AI
本文提出K-U-KAN,一种结合Koopman算子与Kolmogorov-Arnold Networks的三阶段流水线,用于从单张全景X光片重建3D牙齿结构。该方法通过线性演化与物理模型(Beer-Lambert定律)提升重建质量与效率,在保持与Transformer方法相当指标的同时,训练时间减半。
Kozachok Elena Sergeevna
cs.CV cs.AI
本文提出了一种构建临床验证的皮肤镜图像数据集的方法,包括标准操作流程、结构化元数据模型和多阶段专家验证,并收集了1026张图像。该工作主要关注数据集构建流程,与关键词中的概念关联较弱。
Buxin Su et al.
stat.AP cs.DL cs.LG
本文是对ICML 2023排名实验的回应,讨论了将同行评审视为统计估计问题、Isotonic Mechanism的公平性、整合审稿人排名等补充信号,以及生成式AI时代以人为中心的评审框架。文章主要关注评审流程的改进,未涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Florian Kalinke, Zoltán Szabó, Bharath K. Sriperumbudur
stat.ML cs.LG math.ST
本文研究了Nyström方法在Kernel Stein Discrepancy (KSD) 拟合优度检验中的加速应用,证明了其能保持二次时间自举检验的渐近水平和局部一致性,并在球面与函数数据上验证了其统计性能与计算效率的平衡。
Eivinas Butkus, Kedar Garzón Gupta, Nikolaus Kriegeskorte
q-bio.NC cs.LG cs.NE
本文提出了一种在循环卷积神经网络中定义广度、深度和时间可微成本项的方法,并通过反向传播联合优化这些成本与任务误差。研究发现,这些资源可以相互权衡,且网络结构会随任务复杂度有机增长。
Andreas Jungherr, Antonia Schlude, Adrian Rauchfleisch
cs.CY cs.AI
本文通过一项在九个国家进行的调查,研究了公众对军事AI的态度,发现对AI的总体积极态度和鹰派外交政策取向是支持军事AI的主要因素,而对致命自主性的原则性反对仅与完全自主的致命武力应用相关。
G Manjunath, Juan-Pablo Ortega, Alma van der Merwe
math.DS cs.LG
本文从几何角度为确定性动力系统输入下的Reservoir Computing提出了数据特定的超参数设计原则,通过要求reservoir状态增量在输入确定的子空间锥内对齐来降低岭回归训练误差,并提供了Echo State Networks的构造性设计方法。
Oleg Grynets et al.
cs.SE cs.AI cs.LO
本文提出了一种基于规范的Code2Text2Code重构框架,用于LLM介导的软件演化,通过将源代码转换为中性文本规范来减少语义漂移和可追溯性损失。实验构建了多语言数据集并评估了中间表示和检索增强效果。
Jasin Cekinmez et al.
cs.CV cs.AI
本文研究了从统一模型生成的图像中识别其来源模型的可能性,发现模型归因高度可行且对图像损坏和结构扰动具有鲁棒性,但语义内容并非主要区分信号。
Gergely Bérczi, László M. Fehér
math.AG cs.AI cs.NE
本文研究了对称多项式\(\prod_{\alpha\in A_{n,d}}(1+\alpha_1 x_1+\cdots+\alpha_n x_n)\)(即\(\mathrm{Sym}^d(\mathbb{C}^n)\)的全Chern类)的系数性质,证明了若干关于其结构的猜想并建立了显式公式。该工作展示了将多个AI系统与人类数学洞察协调结合的新方法论,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Prashant Shekhar, Caroline Howard
stat.ML cs.LG
本文研究了在线广告、推荐和会员体验系统中存在干扰时的实验设计选择问题,提出了一个基于鲁棒设计选择的框架,通过比较六种可实施设计在最坏情况下的规划风险来做出决策。该工作为处理不确定干扰机制下的实验设计提供了理论保证和实证验证。
Sambit Mohapatra et al.
cs.CV cs.AI cs.RO
本文提出了一种基于脉冲神经网络(Spiking Neural Networks)的端到端编码器-解码器网络,用于处理LiDAR点云的鸟瞰图(Bird's Eye View)表示中的目标检测任务,通过代理梯度反向传播进行训练。实验表明,该网络在KITTI基准上实现了有竞争力的检测精度,并相比等效CNN在突触操作能耗上降低了约3.33倍,验证了脉冲神经网络在自动驾驶神经形态感知中的可行性。
Chaoyan Huang et al.
cs.CV cs.LG
本文针对Deep Image Prior (DIP)中的early stopping问题,提出了一种基于伪自参考图像(pseudo self-referenced images)的过拟合检测框架,并给出了相应的理论分析。该方法在多种逆成像问题中优于现有early stopping方法,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Keyi Shen, Glen Chou
cs.RO cs.AI cs.LG eess.SY math.OC
本文提出了一种基于JAX的可并行、可微分的reachability框架,用于具有神经网络动力学和控制器系统的形式化验证,结合了Taylor-model和CROWN风格的线性界传播。该方法支持GPU批处理和自动微分,并应用于certified training和reachability-aware MPC,在非抓取操作和四旋翼任务中验证了在线规划能力。
Jiaxiang Liu et al.
cs.CV cs.LG
ERNIE-Image是一个基于8B单流DiT架构的开源文本到图像生成模型,通过自底向上的数据构建管道和自顶向下的后训练策略来提升预训练数据质量与人类审美对齐。该模型在指令遵循、文本渲染和美学质量上接近顶级商业系统,并发布了模型与美学资源。
Veera Varuni Radhakrishnan, Chinthaka Dinesh, Qurat-ul-Ain Azim
eess.IV cs.AI cs.CV cs.LG cs.SC
本文提出Deep Graph Laplacian Regularization (Deep GLR)方法,将二次graph regularization集成到Proximal Forward-Backward Splitting优化框架中,用于低剂量CT重建。该方法在仅使用91,848个参数和1000个训练样本的情况下,在LoDoPaB-CT基准上达到30.70 dB PSNR,相比filtered backprojection提升6.33 dB,展现了参数和数据效率的优势。
Kolawole Quadri
cs.CR cs.AI cs.CY cs.MA cs.SE
本文提出了KYA,一个用于自主系统的信任与治理层,包含五个原语,用于验证agent行为、检测异常和组合策略。该系统在22个agent框架上运行,具有亚毫秒级延迟和约1800 ops/sec的吞吐量,能检测89%的对抗性探测。
Ruoxi Cheng et al.
cs.CV cs.AI
本文提出Adversarial Orthogonal Disentanglement (AOD)框架,通过对抗训练在latent space中学习hallucination相关方向,并利用contrastive decoding策略抑制LVLM中的hallucination。该方法在多个benchmark上提升了性能,但主要贡献在于工程应用而非理论开创性。
Fangtai Wu et al.
cs.CV cs.AI
本文提出CollectionLoRA框架,通过多教师on-policy蒸馏将多达50种不同的LoRA效果和少步生成能力整合到单个LoRA中,解决了参数干扰和部署开销问题。该方法引入概率双流路由、非对称正交提示和由粗到细蒸馏目标,在保持概念保真度的同时显著降低部署成本。
Xiuyuan Cheng, Nan Wu
stat.ML cs.LG math.ST
本文研究了从嵌入在欧几里得空间中的未知流形上的有限i.i.d.样本构建的图扩散过程,证明了图转移矩阵\(P\)的迭代可以近似流形热半群\(Q_t = e^{t\Delta}\),并在低正则性假设下给出了\(\infty\)-范数的误差界。该工作主要关注图拉普拉斯算子的收敛性分析,与关键词中的spectral有一定关联,但方法本身并非开创性突破。
Xia Li et al.
cs.CV cs.AI
本文提出了一种基于SAM模型和掩码引导的弱监督伪装目标检测方法MGNet,通过级联掩码解码器和上下文增强模块改善边缘模糊和漏检问题,并利用BoxSAM生成伪标签进行训练。该方法在性能上接近当前最优的全监督方法。
Bingyu Yan et al.
cs.CR cs.AI cs.MA
本文提出Evo-Attacker,将LLM-MAS中的工具攻击建模为基于memory-augmented reinforcement learning的自演化过程,并引入Attack-Flow GRPO解决长程credit assignment问题。实验表明该方法在攻击泛化性和演化能力上优于基线。
Chunzheng Zhu et al.
cs.CV cs.AI
本文提出STRIQ框架,通过Latent Registration Aligner建立特征空间对应,并利用Orthogonal Knowledge Subspace模块分解平面特定表示为正交子空间,以实现无标注的超声图像质量控制。该方法在内部和公开数据集上取得了与临床评分的最佳相关性。
Chunzheng Zhu et al.
cs.CV cs.AI
本文提出了一种基于解剖锚点的超声图像自监督预训练框架ANAUS,通过可学习的潜在提示引擎和领域自适应实现无标注解剖结构分割,并设计了双策略自监督学习范式来增强表示学习。该方法在六个公开数据集上优于现有方法,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Nancy Iskander
cs.CV cs.GR cs.LG
本文提出了一种结合CNN、参数化3D人脸模型和Active Snake Contours的方法,从人脸素描生成3D模型,并首次利用CNN检测素描中的表情。该方法通过检测FACS Action Units来复制表情,并调整模型以匹配素描轮廓。
Lipeng Dai, Luping Xiang, Kun Yang
eess.SP cs.AI cs.IT
本文针对多智能体协作中的通信问题,提出了一种联合通信媒介选择与无线资源分配策略,旨在最小化端到端延迟。通过分析token传输与KV-cache传输在不同系统参数下的性能,作者开发了低复杂度的JMSRA算法,仿真表明其优于传统基线。
Udith Haputhanthri et al.
cs.CV cs.AI
本文研究了视觉语言模型在多目标场景中的“binding problem”,发现通过“pointing”(使用空间坐标指向物体)可以提升模型性能,并揭示了其内部视觉搜索机制。该方法为模型提供了类似人类视觉的串行处理能力,但与我提供的关键词(如code, context, spectral等)关联度较低。
Nil Ayday, Mahalakshmi Sabanayagam, Debarghya Ghoshdastidar
stat.ME cs.LG stat.ML
本文从三个统计视角综述了图神经网络(GNN)泛化性的理论理解:基于学习理论的uniform convergence bound与表达性分析、基于无限参数或无限图渐近的Gaussian process与neural tangent kernel方法、以及基于随机图模型的高维统计误差率分析。文章指出了各视角的局限性与开放问题,但未提出新的方法或解决长期问题。
Jiwon Kim et al.
cs.HC cs.AI cs.CL cs.CY cs.SI
本文研究了三种主流AI内容审核系统(OpenAI moderation endpoint, Meta's Llama Guard, Google's Shield Gemma)在真实治疗对话中的表现,发现这些系统会过度标记治疗内容为不当,从而限制了LLM在心理治疗场景中的应用潜力。
Mengda Li, Zeng Li, Jianfeng Yao
stat.ML cs.LG
本文提出了一种名为Mean-Shift PCA by Knockoff Mean的方法,通过人为添加knockoff mean-shift扰动来消除PCA中的均值偏移噪声。该方法利用Random Matrix Theory证明均值偏移spike在谱上可与原始协方差的稳定特征值分离,并基于此提出一个两阶段PCA算法。
Perry Dong et al.
cs.RO cs.AI
本文提出EXPO-FT系统,用于对预训练的Vision-Language-Action (VLA)模型进行稳定且样本高效的Reinforcement Learning (RL)微调。该系统在多种高精度、动态的机器人操作任务中,仅需平均19.1分钟的在线机器人数据即可达到完美成功率,优于从头训练或现有VLA微调方法。
Zhicheng Zhang et al.
cs.CV cs.AI cs.MM
本文提出了一种名为Test-Time Self-Adaptive Conditioning (TT-SAC)的无参数推理框架,通过将生成器输出重新编码为反馈循环来改进预训练音频驱动说话头生成模型的conditioning表示,无需重新训练或梯度更新。该方法在多个基准测试上提升了唇形同步精度和时间一致性,但未涉及code、spectral、Muon或agent等关键词。
Xiliu He et al.
cs.CY cs.AI econ.GN physics.soc-ph
本文利用北京2018-2024年的500万条招聘数据,构建了基于大语言模型评估的社区级GenAI暴露指数,发现GenAI暴露高度集中于城市核心区,加剧了城市内AI鸿沟,并导致高暴露社区出现“高技能陷阱”现象。该研究为理解生成式AI对城市内部不平等的影响提供了实证证据。
Xifeng Zhang, Jin Zhao
stat.ML cs.LG
本文提出FM4PDE,一个基于flow matching的生成框架,用于从稀疏观测中重建PDE解。该框架通过学习PDE系数与解的联合分布,支持前向模拟和逆问题求解,并在实验中展示了优于扩散模型的精度和推理速度。
Xinyang Zhai, Chong Yang, Ruizhi Zhang
cs.CV cs.AI
本文提出了一种用于乳腺超声图像良恶性分类的Cross-Stage Attention Mixture-of-Experts Network (CSA-MoE-Net),通过Cross-Stage Attention模块增强多级特征并抑制冗余,并利用三分支Mixture of Experts (MoE) Block学习肿瘤整体、核心与边界的互补特征。实验表明该方法在平衡数据集上取得了高分类精度,且可无缝嵌入其他主流网络。
Hideitsu Hino, Keisuke Yano
stat.ML cs.LG
本文通过谱分解\(L=U\Lambda U^{\top}\)分析了determinantal point processes (DPPs)的几何结构,并研究了从DPP到\(k\)-DPP时identifiability结构的变化,指出谱参数仅可识别到公共尺度,而特征空间旋转参数仅通过特征向量矩阵的平方子式可识别。文章通过三种显式不变性和一个维数计数定理刻画了identifiability的差距。
Muslim Chochlov, Michael English, Jim Buckley
cs.SE cs.AI
本文对基于大语言模型的代码生成任务进行了系统性综述,总结了2017-2025年间30篇二级研究,指出该领域在基准测试上表现良好但实际泛化能力不足,面临鲁棒性、效率及社会技术整合等挑战,并提出了领域感知模型改进和标准化评估的未来方向。
Loukas Ilias, Dimitris Askounis
cs.SD cs.LG
本文提出了一种多模态深度学习框架,通过端到端训练联合利用语音和文本信息进行痴呆症检测。该方法使用预训练的HuBERT和BERT模型分别提取声学和文本表示,并通过注意力融合机制与互信息最大化目标来对齐多模态特征。
Xinyuan Yan et al.
cs.CG cs.AI cs.HC cs.LG
本文提出TopoAlign框架,利用topological data analysis中的mapper graphs从结构视角比较不同模型或层的representation alignment,通过联合力导向优化实现全局对齐,并支持局部对应检测与细粒度模式检查。该方法为模型interpretation和robustness分析提供了新的拓扑视角。
Austin Shen, Yunong Shi
cs.LO cs.AI
本文针对Lean 4中基于Draft-Sketch-Prove (DSP)管线的并行tactic search效率低下问题,提出了一种proof-state snapshotting方法。该方法通过捕获并复用已elaborated的proof state,避免了每个搜索分支重复进行import loading和theorem-body elaboration的巨大开销,在miniF2F-v2基准上实现了5.6-50倍的加速。该工作主要关注定理证明系统的工程优化,与关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念关联度较低。
Divit Rawal
stat.ML cs.LG
本文研究了当潜在分布支撑在光滑嵌入流形\(M \subset \mathbb{R}^D\)上时的去噪分数匹配(DSM)问题。通过分析切向去噪目标中的奇异噪声通道,作者提出了基于最近点投影\(\pi(X)\)的Rao-Blackwellized条件期望估计,并给出了小噪声展开下的显式修正项。
Junseok Ko, Jungwoo Kim, Jong-Seok Lee
cs.CV cs.AI
本文提出了Mosaic框架,用于在基于flow的Text-to-Image (T2I)模型中实现组合式多概念擦除,通过动态构建概念特定掩码并选择性混合vector field来移除多个目标概念,同时保持非目标上下文。该工作主要关注图像生成中的安全与伦理问题,与关键词列表中的概念关联较弱。
Alexander Apartsin, Yigal Meshulam, Yehudit Aperstein
cs.RO cs.AI
本文研究了一种名为Zero-Knowledge MRTA (ZK-MRTA)的去中心化多机器人任务分配问题,其中机器人团队无先验知识、无通信,仅能观测到队友结果的公开但带噪声的部分信息。作者提出了一种名为SwarmCF的在线低秩协同过滤算法,使得每个机器人能从未尝试过的任务中有效行动,并证明了其样本复杂度为\({\Theta}(d)\)(\(d\)为秩),优于无结构学习器的\({\Theta}(n)\)(\(n\)为任务数)。实验表明该方法在任务稀缺和通信受限场景下具有鲁棒性,但整体方法更侧重于机器人领域的应用,与关键词中的核心概念(如spectral, Muon, pretrain, agent, attention)关联度较低。
Joongkyu Lee, Min-hwan Oh
stat.ML cs.LG
本文针对非平稳广义线性bandits (GLBs)问题,提出了DOMD-GLB算法,该算法使用折扣在线镜像下降 (DOMD) 进行参数估计,将每轮的计算和内存成本降低至\(O(1)\)。文章证明了在漂移环境和分段平稳环境下分别达到\(\tilde{O}(c_\mu^{-1/2} d^{3/4} P_T^{1/4} T^{3/4})\)和\(\tilde{O}(c_\mu^{-1/3} d^{2/3} \Gamma_T^{1/3} T^{2/3})\)的动态遗憾界,显著提升了计算效率。
Joongkyu Lee, Min-hwan Oh
stat.ML cs.LG
本文针对Multinomial Logit (MNL) bandits问题,提出了一种计算高效的optimal experimental design框架,通过将设计oracle转化为mixed-integer linear program (MILP)或使用可处理的替代目标,实现了统计效率与可扩展性。作为应用,该框架被用于best assortment identification,并给出了实例相关的样本复杂度上界。
Yuanming Zhang et al.
eess.AS cs.LG
本文研究了基于刺激重建的听觉注意力解码在不平衡EEG数据集上的性能问题,发现深度神经网络解码器在不平衡数据集上会产生高估的解码性能,并提出了一种留一配对包络交叉验证协议(LOPEO)来缓解这一问题。
Shuo Huang et al.
stat.ML cs.LG
本文研究了使用Frobenius norm约束的深度神经网络学习稀疏组合函数(sparse compositional functions)的近似率和过采样风险界,证明了深度网络可以通过层级表示避免维度灾难。该工作主要关注组合结构由有向无环图表示的函数类,但与我提供的关键词关联度较低。
Haohan Yu et al.
physics.ins-det cs.LG hep-ex nucl-ex
本文提出了一种基于Physics-Informed Neural Network (PINN)的3D磁场重建方法,通过将Maxwell方程直接嵌入损失函数来确保物理一致性。实验表明该方法在模拟和实际数据上均能达到\(10^{-4}\)至\(10^{-3}\)的重建精度。
Jatin Kishnani et al.
cs.DC cs.AI
本文首次端到端展示了在Google Cloud TPU上微调和部署Gemma 4 31B模型,并与GPU基线进行了实证比较。通过使用LoRA等技术,TPU在训练速度上比2xH100 GPU快1.61倍,成本降低2.12倍,推理延迟更低,为TPU上的大模型部署提供了可复现的生产级方案。
Yuan-Hao Wei
stat.ML cs.LG
本文提出StrTransformer框架,通过source-wise structured Transformer分支和observation-space mixer实现无监督盲源恢复。每个源被转换为多尺度patch tokens并随机掩码,通过locality-biased Transformer和masked patch reconstruction energy施加隐式结构先验,并引入ordered multi-scale controller促进分支专业化。
Arka Majhi, Aparajita Mondal
cs.HC cs.AI cs.AR cs.CY
本文介绍了一种名为PostureClip的衣领夹式设备,通过屏幕变暗来强制用户纠正坐姿,并在165名参与者中进行了4周实验,证明其能显著改善姿势角度并减少弯腰时长。该工作属于人机交互领域的应用研究,与关键词中的理论或方法无直接关联。
Satadru Sengupta, Tamunokorite Briggs, Ivan Myshakivskyi
cs.SE cs.AI
本文提出了一种元工程框架,用于AI原生软件生产,通过合同驱动的对抗性验证架构实现持续交付。该框架将需求转化为显式合同,利用角色专用AI代理进行工作分配,并包含独立验证与失败分类机制,但未涉及代码生成、上下文建模或谱方法等关键词相关技术。
Dan Ristea, Vasilios Mavroudis
cs.CR cs.AI
本文提出referential security作为AI评估的新范式,通过将模型身份视为可验证属性来解决动态AI系统评估中标识不稳定导致的问题。该方法为可重复评估、纵向审计有效性和跨提供商等价性提供了框架,但未涉及代码、上下文、谱方法等关键词相关技术。
Steve Hanneke et al.
stat.ML cs.DS cs.LG math.ST
本文研究了可实现设定下带bandit反馈的多类PAC学习问题,其中学习器仅能获知预测是否正确而非真实标签。作者引入了一个新的组合维度(bandit DS dimension)来刻画最优样本复杂度,并提出了基于ListCascade原则的学习算法。
Muhammad Azlan Qazi, Alexandros Iosifidis, Qi Zhang
cs.DC cs.AI
本文通过硬件原型实验发现,在嵌入式设备(如NVIDIA Jetson Orin Nano)上分布式部署Transformer推理时,CPU-GPU数据中转是主要瓶颈,并提出结合Segment Means压缩与离线profiling的自适应策略(Prism),在运行时动态选择本地或分布式执行,相比静态全张量交换降低了延迟和能耗。
Lauri Lovén et al.
cs.DC cs.CL cs.IR cs.NI
本文研究了LLM作为语义匹配引擎在边缘-云连续体中的agentic AI发布/订阅系统中的成本-精度特性,提出了CoverAndMerge压缩管道和两阶段交叉点分析。实验覆盖社交媒体、法律和智能家居三个领域,发现模型选择比管道调优更重要。
Sriram Mandalika
cs.CV cs.CL cs.ET
本文提出了一种基于CLIP视觉-语言模型的跨模态自适应提示方法,用于多领域任务增量学习。该方法通过文本空间任务路由、多原型视觉-文本置信度和对称跨模态门控三个创新点,在MTIL基准上取得了优于现有方法的性能。
Àlex Solé et al.
physics.chem-ph cond-mat.mtrl-sci cs.LG physics.comp-ph
本文提出了Multiscale Structural Ensemble (MuSE)模型,通过Soft Coarse-Graining Pooling构建多尺度粗粒化表示,使机器学习力场能够捕捉跨尺度的相互作用。该模型在分子和材料体系中验证了其有效性,但与我提供的关键词列表契合度较低。
Haoran Li et al.
cs.MA cs.AI
本文提出MACA框架,将多agent协调视为结构和编排的联合后验推断,通过学习任务和预算条件下的结构先验来指导基于策略的编排。该方法在基准测试中平均提升8.42%性能并减少43.19%的token使用,但主要贡献在于多agent系统的协调优化,与关键词中的agent概念有一定关联但缺乏开创性。
Bokai Zhao et al.
cs.CV cs.AI
本文提出了SpaPath-Bench基准,用于评估病理基础模型在空间域理解上的表征能力,通过空间域识别任务和多种评价标准对19个编码器进行了大规模测试。
Saemi Moon et al.
cs.CV cs.AI cs.LG
本文提出了一种名为PURE的闭式概念遗忘方法,通过从U-Net的cross-attention激活空间中构建遗忘和保留基,并对cross-attention的key和value权重施加线性投影,以消除扩散模型中的目标概念。该方法在多个概念遗忘基准上展示了更好的遗忘-保留权衡,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词的核心创新。
Sam Bowyer, Acyr Locatelli, Kris Cao
stat.ML cs.AI cs.CL cs.LG
本文通过将高效基准测试问题重新定义为带特征选择的多元回归问题,使用kernel ridge regression和mRMR特征选择算法来预测LLM的完整基准分数,在多数情况下能降低预测误差并提升排序相关性。
Jiahao Huo et al.
cs.CR cs.AI cs.CL
本文提出SAMark,一种自锚定文本水印框架,通过建立语义空间中与句子顺序无关的步独立绿色区域,并引入多通道双曲评分机制和多样性感知过滤策略,以提升对段落级释义攻击的鲁棒性。实验表明该方法在保持生成质量的同时显著优于现有基线。
Kwangho Kim
stat.ME cs.LG stat.ML
本文提出了一种基于扩散引导平滑的几何自适应反事实分布学习方法,用于处理高维结果的反事实分布可能集中在低维结构附近的问题。该方法通过结合半参数去偏和扩散分数信息,实现了对反事实密度和分数的估计,并建立了渐近展开和风险界。
Munawar Ali et al.
math.NA cs.CE cs.LG
本文提出了一种基于branched signature kernel的求解器,用于处理由单个粗糙信号轨迹驱动的常微分方程。该方法通过count-sampling构造将单次观测转化为层次化训练路径,并利用kernel-collocation框架进行求解,在多个基准测试中展示了准确性和稳定性。
Xinzhe Chen et al.
cs.RO cs.AI
本文提出OASIS,一种通过\(SE(3)\)末端执行器轨迹预测来对齐观测空间与动作空间的视觉运动策略。该方法在仿真和真实实验中取得了优于现有VLA和WAM基线的成功率与泛化性能。
Yunfei Wang et al.
cs.RO cs.AI cs.CL cs.CV
本文提出Auto-Robotist,一个利用LLM agent将机器人形态搜索过程中的设计经验蒸馏为自然语言技能库的方法,通过检索技能来指导进化设计,并在EvoGym任务中验证了其有效性。
Yutong Cheng et al.
cs.CR cs.AI cs.CL
本文提出TTPrint方法,通过先发散(将报告分解为原子行为并广泛提出候选技术)后收敛(基于证据窗口和MITRE定义进行验证)的两阶段设计,从网络威胁情报报告中提取MITRE ATT&CK技术。该方法在TRAM-Clean和TTPrint-Bench基准上取得了优于现有基线的macro-F1分数,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Daniela Fernandes et al.
cs.HC cs.AI
本文通过用户实验研究了LLM推理轨迹(reasoning traces)对用户任务表现和元认知的影响,发现完整轨迹会损害表现,而摘要轨迹虽提升信任和愉悦感但无助于校准自我评估。该研究与关键词(如code, context, spectral等)关联较弱,属于人机交互领域。
Ido Nachum, Rüdiger Urbanke, Thomas Weinberger
math.ST cs.LG
本文研究了k-fold交叉验证作为风险估计器的均方误差,重点关注其精度与折数k的关系。通过分析二分类中的majority算法,作者证明了当折数随样本量增长时,任何经验风险最小化算法都无法达到\(O(1/n)\)的极小极大均方误差,而\(\Omega(\sqrt{k}/n)\)的下界是不可避免的。
Yunqi Gao et al.
cs.CV cs.AI
本文提出MuNet,一个用于从单张图像联合进行3D人体mesh恢复和3D穿衣人体重建的统一框架。它采用2-manifold graphs作为统一表示,并通过端到端的graph convolutional network和互惠机制(mutualistic mechanism)来联合优化两个任务,在多个基准数据集上取得了最优性能。
Christopher Baker et al.
cs.HC cs.LG
本文研究了Human-AI团队中AI助手的速度与准确性对协作脑机接口(cBCI)团队表现的影响,通过虚拟现实无人机任务实验,发现快速AI导致盲目服从而慢速AI引发认知冲突,并利用Riemannian Oracle自适应调整时间窗口来捕捉这些状态。
Jianwei Tai
cs.CR cs.LG
本文从信息论角度证明了Vision-Language-Action (VLA)模型的能力(policy action与oracle action的互信息)与鲁棒性(对抗扰动下保留的互信息)之和受限于任务熵与对抗信道容量之和,并在OpenVLA-7B上验证了该上界。该工作为VLA模型的鲁棒性-能力权衡提供了理论下限,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Franka Bause et al.
cs.MA cs.LG
本文通过Friedkin-Johnsen (FJ) opinion dynamics模型研究multi-agent LLM deliberation机制,分析了agent的固执性、影响力与观点变化,并指出FJ参数依赖于输入,使多智能体系统成为mixture of experts。文章主要探讨了agent如何通过自评估置信度、感知置信度及与其他agent的初始对齐来建立影响力。
David Košťál, Martin Jureček
cs.CR cs.LG
本文基于RawMal-TF真实恶意软件数据集,通过对抗性生成器构建了家族和类型标注的对抗性PE文件数据集,并展示了这些样本对EMBER分类器的高逃逸率,同时验证了数据投毒攻击对恶意软件分类管线的显著影响。该工作主要贡献在于提供了一个公开的对抗性恶意软件数据集,以促进相关鲁棒性研究。
Ruiqiang Xiao et al.
cs.CV cs.AI
本文提出EchoPilot,一个无需训练的超声视频分割框架,通过冻结的视觉-语言模型和视觉基础模型实现稀疏交互下的分割,并引入尺度空间语义提示和可靠性门控记忆来减少初始化模糊和传播漂移。该方法在多个超声视频数据集上取得了最优性能,但与我提供的关键词列表(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Yinghao Wu et al.
cs.CV cs.AI
本文提出VEN-VL框架,通过集成多个视觉专家的MoE结构来增强多模态理解中的视觉token信息密度,并采用显式视觉监督保留关键信息。该方法在压缩视觉token的同时提升了复杂视觉任务的性能。
Jinju Kim et al.
cs.SD cs.AI
本文针对零样本文本到语音(ZS-TTS)中的说话人身份遗忘问题,提出了一种持续学习框架CORTIS,通过Fisher信息参数掩码和正交投影技术,在顺序遗忘请求下保持对已遗忘说话人的隐私保护。该方法解决了现有方法在连续遗忘场景中遗忘效果被逆转的问题。
Jose Blanchet, Peter Glynn, Wenhao Yang
stat.ML cs.LG stat.ME
本文针对随机梯度下降(SGD)在随机梯度具有无限方差时的统计推断问题,提出了一种基于Polyak-Ruppert平均估计量和经验二阶矩归一化量的联合弱收敛方法,构建了自归一化统计量,并通过子采样校准方案估计临界值,从而避免了显式估计尾指数等未知参数。该方法在有限和无限二阶矩条件下均具有渐近有效性,为随机优化中的不确定性量化提供了实用工具。
Shristi Das Biswas, Kaushik Roy
cs.CV cs.CL
本文提出了一种名为MAGIC的无训练、前向传播的coreset选择方法,用于为多模态instruction tuning构建紧凑且行为保真的子集。该方法通过从预训练VLM中提取Multimodal Gain、Bridging Relevance和Skill-Neuron Signatures三种内在信号,并设计三阶段pipeline来过滤低增益样本并保留潜在的多模态技能覆盖。实验表明,在20%预算下,MAGIC在LLaVA-665K和Vision-Flan数据集上能达到甚至超过全量finetuning的性能,并显著减少运行时间。
Yiming Liang et al.
cs.CV cs.CL
本文提出STORM框架,通过两阶段训练让视频语言模型在连续latent trajectory中进行隐式时空推理,无需显式文本chain-of-thought或外部工具,在多个视频推理基准上提升准确率并降低推理开销。
Adina Scheinfeld et al.
cs.CV cs.AI cs.LG
本文提出了一个用于Light Sheet Fluorescence Microscopy (LSM)数据的3D foundation model,通过联合优化masked reconstruction和image-text alignment来学习可迁移的volumetric representations,并在segmentation、classification和deblurring等下游任务上展示了few-shot适应能力。
Zixin Jessie Chen et al.
cs.CV cond-mat.stat-mech cs.AI cs.LG
本文提出SKILD模型,利用scale invariance(尺度不变性)将图像生成与continuous super-resolution(连续超分辨率)统一于一个无条件的扩散框架中。该方法通过设计一个在k-space(k空间)中从细到粗衰减的前向过程,使得单一训练好的反向过程仅通过改变起始timestep即可完成两种任务。
Xinrui Shi et al.
cs.CV cs.AI
本文提出了DRScaffold框架,通过将监督目标分解为四个因果有序阶段来增强轻量级视觉语言模型在密集场景推理中的表现,并构建了DRBench基准来评估该能力。实验表明该方法能显著提升轻量模型性能,但未涉及code、spectral、Muon等关键词相关技术。
Bipin Tiwari, Omer San
physics.flu-dyn cs.LG
本文利用neural operator作为surrogate model加速Bayesian inverse design在计算流体力学中的应用,通过Deep Operator Network替代CFD求解器进行MCMC采样,在准一维喷管流动中实现了超过三个数量级的加速,并保持了后验几何和不确定性估计的准确性。
Ali Rouzbayani et al.
cs.CV cs.LG
本文提出了Paris 2.0,首个通过去中心化计算预训练的视频生成模型,解决了去中心化训练中时序一致视频生成的难题。在低分辨率text-to-video训练中,与相同数据下训练的monolithic模型相比,Paris 2.0将Frechet Video Distance (FVD)从561.04降至279.01,并提升了CLIP text-video相似度和aesthetic score。
Matt L. Wiemann et al.
stat.ML cs.LG
本文提出了一个名为DiscoverPhysics的交互式benchmark,用于评估LLM agent在物理定律偏离现实的模拟世界中通过实验发现规律的能力。该benchmark要求agent设计实验、观察轨迹数据并提交解释和代码实现,但实验表明最强模型仅能通过一半的世界,且难以发现潜在结构。
Bar Weiss et al.
cs.SE cs.AI
本文研究了使用large language models (LLMs)对代码补丁中的变更进行基于分类法的标签分配,提出了一种两阶段pipeline来识别重命名、移动或逻辑修改等变更类型。实验表明该方法在召回率和精确率上表现良好,但主要聚焦于软件工程中的代码审查任务,与我提供的关键词(如spectral, Muon, pretrain, agent, attention)关联度较低。
Shuhong Zheng et al.
cs.CV cs.AI cs.GR cs.LG cs.MM
本文提出了一种基于Multimodal Large Language Models (MLLMs)和VAE的subject-driven image generation方法,通过Dual Layer Aggregation (DLA)模块和多阶段去噪策略来平衡语义理解与身份保持。该方法在缓解copy-paste伪影方面有所改进,但与关键词列表中的概念关联较弱。

- 数据来源 Data Source: arXiv.org

- 本网页的内容由 bluearXiv-ai 自动生成。实际抓取的是 arXiv 中 "new" 页面的数据,即最近的有所在分类论文变动的一天的数据。

- 感谢 arXiv 提供的服务。评论和精选由 AI 生成,不代表任何人对论文本身的看法。精选依赖于论文与给定关键词的匹配度。

- 计数基于主学科,不计重数。

- This webpage is automatically generated by bluearXiv-ai.

- The data actually captured is from the "new" page, that is, the data of the most recent day when there were changes in corresponding subjects.

- Thanks for services prodived by arXiv. Comments and selection of good papers are generated by AI, not showing anyone's point of view about those papers.

- The selection also depends on the matched-degrees between papers and given keywords.

- The counters are based on main subject, not counting multiplicities.