bluearXiv-ai 论文精选

2026-05-25

📚 跟踪学科 (Categories)

🔍 筛选关键词 (Keywords)

📊 论文统计 ↑ 回顶部

cs.LG
125
cs.AI
32
cs.IR
9
cs.CL
58
cs.DS
4
others
115
总计
343

⭐ 精选论文 ↑ 回顶部

cs.LG

Maximillian Rossi, Prajwal Raghunath, Eugene Wu
cs.LG
Anuj Apte et al.
cs.LG cs.AI math.OC stat.ML
Junzhe Yang, Xiaoyu Shen
cs.LG cs.AI
Miria Feng, William Tan, Mert Pilanci
cs.LG
Hoyun Choi, Junghyo Jo, Deok-Sun Lee
cs.LG cond-mat.stat-mech cs.AI
Snir Hordan, Nadav Dym, Tim Seppelt
cs.LG math.CO
Piotr Frydrych
cs.LG cond-mat.dis-nn cs.AI cs.NE
Pál András Papp, Aleksandros Sobczyk, Anastasios Zouzias
cs.LG

cs.AI

Zelin Zhao et al.
cs.AI cs.LG
Deepak Panigrahy, Aakash Tyagi
cs.AI cs.LG cs.PF
Yamato Arai, Yuma Ichikawa
cs.AI cs.CL
Yifan Yang et al.
cs.AI cs.CL

cs.CL

Dongxin Guo, Jikun Wu, Siu Ming Yiu
cs.CL cs.AI cs.LG

others

Ruofan Jin, Zaixi Zhang
cs.RO cs.AI cs.LG
Gino Kwun, Dhanvi Bharadwaj, Gokul Subramanian Ravi
quant-ph cs.AI cs.ET cs.LG
Aratrika Mustafi, Soumya Mukherjee, Bharath K. Sriperumbudur
stat.ML cs.LG math.ST

📄 所有论文 ↑ 回顶部

cs.LG

Maximillian Rossi, Prajwal Raghunath, Eugene Wu
cs.LG
本文提出Latent Cache Flow (LCF),一种用于LLM agent间高效通信的方法。LCF通过联合翻译和压缩KV cache,将adapter大小降至C2C方法的约4%,解决了传统文本通信的高延迟和C2C方法中adapter庞大且需共享上下文的问题。实验表明,在共享上下文场景下,13 MB的LCF adapter比956 MB的C2C adapter更准确;在不同上下文场景下,LCF比基于文本的通信准确率高23%,速度快8.5倍。该方法为agent通信提供了高效且无需文本的模型间信息交换方案。
Yequan Zhao et al.
cs.LG
本文提出FuRA (Full-Rank Adaptation)方法,通过spectral preconditioning(谱预处理)解决微调中噪声梯度扰动预训练特征的问题。该方法将每个权重矩阵通过block tensor-train factorization分解为\(W = LSR\),其中大核心\(L\)固定为预训练的block-wise SVD基,仅优化紧凑核心\(R\)和块奇异值\(S\),从而在保持full-rank更新表达能力的同时实现参数高效。实验表明FuRA在LLM微调、数学推理强化学习及视觉指令微调中一致超越Full FT,其4-bit量化变体QFuRA也优于QLoRA,与关键词中的spectral和pretrain高度契合。
Joss Armstrong
cs.LG cs.MA
本文提出MARGIN (Multi Agent Runtime Grading via Incremental Normalization)方法,用于解决多agent系统中基础模型置信度校准问题。该方法是一种在线校准方法,通过对称指数加权移动平均和贝叶斯收缩混合,从任务流中学习每个agent在每个置信度区间的校准因子,无需模型访问、无需保留数据、无需重新训练。实验表明,在分布偏移下,MARGIN的校准误差比最佳设计时基线低3-6倍,在多agent选择任务中,将成对分辨率从低于随机的45-56%提升至70-89%,并在四个基准中的三个上超越了始终选择最佳模型的oracle。该方法为agent协调中的置信度校准问题提供了开创性的在线解决方案。
Chen Ling et al.
cs.LG
本文提出PACE (Prompt And Control Logic Evolution)框架,针对资源受限下的小语言模型(SLM) agent自我进化问题,采用双时间尺度(two-timescale)机制:先在固定控制逻辑下优化prompt直至收益饱和,再通过保留验证集(held-out validation)接受受约束的控制逻辑更新。在4B至14B参数的三个冻结SLM backbone和四个基准测试上,PACE在所有12个backbone-benchmark组合上均取得最佳性能,相对原始SLM agent提升最高达+9.2%,优于更强的单模式进化基线最高达+5.4%。该方法无需更新模型权重或依赖前沿模型教师,通过自主验证发现任务适配的推理策略,为agent领域的自我进化提供了新范式。
Anuj Apte et al.
cs.LG cs.AI math.OC stat.ML
本文提出SF-NorMuon,一种无调度谱优化器,通过将Muon优化器与谱归一化(spectral normalization)结合,并引入快速迭代上的权重衰减(weight decay at the fast iterate),在125M和772M参数的语言模型上,以单一超参数配置匹配或超越了调优后的AdamW基线。理论方面,作者证明了无调度谱动力学的平稳性保证(stationarity guarantee),并指出快速迭代上的权重衰减对长视界稳定性至关重要。该方法解决了Schedule-Free优化器长期存在的性能差距问题,使得无需预先承诺训练步数的任意时刻训练(anytime training)更加实用,为开放式持续学习提供了关键工具。
Joe Sharratt
cs.LG
本文提出ThriftAttention,一种针对长上下文场景的混合精度attention机制。该方法通过一个启发式规则快速选择少量重要的query-key block对(约5%)使用FP16精度计算,其余block使用FP4精度,并通过online softmax合并两条路径。实验表明,该方法在长上下文benchmark上平均恢复了FP4到FP16性能差距的89.1%,且优势随序列长度增长而扩大,有效缓解了长上下文中FP4量化带来的系统性质量下降。
Manish Aryal et al.
cs.LG cs.AI
本文提出了首个Infra-Bayesian强化学习架构的proof-of-concept实现,用于有限结果的无状态决策问题。该agent维护一组不精确的hypotheses,通过infra-Bayesian conditioning更新,并采用maximin决策准则(最大化最坏情况下的期望值)来选择动作。在具有Knightian不确定性的环境中,该agent相比经典RL agent实现了更低的worst-case regret,并在Newcomb问题中选择了最优策略。这项工作为在模型误指定(model misspecification)和政策依赖不确定性下保持鲁棒性的RL agent提供了重要步骤,与关键词"agent"高度契合。
Junzhe Yang, Xiaoyu Shen
cs.LG cs.AI
本文提出了一种名为Adaptive Mass-Segmented (AMS) KV Compression的框架,用于解决长上下文LLM推理中KV cache线性增长导致的“区域擦除”问题。该方法通过根据attention mass的空间分布自适应划分KV cache,为结构上重要的推理段分配保证的内存配额,并采用基于EMA的平滑机制确保解码稳定性。AMS作为一个与现有评分器正交的即插即用层,可无缝集成到TOVA、KeyDiff等方法中,并在数学推理、代码补全等任务上有效缓解了结构碎片化问题。
Miria Feng, William Tan, Mert Pilanci
cs.LG
本文提出Convex Language Detection (CLD)框架,将凸优化技术(convex optimization)引入语音识别中的语言检测任务,以解决低资源口音鲁棒性问题。该方法通过多GPU上的ADMM算法(Alternating Direction Method of Multipliers)在JAX中高效实现,提供全局最优性保证(global optimality guarantees)和多项式时间训练。理论上证明了凸目标函数具有认证的margin稳定性(certified margin stability)并对特征扰动具有鲁棒性。实验表明,该方法在低资源场景下达到97-98%的准确率,且对输入方言变化具有样本效率和鲁棒性。
Hoyun Choi, Junghyo Jo, Deok-Sun Lee
cs.LG cond-mat.stat-mech cs.AI
本文提出Deep Microcanonical Graph Generator (DMGG),一种基于reinforcement learning (RL)的框架,用于生成具有精确assortativity约束的微正则图系综。该方法通过degree-preserving rewiring操作,利用policy-guided search最大化改变joint-degree matrix,从而避免了传统exponential random graph models (ERGMs)中耗时的参数调优,并将生成速度提升至少一个数量级。DMGG在不同图规模、稀疏度和拓扑结构下均能保持构型多样性,为隔离聚类系数等次级可观测量的影响提供了精确的零模型。这项工作将RL确立为生成硬约束图系综的实用且强大的范式,与关键词中的agent和context高度契合。
Snir Hordan, Nadav Dym, Tim Seppelt
cs.LG math.CO
本文证明了对于任意自然数\(k\),\(k\)-Weisfeiler-Leman (\(k\)-WL)测试无法区分所有具有简单谱(simple spectrum)的非同构图,揭示了该层次结构在简单谱图上的不完备性。为弥补这一缺陷,作者提出了PRiSM(Partition, Refine, Solve, Match)方法,这是首个可证明完备的简单谱特征分解规范化(canonicalization)算法,解决了该领域长期存在的表达性开放问题。PRiSM与DeepSets或Transformer结合时,可在简单谱图上实现通用逼近,为使用规范化的Laplacian位置编码提供了理论依据。实验表明,PRiSM在图回归、分类及表达性任务上优于或持平现有谱规范化方法。
Zhangyi Hu et al.
cs.LG cs.AI cs.CL
本文提出CoSPlay框架,一种无需ground-truth unit test且无需训练的test-time scaling方法,用于提升LLM代码生成。其核心创新在于通过cooperative self-play机制,让代码候选池与单元测试池在双向pass-count信号驱动下协同进化,从而同时提升代码正确性与测试质量。该方法在多个基准上显著优于现有无GT的TTS方法,并可与RLVR模型结合进一步提升性能,为代码生成领域提供了一种可扩展的推理策略。
Yuandao Cai et al.
cs.LG cs.SE
本文提出并形式化了Quantitative Goal Persistence (QGP)问题,即long-horizon LLM agent能否持续工作直到外部verifier确认足够数量的有效工作单元。作者构建了PushBench基准测试,通过state-tracking retrieval controller和backlog-tracking work-unit controller等设计,直接测量重复工作、虚假完成等失败模式,而非仅依赖最终成功标志。实验表明,在100-artifact任务中,Claude Code和Codex CLI等黑盒frontier agent的成功率从50-artifact时的较高水平骤降至3/9,揭示了定量目标对agent可靠性提出的独特挑战。该工作为agent在长程任务中的定量持久性评估与强制提供了系统化方法。
Piotr Frydrych
cs.LG cond-mat.dis-nn cs.AI cs.NE
本文提出Preisach Attention Layer (PAL),一种基于经典Preisach hysteresis operator(磁滞算子)的新型序列建模架构。PAL用二元中继算子(binary relay operator)替代softmax attention机制,通过维护局部极值栈(stack of local extrema)作为内部状态,实现了O(1)深度的图灵完备性,而标准hard-attention transformer需要O(log n)深度。理论证明PAL与transformer可计算的函数类不可比较:PAL能在O(1)层内计算历史范围统计量(transformer需O(log n)层),但无法执行随机访问检索。该工作为具有长程情景记忆和弱位置依赖性的任务提供了高效架构,推理成本为O(n log n)而非标准attention的O(n^2)。
Yunhua Pei et al.
cs.LG
本文提出ContrastAD,一种用于无监督多变量时间序列异常检测的框架。其核心创新在于Dynamic Graph Contrastive Learner,它利用batch-level DTW距离构建幂律分布启发的稀疏图快照,并对最发散的时间段与稳定锚点进行对比,从而将结构演化本身作为学习信号,而非强制视图间不变性。此外,Frequency-Aware Attention Mixer通过spectral top-K滤波抑制噪声,防止其影响attention计算。该方法在五个真实基准上取得领先性能,验证了在非平稳动态下,软对比正则化优于严格不变性假设。
Pál András Papp, Aleksandros Sobczyk, Anastasios Zouzias
cs.LG
本文提出了一种近似attention计算的新方法,其I/O复杂度(数据在快慢内存间的传输次数)在大多数参数范围内仅与序列长度\(n\)呈近线性关系,显著优于FlashAttention等现有方法的二次复杂度。该方法基于Alman和Song的近似attention框架,通过设计I/O高效的算法实现了这一改进,并给出了各参数区域的下界证明以表明其接近I/O最优。这项工作为大规模语言模型中attention计算的I/O瓶颈提供了理论上的突破性解决方案,与关键词"attention"高度契合。
Marius Tacke et al.
cs.LG
本文提出首个多智能体LLM驱动的本构模型生成框架,将模型生成与物理约束审计分离:Creator agent根据数据提出模型,Inspector agent针对九项物理约束进行批判性审查并迭代修正。在脑组织、实验橡胶和合成橡胶的基准测试中,该方法将满足所有物理约束的模型比例从91%提升至100%(Claude Opus 4.7),同时保持接近基线的精度和出色的外推泛化能力。该工作通过引入agent协作机制解决了单智能体管道缺乏系统性物理验证的长期问题,为自动化、物理感知的模型发现开辟了新路径。
Aliai Eusebi et al.
cs.LG
本文提出从语言模型逐层MLP更新的轨迹中提取11种尺度不变的几何特征,并用稀疏线性探针进行不确定性校准。该方法在选择性弃权任务中优于最大softmax概率,但未涉及代码、谱方法或预训练等关键词。
Sanggeon Yun et al.
cs.LG
本文提出FusionSense框架,通过三阶段近传感器学习实现运行时自适应多模态边缘智能,利用轻量级分类器在传感器端进行融合感知的数据过滤,以减少计算和通信开销。该方法在RGB+Depth/LiDAR双模态设置下相比单模态滤波器实现了更高的数据压缩率和能量节省。
Ming Liu
cs.LG cs.AI cs.CL
本文通过prefix completion实验,发现小语言模型在算术Chain-of-Thought推理中主要依赖位置复制捷径(将答案分隔符前的最后一个数字直接复制为答案),而非逻辑推理。该现象在1-3B模型上占主导,且会抑制模型本可执行的单步算术能力。
Weiqi Wang et al.
cs.LG cs.AI stat.ML
本文提出ManiF-SMC方法,通过将每个被擦除样本从其原始流形表示中心推向保留数据中语义最近的邻居,在表示空间中实现近似机器遗忘。该方法使用基于margin的triplet loss来平衡遗忘与表示保留目标,并通过self-mode-connectivity模块自适应生成margin。实验表明该方法在遗忘效果上可与现有方法媲美。
Qianhan Feng et al.
cs.LG cs.AI cs.CV
本文提出MedExpMem框架,通过存储诊断失败经验来增强医学视觉语言模型的鉴别诊断能力,在放射学基准上取得最高7.0%的准确率提升。该方法与关键词中的agent概念相关,但未涉及code、spectral等核心主题。
Wei Xia et al.
cs.LG cs.AI cs.CL
本文通过分析LLM解码过程中的entropy dynamics,发现CoT推理的有效性取决于任务是否表现出entropy reduction的相变特征,并据此提出EDRM框架,利用早期解码entropy自适应选择推理策略,在多个benchmark上实现token节省和精度提升。
Xuan Wu et al.
cs.LG
本文提出了一种名为WeCon的权重条件神经求解器,用于多目标组合优化问题。它通过设计带有门控残差融合的编码器层和残差融合解码器块来增强权重与实例特征的交互,并引入高效偏好优化方法提升训练效果。实验表明,WeCon在达到与SOTA方法相当的超体积指标的同时,推理时间减少了40%。
Kabir Swain et al.
cs.LG cs.AI
本文提出Tensor Cache,一种为Transformer设计的双层缓存机制,将滑动窗口softmax attention作为L1缓存,并将窗口驱逐的KV对压缩为外积快速权重矩阵作为L2缓存,通过线性attention恒等式读取。该方法在长上下文语言建模等任务中改善了内存-质量权衡,但未直接涉及关键词中的特定概念。
Mads H. Baattrup et al.
cs.LG hep-ex
本文指出在具有多模态后验的逆问题中,基于点估计的指标(如RMSE、MAE)会导致边际谱变窄的固有偏差,并提出了一个包含CRPS、谱保真度诊断和覆盖校准的三部分评估协议。实验表明,模型排名在点指标与分布指标下会反转,且校准能进一步区分模型。
Mohammad R. Rezaei, Rahul G. Krishnan
cs.LG
本文提出MARICL框架,利用LLM agents分析base-model的残差,通过in-context learning生成显式修正项,以提升表格数据的预测性能。该方法在多个基准上表现一致,但未涉及code、spectral或Muon等关键词。
Rachid Hedjam
cs.LG
本文提出了一种名为FIRMA的联邦学习协议族,通过Fibonacci加权邻居混合和永久私有分类头实现无服务器环形聚合,并引入精度门控邻居抑制和2-opt环排列优化。实验表明该方法在标签偏斜配置下优于FedAvg,但未涉及code、spectral或Muon等关键词相关技术。
Dimitrios Damianos et al.
cs.LG cs.AI cs.CL
本文采用基于Transcoders的功能中心框架,将Gemma 3-4B-IT模型分解为可解释的计算路径,用于分析视觉-语言模型中的视觉接地与幻觉现象。实验表明,Transcoder归因在图像块消融下对视觉接地token产生比稀疏自编码器更强且更稳定的效果,并通过反事实分析验证了路径的特异性。此外,从Transcoder电路迹线中提取的图特征可预测幻觉,AUC达到0.68。
Aasheesh Singh
cs.LG cs.IR
本文提出了一种面向移动设备的两阶段隐私保护联邦推荐系统,将非敏感偏好数据与敏感上下文数据分离,第一阶段在云端进行协同过滤,第二阶段在设备端利用敏感信号重排序,并在多个数据集上验证了有效性。
Kim Phuc Tran
cs.LG cs.AI stat.ML
本文提出了Human-Centered Learning Mechanics (HCLM)框架,将深度学习视为一个受熵正则化控制的开放动力系统。文章引入了有效熵的概念,并研究了基于方差和对数行列式协方差的几何熵代理,分析了其信息力退化条件。
Maryam Moradpour et al.
cs.LG q-bio.QM
本文提出了FederatedRSF,一个用于联邦随机生存森林的Python包,通过聚合本地训练的生存树并仅重新分配特征兼容的树,解决了多中心生存预测中特征空间部分重叠的问题。实验表明,该联邦模型在GBSG2乳腺癌数据集上能达到与集中式训练相当的性能。
Artur Back de Luca, Kimon Fountoulakis
cs.LG
本文研究了在最小过参数化下,从示例中认证电路和Transformer的难度,证明了即使添加少量额外参数,认证所需示例集大小也可能呈指数增长,并讨论了近似认证的局限性。
Benjamin Rozonoyer et al.
cs.LG
本文提出Learned Relay Representations (Relay)方法,通过可微分的逐token通道在Masked Diffusion Models (MDMs)的前向传播间传递latent information,并利用truncated BPTT训练,以在去噪步骤间保留内部计算信息。该方法在Sudoku规划任务上验证了设计选择,并在Fast-dLLM v2扩散语言模型上实现了coding任务性能提升和高达32%的推理延迟降低。
Luke Cheng, Samuel Lippl
cs.LG cs.AI
本文引入了一个新的任务范式(transitive inference with exceptions),用于研究学习系统如何在关系泛化与例外记忆之间取得平衡。通过分析kernel ridge regression模型的行为,作者发现这种平衡依赖于表征的几何结构,并在预训练语言模型中验证了理论预测。
Muhammad Rajabinasab et al.
cs.LG cs.AI
本文提出将随机特征选择作为无监督特征选择方法的评估baseline,并实验证明许多现有方法在性能和效率上均不如随机选择。该工作强调了在开发新方法时需严格对比随机baseline以确保实际改进。
Simone Antonelli, Sadegh Akhondzadeh, Aleksandar Bojchevski
cs.LG cs.AI
本文研究了Test-Time Training (TTT)范式在模型推理时动态调整参数所带来的安全漏洞,发现攻击者可利用此机制绕过安全过滤器,显著提升攻击成功率。该工作揭示了TTT会削弱现有安全护栏,并提出了基于perplexity偏移的轻量级检测方法作为初步防御。
Jessica Finocchiaro, Victor Ganson, Drona Khurana
cs.LG cs.GT
本文研究了离散分类任务中近似\(\Gamma\)-校准的平滑elicitation complexity,通过Lipschitz连续性质作为中介,首次为强有序离散性质提供了近似校准结果。
Elton Cardoso do Nascimento et al.
cs.LG
本文提出了一种基于transformer的生成式世界模型架构World Machine,用于时间序列预测,通过引入latent states来适应不同长度的观测数据,并降低传统transformer的二次计算复杂度。在合成数据集Toy1D上的实验验证了该方法的可行性。
Xavier Cadet, Mateusz Nowak, Peter Chin
cs.LG cs.CL cs.CV
本文提出RADAR,一种基于几何的metric,通过分析foundation model中representation的layer-wise angular alignment和距离变化来估计cross-domain transferability。实验表明该metric在跨语言和跨领域任务中具有竞争力,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Arnesh Batra et al.
cs.LG cs.AI
本文研究了深度模型中中间层表示的任务相关信息分布,发现其非单调分布且无法通过简单聚合恢复。作者提出了LOES方法(一种基于spectral的构造性方法)和GeoReg正则化损失,通过优化embedding几何结构来提升迁移学习性能。
Christy Dunlap et al.
cs.LG physics.flu-dyn
本文介绍了Nano Energy and Data-Driven Discovery实验室开发的多模态数据集和开源软件生态系统,用于多相传输和热系统的数据驱动建模,提出了S+TD空间-时间维度分类框架,并描述了BubbleID、SeqReg等软件包的功能。
Sumanta Bhattacharyya, Pedram Rooshenas
cs.LG
本文提出了一种基于稀疏查询特征的梯度优化引导生成方法,通过将Sparse Autoencoders应用于attention query activations来分解可解释特征,并在推理时进行梯度优化以对齐目标行为原型。该方法在文本化网格世界和教育领域验证了其对逻辑规划与风格控制的统一可解释性。
Changling Li et al.
cs.LG cs.AI cs.CL
本文从社会心理学角度分解了评估意识(evaluation awareness)为环境组件和模型组件,并通过EvalAwareBench基准测试研究了前沿语言模型在评估中的行为变化,发现识别率取决于模型与基准的特定配对,且识别很少导致行为改变。
Aman Sunesh, Ali Alshehhi, Hivansh Dhakne
cs.LG cs.CL cs.PF
本文提出ModeSwitch-LLM,一个轻量级的请求边界控制器,通过为每个请求选择FP16、量化、推测解码等固定推理模式来提升单GPU上LLM的推理效率。实验表明,基于规则的控制器在延迟和能耗上优于FP16,但学习型路由器因开销和约束违反而表现不佳。
Jianing Deng et al.
cs.LG cs.CL
本文提出GEMQ方法,通过全局线性规划分配专家级bit-width并微调router以适应量化,用于MoE-LLMs的混合精度量化。实验表明该方法在减少内存和加速推理的同时保持了模型精度。
Giang Nguyen
cs.LG
本文讨论了生成式语言模型中特征归因方法的模糊性问题,指出传统分类器时代的归因方法直接应用于生成模型存在概念局限,并提出了“归因契约”这一规范框架来明确归因声明中的各项要素。文章通过自回归和扩散语言模型案例分析了不同归因场景的有效性与误导性,但未涉及代码、谱方法或预训练等关键词相关技术。
Connall Garrod, Jonathan P. Keating, Christos Thrampoulidis
cs.LG
本文研究了深度无约束特征模型(UFM)在无正则化训练下的隐式偏差,发现深度本身会诱导一种低秩偏差,使得低秩矩阵通过连续乘法更有效地传播范数,从而促进softmax codes(一种最大间隔解)的出现,并分析了奇异值间的早期排斥如何驱动低秩结构的涌现。
Romil V. Sonigra, P. R. Kumar
cs.LG cs.AI
本文提出GPLD正则化器,通过对DreamerV3的latent dynamics施加row-wise Jacobian penalty来鼓励局部平滑性,从而提升model-based reinforcement learning的sample efficiency。该方法在DeepMind Control任务上展示了改进效果,但整体创新性有限。
Yiming Ma
cs.LG stat.ML
本文针对共享单车需求预测中的时间域偏移问题,提出Gen-ROTDA框架,利用鲁棒最优传输(Robust Optimal Transport)引导残差域自适应,通过小样本目标域标签和残差特征生成器提升预测鲁棒性。实验表明该方法在多年度任务中优于多种基线,尤其在异常数据下稳定性突出。
Xingyu Zhou
cs.LG
本文探讨了在线性bandit和强化学习中,由于隐私保护添加高斯噪声导致设计矩阵单调性失效的问题,并利用Codex提出了一种基于广义Rayleigh商的新切换规则,以恢复对数策略更新和置信宽度比较。
Cambridge Yang, Dongdong Li
cs.LG
本文提出了一个名为acopula的JAX框架,用于处理嵌套Archimedean copula的推断。该框架通过Taylor-mode自动微分实现了任意Archimedean生成器下的精确似然和梯度计算,并支持高维数据与任意删失模式。
Jaehyeop Hong, Youngbum Hur
cs.LG cs.AI
本文提出CALAD,一种用于多变量时间序列异常检测的通道感知对比学习框架。它通过估计通道相关性来构建对比样本,并结合重建损失学习判别性表示,在多个数据集上表现优于现有方法。
Shengtai Yao, Eitan Levin, Mateo Díaz
cs.LG math.FA math.RT stat.ML
本文针对任意维度输入(如不同大小的图或点云)的机器学习模型的universality问题,发展了一种系统方法。通过将任意维度函数与一个定义在无限维极限空间上的唯一函数等同,并利用输入对称性,作者证明了现有一些架构不具universality,并提出了恢复universality的简单修改。
Abhay Yadav
cs.LG cs.AI stat.ML
本文分析了NEFTune中uniform noise优于Gaussian noise的原因,并提出了SymNoise方法,通过在embedding中引入symmetric noise来更严格地约束模型的local curvature,在LLaMA-2-7B等模型上取得了优于NEFTune的性能。
Zitian Li, Wang Chi Cheung
cs.LG
本文研究了在episodic Reinforcement Learning中,使用bandit feedback进行“好策略识别”(Good Policy Identification, GPI)的问题,即寻找一个期望奖励不低于给定阈值的策略。作者提出了BEE-GPI算法,并给出了其样本复杂度的理论上界,证明了该算法在正例情况下的复杂度系数与状态和动作空间大小无关。
Jiapeng Zeng et al.
cs.LG
本文提出了一种经验贝叶斯共形预测框架,通过\(r\)-value将分数变异性转化为不确定性感知的非一致性分数,用于视觉和语言模型。该方法在保持目标覆盖的同时,减少了高方差假候选的包含,并在图像分类、CLIP和LLM任务中提升了排序稳定性。
Guoming Li et al.
cs.LG cs.IR math.NA
本文针对推荐系统中RankMixer模型存在的embedding collapse问题,提出RankElastor架构,通过引入parameterized full mixing和GLU-improved P-FFNs来改善representation的spectral robustness,从而缓解有效秩的阻尼振荡并提升模型扩展性。
Massimiliano Lupo Pasini et al.
cs.LG cs.AI
本文提出了一种基于HydraGNN的可扩展异构图神经网络工作流,用于数据驱动的最优潮流(OPF)近似建模。该工作流保留了电力网络的异构结构,并在大规模超级计算机上进行了分布式训练与超参数优化,验证了预训练图基础模型在下游任务中的微调效果。
Yeseul Cho et al.
cs.LG
本文提出SemiPrune框架,利用少量随机标注子集通过半监督学习生成pseudo-labels,使现有监督式数据集剪枝方法能应用于未标注数据,从而在目标数据集上更可靠地估计样本难度并选择coreset。该方法在领域特定、图像损坏和长尾数据集上达到领先性能。
Gabriele Oliaro et al.
cs.LG cs.AI cs.CL
本文提出了FastKernels,一个包含46种代表性架构的GPU kernel benchmark,并构建了与生产环境对齐的推理框架。实验表明,现有kernel agent在该benchmark上的加速效果有限,揭示了benchmark与生产环境之间的不一致是当前领域的关键瓶颈。
Minju Kim, Youngbum Hur
cs.LG cs.AI
本文提出PaP-NF框架,利用Prefix-as-Prompt机制将连续时间序列表示与冻结的大语言模型对齐,并基于normalizing flow解码器生成概率预测分布。该方法在长期预测基准上能捕捉多模态不确定性,同时保持点预测精度。
Zhixiang Guo et al.
cs.LG
本文提出WMAttack框架,用于自动化搜索攻击配置以评估基于world model的智能体(agent)的对抗鲁棒性。通过Self-Correcting Attack Search和Representation-Guided Attack Retrieval方法,在有限预算下提升了攻击搜索的准确性和效率。
Francesco Lettich et al.
cs.LG cs.CY
本文提出了一种评估预测模型在空间公平性方面的新方法,通过将个体的移动模式与地理区域关联,并利用spatial scan statistic来检测模型是否基于移动模式存在不公平性。实验表明该方法能有效识别新型不公平性,但定位性能存在多分辨率权衡。
Woohyun Lee, Hogun Park
cs.LG
本文提出了一种自监督对抗净化框架GPR-GAE,通过引入独立的净化器来分离分类器的鲁棒性与准确性,利用多个Generalized PageRank滤波器捕获多样化的结构表示,以数据驱动的方式适应不同图结构。实验表明该方法在多种攻击场景下具有较好的鲁棒性。
Jinyu Yang et al.
cs.LG
本文提出RelPrism,一种用于关系数据库的多面自监督预训练框架,通过从不同视角构建内在、关系和混合属性并进行多粒度聚类来生成伪任务池,以提升下游任务性能。实验表明其在分类和回归任务上优于现有方法。
Miria Feng, Mert Pilanci
cs.LG
本文提出COALA算法,利用neural network的convex optimization reformulation来替代DPO中的reference model,从而在单GPU上高效进行LLM的preference fine-tuning。实验表明该方法在训练时间和显存消耗上显著优于DPO,但方法本身与关键词列表中的概念关联较弱。
Bharadwaj Veeravalli
cs.LG
本文提出了一种基于机器学习的方法,用于加速Divisible Load Theory (DLT)中Single-Level Tree Network (SLTN)架构的最优处理时间预测,通过前馈神经网络在合成数据上训练,实现了高精度和显著的速度提升。该方法为大规模工作负载的实时调度提供了实用框架。
Ramya Hebbalaguppe et al.
cs.LG cs.AI
本文关注深度神经网络的可靠性,提出了一种名为RefCal的训练框架,通过联合优化校准、精炼(sharpness)和准确性来提升模型性能。该方法在CIFAR-100-LT数据集上取得了优于现有方法的实验结果。
Mugen Blue, Sungjin Im, Alexander Lindermayr
cs.LG cs.DS
本文研究了学习增强在线调度中的抢占限制问题,提出了在单机和无关并行机上仅需常数次抢占即可实现常数竞争比的算法,并分析了预测误差对性能的影响。
Yuping Lin et al.
cs.LG
本文提出VECTOR,一种即插即用的KV cache压缩增强方法,通过引入保留、近似和驱逐的三路token路由机制,利用可重构性信号恢复被二进制驱逐丢失的价值信息,从而改善中等至高压缩率下的质量-内存权衡。
Zhizhan Zheng et al.
cs.LG cs.AI cs.CL
本文提出Multi-Gate Residuals (MGR)方法,通过评分与门控机制维持多流上下文,并利用Attention Pooling提取隐藏状态,以稳定深度残差层中的激活尺度,同时避免额外的通信开销。实验表明该方法在大规模训练中具有实用性。
Boxiao Wang et al.
cs.LG cs.AI
本文针对符号回归(Symbolic Regression)中“好结构、差分数”的瓶颈问题,提出了SAGE-Fit框架,通过利用符号表达式的结构和语义先验来改进参数优化。该方法作为即插即用模块,能提升评估保真度并改善多种符号回归系统的性能。
Egor Lifar et al.
cs.LG
本文提出Diffusion Domain Expansion (DDE)方法,通过一个紧凑的可训练网络来协调多个预训练diffusion model的去噪输出,从而扩展其生成能力。该方法在长音频生成和条件图像生成任务上展示了有效性。
Jaihoon Kim et al.
cs.LG
本文提出Contrastive Distribution Matching (CDM)框架,通过正负样本学习参数化的twist function来摊销离散扩散模型中Twisted Sequential Monte Carlo (SMC)推理的计算成本。该方法利用离散扩散模型的闭式前向核重新设计了梯度估计器,在推理时仅增加不到5%的额外计算开销,并在多个任务上优于现有基线。
Ting Hu, Luanda Cai, Emmanouil-Vasileios Vlatakis-Gkaragkounis
cs.LG cs.GT
本文提出Prudent-Banker算法,用于解决带延迟反馈的对抗性多臂赌博机中的安全-鲁棒性权衡问题。该算法通过延迟校准的重新启动阈值和修改的分阶段攻击机制,实现了最优的伪遗憾界\(\widetilde{O}(\sqrt{T}+\sqrt{D})\)和常数安全遗憾。
Junghyun Lee et al.
cs.LG cs.IT math.ST stat.ML
本文研究了在预算约束下使用多个LLM裁判进行实例最优估计的问题,提出了EST-IVWE算法,该算法通过乐观有偏的方差估计来逼近最优分配,并证明了其与oracle分配率匹配。理论贡献在于使用Assouad型期望论证推导了匹配的局部极小极大下界,揭示了Fano型高概率论证在此问题中的局限性。
Kyungyoon Kim et al.
cs.LG cs.AI
本文提出SOM算法,通过score estimation和probability flow ODE从Q-function直接构建目标velocity field,解决了MeanFlow在在线RL中无法获取目标分布样本的问题。该方法在locomotion任务上以单步生成达到最优性能,并显著减少了训练和推理时间。
Yongyan Wen et al.
cs.LG cs.AI
本文提出了一种基于可测任务表示学习的课程强化学习方法,通过变分自编码器将任务空间映射到latent space以度量任务相似性,并据此自动生成课程任务。实验表明该方法在复杂导航任务中优于基于插值和生成对抗网络的现有方法。
Youngjae Park, Jaemin Kim, Junghwa Hong
cs.LG math.NA
本文通过neural tangent kernel (NTK)分析,理论解释了多物理场PINNs在耦合增强时精度下降的原因,并提出Kronecker预条件优化器SOAP结合逆梯度范数损失平衡(SOAP+GN)的方法,使精度对耦合强度具有鲁棒性。实验表明该方法在多种耦合PDE系统中优于Adam+GN。
Po-Kai Chen, Niki van Stein, Aske Plaat
cs.LG cs.AI
本文提出Unpack方法,通过利用attention和MLP共享的key-value模板结构,实现从单次前向传播中分解token归因与组件间交互强度,无需干预或梯度。该方法在GPT-2 small上复现了已知的composition连接,并在Pythia系列模型上验证了token级归因模式的一致性。
Meir Roketlishvili et al.
cs.LG
本文提出Convex Compositional Energy Minimization (CCEM)框架,通过将每个factor参数化为input-convex neural network,并优化composed energy在可行集的tight convex relaxation上的值,来解决compositional reasoning中的非凸能量景观瓶颈问题。实验表明,在小规模子问题或单一问题规模上训练的模型可直接迁移到更大实例。
Jinglin Li et al.
cs.LG cs.AI
本文提出Parametric Prior Mapping (PPM)框架,通过将参数化结构先验注入生成式建模过程,以平衡非平稳概率时间序列预测中的表达力与鲁棒性。该方法利用参数化估计器生成动态自适应先验,并通过可学习映射指导复杂预测分布的学习,在保持参数方法效率的同时利用生成模型的表达能力。
Rui Wang et al.
cs.LG physics.ao-ph quant-ph
本文提出了一种混合量子-经典修正扩散模型用于气象统计降尺度,在扩散UNet的瓶颈层插入变分量子电路层以进行潜在通道混合。实验表明该模型在2020年验证集上能保持稳定性并改善MAE和CRPS指标,但在2021年分布外测试中泛化能力不足,且受限于量子比特可用性和执行保真度。
Eunwoo Heo, Kyeongkook Seo, Jaejun Yoo
cs.LG cs.CV
本文提出MVProbe框架,通过多视角探针(结合一阶信号与基于Gram矩阵的交互感知视图)来改进权重空间学习中的表示提取,在Model Jungle基准上优于现有方法。
Phuc Duc Nguyen, Quang Duc Nguyen
cs.LG cs.CR cs.CV
本文提出了一种针对test-time adaptation (TTA)的样本级定向攻击方法,通过meta-learning和priority-aware gradient alignment策略,在保持全局标签分布不变的前提下,仅对携带特定trigger的样本进行错误分类。该方法将梯度更新形式化为ellipsoidal trust-region问题,以平衡攻击成功与分布隐蔽性。
Shuai Zhen et al.
cs.LG cs.AI
本文提出Reflex框架,将反射对称性(包括轴向反射和双侧反射)整合到基于状态的连续控制任务的强化学习中,通过对称性正则化机制提升样本效率。实验在OpenAI Gym和DeepMind Control基准上验证了其与PPO和SAC算法结合的有效性。
Aaron Klein et al.
cs.LG
本文介绍了BBO-Pile,一个包含超过50万条优化轨迹的开源数据集,用于训练黑盒优化的基础模型。作者训练了从2M到80M参数规模的模型,并研究了其扩展行为。
Hongyi Li, Jun Xu, Hong Yan
cs.LG
本文提出了Hinge Regression Tree (HRT)框架,将oblique split优化转化为非线性最小二乘问题,并证明了其作为universal approximator的\(O(\delta^2)\)逼近率。在此基础上,作者进一步构建了HRT-Boost集成方法,在保持模型紧凑性的同时取得了有竞争力的性能。
Jian Xu et al.
cs.LG
本文提出了一种用于Deep Gaussian Processes (DGPs)的近似推断方法OM-Path,将推断问题转化为后验传输,通过Doob桥参考扩散的Onsager-Machlup作用量作为路径正则化项,并利用概率流ODE实现确定性采样器。实验表明,该方法在部分UCI回归基准上优于现有方法,但整体贡献与关键词列表中的概念关联较弱。
Tahereh Dehdarirad et al.
cs.LG cs.CV math.AG
本文提出了一种Lie Group VAE框架,通过两阶段训练(先无约束训练并诊断非交换性,再引入变形稳定性约束)来显式处理VAE潜在空间中的非交换结构,并在多个基准上提升了重建质量。该方法与关键词中的“code”和“context”有一定关联,但整体创新性有限。
Elvin Somón, Miguel A. Gutiérrez-Naranjo
cs.LG
本文针对严重类别不平衡下的多类别偏头痛分类问题,提出了一种基于类别依赖的混合数据增强策略,通过根据每类样本量分配不同的生成方法,并引入保真度不对称概念来约束类别平衡程度。实验表明该方法在多个分类器上提升了平均macro-F1分数,但主要改进来自临床驱动的类别合并,而非方法本身的开创性。
Alexander Long et al.
cs.LG
本文提出Unextractable Protocol Models (UPMs)框架,通过在分布式训练和推理中周期性注入随机可逆变换,使得参与者持有的模型分片在不同时间步不兼容,从而防止完整权重被提取。实验表明该方法对模型性能影响极小,但能有效防御权重提取攻击。
Dai Shi et al.
cs.LG
本文提出S\(^3\)GNN模型,通过轻量级地重新引入被省略的spectral成分来缓解MPNN中的oversquashing问题,在多个长程图学习任务上取得了显著误差降低。该方法主要关注图神经网络中的全局信息混合与局部消息传递效率。
Christian Lagemann et al.
cs.LG cs.AI cs.CE
本文提出CADENCE框架,通过将latent dynamics锚定到静态个体context,从稀疏cross-sectional快照中恢复连续个体轨迹,并提供了单时间点轨迹推断的可识别性保证。该方法结合了score-based spatial encoder和Soft Mixture-of-Experts router,在物理系统和生物数据上表现良好。
Hanadi Alhamdan et al.
cs.LG cs.AI
本文提出了一种基于注意力机制的紧凑型CNN-BiLSTM网络(CBANet),用于从车辆传感器数据中检测激进驾驶事件。该方法通过构建工程化动态特征、结合SMOTE过采样与类别加权损失的稳定训练策略,以及基于类别特定阈值校准的安全导向决策策略,解决了数据不平衡和驾驶员间差异性问题。实验表明该方法在少数类召回率和安全关键F-score指标上优于标准深度学习基线。
Hong Qian et al.
cs.LG cs.AI
本文提出了一种名为DSEBO的自动随机嵌入方法,用于解决有效维度未知的高维Bayesian optimization问题。该方法通过动态切换子空间维度并共享查询解,在理论上给出了regret bound,实验表明其在优化regret和时间上优于现有方法。
Souvik Ghosh
cs.LG cond-mat.dis-nn cond-mat.mtrl-sci math.OC
本文通过非正规算子理论分析了神经网络训练中的不稳定性,指出Adam和带动量的SGD的线性化更新算子是非正规的,并推导了伪谱前兆界。实验表明条件数\(\kappa(V)\)比谱半径\(\rho(J)\)能更好地区分稳定与不稳定训练阶段。
Alberto D. Cencillo et al.
cs.LG cs.AI
VACE提出了一种自监督时间序列异常检测方法,通过速度一致性目标训练通道感知编码器,使正常轨迹在嵌入空间中保持局部平滑和对齐。该方法无需负样本或合成异常,在TSB-AD-M基准上取得了领先性能。
Sunniva Meltzer, Sølve Eidnes, Alexander Johannes Stasik
cs.LG
本文提出NHODE框架,将Hamiltonian神经网络与神经ODE结合,用于从部分观测数据中学习动力系统。该方法通过嵌入物理结构(如能量守恒)来提升预测精度和长期稳定性,并在多个系统上验证了其有效性。
Jade Zou et al.
cs.LG cs.AI cs.CV
本文针对flow-matching模型在RL后训练中的随机采样问题,提出了一种名为Precise的SDE-consistent随机采样器。该方法通过冻结clean-latent后验均值的新近似来保持去噪轨迹与SDE一致,解决了现有采样器在低步数下离散化噪声过大的问题。实验表明,该方法在PickScore等对齐指标上达到最优,并显著减少了训练时间。
Diede P.M. van der Hoorn, Alessio Arleo, Fernando V. Paulovich
cs.LG
本文指出降维方法中存在的“模糊实例”问题,即高维空间中与多个互异邻域高度相似的实例在投影中只能被映射为单一点,导致部分邻域结构丢失。作者提出一种基于图的方法来识别这些模糊实例,并将其复制为多个点分别放置于对应邻域中,以UMAP为例展示了该方法能减少部分邻域嵌入失真。
Michael Matthews et al.
cs.LG cs.AI
本文提出了一种名为LEO的目标条件强化学习方法,通过一次性输出所有目标的values和actions,实现了高效的all-goals学习,在Craftax环境中显著优于其他方法,并在连续控制任务中与基线相当,同时相比传统relabelling方法实现了超过250倍的加速。该方法与关键词中的agent概念相关,但整体创新性有限。
Kiril Bangachev et al.
cs.LG cs.IR math.CO
本文研究了embedding-based retrieval模型中,低维度表示(如\(d\approx 1000\))为何仍能支持大规模数据检索。通过分析最大margin嵌入,证明了在特定稀疏矩阵设置下,维度\(d = O(k\log (n/k))\)是达到最优margin的充分必要条件,并实验比较了InfoNCE与sigmoid损失函数的效果。
Muhammad Rajabinasab, Afsaneh M. Nejad, Arthur Zimek
cs.LG
本文提出了一种名为MARS (Magnitude-Aware Rank Statistics) 的统计方法,通过引入相对边际系数对离散排名进行加权,以解决标准Critical Difference (CD) 图中忽略模型性能差距幅度的“幅度盲视”问题。该方法通过动态投影处理边界情况,并计算CD值,从而更真实地反映模型性能差异。
Jason Ross Brown, Edward James Young
cs.LG cs.AI
本文研究了sequential reinforcement learning中agent的目标泛化问题,发现显著特征驱动泛化且早期学习的目标会持续影响后期目标。作者提出latent policy gradients方法,通过模拟训练过程中低维latent variables的演化来预测out-of-distribution行为,但方法本身缺乏显著开创性且与关键词关联较弱。
Trinh Pham et al.
cs.LG cs.AI cs.CV cs.ET cs.PF
本文提出MetaEvaluator框架,利用meta-learning从参考模型池中学习可迁移的初始化,以在无标签数据上快速评估新模型性能,无需逐模型重训练。该方法旨在降低模型评估成本,但未涉及code、spectral、Muon、agent或attention等关键词。
Jean-Marie Lemercier et al.
cs.LG cs.AI cs.CL
本文提出DiLaDiff,一种结合连续latent space与masked diffusion的语言模型变体,通过auto-encoder和consistency distillation加速推理,但未直接涉及code、spectral或Muon等关键词。
Polina Gordienko et al.
cs.LG
本文从社会选择理论的角度分析了多任务benchmark的鲁棒性,将数据集视为选民、模型视为候选人,并证明在Borda count和mean win rate规则下,通过选择特定数据集进行训练以操纵排行榜是NP-hard问题。文章还引入了实例级鲁棒性度量,并在MMLU和BIG-Bench Hard上进行了实证评估。
Christian Klötergens et al.
cs.LG
本文提出了CopFITi模型,用于不规则多元时间序列的概率预测。该模型结合了normalizing flows在单变量边缘分布上的表达能力与Gaussian Mixture Copula在联合依赖结构上的一致性和灵活性,实验表明解耦边缘与联合的copula方法能获得更好的边缘模型。
Vincent C. Brockers et al.
cs.LG cs.AI
本文研究了人工神经网络中的“subliminal learning”(阈下学习)现象,即通过任务无关的输入-输出对进行蒸馏时,知识或偏差从教师模型转移到学生模型。作者通过MNIST实验证明,该现象的关键在于兼容的output heads(输出头),而非先前认为的初始化匹配,并为此机制提供了理论解释和失败的上界。
Ping Xiong et al.
cs.LG
本文提出了一种基于max-product算法的多项式时间算法,用于在GNN-LRP框架下高效寻找top-K相关walks,从而解决了原有方法指数级计算复杂度的瓶颈。该方法在流行病学、分子和自然语言基准测试中展示了其可扩展性和实用性。
Mohammad Tabish, Stefan Klus
cs.LG math.DS
本文提出了一种优化RaNNDy随机神经网络中激活函数的方法,以改进对复杂动力系统transfer operator的逼近。该方法在保持网络权重和偏置固定的情况下,通过优化激活函数来获得更合适的基函数字典。
Edward Henderson, George De Ath, Nick Pepper
cs.LG
本文提出了一种基于图的概率方法,通过预测相关飞机对的数量来估计空中交通管制员的工作负荷,并在伦敦中部扇区进行了验证。该方法通过构建航线网络图并建模飞机到达时间的不确定性,实现了对未来45分钟内工作负荷的预测。
Christian Nauck et al.
cs.LG eess.SY nlin.AO
本文提出了一种从graph topology学习同步网络稳定性景观(stability landscapes)的新范式,采用graph-to-image预测方法,将GNN与CNN decoder结合进行端到端训练。该方法在概念振荡器模型上验证了有效性,并展示了跨图规模及实际电网拓扑的泛化能力。
Meysam Alishahi et al.
cs.LG cs.DS stat.ML
本文研究了正则化分类问题中无维度采样(dimension-free sampling)的最优界,证明了在Lipschitz连续损失函数下达到\((1\pm\varepsilon)\)相对误差的采样复杂度上下界,并改进了先前基于敏感度采样的立方复杂度结果。
Hamed Shirzad et al.
cs.LG
SeedER提出了一种基于种子扩展的检索框架,通过轻量级密集检索和实体检索初始化核心节点,再利用强化学习训练的策略进行选择性扩展。该方法在知识图谱的多跳组合查询中提升了召回率,但未涉及代码、谱方法或Muon等关键词。
Bo Peng et al.
cs.LG cs.CV
本文针对预训练vision-language models (VLMs)的post-hoc OOD检测任务,指出基于heuristic规则挖掘negative labels存在false negative问题。作者通过理论框架校正negative labels的sampling bias,将其转化为基于ID labels和未标注wild corpus数据的Monte-Carlo sampling,实验表明该方法在多种OOD检测设置中达到state-of-the-art。
Stuart Bladon, Brinnae Bent
cs.LG cs.AI
本文通过测试7个开源LLM的base模型和chat模型,发现地缘政治偏见主要源于post-training阶段而非pre-training,且偏见强度受提示语言影响。该研究揭示了模型对齐过程对政治立场塑造的关键作用。
Dongmin Lee, Anuran Makur, Japneet Singh
cs.LG math.ST stat.ML
本文研究了半随机对抗环境下BTL模型谱排序算法的逐元素误差界,发现未加权谱方法的性能高度依赖于生成图的谱性质,并证明通过适当重加权观测边可以恢复接近均匀采样图的渐近性能。
Taiming Lu, Zhuang Liu
cs.LG cs.CL
本文研究了LLM预训练中知识蒸馏的教师-学生关系,发现教师模型不一定需要更强,弱教师也能提升学生性能,且强教师的效果可能饱和甚至逆转。该工作挑战了蒸馏预训练必须依赖强教师的传统观点。
Aneesh Komanduri, Xintao Wu
cs.LG cs.AI cs.CV
本文提出FM-CGM框架,利用预训练的foundation model(如large reasoning model和text-to-image diffusion model)实现零样本的causal discovery和counterfactual generation。其核心机制Causal Semantic Guidance (CSG)通过cross-attention确保语义干预在因果图中传播,但方法本身缺乏显著的开创性或与关键词的紧密契合。
Lizhang Chen et al.
cs.LG math.NA stat.ML
本文提出了一种无需训练的循环Transformer方法,通过在推理时对预训练模型的中间层块进行轻量级循环包装,无需微调或架构修改。该方法将循环视为对ODE前向欧拉步的细化,用更小的阻尼子步替代单次大步更新,在多个模型上提升了性能。
Hongwu Peng et al.
cs.LG
本文提出Complete-muE框架,通过双桥系统(Bridge I和Bridge II)解决了从dense FFN到MoE模型的超参数迁移问题,使得在dense模型上调优的超参数可以近乎最优地迁移到各种MoE配置上。实验表明该方法在语言模型和扩散模型预训练中能保持稳定的超参数最优性。
Xu Ouyang et al.
cs.LG cs.AI cs.IT
本文提出Shannon Scaling Law,将LLM训练建模为噪声信道中的信息传输,基于Shannon-Hartley定理解释非单调性能退化现象。实验表明该理论在多种扰动下优于经典scaling laws,并能外推预测更大模型的行为。

cs.AI

Zelin Zhao et al.
cs.AI cs.LG
本文提出了Research Math Agents (RMA),一个用于自动化处理研究级数学问题的agentic框架。RMA将证明求解分解为问题分析、文献搜索与理解、公平比较、知识库构建和证明验证等专门模块,并通过initializer、proposer和verifier agents在共享结构化记忆上协调工作。在First Proof基准测试中,RMA解决了十个研究级问题中的八个,优于GPT-5.2R和Aletheia等强基线,其性能提升源于结构化推理模块、迭代精炼和基于verifier的反馈的协同作用。该工作与关键词“agent”高度契合,为数学推理中的agent系统提供了开创性方法。
Deepak Panigrahy, Aakash Tyagi
cs.AI cs.LG cs.PF
本文提出了一种针对agentic AI系统的跨层能耗测量框架A-LEMS,将能耗度量单位从每次推理的能耗重新定义为每个成功目标的能耗(EpG)。该框架通过时间边界模型、五层观测管道和可重复性协议,系统性地聚合了包括失败和重试在内的完整工作流能耗,并定义了Orchestration Overhead Index (OOI)来量化编排结构相对于线性执行的能耗成本。实验表明,agentic工作流的平均能耗是线性基线的4.33倍,且这种开销主要由编排结构而非推理计算驱动,这为agent系统的能耗基准测试提供了新的度量基础。
Yamato Arai, Yuma Ichikawa
cs.AI cs.CL
本文提出EVE-Agent,一种基于证据可验证性的自进化agent框架。该方法通过修改proposer-solver框架,让proposer生成问题、答案和逐字证据片段,并由evidence verifier根据提供证据时的边际准确率增益来奖励该片段,从而确保训练信号优先奖励真正有助于回答问题的证据。该工作解决了自进化agent在无外部标注情况下可能奖励流畅但无依据样本的问题,使得自生成训练课程具有可审计性,与关键词"agent"高度契合。
Jiazheng Kang et al.
cs.AI
Co-ReAct提出了一种基于rubric(评分准则)的推理时动作选择框架,通过在每个决策步骤向agent的context中注入step-level的rubric来引导其Reason-or-Act决策,从而解决ReAct-style agent在搜索密集型多步推理任务中轨迹浅层、冗余的问题。该方法使用GRPO训练一个专用的rubric生成器,并采用list-wise Spearman秩相关奖励优化,使其能生成具有区分度的rubric。在DeepResearchBench和SQA-CS-V2上的实验表明,Co-ReAct在基于8B/14B开源及前沿闭源base model的search agent上均一致优于ReAct等基线,且训练好的rubric生成器可作为即插即用组件提升基线性能。该工作为agent的推理过程引入了可解释的step-level外部引导,在方法上具有开创性。
Zhewen Tan et al.
cs.AI
本文提出MemAudit,一个针对记忆增强型LLM agent的post-hoc因果记忆审计框架。该框架结合两种互补信号:一是通过反事实记忆影响分数衡量每条记忆对有害输出的因果贡献,二是利用记忆一致性图识别记忆库中的结构性异常记忆。实验表明,在QA和推理agent场景下,MemAudit能将攻击成功率从70%和83.3%均降至0%,有效解决了agent记忆被恶意注入后的追溯审计问题。
Yifan Yang et al.
cs.AI cs.CL
本文提出SkillOpt,一种将agent skill视为冻结模型外部状态、并通过可控文本空间优化器进行系统性训练的方法。该方法引入独立的优化器模型,将评分后的rollout转化为对skill文档的有界增删改编辑,并仅在严格提升验证集分数时接受编辑,同时通过文本学习率预算、拒绝编辑缓冲区和epoch级慢/元更新实现稳定训练。在52个(模型、基准、执行框架)组合上,SkillOpt在所有评估中达到最佳或持平,并在GPT-5.5上分别将直接聊天、Codex和Claude Code中的无skill准确率提升23.5、24.8和19.1个百分点,且优化后的skill在不同模型规模和执行环境间具有可迁移性。该方法与关键词“agent”高度契合,为agent skill的自动化优化提供了首个系统性的可控优化框架。
Joss Armstrong
cs.AI cs.LG
本文提出BOHM方法,通过直接提取复合AI系统中已有的路由权重来构建层次化归因树,无需访问组件内部或评估任意子集。该方法在多个实验(包括18个LLM的3层层次结构和5个驱动器的agentic研究)中与Shapley值方法高度相关,但计算成本极低。
Paapa Kwesi Quansah, Ernest Bonnah
cs.AI cs.LO
本文提出NeuroNL2LTL框架,将神经翻译与形式验证结合,通过中间表示和验证器在环训练实现自然语言到线性时序逻辑的翻译,确保输出可满足性。该方法在多个领域数据集上验证了有效性,但未直接涉及关键词中的code、spectral、Muon、pretrain、agent或attention等概念。
Shuofei Qiao et al.
cs.AI cs.CL cs.IR cs.LG
本文介绍了SciAtlas,一个大规模、多学科、异构的学术资源Knowledge Graph,通过整合超过4300万篇论文和157M实体、3B三元组,为AI agents提供结构化的拓扑认知基础,并开发了神经符号检索算法以支持自动化科学研究。
Riyaz Ahuja et al.
cs.AI cs.CL cs.LG cs.LO
本文提出ImProver 2框架,用于在Lean 4中自动化proof optimization,通过结合expert-iteration pipeline和neurosymbolic scaffold来训练小模型,使其在proof restructuring任务上达到与大规模模型相当的性能。
Oscar Montiel Ross
cs.AI cs.LO quant-ph
本文系统性地发展了Mediative Fuzzy Logic的理论基础,从type-1扩展到interval type-2、granular type-3以及quantum extensions,并建立了相应的soundness和paraconsistency性质。该工作主要聚焦于模糊逻辑与决策系统的理论统一,与您提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Dongxin Guo
cs.AI cs.CC cs.CL cs.LG
本文探讨了大型语言模型在推理深度、偏好学习、检索流程和拍卖机制等方面的根本性限制,并将这些不可能性结果转化为可计算的设计规则。文章提出了“确定性视界”概念,证明在特定架构下存在一个由层数和嵌入宽度决定的准确率上限,并给出了多个领域的量化违规成本与构造性设计规则。
Lingyu Jiang et al.
cs.AI
本文研究了大型推理语言模型(LRMs)中反思标记(如"wait"、"but")的功能差异,并提出了PathCal,一种无需训练的解码控制器,通过区分标记类型并在局部不确定状态进行干预来校准推理路径。实验表明该方法能在保持或提升准确率的同时减少生成长度。
Shubham Agarwal et al.
cs.AI cs.DC cs.LO cs.PL
本文提出Inductive Deductive Synthesis (IDS)方法,通过agentic LLM系统联合增量地合成实现与形式化证明,在分布式键值存储规范上达到7/7的成功率,显著快于专家且成本更低。该方法将性能反馈纳入同一循环,生成比已发表验证系统快3倍的实现。
Muhammad Zia Hydari, Farooq Muzaffar
cs.AI
本文提出了一种关于AI Agent生态系统中责任边界(accountability boundaries)的理论框架,引入了“责任资产”(accountability assets)和“规则债务”(rule debt)等概念,并基于交易成本与互补资产等视角提出了七项命题。该理论解释了在AI编排器降低组装成本时,技术模块化为何不一定导致组织责任边界的同步分解。
Guiyao Tie et al.
cs.AI
本文是一篇关于AI驱动科研自动化(AutoResearch)的综述,系统梳理了从任务级AI辅助到工作流级研究自动化的转变,分析了现有系统在自主性、领域范围、验证机制等方面的碎片化问题,并提出了五个评估维度(新颖性、有效性、影响力、可靠性、可溯源性)。该论文属于领域综述,未提出具体的新方法或解决长期问题,与关键词契合度较低。
Bang Liu et al.
cs.AI
本文提出了Foundation Protocol (FP),一个面向人机社会的图优先协调层,用于统一agent、工具、资源等异构实体,并支持多方组织和基于事件的协作。该协议旨在通过经济原语和审计机制实现可组合的自主性与可问责性,但并未在数学理论或算法层面提供开创性贡献。
Vartan Shadarevian et al.
cs.AI cs.GT cs.LG cs.MA
本文提出GENSTRAT框架,通过程序化生成两人零和、不完美信息的纸牌游戏分布,评估大语言模型在战略推理中的能力。该框架引入能力剖面(capability profile)和锯齿度(jaggedness)指标,从六个维度分解模型表现,并检测模型在战略相似游戏间的性能波动。
Yining Hua et al.
cs.AI
本文提出了一种三步法来明确benchmark任务如何代表其分数所对应的工作声明,并基于知识工作研究(如角色、材料、工具和工件)给出了benchmark设计和报告指南。通过三个案例(GDPval、OfficeQA Pro和APEX-SWE)展示了benchmark设计选择如何影响分数所能支持的工作声明强度。
Musa Cim et al.
cs.AI
本文提出了一种用于长周期LLM agent服务的并行上下文压缩方法,通过并行化摘要生成过程来减少端到端延迟,并提供了对摘要体积的细粒度控制。该方法在多个模型和基准上验证了其相对于顺序同步基线的性能提升。
Aasish Kumar Sharma, Julian M. Kunkel
cs.AI cs.DC
本文提出Ontological Knowledge Blocks (OKBs)框架,将监管义务编译为基于RDF/OWL概念模式和SHACL验证规则的可执行约束,用于AI系统的治理合规性验证。实验在HPC资源分配场景下验证了其性能与可配置性。
Ke Yang et al.
cs.AI
本文提出了DART,一个用于结构化tool agent的模块化运行时,通过形式化“语义可恢复性”概念并引入可接受性检查,解决了agent执行失败时局部恢复可能破坏下游已提交工作的矛盾。实验表明DART能正确恢复基线方法失败的场景,且未发现不安全的回滚。
Sijia Li et al.
cs.AI
本文提出了一种人机协同的多智能体呼吸机决策支持系统VDSS,通过上下文bandit进行在线偏好适应,并利用结构化拒绝反馈减少无效迭代。该系统在ICU轨迹回放中表现出更高的推荐接受度和更少的交互轮次。
Zehao Wang et al.
cs.AI cs.LG
本文研究了基于LLM的多智能体系统中,即使计划执行正确也可能因智能体对自身知识的误判(即epistemic miscalibration)而导致失败的问题。作者提出了Epistemic Planning Calibration Agentic Workflow (EPC-AW),通过信息一致性计划选择和一致性引导的认知状态细化来校准计划,实验表明该方法将系统级成功率平均提升了9.75%。
Aristotelis Lazaridis et al.
cs.AI
本文提出EDGE-OPD方法,通过引导rollout和evidence mask改进On-Policy Self-Distillation (OPSD)中特权上下文(如persona)的注入问题,解决模型在罕见token/身份设定下学习目标行为失败的现象。该方法在实验中展示了比OPSD更有效的知识迁移能力,但与我提供的关键词(code, context, spectral, Muon, pretrain, agent, attention)关联较弱。
Emma Legrand, Roger Kameugne, Pierre Schaus
cs.AI
本文提出了一种将Dynamic Programming (DP)和Constraint Programming (CP)混合的方法来解决Partial Shop Scheduling Problem (PSSP),其中DP作为主搜索框架,CP作为子程序利用全局约束传播。该方法支持任意优先约束和Large Neighborhood Search (LNS)方案,但性能未超越纯CP求解器。
Charles Thomas, Pierre Schaus
cs.AI
本文详细描述了飞机拆解调度问题,并提出了两种求解方法:Constraint Programming模型和MIP模型。这些模型在基于真实运营数据、包含多达1450个任务的实例上进行了测试。
Yoosung Hong
cs.AI
本文提出了一种名为pcsp的共享强化学习策略,通过将冻结的LLM嵌入作为条件,实现了对大量NPC的个性化控制。该方法在300个角色的生活模拟基准测试中,在零样本角色识别和语义-行为对齐方面显著优于基线,并支持实时推理。
Alessandro Sosso, Akhil Arora, Bas Spitters
cs.AI cs.LO cs.PL cs.SE
本文评估了Claude Code在Lean 4基准CLEVER上的agentic proving能力,发现其在程序验证任务中表现优异,但指出现有基准难度与agent能力之间存在不匹配,并呼吁更严格的评估方法。
Haoyuan Wang et al.
cs.AI
本文针对多模态大语言模型的知识编辑问题,提出了一种结合Latent Adversarial Robustification (LAR)和Rank-Constrained Subspace Learning (RCSL)的方法,旨在提升编辑的泛化性。该方法通过在联合latent space中生成对抗性变体并强制低秩对齐来增强鲁棒性,但并未直接涉及code、spectral或Muon等关键词。
Jianshu Zhang et al.
cs.AI
本文提出了SpaceNum框架,用于评估Vision-Language Models (VLMs)在空间数值理解上的能力,包括动态转换和静态布局两种场景。实验表明,当前VLMs在将数值与空间含义关联时表现接近随机猜测,主要依赖浅层空间线索,难以建立稳定的坐标感知表示。
Zisu Huang et al.
cs.AI
本文系统研究了模型生成的agent技能(structured procedural artifacts)在经验生成、技能提取和技能消费全生命周期中的效用,发现这些技能平均有益但存在显著的负迁移现象,且技能效用与模型规模或基线任务强度无关。

cs.IR

Yifan Zhu et al.
cs.IR cs.AI
本文提出LFRAG框架,通过布局分割和语义-布局融合编码器,将多模态RAG从页面级检索推进到块级检索,并构建了LFDocQA基准进行细粒度评估。实验表明该方法在检索和生成任务上均优于现有基线。
Daqian Shi et al.
cs.IR cs.AI cs.LG
本文提出RAG4Outcome框架,通过检索增强生成(RAG)技术整合多模态临床数据(如PET-CT影像报告、结构化手术记录和非结构化随访记录),用于慢性骨髓炎的预后预测。该方法利用领域特定检索语料库和专家引导提示,提升了预测的可解释性和临床可靠性。
Tom Verhoeff
cs.IR cs.CL
本文讨论了将LaTeX源码作为RAG知识源的优势,并提出了一种预处理方法将其转换为Markdown和JSONL格式以便索引。该方法主要关注技术文档的检索增强生成应用。
Chenyi Yan et al.
cs.IR
本文提出AKT-Rec框架,利用LLM生成的semantic IDs和Multimodal LLMs来对齐内容表示与协同信息,并通过Cluster-Guided Adaptive Embedding和Hierarchical Feature Aggregation实现长尾推荐中的非对称知识迁移,在工业数据集和在线A/B测试中提升了CTR和GMV。
Qiuling Xu, Ko-Jen Hsiao, Moumita Bhattacharya
cs.IR
本文探讨了生成式推荐模型从2M到1B参数规模扩展时的生产部署问题,发现不同下游任务对模型规模扩展的收益存在差异,并提出了多token预测、采样softmax和语义项目塔等工程优化方案来解决训练效率、服务延迟和冷启动问题。
Lingling Fu, Yongfu Xu
cs.IR
本文提出TPMM-DPO方法,通过将迭代DPO中产生的policy model序列视为优化轨迹,并使用可学习的融合权重自适应地整合这些模型,从而构建更平滑鲁棒的reference model,以缓解噪声偏好导致的误差累积和性能退化问题。实验表明该方法在域内和域外评估中均能提升生成质量和胜率。
Vipul Gupta et al.
cs.IR cs.AI cs.LG
本文提出HARNESS-LM (HLM)三阶段训练框架,通过知识蒸馏将大规模SLM检索器的能力迁移至紧凑模型,在Bing Ads场景中实现98%以上精度恢复与27倍延迟降低。该工作主要聚焦于工业级检索系统的效率优化,与关键词中的code, context, spectral, Muon, pretrain, agent, attention均无直接关联。
Mowafak Allaham, Nicholas Diakopoulos
cs.IR cs.CY
本文审计了四种生成式搜索引擎(ChatGPT, Copilot, Gemini, Perplexity)在政治、健康和环境等公共领域查询中引用AI生成来源的情况,发现约16%的引用来源为AI生成内容,并指出这些引擎倾向于重复引用少数域名。
Alexandre Salle et al.
cs.IR
本文提出TubiFM,通过将用户跨表面的历史行为(如观看、搜索等)序列化为统一的token序列(user story),并基于Llama 3.2 1B模型进行next-token prediction,从而用一个模型统一了item ranking、carousel ranking和search ranking任务,在离线与在线实验中取得了与专业模型相当或更优的效果。

cs.CL

Dongxin Guo, Jikun Wu, Siu Ming Yiu
cs.CL cs.AI cs.LG
本文利用文化进化中的迭代学习理论来解释LLM模型崩溃现象,并推导出五个可证伪的预测。关键发现是,在无过滤的自训练下,compositionality(组合性)呈现先升后降的非单调轨迹,这为压缩-通信权衡提供了首个LLM规模的证据。所有预测均被大效应量验证,且LLM的正则化梯度与人类行为数据高度吻合,从而将模型崩溃重新定义为文化传播现象。
Niklas Bauer
cs.CL cs.AI cs.GT cs.MA
本文研究了LLM在社交推理游戏Secret Hitler中的欺骗能力,发现当前模型在复杂多轮操纵中表现不佳,基于规则的算法优于LLM。
Mahounan Pericles Adjovi et al.
cs.CL
本文系统梳理了Hausa语和Fongbe语两种西非语言的公开文本与语音资源现状,包括语料库、预训练模型和评估基准,并指出了资源缺口(如Fongbe语领域多样性文本和Hausa语专用语音语料库)。该工作属于资源调查性质,未涉及关键词中的核心方法。
Mudit Rastogi
cs.CL cs.IR
本文提出了一种查询自适应的语义分块方法QASC,通过将用户查询嵌入到文档分割过程中,利用余弦相似度评分和上下文窗口扩展来动态构建文本块。实验表明该方法在检索增强生成任务中优于固定分块和现有语义分块方法。
Tianhao Qiu, Xiaojun Chen
cs.CL cs.IR
本文提出了一种知识感知的Text-to-SQL框架,通过构建任务特定的知识库(包括schema语义、缩写、业务逻辑和查询模式)来生成多样化的合成训练数据并增强推理过程,从而提升低资源场景下开源和闭源大语言模型的性能。
Daniel C. Ruiz et al.
cs.CL cs.AI cs.CY
本文提出一个实证红队框架,用于测量开源LLM在争议话题上的政治观点表达范围(Overton Windows),并评估简单自然语言越狱如何扩展该范围。研究发现模型在政治表达上存在系统性不对称,且越狱效果因模型家族而异。
Minseok Jung, Abhas Ricky, Muhammad Rameez Chatni
cs.CL
本文研究了Text2Cypher任务中可执行Cypher查询的生成问题,提出了Reflection-Augmented Scaling (RAS)方法,通过利用数据库执行错误信息进行in-context learning来迭代改进查询,相比Independent Scaling (IS)方法在多个数据集上降低了查询执行错误率。
Shubham Parashar et al.
cs.CL cs.LG
本文针对扩散语言模型(DLM)的微调问题,提出了一种名为LIFT的算法,通过考虑token的可学习性来改进监督微调(SFT)的效果。实验表明该方法在多个推理基准上优于现有基线,但未涉及代码、谱方法或Muon优化器等关键词。
Paul Landes et al.
cs.CL cs.AI
本文提出利用对齐二部图拓扑结构作为归纳偏置,通过训练Graph Neural Network (GNN)来建模LLM输出与参考信息之间的对齐结构,以检测幻觉。该方法在多个数据集上取得了优于GPT-4o等基础模型的结果。
Ko Watanabe, Shoya Ishimaru
cs.CL cs.HC
本文研究了利用LLM从Slack通信日志中推断个人领域知识的可行性,比较了七种模型在零样本估计下的表现。结果显示Gemini 2.5 Flash误差最低,且估计精度与消息量关系较弱。
Brett Israelsen et al.
cs.CL cs.CY
本文研究了大型语言模型在宗教转换咨询中的不对称性,发现模型对不同宗教表现出系统性偏好,且这种模式在不同模型和测试中稳定重复。
George Mikros, Fotios Fitsilis
cs.CL
本文为Katharevousa希腊语构建了一个可复现的Universal Dependencies风格NLP流水线,包括OCR重建、LLM辅助标注和模型评估,并开源了全部资源。实验表明,XLM-R模型在解析性能上优于现有基线,但该方法主要贡献在于工程实践而非理论创新。
Tobias von Arx, Tanguy Dieudonné
cs.CL cs.AI cs.LG
本文通过控制实验比较了Fill-in-the-Middle (FIM)和标准从左到右 (LTR)预训练目标对逐字记忆的影响,发现FIM训练下模型更易恢复短片段,而LTR对长连续片段置信度更高,且FIM的记忆随重复次数线性增长。该研究主要关注语言模型的记忆行为,与关键词中的code, spectral, Muon, agent, attention等主题关联较弱。
Chuanbo Hu et al.
cs.CL cs.AI
本文提出TPA (Think, Plan, Ask)框架,一个用于自闭症社交语言障碍评估的多agent对话系统,通过让doctor agent主动推理未观察到的语言特征并选择临床策略来生成问题。实验表明该方法在SLD特征覆盖率和诊断效率上优于真实临床对话基线。
Dongxin Guo, Jikun Wu, Siu Ming Yiu
cs.CL cs.AI q-bio.NC
本文通过fMRI数据研究了英语、中文和法语中大脑与LLM的对齐模式,发现训练语言的主导性而非语言类型学决定了对齐效果,其中中文主导模型(Baichuan2-7B)与中文大脑对齐最佳,而与英语对齐最差。此外,形式类型学距离与对齐退化独立相关,且分词粒度(tokenization fertility)解释了跨语言最优编码层约60%的偏移。
Dongxin Guo, Jikun Wu, Siu Ming Yiu
cs.CL cs.AI q-bio.NC
本文使用sparse autoencoders将LLM的中间层分解为可解释特征,发现语义特征能解释大脑对语言的大部分响应,并验证了这些特征与已知的cortical语义组织对齐。研究还表明这些特征能预测人类阅读时间,结果跨多种语言具有普适性。
Yusser Al Ghussin et al.
cs.CL
本文研究了多语言稀疏自编码器(SAE)在大型语言模型中的语言控制问题,提出了一种基于多语言对齐与语言可分离性交集的先验层选择规则,以替代启发式方法。实验表明,多语言SAE结合该规则能稳定语言识别准确率与生成质量之间的权衡。
Dongxin Guo, Jikun Wu, Siu Ming Yiu
cs.CL cs.AI cs.LG
本文通过实验证明大型语言模型(LLM)的surprisal模式与人类可接受性判断高度相关(\(r = 0.79\)),并验证了统计优先(statistical preemption)机制在模型中的存在,即模型通过分布竞争获取负面语言知识。
Zewei Deng, Tinghan Ye, Liyan Xie
cs.CL stat.ML
本文提出HawkesLLM框架,将时间影响建模与文本生成分离,使用multivariate Hawkes process模拟agent激活顺序,以改进agentic text simulation中的语义对齐。该方法在GDELT新闻级联案例上验证了效果,但未涉及code、spectral或Muon等关键词。
Maryia Zhyrko et al.
cs.CL cs.AI
本文提出了一个名为DreamerNLplus的混合框架,用于从社交媒体时间线建模心理健康动态,结合了基于规则的摘要和RAG方法。该工作在CLPsych 2026共享任务中取得了部分排名,但方法本身在理论或技术上的开创性有限,且与关键词列表中的概念关联较弱。
Xinjie He et al.
cs.CL
本文通过控制实验研究了训练数据组合(课程)对基于强化学习的记忆增强对话agent的影响,发现课程设计主要影响技能专业化而非整体性能,混合课程能带来最佳F1分数。此外,文章还报告了在单GPU环境下应用GRPO算法的两个实用经验。
Yusser Al Ghussin et al.
cs.CL
本文提出了一种基于activation steering的方法,通过从FLORES数据中提取语言向量来调整多语言LLM在推理时的文化知识表现,在SemEval-2026任务7的MCQ赛道中取得86.96%的准确率。实验表明该方法对文化推理的提升有限且高度依赖层选择、语言-区域对及prompt设计。
Binqi Shen et al.
cs.CL
本文提出了一个用于LLM上下文管理的成本-性能优化统一框架,通过摊销成本建模将上下文策略选择建模为部署感知优化问题。实验表明该框架能有效降低token使用量,但与关键词列表中的概念关联较弱。
Yan Jiang, Sihong Liu, Philip A. Fisher
cs.CL cs.CY
本文比较了Structural Topic Models (STM)和BERTopic在短文本开放式调查回答上的表现,发现BERTopic在主题连贯性上更优,而STM在协变量推断分析上更强。研究引入了上下文增强策略以提升短文本的语义效果。
Queenie Luo
cs.CL cs.AI cs.CY cs.DB
本文使用微调的BERT分类器(Lepton)来预测明清文集目录中的标题是否为私人信件或易混淆的序言,并在中国传记数据库(CBDB)中应用以识别大量信件。
Eric Xu
cs.CL cs.AI
本文研究了指令微调LLM中角色提示(如"As X, do Y")的表示结构,发现残差流中提示到答案的转换位置存在部分正交的加性分解,但该局部加性结构无法压缩为单个缓存残差向量,因为角色条件化的多token生成依赖于整个提示的注意力机制。
Jianfeng Zhu et al.
cs.CL cs.CY
本文评估了多个LLM在精神病学筛查中的表现,发现模型在识别焦虑和PTSD时,若患者存在功能保留或保护性背景,会低估症状证据,导致假阴性错误。研究为LLM在临床筛查中的可靠性提供了初步证据,但未涉及关键词中的核心概念。
Casey Ford et al.
cs.CL
本文通过跨语言和跨模态的红队测试,比较了四种前沿MLLM在美式英语和墨西哥西班牙语下的jailbreak vulnerability,发现语言不会均匀地改变脆弱性,且安全排名在不同语言间不保持稳定。
Kewei Zhang et al.
cs.CL
本文提出Fast-dDrive,一种用于自动驾驶的block-diffusion VLA模型,通过语义单元内的双向细化与跨单元的因果顺序约束,结合Scaffold Speculative Decoding和test-time scaling方案,在WOD-E2E和nuScenes数据集上实现了轨迹精度与推理速度的SOTA权衡。
Chuyifei Zhang et al.
cs.CL cs.AI cs.LG
本文发现当前长上下文LLM推理基准测试未控制任务位置、填充内容和上下文长度三个因素,并提出Context Rot Evaluation (CRE)框架来评估模型在长上下文中的位置敏感性。实验表明,当目标任务从末尾移至中间时,模型性能会显著下降,且这种下降随上下文长度增加而加剧,揭示了现有基准设计中的结构性评估盲点。
Baturay Saglam, Dionysis Kalogerias
cs.CL cs.LG
本文提出了一种通过优化固定few-shot prompt的连续embedding来改进in-context learning的方法,利用模型对demonstration输出的log-probability作为自监督信号进行零阶优化。该方法无需微调或token生成,适用于分类和自由生成任务,并在多个ICL任务上匹配或提升了基础模型性能。
Chenwang Wu et al.
cs.CL
本文揭示了机器生成文本中存在的隐藏类人片段,并理论分析了这些片段会增加检测难度。基于此,作者提出了一种模型无关的堆叠增强框架,通过硬EM过程迭代过滤类人子序列来提升现有检测器的性能。
Francesco Corielli
cs.CL stat.ML
本文区分了语言模型训练中的三种概率对象,指出将模型训练解释为估计边际文本分布需要强平稳性和遍历性假设,并讨论了RAG和工具使用作为条件充分性机制的作用。
Muhammad Usama, Dong Eui Chang
cs.CL cs.AI
本文研究了16个语言模型在800个推理问题上的表示相似性,发现模型在共享表示上趋于一致,但在推理过程中存在分歧,表明表示收敛反映的是共享的输入处理约束而非推理策略。
Esra'a Sharqawi, Wajdi Zaghouani
cs.CL
本文介绍了AraHopeCorpus,首个从2023-2024年加沙战争相关的阿拉伯语YouTube评论中收集的希望言论标注数据集,将评论分为希望言论、无希望言论和中性三类,并报告了Cohen's Kappa为0.71的标注者间一致性。该工作为阿拉伯语社交媒体中的建设性话语研究提供了资源,但与关键词列表中的概念无直接关联。
Wajdi Zaghouani et al.
cs.CL
本文构建了一个包含约30万条Facebook气候变化帖子的多模态数据集ClimateChat-300K,通过topic modeling和sentiment analysis识别出政策、行动主义等五大主题域,并分析了情感、格式等因素对用户参与度的影响。该工作主要贡献在于提供了一个可复现的公开资源,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词相关的方法或理论。
Yusong Wang et al.
cs.CL
本文提出了eJSL Dialog数据集,将Emotion Recognition in Conversation任务引入手语视频分析,并发现通用多模态对话情感识别模型在手语领域存在domain gap,表明需要针对手语的context aware视觉提取器。
Wajdi Zaghouani
cs.CL
本文探讨了大语言模型在政治话语分析中的文化适应问题,指出当前系统受英语主导数据和有限政治制度假设的影响,在不同文化背景下会产生系统性错误。文章提出了文化适应在翻译、话语和本体层面的形式化框架,并给出了评估矩阵和方法路径。
Ranxu zhang et al.
cs.CL
本文提出一个名为PARPO的个性化Agentic RL框架,通过解耦通用任务奖励与个性化偏好奖励,并引入用户特定锚点来稳定学习,同时结合两阶段偏好解耦奖励模型和PSGM记忆结构,以处理用户条件化行为中的偏好异质性和技能检索问题。实验表明该方法在多个基准上优于现有基线。
Sirui Chen et al.
cs.CL cs.AI
本文提出了一种名为Metacognition-as-Reward (MaR)的强化学习框架,通过引入元认知知识(识别任务相关信息)和元认知调节(规划与调整推理过程)两个通用维度,为LLM推理提供过程级奖励信号。该方法在22个基准测试上取得了性能提升,但与我提供的关键词(code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Chaitanya Wanjari et al.
cs.CL
本文提出了一个名为EquiSumm的框架,用于在推文摘要中考虑性别公平性,通过引入性别意识机制来生成更包容的摘要。实验在两个数据集上验证了其有效性,但方法本身未涉及关键词中的核心概念。
Patrycja Strycharczuk, Justin J. H. Lo, Sam Kirkham
cs.CL cs.SD
本文通过超声舌位成像数据研究了英语元音/i/的发音策略对声学动态的影响,发现舌位形状是双元音中腭滑音共振峰动态的显著预测因子。研究揭示了发音位移与速度如何导致共振峰过渡的个体差异,为语音个体性提供了发音层面的解释。
Yevhen Kostiuk et al.
cs.CL
本文提出了一种在自然开放场景下衡量社会规范一致性的框架,通过解匹配方法评估LLM与人类在社交困境中的回答一致性,并构建了包含3000个丹麦语困境的数据集。该工作主要关注自然语言处理中的社会推理评估,与关键词中的code、spectral、Muon、pretrain、agent、attention等方向无直接关联。
Jiawei He, Mengyu Shi, Chunrong Fang
cs.CL cs.AI
本文提出了一种名为SSDAU的结构化语义数据增强方法,用于联合实体和关系抽取任务。该方法通过基于实体标签分割文本并利用encoder捕获语义特征来生成增强数据,同时使用BERTTopic模型过滤无关主题以保持一致性。实验表明SSDAU在多个模型上优于现有数据增强方法。
Xiaoyuan Li et al.
cs.CL
ARES提出了一种自动构建rubric(评分标准)的方法,用于在大语言模型的强化学习中提供细粒度奖励信号。该方法从预训练文档生成问答对及对应的加权rubric,在多个基准上优于持续预训练和二元奖励强化学习等方法。
Max Prior, Andreas Schultz, Matthias Grabmair
cs.CL
本文研究了基于LLM的法定问答中的时间失效模式,包括立法修正后的过时性和对历史版本问题的近因偏差。通过构建德语法定QA基准并测试多种推理设置,发现检索增强方法能有效提升时间有效性,但网络搜索存在不稳定性和近因偏差。
Shivam Chourasia, Hitesh Kapoor, Nilesh Patil
cs.CL cs.LG
本文提出Structure-Guided Entity Resolution (SGER)框架,通过两阶段课程微调LLM,先解析人名语法结构再执行实体匹配,在印度身份数据上达到99.02%准确率,并在Dream11平台部署服务于2.5亿用户。该方法主要关注命名实体匹配的鲁棒性,与关键词中的code、spectral、Muon、pretrain、agent、attention等概念关联较弱。
Stefano Cirillo et al.
cs.CL
本文对Google Embeddings 2与五种开源模型在多语言dense retrieval和RAG系统上进行了benchmark测试,实验覆盖BEIR子集、意大利语RAG语料库及chunking消融分析。结果显示GE2在性能上最优但延迟最高,而mE5-L在延迟与性能间取得了较好平衡。
Björn Nieth et al.
cs.CL
本文提出了一种基于语域感知的语言学评估框架,通过比较大型语言模型生成文本与人类参考语料库在Biber词汇语法特征上的分布差异(使用Maximum Mean Discrepancy方法),来量化文本的人类相似度。实验发现,模型与人类语言的接近程度取决于具体语域,且与模型规模无关。
Jiahao Ying et al.
cs.CL
本文提出OpenSkillEval,一个自动评估框架,用于评估LLM agent的技能(structured workflow instructions)和技能增强系统。该框架通过从真实世界工件中自动构建任务实例,对30个开源技能和多个模型进行系统评估,发现技能可用性并不保证有效使用,且技能收益高度依赖底层模型和agent框架。
Jiangwang Chen et al.
cs.CL cs.AI
本文提出OnePred方法,通过递归更新的intent memory来预测多轮对话中的下一用户查询,并构建了NQP-Bench基准。该方法在减少token消耗的同时提升了预测质量,但主要贡献在于对话系统领域,与关键词中的spectral、Muon、pretrain等概念关联较弱。
Fen Wang et al.
cs.CL
本文提出了ChartFI-Bench基准,用于评估多模态大语言模型生成图表描述的忠实性和洞察力,构建了包含896个图表-描述对的数据集和四个评估指标。该工作主要关注图表描述质量评估,与关键词中的code、spectral、Muon、agent等概念关联较弱。
Kan Shao
cs.CL
本文提出了一种针对弱标签benchmark的审计方法,通过结合Metadata Prior Dominance Score (MPDS)和evidence-intervention统计量ΔEvi来区分元数据可预测性与证据依赖性,并在多个数据集上验证了该方法。
Long Chen, Deniz Ekin Yavas
cs.CL
本文提出了一种基于graph的方法,利用BERT和sense-enhanced embeddings分析contextualized word embeddings中semantic types和coercion现象,通过Neighbor Type Probability和Neighbor Type Entropy两个指标来区分type matching与mismatch句子。
Ehud Reiter
cs.CL
本文回顾了自然语言生成(NLG)评估从1990年到2026年的演变历程,指出评估方法从早期的语言学导向转向了以机器学习为基础的实验评估,并预测未来将更加注重影响、定性和安全性评估。
Mateusz Klimaszewski, Piotr Andruszkiewicz
cs.CL
本文揭示了基于分类器的质量过滤方法的一个关键漏洞,即简单的维基百科风格格式化操作能显著改变模型的质量评估,使低质量内容通过过滤阈值。
Andres Nava, Matthieu Wyart
cs.CL cs.LG
本文提出了一种基于词共现的分布理论,解释了语言模型中hypernymy(上下位关系)的几何编码机制,并证明word2vec嵌入的Gram矩阵谱结构会自然产生层次化分裂几何。该工作主要贡献在于揭示了层次概念几何可以从词共现的谱结构中涌现,而非依赖特定的功能机制。
Anastasiia Sedova et al.
cs.CL
本文提出LINK方法,通过在预训练数据的高资源部分进行词汇替换(使用双语词汇表随机替换单词为翻译)来改善跨语言知识迁移,无需额外模型训练或大量平行数据。实验表明该方法在多种语言和模型规模上能提升下游任务性能并加速训练。

cs.DS

Clément L. Canonne et al.
cs.DS cs.DM cs.IT cs.LG math.ST
本文提出了entropy equivalence testing问题,即仅需区分两个未知分布是否相等或其Shannon熵相差至少\(\varepsilon\),并给出了一个时间和样本高效的算法。该结果被应用于低度Bayesian networks的closeness testing,显著改进了基于完整学习的基线方法。
Diptarka Chakraborty et al.
cs.DS
本文研究了在Spearman footrule距离下带公平性约束的排序聚合问题,提出了首个最优算法用于计算公平的top-\(k\)聚合排序,并将全排序公平聚合的近似比从3改进到2。实验验证了理论结果的有效性。
Niels Holtgrefe, Jannik Schestag
cs.DS
本文研究了在系统发育网络上最大化预算化系统发育多样性(PD)的问题,利用节点扫描宽度(nsw)这一结构参数,提出了针对三种不同变体的优化算法,时间复杂度分别为\(O^*(2^{nsw}B^2)\)和\(O^*(3^{nsw})\),并首次给出了计算节点扫描宽度的精确算法。实验表明该方法在包含数百个分类单元的高度网状网络上表现高效。
Akash Kumar, Abhiruk Lahiri, C. Seshadhri
cs.DS
本文研究了有界度minor-free图(如平面图)的partition oracle的随机性需求,证明了Kumar-Seshadhri-Stolman的partition oracle可用长度为\(poly(d\varepsilon^{-1}) \cdot \log n\)的随机种子实现,并指出在更一般的顶点标签模型下,即使对于cycle图,任何partition oracle也需要\(\omega_N(1)\)随机比特。

others

Ruofan Jin, Zaixi Zhang
cs.RO cs.AI cs.LG
Agentic-VLA提出了一种agentic训练框架,用于Vision-Language-Action (VLA)模型的在线高效适应。该框架通过三项关键创新解决了VLA模型泛化性差和训练效率低的问题:Adaptive Reward Synthesis动态生成奖励函数以将复杂任务分解为可学习的子目标,Language-Guided Exploration利用critic模型提供结构化探索指导,以及Experience Memory存储任务相关的policy权重以加速相似任务的适应。在LIBERO和RoboTwin 2.0基准上,该方法在长时域任务、单样本学习和跨任务迁移上取得了显著提升,并实现了2.4倍的收敛加速。该工作与关键词中的agent高度契合,为机器人操作中的持续学习提供了开创性方案。
Gino Kwun, Dhanvi Bharadwaj, Gokul Subramanian Ravi
quant-ph cs.AI cs.ET cs.LG
本文提出CRiSP框架,将变分量子算法(VQA)中的Clifford电路前缀选择问题建模为序列决策问题,利用基于Transformer策略的神经引导蒙特卡洛树搜索(Neural-Guided Monte Carlo Tree Search)进行强化学习训练。该方法通过多项式时间的经典stabilizer模拟生成高质量初始态,在不改变底层电路架构的前提下有效缓解了贫瘠高原(barren plateau)问题。在QAOA基准测试中,CRiSP在多达22个qubit和1370个参数的规模上,平均能量精度相比现有最优Clifford初始化方法提升3.17倍,展示了agent在量子态制备中的强大能力。
Chunze Yang et al.
cs.CV cs.AI
PathNavigate提出了一种无需训练的病理学agent,用于全切片图像视觉问答(WSI-VQA)。其核心创新在于一个“扫描-搜索-读出”流程:首先在低倍率下扫描切片,利用共享在线memory模块在冻结的病理特征上生成一个“surprise field”(基于异常区域的惊喜度场),标记出候选异常区域池;然后仅在此池内应用基于问题的PLIP相关性进行高倍率搜索;最后提取局部高倍率证据,并用冻结的perceptor-adjudicator堆栈结合在线memory作为切片级上下文来回答问题。该方法避免了任务特定的监督训练,通过surprise-guided scan解决了传统无训练agent可能遗漏问题中未明确提及的关键形态学证据的问题,在WSI-VQA和SlideBench-BCNB上提升了答案准确率并生成了更可解释的证据选择轨迹。
Elie Abboud, Oren Gal
cs.MA cs.AI
本文提出ARMS,一种用于稀疏奖励多智能体强化学习(MARL)的自监督reward shaping框架。其核心创新在于通过trajectory ranking学习稠密shaping信号,并基于条件最佳响应推理证明了在固定对手策略下,该shaping奖励能保持每个智能体的最佳响应集,从而保持Nash均衡集。这是首个受博弈论均衡保持结果启发的自动reward shaping框架,与关键词“agent”高度契合,解决了MARL中稀疏奖励这一长期瓶颈问题。
Aratrika Mustafi, Soumya Mukherjee, Bharath K. Sriperumbudur
stat.ML cs.LG math.ST
本文从Hamiltonian概率梯度流的角度重新审视了Muon优化器。作者首先将正则化的Muon更新识别为一种mirror/prox步骤,其中动量作为对偶坐标,并利用这一结构将Muon从单矩阵参数提升到有限粒子概率目标\(J(\rho)=R\left(\int F d \rho\right)\)。通过惯性缩放,他们推导出相空间平均场方程,并证明该流是阻尼Hamiltonian概率动力学,其动能由正则化Muon的mirror势诱导。文章证明了Hamiltonian能量的精确耗散恒等式,并在梯度支配等假设下建立了目标间隙的指数收敛率,为理解Muon优化器的动力学行为提供了新的理论视角。
Sihao Hu et al.
cs.CR cs.LG
本文提出了MELT数据集,用于检测Solana区块链上的高风险memecoin发行,通过解析交易行为(如swap、wash trade)和bundle-trace数据来识别隐藏的账户协调行为。该工作为加密货币风险检测提供了行为特征基准,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联较弱。
Yichen Liu et al.
cs.DC cs.AI
本文提出了一种基于AI的框架,利用TinyML和边缘智能实现智慧城市中环境监测的节能,通过上下文感知的自适应决策动态激活传感器,以减少能耗并延长传感器寿命。
Masoud Shokrnezhad et al.
cs.DC cs.AI cs.ET cs.PF
本文提出了KPI2KVI工具,利用基于Large Language Models的多agent工作流,将自然语言服务描述自动转化为Key Value Indicators (KVIs)的区间估计值。该方法通过交互式对话收集KPI值并支持智能估计,但主要聚焦于服务描述领域的自动化计算,与关键词中的核心概念关联较弱。
Ji-Won Park, Chae Un Kim
physics.app-ph cs.AI cs.MA cs.PF
本文提出了一种名为Computable Fair Division (CFD)的框架,通过将Boltzmann-Softmax函数重新解释为概率资源分配机制,并引入可计算的反温度参数\(\beta\)来调控AI资源分配中的效率与公平平衡。动态设置中的AHC++算法利用观测到的dominance与目标之间的误差实时更新\(\beta\),以抑制极端dominance集中。
Danil Gorinevski
cs.DC cs.DS math.CO math.PR
本文研究了\(\mathbb{Z}^2\)网格图上的同步点对点计算,提出了五个命题,涵盖了传输工作下界、集体通信成本模型、归约语义的代数判据、亚临界站点故障下的条件期望路由长度,以及通过长程捷径缩短典型最短路径长度。这些结果主要关注分布式计算和随机图论,与关键词中的概念关联较弱。
Md Nasiat Hasan Fahim et al.
physics.geo-ph cs.LG
本文比较了六种机器学习方法,利用单站初始7秒P波垂直分量进行地震震级分类,并构建了南亚地区7318个地震事件的数据集。实验表明,基于Transformer的架构在分类中表现最佳,但方法本身在深度学习应用于地震预警领域并非开创性工作。
Jinxin Ma et al.
physics.geo-ph cs.LG eess.SP
本文使用MsPASS工作流评估了PhaseNet在远震数据上的表现,发现基于区域信号训练的模型性能较差,通过重新训练显著提升了P波拾取召回率,但模型规模扩大带来的精度提升有限且计算成本高昂。
Sachin Sharma
physics.soc-ph cs.AI cs.CY
本文提出了一个认知卡尔达肖夫等级(Cognitive Kardashev Scale),通过计算文明总功率、用于认知的能量比例、能量-计算效率等参数,量化不同等级文明所能支持的人工智能计算量。文章以2024-2026年的硬件为基准,估算了当前人类文明的计算水平,并讨论了未来能源与效率的约束。
Rommin Adl, Peyton Williams
physics.soc-ph cs.AI cs.CL cs.GT cs.MA +1
本文以格陵兰主权危机为背景,设计了一个多智能体博弈模拟,测试了8个前沿LLM在不对称胁迫、NATO保证博弈等场景中的地缘政治行为,并利用逆博弈论恢复了模型的效用参数。研究发现胁迫框架会显著提升模型的升级倾向,且不同来源的模型在权力权重上存在系统性差异。
Tanzim Ahad et al.
cs.CR cs.AI cs.LG
本文研究了多智能体AI系统中的“误归因差距”问题,发现记忆层攻击(如语义规范漂移)会导致系统错误地将攻击归因于模型失败。通过实验,作者提出了Counterfactual Composition Testing和Memory-Persistent Information-Flow Control等防御方法,但该工作主要聚焦于安全与归因问题,与关键词中的code, context, spectral, Muon, pretrain, agent, attention关联较弱。
Yingxue Zhao et al.
cs.CE cs.LG
本文提出了一种基于cross-attention的bipartite graph neural network (CAtt-BiGNN),用于大变形板材成形中节点位移增量与单元减薄量的耦合预测。该模型将网格节点和单元视为不同但相连的实体,通过edge-aware cross-attention实现节点与单元间的双向信息传递。实验表明,该方法在预测平衡性上优于节点中心基线模型。
Mojdeh Saadati et al.
cs.CE cs.LG q-bio.OT
本文开发了一个基于概率神经网络的APSIM模拟器,通过两百万次模拟训练和卷积合成天气生成器,在13个输出上实现了高保真度(R²=0.93)并大幅降低计算时间,用于大规模探索作物对基因、土壤和气候的响应。该方法将机械作物模拟从计算瓶颈转变为按需发现引擎,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Yu Zhu et al.
cs.DC cs.AI
本文提出ObjectCache,利用S3兼容的对象存储来存储KV cache,通过协同设计存储协议和传输调度,在100 Gbps RoCE集群上实现与本地DRAM相近的延迟,为LLM推理中的KV cache容量问题提供了新的存储方案。
Fatemeh Ghasemi Balouei et al.
eess.SP cs.LG eess.IV
本文提出VAMP-Diff,一种结合VampPrior正则化和latent diffusion的PPG信号生成模型,通过联合训练temporal encoder和conditional 1D diffusion decoder来生成更真实的波形。该方法在CapnoBase数据集上展示了比高斯先验基线更好的波形保真度和生理信息保持能力。
Moritz Schönherr et al.
cs.DB cs.AI cs.LG cs.LO
本文通过将Deep Homomorphism Networks (DHNs)与一阶逻辑的片段(如UNFO及其扩展)建立联系,研究了其在关系数据库上的表达能力,并分析了空性与包含问题的可判定性。实验验证了表达能力差异在预测任务中的体现。
Flavia Petruso, Maria Giulia Preti, Dimitri Van De Ville
eess.SP cs.LG q-bio.QM
本文是一篇面向应用的Topological Signal Processing (TSP)教程,介绍了如何将图信号处理(GSP)推广到simplicial complexes上,以分析节点、边及更高维网络元素上的信号。文章重点回顾了基于combinatorial Hodge Laplacian的处理技术,并通过脑成像数据案例展示了edge-level信号在揭示高阶交互中的应用。
Yingjie Lei
cs.GT cs.AI cs.CL cs.LG
本文提出了PrefBench,一个用于评估零样本LLM agent在隐藏偏好个性化定价谈判中的基准测试。该基准通过模拟买家与固定商品组合的交互,并限制agent输出严格JSON动作,揭示了LLM在达成高成交率的同时利润表现不佳的现象。
Berkay Guler, Giovanni Geraci, Hamid Jafarkhani
eess.SP cs.AI cs.LG
本文提出PilotWiMAE,一种自监督框架,直接处理噪声导频观测,并通过沿时间与联合空间-频率轴分解的attention机制引入归纳偏置。该方法通过导频输入将观测空间缩小两个数量级,并采用patch归一化重建与辅助尺度损失来捕获小尺度与大尺度衰落特征。
Yunfei Zhao et al.
eess.SP cs.LG
本文提出JointHRRP-Net,一种用于雷达高分辨距离像中联合目标与复合干扰识别的统一框架。该方法通过统计约束解耦模块分离目标与干扰特征,并设计多尺度时序编码与双专家决策模块进行分类,实验验证了其在复合干扰环境下的有效性。
Giacomo Zanardini et al.
eess.SP cs.LG
本文提出了一种基于机器学习的pipeline,利用时域、频域、小波和连接性特征对EEG信号进行分类,以辅助无IED的癫痫诊断。该方法在TUH和EMC数据集上验证了有效性,但整体方法较为常规,未体现显著的开创性。
Emil Hardarson et al.
eess.SP cs.AI
本文提出了一种基于AASM评分规则的确定性睡眠分期方法,将临床评分逻辑转化为可执行代码,并生成自然语言解释。该方法在50份多导睡眠图记录上与多数投票参考标准的一致性为60.5% (\(\kappa=0.42\)),虽低于深度学习模型,但提供了透明、可审计的决策过程。
Christo Kurisummoottil Thomas, Emilio Calvanese Strinati
cs.IT cs.LG cs.NI
本文提出了一种基于persistent homology的拓扑弹性指数(TRI),用于量化AI-native无线接收器在非平稳信道下的结构稳定性。TRI通过验证损失弹性、信道脉冲响应分布偏移和信道流形拓扑三个维度来表征接收器的弹性,并证明了其有界性、单调性和Lipschitz稳定性。
Bruno Deprez, Wouter Verbeke, Tim Verdonck
q-fin.RM cs.LG
本文评估了TabPFN(一种tabular foundation model)在非寿险定价中的应用,将其与GLM和XGBoost在MTPL数据集上对比。结果表明TabPFN在性能上未持续超越基线模型,且推理时间更长,对in-context training set大小敏感,目前无法替代传统精算方法。
Angqi Li et al.
eess.SP cs.LG
本文介绍了一个名为L-FAME的纵向专注冥想EEG数据集及基准测试,包含74名参与者在六周训练前后的EEG记录和心理评估,并提供了三种分类任务的基线结果。该工作为计算冥想研究和基于EEG的机器学习提供了标准化资源。
Jingyan Zhang et al.
cs.GR cs.LG cs.RO
本文提出SCRIPT,一种用于语言驱动的物理人形机器人控制的可扩展扩散策略,通过多阶段训练框架和联合注意力机制(JAST-DiT)来协调动作、状态与文本。该方法在监督预训练后引入基于混合奖励的强化学习后训练阶段,以提升指令遵循与运动质量。
Zixuan Lan et al.
cs.CV cs.AI cs.CL
本文发现,在视觉-语言模型(VLM)中,移除大量图像token对模型在幻觉基准测试上的性能影响很小,表明当前基准测试无法可靠评估模型对细粒度视觉证据的依赖。通过全局退化、局部遮挡、问题重构等多粒度分析,作者揭示了模型预测对视觉信息丢失不敏感,且深层视觉token的几何相似性增加可能解释了这一现象。
Safwen Naimi et al.
cs.CV cs.AI
本文提出了一种基于AI视频监控的自杀风险评估框架,通过结合行人追踪、活动识别和轨迹热图建模来评估地铁站中的风险。该方法在真实监控数据上达到了83.2%的ROC-AUC,但主要关注应用场景而非理论创新。
Benedikt Lütke Schwienhorst, Nadja Klein, Johannes Lederer
stat.ML cs.LG math.ST stat.ME
本文比较了扩散去噪分数匹配估计器(DDSME)与vanilla分数匹配估计器(SME)在多模态分布参数估计中的表现,证明了vanilla SME的误差界会随模态间距增大而恶化,而DDSME可通过超参数调优避免这一问题。
Mitchel J. Colebank
q-bio.QM cs.LG stat.ML
本文比较了频率学派和贝叶斯神经网络在利用ECG和超声心动图数据筛查结构性心脏病(SHD)时的表现,发现贝叶斯方法在分类性能上相当或更优,且具有更稳健的不确定性量化。研究还展示了这种不确定性感知分类方案如何用于构建分诊系统,以缓解医疗资源瓶颈。
Zacharie Chenail-Larcher et al.
cs.SE cs.AI
本文提出了一个关于LLM代码坏味的分类体系(taxonomy)和检测工具SpecDetect4LLM,通过静态代码分析在692个开源项目中检测到73.5%的系统存在此类问题,检测精度为91.3%。该工作主要关注软件工程中的代码质量实践,与关键词中的code有一定关联,但方法本身缺乏开创性且未涉及spectral、Muon等核心概念。
Helena Merker, Nick Walker, Andreea Bobu
cs.RO cs.AI cs.HC cs.LG
本文提出一种框架,通过检测demonstrations中特征变化的一致性来识别未充分指定的特征,并主动请求针对性的纠正demonstrations。该方法利用自然语言解释向用户说明不确定的特征,从而改善reward recovery效果。
Andrew Lamperski et al.
q-bio.NC cs.LG cs.RO eess.SY
本文探讨了主动感知(active sensing)在任务级控制中的作用,提出主动感知并非为了最小化状态不确定性,而是任务级控制的必然产物。文章通过生物数据和控制理论支持这一假设,并指出生物系统在“探索”与“利用”两种模式间切换,但未提供具体的数学方法或算法。
Poli Nemkova, Haeshitha Indukuri, Jaedon Charles
cs.CY cs.AI
本文调查了112篇关于agentic AI用于社会公益的论文,发现存在道德地理不对称性:论文在政治、法律和文化背景最重要的领域最不常指定地理背景,且仅有25%的论文报告了实际部署或测试。文章提出了五个问责缺口,并建议了更具体、参与式和负责任的agentic AI报告标准。
Yurii Kvasiuk et al.
q-fin.TR cs.AI cs.LG q-fin.PM
本文提出MadEvolve框架,将LLM驱动的进化算法应用于量化金融中的交易策略优化,以比特币交易为例展示了其在特征集演化、策略组件优化等方面的改进。该方法与Claude Code等agentic搜索方法进行了比较,并评估了p-hacking概率。
Mantas Skackauskas, Xinyue Hao, Laura Sevilla-Lara
cs.CV cs.AI cs.LG
本文提出了一种名为TIME (Temporally Informed Motion Embedding)的视频表示方法,该方法将运动(以point-tracks形式)作为核心模态,并使用masked-autoencoder以自监督方式学习表示。实验表明,该方法在零样本任务上能以极少的训练数据达到与SOTA模型相当的性能,但其核心贡献在于利用运动信息提升效率,与关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念关联较弱。
Khaled M. Naguib et al.
cs.NI cs.AI
本文提出了一种基于Deep Q-Network (DQN)的智能资源分配与边缘缓存框架,用于6G O-RAN网络中的多切片场景,以优化VR服务的延迟和吞吐量。该方法通过DRL agent实现自适应内容分发与计算资源分配,但未涉及code、context、spectral或attention等关键词。
Joshua Odmark, Gideon Rubin, Deon van der Vyver
cs.SE cs.AI
本文提出了一个名为agent-breakage的闭环测量框架,用于评估Kubernetes操作代理的性能,通过注入故障并评分响应来区分框架错误与推理错误。案例研究显示,检索过去的事后分析并未显著提升代理能力,且框架揭示了选择偏差和小样本估计等混淆因素。
Miriam Senne et al.
cs.CV cs.LG
本文提出了一种基于毫米波雷达的优化框架,通过加权配准和SMPL参数模型从噪声点云中恢复3D人体形状并提取围度测量值,旨在实现快速、无接触且保护隐私的人体测量。该方法主要服务于临床风险分层场景,与关键词中的“code”、“context”或“attention”等概念无直接关联。
Yury Belousov et al.
cs.CV cs.AI cs.LG
本文研究了多级Floyd-Steinberg误差扩散抖动作为一种轻量级输入变换方法,用于提升视觉基础模型(如DINOv2和PaliGemma)在多种下游任务中的对抗鲁棒性。实验表明,该方法在中等量化级别下结合后处理模糊,其性能优于或持平于基于扩散的去噪等基线方法,且对干净输入的退化更小。
Colin Gaffney et al.
cs.DC cs.LG
Orbax是一个为JAX框架设计的分布式checkpointing库,它提供了模块化的解决方案来管理分布式加速器系统中的checkpoint操作,并在保存和加载性能上优于PyTorch同类工具。该工作主要关注工程实现和性能优化,与关键词列表中的理论或方法关联较弱。
Stelios Boulitsakis Logothetis, Angela Wood, Pietro Li ò
stat.ML cs.AI cs.LG
本文提出KAPLAN-HR,一种基于B-spline Kolmogorov-Arnold Network (KAN)的非参数生存分析方法,用于估计条件风险函数。该方法通过单层结构恢复广义加性模型,深层结构则通过组合捕获交互与时变效应,并在六个临床数据集上达到或超越现有方法的预测性能。
Srivathsan G Morkonda, Mahmoud Selim, Hala Assal
cs.SE cs.AI cs.CR
本文比较了七种流行LLM生成代码的安全性,发现所有模型都会生成包含漏洞的代码,其中多数为严重或高危漏洞。研究模拟了开发者使用LLM生成代码的行为,但未提出新的安全改进方法。
José Rafael Noriega Cedeño
eess.IV cs.AI cs.CV
本文研究了使用StyleGAN2-ADA生成的合成脑部MRI对肿瘤分类任务的影响,发现其效果依赖于分类器架构和真实-合成数据比例,且视觉保真度不能保证性能提升。
Philipp Kern et al.
cs.CR cs.LG
本文发现CKKS同态加密方案存在溢出攻击漏洞,即看似正常的输入可能导致加密电路超出设计容差,从而产生错误输出。为此,作者提出了一种形式化验证技术,通过计算网络中所有神经元的范围边界来消除溢出,实验中将故障率从最高47%降至0%。
Caleb Skinner, Yihan Guo, Meng Li
stat.ML cs.LG stat.ME
本文提出LLM Sparsity Prior (LSP)方法,将LLM生成的权重整合到Spike-and-Slab模型的先验包含概率中,通过两个可解释超参数控制全局稀疏性和权重集中度,以提升高维变量选择的鲁棒性。该方法在急性肾损伤数据集上验证了预测准确性和特征识别能力。
Kaushal Bansal
cs.SE cs.AI
本文提出了一种通过哲学倾向(如Pyrrhonist Skepticism等)约束AI reviewer行为的系统,在代码审查任务中实现了46%的人类评审一致性,并发现75%的独特问题。实验表明该方法能产生通用提示无法获得的、关注结构性和逻辑性问题的发现。
Hyeongmuk Lim, Youngbum Hur
cs.CV cs.AI
本文提出CoReVAD框架,利用单个冻结的Vision-Language Model (VLM)实现无需额外训练的Video Anomaly Detection (VAD)。通过引入Local Response Cleaning (LRC)模块和基于softmax的全局时序上下文处理,该方法在UCF-Crime和XD-Violence数据集上取得了有竞争力的性能,并提供了可解释的异常描述。
Yannick Kirchhoff et al.
cs.CV cs.AI cs.LG
本文提出了一种用于CT扫描中肿瘤病灶跟踪的Verified Tracking范式,通过结合registration-proposed prompt和基线病灶外观来解决分割歧义,并利用大规模合成预训练提升性能。该方法在MICCAI autoPET IV挑战中获得第一名,并发布了新的纵向胰腺癌基准PanTrack。
John Paul P. Miranda, Emmanuel B. Parreño, Jovita G. Rivera
cs.CY cs.AI cs.HC
本文通过扎根理论分析了1054名大学生的反馈,提出了AI疲劳的五个维度(如认知过载、动机脱离等)和一个阶段模型,但未涉及代码、谱方法或预训练等关键词。
Conlan Olson et al.
stat.ML cs.LG math.ST stat.ME
本文提出了一种基于Bradley-Terry模型和梯度下降的算法,用于从三元组查询中学习Mahalanobis相似性度量,并提供了理论收敛性保证。该工作主要关注个体公平性的实现,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Mingyuan Fan et al.
cs.CR cs.CL cs.LG
本文研究了大型语言模型在分割推理中的隐私泄露问题,提出了ActInv方法通过解决中间激活匹配问题来重建客户端输入,并开发了扰动放大因子(PAF)来量化层的抗重建能力。实验表明,即使存在高斯噪声注入等常见防御,隐私泄露仍然显著。
Fangyan Wang, Zaiyan Wei, Yang Wang
econ.GN cs.AI
本文利用美国全国职位发布数据,通过两阶段large language model pipeline构建了动态的generative AI暴露度指标,并分解了劳动力需求调整的两个边际:跨岗位的重新分配和岗位内任务的重新设计。研究发现,generative AI暴露度随时间动态变化,且劳动力需求调整主要通过招聘重新分配(占52%)和岗位内重新设计(占39.5%)实现,且调整模式在职业阶梯上存在差异。
Aarush Aitha, Avideh Zakhor
cs.RO cs.AI cs.CL
本文提出了一种基于Vision-Language Model (VLM)的自主机器人探索方法,利用VLM进行高层策略决策以替代传统几何启发式方法,在仿真中提升了地图覆盖率。该方法轻量且无需训练,但未涉及关键词中的code, spectral, Muon, pretrain, agent或attention等核心概念。
Luze Sun et al.
cs.CR cs.AI cs.LG
本文提出了一个名为PoisonForge的基准测试,用于评估指令微调LLM在任务级投毒攻击下的脆弱性。实验表明,在仅1%的投毒预算下,大多数模型在特定配置下攻击成功率超过70%,且投毒设计选择是攻击成功的主要原因。
Kieu Dang et al.
cs.CR cs.CL
本文提出SAFESEAL框架,通过key-conditioned Tournament采样机制在保留命名实体的同时替换同义词,并引入key-conditioned对比检测器实现水印验证,在保持语义保真度的同时平衡了可检测性与鲁棒性。
Yiyang Wang et al.
cs.HC cs.CL cs.CY cs.MA
本文介绍了一个名为CultivAgents的多agent系统,用于提供个性化、社会文化背景下的园艺支持。该系统通过协调多个专门agent来适应不同用户的技能水平、当地生态和文化知识,并通过混合方法研究验证了其在提升用户信心和信任方面的效果。
Jean-Guillaume Durand et al.
cs.CV cs.AI cs.LG cs.RO
本文提出了一种针对相机运动扰动的形式化验证方法,通过建立相机位姿到像素值的闭式映射,并利用Lipschitz优化和分段连续性推导像素值的紧线性界,首次实现了对投影几何变换的形式化验证。该方法主要适用于平面场景,并在VNN-COMP基准上揭示了系统性的脆弱性。
Vivek Dahiya et al.
cs.CR cs.AI
本文通过双模式基准测试(白盒函数级漏洞检测和黑盒Web应用安全测试)评估了前沿LLM在网络安全任务中的表现,发现所有模型都存在高误报率和低覆盖率的问题,并指出缺乏结构化安全测试数据是主要瓶颈。
Xinyu Chen et al.
cs.CV cs.AI
SimInsert提出了一种无需训练的视频对象插入方法,利用image-to-video diffusion models的生成先验,通过单帧编辑和语义运动描述实现时空一致性。该方法在PSNR和SSIM等指标上显著优于现有技术,但未涉及关键词中的核心概念。
Lipeng Dai, Luping Xiang, Kun Yang
cs.RO cs.AI eess.SP eess.SY
本文探讨了6G通信网络如何赋能具身智能体(embodied agents),提出了一种包含人类意图感知层、O-RAN传输层、智能中介层和具身层的分层通信架构,并通过集成触觉设备、机械臂和5G O-RAN测试平台的原型验证了其可行性。实验结果表明该架构可实现毫秒级延迟和稳定闭环控制。
Hongbo Wang et al.
cs.CV cs.AI
本文提出ASASR框架,通过将生成流重新表述为Sobolev诱导的Riemannian几何,并利用Riesz表示定理构建参数化对抗样本,以解决图像超分辨率中生成先验导致的光谱失配问题。该方法在保持光谱一致性和结构保真度方面优于现有生成基线。
Jiahao Shi, Omar Hagrass, Jason M. Klusowski
stat.ML cs.LG
本文提出了一种联合训练方法,用于在训练阶段利用特权信息(训练时可用但测试时不可用的额外信息)和无标签数据,以改进部署模型的预测性能。该方法通过同时学习两个模型,避免了传统两阶段方法中弱或噪声特权信息可能误导部署模型的问题。
Xiyang Wang et al.
cs.CV cs.AI cs.RO
本文提出ChainFlow-VLA,将自回归生成与扩散模型结合,用于自动驾驶轨迹规划。该方法通过自回归生成器产生因果轨迹模式,再以扩散模型在残差空间中进行全局优化,从而统一因果建模与全局一致性。
Songlin Yang et al.
cs.CV cs.AI
本文提出了EvalVerse,一个用于专业电影级视频生成的评估框架,通过结合专家校准的Vision-Language Model (VLM)和电影制作流程的评估分类法,解决了现有基准在“质量”评估上的不足。该框架扩展了评估标准以涵盖美学和视听整合,但与我提供的关键词(如code, spectral, Muon, pretrain, agent, attention)无直接关联。
Shaoqing Duan et al.
eess.IV cs.CV cs.LG
本文提出了一种用于病理显微图像散焦去模糊的Discontinuous Galerkin Neural Operator (DGNO),通过不连续Galerkin公式参数化积分核,以建模空间变化且局部不连续的模糊模式。实验表明该方法在去模糊效果上优于现有技术。
Ze Zheng et al.
physics.optics cs.LG physics.app-ph
本文提出了一种光学遗传-模拟退火混合算法,用于加速空间光子Ising机器的基态搜索。该方法结合了遗传算法的全局粗搜索和模拟退火的局部细调,在数值模拟和实验中展示了比传统算法更优的求解质量。
Haopeng Deng, Fucheng Zheng, Xinhai Xia
physics.soc-ph cs.LG eess.SY
SpinFlow提出了一种受Heisenberg模型启发的物理信息自旋场框架,用于连续宏观交通相位推断和过渡检测。该方法通过自旋向量和竞争平衡映射参数化相位权重,并利用物理正则化的期望最大化算法从高分辨率轨迹数据中推断潜在结构。
Yan Tang et al.
cs.RO cs.AI
本文提出了一种稀疏组合流匹配框架,通过从运动基元(motion primitives)进行几何组装来生成具身轨迹。该方法将轨迹分解为可复用的运动片段,并直接在物理轨迹空间中进行组合,在Open X-Embodiment和3DMoTraj数据集上取得了优于基线的性能。
Xiaoyi Huang, Kejia Zhang, Zhiming Luo
cs.CV cs.AI
本文提出CHASD框架,通过不确定性驱动的置信门控机制和注意力引导的局部视觉扰动,在LVLMs推理时按需激活对比解码以减少物体幻觉,提升了效率与性能。
Tella Rajashekhar Reddy et al.
cs.DC cs.AI cs.NI
本文提出了一种名为AI Greenferencing的部署模型,将模块化AI计算迁移至风能农场,并构建了XWind路由器,利用实时信号(推理延迟、KV-cache利用率和队列深度)动态分配推理请求。实验表明,该方法在模拟风能场景下显著降低了端到端延迟,但主要关注工程优化而非理论创新,与关键词关联较弱。
Tianyu Wang et al.
cs.CV cs.LG cs.MM
本文提出了一个用于细粒度羽毛球动作定位的解耦时空适配器(DSTA),通过将运动表示分解为三个并行分支来捕捉时空动态,并在新构建的Fine-Badminton数据集上取得了最优性能。该方法主要关注视频理解中的动作定位任务,与关键词列表中的概念关联较弱。
Zikun Lin, Daniel Zhuoyu Long, Viet Anh Nguyen
math.OC cs.LG
本文提出IDEAL框架,用于在不确定的交通时间下进行选择性救护车调度。该框架通过弱监督双层表示网络学习上下文相关的行程时间,并利用Burg散度扰动建模不确定性,以平衡响应时间与车队资源。
Sander Borst, Max Springer
cs.GT cs.DS
本文研究了在线二分匹配中的公平性约束问题,提出了基于阈值\(\gamma\)的算法,在可分割匹配中同时实现了\((1-e^{-\gamma})\)-CEF和\((1 - \frac{e^{\gamma-1}}{\gamma+1})\)-USW的保证,并给出了一个紧的上界,首次刻画了在线类匹配中公平性的代价。
Yinghao Qin, Tijana Timotijevic
cs.CV cs.AI
本文提出了一种基于3D Convolutional Neural Networks的在线手势识别系统,使用滑动窗口方法在实时视频流中定位和分类手势,在Jester数据库上取得了较高准确率。该系统主要关注实时性和鲁棒性,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Mohammad Reza Deylam Salehi
cs.IT cs.LG
本文提出Dijkstra-pruned INL (D-INL)方法,通过保留以融合节点为根的容量感知最短路径树来移除非树链接,以稀疏化分布式学习中的通信。该方法利用有限速率随机门控来平衡稀疏性与预测信息,并推导了率失真-泛化界。
Lixiang Yan et al.
cs.HC cs.AI
本文研究了社交流畅的AI在在线文本交互中如何使人们无法仅通过对话信号区分AI与人类,发现参与者依赖的启发式线索(如响应速度和流畅性)与真实身份关联较弱,导致判断失败。该工作主要关注人机交互中的身份感知问题,与关键词中的agent有一定关联,但方法上缺乏开创性且未解决长期存在的核心问题。
Nicholas Zhao
quant-ph cs.DS
本文提出了一种用于可逆Markov链的量子采样(QSAMPLE)制备新框架,通过基于广义量子信号处理(GQSP)的选择性相位编译器,将工作寄存器中的辅助量子比特开销降至1,并改进了查询复杂度对最小重叠的依赖关系。该工作主要优化了量子模拟退火中的资源效率。
Youqian Zhang
cs.CR cs.AI
本文指出人工智能安全研究中存在攻击研究多于防御研究的不平衡现象,并分析了这种失衡在联邦学习、语音识别等子领域中的表现及其可能带来的负面影响。
Jiaqi Feng et al.
cs.CV cs.AI
本文提出One-Forcing方法,通过在DMD目标中增加辅助GAN损失,实现了高质量的单步自回归视频生成,在VBench上取得了83.76的总分,达到了单步因果视频生成的最优性能。该方法解决了现有方法在单步设置下质量严重下降的问题,并证明了帧级单步自回归生成可以稳定实现。
Chitra Badagi et al.
cs.SE cs.AI
本文提出了一种针对企业AI系统的综合测试策略,强调通过持续风险降低而非严格正确性验证来评估概率性、上下文敏感的AI系统,并介绍了AI故障分类法和五层AI保障金字塔。该工作主要聚焦于工程实践和治理框架,与关键词中的code、context、agent等概念关联较弱。
Yu Luo et al.
cs.CV cs.AI
本文提出PhenoYieldNet,一种用于多作物产量预测的框架,通过Crop Phenology Bank和Crop Phenology Attention模块显式建模作物物候响应,并利用预训练基础模型和时序对比适应策略增强泛化能力。实验表明该方法在跨区域和跨作物预测中优于现有技术。
Jongoh Jeong et al.
cs.CV cs.AI
本文提出了一种名为Multimodal Distribution Matching (MDM)的几何感知框架,用于高效的视觉-语言数据集蒸馏。该方法在数据、模型和损失层面整合互补组件,通过联合嵌入空间聚类初始化、权重空间插值混合教师以及单位超球面上的联合分布匹配,在保持多模态语义的同时显著降低蒸馏成本。
Mario Markov et al.
cs.CV cs.LG
本文提出B-GRTO框架,通过将group relative policy optimization (GRPO)与可微分的segmentation decoder目标函数联合优化,提升了referring segmentation任务中vision-language模型的推理能力。该方法在多个基准上取得了与领域专用方法相当或更优的性能。
Chuanzhi Xu et al.
cs.GR cs.AI cs.CV cs.MM eess.IV
本文提出DrawVideo框架,通过将长视频分解为独立的镜头,每个镜头由sketch、appearance prompt和motion prompt控制,实现基于storyboard的可控长视频生成。该方法采用层次化的“全局多镜头、局部单sketch”策略,并引入SketchLongVideo数据集,但未涉及code、spectral、Muon等关键词相关技术。
Yi-Shuai Niu
math.OC cs.AI math.NA
本文提出RA-DCA算法,通过随机化active-set筛选策略处理非光滑DC规划问题,在保持DCA下降结构的同时降低计算成本。实验验证了该方法在避免非平稳临界点方面的有效性,但未直接涉及code、context、spectral等关键词相关领域。
Dong-Won Lim
cs.RO cs.LG
本文研究了训练样本数量对基于人工神经网络的机器人逆运动学求解精度的影响,发现超过125个样本后模型效率不再提升,为平衡计算成本与模型精度提供了实践指导。
Muneer Ahmad, Joseph U Igligli
cs.DL cs.IR
本文对尼日利亚大学2014-2023年的科研产出进行了科学计量分析,通过VOSviewer软件绘制了出版趋势、引用模式和合作网络的可视化图谱。研究发现该校十年间共发表6353篇论文,获得86202次引用,h-index为39。
John Sous, Michael Winer
stat.ML cond-mat.dis-nn cs.LG math.ST
本文提出了一个稀疏激活下的神经scaling law模型,发现测试损失主要由训练输入中从未出现的稀有坐标主导,并推导了欠参数化和过参数化区域的渐近总体损失,展示了在插值阈值附近的双下降峰。该工作为理解稀疏特征下的scaling行为提供了理论框架。
Jente Vandersanden et al.
cs.CV cs.AI
本文提出了一种无训练的实体中心记忆方法EM-Vid,用于多镜头视频生成中保持实体外观一致性。该方法通过实体索引的潜在patch库和稀疏token条件机制,在降低计算成本的同时改进提示词遵循度。
Ahmed Sabbah et al.
cs.CR cs.AI cs.LG
本文通过纵向实验评估了Android恶意软件检测在时间概念漂移下的对抗鲁棒性,发现时间分离会降低模型在特征空间中的对抗鲁棒性,并提出了RobustDrop等指标来量化分布变化与鲁棒性的关系。
Yingjun Xiao et al.
cs.CV cs.AI
本文发现开放世界目标检测中未知预测流被背景假阳性严重污染,并提出DualMem后置过滤器,利用冻结的SigLIP特征空间中的非参数似然比检验和Neyman-Pearson校准来抑制背景假阳性并保护未来任务目标。
Rouaa Hoblos et al.
stat.ML cs.LG
本文提出将Dirichlet分布框架与Monte Carlo Dropout结合,以改进神经网络的不确定性估计。该方法在保持MC Dropout计算效率的同时,通过Dirichlet分布建模类别概率来获得更丰富的不确定性表示。
Matthias Cosler et al.
cs.CR cs.LG
本文提出了一种基于AlphaZero和AlphaProof的reinforcement learning框架,用于改进Tamarin工具在安全协议分析中的proof search。该方法通过stateless API将Tamarin转化为RL环境,并利用Monte Carlo Tree Search和neural heuristic自动生成更短、更高效的proofs。
Nikola Pavlovic, Sattar Vakili, Qing Zhao
stat.ML cs.LG
本文研究了基于偏好的episodic kernel MDPs中的强化学习问题,其中学习者在每个episode中部署两个策略并接收一个二元偏好标签。作者开发了基于偏好的value estimation和confidence sets,并证明了随episode数量次线性增长的regret bound。
Liupeng Li et al.
cs.CV cs.AI cs.LG cs.MM
本文提出CVSearch框架,通过Assess-then-Search工作流动态调度视觉搜索策略,以解决高分辨率图像感知中覆盖度与效率的权衡问题。该方法结合专家辅助搜索与语义感知扫描机制,在HR基准上实现了最优精度与效率。
Robin Deuber et al.
cs.HC cs.LG
本文利用商用智能手表采集的腕部加速度计和心率变异性数据,通过逻辑回归和1D CNN模型检测酒后驾驶,在受控测试中CNN的AUROC达到0.88。该工作首次在真实车辆环境中验证了基于可穿戴设备的酒驾检测可行性,但与关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念无直接关联。
Qian Zhang, George Em Karniadakis
cs.CE cs.LG
本文提出了一种基于语言模型架构的算子学习框架,将流场重建问题转化为序列到序列学习任务,利用稀疏测量数据作为上下文来重建完整流场。该方法在多个基准数据集上展示了竞争性的重建精度,但并未直接涉及关键词中的code、spectral、Muon、pretrain、agent或attention等核心概念。
Zhihang Xin et al.
cs.CV cs.AI
本文提出了一种基于Weierstrass elliptic function的二维位置编码方法WePE,用于Vision Transformers。该方法通过将patch坐标映射到复平面并利用双周期性质,在保持几何约束的同时实现了分辨率无关的位置编码,实验表明其能带来一致的性能提升。
Ming Yang et al.
cs.RO cs.AI
本文提出Any2Any范式,通过运动学对齐和轻量级参数高效微调(PEFT)实现预训练全身跟踪(WBT)模型在不同人形机器人平台间的跨本体迁移,显著降低了在新平台上部署的计算和数据成本。
Jiarui Guo et al.
cs.CV cs.AI cs.MA
本文提出了PhotoFlow,一个用于3D虚拟摄影的智能体框架,通过Director-Reviewer-Reflector架构实现闭环相机搜索,并构建了VPhotoBench基准。该方法在语言条件驱动的虚拟摄影任务中取得了较好效果,但与我提供的关键词(如code, context, spectral, Muon, pretrain, attention)关联度较低。
George Craig et al.
physics.ao-ph cs.LG physics.comp-ph
本文探讨了AI天气模型是否在求解物理方程,通过计算预报技巧和Centered Kernel Alignment的相关性,发现不同AI模型以相似方式表示大气。文章提出这些模型可能实现了一种粒子描述,其中潜在变量对应高维潜在空间中的粒子位置,并假设粒子运动遵循梯度流。
Seyed Bagher Hashemi Natanzi et al.
eess.SY cs.LG
本文提出了一种用于O-RAN的Dual-Brain架构,结合LLM的推理能力和轻量级ML引擎NeuralSmith,以自动化AI服务的部署流程。该工作主要关注系统集成与工程实现,在数学理论或方法上缺乏开创性。
Jorge Chang Ortega et al.
cs.CV cs.AI
本文通过Joint Energy-Based Models (JEMs)在固定架构下连续插值discriminative和generative训练,发现人类对齐在两者之间的中间点达到最优,而非任一极端。该工作表明平衡两种目标比选择其一更能解释人类视觉表征。
Michal Shlapentokh-Rothman et al.
cs.CV cs.CL
本文提出ToolMerge方法,利用LLM将查询分解为多个tool calls并通过boolean operators合并结果,用于long-video keyframe retrieval。该方法在caption retrieval任务上比现有方法提升5%,但整体创新性有限,与关键词契合度不高。
Laura R. Marusich et al.
cs.HC cs.AI
本文通过大规模人类行为实验,研究了LLM生成的叙事性解释对分类任务中人类决策表现的影响。实验发现,不同说服力的叙事解释并未显著提升决策准确性,反而可能增加对AI的依赖并延长响应时间,表明叙事解释在决策性能上存在权衡。
Aratrika Mustafi, Soumya Mukherjee
stat.ML cs.CR cs.LG math.ST
本文研究了球形Hellinger-Kantorovich (SHK) gradient flow的稳定性,建立了势函数扰动下的传播界,并将其应用于差分隐私中的指数机制采样,给出了Pure-DP和Approximate-DP保证。
Rim Assouel et al.
cs.CV cs.AI
本文提出PGT (Procedurally Generated Tasks)框架,通过在图像上叠加几何基元生成密集监督信号,以提升多模态大语言模型(MLLMs)的细粒度视觉理解能力。实验表明该方法在多个基准上取得显著提升,但未涉及关键词中的code, spectral, Muon, pretrain, agent或attention等核心概念。
Joydeep Chandra
cs.DB cs.AI cs.CR cs.LG cs.MA
CHRONOS提出了一种面向时序知识图谱数据市场的三层架构,通过神经ODE衰减、基于变化点的Shapley估值和EXP3-IX算法分别处理索引陈旧、定价偏移和隐私预算过度消耗问题。实验表明其在召回率、延迟和隐私预算方面具有竞争力,但估值结果仍受噪声主导。
Shuhong Zheng et al.
cs.CV cs.AI cs.GR cs.LG cs.RO
本文提出了一种针对visual geometry transformers的token选择策略,通过两阶段(帧间和帧内)筛选来减少全局注意力中的key/value token数量,从而加速多视图3D重建。该方法在保持甚至提升基线性能的同时,实现了超过85%的加速,但并未直接涉及code、context、spectral等关键词。
Beichen Zhang et al.
cs.CV cs.AI cs.CL
本文提出ETCHR,一种将专用图像编辑模型与理解模型解耦的方法,通过两阶段训练(推理模仿和推理增强)来提升多模态大语言模型在需要精细关注或视角转换的视觉推理任务中的表现。该方法在多个任务族上取得了性能提升,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。

- 数据来源 Data Source: arXiv.org

- 本网页的内容由 bluearXiv-ai 自动生成。实际抓取的是 arXiv 中 "new" 页面的数据,即最近的有所在分类论文变动的一天的数据。

- 感谢 arXiv 提供的服务。评论和精选由 AI 生成,不代表任何人对论文本身的看法。精选依赖于论文与给定关键词的匹配度。

- 计数基于主学科,不计重数。

- This webpage is automatically generated by bluearXiv-ai.

- The data actually captured is from the "new" page, that is, the data of the most recent day when there were changes in corresponding subjects.

- Thanks for services prodived by arXiv. Comments and selection of good papers are generated by AI, not showing anyone's point of view about those papers.

- The selection also depends on the matched-degrees between papers and given keywords.

- The counters are based on main subject, not counting multiplicities.