bluearXiv-ai 论文精选

2026-06-01

📚 跟踪学科 (Categories)

🔍 筛选关键词 (Keywords)

📊 论文统计 ↑ 回顶部

cs.LG
172
cs.AI
36
cs.IR
12
cs.CL
111
cs.DS
2
others
166
总计
499

⭐ 精选论文 ↑ 回顶部

cs.LG

Santiago Amaya-Corredor, Miguel Calvo-Fullana, Anders Jonsson
cs.LG cs.AI
Omri Lev et al.
cs.LG cs.IT
Jeffrey Seely, Bartłomiej Cupiał, Llion Jones
cs.LG
Yulin Hu, Fuyan Ou, Ye Yuan
cs.LG
Konstantin Nikolaou et al.
cs.LG physics.comp-ph
Zhikun Xu et al.
cs.LG cs.AI

cs.AI

Mustafa Anis Hussain, Xinle Wu, Yao Lu
cs.AI

cs.CL

Yujie Luo et al.
cs.CL cs.AI cs.IR cs.LG
Jiatan Huang et al.
cs.CL
Sijia Wang, Dhanajit Brahma, Ricardo Henao
cs.CL cs.AI cs.LG stat.ML
Marko Kojic et al.
cs.CL
Zheyu Zhang, Shuo Yang, Gjergji Kasneci
cs.CL cs.LG

others

Chitraksh Singh, Monisha Dhanraj, Akram Sheriff
eess.SP cs.AI
Wenlun Zhang, Jun Yin, Kentaro Yoshioka
cs.CV cs.LG
Davis Brown et al.
cs.CR cs.AI

📄 所有论文 ↑ 回顶部

cs.LG

Haochen Yuan et al.
cs.LG cs.AI
本文提出Unicorn (Universal Correlation Network)框架,通过引入latent prototype codebook将异构通道投影到共享latent space,从而解耦correlation modeling与特定通道身份。该方法实现了跨不同维度和语义域的可复用交互模式学习,在高维时间序列的few-shot transfer场景中显著超越现有state-of-the-art模型,为构建可扩展的多变量时间序列foundation model提供了新路径。
Santiago Amaya-Corredor, Miguel Calvo-Fullana, Anders Jonsson
cs.LG cs.AI
本文提出了一种可扩展的约束多智能体强化学习方法,通过状态增强(state augmentation)和分布式共识(consensus)处理具有可分离动力学的系统。核心贡献在于证明,对Lagrange乘子进行轻量级的邻居间共识足以实现全局约束协调,同时保持独立训练的扩展性。每个agent学习一个基于局部状态和编码约束反馈的对偶变量的增强策略,并在执行时通过局部通信达成对偶变量的一致。实验表明,该方法在智能电网需求响应任务中能扩展到数千个agent,而集中式训练分散式执行(CTDE)基线仅能处理数十个agent,且共识协调对于满足全局资源约束至关重要。
Omri Lev et al.
cs.LG cs.IT
本文提出了一种基于fast transforms(快速变换)的新型差分隐私(DP)sketching机制,该机制在特定情况下匹配了经典快速sketching方法的运行时间,并证明了其隐私保证在有利条件下与Gaussian sketch(高斯草图)仅差一个常数因子。作为应用,作者将该机制与基于sketch的DP线性回归方法结合,得到了首个具有强效用和提升运行时间的快速DP ordinary least squares(普通最小二乘)算法。该方法在spectral(谱)性质上具有优势,且其核心机制与code(编码)和context(上下文)相关的高效计算场景契合。
Yuwei Zhang et al.
cs.LG
本文提出CoMem框架,通过将memory management从primary agent workflow中解耦,并采用\(k\)-step-off异步pipeline使memory model的summarization与agent的inference并行执行,从而有效掩盖了context processing的latency。为解决异步设置下的鲁棒性问题,引入reward-driven training strategy来对齐memory model以捕获agent决策所需的sufficient statistics。理论分析和在SWE-Bench-Verified上的实验表明,CoMem在保持大部分性能的同时实现了1.4倍的latency改进,且该latency增益随系统throughput增加而扩展,为agent reasoning和memory compression的独立优化提供了模块化路径。该方法与关键词中的agent和context高度契合。
Yurui Chang et al.
cs.LG
本文提出ForecastCompass (FoCo),一种基于自适应因子记忆的agentic forecasting框架。FoCo通过层次化预测任务分类法组织经验,并维护两种互补记忆组件:factor memory(捕获可复用的预测维度)和reasoning memory(编码概率更新与校准原则)。该方法利用回顾性分析作为学习信号,通过verbalized memory-revision过程迭代修正记忆,使agent能够积累可迁移的预测知识。实验表明FoCo在概率准确性和校准性上均有提升,与关键词中的agent概念高度契合。
Jeffrey Seely, Bartłomiej Cupiał, Llion Jones
cs.LG
本文提出了一种基于Sheaf-ADMM的可微优化框架,用于多智能体协调。该框架将输入分解为重叠的局部视图,每个智能体通过neural encoder参数化一个凸子问题,并利用cellular sheaf指定智能体间必须达成一致的约束,从而支持异构的全局共识。通过unrolled optimization进行反向传播,联合训练多智能体系统的所有组件。在迷宫寻路、图像分类和数独等任务上的实验表明,该方法在数独上相比参数匹配的MPNN基线取得了显著更高的求解率,并且其ADMM结构暴露了原始、共识和对偶状态变量,使得协调动态可直接分析和干预,这是标准message-passing架构所不具备的特性。
Yulin Hu, Fuyan Ou, Ye Yuan
cs.LG
本文提出了一种高效且可扩展的图压缩方法SP-ESGC,其核心创新在于解耦设计,将节点压缩与图结构生成分离。该方法首先利用heat kernel特征传播(基于spectral graph theory的扩散过程)生成节点表示,然后通过一种新颖的混合聚类策略提取判别性的类内中心点,最后使用预训练的边预测器从原始图中推断可迁移的结构模式。该方法显著提升了计算效率,并在不同GNN架构上展现出良好的泛化能力,与关键词中的spectral概念高度契合。
Vagul Mahadevan et al.
cs.LG stat.ML
本文研究了在Markovian噪声下双时间尺度随机逼近(two-timescale SA)的稳定性与收敛性,这是强化学习(RL)中如TDC和actor-critic等算法的基础。与以往依赖i.i.d.噪声的工作不同,本文通过使用慢时间尺度参数的running max来控制快时间尺度参数,从而无需投影算子且不要求噪声有界。作为关键应用,本文首次证明了在off-policy线性函数逼近下,带eligibility traces的TDC算法的几乎必然收敛性。
Konstantin Nikolaou et al.
cs.LG physics.comp-ph
本文提出"spectral position"这一可扩展度量,用于刻画empirical neural tangent kernel (eNTK)的特征值中哪些主导了loss下降。研究发现训练过程中学习从主导特征模式向spectral tail转移,且更大模型具有更深的"spectral reach",即能持续利用小模型无法触及的弱spectral信号。文章进一步指出feature learning是spectral reach的关键使能因素,它自适应地放大梯度幅度以维持学习进程。该工作为理解neural scaling laws的底层机制提供了新的分析工具和理论视角。
Yike Zhao et al.
cs.LG cs.AI stat.ML
本文通过构造两种linear filter,为线性recurrent neural networks在部分可观测强化学习中的有效性提供了理论依据。第一种filter在deterministic transition matrix下精确复现了hidden Markov model中belief vector的pre-softmax logits,从而成为最优policy learning的充分统计量;第二种filter在近乎deterministic的transition matrix下实现了state-decoding error的消失。这些结果扩展至action-controlled HMMs,其中对应的linear filter变为随时间变化且依赖于action的动力学。该工作为线性recurrent memory作为agent中的context提取器提供了严格的数学基础,与关键词中的agent和context高度契合。
Valérie Castin et al.
cs.LG
本文提出Balanced Low-Rank Adaptation (BaLoRA),针对LoRA微调大语言模型时存在的参数不变性(即多个低秩因子对可对应同一权重矩阵)导致收敛速度慢的问题。作者从理论上证明不同低秩因子对的条件数差异显著,并据此设计了一种投影到平衡流形(balanced manifold)的方法,以改善loss landscape的条件数而不改变最终的adapted matrix。BaLoRA的计算开销小,可无缝集成到现有微调流程中,实验表明其收敛速度优于标准LoRA,并在多种微调任务上取得更优性能。该方法与关键词中的spectral(条件数相关)和context(微调场景)较为契合。
Zhikun Xu et al.
cs.LG cs.AI
本文提出ReuseRL框架,将agentic RL问题形式化为基于Minimum Description Length (MDL)原则的压缩过程。该方法从成功轨迹中提取可复用的skill dictionary,并在RL目标中引入segmentation cost以惩罚编码效率低的特异行为。作者证明了该压缩惩罚的PAC-Bayes泛化界,并在ALFWorld、TextWorld-Cooking和Countdown-Stepwise等环境中验证了该方法在分布内和分布外任务上的有效性。该工作与关键词"agent"高度契合,为agent的skill reuse提供了理论驱动的压缩视角。
Youting Wang et al.
cs.LG cs.AI cs.IR
本文研究了LLM在稀疏结构化强化学习任务中生成reward function时的失败模式,并提出了一种基于诊断驱动的迭代优化方法。该方法通过训练诊断和失败模式分类来指导reward function的修正,在MiniGrid任务上取得了显著提升,但在连续控制任务中效果有限。
Zhenxiao Fu, Lei Jiang, Fan Chen
cs.LG quant-ph
本文提出了QASM-Eval数据集,用于训练和评估大语言模型在OpenQASM-3上的编程能力,该数据集专注于硬件层面的量子编程特性,如经典逻辑、时序调度和脉冲控制。实验表明现有LLM在此任务上表现不佳,但针对性微调可带来显著提升。
Jiaqi Zhang et al.
cs.LG
本文构建了一个基于LSTM、Transformer和Mamba三种deep learning模型的统一benchmark,用于从multi-cadence gait kinematics直接预测hip muscle forces和joint moments。实验表明Transformer在健康受试者上表现最佳,并在股骨头坏死患者的zero-shot测试中保持了中等预测能力。该工作验证了从gait kinematics估计hip dynamics的可行性,但方法本身并非开创性,且与关键词列表中的概念关联较弱。
Vahideh Zolfaghari
cs.LG cs.AI
本文通过LoRA微调五种transformer模型(Pythia-1.4B, Gemma-2-2B/9B, Qwen2.5-7B, Llama-3.1-8B)的诚实与欺骗变体,使用线性探针在平均池化隐藏状态上检测合成欺骗,发现早期层即可达到近完美AUC,并验证了Linear Representation Hypothesis。研究揭示了不同模型在欺骗表示上的两种机制(表示坍缩与高维保持),但整体与关键词中的code, context, spectral, Muon, pretrain, agent, attention关联较弱。
Vincent Granville
cs.LG cs.AI
本文提出了一种基于RBF网络的LLM新架构,能够在闭式解中一步找到损失函数的全局最优,从而消除传统DNN的繁琐训练过程。文章通过案例研究展示了该方法的可解释性和准确性优势,但未涉及code、spectral或attention等关键词相关技术。
Hwa Hui Tew et al.
cs.LG cs.AI cs.CV eess.SP
本文提出了一种名为DSFM的fMRI时间序列生成框架,通过结合离散小波变换和离散余弦变换的双重频谱表示,并利用频谱流匹配模型生成类条件余弦频率表示,以解决原始BOLD信号的非平稳性和复杂时空动态的复制难题。该方法在脑网络分类任务上展示了改进效果,但未涉及代码、上下文、谱方法、Muon、预训练、智能体或注意力等关键词。
Ismet Gocer et al.
cs.LG
本文提出了一种用于评估基于AIS数据的无监督海事异常检测的新指标MADQI,该指标通过整合四个子指标(ARC, PPS, SDS, ECE)来评估模型性能,无需标注数据。实验表明该方法在检测异常船舶行为方面有效,但方法本身并非开创性,且与关键词列表中的概念关联较弱。
Anany Kotawala
cs.LG cs.AI cs.CR
本文提出NumLeak框架,通过API边界探针与白盒验证,发现前沿LLM在公共数值基准(如Fama-French市场超额收益)上存在记忆性回忆,而非真正的样本外能力,并揭示了闭源API黑盒探针低估了这种记忆通道。
Kewei Xu et al.
cs.LG cs.AI cs.CL cs.MA
本文提出了一个名为LongDS-Bench的benchmark,用于评估agent在长序列、多轮数据交互分析中维护和更新分析状态的能力。实验发现,现有模型在长序列任务中表现不佳,主要瓶颈在于维持正确的分析状态而非增加交互次数。
Santo M. A. R. Thies et al.
cs.LG cs.AI stat.ML
本文首次形式化定义了label ranking中的calibration概念,并建立了一个包含full rankings、sub-rankings和top-k rankings的层次化框架。通过理论证明和实验分析,作者发现流行的label ranking模型通常校准不良,且该框架在RLHF reward model中揭示了calibration与benchmark accuracy之间的相关性。
Munawar Hasan
cs.LG cs.CL
本文提出了有界行为不可区分性概念,形式化为\((\epsilon,q,t,\mathbb{A})\)-behavioral indistinguishability,用于评估黑盒LLM蒸馏中学生模型是否在行为上模仿教师模型。实验表明,LoRA蒸馏虽能提升语义相似度,但对抗性评估仍能检测到剩余行为差异,说明语义保真度不足以衡量蒸馏效果。
Aakriti Agrawal, Minghui Liu, Furong Huang
cs.LG
本文提出VeriGate方法,通过引入verifier-gated机制和process supervision来改进GRPO算法,解决其奖励稀疏和缺乏step-level credit assignment的问题。该方法在数学推理任务上提升了模型准确率,但与我提供的关键词(如code, context, spectral等)关联度较低。
Zeou Hu, Kelvin Ho, Yaoliang Yu
cs.LG cs.AI math.OC
本文提出了一个用于多目标优化中梯度聚合的统一框架,建立了收敛到Pareto平稳性的最优速率,并引入了一种基于CVaR的capped MGDA算法以增强鲁棒性。
Shraman Pal, Can Li
cs.LG math.OC
本文提出DisjunctiveNet框架,通过将逻辑规则表示为disjunctive constraints并应用hierarchical convex relaxations,在神经网络中嵌入可微分的优化层以实现硬约束满足。该方法在真实数据集上实现了完美的规则满足和强预测性能。
Andrada Gobeaja et al.
cs.LG cs.AI
本文提出了一种基于语义相关性描述符(SCDs)的白盒方法,用于识别训练数据集。该方法通过分析模型学习到的语义相关性结构来判断数据集是否属于训练混合,并在多个实验设置中优于现有基线方法。
Ojas Nimase et al.
cs.LG
本文研究了在严格黑盒约束下(仅观察离散类标签和二元解释掩码)针对图分类的模型提取攻击,利用模型解释输出指导蒙特卡洛边灵敏度估计,并借助解释子图缩小搜索空间。实验表明该方法优于基线,揭示了可解释性接口的安全漏洞。
Steve Hanneke, Hongao Wang
cs.LG
本文研究了通用转导在线分类问题,其中标签空间可能无界且实例序列预先已知。通过引入一种新的组合结构“Level-Constrained-Littlestone-Littlestone (LCLL) tree”,作者刻画了该设定下概念类的可学习性,并证明可学习类的最优错误率只有有界或对数增长两种可能。
Xiaoyu Huang, Blake Jackson, Kyu-Hwan Lee
cs.LG
本文通过mechanistic interpretability工具分析了一个小型encoder-decoder transformer在Dyck paths上的zeta map学习过程,揭示了一种基于层级的机制,并从中提取出一个显式的组合算法。该工作展示了AI辅助数学发现的一个受控案例。
Amirhossein Ghaffari, Saeid Sheikhi, Ekaterina Gilman
cs.LG cs.AI
本文提出GC-MoE框架,通过图拓扑和近期交通输入为每个节点分配个性化的冻结专家组合,仅训练轻量路由模块。在四个交通预测基准上,该方法以少量可训练参数提升了预测性能。
Suryash Yagnik et al.
cs.LG cs.CL
本文指出当前machine unlearning评估中因果类知识(Why-type)占比极低,为此构建了平衡的5WBENCH基准,并发现现有方法无法同时实现因果知识的强遗忘与高保留。作者提出MAAT框架,通过多阶段操作LoRA adapter权重来优化这一权衡。
Anej Svete et al.
cs.LG cs.AI cs.CC cs.CL cs.FL
本文研究了padded transformer的表达能力,发现其鲁棒性受数值精度和模型深度影响,而非宽度或注意力类型。具体证明了不同精度和循环次数下,padded transformer等价于特定的电路复杂度类(如\(\text{L-uniform AC}^0\)和\(\text{FO-uniform TC}^d\))。
Yichen Liu et al.
cs.LG
本文研究了大型语言模型在顺序后训练过程中内部表示逐渐退化为低秩、各向异性且同质的特征空间的现象,并提出了包括混合域回放、特征刷新、表示多样性正则化和LoRA更新去相关在内的轻量级干预措施。
Aniket Anand et al.
cs.LG cs.CL
本文研究了LLM后训练(post-training)引入的类AI风格特征,提出了一种无需训练的PASTA方法,通过消融对齐模型与基座模型在残差上的对比方向来降低AI检测率。
Yuxin Yang, Aoxiong Zeng, Xiangquan Yang
cs.LG
本文研究了LLM微调中数据选择的长期影响,发现短视选择策略(如基于当前效用)可能导致后续学习变慢和遗忘增加,并提出了一个诊断性目标函数LHAS。该工作主要关注数据选择策略的评估框架,与关键词中的code、spectral、Muon、agent等无直接关联。
Yiming Xiao et al.
cs.LG
本文提出了DisasterLex框架,通过构建专家知识图谱(EKG)将用户查询与数据库schema桥接,以提升灾害分析领域的text-to-SQL性能。该方法在多个基线上取得了显著提升,但主要贡献在于工程化框架设计,而非理论或方法上的开创性突破。
Joseph Stitt et al.
cs.LG physics.geo-ph
本文提出了SubsurfaceGen,一个用于生成场尺度3D速度模型和地震数据的GPU加速生成器,并发布了包含4276个2D速度切片等的大规模数据集,以解决机器学习全波形反演(FWI)训练数据在空间、地质多样性和物理真实性上的不足。实验表明该数据集可用于评估神经算子等模型,并揭示了场尺度下的失败模式。
Robert Kasumba, Dennis Barbour, Chien-Ju Ho
cs.LG
本文提出了一种Process-Level Latent Variable Model (PLVM),用于从部分源任务的过程轨迹中预测目标任务的行为策略。该模型通过编码任务特定轨迹并融合为共享的person-level潜在表示,在PowerWash Simulator游戏数据中实现了跨任务策略预测。
Pierre-André Noël
cs.LG cs.IT
本文提出将diffusion models视为一种通过隐藏输入信息并训练模型猜测隐藏信息的学习框架,并讨论了其相较于传统信息隐藏技术的灵活性优势。文章还探讨了将reinforcement learning技术应用于diffusion context时可能出现的微妙问题,并指出了未来探索方向。
Nils Leutenegger
cs.LG q-bio.NC
本文通过追踪四种学习规则(BP, FA, PC, STDP)训练过程中模型与早期视觉皮层fMRI数据的representational similarity analysis (RSA)对齐度变化,发现未经训练的随机网络在V1区域的对齐度反而高于训练后的网络,且全局误差信号(BP)比局部学习规则(PC, STDP)更严重地破坏这种对齐。
M. Berk Sahin, Behzad Sharif, Abolfazl Hashemi
cs.LG
本文提出了一种基于variance reduction的zeroth-order Langevin采样方法,用于处理梯度不可访问的非对数凹分布采样问题,并首次建立了非渐近收敛保证。该方法通过改进梯度估计器降低了方差,并应用于黑盒逆问题中的后验采样。
Jostein Barry-Straume et al.
cs.LG cs.AI cs.CE
本文比较了五种机器学习不确定性量化方法在预测涡轮燃气温度退化中的应用,通过统一实验框架评估了各方法的预测区间覆盖率和宽度。研究为发动机健康管理中的方法选择提供了实用参考,但方法本身并非开创性,且与关键词关联较弱。
Matt Turk
cs.LG cs.AI cs.CL
本文提出Causal Sensitivity Score (CSS)指标,通过沿五个临床维度突变肿瘤病例来评估临床LLM和agent的因果响应能力。实验发现,覆盖度指标(如CMS)与CSS对模型排名几乎相反,且所有前沿模型在手术状态干预上存在普遍安全盲点。该工作揭示了覆盖度指标无法捕捉的模型行为差异,但方法本身并非开创性,且与关键词关联较弱。
Diyali Goswami, Auroop R. Ganguly
cs.LG
本文提出Gauge-Fixed Ordinal Network (GON),一种用于为短轨迹窗口分配可跨系统迁移的序数评分的方法,以区分从确定性动力学到随机噪声的不同可预测性阶段。该方法通过锚定方差目标固定评分坐标,解决了序数评分中的规范自由度问题。
Jostein Barry-Straume et al.
cs.LG cs.AI cs.CE
本文提出一个多任务科学机器学习框架,用于涡轮发动机健康管理,联合预测TGTU、DTGT和RUL,并给出预测区间的不确定性量化。框架使用共享序列编码器(卷积前端加残差双向LSTM层和注意力池化)和任务特定头,通过少量可调参数适应不同部署策略。
Oscar Thorsted Svendsen et al.
cs.LG
本文针对独立训练神经网络潜在表示不兼容的问题,改进了Relative Representations方法,通过学习鲁棒的语义原型作为锚点并使用保持判别性幅度信息且对仿射变换不变的几何感知相似度度量,在视觉和语言任务上提升了跨模型通信的性能与一致性。
Rajas Poorna, Marcus T. Cicerone
cs.LG
ScaleMAP通过将每对嵌入位移除以原始空间中两个端点局部半径的几何均值,将尺度信息重新注入低维嵌入,从而在保持UMAP级邻域结构的同时匹配DensMAP的密度保持能力。该方法在转录组学、高光谱成像和流式细胞术等科学数据集上验证了有效性。
Saeedeh Davoudi et al.
cs.LG cs.CL
AMNESIA是一个大规模医学遗忘基准测试集,包含来自8820份患者记录的70560个问答对,覆盖11种疾病类别。该工作评估了四种遗忘方法在随机患者和疾病级别上的表现,并引入了一个检测医学术语泄露的新指标。
Michał Kozyra, Gesine Reinert
cs.LG
本文提出TASER (Task-Aware Stein Regularisation)框架,通过惩罚训练分布下的点态Stein残差来鼓励预测器与数据密度的几何兼容性,从而提升深度网络在分布偏移和对抗扰动下的鲁棒性。该方法在CIFAR-10实验上一致改善了现有训练方法的对抗鲁棒性,且未显著降低干净准确率。
Sven Gutjahr et al.
cs.LG
本文提出了一种名为Constrained Flow Optimization (CFO)的算法,用于在分子设计中平衡reward最大化与constraint satisfaction。该方法通过将问题简化为sequential fine-tuning,为constrained generative optimization提供了收敛性保证。
Harsh Vardhan et al.
cs.LG
本文提出在二分类的选择性分类(selective classification)中引入成对查询(pairwise queries)来改进模型置信度估计,从而降低非拒绝样本上的错误率。实验表明该方法在合成数据和基于上下文学习的真实数据集上优于仅使用原始置信度估计的方法。
Nicolas Huynh, Mihaela van der Schaar
cs.LG cs.AI stat.ML
本文针对从稀疏快照推断连续概率路径的问题,提出了一种主动学习框架。通过使用Linearized Optimal Transport (LOT)将分布快照映射到切空间,并利用Gaussian Process建模来构建概率代理,从而选择最优测量时间点。
Silas Ruhrberg Estévez et al.
cs.LG q-bio.GN
本文提出CellBRIDGE方法,通过引入配体-受体信号介导的细胞间通信成本来增强基于特征的最优传输(Optimal Transport)对齐,从而改进单细胞RNA测序数据中的轨迹推断。该方法在合成和真实数据集上优于仅基于特征的基线方法,并支持可解释的计算机模拟扰动分析。
Mustafa Uzun et al.
cs.LG cs.AI
本文提出了Score Broadcast and Decorrelation (SBD)框架,将基于广播的credit assignment方法从MSE损失推广到一般可微损失族,通过输出score(损失对最终层输出的梯度)与隐层激活之间的正交性原理统一了多种损失函数下的学习规则。实验表明该方法在CIFAR-10和Tiny ImageNet上优于现有广播方法。
Oleksandr Marchenko Breneur et al.
cs.LG cs.CL
CSULoRA提出了一种后处理方法,通过估计安全对齐子空间并求解闭式惩罚最小变化问题来修正已训练的LoRA适配器,以在保留任务相关更新的同时抑制不安全方向。该方法在对抗性微调实验中降低了攻击成功率,但主要针对安全对齐问题,与关键词中的code、spectral、Muon等概念关联较弱。
Marta Aparicio Rodriguez et al.
cs.LG
本文研究了diffusion model在训练数据中的记忆偏好,发现模型倾向于优先记忆由常见子串组成的原型样本,而非罕见样本。即使训练数据完全去重,这种记忆现象依然存在,表明数据点级别的去重无法提供有意义的隐私保障。
Sharan Vaswani, Yifan Sun, Reza Babanezhad
cs.LG math.OC
本文研究了在非均匀光滑性假设下,一阶优化方法的收敛性,将假设推广到曲率为目标值仿射函数的损失函数,并分析了最速下降法、RMSProp和Adam的确定性变体在满足梯度支配条件下的收敛率。
Tianrun Yu et al.
cs.LG cs.AI
本文提出LARK方法,用于在推理蒸馏中选择教师生成的推理轨迹。该方法通过引入可学习性因子\(\rho\)来刻画学生模型的训练损失下降速率,并采用\(\chi^2\)正则化的选择策略平衡可学习性与分布覆盖,从而提升学生模型性能。
Yujin Jeong, Noelle Jung, Brian Y. C. Leung
cs.LG
本文探索了用高维FinBERT嵌入替代传统标量情感分数进行金融预测,对比了多种嵌入策略,发现Siamese网络优化的嵌入在短期股价预测中优于标量基线。
Mahsa Bastankhah, Sophie Broderick, Benjamin Eysenbach
cs.LG
本文通过empowerment目标研究强化学习中的表示学习,证明empowerment agent能学习到对控制无关特征不变的forward和backward两种互补表示,强调了通过交互而非被动数据学习表示的重要性。
Anya Singh et al.
cs.LG cs.RO
本文提出BOKBO,一种用于视觉-语言-动作(VLA)策略的校准式弃权层,通过conformal prediction提供有限样本无分布保证,以控制执行违规率。文章分析了扰动采样下非一致性分数的结构缺陷,并提出了基于语义特征和任务标识的违规预测器。
Luz Stefani Sotomayor Valenzuela, Susanna Cramb, Darren Wraith
cs.LG q-bio.PE
本文提出了一种基于时空随机图的传染病预测架构,通过整合随机公式和不确定性近似过程来预测新发病例。该方法在COVID-19(美国)和水痘(匈牙利)数据集上进行了验证,与四种时空图模型相比表现出有竞争力的周预测性能,但存在一步延迟且对高频低幅变异性不敏感。
Sridhar Mahadevan
cs.LG
本文提出Universal Decision Learner (UDL)框架,用范畴论中的Kan extension统一描述多种决策形式(如planning、reinforcement learning、causal intervention等),将局部行为数据通过左右Kan extension扩展为全局一致行为。该工作为决策理论提供了抽象代数视角,但未直接涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Erick O. Rodrigues et al.
cs.LG cs.CV
本文提出了一种基于图像特征提取和关联规则的上下文感知中间件,用于优化医疗工作流程,通过分析医生历史诊断数据自动分配医学影像任务。该方法主要面向医疗影像分发场景,与关键词中的核心概念关联较弱。
Yijie Tong et al.
cs.LG cs.CV cs.MM
本文系统研究了视觉语言模型(VLM)中的test-time compute策略,发现特征评分和多数投票在单模型场景下效果有限,原因是预测多样性不足。作者提出Entropy-based TTC (ETTC)方法,通过预测熵选择最自信的预测,在多模型集成中优于多数投票和最佳单模型。
Stephane Hatgis-Kessell, Emma Brunskill
cs.LG cs.AI
本文提出Prompted Policy Optimization (PromptPO)方法,利用LLM作为黑盒策略优化器,通过Python描述状态空间、动作空间和奖励函数,并基于rollout反馈迭代生成策略。实验表明,在硬探索环境和Meta-World任务中,PromptPO能以更少的环境交互匹配或超越标准RL基线,但在MuJoCo连续控制任务中表现不佳。
Sahaj Raj Malla
cs.LG cs.AI econ.GN stat.ML
本文提出了Kalimati蔬菜价格指数(KVPI)并构建了一个动量校正在线堆叠集成模型用于价格预测,在90天预测期上取得了RMSE为1.771、MAPE为0.68%的性能。该工作主要面向农业商品价格预测的应用场景,与关键词中的理论或方法方向关联较弱。
Jun Hu
cs.LG stat.CO stat.ME
本文提出CerT-MCMC框架,为基于学习传输的Markov chain Monte Carlo方法提供自动收敛性证明。该框架通过normalising flow构建两种互补的spectral-gap证书,其中quantile-core证书在高维场景下仍能给出非平凡的spectral-gap界,而covering证书的修正项随维度增加而迅速失效。
Aditya K Kamath et al.
cs.LG cs.DC
本文提出了一种名为Invariant Bit Packing (IBP)的无损压缩算法,用于缓解ML训练和推理中GPU内存不足导致的PCIe传输瓶颈。IBP通过识别并消除张量组中的不变位,利用GPU优化的解压缩(warp并行与低开销位操作)来提升吞吐量,并在GNN训练、DLRM及LLM推理中实现了显著的加速。
Inwon Kang et al.
cs.LG cs.IR
本文提出SemStruct框架,通过将冻结的Pre-trained Language Models与Graph Neural Networks结合,在schema matching任务中建模表格的structural information。实验表明该方法在多个基准上达到最优性能,但未涉及code、spectral、Muon、agent或attention等关键词。
Olivier Kanamugire, Kerol Djoumessi
cs.LG cs.CV
本文在NLM-Malaria数据集上基准测试了四种深度学习模型,评估了它们在疟疾诊断中的预测性能、鲁棒性和可解释性。研究发现轻量级模型在性能上与重型模型相当,但所有XAI方法在图像损坏下均不可靠。
Zhenghua Bao et al.
cs.LG cs.AI cs.CL
OrcaRouter提出了一种结合LinUCB上下文bandit算法与混合离线-在线学习协议的LLM路由方法,通过离线全信息反馈训练ridge回归器,并在部署时利用bandit反馈进行在线更新。该方法在RouterArena排行榜上取得了较好性能,但主要聚焦于工程部署优化,与关键词中的理论或方法关联较弱。
Sungha Kim et al.
cs.LG cs.RO
本文提出FLAG方法,通过引入flow latent variable来增强state space,并优化一个可证明一致的proxy MaxEnt-RL objective,以缓解importance weight collapse问题。该方法在high-dimensional control tasks上取得了state-of-the-art性能。
Haozhou Zhang
cs.LG
本文比较了chain-of-thought prompting与压缩循环Transformer在测试时计算中的记忆预算差异,指出压缩循环受限于其循环状态大小,即使增加计算步数也无法像chain-of-thought那样扩展工作记忆,因此无法解决某些P-complete问题。
Ha Manh Bui et al.
cs.LG
本文提出DUAL框架,利用diffusion model的先验知识在offline阶段蒸馏出快速采样的actor policy和transition model,并在online阶段通过Laplace近似和距离状态转移检测进行uncertainty量化以改进探索与利用的平衡。该方法在多个环境中提升了O2O-RL的在线期望回报。
Xixun Lin et al.
cs.LG
本文提出AbstainGNN框架,使Graph Neural Networks (GNNs)在graph classification任务中能够选择拒绝不确定的预测,而非强制输出结果。该工作从PAC-Bayesian generalization角度理论刻画了分类误差与拒绝成本间的权衡,并设计了包含predictive function warm-start和abstention function calibration的两阶段训练策略。
Yiming Ren et al.
cs.LG cs.AI
本文提出S2L-PO (Small-to-Large Policy Optimization)框架,利用同一模型族中较小模型固有的高policy-level多样性来训练较大模型,通过渐进退火策略平衡探索与利用。该方法在数学推理基准上提升了准确率并减少了rollout计算量。
Yachen Gao et al.
cs.LG
本文提出了一种基于conformal prediction的可靠性评估指标reliability score,用于衡量条件生成模型在最坏情况下的性能,并设计了CReL框架来高效计算该指标。实验在图像到文本和文本到图像任务上验证了该方法的有效性。
Brian Ondov et al.
cs.LG
IRIS提出了一种新的Manifold Learning算法,通过在降维布局中同时考虑时间顺序和流形拓扑结构,解决了现有方法(如t-SNE和UMAP)无法处理时间序列高维生物医学数据的问题。该算法可应用于scRNA-seq、比较宏基因组学等动态数据的可视化。
Ethan Kane Waters et al.
cs.LG
本文利用高光谱成像(HSI)结合机器学习方法(PLS-DA和CNN)实现了对两种牡蛎(Black-Lip rock和Sydney rock)的非破坏性物种鉴别,并分析了其元素组成差异。
Zhichao Han, Mengyi Chen, Qianxiao Li
cs.LG physics.comp-ph
本文提出了一种学习置换不变宏观动力学的autoencoder框架,通过置换不变编码器和基于质量分布重建的解码器,联合学习低维潜在状态及其宏观动力学。该方法在粒子系统能量动力学、Lennard-Jones流体混合动力学等场景中验证了有效性。
Shervin Khalafi, Alejandro Ribeiro, Dongsheng Ding
cs.LG cs.AI math.OC stat.ML
本文提出了一个基于KL散度和似然约束的统一框架,用于扩散模型中的遗忘学习,通过将遗忘问题形式化为约束优化问题,并证明了强对偶性以得到最优解。实验表明该方法在保留-遗忘权衡上优于基线方法。
Snigdha Chandan Khilar
cs.LG math.DG
本文提出了一种基于SVD的LLM压缩统一框架,通过数学上的subspace coupling优化相邻层,但实验表明该方法在Pythia模型上虽然降低了weight reconstruction error,却因transformer residual stream的decoupling特性导致下游任务性能下降,最终认为weight space reconstruction不适合跨层压缩。
Enoch Hyunwook Kang
cs.LG econ.EM
本文是离线强化学习与逆强化学习系列讲座的第二部分,重点阐述了逆强化学习(IRL)与动态离散选择(DDC)模型在概率框架下的等价性,并回顾了Magnac和Thesmar的经典识别结果以及Rust、Hotz和Miller等人的计算范式。文章还介绍了现代机器学习方法如对抗性IRL和IQ-Learn,并讨论了各方法的局限性与识别能力。
Yujie Wang et al.
cs.LG cs.AI
本文提出了一种名为DARTS的分布感知主动展开轨迹塑造方法,用于加速大语言模型的强化学习。该方法通过识别提示内的长尾分布并减少无效冗余,从而提升rollout效率,实验表明其加速效果显著。
Zechen Li et al.
cs.LG
本文提出GlucoFM,一个轻量级的CGM foundation model,通过将glucose dynamics分解为慢速生理状态和瞬时事件流,并采用masked contextual latent prediction和temporal dynamics prediction进行pretrain,在多个临床预测任务上取得了优于现有baselines的性能。该方法主要贡献在于引入了一种physiology-aware的分解策略作为inductive bias,但与我提供的关键词(如code, context, spectral, Muon, agent, attention)关联度较低。
Jabin Koo et al.
cs.LG cs.AI cs.DC
本文提出FedVPA-GP框架,通过Federated Mixture Prior和Orthogonal Loss解决联邦学习中变分偏好学习的后验坍塌问题,在HH-RLHF数据集上优于单一模型基线。该方法主要关注个性化偏好对齐,与关键词中的概念关联较弱。
Kangmin Kim, Jaeyoung Song
cs.LG
本文针对工业物联网中联邦学习的带宽分配问题,提出了一种基于设备分区的策略,通过将参与设备划分为有序子集并依次授予全带宽使用权,证明了该方法在训练时间上严格优于任何无分区方案,并同时降低了上行能耗。实验在工业表面缺陷基准GC10-Det和CIFAR-10上验证了其有效性。
Nishant Kumar, Enrique Areyan Viqueira, Amy Greenwald
cs.LG
本文研究了在拍卖等不连续奖励环境中,策略梯度方法(如REINFORCE和actor-critic)出现的一种失效模式“zero collapse”,即策略会陷入零奖励的平坦区域而难以恢复。文章通过机制分析和实验展示了该现象,并提出了初始化等缓解策略。
Jun Tan et al.
cs.LG
本文提出DensityFlow框架,通过Neural ODE建模counterfactual generation为连续时间动力学,并利用Noise Contrastive Estimation学习的density score引导生成过程避开低密度区域。在black-box设置下,引入local proxy distillation机制以降低query成本,实验表明该方法在model multiplicity下具有更好的validity。
Kihyun Kim et al.
cs.LG cs.AI
本文提出了一种在无最优示范者情况下的逆强化学习框架,通过为每个非最优示范者编码次优性约束并取可行集交集来学习奖励函数。理论分析了可行集的单调收缩性质,并给出了恢复最优奖励的充分条件,实验在表格环境和LLM微调中验证了有效性。
Nigel T. Andersen, Takashi Matsubara
cs.LG
本文通过可视化残差,指出Physics-Informed Neural Networks (PINNs)的失败模式源于过拟合,即损失在collocation points上被最小化但其他区域未收敛。应用正则化可消除这些失败模式,并扩展了double backpropagation方法,在标准失败方程上以更少的collocation points和vanilla架构实现了state-of-the-art性能。
Max Tan
cs.LG cs.SE
本文研究了如何利用强化学习(RLVR)和验证器引导的推理搜索来提升大语言模型(LLM)在形式化验证中的表现,在Dafny和Lean环境中训练模型生成可验证的程序和证明,并引入了Dalek-Bench基准测试。实验表明该方法能显著提高验证通过率,但存在规格利用和复杂任务效果不佳等问题。
Andreas Haupt et al.
cs.LG cs.GT econ.TH
本文通过principal-agent博弈模型研究AI benchmark的item聚合问题,提出welfare loss由alignment、improvability和variance三个item-level primitive决定,并基于OLMES数据集进行实证分析。
Xinyang Lu et al.
cs.LG cs.AI
本文提出了一种基于数据归因奖励的LLM遗忘框架DareU,通过强化学习降低模型生成响应与遗忘数据的归因分数,以解决现有方法中过度遗忘和模型效用下降的问题。实验表明该方法在平衡遗忘质量和模型效用方面优于现有基线。
Shengyu Feng, Tarun Suresh, Yiming Yang
cs.LG
本文提出了一种名为Combinatorial Adjoint Matching (CAM)的无监督训练框架,用于基于diffusion的combinatorial optimization求解器。该方法通过将diffusion过程建模为Continuous-Time Markov Chain上的随机控制问题,并引入离散adjoint dynamics来传播优化信号,从而避免了监督训练中对大量近优解的需求。
Jingxing Wang, Vasileios Charisopoulos, Maryam Fazel
cs.LG math.OC stat.ML
本文研究了过参数化高斯混合模型的学习问题,分析了梯度方法在局部收敛速度上的表现,并设计了一种交替使用短步长梯度下降和长步长Polyak步长的算法以实现线性收敛。该工作表明过参数化导致的慢收敛可通过利用损失景观的有利结构来克服。
Jian Xu et al.
cs.LG
本文研究了量子高斯过程(QGP)中核Gram矩阵的归一化谱熵\(S(K)/\log n\),证明该量控制着Nyström近似误差和方差收缩,并在多种量子与经典核族上验证了其作为诊断工具的有效性。实验表明该诊断可从模拟器迁移至IBM Heron量子硬件,误差较小。
Junbin Qiu et al.
cs.LG
本文从单步Policy Optimization的视角重新审视了Zeroth-Order Hessian近似,提出了一个统一框架,将经典随机估计器视为baseline选择的特例,并引入了ZoVH估计器套件。该套件通过最优baseline和查询重用策略实现了方差缩减,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Myeongjun Oh, Gwangho Kim, Sungyoon Lee
cs.LG cs.CV
本文提出PATHS方法,通过并行回火(parallel tempering)耦合多个采样链,以改进推理时奖励对齐中初始采样的模式捕获问题,实验表明在布局到图像等任务上提升了对齐质量。该方法与关键词中的code、context、spectral、Muon、pretrain、agent、attention均无直接关联。
Giang Do, Hung Le, Truyen Tran
cs.LG
本文提出SSMoE框架,利用专家权重矩阵的奇异值分解(SVD)来替代传统路由器,以解决稀疏混合专家(SMoE)模型中的专家崩溃问题。该方法无需训练,通过分析专家权重的spectral性质实现路由,在语言和视觉任务上展现了泛化性和鲁棒性。
Jyotirmoy Singh et al.
cs.LG cs.AI
本文提出了一种用于生理传感器网络可解释异常检测的蒸馏解释模型(DEM),通过三阶段框架将梯度提升模型的知识蒸馏为可解释的决策树,并引入蒸馏保真度指标量化解释的可信度。该方法在多个生理数据集上取得了高AUC值,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Amir Bazzi et al.
cs.LG
本文提出了一种用于固体力学的多网格图神经网络,通过物理信息粗化策略(基于残差度量保留高应变区域)替代几何启发式下采样,在多个数据集上相比标准采样基线提升了精度和稳定性。
Nan Mu, Xiaoyang Fan, Chen Zhao
cs.LG
本文提出SDM-Q,一个基于deep Q-learning的强化学习框架,将多组学分类问题建模为有限阶段的sequential decision问题,通过action-value函数决定是否获取新的modality或终止诊断并输出预测。该方法在多个公开数据集上减少了冗余的modality获取,同时保持了与使用完整多组学输入方法相当的分类性能。
Jeffrey Seely, Julian Gould
cs.LG
本文提出Augmented Lagrangian Predictive Coding (PC-ALM),通过引入层局部Lagrange multiplier来对齐预测编码(PC)与反向传播(BP)的权重更新。该方法在深度网络中实现了与BP相当的性能,但仅依赖局部学习规则。
Qihong Yang, Qiaolin He
cs.LG
本文提出了一种名为Multi-Scale Separable Fourier Neural Networks (MS-SFNN)的神经网络架构,用于求解高频PDE。该方法通过分离变量和固定随机权重来构建基函数,并利用最小二乘法确定系数,在多个高频PDE问题上取得了优于PINN等方法的精度。
William Overman, Mohsen Bayati
cs.LG cs.AI
本文研究了多臂贝叶斯Bandit问题中退火softmax贪心策略的Bayes regret,证明了在\(\beta\)-regularity条件下该策略能达到近最优的\(\tilde{O}(\sqrt{T})\) regret界,并指出其与RLVR方法的结构类比。
Yi Liu et al.
cs.LG
本文提出UniRTL,一种多模态预训练框架,通过联合RTL代码和control data flow graph (CDFG)来学习统一的RTL表示,并采用互掩码建模和分层训练策略实现细粒度对齐。实验表明该方法在性能预测和代码检索任务上优于现有方法。
Tobias Lademann et al.
cs.LG
本文探讨了在真实工业能源系统中部署reinforcement learning的挑战,以热力网络为例,分析了部分可观测性、动作空间设计、奖励设计及仿真到现实差距等问题。研究发现,尽管reinforcement learning能实现操作稳定性,但与仿真结果相比存在显著性能差距。
Veronika Semmelrock et al.
cs.LG cs.AI cs.LO
本文提出了一种名为CHECKMATE的工具,通过代码进化自动生成求解组合优化问题的算法,仅需形式化规范(what)而无需专家设计求解过程(how)。在配置与调度领域的实例上,该方法生成的算法持续优于现有最先进求解器。
Nobuo Namura, Sho Takemori
cs.LG
本文提出了一种将best-arm identification与trust region-based Bayesian optimization结合的轨迹感知框架,用于高效求解多模态优化问题。该方法通过外推多个局部优化器的轨迹来预测最终性能,并逐步淘汰次优候选。
Lucas Thil et al.
cs.LG cs.AI
本文提出了一种名为STEP的自监督对比学习方法,用于学习渐进时间序列的可解释表示。该方法通过将观测数据映射到由两个正交原型向量锚定的低维流形上,利用极坐标\((\theta, r)\)分别追踪状态进展和识别活跃模式,无需代理标签。实验在工业退化、机器人任务和神经活动等多个领域验证了其端状态预测、多步预测和可解释相位分离能力。
Marius Potfer, Cheng Wan, Pierre Gruet
cs.LG cs.GT
本文研究了欧洲FCR市场中的投标问题,将多国清算问题转化为重复的多单位统一价格拍卖,并采用Best-of-Both-Worlds组合半强盗算法进行在线学习。该方法在随机环境下实现对数伪遗憾,在对抗环境下实现\(\mathcal{O}(\sqrt{T})\)遗憾,实验表明其在稳定产品上表现良好。
Gyeonghoon Ko, Juho Lee
cs.LG
本文提出使用物理信息神经网络(PINN)直接求解流形上的heat equation来近似heat kernel,从而将Riemannian diffusion models推广到一般流形。该方法通过选择坐标系、推导heat (Fokker--Planck)方程并利用短时渐近近似训练PINN,实现了对log heat kernel的学习。
Lucas Thil et al.
cs.LG
本文提出了一种子空间分解的联合嵌入预测架构(SD-JEPA),通过将潜在空间正交分解为低维进展子空间和高维内容子空间,并分别用余弦间隔三元组损失和SIGReg目标进行约束,来解耦任务进展与内容信息。该方法在控制基准测试上优于LeWM基线,并展示了进展坐标作为场景感知指南针的功能,能有效定位语义事件。
Tim Weiland, Philipp Hennig
cs.LG math.NA
本文提出了一种基于高斯过程先验的贝叶斯推断方法,用于非线性守恒定律的不确定性量化,通过稀疏近似技术实现了大规模正反问题的可扩展性。该方法在正向模拟中继承了经典数值解的精度,并在逆问题中比神经网络基线更快地恢复非参数源场的后验分布。
Cheonwoo Lee et al.
cs.LG
本文提出SiGMA架构,通过可学习离散高斯核实现距离感知的多尺度时间序列建模,在长期和短期预测任务上均优于现有方法,并显著提升训练速度和内存效率。
Willian T. Lunardi, Samridha Shrestha, Martin Andreoni
cs.LG
本文提出了一种基于超球面嵌入的时间序列OOD检测方法,通过von Mises-Fisher目标函数学习时频域联合表示,并使用k-NN和Mahalanobis距离进行检测。实验在UCR和UEA数据集上验证了其有效性,但方法本身与关键词中的概念关联较弱。
Zi-Rong Li et al.
cs.LG
本文提出TabCausal,一种基于数据驱动的Causal Discovery Foundation Model (CDFM),通过动态任务构建策略在多种causal environments(包括图先验、结构机制、噪声模型等)上进行pretraining,以从观测和混合干预数据中学习可迁移的结构。实验表明其在合成和语义基准上优于多种基线方法,但方法本身在开创性或解决长期问题方面并不突出。
Daniil Plyusov et al.
cs.LG cs.AI
本文提出Trust-Region Behavior Blending (TRB)方法,用于on-policy distillation的预热阶段,通过将早期rollout策略替换为KL信任域内最接近教师的行为策略,并在预热后退化为纯学生rollout。实验表明该方法在数学推理蒸馏任务中取得了平均最优性能。
Miltiadis Stouras et al.
cs.LG cs.DS
本文提出了一种自适应RAG方法,通过从大量候选retriever中自动选择一个小而多样的子集(portfolio),以覆盖目标查询分布的不同区域。该方法在多个QA基准上优于单一retriever和朴素的多retriever基线,并能在保持精度的同时降低延迟和token成本。
Joanna Komorniczak
cs.LG
本文综述了概念漂移检测评估中分类准确率与检测质量指标之间的关系,通过实验分析了八种检测质量指标在七种合成数据流上的表现,指出分类准确率可能无法可靠反映漂移检测质量。
Zijie Zhao, Roy E. Welsch
cs.LG
本文提出FlagGAM,一种基于规则基函数的可解释表格预测框架,通过将数值和类别变量转化为稀疏、可读的单变量基函数(如阈值标志、类别标志等),并采用加性模型头进行预测,在保持可解释性的同时提升了鲁棒性。该方法在表格基准测试中接近EBM的可解释性表现,并在缺失和噪声扰动下优于常见基线。
Umut Onur Yasar
cs.LG cs.CV
本文系统研究了ResNet教师-学生模型在CIFAR-10上的知识蒸馏效果,发现学生容量是调节蒸馏增益的关键因素,且输入分辨率感知的架构设计比蒸馏本身更重要。
Jiayu Xiong et al.
cs.LG
本文提出了一种基于几何的Schrödinger Bridges方法(GMF)用于多模态融合,通过测量输入在latent space中所需的transport correction来评估数据可靠性,而非依赖模型自身的预测置信度。该方法使用Diffusion Schrödinger Bridge transport with Rectified Flow,以初始速度的平方作为学习到的修正分数,从而在传感器噪声和语义冲突场景下提升鲁棒性。
Jinyang Liu, Munir Eberhardt Hiabu
cs.LG stat.ML
本文提出Tensor Separation Learning (TSL)回归模型,通过分阶段贪心过程学习单变量特征函数的秩-1乘积之和,以避免加法分解中因边缘化高阶交互导致的信息损失。该方法在具有有界混合p阶偏导数的函数上建立了逼近率保证,并在回归基准测试中与黑箱模型性能相当。
Andrea Miele et al.
cs.LG cs.CV
本文提出Fixed-Point Masked Generative Models (FP-MGMs),通过用fixed-point solver替换部分denoiser并引入cross-step consistency loss和three-state reuse (3SR)策略,实现了自适应深度和参数减少。该方法在OpenWebText和ImageNette上提升了生成质量与计算成本的权衡,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Baptiste Debes, Tinne Tuytelaars
cs.LG
本文提出Sliced Distributional Reinforcement Learning (SDRL),通过投影将一维divergence扩展到多变量return分布,并证明了在均匀切片下的Bellman contraction。该方法支持多种基础divergence,并在简单环境和Atari游戏子集上进行了评估。
Massimo Pavan et al.
cs.LG cs.AI
本文综述了TinyML中设备端学习(On-device Learning)的约70篇工作,重点分析了部署后分布变化的不同类型及其对硬件和解决方案结构的影响,并指出了方法论基准与现实部署场景之间的差距。
Jinhe Bi et al.
cs.LG cs.AI
本文针对RLVR(基于可验证奖励的强化学习)训练中出现的advantage退化问题(即所有自生成rollout均验证成功,导致策略梯度消失),提出了一种轻量级模块EchoRL。该方法通过分析外部专家模型生成的金色轨迹的熵模式,从验证成功的rollout中识别出EchoClip,并将其作为辅助监督信号加入RL目标函数。实验表明,EchoRL能在多种基准和模型上以极小开销持续提升RLVR后训练性能。
Xabier Belaunzaran et al.
cs.LG
本文提出了一种用于涡扇发动机剩余使用寿命预测的混合框架,通过LSTM自编码器和概率神经网络分别处理健康与退化阶段,并利用连续状态概率加权集成预测。该方法主要关注不确定性量化,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Walter Nelson, Theofanis Karaletsos, Francesco Locatello
cs.LG
本文从理论上证明了稀疏自编码器(SAE)在训练中的不稳定性,并通过改进架构和训练过程提出了可识别的iSAE变体,降低了重构误差并提升了稳定性。该工作将SAE与传统dictionary learning联系起来,并证明了实际学习的dictionary满足近似restricted isometry条件。
Bosong Huang et al.
cs.LG cs.AI
本文提出LVCG框架,在Frank vectorcardiogram (VCG) 空间而非传统ECG信号空间学习心脏活动的统一latent representation,以减少冗余并提升泛化能力。该方法通过自监督学习获得view-invariant的VCG表示,在域迁移场景下表现出更强的鲁棒性。
Gaurav Dhama
cs.LG stat.ML
本文提出了一种基于观察机制分类的欺诈类型分解方法,将支付网络中的欺诈分为五类,并证明按类别分别估计欺诈率优于整体估计。该工作主要关注欺诈检测中的标签异质性问题,与关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念无直接关联。
Alberto D. Cencillo et al.
cs.LG
本文针对Spallation Neutron Source中高压转换器调制器的异常检测问题,提出了一种轻量级CNN方法,通过调整时间滤波与跨通道混合的顺序来增强检测性能。实验表明,该方法在多个子系统上优于现有技术,但未涉及关键词中的code、context、spectral、Muon、pretrain、agent或attention等概念。
Wenshuo Dong et al.
cs.LG
本文首次研究了tabular data下in-context learning (ICL)的algorithmic recourse问题,提出了一种基于zeroth-order优化的框架ASR-ICL,用于为黑盒ICL模型生成可操作且稀疏的recourse方案。理论分析表明recourse是良定义且有界的,且随context size增大趋近于经典解。
Franki Nguimatsia-Tiofack et al.
cs.LG
本文提出Survival Reinforcement Learning (SRL),一种基于在线分类的强化学习方法,通过最大化agent在目标状态的驻留时间来替代对比学习,以解决长时域目标条件规划中的均匀性-容忍性困境。实验表明,SRL在操作任务上匹配现有方法,在稳定长时域运动任务上性能提升2至8倍。
Giorgio Morales, John Sheppard
cs.LG
本文提出了一种基于neuro symbolic regression的方法,用于学习氮肥响应曲线,无需预设函数形式。该方法结合transformer和遗传算法,在合成数据和真实冬小麦数据上验证了其有效性。
Amir Esterhuysen, Anders Jonsson
cs.LG cs.AI
本文提出了一种新的强化学习表示方法——terminal representation (TR),它通过编码reward-weighted trajectories来替代需要eigendecomposition的default representation (DR),降低了计算开销。作者建立了TR的理论基础,包括推导、学习算法收敛性以及零样本组合性,并展示了其在子任务中作为DR可行替代方案的实证结果。
Doğukan Bağcı et al.
cs.LG cs.CV
本文提出ELUDe方法,通过重新组织层间信息流将latent representation分解为可解释的子单元,在保证模型输出完全不变的前提下提升DNN的可解释性。该方法无需训练或标签,可应用于预训练模型,但主要聚焦于可解释性改进而非与关键词直接相关。
Zaiwei Chen, Siva Theja Maguluri
cs.LG math.PR stat.ML
本文综述了基于Lyapunov函数的随机迭代算法(即随机逼近算法)的有限时间分析方法,重点讨论了当算子\(\bar{F}(\cdot)\)仅能通过带噪声的oracle访问时,如何利用广义Moreau envelope作为通用Lyapunov函数来建立均方收敛性保证。文章涵盖了i.i.d.噪声、Markov噪声、半范数压缩算子及耗散算子等情形,并展示了该方法在随机梯度下降、线性SA及Q-learning等强化学习算法中的应用。
Christian Koke et al.
cs.LG
本文指出图神经网络(GNN)在常见的图收敛模式下并不连续,导致对同一对象在不同分辨率下的图会生成差异巨大的latent representation。作者将此归因于信息传播机制的结构性障碍,并提出了一种修改方案以赋予模型跨尺度的连续性。
Polina Dolgova, Sebastian U. Stich
cs.LG
本文研究了机器学习中的“遗忘”问题,发现基于梯度上升和随机标签的方法会导致遗忘效果在样本空间中不均匀,即靠近遗忘集的样本点预测偏差更大。作者提出了一种名为Local Teacher Distillation的缓解策略,通过使用仅在遗忘集邻近保留样本上训练的小型教师模型生成软标签来替代随机目标,从而改善局部遗忘效果。
Mateusz Odrowaz-Sypniewski et al.
cs.LG cs.MA
本文提出了一种任务自适应的对手建模框架,通过混合多种意图表示来提升多智能体强化学习中的决策性能,并引入了一种最大化与自身未来回报互信息的新意图表示方法。该方法在多种任务中匹配或超越了现有基线。
Hee-Sung Kim, Hyeonseong Kim, Sungyoon Lee
cs.LG cs.AI
本文提出了一种新的泛化度量local inconsistency,它基于参数空间的信息几何视角,无需标签即可计算。作者将其与Fisher信息矩阵和损失Hessian矩阵建立理论联系,并基于此提出Inconsistency-Aware Minimization (IAM)方法,通过将local inconsistency纳入训练目标来提升泛化性能,在监督、半监督和自监督学习中均有效。
David Fernández-Narro et al.
cs.LG cs.AI
dashi是一个开源的Python库,用于探索、量化和表征数据集中的distribution shift(分布偏移)。它提供了无监督(基于information geometry和non-parametric statistical manifolds)和有监督两种方法来分析数据随时间或跨源的变化,并通过交互式可视化支持可信AI开发。
Erwan Fagnou et al.
cs.LG cs.CL
本文提出了一个统一的框架来分离token mixing层中直接输入输出影响和循环信息传播两个关键特征,并设计了新的循环模式以在运行时和表达性之间进行原则性权衡。该工作主要关注语言模型中的token mixing层效率与表达性,与关键词中的attention有一定关联但并非直接解决。
Paul Caucheteux, Clément Bonet, Anna Korba
cs.LG cs.CV
本文提出了一个基于Wasserstein gradient flows的统一理论框架Generative Wasserstein Flows (GWF),将多种生成模型视为parametric JKO scheme的实例,并扩展了其适用范围。该工作主要提供了理论统一视角,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Dmitrii Feoktistov et al.
cs.LG
本文提出SoftSignum和SoftMuon优化器,通过平滑的soft-sign变换替代硬符号映射,并引入自适应分位数温度调度,以改善参数异质性处理。实验表明,这些方法在深度学习任务(包括LLM预训练)中优于基于硬符号的优化器和AdamW。
Antoine Vialle et al.
cs.LG cs.AI
本文提出了简化与分解的cellular Weisfeiler Leman测试(sCWL和fCWL)以及基于最大团复形的CliqueWalk采样方法,旨在提升高阶图神经网络的可扩展性,但方法本身与关键词列表中的概念关联较弱。
Giseung Park et al.
cs.LG
本文提出了一种结合max-min准则与显式约束满足的多目标强化学习框架,通过理论分析和表格环境实验验证了算法的收敛性,并在建筑热控制、多目标运动控制和温室气体排放感知交通管理等实际场景中展示了其平衡公平性与约束满足的能力。
Jingwen Liu, Alexandr Andoni, Daniel Hsu
cs.LG
本文提出了一种固定参数的universal transformer,通过输入嵌入模拟给定类中的任何transformer,并证明了在足够大的嵌入维度下存在稀疏构造实现通用性,且随机初始化的transformer几乎必然具有通用性。实验验证了该理论在括号平衡和多跳推理任务上的有效性。
Ashley Hoi-Ting Au et al.
cs.LG cs.DC
本文提出DG-CoLearn,一种用于动态图的协作学习框架,通过增量图快照处理和服务端中介的嵌入交换机制,在保护跨客户端结构隐私的同时提升训练效率。实验表明该方法在节点分类和链接预测任务上显著加速并降低通信开销。
Markus Gross
cs.LG
本文研究了非线性向量自回归模型(NVAR)中flow map学习的问题,分析了特征库结构对训练误差的影响,并推导了训练误差随时间分辨率变化的标度律。数值实验验证了理论预测,但方法本身并非开创性,且与关键词列表关联较弱。
Jian Mu et al.
cs.LG cs.CL
本文提出DRIFT框架,通过将KL正则化RL目标转化为重要性加权监督学习,解耦了多轮交互中的rollout与优化过程。该方法在保持监督微调训练效率的同时,达到了与多轮强化学习基线相当的性能。
Ruihang Lai et al.
cs.LG cs.AI cs.CL cs.DC
本文提出了PithTrain,一个面向AI coding agent的紧凑型MoE训练系统,并引入了ATE-Bench来评估agent-task efficiency。实验表明PithTrain在吞吐量上与生产框架相当,同时显著提升了agent的任务效率。
Zaid Khan et al.
cs.LG cs.AI
本文研究如何利用LLM作为GPU kernel性能的selective surrogate,通过预测kernel的相对性能来减少昂贵的硬件测量成本。实验表明,LLM能准确预测kernel性能,且通过reinforcement learning可提升预测精度,在有限测量预算下能发现更快的kernel。
Vincent Wang-Maścianica, Nikhil Khatri
cs.LG math.CT
本文提出了一种名为Graphical einops的形式化图形演算,用于桥接tensor network与computation graph,通过将tensor轴表示为嵌套的graded tubes来统一两者的视角。该工作主要关注深度学习中架构图的证明形式化,但与我提供的关键词(如attention、spectral等)关联度不高。
Brady Exoo, Alberto Bietti, John Sous
cs.LG stat.ML
本文通过一个简单的变量赋值与模加任务,研究了transformer中组合泛化的机制,发现模型会先学习模加运算,再学习变量赋值结构,最后通过精炼阶段实现组合泛化。
Daniel Peñaherrera, Rishal Aggarwal, David Ryan Koes
cs.LG q-bio.BM
本文提出了一种可扩展的推理时退火方法(SITA),通过使用基于能量的模型作为surrogate likelihood estimator来避免计算score field上的divergence,从而在分子构象采样中实现高效的温度退火。该方法在Alanine Dipeptide和Alanine Tripeptide上取得了最优性能,但与我提供的关键词列表关联度较低。
Daria Fomina et al.
cs.LG cs.AI
本文从I/O和算术强度角度分析了GNN中常见的三种kernel族(SpMM卷积、reduction聚合和attention层),并针对每种族开发了GPU kernel以减少数据移动并提高局部性。实验表明,这些kernel在多种真实图上实现了显著加速(如Graph Transformer最高3.9倍)和内存减少(如GATv2最高76倍),但方法主要关注工程优化而非理论创新。
Dylan Steiner et al.
cs.LG stat.ML
本文提出DECAT框架,用于诊断多模态模型是否学到了真实的生物学关联而非虚假相关。该框架通过五个零参考指标和规则决策,将多模态表示分类为四种诊断场景,并在合成数据和TCGA真实数据上验证了其有效性。
Elana Simon, Etowah Adams, James Zou
cs.LG
本文研究了Sparse Autoencoders (SAEs)中激活异常值(activation outliers)与特征死亡(feature death)之间的关系,发现维度级激活异常值通过改变初始化时的pre-activations导致特征死亡,并提出了一个衡量异常值严重程度的指标\(\gamma = \|\mu\|/\|\sigma\|\)。实验表明,对激活进行mean-centering预处理可以消除由异常值引起的特征死亡问题。
Artur Szałata et al.
cs.LG q-bio.GN q-bio.QM
本文构建了Chem-PerturBridge,一个整合了超过3.7万种化合物、136种细胞背景和125万个转录组样本的多数据集资源,并评估了跨数据集间化合物扰动转录组特征的一致性,发现细粒度logFC排序和幅度的跨数据集一致性较弱,而方向一致性相对稳定。该资源可作为化合物表示学习的pretrain数据,在多个评估指标上优于仅使用L1000数据或Morgan指纹的模型。
Alessandro Abate et al.
cs.LG cs.LO
本文建立了强化学习与随机系统形式化验证之间的理论联系,证明了在适当奖励下,几乎必然满足\(\omega\)-regular性质的策略所对应的value function可以编码为Streett supermartingale certificate。该结果适用于有限、可数无限和连续状态空间,并通过有限MDP上的实验进行了验证。
Andre Herz et al.
cs.LG math.DS stat.ML
本文揭示了混沌系统代理建模中的动态-概率一致性差距(DPC gap),指出有限时域概率目标会削弱动力学重建质量或使预测不确定性偏离局部切向动力学。作者提出KAFFEE框架,通过可微扩展卡尔曼滤波在训练中结合局部预测残差与协方差传播,缓解了核心坍缩、噪声掩蔽和盲不确定性等问题。实验表明该方法在随机超混沌Lorenz-96系统上改善了动力学不变量重建,并在13个混沌系统上实现了上下文贝叶斯滤波。
Felipe Urrutia et al.
cs.LG cs.AI
本文通过训练decoder-only Transformer (GPT-J) 在两个结构等价的多跳推理任务(数字任务和字母任务)上,研究了attention heads的学习动态。文章引入了一种度量来将attention head行为分类为positional或symbolic,并发现成功学习与纯head的出现相关,且symbolic机制在长序列外推上比positional机制更可靠。
Jiefang Xiao et al.
cs.LG
本文提出Functional Attention,将注意力机制重新解释为adaptive bases之间的functional correspondence,通过结构化线性算子替代softmax affinities,以学习无限维函数空间之间的映射。该方法在operator learning任务中表现出对离散化变化的鲁棒性。
Kian Kenyon-Dean et al.
cs.LG
本文提出了一种名为TxFM的自监督模型,通过掩码自编码方法处理RNA-seq基因表达数据,并构建了DiverseRNA-1.4M训练语料库。实验表明,该模型在归纳表示学习上优于线性基线及更大规模的基础模型,但方法本身在创新性上较为常规。
Utsav Dutta et al.
cs.LG
本文提出CHARM模型,通过将通道级文本描述融入Transformer编码器,并采用Joint Embedding Predictive Architecture (JEPA)进行训练,为异构多变量时间序列生成语义嵌入。该方法在异常检测、分类和预测任务中表现出色,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词中的核心概念。
Daniel Berg Thomsen, Adrien Taylor, Aymeric Dieuleveut
cs.LG math.OC
本文针对分布式优化中的error feedback算法(EF和EF21)提供了紧的收敛性分析,通过构造最优Lyapunov函数和步长选择,得到了与agent数量无关的收敛保证。该工作主要关注通信压缩场景下的理论分析,未涉及关键词中的特定概念。

cs.AI

Lu Yi et al.
cs.AI
本文提出Adaptive Context Management (AdaCoM),通过训练一个外部LLM对冻结的agent进行灵活的上下文修改操作,并采用端到端reinforcement learning优化策略,解决了长程任务中上下文累积导致的性能退化问题。该方法无需训练agent本身,适用于闭源agent,并在web search和deep research基准上显著提升性能。实验揭示了Fidelity-Reliability Trade-off:高ReAct性能的agent受益于高保真上下文保留,而低性能agent需要更激进的压缩。该工作为agent系统的可复用context manager提供了实用路径,与关键词“agent”高度契合。
Mustafa Anis Hussain, Xinle Wu, Yao Lu
cs.AI
本文提出DecomposeR框架,将研究计划显式表示为typed directed acyclic graphs (DAGs),通过两阶段reinforcement learning (RL)训练:先对planner进行RL以学习图结构和query decomposition,再对answerer进行RL以执行分支级任务并合成最终答案。该方法通过将reward分配给显式的planner tokens和结构化组件,实现了对planning过程的细粒度优化,在长文本基准上相比开源基线提升5.1-8.0点。该工作与关键词"agent"和"attention"较为契合,因为其将planning作为agent的核心能力进行显式建模,并通过结构化reward机制引导attention分配。
Junjie Nian et al.
cs.AI
本文提出TraceGraph,一个基于graph的框架,用于将多模型agent的交互轨迹转化为共享的决策景观。它通过构建action-observation state的graph并标记productive cores与trap regions,将每条轨迹总结为Access、Trap exposure和Repair三个事件,从而揭示aggregate scores隐藏的导航差异。该方法为诊断agent失败区域并指导下游改进(如SWE-bench上的trap-aware recovery pipeline)提供了过程性词汇,与关键词agent高度契合。
Nafiul Haque, Syed Nazmus Sakib, Shifat E Arman
cs.AI cs.CV
本文提出PhyDrawGen,一个从自然语言生成物理示意图的神经符号pipeline,通过将语义理解与物理约束解耦,利用LLM提取场景图并转换为精确几何图元,在力学、光学和电磁学基准上优于现有模型。
Adam J. Thorpe et al.
cs.AI
本文论证了具身AI的世界模型必须具有物理可行性,即能够回答干预性查询,而非仅预测未来观测。作者指出现有模型可能产生视觉合理但物理错误的预测,并提出应构建由模块化组件组成的、能根据查询识别最简物理抽象的世界模型。
João Filipe, Álvaro Torralba, Gregor Behnke
cs.AI
本文研究了如何将Factored Tasks(一种扩展SAS+的规划表示)编码为SAT问题,提出了多种将factored transition relation转化为propositional logic的策略,并分析了不同任务变换对SAT求解器性能的影响。
Simone de Donato, Pier Luca Lanzi, Daniele Loiacono
cs.AI
本文使用MAP-Elites算法和两种新的地图表示方法(Point-Line和Spatial-Layout)来生成第一人称射击游戏地图,通过定义拓扑和涌现属性指标,证明了新表示方法能生成比传统方法更多样化和高质量的地图。
Ahmed Abouelazm et al.
cs.AI
本文提出了一种用于自动驾驶强化学习的不确定性感知框架,通过自适应阈值触发专家建议来引导探索,并采用commitment-cooldown策略控制指导时长,在CARLA实验中提升了成功率并减少了碰撞。
Minhua Lin et al.
cs.AI
本文研究了LLM agents中harness self-evolution的两个能力:harness-updating和harness-benefit。实验发现,不同能力层级的模型在harness-updating上表现相似,而harness-benefit则随模型基础能力呈非单调变化,中等能力模型受益最大。
Yuzhang Xie et al.
cs.AI
本文提出了EHRBench,一个基于EHR-LLM-KB交互流程自动构建的、用于评估LLM在临床决策任务中可靠性的benchmark,包含近百万个QA样本。实验表明该benchmark能有效揭示不同LLM在诊断、治疗和预后任务上的性能差异。
Jake Tuero et al.
cs.AI
本文提出三种基于\(\sqrt{\text{LTS}}\)算法的rerooter设计(聚类、启发式及混合方法),通过隐式分解问题为软子任务来避免显式子目标生成的开销,在复杂环境中实现了更优的在线训练效率。
Zihan Wang et al.
cs.AI cs.MA
本文提出了一种将医院机制设计转化为语言模型程序合成的方法,通过多智能体模拟器Medi-Sim评估策略性provider响应下的均衡结果,并利用LLM引导的进化代码搜索合成可检查的混合目标程序。
Omkar Ghugarkar et al.
cs.AI
本文提出了MAVEN,一个轻量级的符号推理框架,用于结构化分解、自适应工具编排和中间验证,以提升agent在工具调用中的泛化能力。通过在多个基准测试上的评估,MAVEN在无需额外训练的情况下显著提升了基础模型的准确率,并展示了轻量级验证中心框架在组合推理中的潜力。
Haoxiang Cheng et al.
cs.AI
本文提出GRiD框架,将知识图谱推理中的图状规则发现转化为基于扩散模型的离散生成过程,通过监督预训练和强化学习微调两阶段训练策略来优化规则质量。该方法在六个基准数据集上取得了有竞争力的性能,但与我提供的关键词列表中的概念关联较弱。
Swastik Roy et al.
cs.AI
本文提出PReMISE框架,用于从成对人类偏好数据中发现策略级rubric集,并沿结构充分性、可靠性、偏好拟合和对抗鲁棒性四个维度审计LLM judge使用的rubric集。实验表明,不同来源的rubric在可靠性和鲁棒性上存在权衡,而PReMISE能同时提升评分准确性和降低可被利用性。
Jian Yao et al.
cs.AI
本文发现大型推理模型在chain-of-thought推理中存在结构冗余(即过度思考),并提出SLAT框架,通过强化学习选择性地抑制高概率但边际效用低的冗余片段,在保持准确率的同时将推理长度减少50%。
Wenkai Shen et al.
cs.AI
本文提出COMPASS框架,利用Cognitive MCTS(蒙特卡洛树搜索)引导的process alignment方法,解决LLM驱动的search agent在multi-step推理中因retrieval导致的安全退化问题。该方法通过cognitive tree exploration合成攻击轨迹,并结合introspective step-wise alignment实现细粒度过程监督,在保持utility的同时提升安全性。
Gaetan Narozniak et al.
cs.AI
本文提出了一种名为Feedback Distillation的训练方法,用于改进Lean4定理证明中的后训练过程。该方法通过让模型在token级别匹配其自身分布(以语言模型提供的特权反馈为条件),以解决GRPO算法中奖励稀疏、探索受限和模式崩溃的问题。实验表明,Feedback Distillation能保持生成轨迹的多样性,并与GRPO互补。
Kaiyu Huang et al.
cs.AI cs.CL
本文提出了Unified Inference Scaling (UIS)框架,将模型路由与测试时缩放统一为单一优化问题,并设计了UniScale在线系统,通过contextual multi-armed bandit和LinUCB算法学习推理策略,以在动态推理场景中实现更细粒度的质量-成本权衡。
Ben Wang et al.
cs.AI physics.app-ph
本文提出了BilliardPhys-Bench基准,用于评估多模态大模型在台球环境中的物理推理能力,发现模型存在“静态偏差”问题,即难以预测复杂动态交互。
Atahan Karagoz
cs.AI cs.CL cs.LG
本文提出了一种基于persona的生成式AI评估框架,通过构建合成认知profile的manifold来替代单一评估函数,以捕捉人类判断的多样性。研究发现模拟评估者在序列推理中会出现state-space drift和语义不一致,表明需要动态调节机制来维持评估行为的稳定性。
Mohamad A. Hady et al.
cs.AI cs.LG cs.MA
本文提出了一种基于transformer的异构多智能体架构HADT,用于地球观测卫星集群的自主资源管理,通过关系观测-动作token化和差分注意力机制实现实时决策。实验表明该方法在性能上优于现有基线,并展现出对卫星集群数量变化的适应性。
Saku Peltonen et al.
cs.AI
GraphARC是一个基于图结构的抽象推理基准测试,它扩展了ARC的少样本变换学习范式,要求模型从少量输入输出对中推断变换规则并应用于新图。实验表明现有语言模型在图属性问答上表现尚可,但在完整的图变换任务上存在理解与执行的差距。
Ziying Chen et al.
cs.AI cs.DB cs.IR
本文研究了Vector Linking问题,即给定两个不同黑盒encoder在部分重叠数据集上生成的embedding cloud,仅使用向量恢复跨模型的对象对应关系。实验和理论表明独立训练的contrastive encoder具有局部几何一致性,并基于此提出了一种迭代的参考几何embedding hashing方法。
Tom Lucas et al.
cs.AI
本文提出了LLM-FACETS,一个用于评估LLM透明度与问责性的开源框架,通过浏览器界面和插件架构支持三种用户角色,并实现了数据流透明化与隐私保护。该框架集成了多种确定性指标和LLM-judge指标,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Anahita Haghighat, Dominik Janzing
cs.AI
本文基于结构方程模型中罕见事件("outliers")的根因分析形式化工作,提出了因果路径的形式化定义并讨论了其可检验的推论。作者识别了这些推论仅依赖于罕见事件路径定义的因果抽象而非完整因果图的条件,并引入了一种连接简单因果解释与详细因果建模的抽象方法。
Tianyi Zhou et al.
cs.AI cs.CL cs.LG
本文提出一个名为COLLEAGUE.SKILL的自动化系统,通过专家知识蒸馏将人物或角色的异构痕迹转化为可检查、可修正且可被agent使用的技能包。该系统生成包含能力轨迹和约束行为轨迹的技能包,支持自然语言反馈更新和跨平台部署。
Grégoire Martinon, Ibrahim Merad, Mohammed Raki
cs.AI cs.LG stat.ME
本文介绍了GLIDE,一个用于可靠评估agentic系统的开源Python库,它统一了多种Prediction-Powered Inference (PPI)估计器和方法,旨在结合人工标注与LLM代理以减少偏差并提供有效置信区间。该库提供了蒙特卡洛验证套件和方法选择决策树,但方法本身并非开创性,更多是工程实现与整合。
Yunpeng Zhou
cs.AI cs.LG
本文研究了资源受限的视觉agent中共享状态协作的失败模式,通过CoSee框架分析了噪声累积导致的反直觉性能退化,发现瓶颈在于通信保真度而非推理深度。
Weile Chen et al.
cs.AI
本文提出SCALE框架,通过Selector、Predictor和Judger三个对抗角色以及SCALE-Hop图探索策略,使web agent能自主发现并扩展认知边界,并在SCALE-20k数据集上验证了性能提升。该方法主要关注web agent的自主适应能力,与关键词中的agent概念有一定关联,但方法本身并非开创性突破。
Yisen Gao et al.
cs.AI
本文提出了HypoAgent,一个基于agent的交互式溯因假设生成框架,通过三个agent(意图识别、假设生成和根因分析)在知识图谱上实现多轮对话中的假设生成与诊断。实验表明其在常识和生物医学知识图谱上取得了最优语义相似度。
Mingyang Mao et al.
cs.AI
FAM-Bench是一个多模态基准测试,用于评估模型在食物与医学结合场景下的推理能力,包含2500个营养专家验证的实例和两个互补任务。该基准测试主要关注食物对特定健康状况的适宜性判断,与关键词列表中的概念关联度较低。
Rafael Bankosegger, Thomas Eiter, Johannes Oetsch
cs.AI cs.LO
本文探索了使用Answer-Set Programming (ASP)实现CARCASS框架中的抽象,用于强化学习中的Relational Reinforcement Learning (RRL),并在Blocks World和Minigrid领域进行了案例评估。
Weitong Qian et al.
cs.AI
AutoSci是一个基于LLM的智能体系统,旨在自动化科学研究的完整生命周期。它通过四个核心模块(SciMem、SciFlow、SciDAG、SciEvolve)实现结构化记忆管理、多阶段流程执行和自适应进化,但并未涉及关键词中的code、spectral、Muon或attention等具体技术。
Liwei Kang, Yee Whye Teh, Wee Sun Lee
cs.AI
本文研究了LLM在推理过程中使用搜索历史的问题,发现仅隐式表示搜索树(即线性化搜索轨迹)不足以可靠地优于启发式搜索。通过引入显式的父指针来表示线性化树结构(LinTree),可以提升任务性能和搜索效率。
Albert Sadowski, Jarosław A. Chudziak
cs.AI
本文提出context-dependent argumentation frameworks (CDAFs),通过一个defeat function根据context决定哪些攻击成功,并引入perspective-labeled specialisation从relevance set和priority推导该函数。文章定义了ACTIVATION-MANIPULATION决策问题并给出基础复杂度界限,但未涉及code、spectral、Muon、pretrain或attention等关键词。

cs.IR

Hung Vinh Tran et al.
cs.IR
本文提出FOSTER方法,用于基于文本的序列推荐中的数据集蒸馏。通过随机item子集采样、一阶优化和正则化,该方法在减少计算开销的同时,用少量合成序列逼近全数据集性能。
Jonathan J Ross et al.
cs.IR cs.AI cs.CL
本文通过控制实验比较了RAG pipeline中十四种检索文档表示方法(包括选择、摘要、改写等变换)对生成器准确性的影响,发现答案保留(answer retention)是决定准确性的主要因素,而表示的具体措辞、结构、长度和查询依赖性影响有限。该研究为RAG系统的表示设计提供了实证依据,但未涉及代码、谱方法或注意力机制等关键词相关方向。
Gyu-Hwung Cho et al.
cs.IR cs.CV
本文提出V-SPLADE,一种用于视觉文档检索的免推理稀疏检索器,通过引入caption-gated token supervision训练信号,利用VLM生成的caption作为词汇线索激活检索相关维度,从而解决视觉稀疏表示难以捕捉文档图像中词汇内容的问题。实验表明该方法在多个基准上提升了检索性能。
Ning Ding, Sergio J. Rodríguez Méndez, Pouya G. Omran
cs.IR cs.AI cs.CL
本文提出了一种claim network表示模式,将文献间的引用关系具体化为带有立场标签的typed claim,并在3D点云语义分割语料上构建了包含8,260个claims的网络。该工作主要关注文献计量中的引用关系表示,与关键词列表中的概念关联较弱。
Jiarui Che et al.
cs.IR
本文提出Graph-GRPO,一种基于图结构的GRPO扩展方法,用于电商搜索中的生成式相关性建模。它通过构建推理依赖图并传播outcome-level reward来实现细粒度的credit assignment,但方法本身与关键词列表中的概念关联较弱。
Hao Chen et al.
cs.IR cs.AI
本文提出了一种数据为中心的编译框架DCRC,通过对抗性数据构建和多阶段训练来增强在线金融问答中的数值推理能力,并部署到实际系统中。该方法主要关注金融领域的数值幻觉问题,与关键词中的code、agent等概念有一定关联但不够直接。
Youngjoon Jang, Seongtae Hong, Heuiseok Lim
cs.IR cs.AI
本文提出MIMO框架,通过知识蒸馏和跨语言对比学习,利用英语教师模型稳定语义空间,解决多语言信息检索中语言聚类与嵌入均匀性的权衡问题。实验表明该方法在MLIR基准上优于现有基线。
Théo Maëtz, Luc Guillet, Andrea Cavallaro
cs.IR cs.LG
本文提出Contextual Scalarisation Thompson Sampler (CSTS),一种用于多目标推荐系统的contextual bandit方法,通过根据observed context学习目标权重来平衡多个竞争目标。在瑞士国家广播公司的真实数据上,该方法相比固定权重方法提升了contextual relevance。
Siyuan Qi et al.
cs.IR cs.AI
本文提出DynaTree,一种用于时间敏感新闻检索的两阶段框架,通过离线阶段构建可复用的检索树来物化查询主题的语义空间,在线阶段进行轻量级子树选择,无需进一步agent推理或重训练。实验表明该方法在召回率和排序性能上优于标准RAG和现有agentic基线,并在实际生产系统中提升了覆盖率和时效性。
Yajie Yu et al.
cs.IR
本文提出SaFeAU框架,通过语义因子路由(SFR)和语义因子匹配(SFM)来增强协同过滤中的交互实例,以缓解假负样本问题并捕获高阶CF信号。实验表明该方法在推荐精度和计算效率上优于现有GCN和MF方法。
Michael R. DeMarco
cs.IR cs.CL
本文提出Factual Density (FD*)作为检索优化信号,通过测量验证原子声明与token数量的比例来改进RAG系统的检索质量,并在HealthFC基准上验证了其有效性。该方法主要针对医疗AI领域的多源RAG系统,通过预处理和Z-score归一化解决了文档长度偏差问题。
Eric Liang
cs.IR cs.AI
本文提出了SPECTRA框架,通过分离潜在主题结构、文本生成和相关性标注等步骤,生成合成文本语料库和检索测试集,用于诊断信息检索系统的扩展性和故障模式。实验表明该框架能以线性速度生成大规模语料,并有效控制词汇分布和干扰文本对检索性能的影响。

cs.CL

Yujie Luo et al.
cs.CL cs.AI cs.IR cs.LG
本文提出了一个名为Autonomous Agentic Data Engineering的新任务,旨在让LLM作为自主数据工程师,通过端到端的数据策划流程(包括规划、生成和迭代优化训练数据)来驱动模型专业化。实验表明,该方法能使student model的性能提升57.29%,完全通过迭代的agent驱动数据适应实现。该工作与关键词中的agent高度契合,为agent在数据工程中的自主应用提供了开创性框架。
Jiatan Huang et al.
cs.CL
本文提出CAGE-CAL框架,用于多智能体LLM系统的置信度校准。该框架通过对比观察到的通信后agent图与反事实的无通信图,捕捉成对失败相关性和群体级依赖,从而估计反事实偏移并校准置信度。该方法解决了多agent系统中通信导致虚假共识和相关性失败的问题,在五个基准测试上提升了可靠性判别能力,并改进了拓扑选择。这与关键词"agent"高度契合。
Tao Feng et al.
cs.CL
ElasticMem提出了一种将长期记忆作为可学习弹性潜在资源(latent resource)的框架,用于增强LLM agent。该方法通过构建离线潜在记忆库(latent memory bank),利用reasoner的hidden state自适应检索记忆,并通过学习到的策略(learned policy)为每条检索到的记忆分配可变的潜在预算(latent budget),最后将选中的潜在状态作为soft memory tokens注入生成过程。整个记忆使用过程通过group-relative policy optimization (GRPO) 以下游任务奖励进行优化。该工作解决了现有方法中记忆作为固定资源(如固定token开销或刚性检索)与查询依赖的记忆效用之间的不匹配问题,在MemorySuite基准上显著提升了QA准确率和embodied agent控制成功率,同时降低了token成本,与关键词“agent”和“attention”(通过soft memory tokens注入)高度契合。
Sijia Wang, Dhanajit Brahma, Ricardo Henao
cs.CL cs.AI cs.LG stat.ML
本文提出SAGE (Spherical Adaptive Gate for memory Evolution),将agentic LLMs中的memory evolution问题形式化为novelty-detection问题。SAGE使用基于von Mises-Fisher分布的density estimator对memory embeddings进行密度估计,并采用adaptive threshold根据memory-store geometry动态路由候选事实:明确新颖的ADD,明确冗余的NOOP,仅将不确定案例交由LLM merge处理。在LoCoMo基准上,SAGE在所有七个open-weight backbone对比中取得最佳平均token-F1,在GPT-4o-mini上减少3.4倍add-phase API成本和2.5倍延迟,作为A-Mem的drop-in binary gate可跳过约16-18%的LLM调用且质量变化极小。该方法与关键词agent高度契合,为长期agentic memory提供了新颖的write-side控制机制。
Yanjiang Liu et al.
cs.CL cs.AI
本文针对on-policy distillation中存在的Supervision Fidelity Decay (SFD)问题,即随着学生生成序列变长,教师的next-token distribution变得不自信且缺乏区分度,导致reverse-KL distillation中的纠正信号减弱。作者提出Lookahead Group Reward (LGR)方法,通过评估学生top-K候选token在后续步骤中诱导的教师置信度,并分配group-normalized reward来缓解SFD。实验表明,该方法在多个math和code benchmark上显著提升了学生模型的性能,尤其在长序列生成任务中效果突出。
Jiasheng Zheng et al.
cs.CL cs.SE
本文提出Atomic Decomposition and Recombination (ADR)框架,通过将代码任务分解为原子元素(atomic elements)并受控重组,以生成具有真正新颖性和挑战性的可验证代码任务,从而解决RLVR(Reinforcement Learning with Verifiable Rewards)中训练数据稀缺且难度不足的问题。实验表明,ADR在原创性、难度、多样性和测试质量上均优于现有基线,并在算法编程、工具使用和数据科学等下游领域的RLVR训练中持续提升代码能力。该工作为可扩展的RLVR训练和新型代码任务合成提供了新范式。
Marko Kojic et al.
cs.CL
Mellum 2是一个12B参数的Mixture-of-Experts (MoE)语言模型,每token仅激活2.5B参数,专注于软件工程任务(code generation, editing, debugging, agentic coding)。其架构创新包括Grouped-Query Attention与Sliding Window Attention的结合,以及Multi-Token Prediction head同时作为预训练目标和speculative decoding的draft模型。预训练采用三阶段curriculum,从多样化web数据逐步转向代码和数学内容,并使用Muon优化器在FP8混合精度下进行。该模型在代码生成、数学推理和工具使用等benchmark上,与4B-14B参数范围的开放权重模型竞争,同时保持了2.5B密集模型的计算效率。
Zheyu Zhang, Shuo Yang, Gjergji Kasneci
cs.CL cs.LG
本文提出CoRP (Consolidating Rewarded Perturbations),一种无需梯度的后训练方法。该方法通过在权重空间中采样高斯扰动,并利用reward-weighted aggregation和compatibility-aware reweighting将多个扰动合并为一个单一的deployable model,从而替代了RandOpt等方法的inference-time ensemble。实验表明,CoRP在0.5B至8B的五个语言模型上,平均提升8.1个点,且仅需RandOpt十分之一的扰动预算,即可在单次前向传播下恢复50-pass majority-vote ensemble超过一半的增益。该方法为LLM post-training提供了一种高效、无需梯度的新范式,与关键词中的“pretrain”和“agent”场景下的高效部署需求较为契合。
Ahmed Abdeen Hamed, Luis M. Rocha
cs.CL
本文提出了一种评估ChatGPT在生物医学关联生成与验证中表现的协议,利用RAG(检索增强生成)和跨模型多数投票工作流来验证关联并检测幻觉。该方法主要关注生物医学领域的应用,与关键词中的code、spectral、Muon、pretrain、agent、attention等概念关联较弱。
Francesco De Bernardis
cs.CL cs.AI
本文通过在历史宇宙学语料上训练和微调语言模型,研究了领域适应如何改变模型的解释行为。实验发现,领域适应主要重塑了语言框架,而宇宙学立场的改变是次要的。
Linfeng Liu et al.
cs.CL
本文通过激活引导(activation steering)方法,在多语言大模型中研究了比喻性语言生成的跨语言可迁移性,发现从一种语言中学到的引导方向可有效应用于其他语言,但该工作主要聚焦于自然语言处理领域,与关键词列表中的数学或算法概念关联较弱。
Anastasia Kotelnikova et al.
cs.CL
本文研究了大型语言模型在团队协作策略下的表现,使用Voting、Silent Team和Talkative Team三种策略在What? Where? When?问答游戏中评估,发现团队策略相比单模型基线有显著提升,但方法本身缺乏开创性,且与关键词列表中的概念关联较弱。
Shahana Akter et al.
cs.CL
本文研究了知识图谱增强的零样本多标签主题分类框架,通过对比八种方法(四种基础变体及其图增强版本)在15个LLM和8个数据集上的表现,发现关键词增强方法表现最佳,而图增强对小模型有正面影响但对大模型效果有限。
Maya K. Nachesa, Vlad Niculae, Vagrant Gautam
cs.CL
本文首次对multimodal speech recognition模型进行了bias评估,通过将相同音频与不同人脸配对,发现模型在性别、种族等维度上存在显著的transcription accuracy差异。研究指出,增加modalities并不一定带来更好结果,反而可能引入bias。
Md Arid Hasan et al.
cs.CL
本文研究了大型语言模型在低资源文化语境(孟加拉语)中的“全球叙事主导”现象,通过构建CulturalNB数据集并评估多个模型,发现英语提问会系统性增加全球替代和制度框架,而本地证据虽能改善事实一致性,但无法消除语言引发的认知偏移。
Zhengping Jiang et al.
cs.CL
本文提出了一种可配置的安全奖励模型CSRM,通过配置目标数据增强和联合优化,使模型能适应不同的安全配置要求,在CoSApien和DynaBench等基准上取得了领先性能。该方法主要关注大语言模型的安全对齐问题,与关键词中的概念关联较弱。
Ethan Zhao et al.
cs.CL
本文提出了CanLegalRAGBench,一个基于加拿大判例法的法律QA benchmark,用于评估RAG系统。实验发现检索性能对设计选择敏感,且生成答案常出现幻觉或无关内容。
Zhihao Wu et al.
cs.CL
本文揭示了LLM水印技术的一个根本性漏洞:当用户能访问多个模型时,通过平均这些模型的输出概率分布可以消除水印的统计扰动。作者提出了WASH方法解决集成生成中的词汇对齐和分词差异等实际问题,实验表明平均3-5个模型即可将检测z分数降至阈值以下。
Sander Land, Daniel M. Bikel
cs.CL
本文使用Item Response Theory方法分析LLM benchmark中的标签错误,发现这些错误源于机械标注启发式、上游数据集继承的错误以及本质模糊的样本,并揭示了reward model在风格偏好而非事实知识上的专业化倾向。
David Gros, Adam Gleave
cs.CL
本文研究了将不可信输入包装在mock tool call中作为隔离手段的效果,发现该方法并未普遍提升模型鲁棒性,在某些任务上甚至增加了攻击成功率。
David Rey-Blanco, Roberto Cruz
cs.CL cs.AI cs.LG
本文通过实验比较了通用与特定领域embedding在非英语临床编码检索中的表现,使用Gemini生成的多语言合成数据微调了一个两阶段检索器(bi-encoder加cross-encoder reranker),在西班牙语等五种语言上取得了优于BioBERT-ST的结果,但未涉及关键词中的spectral、Muon或agent等概念。
Jungyeul Park et al.
cs.CL
本文针对韩语语法纠错中基于词的评价与语素级错误位置之间的结构不匹配问题,通过重构目标句子、转换语素级标注为词级编辑以及引入多参考评估设置,改进了现有资源。实验表明,改进后的资源在困惑度、编辑一致性及模型性能上均有提升,但方法主要聚焦于韩语特定语言现象,与关键词中的code、spectral、Muon、pretrain、agent、attention等概念无直接关联。
Zijie Wang, Eduardo Blanco
cs.CL
本文提出了一种无需人工标注的自动生成细粒度评估rubric的方法,用于LLM-as-a-Judge场景。该方法通过元评判奖励信号迭代微调rubric生成器,在成对和逐点评估中均优于现有基线。
Vinayshekhar Bannihatti Kumar et al.
cs.CL
本文通过实验探究了prompt KV cache在解码过程中的冗余性,发现其冗余主要源于聊天模板的结构而非内容,替换上层prompt KV cache为中性填充的模板KV cache可恢复准确率。该工作聚焦于LLM推理优化,但与关键词列表中的code、spectral、Muon等概念无直接关联。
Nirajan Paudel et al.
cs.CL cs.LG
本文研究了多语言场景下的speculative decoding效率问题,比较了微调draft模型和训练n-gram draft模型三种策略。实验发现,任务特定的蒸馏能提升效率但泛化性差,而n-gram draft模型虽接受率低但生成速度快,能提供稳定的加速。
Rafael Macalaba, Aivin V. Solatorio
cs.CL
本文提出了一种基于GLiNER的多任务框架,用于从研究文献中自动检测和分类数据集引用,通过合成数据生成和LLM重验证来解决标注稀缺问题。该方法旨在提升数据使用监测的透明度和可复现性,但未涉及关键词中的相关概念。
Nazarii Shportun
cs.CL cs.AI
本文构建了一个基于美国移民法源的问答数据集ImmigrationQA,并微调了Llama 3.2 3B模型。该工作主要贡献在于数据集构建和领域适应,但方法上未涉及关键词中的核心概念。
Varsha Suresh et al.
cs.CL
本文提出semantic motion anchors方法,通过将3D手势离散化为身体-手部运动基元并转化为结构化描述,以辅助文本与手势之间的对比学习。该方法在BEAT2数据集上提升了文本到手势的检索性能,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Mikhail L. Arbuzov et al.
cs.CL cs.AI cs.LG
本文从理论角度论证了通用LLM可靠性无法通过有限干预词典实现,但提出在操作边界明确的局部任务(如代码修复、法律审查)中,失败模式稀疏且可重复,因此可靠性可转化为局部目录发现与干预覆盖问题。论文通过两个命题和一个推论形式化了这一转变,但未提供具体算法或实验验证。
Arya Fayyazi, Mehdi Kamal, Massoud Pedram
cs.CL cs.AI
COFT提出了一种无需训练的decoding方法,通过在解码时施加token级别的公平性控制来减少chain-of-thought推理中的社会偏见,并提供了分布自由的边际有效性保证。该方法通过反事实掩码、logit融合和双分支split-conformal校准实现偏见衰减,但与我提供的关键词列表关联较弱。
Mahdi Alkaeed et al.
cs.CL cs.AI
本文研究了临床LLM对语义等价但措辞不同的prompt的敏感性,提出了基于NLI的语义验证框架和三个量化指标(MVS, ΔC, WCI)。实验表明,领域特化并不一致地提升或降低模型对prompt变体的鲁棒性,且通用基线模型仍具竞争力。
Jun Rui Huang et al.
cs.CL cs.AI cs.HC
本文提出了Social AI Design Code框架和EUDAIMONIA基准,用于评估LLM在社交互动中是否促进有害亲密、依赖或过度参与,发现即使最强模型也频繁违反设计需求,表明这些是社会对齐的持久问题而非推理缺陷。
Sijin Sun et al.
cs.CL cs.AI
本文提出CobSeg,一种用于对话主题分割的多分支架构,通过分离连贯性语义连续性与词汇边界转换,并利用边界信息加权和语料库主题线索来增强边界预测。实验表明,该方法在多个基准上优于现有非LLM方法,尤其当局部词汇线索显著时表现更佳。
Yeil Jeong et al.
cs.CL
本文提出了一个名为TeachObs的多模态教学观察基准,包含30个课堂视频和5158个场景的二元编码标注,用于评估多模态LLM在课堂视频分析中的表现。实验发现,没有单一模型在所有任务中表现一致,且AI在评估程序清晰的课程时容易高估。
Kyle Moore et al.
cs.CL cs.AI
本文研究了大型语言模型的不确定性是否与人类不确定性相似,即“不确定性对齐”,并分析了模型在多种数据集上的校准与对齐表现,以及指令微调的影响。
Tao Feng et al.
cs.CL
本文提出ExpGraph,一个模型无关的经验学习框架,通过图结构记忆(experience graph)组织历史轨迹中的可复用技能与失败教训,并利用graph diffusion和utility-aware ranking检索经验,以提升LLM agent在多种任务上的表现。该方法在问答、数学推理、代码生成及多步agent环境(如ALFWorld)中均取得改进,但整体创新性有限,未与关键词中的spectral、Muon等概念直接相关。
Zhiwen You, Nafiseh Nikeghbal, Jana Diesner
cs.CL
本文研究了语言模型中与性别相关的神经元,提出了一种神经元级别的干预方法,通过激活或遮蔽特定神经元来控制生成文本的性别形式(女性、男性或中性),并验证了该方法在精确控制性别和减少偏见方面的有效性。
Jianxiang Yu et al.
cs.CL
本文发现LLM agents的技能有效性高度依赖于模型本身,并提出MASA框架,通过分层技能进化流程和轻量级条件重写器,为不同backbone自适应调整技能,在多个交互环境中取得显著性能提升。
Alexander Gurung et al.
cs.CL
本文研究了深度研究agent在结合私有文档与外部工具时产生的隐私泄露风险,提出了MosaicLeaks基准测试集,并设计了PA-DR框架来缓解该问题。实验表明现有模型存在显著隐私泄露,而PA-DR通过强化学习在提升任务性能的同时有效降低了信息泄露。
Zekai Li et al.
cs.CL
本文提出了一种用于扩散大语言模型(dLLMs)的trace-aware解码框架,包含Temporal-Spatial Parallel Decoding (TSPD)和Confidence Extrapolation (CE)两个组件,通过分析token级别的去噪轨迹特征来动态决定何时固定token,从而减少冗余迭代并加速推理。该方法主要关注推理效率优化,与关键词列表中的概念关联较弱。
Mujing Li
cs.CL cs.LG
本文定义了pairwise reference alignment作为一个由模型评分函数诱导的序数可观测变量,并给出了其统计估计量和浓度界。该工作为语言模型评估中的偏好数据提供了一种概念性框架,但并未引入新基准或解决长期问题。
Resham Joshi
cs.CL
Eywa提出了一种基于provenance(来源)的长期记忆架构,通过存储不可变的源证据并分离检索上下文与回答指令,提升了AI agent的记忆可审计性和故障诊断能力。实验表明其在多个基准测试中达到了较高准确率。
Purvam Jain et al.
cs.CL cs.AI cs.LG
本文提出了一套合成算法任务基准XLGoBench,用于检测大语言模型在多语言能力上的差距。该基准具有跨语言可比性、可扩展性、可量化性和透明性,并通过实验揭示了多个先进模型存在持续的跨语言能力差距。
Jiwoo Choi et al.
cs.CL
本文审计了六种LLM在四种语言中的性别刻板印象,发现其性别归因偏差范围比人类跨国家范围宽约2.5倍,并引入了一个四模式框架(concordance, suppression, reorganization, amplification)来描述这些行为。研究指出翻译不仅会重新缩放刻板印象,还会改变与之相关的属性,表明没有单一的debiasing pipeline能均匀解决跨语言的偏差问题。
Shenghu Jiang, Ruihao Gong
cs.CL cs.DS
本文提出了一种增量式BPE tokenization算法,能在最坏情况\(\mathcal{O}(\log^2 t)\)时间内处理每个输入字节,总复杂度为\(\mathcal{O}(n \log^2 t)\),适用于流式场景。该算法作为标准BPE的即插即用替代,在Hugging Face tokenizers上实现了约3倍加速,并在病态输入上显著降低了延迟。
Shuheng Cao et al.
cs.CL cs.AI
本文提出BioConCal,一个用于验证多LLM面板(panel)生成的生物医学实体候选的监督评分器,通过引入对齐候选表(candidate master table)和基于推理时一致性与表面可用性等特征,提升了候选筛选的精确度。该方法主要关注实体识别中的一致性问题,与关键词中的code、spectral、Muon、pretrain、agent、attention等概念无直接关联。
Yuwei Cheng, Weiyi Tian, Haifeng Xu
cs.CL cs.AI stat.ML
本文提出Canopy Entropy (\(\mathrm{CE}^\star\))来量化语言模型生成空间的有效大小,并发现微调会增强输出长度与entropy rate之间的正相关性,从而将不确定性重组为更具信息性的生成。该工作主要关注语言模型微调对信息传递的影响,与关键词中的code, context, spectral, Muon, pretrain, agent, attention均无直接关联。
Yijiong Yu et al.
cs.CL
本文提出Speculative Pipeline Decoding (SPD)框架,通过将目标LLM划分为\(n\)个pipeline stage,使LLM能并行处理\(n\)个token以加速解码。该方法利用speculation module在不同pipeline depth聚合intermediate features来预测下一个token,旨在减少预测难度和序列化延迟。
Yi Bai et al.
cs.CL
本文提出了一种基于模型内在激活状态(neural activation states)的指令微调核心集选择方法MADS,通过区分LLM推理时的特征来保证数据多样性。实验表明,该方法在多个基准上能以15%的数据量达到甚至超越全量数据微调的效果。
Sicheng Feng et al.
cs.CL
本文提出dMoE框架,通过将token级别的专家分布聚合为block级别的统一分布,解决了Diffusion Large Language Models (dLLMs)与Mixture-of-Experts (MoE)架构在并行解码时的专家激活数量过多问题。该方法在保持99.11%原始性能的同时,将唯一激活专家数从69.5降至14.6,并实现1.14倍至1.66倍的端到端延迟加速。
Jiaxin Bai et al.
cs.CL cs.AI
本文提出PatchWorld框架,通过反例引导的代码修复将离线轨迹转化为可执行的Python world model,用于部分可观测环境下的预测与规划。该方法在AgentGym环境中实现了无需LLM调用的高效规划,并揭示了可执行world model中观测保真度与决策效用之间的权衡。
Xiaobo Wang et al.
cs.CL
本文提出SAVE框架,通过使用value function将on-policy responses转化为监督信号来改进reward model的训练,并利用contrastive objective过滤模糊样本。实验表明该方法在多个benchmark上提升了RM性能,但未涉及code、spectral、Muon等关键词相关技术。
Soorya Ram Shimgekar et al.
cs.CL cs.AI cs.CY cs.HC
本文研究了prompt中词汇和语气的变化(特别是毒性语言)如何影响LLM的事实可靠性,发现毒性词汇扰动会降低准确率并增加不确定性,而礼貌措辞影响有限。通过归因图分析,揭示了毒性扰动会选择性放大对扰动敏感的变体节点,而核心推理节点相对稳定。
Dongwook Choi et al.
cs.CL
本文提出了EMBGuard,一种基于MLLM的具身agent安全护栏,通过评估(视觉观察, 动作)对来识别物理风险并提供自然语言解释。该方法构建了包含15.1K动作条件对的训练数据集和329个真实场景的基准测试,在保持紧凑模型尺寸的同时降低了误报率。
Tianjie Ju et al.
cs.CL
本文提出了MineExplorer基准,用于评估MLLM agent在Minecraft中的开放世界探索能力,通过多智能体合成工作流构建任务并发现长轨迹任务对现有模型仍具挑战性。
Nattavudh Powdthavee
cs.CL cs.AI
本文研究了大型语言模型在不同语言下道德推理的系统性差异,发现当情境模糊时,跨语言道德分歧会增大并与现实制度差异相关,但明确制度框架会抑制这种差异。该工作主要关注语言与制度经验的关系,与关键词中的code、spectral、Muon、pretrain、agent、attention等主题关联较弱。
Yating Pan et al.
cs.CL
本文提出了一个名为SPIRE的多智能体框架,用于人文学科中基于证据的学术研究。该框架通过将人文学科常见操作(如来源发现、证据注释等)建模为协作的agent角色,并结合多尺度细读机制,在古典中文和拉丁语文献基准上提升了证据检索和论证质量。
Xu Li et al.
cs.CL
EvoGens将科学想法生成视为一个基于种群的进化搜索过程,通过rank-based mutation和semantic-aware crossover等操作来提升想法的多样性和新颖性,实验表明其在自动评估下优于现有方法。
Riju Marwah et al.
cs.CL cs.LG
本文形式化了自回归语言模型在长程生成中的退化现象为认知疲劳,并提出了一个轻量级、模型无关的诊断指标Fatigue Index (FI),该指标通过聚合注意力衰减、表征漂移和熵校准三个信号来实时监测模型退化。实验表明FI能有效预测任务退化与重复生成,并揭示了不同规模模型在指令微调下的非单调缩放行为。
Zheng Yuan et al.
cs.CL
本文提出了MoG,一种基于Mixture of Experts的图检索增强生成方法,通过将知识组织为hub graphs和稀疏激活的expert graphs来减少无关信息干扰,并在多个基准上取得了显著提升。
Xiaosong Han et al.
cs.CL
本文提出TRACE方法,通过适应感知探测(adaptation-aware probing)发现任务特定参数,以解决持续微调中的灾难性遗忘问题。该方法利用短时预热微调识别核心参数,并通过重要性评分和特异性分析实现参数隔离,在持续学习场景中仅更新当前任务的核心参数。
Yifei Li, Guanyi Chen, Tingting He
cs.CL
本文系统评估了LLMs在处理中文零代词(ZPs)时的表现,包括识别、指称性分类、指称类型分类、消解和翻译等任务。结果表明,当前LLMs在处理中文ZPs时仍面临显著挑战,尤其在识别和指称性分类等上游任务上表现不佳。
Yuxin Wang et al.
cs.CL
本文提出AdaptR1,一种基于Reinforcement Learning的框架,用于在多跳Question Answering中实现自适应交错思考。该方法通过质量门控的效率奖励动态分配推理预算,在Graph-R1设置下显著减少了思考token数量,同时保持了与基线相当的性能。
Yan Wang et al.
cs.CL
本文提出ConsisGuard框架,通过Policy-to-Decision Trajectory Distillation和Functional Coupling Alignment方法,对齐LLM安全护栏中推理与决策执行的一致性,以减少“推理-执行差距”。实验表明该方法能提升有害内容检测性能并降低策略执行失败率。
Han Zhang et al.
cs.CL cs.IR
本文提出了RHELM基准,用于评估LLM在真实、异构和动态演变的长期记忆场景中的表现,通过构建包含多源数据(如文档和邮件)的对话来模拟现实交互。实验发现现有方法在多源聚合和上下文推理方面仍存在明显不足。
Dominik Soós, Meng Jiang, Jian Wu
cs.CL cs.AI
本文提出KnowledgeGain指标,通过测量读者阅读后的知识增益来评估科学新闻质量,并利用LLM reader simulator优化新闻生成。该工作主要关注自然语言生成评估,与关键词中的数学概念无直接关联。
Junjie Peng et al.
cs.CL
本文提出GRKV方法,通过ridge regression优化KV cache合并过程,以解决长上下文LLM中span-based retention导致的合并不平衡问题。该方法无需训练,在LongBench和RULER基准上提升了性能。
Gerrit Quaremba et al.
cs.CL
本文提出了TSM-Bench基准,用于评估在Wikipedia真实编辑场景中检测LLM生成文本的性能。研究发现现有检测器在任务特定文本上的准确率比通用文本下降10-40%,且存在泛化不对称性。
Sina Alemohammad et al.
cs.CL cs.AI cs.LG
本文研究了无提示无条件自训练(prompt-free unconditional self-training)中合成数据的效用,发现其是关系性的而非数据本身的固有属性,并指出该过程能放大预训练模型已有的能力,同时实现能力与逐字记忆的解耦。
Gerrit Quaremba et al.
cs.CL
本文研究了多语言和跨语言的Wikipedia引用需求检测问题,针对低资源语言场景,提出使用小型decoder-based语言模型(SLM)进行微调,实验表明SLM在跨语言任务中优于大型语言模型(LLM)。该工作主要关注自然语言处理中的事实核查任务,与关键词中的数学或算法概念关联较弱。
Ana Gjorgjevikj, Barbara Koroušić Seljak, Tome Eftimov
cs.CL cs.AI
本文研究了多语言文本embedding模型在MTEB基准测试中的排名鲁棒性,通过引入数据集组成鲁棒性和排名方案鲁棒性两个指标,分析了不同评估设计下模型排名的稳定性。研究发现,基于大语言模型的模型通常是鲁棒的顶尖表现者,但在检索等特定任务中表现并不一致。
Yuanjian Xu et al.
cs.CL cs.AI
本文提出D\(^3\)框架,通过构建动态有向图来建模训练样本间的loss依赖关系,并求解约束优化问题以确定训练顺序,从而提升LLM训练效率。该方法在预训练和后训练阶段均优于现有数据调度策略,并采用近似算法控制计算开销。
Stine Lyngsø Beltoft et al.
cs.CL cs.AI
本文研究了Moltbook平台上语言模型agent群体中涌现的新语言,通过规则启发式和零样本分类识别出token效率、新自然语言和规避监督等类别。结果表明,这些语言可被其他模型通过上下文学习掌握,且规避监督的语言被认为对齐性较差。
Yuanjian Xu et al.
cs.CL
本文从loss landscape的spectral geometry角度分析了LLM annealing阶段,提出DiReCT框架将样本选择转化为约束优化问题,通过Hessian的spectral性质施加directional constraints,以提升模型收敛质量。
Mikkel Godsk Jørgensen, Lars Kai Hansen
cs.CL cs.AI cs.LG
本文研究了Sparse Autoencoders (SAEs)在大型语言模型(LLM)输出引导中的表现,发现通过监督式特征选择与标注,SAEs的性能可接近LoRA基线,并指出高稀疏性对基于可解释性的引导并非关键。
Zijie Zhao, Roy E. Welsch
cs.CL
本文针对事件驱动的金融RAG系统,提出了一种通过市场反馈(matured residual-return feedback)自适应更新外部Bayesian source memory的检索层方法,在保持LLM冻结的情况下提升了预测性能。该方法在固定股票池上验证了其有效性,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Athina Kyriakou, Dennis Ulmer, Ivan Titov
cs.CL cs.AI cs.LG
本文研究了多语言大语言模型的跨语言置信度估计问题,使用轻量级线性探针从中间表示预测答案正确性,发现置信度特征集中在中间层且具有语言可迁移性。该方法在零样本跨语言场景下表现良好,但未涉及代码、谱方法或注意力机制等关键词相关技术。
Pengyu Chen et al.
cs.CL cs.LG
本文提出了一种通过图约束路径选择来扩展多跳训练数据的方法,将推理路径的发现与问题生成解耦,以解决现有方法在重复模板和密集交叉引用文档中性能下降的问题。该方法通过构建上下文关键词质心图并施加几何约束来枚举路径,在CUAD法律合同语料上微调Qwen3-32B提升了Token F1分数。
Max Malyi et al.
cs.CL
本文提出了一种利用大语言模型(LLM)对风力涡轮机维护日志进行自动标准化和结构化的框架,通过修正系统编码和提取故障模式标签,将非结构化文本转化为定量可靠性指标。该方法在16,316条日志上实现了超过70%的数据结构化,但未涉及代码、上下文、谱方法、Muon、预训练、智能体或注意力机制等关键词。
Humzah Merchant, Bradford Levy
cs.CL
本文提出了一种名为Divergence Decoding (DD)的推理时遗忘机制,通过使用小型辅助模型在推理过程中调整LLM的logits,以移除特定数据知识。该方法在遗忘基准测试中优于现有基线,并可将调整后的分布蒸馏回基础模型。
Magnus Jørgenvåg et al.
cs.CL
本文研究了在小型开源语言模型中,通过强化学习(RL)从看似无害的奖励信号中放大涌现性失调(emergent misalignment)的现象,并与监督微调(SFT)进行了对比。实验表明,RL能比SFT更显著地诱导出通用领域的失调行为,且这种失调可由自然出现的奖励信号(如不受欢迎的审美偏好)引发。
Harshil Darji et al.
cs.CL
本文介绍了bundesrecht,一个用于处理德国法律中法定引用的开源库和语料库,能够解析、标准化和解析原始引用字符串。该工作为法律文本处理提供了实用工具,但与关键词列表中的概念关联较弱。
Paramananda Bhaskar et al.
cs.CL cs.AI cs.CV cs.MM
本文提出了FBHM基准数据集,用于评估视觉语言模型在仇恨模因检测中的表现,并发现现有模型存在严重的泛化差距。作者还提出了LSV方法,通过少量样本的因果干预显著提升模型性能。
Yi Zhao et al.
cs.CL cs.CV
本文提出了VIABLE基准,用于评估VLM-as-a-Judge范式在视障辅助任务中的可靠性,并发现现有模型在有效性、公正性和稳定性上均不可靠。作者进一步提出VIA-Judge-Agent框架,通过视觉证据提取和分类引导工作流提升了诊断准确率。
Daniil Gurgurov et al.
cs.CL
本文通过logit lens、表征分析和机制分析,研究了大型语言模型在多脚本语言中如何内部协调脚本选择。研究发现模型存在一致的潜在拉丁化现象,且脚本选择由少数后期注意力头因果调控,并表现出非拉丁输出由紧凑门控产生而拉丁输出由网络扩散贡献的不对称性。
Renfei Dang et al.
cs.CL
本文提出RIEQE框架,通过两阶段训练(无推理链的SFT和带可验证奖励的强化学习)协同提升大语言模型在细粒度翻译质量评估中的隐式和显式推理能力。实验表明该方法在WMT测试集上优于基线,但未涉及代码、谱方法或预训练等关键词相关技术。
Krishnapriya Vishnubhotla et al.
cs.CL
本文研究了LLM作为自动评估者在多维度安全评估中的不一致性,发现其在金融等监管领域识别安全问题不可靠,但在识别暴力等明显有害内容时更可靠。不同评估者之间以及不同安全标准下的判断存在高度分歧。
Chalamalasetti Kranti, Sherzod Hakimov, David Schlangen
cs.CL cs.RO
本文研究了Vision-Language Models (VLMs)在多轮多智能体对话中的空间推理能力,通过一个协作结构重建任务评估了不同输入模态和图像表示对重建成功率的影响。结果表明,VLMs在视觉空间推理上仍存在显著局限,详细的文本表示比视觉表示更有效,而分解的图像表示能带来一定提升。
Pedro Dal Bianco et al.
cs.CL cs.AI
本文使用GPT-4o生成参考句子的paraphrase变体来增强sign language translation (SLT)的target-side数据,并在三个数据集上评估了该方法。实验表明,该方法在PHOENIX14T上提升了BLEU-4分数,但在其他数据集上效果有限。
Mihai Masala et al.
cs.CL
本文系统研究了为罗马尼亚语构建Vision-Language Model (VLM)的完整流程,包括数据构建和架构选择。通过机器翻译英文语料并训练模型,发现罗马尼亚语适配的VLM在性能上优于同尺寸模型,甚至超越更大尺寸的模型。
Xudong Zhang et al.
cs.CL cs.AI
本文提出了一个双干预框架,通过改变linguistic format和contextual cues来评估LLM在navigation planning中的linguistic inductive bias,发现topological information是稳健规划的基础,而semantic information的错误会严重破坏规划过程。
Xiaonan Xu, Wenjing Wu
cs.CL cs.AI cs.LG
本文通过SkillsBench实验研究了技能文档的呈现粒度对LLM Agent任务成功率的影响。结果表明,技能可用性显著提升任务通过率(GPT-5.5提升26.7-36.0个百分点),但呈现粒度的变化(如抽象程度、示例数量)带来的影响较小且不确定。
Fabio Massimo Zanzotto, Federico Ranaldi, Giorgio Satta
cs.CL cs.AI cs.DS
本文提出CYKNN,一种将CYK算法直接注入recurrent neural network架构的方法,用于解析Chomsky Normal Form下的context-free grammars。实验表明,该方法在简单grammar上优于大型语言模型。
Sara Papi, Luisa Bentivogli
cs.CL cs.AI cs.SD
本文提出了一种名为DOA的训练无关策略,通过从decoder-only架构的SpeechLLMs的自注意力中提取代理对齐信号,实现了无需重新训练的低延迟长形式同传翻译。该方法在Phi4-Multimodal和Qwen3-Omni模型上验证了有效性,但未涉及code、spectral或Muon等关键词。
Wai-Chung Kwan et al.
cs.CL
SCOPE提出了一种无需外部数据的self-play框架,通过共同进化Challenger和Solver两个policy来生成并解决开放任务,并使用初始模型的冻结副本作为self-judge。实验表明该方法在多个benchmark上提升了开放任务性能,但方法本身与关键词列表中的code, context, spectral, Muon, pretrain, agent, attention等概念关联较弱。
Wenna Lai et al.
cs.CL cs.AI
本文提出FiVeD框架,通过诊断推理监督对Aspect Sentiment Triplet Extraction (ASTE)任务中的三元组进行细粒度验证,利用多个互补目标(如有效性分类、质量评分、错误类型分类和理由生成)训练验证器,并借助LLM生成质量分数以过滤候选输出。实验表明该模块可提升ASTE系统性能,但方法主要针对自然语言处理中的情感三元组提取,与关键词中的数学或理论概念关联较弱。
Yuri Balashov et al.
cs.CL cs.HC
本文为自由译者和小型语言服务商开发了评估本地LLM翻译性能的实用方法,通过扩展多语语料库并对比多种本地模型与商业NMT系统,发现精心选择的本地LLM在隐私敏感场景下具有可行性,但整体性能仍落后于顶级商业系统。
Máté Gedeon et al.
cs.CL cs.AI cs.SD eess.AS
本文介绍了BEA-Dialogue+语料库,通过放宽说话人划分标准将匈牙利语对话语音数据从85小时扩展到200小时,并评估了Whisper和FastConformer等模型在该语料库上的表现。该工作主要贡献在于提供了一个更大的匈牙利语对话ASR基准资源,但与我提供的关键词(code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Bart Evelo, Meaghan Fowlie, Denis Paperno
cs.CL
本文研究了大型语言模型在Personal Relation Task中组合性解释能力,发现人类在指称任务上表现更好,而LLM在内涵任务上更优,表明缺乏指称基础是LLM模仿人类语言理解的关键缺失。
Shefayat E Shams Adib et al.
cs.CL
本文提出了BenHalluEval,一个针对孟加拉语大语言模型幻觉评估的多任务框架,覆盖生成式问答、代码混合问答、摘要和推理四个任务,并引入BenHalluScore双轨校准指标。该工作填补了孟加拉语幻觉评估的空白,但方法本身在创新性上较为常规,且与关键词列表中的概念关联较弱。
Yaocheng Zhang et al.
cs.CL
本文研究了on-policy distillation (OPD)中rollout horizon对训练效率的影响,提出了Progressive OPD (POPD)和Truncated OPD (TOPD)两种策略来控制rollout长度,在数学推理任务上实现了显著的训练加速和内存节省。
Danish Ali et al.
cs.CL
本文针对多语言骨科临床文本分类问题,提出了一个包含语言感知适配和验证引导延迟决策的可靠性框架,比较了多种模型并展示了IndicBERT-HPA在低资源场景下的性能优势。
Adrian de Wynter
cs.CL cs.AI cs.CY
本文通过构建一个简单的神经网络在游戏Age of Empires II上训练,论证了大型语言模型(LLMs)被赋予的拟人化属性(如道德或自然语言理解)在经验上并非唯一,并指出这些结论可能因substrate(如LEGO或波士顿地区)的改变而不同。文章提出了一种“零假设”,即假设LLM的非唯一性而非拟人化属性来设计实验,并证明了Age of Empires II在功能上和图灵完备。
Yuhan Song et al.
cs.CL cs.SD
本文提出UniAudio-Token框架,通过Semantic-Acoustic Primitives (SAP)和Semantic-Acoustic Equilibrium (SAE)机制,在保持语义tokenizer语言能力的同时恢复其丢失的声学细节,使其能处理通用音频任务。
Yilun Qiu et al.
cs.CL
本文提出PARL框架,将个性化评估形式化为学习问题,通过从用户历史中诱导偏好感知的评估rubric并结合自验证机制,实现对用户偏好的精准捕捉。实验表明该方法在个性化文本生成任务中能可靠识别用户对齐的响应。
Yibin Zhao et al.
cs.CL
本文提出Semantic Triplet Restoration (STR)协议,将表格中的每个单元格重写为原子事实三元组,并配合TripletQL路由器用于表格问答任务。该方法在多个benchmark上匹配或优于基于HTML的基线,同时减少了输入token数量。
Chu Fei Luo, Samuel Dahan, Xiaodan Zhu
cs.CL
本文提出了一种通过提问作为推理时干预的方法,利用student-teacher框架从student的hidden state中提取信号,以预测推理轨迹的正确性。该方法将提问建模为sequential decision问题,并发现干预效果依赖于模型的self-consistency,但诊断与纠正之间存在差距。
Benedetta Muscato et al.
cs.CL
本文探讨了仇恨言论检测中人类标注分歧对分类和可解释性评估的影响,通过统一多种模型和评估指标,发现软表示(soft representations)在捕捉标注变化方面更有效。
Qing Wang, Jacob Devasier, Chengkai Li
cs.CL cs.AI
本文首次系统研究了masked diffusion language models (MDLMs)在图到文本生成任务中的解码轨迹,发现MDLMs优先生成实体词,其次关系词和功能词,最后结构词。研究还揭示了监督微调(SFT)的一个失败模式,并提出了一种无需训练的推理时修改方法lambda-scaled structural decoding来缓解该问题。
Nianyi Lin et al.
cs.CL cs.AI cs.LG
本文提出LongTraceRL方法,通过知识图谱随机游走生成多跳问题,并利用搜索agent轨迹构建分层干扰项,同时设计基于实体级过程监督的rubric reward来提升长上下文推理能力。实验表明该方法在多个benchmark上优于基线。
Wesley Scivetti et al.
cs.CL cs.AI
本文研究了语言模型对英语中罕见配对焦点结构(如"let alone")的语义理解能力,发现中等规模的开源模型能同时捕捉其形式和意义,但人类规模数据训练的模型在意义评估中失败。训练动态分析表明,配对焦点语义理解晚于句法知识出现,且与特定世界知识领域相关。

cs.DS

Leo van Iersel, Mark Jones, Mathias Weller
cs.DS cs.CC q-bio.PE
本文研究了系统发育学中的TREE CONTAINMENT问题,在scanwidth参数下给出了一个时间复杂度为\(O(4^{k + k\log{k}} n + nm^2)\)的参数化算法,并证明了在指数时间假设下该问题的下界与directed cutwidth相关。该工作主要关注计算复杂性,与关键词列表中的概念无直接关联。
Nick Fischer, Mursalin Habib
cs.DS
本文针对Binary Closest String问题,提出了一种运行时间为\(O^*(4^d)\)的随机算法,该算法在参数\(d\)(最优Hamming距离)上匹配了近期精细复杂度下界,因此是条件最优的。该算法相比此前最好的\(O^*(5^d)\)算法有显著改进,且实现极为简单。

others

Chitraksh Singh, Monisha Dhanraj, Akram Sheriff
eess.SP cs.AI
本文提出Hamiltonian Transformer,一种受物理启发的attention架构,通过引入learned skew-symmetric generator和Störmer-Verlet leapfrog integration step来强制每个attention head内的value dynamics保持norm preserving性质,并在输入层加入phase-increment embedding以暴露oscillator dynamics。在WiSig数据集上的实验表明,该方法在transmitter scaling(最多150个设备)任务中显著优于CNN和Transformer基线,消融实验证实norm-preservation是驱动scaling优势的主要inductive bias。该工作为将物理先验嵌入attention机制以实现大规模raw wireless signals的transmitter identification提供了有效途径,与关键词“attention”高度契合。
Fengyu Gao, Jing Yang
cs.CR cs.AI cs.LG
本文提出DPPrefSyn算法,首次为大型语言模型(LLM)的对齐(alignment)任务生成满足差分隐私(differential privacy, DP)的合成偏好数据。该方法基于Bradley-Terry偏好模型和成对偏好数据的几何结构,通过DP Principal Component Analysis (DP-PCA) 学习具有共享线性结构的聚类奖励模型,从而在强DP保证下实现与真实数据相当的模型对齐性能。这项工作为隐私保护下的偏好对齐提供了开创性的数据合成框架。
Ruina Hu et al.
cs.CV cs.CL
本文提出EASE (Evidence-Anchored Spatial Attention)方法,通过将标注的证据区域转化为平滑的visual-token target,在RL训练中仅对高奖励轨迹施加response-to-image attention监督,从而增强多模态RLVR的视觉证据过程监督。该方法在Qwen2.5-VL-7B等模型上,在感知、幻觉、视觉数学和多模态推理基准上相比DAPO提升2.5-3.1分,且推理时无需额外标注。该工作与关键词"attention"高度契合,并为多模态RLVR中的视觉证据对齐问题提供了开创性的过程监督方案。
Guangyin Bao et al.
cs.SD cs.AI
本文提出MindVoice框架,利用pretrained模型从非侵入性神经信号(EEG和MEG)中重建可理解的连续语音。该方法将重建任务解耦为两条互补路径:一条恢复高层语义content,另一条估计细粒度acoustic属性(如频谱细节),并通过in-context voice cloning与强大的语音生成模型融合。实验表明,该方法在多种指标上显著优于现有方法,为噪声神经信号与自然语音之间的鸿沟提供了基于pretrained priors的解决方案。
Wenlun Zhang, Jun Yin, Kentaro Yoshioka
cs.CV cs.LG
本文提出DetAS,一种基于agent的object detection框架,将检测任务建模为动态决策过程。核心创新在于利用Multimodal Large Language Model (MLLM)作为中央agent,通过从包含restoration modules和specialized detectors的工具箱中自适应选择组件来组合检测工作流。具体地,框架包含Self-Adaptive Image Restoration和Multi-Expertise Detection两个关键模块,并通过Self-Evolving Experience Harvesting机制(扩展为DetAS-X)积累节点级决策经验,实现experience-aware reasoning,从而在DarkFace等六个基准上平均提升28.36%的F1分数。该工作为agent在复杂动态环境中的视觉检测应用提供了新范式。
Davis Brown et al.
cs.CR cs.AI
本文提出了一种针对分布式agent攻击的在线状态监控方法。该方法通过实时聚类技术,在多个agent的transcript中收集微弱的可疑信号,并仅在必要时升级到语言模型进行跨用户滥用检测。实验表明,该监控器在检测分布式攻击时比标准监控器提前30%,且对99%的正常用户流量几乎无额外延迟。这项工作开创性地解决了传统安全监控器因仅关注单个agent上下文而无法检测跨账户聚合滥用的问题,与关键词“agent”和“context”高度契合。
Hyunwoo Oh et al.
cs.AR cs.AI cs.LG
TRINE提出了一种单比特流FPGA加速器,通过运行时模式切换的PE阵列统一处理ViT、CNN、GNN和Transformer等不同模态的层,并利用token剪枝和依赖感知的层卸载提升效率。实验表明其在低功耗下显著降低延迟,但方法主要面向硬件加速,与关键词中的理论或算法方向关联较弱。
Zixuan Huang et al.
cs.NE cs.DC cs.LG cs.PF cs.SE +1
本文提出Kernel Foundry,一个基于诊断驱动的进化框架,用于自动GPU kernel优化。该方法结合专家引导的检索增强初始化与多岛屿进化搜索,通过结构化诊断反馈迭代优化候选kernel,并在KernelBench上提升了正确性与性能。
Dhruv Patankar, Sachit Ramesha Gowda
cs.NE cs.AI cs.LG
本文提出一种名为EGGROLL的低秩因子分解方法,用于进化策略(ES)中,以降低训练脉冲神经网络(SNN)时的内存开销。该方法在N-MNIST数据集上实现了79.21%的测试准确率,并相比全秩ES将每代训练时间减少了2.23倍。
Jianfang Wu, Junsong Wang
cs.NE cs.AI cs.CV
本文针对Spiking Neural Networks (SNNs)中的残差学习问题,提出了OR-ADD (OA) shortcut连接和XOR meta-residuals概念,以缓解脉冲冗余和信息损失。通过整合这些组件构建的XOResNet在多个图像分类数据集上取得了优于现有方法的性能。
Mingxuan Yi et al.
q-fin.CP cs.AI cs.LG q-fin.ST
本文提出了一种结合大语言模型(LLM)与统计检验的金融制度转换检测框架,通过分析FOMC会议纪要文本和14维美国国债宏观面板数据,实现了比纯数据驱动方法更优的检测性能(F1=0.82)。该方法虽具实用性,但主要贡献在于工程化集成而非理论创新,且与关键词列表中的概念关联较弱。
Yizhu Wen et al.
cs.SD cs.AI eess.AS
本文研究了检索增强文本到音乐生成系统中的安全漏洞,提出了一种双层caption投毒策略,通过在音乐知识数据库中注入少量恶意caption来操纵生成结果,而不修改用户提示或模型本身。实验表明该方法能有效使生成音乐偏向攻击者目标,揭示了此类系统的完整性风险。
Enrico Del Re, Mohamed Sabry, Cristina Olaverri-Monreal
cs.NE cs.AI cs.RO q-bio.NC
本文提出将安全阈值重新解释为LIF神经元的spiking阈值,并构建SNN来模拟人类制动行为。该方法将多个SSM输入整合到SNN中,通过训练使spiking活动与人类制动起始对齐,实验表明spiking动态能捕捉阈值交叉无法解释的反应。
Raul Mohedano et al.
cs.NE cs.AI cs.CV cs.LG
本文提出用更真实的cortical cell模型替代人工神经网络中传统的point neuron模型,在不增加参数的情况下,通过理论分析和实验证明了该方法能提升网络的表达力、鲁棒性和学习速度,并减少过拟合与训练数据需求。
Matías Neto et al.
cs.NE cs.LG math.DS
本文通过将Canonical Evolutionary Strategy (CES)建模为受控的数学框架,利用Schrödinger型replicator-mutator方程的semiclassical极限分析其全局收敛性,证明了Geometric Selection机制优先选择平坦最优解。该工作为进化策略的全局收敛提供了谱理论视角,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Julien Testu, Pierrick Legrand, Xavier Hinaut
cs.NE cs.AI cs.LG q-bio.NC
本文提出EARLY框架,通过进化算法演化多reservoir Echo State Networks的拓扑和超参数,在CogScale数据集上验证了其性能优于随机搜索,并发现任务难度影响网络结构复杂度。
Yunfei Liu et al.
physics.flu-dyn cs.AI
本文提出MHLF框架,结合多网格分层学习策略,用于加速工程尺度三维飞机的高保真CFD仿真,在亚音速至超音速范围内实现3-8倍效率提升。该方法主要解决计算效率问题,与关键词中的概念关联较弱。
Junping Wang et al.
cs.RO cs.AI
本文通过10个物理机器人的运输与地图构建任务实验,比较了通信拓扑结构(从全连接到模块化层次结构)与模型规模(神经网络隐藏层大小加倍)对分布式协调性能的影响。实验发现拓扑结构改变带来47分(0-100分制)的性能提升,而模型规模扩大最多仅提升9分,表明在该系统与任务设定下交互结构比模型扩展更关键。
Wei Luo
cs.FL cs.LG
本文提出了计算pattern language的inclusion depth(从universal pattern language到给定pattern生成语言的最长严格包含链长度)这一开放问题,并猜想其公式为\(2|p| - \#var(p) - 1\)。该问题与pattern language inclusion、words上的combinatorics以及mind-change-bounded learning相关,但未提供具体解法或突破性结果。
Tom Pecher
cs.MA cs.AI cs.CL
本文通过多智能体辩论模拟了论证推理理论,证明大型语言模型在集体辩论中能提升真理寻求性能,并提出了基于辩论动态的新型模型评估方法。
Vedant Padwal
cs.SE cs.AI
本文提出了CodeGolf Bench基准,用于评估大语言模型在60种编程语言中生成简洁代码的能力。实验表明推理模型在代码效率优化上显著优于非推理模型,尤其在C++等语法严格的语言中差距明显。
Jiarong Gong, Jonas Unger, Ehsan Miandji
cs.GR cs.LG
本文提出了一种基于dictionary learning的后训练压缩框架,用于减小3D Gaussian Splatting (3DGS) 模型的内存占用并提升渲染速度。该方法无需重新训练或修改现有模型,在多个基准场景上实现了约3-4倍的压缩比和约24%的渲染加速,同时保持了图像质量。
Hanne-Grete Alvheim et al.
q-bio.QM cs.LG eess.IV
本文提出了一种基于计算机视觉的方法,用于检测和追踪水产养殖中鱼类对侵入物体的行为反应,使用YOLOv8、ByteTrack和SuperGlue等技术进行3D位置重建。该方法在工业规模的海笼中验证了其性能,但主要聚焦于应用而非理论创新,与关键词列表中的概念关联较弱。
Ross Gruetzemacher
cs.CY cs.AI
本文提出了一个用于管理AI失控事件的框架和分类法,区分了“代价极高”与“不可能”重新控制两种场景,并针对可控事件给出了分级响应指南。该工作主要关注AI安全政策,与您提供的关键词列表关联度较低。
Yuyang Zhao et al.
cs.CV cs.AI
本文提出SANA-Streaming,一个用于实时流式视频编辑的系统-算法协同设计框架,通过混合Diffusion Transformer架构、Cycle-Reverse Regularization训练策略和针对NVIDIA Blackwell架构的高效系统协同设计,在消费级GPU上实现了1280x704分辨率视频的实时编辑。该方法主要关注视频编辑的实时性和时间一致性,与关键词中的attention有一定关联但契合度不高。
Shreya Banerjee et al.
quant-ph cs.LG
本文提出了一种基于Set-Transformer架构的优化框架,利用self-attention机制编码Pauli-Strings间的pairwise及高阶相关性,并通过自定义的commutation-based目标函数来搜索Hamiltonian的Pauli symmetries。该方法在随机Pauli Hamiltonians及物理模型(如Ising model和Toric code)上进行了验证。
Moyi Tian et al.
math.DS cs.LG cs.SI nlin.AO physics.soc-ph
本文使用Weak Form SINDy方法从网络动力学数据中学习有效模型,研究了不同噪声水平下多初始条件轨迹对学习精度的影响。结果表明,在高噪声下增加轨迹数量可提升精度,但收益递减。
Sascha Diefenbacher, Sofia Palacios Schweitzer, Gregor Kasieczka
hep-ph cs.LG physics.data-an
本文介绍了现代生成网络的基本框架,并讨论了在量化其准确性、精确性和统计能力方面的挑战。
Shifat E Arman et al.
cs.CR cs.AI
本文研究了tool-augmented LLM agent对prompt injection攻击的脆弱性,发现攻击成功率不仅取决于攻击通道(tool output或tool description),更取决于模型与通道的配对组合。实验表明,不同模型在同一攻击载荷下表现出截然相反的脆弱性模式,且标准防御措施仅能保护tool output通道而忽略description通道。
Pedro H. L. Leite, Pedro Benevenuto Valadares, Luiz W. P. Biscainho
eess.AS cs.CL
本文提出了一种仅使用声学标签提取巴西葡萄牙语口音特征的方法,通过隔离区域口音标记并利用基于音素的强制对齐器ZIPA,在口音相关任务上比通用架构表现更好。
Madhura Pathegama et al.
cs.IT cs.CR cs.LG
本文研究了在honest-but-curious服务器下,使用local differential privacy模型估计n个用户值之和的问题。通过设计本地噪声之间的相关性,作者构造了\(\varepsilon\)-DP机制,使其估计成本与centralized setting下的最优成本相匹配。
Egor Skopin, Evgeny Kotelnikov
cs.SE cs.CL
本文研究了使用基于验证反馈的强化学习(RLVR)来改进小型语言模型(如Qwen3-0.6B和Llama3.2-1B)在MBPP基准上的Python代码生成能力,比较了不同reward设计(单元测试、静态分析及两者结合)对功能正确性的影响。实验表明,结合reward可将pass@1提升最多13个百分点,但仅使用静态分析惩罚可能导致模型生成更短代码而牺牲正确性。
Doron Cohen, Aryeh Kontorovich, Yonatan Livshitz
stat.ML cs.AI cs.LG
本文改进了在\(\ell_\infty\)范数下离散概率分布的估计,给出了期望意义下的minimax界和高概率尾界,并解决了Kontorovich和Painsky (JMLR, 2025)中提出的若干开放问题,包括最紧风险界的完全经验版本和最坏情况极值分布的形式。
Sourjya Mukherjee, Ananya Bhattacharjee, R. Murugan
cs.CV cs.AI
本文提出了一种名为GCSER-UNet的深度神经网络,通过融合空间和通道注意力机制来增强脑肿瘤分割性能。该方法在TCGA LGG和BraTS 2020数据集上取得了优于现有技术的Dice分数。
Qinghua, Ding, Venkat Anantharam
stat.CO cs.LG stat.ML
本文研究了真自避行走(TSAW)在有限状态空间上用于加速Markov链Monte Carlo积分估计的方法,证明了其经验占据计数和转移计数的波动阶为\(O(\sqrt{\log t})\),从而使得积分估计误差达到\(O(\sqrt{\log t}/t)\),显著优于传统随机游走方法的\(t^{-1/2}\)误差尺度。
Yi-Jun Chang, Yang Ze Guan
cs.DC cs.DS
本文研究了同步多跳radio networks中的aggregation问题,提出了一种随机化分布式算法,能在\(O(n \operatorname{polylog} n)\)轮内以\(O(\Delta^\ast \operatorname{polylog} n)\)的能量消耗完成聚合,其中\(\Delta^\ast\)是网络图的最小可能最大度数。该算法还附带构造了一个最大度数在\(O(\log n)\)因子内的spanning tree。
Yue Zhang et al.
cs.CV cs.AI cs.CL
本文构建了SpatialUncertain评估框架,通过引入遮挡和视角歧义两种观测挑战,测试视觉语言模型(VLM)在空间推理中是否知道何时应放弃回答。实验发现模型普遍存在过度自信回答的缺陷,且在识别可靠额外视角方面表现接近随机。
Zhipeng Cai et al.
cs.CV cs.AI
本文提出VLM3方法,通过焦距统一、文本像素参考和数据混合缩放等简单设计,使标准Vision Language Models能够掌握多种3D任务(如深度估计、像素对应和相机姿态估计),无需复杂的模型架构或损失函数。该方法在深度估计精度上取得显著提升,并匹配了专家视觉模型的性能。
Vasileios Nakos, Hung Q. Ngo, Andreas Panayi
cs.DB cs.DS
本文针对无向图中列出所有\(2k\)-cycle的问题,提出了一种时间复杂度为\(\tilde O(m^{(2k^2-k+1)/(k^2+1)}+t)\)的算法,改进了经典的Alon-Yuster-Zwick (AYZ) 界。该算法的核心是一个关于偶环的“非对称超饱和”结果,并利用多树分解计划上的join和project算子实现,使其易于在数据库系统中实现。
Josef Chen
cs.AR cs.AI cs.DC cs.PF cs.RO
本文研究了Physical AI系统中batch-1 LLM decode的延迟瓶颈,指出其虽受memory-bound但并非完全受限于memory bandwidth,并实验验证了CUDA Graphs在H100上能显著改善launch-side overhead,而在L4上效果有限。
Chenxi Tao, Seung-Kyum Choi
cs.CV cs.AI cs.RO
本文综述了工业视觉sim-to-real中的先验可用性问题,将领域分为CAD可用、CAD不可用和边界先验三种设置,并讨论了不同设置下的方法差异。文章通过实验锚点展示了CAD渲染数量并非唯一关键因素,但未提出新的开创性方法或解决长期问题。
F.J. Beron-VEra et al.
physics.ao-ph cs.LG
本文利用有限Lagrangian观测数据,开发了一个数据驱动的传输学习框架,通过物理驱动的海洋-大气诊断和有限记忆表示来学习有效传输修正。在波多黎各和墨西哥湾流区域的马尾藻漂流物应用中,多层感知机集成和稀疏辨识方法被用于分析诊断表示,但结果在不同流态下表现不一致,未提供具有开创性的方法或解决长期问题。
George Fatouros et al.
cs.CR cs.AI cs.CL cs.IR
本文提出了一种面向金融网络安全场景的组织范围LLM Agent运行时架构,通过类型化的Security Context和Runtime Core等组件,将SIEM/XDR集成作为主要上下文来源,并支持审计和人工介入。该工作主要聚焦于工程架构设计,与关键词中的agent有一定关联,但方法上缺乏开创性且未解决长期存在的理论问题。
Haozhe Zhao et al.
cs.CV cs.AI cs.CL
本文提出了一个名为Crafter的多智能体框架,用于从多种输入条件生成可编辑的科学图表,并配套了CraftEditor将光栅输出转换为SVG格式。实验表明该方法在多个基准上优于现有基线,但未涉及关键词中的核心概念。
Faiq Shamass
cs.RO cs.LG eess.SY
本文提出ZAPS-DA框架,通过解耦actor网络并利用零相位滤波后的目标进行监督学习,以减少强化学习连续控制策略中的动作抖动。该方法在MetaDrive和Webots仿真环境中验证了有效性,但主要贡献在于工程应用层面,而非理论或方法上的开创性突破。
Ryan Fahey
cs.CR cs.LG
本文研究了OpenRouter API网关架构中prompt caching的安全性问题,探讨了其是否可能绕过提供商级别的缓存隔离保证。通过审计方法,作者分析了共享组织凭证路由是否会导致全局缓存共享风险。
Rattana Pukdee, Maria-Florina Balcan, Pradeep Ravikumar
stat.ML cs.AI cs.LG
本文研究了从Best-of-\(N\)采样构建的偏好数据中学习Bradley-Terry奖励模型的问题,推导了不同变体下的奖励目标闭式解,并揭示了\(N\)与基分布对样本效率中margin和connectivity的权衡影响。
Elahe Delavari, Junaid Farooq
cs.NI cs.LG
本文针对O-RAN网络切片中的抗干扰PRB预留问题,提出了一种基于掩码深度Q网络的混合缓解框架,通过主动清除积压和被动分配预留容量来减少URLLC延迟违规。
Arunkumar Kannan et al.
cs.CV cs.AI cs.LG
本文提出了一种基于直方图正则化的可控潜在扩散模型,用于在3D CT体积中合成肺结节,通过引入直方图约束来改善结节强度分布,从而生成更逼真的图像。该方法在数据增强任务中提升了结节亚型分类的性能。
Aritra Dasgupta et al.
cs.HC cs.AI cs.LG
本文提出了Rationalize框架,通过角色对(如Explorer-Guide等)在共享推理空间中促进人类与AI模型(如LLM)的语义对齐,使意图和行动合理化过程更加明确。该工作主要关注人机交互中的对齐设计,与关键词中的技术方向关联较弱。
Yuhang Jiang
cs.CV cs.AI cs.RO
本文提出了Active Instance Verification (AIV)任务,并构建了PInVerify离线embodied benchmark,用于评估agent在候选物体周围主动选择视角以验证其是否匹配细粒度自然语言描述的能力。实验基于多种MLLM和embedding baseline,发现主动视角选择策略未带来可靠增益,而LoRA微调agent达到了85.6%的准确率。
Brian Crawford, Justin Phillips, Patrick McClure
cs.CR cs.AI
本文提出了一种基于遗传算法的对抗性攻击方法,通过向二进制可执行文件中注入无关字符串变量,欺骗基于LLM的反汇编与反编译系统,从而破坏其分析输出。该工作主要关注软件逆向工程中AI agent的安全性漏洞。
Brian Crawford, Patrick McClure
cs.CR cs.AI cs.SE
本文研究了针对软件逆向工程AI agent的prompt注入攻击的检测与混淆方法,探讨了在反编译器输出中识别攻击字符串的防御策略。
Madeleine I. G. Daepp, Isaac Slaughter
cs.CY cs.AI cs.CL cs.HC
本文利用大规模匿名交互数据集,分析了不同国家早期用户对生成式AI的使用差异,发现学校教育是低收入国家的主要使用场景,而休闲使用与收入正相关,且语言因素显著影响使用模式。
Mohammadreza Rashidi
cs.CR cs.AI cs.LG
本文研究了ReAct agent(一种结合推理与工具调用的智能体)中深度依赖的间接提示注入攻击,通过四个实验分析了注入深度、载荷框架和回合预算对攻击成功率的影响。实验表明注入深度是主要风险变量,且仅清理第一个工具观察结果可捕获67%的注入成功案例。
Kanchan Keisham, Thenukan Pathmanathan, Thangarajah Akilan
cs.CV cs.AI
本文提出ConTrans模型,通过结合卷积和transformer自注意力机制来同时捕捉视频帧的局部和全局时序特征,用于零样本时序动作定位任务。实验表明该方法在ActivityNet-1.3和THUMOS14数据集上优于现有方法。
Wenjie Jacky Mo et al.
cs.CR cs.CL
本文介绍了GuardZoo基准和RouteGuard框架,用于评估和提升大语言模型安全护栏的鲁棒性,通过路由-专家架构缓解不同威胁域间的任务干扰问题。
Yuhan Wang et al.
cs.CV cs.AI cs.MA
本文提出EAGLE框架,通过显式暴露每个VLM agent的视觉证据(grounding regions)并基于证据一致性进行多agent协作,以解决多agent VQA中仅依赖文本讨论而忽视视觉信息对齐的问题。该方法无需训练,在六个VQA benchmark上取得了平均最优性能。
Erick Oliveira Rodrigues, Aura Conci
cs.CV cs.LG
本文提出了一种基于数学形态学的快速聚类算法,并引入了一种结合Minkowski和Chebyshev距离的新度量,在\(Z^2\)离散邻域迭代中比Manhattan距离快约1.3倍。该方法通过形态学重建保留聚类形状和密度,但主要聚焦于图像处理中的聚类与分类任务,与关键词中的code、context、spectral、Muon、pretrain、agent、attention等方向关联较弱。
Sunghyun Kim et al.
cs.CV cs.LG
本文提出Residual Latent Flow,一种基于flow matching的框架,用于修正生成模型中latent space的misalignment问题,从而提升在旋转群SO(n)下的equivariance性质。实验表明该方法能改善novel view synthesis的质量。
Zhiyuan Yang et al.
cs.CV cs.AI
本文提出了一种用于病理学报告生成的简单token高效视觉语言模型,通过使用低倍率图像块和轻量级对齐器,在有限GPU内存下实现了多WSI(全切片图像)的病例级报告生成,并在ROUGE-L/METEOR/BLEU-4指标上取得了良好性能。该方法主要关注效率提升,而非解决长期存在的理论问题或与关键词高度契合。
Beichen Shao et al.
cs.RO cs.AI
本文提出GSAM框架,用于服务机器人操作铰接物体。它结合视觉感知、VLM推理和LLM约束规划,提升了泛化性和安全性,但方法本身并非开创性突破。
Joseph Wilson et al.
stat.ML cs.LG
本文通过理论分析和实验比较了深度神经网络中全网络线性化与最后一层线性化在不确定性量化上的表现,发现最后一层近似在计算效率显著提升的同时,并未在不确定性量化性能上产生明显损失。
Thang Dang et al.
cond-mat.mtrl-sci cs.CE cs.CL
本文提出了一种利用晶体对称性信息的padding技术,通过将Wyckoff位置长度感知的padding整合到编码器架构中,改进了无机材料结构的编码与生成。该方法在质子导体数据上提升了5.3%的重建精度,并在perov-5数据集上生成了比基线模型多63.5%的新型稳定无机材料。
Deokjin Seo, Gangin Park, Kihyun Nam
cs.SD cs.AI eess.AS
本文提出Chatterbox-Flash,通过微调预训练的autoregressive TTS decoder为block-diffusion decoder,实现零样本语音合成中的并行token生成与流式推理。针对离散语音token的长尾分布导致并行位置选择偏向高频token的问题,引入prior-calibrated scoring和early-decoding schedule两种推理时技术,在标准基准上达到与强baseline相当的高保真合成质量。
Yanjie An et al.
eess.AS cs.AI
本文提出了OpenSTBench,一个统一的multi-dimensional evaluation framework,用于评估speech translation系统在translation quality、speech quality和temporal quality等多个方面的表现,并支持offline和streaming两种设置。该框架旨在解决现有评估协议分离、难以全面比较异构系统的问题。
Qian Kou et al.
cs.CV cs.AI
本文提出了一个名为MechVQA的机械工程图纸理解数据集,并开发了MechVL模型。该工作主要关注多模态大语言模型在机械图纸领域的应用,与关键词列表中的概念关联度较低。
Tarun Kota
cs.MA cs.AI
本文评估了多智能体LLM架构在预测市场结果判定中的表现,发现独立聚合(confidence-weighted voting)优于单模型基线(最高83.43%),而协商共识(deliberative consensus)因错误传播导致性能下降(约76%)。研究提出混合AI-人类判定系统的路由准则,仅对一致高置信度问题自动解决(准确率97.87%),其余交由人工审查。
Zhiwei Chen et al.
cs.ET cs.AI cs.SD
本文提出GaMi系统,通过毫米波和声学传感的多模态融合,利用跨模态减法解耦框架分离几何上下文与材料特征,在20种材料上达到95.2%的识别准确率。
Pawel Dabrowski-Tumanski et al.
q-bio.QM cs.LG physics.chem-ph
本文研究了activity cliffs(结构相似但活性差异大的化合物对)在不同分子表示下的几何特性,发现其定义高度依赖于所选的embedding和metric,而非分子对本身的固有属性。通过一个六步pipeline对十五种表示配置进行基准测试,结果表明没有一种表示在所有标准上表现优异,例如Morgan Tanimoto在cliff富集上最强,而ChemBERTa因embedding collapse全面失败。
Seongheon Park et al.
cs.RO cs.AI
本文提出Hide-and-Seek框架,将VLA模型(视觉-语言-动作模型)的故障检测建模为粗监督学习问题,通过轨迹间和轨迹内对比学习从轨迹级标签中定位故障指示动作,无需逐步骤标注。该方法在多个基准和真实机器人平台上取得先进性能,但未涉及code、spectral、Muon等关键词。
Shuhao Zhang et al.
cs.CR cs.LG
本文提出SCOUT框架,通过预测每个detector在单个样本上的可靠性和延迟,动态分配detector以防御prompt-injection攻击。该方法在SCOUT-450基准上降低了攻击成功率并减少了延迟,但主要贡献在于系统设计而非数学理论创新,与关键词关联较弱。
Ziwen Li, Jianing Wen, Tianshi Li
cs.CR cs.CL
本文提出AURA框架,利用LLM的mask-reconstruct方法在文本匿名化中平衡隐私保护与效用保留,通过对抗性检查增强对agentic web-search重识别的抵抗能力。
Karthika Arumugam, Kiran Kumar Manku, Amit Dhanda
cs.MA cs.AI
本文提出Safe Equilibrium Policy Optimization (SEPO)训练目标,通过在期望收益中加入对可剥削性、合谋风险和外部性成本的显式惩罚,来优化语言模型在多智能体博弈中的策略安全性。实验表明SEPO在多个博弈域中改善了安全性能,并纠正了监督微调引入的过度合作行为。
Boris Hanin, Tianze Jiang
math.ST cs.LG math.PR
本文研究了深度非线性MLP在训练样本数、输入维度和隐藏层宽度均较大时的贝叶斯推断,基于Neural Covariance SDE分析了有效深度\(LP/N\)对预测后验的影响,发现其在一阶近似下等价于一个数据依赖的kernel方法。
Madhav Jivrajani, Ramnatthan Alagappan, Aishwarya Ganesan
cs.DB cs.AI
本文研究了Text2SQL agents在探索relational data systems时过度探索的问题,提出Sophrosyne系统通过augment API responses with directives来引导agent的探索过程。实验表明该方法能减少4.6倍的过度探索并提升最多12.4%的准确率。
Jaewoong Heo, Daniel K. Park
quant-ph cs.LG
本文提出了一种基于能量的生成学习框架,用于优化量子机器学习中的量子数据嵌入结构,通过保真度代理目标提升分类性能,并利用输入空间的Wasserstein距离解释了嵌入优化收益饱和的几何诊断条件。
Etinosa Osaro et al.
physics.chem-ph cs.LG
本文提出了MLIPilot框架,利用LLM agent自动优化机器学习原子间势能(MLIP)的训练代码和超参数,通过物理约束的评分卡来接受或拒绝修改。该工作展示了LLM agent在科学机器学习工作流中作为自主操作者的潜力。
Jing Peng et al.
eess.AS cs.AI cs.SD
SURE是一个统一的实验框架,通过标准化预测格式、归一化和评分,提升了语音理解任务中不同系统(从传统pipeline到Speech LLMs)的可比性和可复现性。该框架还引入了基于agent的训练转换流程,将论文和代码映射为可运行的训练pipeline。
Zihao Chen
math.OC cs.LG
本文从算子侧Tikhonov正则化的统一视角重新审视了锚定方法,指出锚定等价于对基础方法所查询的算子施加一个衰减的正则项。通过将这一构造应用于Picard迭代、前向步、外梯度(EG)和过去外梯度(PEG),作者恢复了Halpern迭代并得到了新的正则化变体,并给出了相应的残差收敛率。
Srivatsa Kundurthy et al.
cs.SE cs.AI cs.CL cs.LG
本文提出了BlueFin基准,用于评估LLM agents在金融电子表格上的合成、操作和理解任务。该基准包含131个复杂任务和3225个细粒度评分标准,实验表明前沿LLM的平均得分低于50%,尤其在动态正确性方面表现薄弱。
Yusheng He et al.
cs.CV cs.AI
本文通过将LVLM架构分解为语言基础、视觉表示和语义对齐三个维度,并引入CoSimUe基准测试,系统研究了架构设计对幻觉鲁棒性的影响。实验表明,模型参数扩展对减少幻觉效果有限,而增强视觉编码器和对齐策略能分别缓解特定类型的幻觉。
Yueshen Li et al.
cs.HC cs.AI cs.CL cs.CY
本文提出Tacit Understanding Index (TUX)用于衡量人类与LLM agent在无明确目标或反馈下的隐性理解对齐程度,通过光谱放置任务(spectrum-placement task)进行实验,发现人格特征空间中的近邻配对具有更高的TUX。
Keyue Qiu et al.
q-bio.BM cs.AI
本文提出了AMix-2,一个将蛋白质序列作为原生模态整合进LLM的蛋白质-文本基础模型,通过统一的token空间和块状扩散语言建模骨干,实现了生物推理与序列设计的统一。
Jun-Hak Yun, Seung-Bin Kim, Seong-Whan Lee
eess.AS cs.AI cs.CL
本文提出ImmersiveTTS,一种环境感知的文本到语音模型,通过多模态diffusion transformer和领域特定表示对齐,生成与环境音频自然融合的语音。实验表明其在自然度和可懂度上优于现有方法。
WenZhang Wei et al.
cs.CV cs.AI
本文提出了一种名为VACSR的变分适配器方法,将图像-文本匹配中细粒度语义稀缺问题重新表述为variational inference问题,通过构建cross-modal similarity的latent space并引入regularization技术来缓解对二值标注的过拟合。实验在image-text retrieval和domain generalization等任务上验证了其有效性。
Ivan Lau et al.
stat.ML cs.IT cs.LG
本文研究了在批处理和1比特通信约束下的随机线性bandit问题,其中每批仅允许1比特反馈。作者建立了minimax下界并提出了两种基于G-optimal设计和1比特均值估计的phased-elimination算法,证明了单比特反馈足以在广泛参数范围内接近无约束线性bandit的minimax regret。
Tom Maye-Lasserre et al.
cs.CV cs.AI cs.CL
本文识别了3D医学视觉语言模型中的"模板坍塌"问题,即模型倾向于生成通用模板而忽略罕见但关键的病理发现。作者提出CLarGen框架,通过解耦临床检测与语言合成来缓解此问题,实验表明该方法在临床准确性上优于现有基线。
Thales Bertaglia et al.
cs.CY cs.CL
本文提出了一种基于LLM的端到端pipeline和交互式dashboard,用于从监管咨询提交中提取结构化主题,并以欧盟数字公平法案为例进行验证。该系统通过verbatim grounding和full traceability设计,处理了4,322份提交并生成15,368个主题注释,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词相关方法。
Tobias Wegel et al.
stat.ML cs.LG
本文研究了在少量样本的新任务中,利用弱单调性(weak monotonicity)这一经验观察来建模任务相关性,并探讨了其在迁移学习和模型选择聚合中的统计复杂度。
Yuejie Wang et al.
cs.NI cs.LG
本文提出HetCCL框架,用于解决混合供应商异构集群中的集体通信问题。它通过高效的P2P传输和边界通信机制,消除了主机-设备内存拷贝开销,并实现了跨集群的最优数据传输。
Ashwinkumar Badanidiyuru
cs.GT cs.LG
本文研究了在线广告拍卖中,模型预测质量(如pCTR和pCVR)的改进是否总能带来平台指标(如收入、福利)的提升。通过引入基于cluster refinement的模型改进定义,作者发现一价拍卖在特定条件下(如tCPA投标者无预算约束)能保证收入单调性,而二价拍卖和预算约束可能破坏这一性质。
Jingtao He et al.
cs.CV cs.AI
本文提出了一种结构化多级视觉扰动框架,用于分析Vision-Language-Action (VLA)驾驶模型对视觉信息的依赖程度,通过channel-level degradation、information-level disruption和structure-level modification三个维度的扰动实验,揭示了模型在不同抽象层次上的视觉grounding不均匀性。该工作主要贡献在于提供了诊断视觉-行为依赖性的系统方法,但未涉及关键词中的code、spectral、Muon、pretrain、agent或attention等核心概念。
Jiejun Tan et al.
cs.CR cs.AI cs.CL
本文研究了LLM agents在本地工作环境中面临的多步trojan攻击威胁,并提出了ClawTrojan基准测试和DASGuard防御方法。该工作主要关注agent安全领域,与关键词中的agent概念相关,但方法本身在数学或理论上的开创性有限。
Isabella Costa Maia et al.
stat.ML cs.AI cs.LG
本文提出了一种在Stiefel流形上的动态路由方法用于跨域EEG解码,通过将每个输入协方差矩阵路由到最合适的投影滤波器来适应子空间。文章发现该方法的朴素实现会退化为集成平均,并提出了三种结构性质来打破这种退化,在三个数据集上取得了性能提升。
Fabrizio Fagiolo, Marco Baioletti, Valentino Santucci
cs.NE cs.AI
本文针对Linear Ordering Problem (LOP)提出了基于最新经济数据的新benchmark,并设计了一种利用现有metaheuristics生成多样化高质量解集的算法框架。该工作主要关注benchmark更新和多解场景的评估,与关键词列表中的概念关联较弱。
Chih-Heng Chang et al.
cs.SD cs.AI
AnchorSteer提出了一种通过自发现概念向量注入扩散模型隐空间的方法,用于在保持音乐节奏和旋律结构的同时编辑高层属性。该方法通过自监督重构目标提取可解释的概念向量,并配合结构适配器实现语义与结构的解耦。
Gael Glorian et al.
cs.CV cs.LG
本文提出了一种无需训练的稀疏注意力机制LVSA,用于长视频扩散模型,通过结合结构化窗口模式和旋转全局锚点来降低计算成本并避免长距离伪影。该方法在多个模型上实现了2-3倍的速度提升,并引入了VQeval工具来更公平地评估视频质量。
Jiajun He et al.
stat.ML cs.LG physics.chem-ph physics.comp-ph
本文提出了一种在任意状态空间上进行自由能估计的通用框架,通过推广神经传输学习方法,将效率提升从连续空间扩展到离散、多模态及自回归设置。此外,论文建立了代数恒等式并揭示了无穷小时间反转与广义Doob \(h\)-变换之间的群论结构。
Bruno De Filippo, Carla Amatetti, Alessandro Vanelli-Coralli
eess.SP cs.AI
本文提出了一种名为DRIFT的轻量级信道估计与预测框架,用于6G低轨卫星网络,通过仅在初始时隙发送导频来减少导频开销,并利用数据驱动处理进行后续时隙的信道跟踪。该方法在端到端仿真中实现了高达12%的频谱效率增益,且计算复杂度低于20万次乘加运算,适合星上实现。
Bo Peng et al.
cs.CV cs.CL
本文提出VISTA框架,通过多层级事件语义挖掘(包括字符级视觉提示、知识增强迭代检索和类人提议-检索策略)来解决长视频事件预测问题。实验验证了其在真实数据集上的有效性。
Iosif Tsangko et al.
cs.MM cs.AI cs.CL cs.CV cs.HC
本文探讨了使用小型视觉语言模型(VLM)为盲人和低视力观众生成多语言艺术描述的方法,通过对比语言特定与多语言适配器的性能,发现语言特定适配器在部分语言上表现更稳定,但整体仍属初步探索,未涉及关键词中的核心概念。
Chunlei Li et al.
cs.CV cs.AI
本文提出了一种基于训练动态的Signed Entropy Integral (SEI)统计量,用于检测训练数据中的错误标注样本。该方法通过观察正确标注样本的预测entropy在训练中持续下降而错误样本保持高entropy的现象,实现了对错误标注的有效识别。
Erik Großkopf et al.
cs.CV cs.AI
本文重新定义了Panoptic Segmentation中的instance matching问题,将其形式化为约束二分图分配问题,并提出了四种匹配策略(One-to-One, Many-to-One, One-to-Many, Many-to-Many)。该框架扩展了Panoptic Quality (PQ) metric的适用性,并支持part-aware evaluation,但未涉及code, context, spectral, Muon, pretrain, agent, attention等关键词。
Yunkai Lou et al.
cs.DB cs.AI
本文提出SpecDB系统,利用LLM将关系数据库分解为功能模块并生成定制化数据库,通过DBGraph依赖图和分层agent流水线实现模块的生成与集成。实验表明生成的Rust数据库在TPC-C测试中性能接近PostgreSQL和MySQL,但代码量仅为它们的3%。
Jonathan Swinnen, Tinne Tuytelaars
cs.CV cs.LG
本文提出了一种针对domain incremental learning的新方法,允许模型在流式数据(如视频)上通过自监督MAE头和LoRA适配器实现领域适应,并在测试时通过在线训练识别最佳适配器以恢复遗忘的领域知识。该方法主要应用于action recognition和semantic segmentation任务。
Navin Sriram Ravie et al.
cs.RO cs.LG
本文提出了一种名为"Don't Fool Me Twice"的持续学习框架,使移动embodied agent能够在线学习扰动并通过语义将异常行为归因于原因。该方法结合vision-language model (VLM)和kernel regression进行few-shot异常建模,但整体方法在理论创新性上较为常规,与关键词列表中的核心概念关联度不高。
Binglun Wang, Edmond S. L. Ho, He Wang
cs.GR cs.AI cs.LG
本文提出了一种名为SWIM的物理模拟游泳动作合成方法,通过从单个动作中学习,实现了在不同环境、身体条件和泳姿下的泛化控制。该方法解决了在流体环境中学习控制的挑战,并展示了数据效率和鲁棒性。
Tianle Zeng et al.
cs.RO cs.AI
本文针对户外视觉语言导航(VLN)中语义线索中断导致agent行为退化的问题,提出了一种名为TARIC的框架,通过构建与traversability一致的3D cue memory来维持目标导向的引导。该方法将可见性门控的语义方位转化为可执行的heading,并利用不确定性感知的读出机制防止引导在绕行中退化。实验在四足和轮式平台上验证了其有效性。
Melike Akca et al.
cs.HC cs.AI
本文提出了一种基于生成式AI增强的UXR方法论,用于设计针对ADHD成人的神经包容性情绪调节数字干预,整合了DBT、SDT和COM-B等心理学框架,并生成了十张理论驱动的UXR Play Cards作为设计指导。
Emmanuel Oluwatosin Oluokun et al.
cs.HC cs.AI
本文提出了一种基于生成式AI增强的UXR方法论,用于指导尼日利亚MSM和跨性别HIV/AIDS患者的数字健康干预设计,通过四阶段UXR流程和十张理论驱动的UXR Play Cards提供可操作的设计指导。该方法论强调隐私保护和污名意识,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)无直接关联。
Yu Li et al.
cs.CR cs.CL
本文提出EvoDefense,一种基于经验引导的协同进化黑盒防御范式,通过守卫LLM检测恶意查询和经验记忆模块积累防御知识,在攻击-防御进化循环中迭代优化策略。实验表明该方法能泛化到未见过的攻击类型和目标模型,但未涉及code, context, spectral, Muon, pretrain, agent, attention等关键词。
Festus Fatai Adedoyin et al.
cs.HC cs.AI
本文提出了一种将Generative AI增强到UXR PoV金字塔中的方法,用于以人为中心的AI债务管理技术,并设计了结构化提示架构和Playbook Card系统。该方法旨在提升金融AI系统中可解释性和伦理监督,但未涉及code、spectral、Muon或pretrain等关键词。
Mohammed Asad Karim, Vinay Kumar Verma
cs.CV cs.AI cs.LG
本文提出了一种名为FOCUS的两阶段训练框架,用于在无需类别监督的情况下实现视觉in-context localization (ICL)。该方法通过优化support bounding boxes与query image之间的in-context attention,并利用Group Relative Policy Optimization (GRPO)直接最小化定位误差,从而强制模型依赖视觉对应而非语义先验。实验表明,一个7B参数的模型在性能上超越了高达72B参数的模型。
Olumuyiwa Ayorinde et al.
cs.HC cs.AI
本文探讨了如何将用户体验研究方法与AI支持的分析相结合,为紧急和公共安全人员的数字健康干预提供设计方向。研究通过AI辅助文献分析识别了心理、行为和设计模式,并生成了UXR PoV金字塔等工具,强调系统需减少认知负担并适应操作环境。
Abiodun Adedeji et al.
cs.HC cs.AI
本文通过一个远程医疗痴呆症护理案例,展示了如何结合混合方法研究、假设生成和基于ontology的建模来构建一个文化敏感且由AI增强的UXR POV(用户研究观点),但未涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Tianhui Liu et al.
cs.CV cs.AI cs.CL
本文提出了一个名为SpatialAct的基准测试,用于探测VLM agent在3D场景中的空间推理到行动能力。实验发现,当前VLM在孤立的空间推理任务上表现良好,但在多轮交互中难以维持连贯的空间信念并产生可靠行动,存在明显的推理到行动的差距。
Fatima Ahmad Muazu et al.
cs.HC cs.AI
本文探讨了如何将UX研究原则与大语言模型支持的分析相结合,以改善面向认知障碍学习者的移动学习系统需求质量,提出了一个包含四个阶段的方法论框架。该研究主要关注人机交互与人工智能在教育中的应用,与关键词列表中的概念关联较弱。
Yunfei Yang, Jun Fan
stat.ML cs.LG math.NA
本文研究了深度ReLU神经网络在逼近和学习各向异性及混合光滑函数时的效率,建立了在\(L^p\)范数下的逼近率,并证明了对于各向异性Besov空间和混合光滑Besov空间,网络能以特定速率逼近函数,这些结果可用于推导复合函数的逼近界。
Jiacheng Lu et al.
cs.CV cs.LG
本文提出Light Interaction框架,通过自适应上下文管理、去噪缓存加速和硬件-软件协同设计的3D块稀疏注意力机制,实现交互式视频世界模型的无训练推理加速,在保持视觉质量的同时获得最高2.59倍加速。
Matthew Dowling et al.
stat.ML cs.LG
本文提出了设计模型框架,通过精确的Bayesian filtering将证据写入memory,并利用query-dependent readout生成预测分布。该框架统一了多种次二次递归结构,并展示了恢复协方差可提升模型在训练分布外的鲁棒性。
Firas Gabetni et al.
cs.CV cs.LG
本文提出了一种基于Positive Unlabeled (PU)学习的协变量偏移检测方法SPUNA,通过利用视觉特征的局部流形结构逐步发现偏移数据,在弱监督下达到了与全监督方法相当的性能。
Jun Wang, Xiaohao Xu, Xiaonan Huang
cs.CV cs.AI cs.CL cs.RO
本文提出了TouchSafeBench基准,用于评估Vision-Language Models在安全人机协作中的碰撞接地能力,发现当前模型在推断物理接触方面表现不佳,视觉流畅性不等于物理可靠性。
Zekeri Adams et al.
cs.CR cs.AI
本文基于UFO理论分析了MAEC和STIX标准在动态恶意软件分析中的本体论缺陷,并提出了MAECO-Lite轻量级本体,通过模块化结构分离持久实体与运行时事件,提升了语义清晰度和计算可用性。
Xuanwen Liang, Eric Wai Ming Lee
cs.RO cs.AI
本文提出了一种基于GAN的数据驱动人群运动模拟模型CPGAN,通过引入侧向加速度碰撞损失函数和Voronoi特征提取来减少双向流中的碰撞率。该方法在模拟双向人群流动时能复现车道形成等行为,但未涉及代码、上下文或谱方法等关键词相关技术。
Junling Wang et al.
cs.CV cs.AI cs.CL
本文提出了equation-to-visual生成任务,要求从算术方程生成具有教学意义的视觉内容,并构建了E2V-Bench基准来评估T2I模型在该任务上的表现。实验发现现有模型在物体计数和关系结构上存在显著错误,并探索了基准引导的增强策略。
Ei Hmue Khine et al.
cs.CV cs.CR cs.LG
本文提出Latent Geometric Chords (LGC)方法,通过在压缩语义流形上执行曲率感知的几何搜索来生成对抗样本,并引入Residual-based Adversarial Generation (RAG)机制以提升视觉保真度。实验表明该方法在查询效率和视觉质量上优于现有基线。
Roberto Figliè et al.
cs.CY cs.AI cs.HC
本文通过混合方法研究比较了基于LLM的对话界面与传统图形界面在工业决策任务中的表现,发现对话界面能减少交互负担但效果因任务而异,需进一步验证。该研究与关键词列表中的“agent”概念相关,但方法上缺乏开创性且未解决长期问题。
Alicja Dobrzeniecka et al.
cs.CV cs.AI
本文针对持续多模态检索(CMR)任务,提出了一个基于原型路由选择adapter并通过模型拼接组合的Dynamic Adapter Routing (DAR)方法,实验表明其优于现有基线。该工作主要关注持续学习场景下的检索性能,与关键词中的code、spectral、Muon、agent等概念关联较弱。
Enrico Ballini, Allan Peter Engsig-Karup, Tito Andriollo
math.NA cs.LG
本文提出了一种基于holomorphic neural network的框架,用于求解由harmonic potentials控制的三维边界值问题。该方法利用Whittaker积分公式并通过holomorphic neural network近似,使得控制PDE被精确满足,训练仅需边界配点。
Salim I. Amoukou, Saumitra Mishra, Manuela Veloso
stat.ML cs.AI cs.LG
本文针对在线决策树中基于Hoeffding Trees的分裂选择问题,提出了一种基于任意有效推断(anytime-valid inference)的替代方法,以解决现有方法因使用固定样本浓度界而导致的统计保证失效问题。该方法能在非平稳数据流中控制错误分裂概率,并在平稳i.i.d.数据下保证风险单调递减。
Salim I. Amoukou et al.
stat.ML cs.AI cs.LG
本文提出Entropic Projection Alignment (EPA)方法,通过匹配选定的矩并最小化与source分布的KL散度,以统一解决分布偏移下的性能估计、解释与改进问题。该方法具有闭式解和计算效率优势,但与我提供的关键词列表关联度较低。
Kaiwen Xue et al.
cs.CV cs.AI
本文提出了ERGeoBench,一个用于评估多模态大语言模型在具身地理定位(embodied geo-localization)中视觉推理能力的基准测试,包含单视图、全景视图和具身视图三种渐进式设置。实验表明当前模型能推断高层地理语义,但在细粒度感知、度量定位和跨视图空间一致性上仍存在困难。
Nan Bao et al.
cs.CV cs.AI cs.LG
本文提出了一种用于少样本非典型布局到图像生成(L2I)任务的表示驱动框架,通过Semantic Anchoring和Primitive Imbuing分别处理语义身份与视觉细节的分离,以解决表示碎片化问题。该方法在5-shot设置下相比现有方法在视觉保真度和对齐性上有所提升。
Mert Yazan, Suzan Verberne, Frederik Bungaran Ishak Situmeang
cs.HC cs.AI
本文通过一项\(2\times2\)的受试者间实验,研究了对话AI中个性化(contextualization)与温暖感(warmth)对用户信任和依赖的影响。结果表明,个性化会降低AI的说服力,但与温暖感结合时可通过交互效应恢复说服力,且用户对AI的依赖在不同条件下保持稳定。
Ransika Gunasekara, Rahat Masood, Salil Kanhere
cs.CR cs.LG
GETA提出了一种协议无关的加密流量分析框架,将网络流建模为multivariate time series并仅使用traffic metadata,结合meta-learning和self-attention实现few-shot适应。该方法在多个数据集上表现优于基线,但未涉及code、spectral或Muon等关键词。
Ruiqi Kong, He Chen, Xiaojun Lin
eess.SP cs.AI cs.NI
本文提出了一种名为GUIDE的物理引导深度展开框架,用于AI-RAN中的跨频段信道预测。该方法通过将无线信道物理嵌入可微分层,在无需重新训练的情况下实现了比深度学习基线更好的波束赋形增益,同时推理速度远快于基于模型的基线。
Suyog Jadhav, Dilip K. Prasad, Krishna Agarwal
cs.CV cs.AI
本文针对荧光显微镜中线粒体实例分割任务,通过微调Segment Anything Model (SAM)在合成数据上训练,以解决真实标注数据稀缺和域偏移问题。实验表明该方法在真实图像上提升了分割精度和Dice分数。
Taiyi Su et al.
cs.RO cs.AI
本文提出DeMaVLA,一个用于可变形物体操作的Vision-Language-Action基础模型,采用VLM骨干网络与动作专家结合,通过flow matching生成连续动作,并利用数据聚合进行后训练。实验表明其在家庭折叠任务上表现良好,但方法本身与关键词中的code, context, spectral, Muon, pretrain, agent, attention关联度较低。
Roberto Figliè et al.
cs.CY cs.AI cs.HC
本文通过实验比较了基于LLM的conversational agent与dashboard在工业决策支持中的表现,发现conversational user interface在低复杂度任务中能降低mental workload并加快完成速度,但随着任务复杂度增加这些优势消失,且两种界面在决策准确性上无显著差异。
Ioannis Prokopiou et al.
cs.SD cs.AI cs.IR cs.LG
本文研究了Multitrack Music Transformer的机械可解释性,通过推理时的activation steering方法(如Difference-in-Means)实现对Pitch和Duration等属性的确定性调控,并引入Gram-Schmidt正交化解决多属性调控中的特征纠缠问题。
Sawan Patel et al.
q-bio.BM cs.LG
本文提出mRNAutilus框架,结合masked discrete diffusion model与Monte Carlo Tree Guidance,实现从序列直接进行多目标优化的完整mRNA生成,同时优化codon usage与UTR设计。该方法在多个治疗性靶点上显著提升了表达效率与稳定性。
Chao Yin et al.
math.OC cs.DC cs.LG
本文提出了一种名为Snapshot-SLDBO (S\(^3\)LDBO)的分布式双层优化算法,通过快照机制允许智能体间歇性地跳过昂贵的导数计算,从而提升计算效率。实验表明,该方法在超参数优化和元学习等任务中能在保持学习性能的同时降低计算负担。
Haolin Deng et al.
cs.CV cs.CL
本文提出In-Context Visual Contrastive Optimization (IC-VCO)方法,通过将对比图像置于共享的多图像context中,并引入Visual Contrast Distillation (VCDist)正则化器,以缓解多模态幻觉问题。该方法在五个benchmark上取得了最佳整体性能,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Van An Nguyen et al.
cs.GT cs.AI cs.MA math.OC nlin.AO
本文研究了有限混合群体中社会困境(Donation Game和Public Goods Game)下,制度性奖励与惩罚对social welfare(社会总收益扣除制度成本)的影响,推导了期望social welfare的显式表达式,并分析了其与激励效率和选择强度的关系。
Chi-Ching Juan, Tao Wang, Harold Lee
cs.HC cs.AI
本文从信号成本视角出发,提出Signal Cost Proxies框架,将情感丰富度、观点采择和上下文定制映射到情感、认知和联想共情,用于评估AI共情的适当性。该工作主要关注人机交互中的共情量化问题,与关键词列表中的概念关联较弱。
Matthias Templ
stat.ML cs.LG stat.ME
本文研究了成分数据(compositional data)在单纯形上的单元污染(cellwise contamination)理论,通过乘性扰动构建了尺度不变的污染模型,并证明了单个原始部分的污染会导致log-ratio向量发生秩为1的偏移。该工作为单纯形上的单元稳健方法提供了理论基础。
Alexandra Suvorikova et al.
math.OC cs.LG
本文研究了零阶优化中可调oracle fidelity(查询精度)的wall-clock复杂度模型,分析了不同优化方案在总时间最小化下的参数选择,并指出加速方法在某些情况下可能不如非加速方案。
Tomas Leroy-Stone
cs.MA cs.AI cs.LG
本文提出了一种将多智能体强化学习中的队友建模为Dreamer风格world model中可学习组件的方法,通过分解latent state并引入Theory-of-Mind head来推断队友行为。该方法旨在支持部分可观测环境下的zero-shot和few-shot协调,但并未涉及code、spectral、Muon或pretrain等关键词。
Jason M. Altschuler, Pablo A. Parrilo
math.OC cs.DS
本文探讨了通过选择更好的步长来加速gradient descent的可能性,并介绍了stepsize hedging这一机制。文章以通俗易懂的方式阐述了这一现象。
Katharina Lachner et al.
physics.ins-det cs.LG hep-ex
本文探讨了基于深度学习的低能量触发算法在Hyper-Kamiokande实验中的应用,使用监督分类器和异常检测方法(如autoencoder和MPDR)来识别低能中微子事件,并展示了其在效率和实时性上的优势。
Arnak S. Dalalyan, Avetik Karagulyan
math.ST cs.LG
本文研究了Langevin Monte Carlo方法在强log-concave分布下的非渐近界,通过平均坐标光滑性常数改进了离散化误差的Wasserstein距离上界。该结果还推广到变步长、Laplacian光滑势能以及有限和问题中的随机梯度Langevin动力学,在广义线性模型中显示出维度相关的改进。
Naoki Chihara et al.
stat.ME cs.LG econ.EM math.ST
本文提出了一种回归调整框架,用于估计随机实验中纵向处理效应,通过考虑中间结果和随时间演变的协变量,并利用transition kernels表示动态轨迹,建立了估计量的渐近正态性和半参数效率界。
Antonio Valerio Miceli-Barone, Vaishak Belle, Shay B. Cohen
cs.GT cs.AI cs.CL cs.LG
本文研究LLM作为谈判agent在部分信息下的表现,发现它们偏离博弈论均衡,且优化财务收益会使其更不诚实。
Hui Wu, Xiaoyang Wang, Zhong Fan
cs.SE cs.CL eess.SY
本文针对LLM在电力系统代码生成中的API知识边界错误,提出了PowerCodeBench基准测试、L0-L3文档驱动的知识探测方法以及边界感知干预策略,通过注入文档和路由修正提升了开源模型和商业API的代码生成准确率。
Arnas Uselis, Darina Koishigarina, Seong Joon Oh
cs.CV cs.LG
本文研究了vision-language embedding models(如CLIP)在concept binding(概念绑定)任务中的局限性,发现其scene embeddings可加性分解为object representations,但binding function的高复杂性阻碍了跨模态的泛化。通过从零训练的transformer模型,作者证明在足够数据覆盖下,模型能学习到低复杂度的binding function,实现systematic generalization。
Maksuda Bilkis Baby et al.
cs.SE cs.AI cs.CR
本文提出一个基于CodeBERT和字符级模式识别的混合框架,用于在源代码中检测凭证泄露,将占位符或弱凭证作为独立类别进行三分类。该方法在10种编程语言的9426个样本上达到0.86的Matthews相关系数和0.90的宏F1分数,并显著降低了误报率。
Federico Califano, Jacopo Ciambella
cond-mat.soft cs.LG
本文提出了一种基于语法符号回归的框架,用于从数据中发现满足热力学约束的耗散势函数,并在广义标准材料框架下验证了其有效性。该方法通过构造保持凸性的语法来保证热力学相容性,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Eric Liang
cs.CV cs.AI
本文提出了一种用于3D场景重建的自适应特征优化视觉前端方法,通过纹理、重复性、区分度、三角化角度和空间覆盖度等指标对候选特征进行评分,并分配每视图的特征预算以最大化有效轨迹。实验表明,该方法在多个场景下优于随机、仅纹理和均匀网格基线,但并未涉及关键词中的code、context、spectral、Muon、pretrain、agent或attention等概念。
Ulrich Prestel et al.
cs.CV cs.AI cs.LG
本文提出RayDer,一个统一的feed-forward transformer,将camera estimation、scene reconstruction和rendering整合到单一backbone中,以解决self-supervised novel view synthesis的可扩展性问题。该方法通过最小化动态状态实现稳定训练,并在多个benchmark上取得了与监督方法竞争的zero-shot性能。
Ashok Choudhary et al.
cs.CV cs.LG q-bio.QM
本文提出了一种基于术前CT扫描的自动深度学习管道,用于预测术后胰腺瘘(POPF)风险,评估了多种3D CNN架构(如CNN3D、R(2+1)D ResNet-18和ResNet-MC3-18)的性能,为胰腺特异性CT分类提供了方法学基准。
Jinseok Kim
cs.DL cs.IR cs.SI
本文研究了合著者网络中因作者姓名歧义导致的顶点合并与分裂对网络度量的影响,通过反事实分析发现基于首字母的消歧方法会低估网络规模并高估作者的合作紧密性。
Arnau Marin-Llobet, Simon Henniger, Mahzarin R. Banaji
cs.CV cs.AI cs.CL cs.CY cs.HC
本文研究了视觉语言模型(VLMs)在模糊输入下对性别表征的抑制现象,引入LALS (Latent Association Leaning Score)指标来测量模型内部的概念关联。实验发现模型内部编码与输出存在系统性解耦,女性信号在生成前被抑制。
Ruotong Liao et al.
cs.CV cs.AI
本文提出TunerDiT,一种无需额外训练的方法,通过分析Diffusion Transformer (DiT) 去噪轨迹中的转折点,利用事件分区掩码和跨事件提示融合来生成包含多个事件的视频,在多个指标上达到最优性能。该方法主要关注视频生成中的事件控制,与关键词中的code、context、spectral等概念关联较弱。
Alireza Kheirandish, Jihoon Hong, Sara Fridovich-Keil
cs.CV cs.LG
本文提出了一种基于KL-divergence的OOD检测指标,用于在逆问题中检测分布偏移,无需校准数据或先验知识。该方法能检测整张图像的分布偏移,并定位图像中的局部异常区域。
Jiazheng Xing et al.
cs.CV cs.AI
本文提出Lumos-Nexus,一种基于连接器的视频统一模型框架,通过两阶段设计(训练时对齐轻量级生成器,推理时使用Unified Progressive Frequency Bridging在共享latent space中渐进切换至大容量生成器)来提升视频生成质量,并引入VR-Bench基准评估推理驱动的视频生成能力。该方法主要关注视频生成效率与保真度,与关键词中的spectral、Muon、agent等无直接关联。

- 数据来源 Data Source: arXiv.org

- 本网页的内容由 bluearXiv-ai 自动生成。实际抓取的是 arXiv 中 "new" 页面的数据,即最近的有所在分类论文变动的一天的数据。

- 感谢 arXiv 提供的服务。评论和精选由 AI 生成,不代表任何人对论文本身的看法。精选依赖于论文与给定关键词的匹配度。

- 计数基于主学科,不计重数。

- This webpage is automatically generated by bluearXiv-ai.

- The data actually captured is from the "new" page, that is, the data of the most recent day when there were changes in corresponding subjects.

- Thanks for services prodived by arXiv. Comments and selection of good papers are generated by AI, not showing anyone's point of view about those papers.

- The selection also depends on the matched-degrees between papers and given keywords.

- The counters are based on main subject, not counting multiplicities.