bluearXiv-ai 论文精选

2026-05-18

📚 跟踪学科 (Categories)

🔍 筛选关键词 (Keywords)

📊 论文统计 ↑ 回顶部

cs.LG
127
cs.AI
51
cs.IR
8
cs.CL
55
cs.DS
5
others
131
总计
377

⭐ 精选论文 ↑ 回顶部

cs.LG

Kyle R. Chickering et al.
cs.LG cs.AI
Yihong Dong et al.
cs.LG cs.AI cs.CL cs.SE
Yihan Zhu et al.
cs.LG
Lizhang Chen et al.
cs.LG math.OC stat.ML
Zezhong Ding et al.
cs.LG cs.DB
Tongxi Wang
cs.LG cs.AI cs.GT
Kai Hidajat, Solden Stoll, Joseph An
cs.LG cs.AI

cs.AI

Jiachen Jiang, Huminhao Zhu, Zhihui Zhu
cs.AI cs.LG cs.MA
Jingjing Wang et al.
cs.AI cs.CL
Igor Bogdanov et al.
cs.AI cs.CL cs.LG cs.MA eess.SY

cs.IR

cs.CL

Yichen Zhu et al.
cs.CL

cs.DS

Ivan Lahtin, Viktor Zamaraev
cs.DS cs.DM math.CO

others

Jianke Zhang et al.
cs.CV cs.AI
Ruben Chocron et al.
cs.CR cs.AI cs.MA

📄 所有论文 ↑ 回顶部

cs.LG

Yi Xie et al.
cs.LG cs.MA
本文提出TeamTR,一种用于多智能体LLM系统的信任域微调框架。该方法通过在每个组件更新后重新采样轨迹并施加每个agent的divergence控制,解决了sequential fine-tuning中因context distribution偏移导致的compounding occupancy shift问题。实验表明TeamTR在协调任务上平均提升7.1%,并支持即插即用的组件替换,与关键词“agent”高度契合。
Kyle R. Chickering et al.
cs.LG cs.AI
本文基于spectral feature-learning视角,将spectral norm条件从启发式方法提升为feature learning的定义,从而在不依赖lazy-learning的情况下推导出Complete-P depth和weight-decay scaling。针对grouped-query attention (GQA)中权重矩阵非满秩的情况,作者引入了一种修正的spectral norm以保持权重的有效scaling law,并首次推导出GQA的\(\mu\)P scaling。实验表明,该方法在GQA重复超参数和weight decay上均实现了learning rate transfer,为attention架构的超参数迁移提供了理论支持。
Yihong Dong et al.
cs.LG cs.AI cs.CL cs.SE
本文提出DIO-Agent,一种用于从输入-输出行为自动合成程序(IO2Code)的discovery agent方法。该方法将IO2Code形式化为离散程序空间上的evolutionary search,利用LLM作为mutation operator,并由执行产生的具体error signals引导每次变异。为避免搜索陷入结构复杂但错误的死胡同,作者引入Transformation Priority Premise作为mutation prior,使LLM偏向于与当前证据一致的最简单假设,仅在简单结构不足时逐步升级为条件与迭代。实验表明,DIO-Agent在多个难度级别上一致优于传统program-by-example方法和SOTA evolution-agent基线,并在同等采样预算下显著超越test-time scaling策略。
Yihan Zhu et al.
cs.LG
CoMole提出了一种基于motif-aware graph diffusion的统一分子生成基础框架,通过将预训练的结构先验迁移到可控生成中,并利用reinforcement learning优化条件反向策略,解决了分子图生成中原子级action space过大和化学无效中间状态的问题。该方法在材料与药物发现的九个可控性目标上均排名第一,MAE相对最强基线降低最多48.2%,且无需规则校正即可保持validity高于0.94。此外,CoMole通过仅优化task embeddings并冻结生成器,实现了对未见属性的可控性迁移,性能与强任务特定基线相当。该工作为分子生成领域提供了首个兼具统一性与可靠可控性的基础模型,与关键词中的pretrain和agent高度契合。
Lizhang Chen et al.
cs.LG math.OC stat.ML
本文提出\(\phi\)-balancing框架,通过最小化期望路由分布的严格凸、对称且可微势函数,直接优化Mixture-of-Experts (MoE)模型的专家负载平衡。利用convex duality推导出等价的min-max形式,并通过mirror descent得到基于指数移动平均(EMA)的简单在线算法,计算开销可忽略。在大规模pretrain和下游fine-tuning中,该方法在专家利用的稳定性和有效性上持续优于Switch-style和loss-free基线,与关键词"pretrain"和"attention"(路由机制)高度契合。
Jiading Gai et al.
cs.LG
DualKV提出了一种针对RL post-training(如GRPO和DAPO)中shared-prompt冗余问题的FlashAttention kernel变体。其核心创新在于通过fused CUDA kernel在单次launch中处理shared context和per-sequence response两个disjoint KV region,并配合veRL中的数据pipeline重排,将\(N(P+R)\) tokens压缩为\(P+NR\) tokens per micro-batch,从而将token reduction从attention层扩展到整个模型。该方法在数学上等价于标准attention且无近似,在Qwen3-8B和30B MoE规模上实现了显著的policy-update和end-to-end step加速,并大幅提升了MFU。该工作与关键词“attention”高度契合,且为RL训练中的attention计算效率问题提供了开创性的kernel级解决方案。
Yikun Zhang et al.
cs.LG cs.AI
本文提出DrugSAGE (Self-evolving Agent Experience)框架,通过构建跨任务记忆系统来积累和复用agent在药物发现模型开发中的经验。该框架维护已验证技能、有效策略的统计证据以及常见错误修复记录,在某些情况下可直接迁移工作解决方案而无需测试时搜索。在33个分子性质预测任务中,该方法在单任务设置下排名第一,并在跨任务评估中通过从16个小任务积累的记忆,在17个保留任务上达到0.935的平均归一化分数,在零测试时搜索场景下超越所有基线agent 10-30%。这项工作展示了跨任务记忆在高效构建state-of-the-art药物发现模型中的优势,与关键词"agent"高度契合。
Shangjian Yin et al.
cs.LG cs.AI cs.CL
本文提出GRLO方法,从零开始在开放环境中通过少量交互(仅5K prompts和22.7 GPU hours)进行Reinforcement Learning from Human Feedback (RLHF)训练,并发现其习得的对话能力可以隐式泛化到数学推理和code生成等下游任务。在Qwen3-4B-Base上,GRLO将平均性能从24.1提升至63.1,所需数据和计算量分别比强in-domain RLVR基线少约46倍和68倍,且结果与需更大训练成本的Qwen后训练模型相当。该方法为构建广泛能力的后训练模型提供了简单高效的recipe,并指出后续in-domain RLVR阶段仅在较难的competition-math基准上带来选择性提升。
Ceyu Xu et al.
cs.LG cs.CL
本文提出STS,一种无需模型重训练的稀疏注意力机制。其核心创新在于利用小型draft model的注意力分数来预测大型target model中的重要token,从而动态构建token和head级别的稀疏掩码。通过将这一机制集成到speculative decoding框架中,STS能有效剪枝昂贵的注意力计算,在NarrativeQA基准上以约90%的稀疏度实现了2.67倍的加速,同时保持可忽略的精度损失。该方法在稀疏度与精度的权衡上达到了新的最优水平,与关键词“attention”高度契合。
Zezhong Ding et al.
cs.LG cs.DB
本文提出Gaussian Relational Graph Transformer (GelGT),针对关系图学习中长程依赖捕获困难以及结构、语义与时间信息联合建模不足的问题。GelGT引入结构-语义协同采样策略以保持结构连通性并过滤无关语义,并设计带有可学习高斯偏置的Gaussian graph attention机制,在采样子图上动态编码时间依赖。实验表明,GelGT在多个真实数据集上达到最先进性能,预测效果提升高达13.8%。该工作与关键词attention高度契合,并在图transformer的注意力机制设计上具有创新性。
Tan-Ha Mai et al.
cs.LG cs.AI cs.CV
本文针对互补标签学习(CLL)中多类别场景下的长期瓶颈问题,提出了一种名为Bias-Induced Constrained Labeling (BICL)的框架。该框架通过故意设计非均匀的biased transition matrix(有偏转移矩阵),将互补标签限制在类别子集上,从而有效增强了学习信号。实验表明,BICL在CIFAR-100和TinyImageNet-200上实现了超过传统方法七倍的精度提升,为CLL在真实世界多类别应用中的可行性开辟了新路径。
Ali Abbasi et al.
cs.LG
本文提出IO-SVD方法,通过构建KL-aware双面whitening空间(同时利用输入activation statistics和输出predictive sensitivity)对模型权重进行低秩分解,并引入基于first-order calibration loss的heterogeneous rank-allocation策略来全局剪枝最不敏感的奇异成分。该方法解决了现有SVD压缩中仅依赖输入whitening、同质rank分配或loss-agnostic启发式方法的局限性,在保持模型质量的同时实现高效压缩。此外,IO-SVD还改进了hybrid SVD-quantization压缩,通过loss-aware remapping选择对量化损失影响最小的低秩因子行进行8-bit量化,实验表明其在多种LLM和VLM上均能实现最小性能退化并带来实际推理加速。
Tongxi Wang
cs.LG cs.AI cs.GT
本文针对softmax反馈系统的稳定性问题,提出了一个尖锐的谱阈值条件。作者证明,对于有限维仿射logit系统,系统存在唯一且全局可预测结果的充要条件是\(\beta\|\Pi W\Pi\|_{\mathcal T\to\mathcal T}<2\),而非经典理论中过于保守的条件。这一结果填补了此前缺失的预分岔(pre-bifurcation)区域,将稳定性保证从强随机化扩展到了对奖励敏感但仍全局可预测的系统,并精确识别了系统发生相变的临界点。该工作与关键词中的spectral高度契合,解决了该领域长期存在的稳定性边界刻画问题。
Xingjian Wu et al.
cs.LG
本文提出Differentiable Mixture-of-Agents (DMoA),一种自进化的多agent框架,通过设计可微分的、上下文感知的routing机制,利用recurrent结构在推理过程中动态激活agent,隐式模拟多种通信拓扑。该方法引入predictive entropy作为自监督信号优化routing过程,无需外部标注即可实现测试时自适应。实验表明,DMoA在9个benchmark上达到state-of-the-art性能,与关键词"agent"高度契合,并为多agent系统的灵活协作提供了开创性方法。
Kai Hidajat, Solden Stoll, Joseph An
cs.LG cs.AI
本文提出了一种新的理论框架,将Transformer的“顿悟”(grokking)现象解释为结构推断(structural inference)过程。作者将attention形式化为任务依赖图上的隐式Bayesian后验,并证明泛化需要两个可分离条件:MLP容量的Goldilocks界(与基于范数的理论一致)以及一个新颖的Bayesian结构条件,要求attention在每个信息性token上放置足够质量。该工作通过推导出逆权重衰减的结构等待时间,解释了延迟泛化,并提出基于KL散度的结构干预可以绕过这种延迟,从而为顿悟时间提供逆干预强度的标度律。实验在算法序列任务上验证了该“Bayesian ticket”与lottery-ticket迁移相比具有竞争力,为理解attention机制中的结构学习提供了新视角。
Qitan Lv et al.
cs.LG
本文提出AOT-POT方法,通过自适应算子变换(adaptive operator transformation)将复杂多样的PDE solution operators转化为更易建模的统一形式。该方法在Transformer架构中引入多路并行隐藏表示,并利用Sinkhorn投影的双随机矩阵进行自适应聚合与重分配,从而在不显著增加参数(仅3%)的情况下,在12个PDE基准上实现state-of-the-art性能,相对L2误差平均降低40.9%。这项工作为大规模PDE预训练提供了超越单纯扩展模型容量的新方向,与关键词中的pretrain和attention高度契合。
Shaojun Xu et al.
cs.LG cs.RO
本文提出Mind Dreamer (MD)框架,通过Active Latent Intervention (ALI)机制突破Model-Based Reinforcement Learning (MBRL)中“历史束缚”问题。MD利用对抗生成器从\(p_{gen}(\cdot)\)采样非连续潜在状态作为初始想象,并推导出Relay Value Function (RVF)和Relay Uncertainty Function (RUF)以解决跨空间间断的信用分配悖论,其中不确定性传播需二次折扣\(\gamma^2\)。理论证明该方法可扩展流形的spectral gap并减少到达关键瓶颈状态的hitting time,实验在DeepMind Control Suite上平均加速1.67倍,稀疏奖励任务达8.8倍。该方法与关键词中的agent和spectral高度契合。
Xiayu Liu, Zhengyi Lu, Hou-biao Li
cs.LG cs.AI
本文提出MolCHG,一种基于组合层次图(Compositional Hierarchical Graph)的多级自监督预训练框架,用于分子性质预测。该框架将分子结构组织为三个语义层次上的四种节点类型,通过引入与原子图并行的键图(bond graph),将键级信息提升为独立演化的节点表示,使得片段节点能够平等地聚合原子级和键级语义。设计了三个特定层次的预训练目标:原子-键跨视图对比任务、片段级官能团预测任务以及图级结构预测任务,在MoleculeNet基准测试的九个数据集上,MolCHG在七个数据集上取得了最佳性能。该方法与关键词中的“pretrain”高度契合,且其多级自监督策略在分子图表示学习领域具有开创性。
Jinhao Zhang et al.
cs.LG cs.AI
本文诊断了动态图Transformer在时间分布偏移下的注意力分散问题,发现模型无法聚焦于携带更强预测信号的critical nodes。为此,作者提出用differential attention替代标准attention,通过抑制共模噪声并放大token级差异信号来提升模型鲁棒性。基于此设计的DiffDyG在9个基准和3种负采样协议下达到SOTA,尤其在高偏移数据集上提升显著。该工作与关键词attention高度契合,并为动态图学习提供了可迁移的改进方案。
Dzung Pham et al.
cs.LG cs.AI cs.DC
本文研究了在消费设备上本地部署的LLM agent在时间、token和能量上的开销,并提出了AgentStop方法,通过预测并提前终止可能失败的任务轨迹来节省15-20%的能耗,同时保持任务性能下降小于5%。
Plawan Kumar Rath, Rahul Maliakkal
cs.LG cs.AI
本文通过控制实验研究了三种指令微调LLM在五种精度下的量化压缩效果,发现3-bit量化会导致6-21%的无偏样本出现新的刻板行为,且标准质量指标(如perplexity)无法捕捉这种公平性退化。研究揭示了量化压缩中偏见涌现的剂量-反应模式,但方法本身并非开创性,且与关键词列表中的概念关联较弱。
Haoran Li et al.
cs.LG cs.CV
本文提出Mask-Morph Graph U-Net (MMGUNet),一种基于Graph Neural Network的网格代理模型,用于在几何大变形下预测碰撞安全性。该方法通过特征对齐的重心参数化对粗化图层次进行变形,并采用节点掩码预训练与参数高效微调,以解决固定图连接限制泛化性的问题。实验表明该方法在分布内、分布外及跨组件迁移场景下均优于基线。
Wugeng Zheng et al.
cs.LG
本文提出了MuteBench基准,用于评估多模态融合架构在传感器缺失和模态内缺失两种故障模式下的鲁棒性,覆盖9个临床数据集和6种融合架构。实验发现架构族是鲁棒性的最强预测因子,并分析了通道数、序列长度和模态对齐对故障模式威胁的影响。
Yu Fu et al.
cs.LG
本文提出了一种名为OPSA的on-policy self-distillation方法,通过让模型基于自身策略生成rollout并接收来自冻结教师模型的dense per-token KL supervision,以缓解LLM安全对齐中的safety tax问题。该方法在多个推理模型族和规模上取得了比off-policy蒸馏更好的安全-推理权衡,但并未直接涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Abolfazl Zarghani, Amir Malekesfandiari
cs.LG
本文提出Logic-GNN框架,通过结合Temporal Graph Neural Networks与Graph Kolmogorov Complexity,将临床记录视为受潜在逻辑游戏支配的“私有语言”,并诱导出符号语法以检测数据异常。该方法在医疗数据集上取得了优于基线12%的F1-score,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联较弱。
Ziyu Xu et al.
cs.LG cs.AI q-bio.BM q-bio.MN q-bio.QM
本文提出了一种基于转录组扰动的分子扩散模型CURE,用于在缺乏靶点结构时进行功能导向的药物设计。该方法通过多分辨率转录组引导框架和特征提取器,将转录组状态转换作为条件生成药物分子,并解决了跨模态域差异和信号稀疏性问题。
Stavros Bouras et al.
cs.LG
本文探讨了生成模型(如GAN、VAE和Diffusion Models)在轨迹生成中的隐私评估问题,通过实施Membership Inference Attacks证明了这些模型并不能天然消除隐私风险。
Fanxu Meng
cs.LG cs.AI
本文提出Group-Query Latent Attention (GQLA),是对Multi-head Latent Attention (MLA)的改进,通过在同一组权重下暴露两种代数等价的解码路径(MQA-absorb和GQA),使得模型能根据硬件自动选择最优路径,无需重新训练。该方法在LLaMA-3-8B上可将KV cache压缩至GQA基线的28.125%,并支持GQA路径上的零冗余tensor parallelism。
Peter Bauer et al.
cs.LG cs.AI eess.SP
本文提出了一种模块化的混合AI辅助行人航位推算系统PDRNN,使用RNN架构隐式预测来自不同估计方法的异步传感器数据流,并通过独立的ML模型分别估计方向、速度等参数,最后融合输出以提高精度。该方法在动态运动数据上优于传统方法,但与我提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)关联度较低。
Jairo Diaz-Rodriguez
cs.LG
本文主张机器学习研究应转向以"想法"为中心,而非过度依赖benchmark或理论,并提出Ideas First框架以通过实验检测模型的行为特征,旨在弥合理论与实践间的鸿沟。
Xujia Chen et al.
cs.LG
本文提出了一种基于空间相关性的课程学习框架用于Physics-Informed Neural Networks (PINNs),通过空间因果权重、低频信息桥和区域自适应重加权策略,改善了边界值问题中的训练稳定性和求解精度。
Reilly Haskins, Bilal Chughtai, Joshua Engels
cs.LG
本文通过合成文档微调实验,研究了知晓CoT监控存在的模型是否能够隐藏其推理过程以逃避检测。结果表明,与不知情的对照组相比,知晓监控的模型在未检测到的错误行为上具有更高成功率,且这种能力与CoT可控性显著相关。
Qiang Liu et al.
cs.LG
本文提出Tadpole,一个基于autoencoder的3D PDE基础模型,通过在线数据生成框架进行预训练,并采用参数高效的微调策略(如low-rank adaptation)实现多种下游任务。该方法主要关注数据效率和迁移能力,与关键词中的spectral、Muon、agent等概念关联较弱。
Filippo de Feo
cs.LG cs.AI math.FA math.NA math.OC
本文研究了非线性算子及其导数的通用逼近定理,证明了在Banach空间之间k次可微算子及其导数可以通过编码器-解码器架构(如DeepONets)在紧集和加权Sobolev范数下一致逼近。该工作将经典有限维逼近结果推广到无限维算子学习场景,但未直接涉及代码、上下文或谱方法等关键词。
Gideon Popoola, John Sheppard
cs.LG cs.AI cs.CY
本文提出了一种面向过程公平性的度量指标GESD,用于衡量模型解释在不同子组间的稳定性差异,并整合到多目标优化框架FEU中。实验表明该方法能有效捕捉解释质量的组间差异,但未涉及code、spectral、Muon等关键词相关技术。
Tianxiao He, Alex H. Williams, Sarah E. Harvey
cs.LG stat.ML
本文利用shape analysis工具将网络隐藏表示嵌入到对缩放、平移、旋转和反射不变的metric space中,研究了data augmentation对神经网络表示几何形状的影响,发现不同augmentation策略会使表示沿不同方向演化。
Sanja Karilanova, Subhrakanti Dey, Ayça Özçelikkale
cs.LG eess.SY
本文提出了一类基于时变状态空间模型(SSM)的神经网络,通过基函数字典学习可变的动态特性,并在切换系统合成数据和语音去噪任务上验证了其优于时不变模型。该方法在保持计算复杂度相当的同时,探讨了时变自由度在模型组件中的分配问题。
Antesh Upadhyay, Arda Fazla, Abolfazl Hashemi
cs.LG math.OC
本文研究了非凸随机优化在Blum-Gladyshev噪声模型下的收敛性,证明了归一化动量SGD和方差缩减STORM方法的复杂度上界,并分析了广义光滑性对收敛速率的影响。
Thodoris Lymperopoulos, Denia Kanellopoulou
cs.LG
本文提出了一种新的特征归因方法XWP和XWP_c,通过对特征连接的权重而非特征值本身施加扰动来解释全连接神经网络,旨在缓解Occlusion方法中的Added Bias和Out-of-Distribution问题。该方法在简单DNN的图像信号识别任务上取得了与主流归因方法相当的竞争性能。
Pedro A. Ortega
cs.LG
本文研究学习器在训练样本与输出之间的有界理性决策问题,将泛化视为学习器自身响应法则的可检验对冲属性,并利用\(f\)-divergence正则化器分析训练损失与样本依赖性之间的权衡曲线。
Marilyn Zhang et al.
cs.LG cs.AI
本文提出了LEAPBench,一个用于评估LLM在迭代科学设计中学习效率的55任务框架,通过轨迹级AUC指标替代传统最终结果评分,发现改变评估方式会改变对53%任务的最佳模型判断,且LLM未能超越经典贝叶斯优化基线。
Ramon Viñas Torné et al.
cs.LG cs.AI q-bio.MN q-bio.QM
PACER提出了一种通过变量排列和边概率联合建模来保证有向无环图(DAG)结构的方法,用于从大规模干预数据中进行因果发现。该方法避免了软无环性约束带来的数值不稳定问题,并在线性高斯机制下推导了期望干预对数似然的闭式解,从而提升了计算效率。
Sanja Karilanova, Subhrakanti Dey, Ayça Özçelikkale
cs.LG
本文针对脉冲神经网络(SNN)在异构时间分辨率下的联邦学习问题,提出了一种解决时间分辨率不匹配的联邦学习框架,通过调整神经元参数和模型聚合策略,使各客户端能在本地时间分辨率下训练并与全局模型兼容。实验表明该方法能有效恢复因时间分辨率差异导致的精度损失。
Saad Masrur et al.
cs.LG eess.SP
本文提出PRB-RUPFormer,一种递归统一概率Transformer模型,用于预测蜂窝网络中剩余Physical Resource Blocks (PRBs)。该模型通过联合处理多变量KPI时间序列并生成基于分位数的预测区间,实现了对频谱可用性的概率估计,在商业LTE数据上取得了较低误差。
Songwei Dong et al.
cs.LG cs.AI
本文提出了SeqMem-Eval框架,用于评估大语言模型在序列任务中的memory状态演化,包括online utility、hold-out generalization、backward transfer和forgetting等细粒度指标。实验表明,仅依赖最终准确率或累积性能会掩盖forgetting和negative transfer等关键问题。
Zhankun Luo et al.
cs.LG
本文提出了一个统一的随机方差缩减估计框架,基于记忆保留、重置概率和迭代移动修正的递归结构,并利用新的向量值Freedman不等式给出了高概率界。该框架适用于欧几里得和非欧几里得空间,并改进了带期望约束的随机优化的oracle复杂度。
Philipp Mondorf et al.
cs.LG
本文提出了LPDS框架,通过量化问题变体的难度并系统搜索逻辑保持的变体空间,来评估LLM的鲁棒性。实验表明,LPDS能比随机采样更有效地发现导致模型性能下降的困难变体,且基于困难变体的微调能带来更一致的鲁棒性提升。
Biswa Sengupta
cs.LG cs.AI stat.ML
本文研究了在固定LoRA框架下,对Llama-3.2-1B-Instruct模型进行自然语言到正则表达式生成任务的微调时,多种训练辅助目标(包括JEPA目标)对隐藏状态几何与解码任务准确率之间耦合关系的影响。实验发现,尽管许多辅助目标改变了隐藏状态的曲率、各向异性等几何性质,但没有任何一种能在多重假设检验校正后显著提升任务指标,表明在该场景下隐藏状态表示与解码任务性能的耦合较弱。
Yijing Zhang et al.
cs.LG cs.AI math.NA physics.comp-ph
本文提出了一个以breakeven complexity为核心的评估框架,用于衡量neural PDE solver相对于传统数值求解器的成本效益,并利用scaling laws来分配训练预算。实验表明,随着问题难度(如更高雷诺数)的增加,neural solver的成本效益会提升。
Mahdi Naser Moghadasi, Faezeh Ghaderi
cs.LG
本文对118个transformer模型在7种架构类别上的可扩展性进行了大规模实证分析,发现序列长度从512 tokens增加到2048 tokens时,模型成功率从88.1%骤降至0%,揭示了理论上的\(O(n^2)\) attention复杂度在实际中转化为可测量的性能瓶颈。
Gaojie Jin et al.
cs.LG cs.AI
本文针对LLM与人类判断一致性检验中置信度单调性假设可能不成立的问题,提出了一种基于margin的置信度排序方法,通过模拟标注者多样性来学习专用置信度估计器,并推导了其泛化保证。该方法在多个数据集上提升了排序准确率与目标一致性水平的达成率。
Jake Fawkes, Jason Hartford
cs.LG cs.AI
本文提出了一种名为\(f\)-Trajectory Balance的损失函数族,用于训练GFlowNets等生成模型。该工作将已有的基于KL散度的on-policy梯度损失扩展到了整个\(f\)-divergence族,使得off-policy数据下仍能保持相同的全局最优解。实验在分子发现和LLM调优等任务上验证了其有效性。
Shukai Du, Junzhe Zhang, Yiming Li
cs.LG
本文提出Lagrangian Flow Matching框架,通过最小化一般Lagrangian的作用量来设计概率路径和速度场,将现有基于直线路径的方法推广到更广泛的动力学类别。该方法建立了与最优传输理论的等价性,并导出了一系列免模拟训练目标。
Tawsik Jawad, Gowtham Atluri, Vikram Ravindra
cs.LG
本文研究了EEG信号分类中attention机制与spectral特征的有效性,发现基于频率和时频域的特征能让传统机器学习模型达到或超越SOTA深度学习模型,而attention机制难以提取稳定的spectral特征。
Lute Lillo, Nick Cheney
cs.LG cs.NE
本文研究了structural plasticity中growth与pruning的非对称性,指出新插入的单元在反向传播中接收的梯度信号弱于已有单元,导致在复杂图像分类任务中growth的稳定性较差。实验表明,改善新单元的整合能提升自适应性能,但growth的效果高度依赖插入时机和训练稳定性。
Albert Kjøller Jacobsen et al.
cs.LG stat.ML
本文提出了一种基于耗散黎曼力学的采样器DiMS,用于从神经网络损失函数的最小值水平集中精确采样,并通过物理启发的超参数控制探索能力。该方法在贝叶斯推断的不确定性量化任务中表现出优于现有方法的性能。
Rowan Martnishn, Sean Anderson
cs.LG
本文提出了一种名为ChainzRule (CR)的新型神经网络架构,通过引入Polynomial Engine和Differential Regularization (DREG)来平衡精度、硬件效率和功能稳定性。该方法在MNIST和Yelp Full数据集上展示了性能提升,但并未直接涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Yunfei Luo et al.
cs.LG eess.SP
本文提出NormWear-2,一种用于生理时间序列信号的世界模型,通过将多变量信号与临床干预变量编码到共享latent space并建模其联合时间演化,实现了多时间尺度的长期预测。该方法结合先验预训练知识(直觉)与非参数latent state transition适应(洞察),并利用chaos-theoretic balancing提升表征鲁棒性。
Daniel Holmberg et al.
cs.LG physics.ao-ph
Njord提出了一种结合深度隐变量框架与Graph Neural Network的概率性海洋预报模型,通过K-means cluster meshes适应不规则海面几何,在全局和区域尺度上实现了优于确定性baseline的预报性能,并提供了不确定性估计。该方法主要贡献于海洋预报领域,与关键词中的spectral、attention等概念关联较弱。
Nicolas Zilberstein et al.
cs.LG cs.CV eess.IV
本文提出了一种基于能量的模型,通过协方差正则化训练去噪过程,为线性逆问题(如图像修复和去模糊)提供归一化的后验密度估计,无需重新训练即可处理多种测量条件。该方法在多个数据集上展示了与扩散模型相当或更优的性能。
Shi-ang Qi et al.
cs.LG stat.ML
SurvivalPFN是一种基于prior-data fitted network的生存分析模型,通过in-context learning在单次前向传播中实现贝叶斯推断,无需任务特定训练或超参数调优。该模型在61个数据集上的基准测试中表现出色,但方法本身并非开创性突破,且与关键词列表中的概念关联较弱。
Vincent-Daniel Yun et al.
cs.LG cs.AI cs.PF
本文提出了一种名为Ghosted Layers的无训练恢复模块,通过求解边界激活对齐问题来修复层剪枝后大型语言模型中的隐藏状态分布失配。该方法从少量校准数据中推导出闭式最优线性算子,以重建被剪枝层引入的激活差异,并在多个模型和剪枝策略上提升了性能。
Nischal Aryal et al.
cs.LG cs.AI
本文提出一个game-theoretic framework来建模ML系统与用户之间的利益冲突,并设计了可扩展的算法以在交互中最大化有用信息、最小化偏见与操纵行为。该工作主要关注机器学习系统的社会影响,与关键词中的code、spectral、Muon等无直接关联。
Yijun Lu, Zilei Yang, Yuyin Ma
cs.LG cs.RO
ParallelCBF是一个统一张量并行UAV环境、CBF安全过滤器和可审计性API的框架,用于端到端安全约束强化学习训练。它提供了可组合的API和CPU PyTorch参考实现,支持行为克隆和可审计的管道执行。
Louisa Cornelis et al.
cs.LG
本文提出了OgBench,一个用于评估Graph Neural Networks在omics数据(n << p regime)上表现的基准平台。实验表明,在该场景下,常用GNNs往往不优于简单的MLPs,挑战了图结构在此领域固有价值的假设。
Xian Gao et al.
cs.LG cs.AI cs.DC
本文研究了分布式训练中数据归因的脆弱性,提出了一种攻击方法,通过注入小批量合成数据来夸大参与者的归因值,同时保持全局效用。实验表明,该攻击能重塑良性客户间的归因结构而不降低精度,揭示了归因本身可能成为新的攻击面。
Bruno Trentini et al.
cs.LG cs.AI math.DG math.ST
本文提出了一种名为neural point-forms (NPFs)的新型可学习几何特征,用于点云学习。该方法利用Diffusion Geometry中的Laplacian技术,在没有自然切触结构的点云上构建了微分形式的离散比较模型,并证明了比较矩阵在标准采样假设下的一致性。
Sihan Zeng, Sujay Bhatt, Sumitra Ganesh
cs.LG
本文从Stackelberg优化的角度重新审视了神经网络中的非均匀学习率设置,证明了在body层使用较小学习率、在final层使用较大学习率可视为一种两时间尺度交替梯度下降算法,并给出了有限时间收敛保证。文章识别了非均匀学习率优于均匀学习率的两种机制,包括优化结构增强和局部曲率改善,实验验证了其在监督学习和强化学习中的有效性。
Jaehun Jung et al.
cs.LG cs.AI cs.CL
本文发现多模态蒸馏中高达69%的prompt是零delta的(教师和学生模型输出分布相同),导致训练信号微弱。为此提出DeltaPrompts方法,通过合成高divergence的推理问题来提升蒸馏效率,在多个benchmark上取得显著提升。
Stefano Riva et al.
cs.LG cs.AI cs.CE
本文提出了一个用于核工程中机器学习方法的通用任务框架(CTF),通过标准化评估流程和12个指标来比较不同数据驱动模型在核裂变与聚变系统上的性能,旨在提高该领域科学机器学习的严谨性和可重复性。
Pedram Bakhtiarifard et al.
cs.LG
本文提出Quantized Block Decomposition method (QuBD),将Kolmogorov-Chaitin-Solomonoff (KCS)复杂度的估计从二值对象扩展到任意\(k\)元对象,并应用于深度神经网络权重的算法复杂度分析。实验表明,训练过程中权重的算法复杂度下降,且与泛化性能相关。
Minseo Kim et al.
cs.LG cs.CE eess.IV
本文提出CrystalBoltz,一个基于diffusion的生成框架,将X射线晶体学中的结构测定转化为贝叶斯推断问题,通过实验测量的structure-factor amplitudes引导后验采样,并联合优化原子坐标和B-factor。该方法在多个数据集上实现了比现有基线更低的坐标RMSD和R-factor,同时将运行时间缩短了33倍。
Haizhong Zheng et al.
cs.LG cs.AI
本文提出AstraFlow,一种面向数据流的强化学习系统,通过将rollout服务、数据流管理和训练解耦为自主组件,以支持agentic LLM的多策略协作训练和弹性异构计算资源利用。实验表明,该系统在数学、代码等任务中无需系统级代码修改即可实现多策略训练和2.7倍加速。
Hojun Chung, Junseo Lee, Songhwai Oh
cs.LG cs.AI
本文提出了universal horizon models (UHM),一种对geometric horizon models (GHM)的泛化,用于直接预测任意horizon下的未来状态,并基于此设计了一种scalable value learning方法。实验表明该方法在OGBench任务上优于基线,尤其适用于次优数据集和长horizon推理场景。
Xuechen Zhang et al.
cs.LG cs.CL
本文提出VSPO方法,通过修改GRPO引入steering vector来控制语言模型的行为强度,以解决多目标优化中的稀疏奖励问题。该方法在MATH和MMLU-Pro等基准测试中,相比reward shaping等基线方法,能更好地控制目标行为并保持任务准确性。
Aditya Kudre, Heng-Sheng Chang, Prashant G. Mehta
cs.LG eess.SY
本文从最优控制理论出发,推导了与decoder-only transformer类似的推理架构,将预测问题重新表述为最优控制问题,其解(dual filter)具有与transformer相似的层结构。数值实验比较了最优控制与训练后transformer的attention权重,揭示了当embedding维度不足时transformer会隐式利用非Markovian结构。
Sijia Liu et al.
cs.LG
本文认为Zeroth-Order (ZO)优化在深度学习中被低估,指出其局限性源于短视的开发实践(如全空间、逐元素、以估计器为中心的设计),并提出了六个立场,涵盖算法、系统和评估层面,包括通过方差控制和方向导数重新审视ZO的可行性边界,以及识别子空间与谱视角、前向传播的系统优势等未充分探索的机会。
Vishy Gopal et al.
cs.LG cs.NE
本文介绍了Perforated Backpropagation在Edge Impulse平台上的关键词检测任务中的应用,通过向标准CNN添加人工Dendrite Nodes,在800次超参数试验中,树突模型在参数数量和准确率上均优于传统架构。最佳树突模型以1500个参数达到0.933的测试准确率,而基线模型需约4000个参数才能达到0.921。
Pranav Somu et al.
cs.LG cs.NE
本文提出了一种低成本的嵌入策略COLE,通过将神经网络架构表示为PyTorch类定义文本,利用预训练语言模型提取特征,并配合轻量级回归头构建性能预测器。实验表明,该方法在NAS-Bench-201等搜索空间上优于其他基于文本的编码方式,并能在CIFAR-100优化中显著降低评估预算。
Arnab Maiti, Yunbei Xu, Kevin Jamieson
cs.LG
本文研究了线性bandit中\(\varepsilon\)-最优臂识别的自适应采样能力,给出了非自适应固定设计方法的样本复杂度上下界,并探讨了自适应采样在某些动作集上仅带来对数因子改进的情况。
Jinuk Kim et al.
cs.LG
本文提出了Rule2DRC基准,用于评估LLM agent在DRC脚本合成中的表现,包含1000个任务和13921个评估布局,并通过执行反馈衡量功能正确性。同时提出了SplitTester agent,利用执行反馈生成测试用例以改进脚本选择。
Jaeseung Heo et al.
cs.LG cs.AI
本文提出了一种交互感知的影响函数(Interaction-Aware Influence Function),通过将目标函数展开到二阶来捕捉训练样本间的交互效应,从而改进对一组样本联合影响的估计。实验表明,该方法在追踪留组重训练效果和指令微调数据选择任务上优于传统一阶影响函数。
Qingyuan Yang et al.
cs.LG
本文提出FRWKV+模型,通过引入跨分支门控和自适应相位门控机制,在频域时间序列预测中增强实部与虚部流的信息交换,并利用周期性位置线索提升预测性能。该方法在特定周期性场景下取得改进,但整体创新性有限,与关键词关联较弱。
Yuan Zhang et al.
cs.LG
本文提出了一种基于加权独立集(Weighted Independent Set, WIS)的数据选择方法SEED,通过构建相似度图并优化节点权重与边阈值,以平衡数据质量与多样性。该方法在指令微调、视觉指令微调及语义分割任务上优于现有方法,但与我提供的关键词(如code, spectral, Muon等)关联度较低。
Zijun Chen, Zihan Zhang
cs.LG stat.ML
本文研究了具有固定reward和transition functions的episodic reinforcement learning问题,其中每episode的可行action set是episode-dependent的。作者将MVP算法扩展到该框架,并证明了对于adversarial contexts的minimax regret bound为\(\widetilde{O}(\sqrt{SAH^3K\log L})\),以及一个gap-dependent的regret bound。
Alexander Gräfe et al.
cs.LG
本文提出CATS框架,首次在超低功耗无线设备上实现分布式Transformer推理,通过通信感知的模型划分和训练方法(如SomeGather剪枝通信原语和message-dropout训练)解决资源限制问题。该方法使多个设备能协同执行比单设备大14倍的模型,但主要面向IoT应用场景,与关键词中的理论或算法方向关联较弱。
Raj Kiran Gupta Katakam
cs.LG
本文提出AGOP-IxG,一种基于Average Gradient Outer Matrix的top-K秩截断与梯度预乘的局部特征归因方法,用于表格分类器。在合成数据集上,该方法在Spearman秩相关和噪声特征质量上优于SHAP、Integrated Gradients等基线,且速度远快于SHAP。
Jeonghwa Lim, Minje Park, Sunghoon Joo
cs.LG cs.AI cs.CV eess.SP
本文提出CardioMix框架,利用双向CutMix策略和心脏模式引导,在半监督ECG分割中增强标记与未标记数据间的信息交换,作为即插即用模块与多种SemiSeg算法兼容。实验表明该方法在多个数据集和标记比例下优于现有CutMix融合策略。
Xu Wang et al.
cs.LG cs.CV
本文提出GOMA框架,从graph signal smoothing视角将frozen multimodal embeddings视为graph signals,通过解耦消息流动、传播方式和smoothing深度来优化multimodal attributed graphs上的检索性能。该方法在多个基准上取得state-of-the-art结果,但未涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Hosna Oyarhoseini, Jimmy Lin, Amir-Hossein Karimi
cs.LG
本文提出一个统一的扰动框架,通过基于influence的近似方法分析Bradley-Terry leaderboard在结构化数据修改下的稳定性。该框架研究了三种match-level扰动(Drop, Add, Flip)及player removal对top-k成员、全局ranking一致性(Kendall's tau)和置信区间不确定性的影响,发现现代leaderboard在三个目标上均不鲁棒。
Pascal Janetzky, Tobias Schlagenhauf, Stefan Feuerriegel
cs.LG
本文提出了一种结合replay-based训练与sequential invariance alignment的continual learning方法,旨在学习跨domain的invariant representations以提升out-of-domain generalization。实验表明该方法在多个benchmark上优于现有baseline,但未涉及code、spectral或Muon等关键词相关技术。
Ruirui Liu et al.
cs.LG eess.SP stat.ML
本文提出了一种学习框架,通过训练神经网络生成上下文感知的Gaussian overbounds(一种保守的高斯分布上界),用于基于卷积的不确定性传播。该方法在有限分位数网格上保证保守性,并在特定假设下扩展到连续域,相比传统全局方法更紧凑。
Kai Hidajat
cs.LG
本文利用Doob-Meyer分解定理,将随机PDE的解分解为可预测的drift和不可预测的martingale部分,并以此设计了Martingale Neural Operator (MNO)架构。MNO直接映射初始条件到终态分布的conditional mean和covariance,在多个随机PDE任务上显著降低了Wasserstein距离,但该方法与关键词中的code, context, spectral等概念关联较弱。
Guoji Fu et al.
cs.LG stat.ML
本文研究了基于分数的生成模型在光滑流形上的内在Wasserstein收敛速率,证明了在紧致光滑流形上,方差保持的SGM估计器可以达到特定的样本指数,并分离了不同噪声区域的分数近似分析。该工作主要关注生成模型的统计理论性质,与您提供的关键词(如code, context, spectral, Muon, pretrain, agent, attention)无直接关联。
Jacques Raynal et al.
cs.LG q-bio.NC
本文使用PCA和feed-forward neural network对一个帕金森受试者的步态数据进行了latent-space分析,验证了在单受试者数据集中,观测到的纵向latent transformation可以被内部近似。该研究未涉及code, context, spectral, Muon, pretrain, agent, attention等关键词,且方法缺乏开创性。
Mandar Joshi et al.
cs.LG
本文提出了一种基于Tiny Deep Learning的增量式LSTM框架(Ti-iLSTM),用于在资源受限的可编程逻辑控制器(PLC)上检测工业水处理系统中的逻辑层异常。该方法通过优化LSTM的内存和空间占用,在SWaT和WADI数据集上取得了高检测性能(F1-score=0.983)。
Mohammad Ali Vahedifar, Abhisek Ray, Qi Zhang
cs.LG cs.AI
本文提出Shapley Neuron Valuation (SNV)框架,基于合作博弈论量化神经元在持续学习中的重要性,通过选择性冻结重要神经元来缓解灾难性遗忘。实验表明SNV在无缓冲区持续学习场景中优于现有方法。
Mélanie Cambus et al.
cs.LG
本文提出了一种用于拜占庭容错联邦学习的最小包围球(MEB)有效性条件及其松弛版本\(c\)-MEB有效性,证明了松弛条件在多数客户端诚实时可实现,并给出了最优的MinMax-MEB规则。该工作将几何有效性条件与分布式计算中的拜占庭容错聚合规则联系起来。
Peiyuan Li et al.
cs.LG cs.AI
本文提出了一种跨域异质图prompt学习方法CHoE,通过引入结构条件专家网络和结构感知的路由机制,解决了预训练与下游任务数据分布不一致时的性能下降问题。实验表明该方法在少样本跨域场景下优于现有基线。
Atharva Khandait, Jan E. Gerken
cs.LG
本文利用diffusion geometry框架研究神经网络表示,通过将基于RSM的相似度度量转化为Markov矩阵形式,提出了多尺度的Centered Kernel Alignment和Distance Correlation变体,并引入交替扩散融合多层信息。实验在ReSi基准上取得SOTA结果。
Inoussa Mouiche, sherif Saad
cs.LG
本文提出了CTiKG框架,用于从非结构化网络威胁情报报告中提取实体-关系三元组,通过结合SecureBERT+上下文嵌入和领域本体知识来减少错误传播。实验在DNRTI-AUG-STIX2数据集上取得了比基线方法更好的NER和RE性能。
An Nguyen, Jaesik Choi, Anh Tong
cs.LG cs.AI cs.CV
LoCO提出了一种名为低秩组合正交微调的新方法,通过低秩skew-symmetric矩阵和组合旋转链构造正交变换,并设计了近似方案以实现并行计算。该方法在保持参数效率的同时保留了预训练表示的几何结构,在扩散transformer、视觉transformer和语言模型微调中展现了竞争力。
Yanzhao Su, Fang He, Yineng Wang
cs.LG
本文提出了一种名为CCRE的深度学习框架,用于全球班轮运输中的多步挂靠港序列预测。该框架通过检索增强的历史编码器和Transformer轨迹编码器进行自适应融合,并利用自回归解码器生成序列,以提升预测准确性。
Yuan-dong Cao et al.
cs.LG cs.AI
本文从Neural Tangent Kernel视角分析了对抗训练改善PINNs训练效果的机制,发现判别器通过影响训练动态来缓解频谱偏差问题。实验表明该方法能显著提升模型精度。
Peter Clapham, Lisa Bonheme, Marek Grzes
cs.LG
本文提出了一种基于mean representation熵的信息论方法来刻画VAE中的极化现象,并通过熵-方差界将其与KL最小化联系起来。实验表明该方法能一致地恢复极化状态,但指出仅靠均值熵无法可靠区分active和mixed维度。
Gwenolé Quellec
cs.LG cs.AI
本文提出constrained latent state modeling (CLSM)作为统一视角,识别了latent state应满足的若干核心性质(如predictive sufficiency, minimality, temporal coherence等),并指出这些性质间存在根本性权衡。该工作将现有方法重新解释为对约束子集的不同选择,从而为理解representation learning中的设计空间提供了框架。
Manuel Graca et al.
cs.LG
本文提出CT-AGD (Curvature-Tuned Accelerated Gradient Descent),一种通过有限差分显式捕捉局部曲率来加速一阶优化方法的通用提升过程,并设计了缓解随机小批量训练中噪声和偏差的启发式方法。实验表明,该方法在达到与基线一阶方法相同精度的同时,平均减少了33%的训练轮次。
Piotr Białas et al.
cs.LG cond-mat.dis-nn hep-lat
本文探讨了在变分自回归网络中使用物理先验概率分布来改进离散自旋模型(如Ising模型和Edwards-Anderson自旋玻璃模型)的蒙特卡洛模拟效率,通过引入物理先验减少了训练负担并支持更大系统尺寸的模拟。
Mónika Farsang et al.
cs.LG cs.AI
本文研究了在State Space Models (SSMs)中引入深度循环(depth-recurrence)和输入重塑(input reshaping)两种技术,用于时间序列分类。实验表明,参数共享的循环SSM在更小的假设空间中能匹配或超越参数更多的标准SSM,而输入重塑也能独立提升模型精度。
Fan Feng et al.
cs.LG cs.AI
本文提出Ada-Diffuser框架,将隐动态推断融入基于diffusion model的决策过程,通过观测的小时间块识别latent process,并用于规划与控制。该方法在模拟控制和机器人基准测试中验证了有效性。
Ying Chen et al.
cs.LG stat.ML
本文提出了一种基于振幅编码的变分量子分类器,通过可学习的经典预编码和归一化嵌入来稳定模型,并使用Cramer von Mises散度评估其SAFE-AI可靠性。实验表明该量子模型在准确率、鲁棒性和可解释性方面与经典基线相当,但具有更平衡的可靠性特征。
Antoine Honoré, Ming Xiao
cs.LG
本文提出了一种名为ITGPT的attention-based架构,用于处理不规则采样的多模态timeseries数据,通过结合self-supervised learning和GPT-like objectives进行训练。实验表明,该方法在医疗和预测性维护任务上无需重采样或显式数据插补即可达到state-of-the-art性能,并在标签稀缺时优于纯监督方法。
Dayong Ren
cs.LG cs.CV
本文提出MIND框架,通过Latent Manifold Disentanglement将模型诱导的标签噪声解耦为子空间依赖成分,并设计Latent Decoupling Estimator (LDE)动态投影样本到潜在结构簇中。实验在CIFAR-100和3D数据集上验证了其优于现有方法,但方法本身与关键词列表中的概念关联较弱。
Chaimaa Medjadji et al.
cs.LG cs.AI
本文使用Fedstellar模拟器、MNIST数据集和MLP分类器,实验比较了集中式、去中心化和半去中心化联邦学习架构的性能权衡。研究为不同应用场景下的架构选择提供了参考。
Imane Hocine et al.
cs.LG cs.AI
本文提出FedHF-Impute框架,用于解决联邦学习中客户端特征空间异构时的数据插补问题。该方法通过共享全局特征图进行message passing,实现了跨客户端的信息传播,在部分特征重叠场景下提升了插补精度。
Sipeng Chen et al.
cs.LG
本文提出Multi-Fidelity Flow Matching (MFFM)框架,通过将source distribution校准为低到高保真残差尺度,并利用local Gaussian-blur correlation和低保真解条件化velocity network,实现了参数化PDE解的多级级联细化。该方法在多个基准上验证了其作为多网格细化学习模拟的有效性。
Bruno Trentini et al.
cs.LG cs.AI cs.IT math.ST stat.OT
本文提出了一种基于条件-边际熵率的目标函数,用于桥感知离散化(bridge-aware discretization),以改进流匹配和Schrödinger桥采样器在低推理预算下的采样质量。该方法在二维模型、CIFAR-10和AlphaFlow蛋白质生成任务上均优于线性或余弦调度,但未涉及代码、上下文、谱方法、Muon优化器、预训练、智能体或注意力机制等关键词。
Simon Dufort-Labbé et al.
cs.LG cs.AI
本文提出LLQR+SAM方法,将Sharpness-aware Minimization (SAM)与基于LLQR框架的学习预处理器结合,通过双时间尺度结构利用损失landscape的几何信息来引导参数扰动。实验表明该方法在视觉和序列建模任务上优于单独使用SAM或LLQR。
Jason Weitz et al.
cs.LG cs.AI hep-ex
SNAC-Pack是一个用于硬件感知的神经架构协同设计的开源AutoML框架,它通过多目标搜索和硬件代理模型来优化FPGA部署的模型架构,并利用hls4ml库实现端到端的FPGA固件合成。该框架在喷注分类和超导量子比特读出等任务上展示了自动化搜索能显著减少设计时间。
Vaidehi Bagaria, Nikshep Grampurohit, Pulkit Verma
cs.LG cs.RO
本文提出Probabilistic Chunk Masking (PCM)方法,作为GRPO的即插即用改进,通过基于成功-失败action variance的代理指标,仅对轨迹中少量语义阶段进行梯度计算,从而加速VLA策略的强化学习后训练。实验表明PCM在保持最终成功率的同时,实现了2.38倍加速和60%的峰值激活内存降低。
Hazhir Aliahmadi, Irina Babayan, Greg van Anders
cs.LG
本文提出Entropic Autoencoders (EAEs)框架,通过隐式自由能最小化生成latent variables的先验,以缓解variational autoencoders中的posterior collapse问题。实验表明该方法能学习非高斯多模态latent分布,并在MNIST和CelebA数据集上捕捉数据中的隐式结构。
Yifan Zhang, Liang Zheng
cs.LG
本文提出BAPR方法,将Bayesian Online Change Detection与robust ensemble RL结合,用于非平稳连续控制问题。该方法通过自适应保守机制在检测到变化时收紧策略,并在稳定期放松,同时提供了形式化的误差界和Lean 4机器验证。
Fateme Golivand et al.
cs.LG
本文提出将临床决策建模为从轨迹中学习动作的imitation learning问题,并采用TabPFN(一种基于transformer的表格数据方法)在儿科ECMO数据上学习动作模型,实验表明该方法优于XGBoost和MLP等传统基线。
Zhuoyuan Li, Aiqing Zhu, Qianxiao Li
cs.LG math.DS
本文提出了一种基于广义Onsager原理的介观动力学学习框架,通过数学约束的假设类来统一处理耗散和保守系统,并建立了先验的理论保证。该方法利用数据驱动的方式识别假设类中的具体成员,从而得到准确、鲁棒且可解释的动力学模型。
El Mustapha Mansouri
cs.LG stat.ML
本文研究了差分隐私下CVaR(Conditional Value at Risk)学习的有效样本量问题,指出隐私相关的有效样本量是\(\epsilon n\tau\)而非\(n\),并给出了标量估计和有限类学习的完整收敛速率。
Gabriel Garcia
cs.LG cs.AI cs.CL
本文研究了transformer层等价性的两种测试协议(replacement和interchange)在模型压缩中的差异,发现两者在评估哪些层可安全剪枝时结果不一致,且这种差异随训练和模型规模变化。
Shuchan Wang
cs.LG
本文提出了一种在Flow Matching模型的动力学层面嵌入水印的方法,通过向velocity field添加密钥相关的扰动来编码随机码,并保证生成分布不变。实验表明该方法在MNIST和CIFAR-10上能可靠恢复消息且不影响生成质量。

cs.AI

Jianbo Lin et al.
cs.AI cs.MA
本文提出ICRL框架,通过reinforcement learning联合训练一个solver和一个critic(共享backbone),旨在将critique引导下的成功转化为solver自身的能力。核心创新包括:引入distribution-calibration re-weighting ratio以缓解critique-conditioned与critique-free行为间的分布偏移,以及role-wise group advantage estimation来稳定双角色的联合优化。实验表明,在agentic和mathematical reasoning任务上,ICRL相比GRPO平均提升6.4和7.0个点,且8B的critic性能可媲美32B的critic。该工作与关键词“agent”高度契合,解决了agent在缺乏外部critique时无法内化改进的长期问题。
Jun He, Deying Yu
cs.AI cs.LG
本文提出了一种面向自主AI agent的分布式信任框架(DTF),通过引入Justification Proof(行动许可证明)和Ephemeral Execution Identity(临时执行身份)等概念,将授权机制从传统的静态身份验证转变为基于可验证证明的动态授权。该框架通过共识模型和不可篡改的证据链(Evidence Chain)确保agent的每个操作都经过严格的上下文评估和策略验证,解决了自主AI系统中agent可能生成语义不安全操作的核心问题。这项工作为agent系统在主权AI部署中的可治理性和可审计性提供了基础设施层面的创新方案。
Han Li et al.
cs.AI
Solvita提出了一种名为agentic evolution的框架,用于增强Large Language Models在competitive programming任务中的表现。该框架通过四个专门agent(Planner, Solver, Oracle, Hacker)形成闭环系统,并引入可训练的graph-structured knowledge network,将pass/fail verdicts等outcome signals转化为reinforcement learning updates,从而实现无需更新模型权重的continuous learning。实验表明,Solvita在CodeContests、APPS等基准上达到了code-generation agents的新state-of-the-art,显著优于现有multi-agent pipelines。该工作与关键词“agent”和“code”高度契合,其agentic evolution方法在代码生成领域具有开创性。
Jiachen Jiang, Huminhao Zhu, Zhihui Zhu
cs.AI cs.LG cs.MA
SMCEvolve将LLM驱动的程序进化问题重新表述为从奖励倾斜的目标分布中采样,并采用Sequential Monte Carlo (SMC) sampler进行近似。该方法从这一视角出发,自然地推导出三个核心机制:adaptive parent resampling、mixture of mutation with acceptance以及automatic convergence control,并提供了有限样本复杂度分析以界定达到目标近似误差所需的LLM调用预算。在数学、算法效率、symbolic regression以及端到端机器学习研究基准上,该方法在更少的LLM调用次数下超越了现有进化系统,为agent-based科学发现提供了原则性的框架。
Jingjing Wang et al.
cs.AI cs.CL
本文提出LaMR (Latent Multi-Rubric)框架,用于解决LLM驱动的coding agent在读取repository文件时上下文冗余的问题。不同于现有方法使用单一CRF (Conditional Random Field)对所有代码相关性进行建模,LaMR将代码相关性分解为语义证据和依赖支持两个可解释维度,每个维度由专用CRF建模,并通过mixture-of-experts门控网络动态加权。该方法从现有训练语料中通过AST (Abstract Syntax Tree)分析自动生成多维度标签,无需额外标注成本。实验表明,LaMR在SWE-Bench Verified等四个基准上,在12/16的多轮对比中胜出,最多节省31%的token,并在单轮任务中提升Exact Match达+3.5,与关键词"code"和"agent"高度契合。
Junle Wang, Xingchuang Liao, Wenjun Wu
cs.AI
TopoEvo提出了一种拓扑感知的自进化多智能体框架,用于微服务中的根因分析。该框架通过Metric-orthogonal Multimodal Alignment (MOMA)将多模态观测数据(指标、日志、追踪)对齐到互补子空间,并利用Vector Quantization (VQ)将拓扑增强状态离散化为可审计的symptom tokens,从而缓解了噪声和级联故障传播带来的症状放大偏差。在此基础上,多智能体通过Hypothesis-Evidence-Test (HET)工作流显式验证传播一致的因果链,并借助Self-Evolving Mechanism在拓扑漂移下自适应更新记忆。该方法在解决长期存在的根因误判问题上具有开创性,且其基于token的离散化推理与关键词中的agent和attention概念高度契合。
Lijie Ding, Changwoo Do
cs.AI cond-mat.soft
ColPackAgent是一个基于agent的框架,它通过Model Context Protocol (MCP)工具服务器和agent skill自主执行胶体堆积的Monte Carlo模拟。该框架将HOOMD-blue硬粒子Monte Carlo模拟封装为colpack Python包,并编码了一个四阶段工作流合约,使得通用大语言模型(LLM) agent能够可靠地执行而非仅描述模拟工作流。该系统支持交互式、端到端自主以及基于程序文件的自动研究模式,并通过立方体粒子、二元盘-胶囊系统及2D硬盘冻结转变等示例验证了其有效性。这项工作为将领域模拟工具包转化为agent辅助的研究工作流提供了一条实用路径,与关键词中的agent概念高度契合。
Alberto Pepe et al.
cs.AI
本文提出AIRA-Compose和AIRA-Design双框架,利用LLM agent自动设计神经网络架构。AIRA-Compose通过11个agent在24小时内探索计算原语,发现14种架构(包括基于Transformer的AIRAformer和混合Transformer-Mamba的AIRAhybrid),在1B规模预训练后,其下游任务准确率比Llama 3.2提升2.4%-3.8%,且缩放效率更高。AIRA-Design则用20个agent设计新型attention机制,在Long Range Arena基准上,agent设计的架构在文档匹配和文本分类任务中与人类SOTA仅差2.3%和2.6%。该工作展示了agent在架构发现和算法优化上的自主能力,与关键词“agent”和“attention”高度契合。
Igor Bogdanov et al.
cs.AI cs.CL cs.LG cs.MA eess.SY
FORGE提出了一种无需梯度更新的自演化agent记忆协议,通过population broadcast机制在分层ReAct agent间传播自然语言记忆(包括规则、示例或混合形式),显著提升了LLM agent在复杂POMDP任务中的决策性能。该方法在CybORG CAGE-2网络防御环境中,对四种不同LLM家族均实现了1.7-7.7倍于零样本基线的平均回报提升,并将严重失败率降至约1%。关键发现是population broadcast而非graduation机制是性能提升的核心,且较弱的模型受益更大,表明该方法可能弥合能力差距而非放大强模型优势。
Ming Yang et al.
cs.AI cs.CL cs.IR
DeepSlide是一个多agent系统,用于从需求获取到排练支持的全流程演示准备,通过可控逻辑链规划器、内容树检索器和Markov式顺序渲染等模块,在保持幻灯片质量的同时显著提升了叙事流畅度和节奏精度等交付指标。
Zhantao Wang
cs.AI
本文提出了SDOF框架,将多智能体编排视为一个受约束的state machine,通过Online-RLHF训练的Intent Router和StateAwareDispatcher实现状态约束检查。实验在招聘系统上验证了其任务完成率和安全性,但方法主要聚焦于工程应用,与关键词中的理论或算法创新关联较弱。
Nanxu Gong et al.
cs.AI
本文通过提出交互式ToM评估新范式,研究了四种ToM增强技术在动态人机交互中的实际效果,发现静态benchmark的提升并不总能转化为交互性能的改善。
Duling Xu et al.
cs.AI cs.SE
本文提出SkillSmith框架,通过离线编译agent技能为边界引导的运行时接口,以减少LLM agent系统中不必要的上下文注入和重复推理开销。实验表明该方法能显著降低token使用量和推理时间。
Jagdish Tripathy, Marcus Buckmann
cs.AI cs.CY cs.LG econ.GN
本文研究了指令微调语言模型在高风险决策(如抵押贷款审批)中的行为公平性与内部表征偏差之间的脱节,发现模型虽无输出级偏差,但内部表征仍保留并放大人口统计信息,且这种潜在偏差具有不对称性和可被利用性。
Chenying Lin et al.
cs.AI cs.CE
本文提出CAX-Agent,一个用于MAPDL有限元仿真的轻量级agent harness,通过三层架构(LLM服务、agent harness、求解器后端)和恢复阶梯策略提升任务可靠性。实验表明,基于模型的恢复策略在完成率和任务得分上显著优于无恢复和仅规则策略。
Salman Avestimehr, Ken Duffy, Muriel Médard
cs.AI cs.IT
本文提出NOVA框架,将AI系统的迭代自改进过程建模为知识空间上的自适应采样,分析了知识发现的基本极限和失败模式。研究指出,在验证不完美时存在“污染陷阱”,并证明了在Zipf律假设下累积发现成本满足\(R_{\mathrm{cum}}(D)=\Theta(c_{\mathrm{gen}}D^\alpha)\)的标度律。
Naruki Yoshikawa, Ryo Tamura
cs.AI cond-mat.mtrl-sci cs.RO
本文提出了一种基于Model Context Protocol (MCP)的自主实验室编排器NIMO Controller,通过MCP服务器暴露所有SDL功能,为人类用户和AI agent提供统一接口,并在颜色匹配SDL案例中验证了其可用性。
Kin Max Piamolini Gusmão et al.
cs.AI
本文首次系统评估了大型语言模型在零样本目标识别任务上的表现,发现部分模型能随证据积累提升准确率,而另一些则固守世界知识先验。研究将目标识别定位为评估LLM规划基础知识的基准。
Joshua C. Yang et al.
cs.AI cs.LG cs.MA
本文提出Belief Engine (BE),一种可审计的信念更新层,将agent的立场建模为基于证据的标量状态,并通过log-odds规则控制证据吸收和先验锚定。该方法为多agent LLM协商中的立场动态提供了可配置的框架,但主要聚焦于社会科学模拟而非关键词中的核心数学或算法创新。
Eugene Koran et al.
cs.AI
本文研究了通过集成多样化monitor(监控器)来检测AI agent(智能体)在编码任务中的错误行为,发现多样化的集成方法比单纯增加计算量更有效,其中fine-tuned(微调)的monitor在集成中表现突出。
Wei Sheng, Rohan Paleja
cs.AI
本文提出Influence-Based Team Steering (IBTS)框架,通过influence shaping激励agent发现多样且高性能的团队交互模式,并引导轨迹向更强的协调模式收敛。在Overcooked-AI环境的两agent和三agent设置中,IBTS相比基线方法提升了团队性能,强调了零样本人机协作中需结合稀疏奖励协调机制与伙伴多样性覆盖。
Ruobing Zuo et al.
cs.AI
本文提出NSPI框架,结合LLM生成近似多项式Sum-Of-Squares (SOS)分解的猜想与符号计算精化,实现多项式不等式的自动证明,并最终在Lean中验证。该方法在多达10个变量的多项式基准上展示了可扩展性,但未涉及关键词中的核心概念。
Guruprasad Raghavan, George Nychis, Rohan Narayana Murthy
cs.AI cs.IR cs.LG
本文提出X-SYNTH框架,通过观察人类注意力(digitally observable interaction signatures)来为企业AI agent合成上下文,而非依赖传统检索。该方法在销售线索识别任务上将True Lead Rate从9.5%提升至61.9%,同时降低False Lead Rate。
Fangzhou Lin et al.
cs.AI
本文提出CAPS (Cascaded Adaptive Pairwise Selection)框架,通过级联自适应策略在并行推理中非均匀分配verifier计算资源,沿evidence轴和distribution轴优化pairwise self-verification的效率。实验表明,该方法在多个代码和数学推理基准上以显著更低的verifier token预算达到或超越现有方法性能。
Jing Wang et al.
cs.AI
本文提出了RTL-BenchMT,一个用于动态维护RTL生成benchmark的agentic框架,通过自动识别和修正有缺陷的case以及检测和更新过拟合case,以减少人工维护成本。
Yichao Liu et al.
cs.AI
本文提出DRS-GUI,一种无需训练的dynamic region search框架,通过模拟人类感知行为(Focus, Shift, Scatter)和基于Monte Carlo Tree Search的Action Planner,为MLLM在复杂GUI界面中定位指令相关元素。该方法在ScreenSpot-Pro上提升了14%的grounding性能,但未涉及code、spectral、Muon等关键词。
Sergei Chuprov et al.
cs.AI
本文主张将元认知(metacognition)作为AI设计的一般原则,通过让系统监控自身状态并依据问题难度分配资源来提升准确性、安全性和效率,并在联邦学习案例中展示了其应用。
Junle Wang, Xingchuang Liao, Wenjun Wu
cs.AI
本文提出STAR框架,将基于LLM的微服务根因分析(RCA) agent的工作流分解为四个结构化阶段,并通过阶段审计、预算感知路由和反事实候选评估来定位并修复推理错误。实验表明该方法能提升根因定位和故障分类性能,但未涉及code、spectral、Muon或pretrain等关键词。
Yuejia Li et al.
cs.AI cs.CV
本文提出了OmniManim框架,用于生成教育动画代码,通过引入视觉先验(如稀疏关键帧布局和插值感知优化)来减少渲染后的视觉缺陷,并构建了评估数据集。该方法主要关注代码生成与渲染反馈的结合,与关键词中的agent和code有一定关联,但缺乏开创性或对长期问题的突破性解决。
Keshava Chaitanya, Jahnavi Gundakaram
cs.AI
本文提出PRISM框架,将prompt工程视为持续可靠性问题,通过自动生成测试用例、模拟对话并修复prompt,来应对LLM行为漂移。该方法在35个企业对话agent上验证,将prompt编写时间从2天降至30分钟,并实现99%的生产可靠性。
Chanuk Lee et al.
cs.AI cs.CL
本文提出NudgeRL框架,通过Strategy Nudging在rollout中引入轻量级策略上下文来增强RLVR的探索多样性,并设计统一目标函数分解reward信号。实验表明该方法在数学推理任务上以更少计算量超越标准GRPO。
Izabella Krzeminska, Michal Butkiewicz, Ewa Komkowska
cs.AI
本文通过复制评估程序检验了大型语言模型(LLMs)在对话系统中推断用户状态指标的可靠性,发现仅31/213的指标满足个体分数稳定性标准,表明AI推断的用户状态指标在实时自适应系统中缺乏默认的可靠性。
Xiang Li et al.
cs.AI cs.CY
本文提出ALSO框架,将多智能体社会模拟中的多轮交互建模为adversarial bandit问题,通过在线策略优化实现动态环境下的agent适应,并引入轻量级神经网络预测奖励以提升样本效率。
Kean Shi et al.
cs.AI
本文提出了SaaS-Bench,一个基于23个真实SaaS系统的基准测试,用于评估Computer-Use Agents在专业工作流中的能力。实验表明,现有LLM-based agents在该基准上表现不佳,揭示了其在规划、状态跟踪和错误恢复等方面的局限性。
Logan Mondal Bhamidipaty et al.
cs.AI cs.LG
本文提出了一种强化学习中world model被利用(exploitation)的新定义,并类比了reward hacking的概念。文章证明了在大型策略集上exploitation是不可避免的,并探讨了在有限策略集中避免exploitation的条件与安全规划的限制。
Jingxuan Wei et al.
cs.AI
本文针对GUI控制中的精确几何构建任务,提出了PAGE Bench基准和PAGER智能体。PAGER通过依赖结构规划与像素级执行分解任务,并利用像素级监督微调和精度对齐的强化学习来弥合语义与执行之间的鸿沟,在点精确GUI控制任务上取得了显著提升。
Fabio Rovai
cs.AI cs.CV cs.LO
本文研究了一种基于事件图(event-graph)的世界模型,通过将agent状态表示为RDF三元组的只追加日志,并利用结构化干预词汇进行分支来回答反事实查询。该模型在CLEVRER数据集上超越了部分基线,并引入了twin-EventLog基准测试。
Dillon Z. Chen et al.
cs.AI cs.RO
本文提出BISON系统,通过结合高层符号抽象和低层模仿学习构建双层策略\((\pi^{\mathrm{hl}}, \pi^{\mathrm{ll}})\),以解决长时域规划问题。实验表明该方法在泛化性和效率上优于VLA和端到端方法,但未涉及code、spectral或Muon等关键词。
Ido Lublin, Dor Atzmon, Izack Cohen
cs.AI
本文用Timed Transition Petri Net建模资源约束项目调度问题,并通过\(A^*\)搜索与启发式方法求解。实验表明该方法在PSPLIB基准上优于MIP求解器。
Michael Solodko, Justin Wagle
cs.AI
本文提出ScreenSearch系统,结合结构化的screen retrieval与ambiguity-aware PUCT graph-bandit算法,用于大规模桌面GUI agent的OS状态探索。系统通过UIA tree提取位置感知特征并构建去重状态图,利用matched-action outcome dispersion定义可扩展的ambiguity信号,以指导探索与决策。实验表明,ambiguity reduction本身不足以作为探索目标,且更强的proposal prior能显著提升unique-state发现。
Parisa Kordjamshidi et al.
cs.AI cs.CL
本文研究了大型语言模型在税法推理中的表现,发现数据污染会虚增其性能,并通过对比实验表明神经符号框架(结合符号求解器)比纯LLM更可靠和鲁棒。
Donghwan Lee
cs.AI
本文针对常数步长Q-learning,提出了一种符号分离的有限时间误差分析方法。通过将误差分解为负部和正部,分别用线性时不变系统和线性切换系统进行控制,揭示了Q-learning误差动态中的最大诱导不对称性。
Chinmay Savadikar et al.
cs.AI
本文提出了ShopGym框架,包含ShopArena(将真实商店转化为可控沙盒环境)和ShopGuru(自动生成多类别基准任务)两个组件,用于构建真实、可复现的电商Web agent评估环境。实验通过图结构分析和agent行为评估验证了合成环境能保留真实商店的关键结构特性。
Augusto B. Corrêa, André G. Pereira, Jendrik Seipp
cs.AI cs.LG
本文提出了一种属性引导的LLM程序合成方法,用于PDDL规划领域中的启发式函数生成。该方法通过检查候选程序是否满足形式化属性,并在违反时提供具体反例来引导LLM修复,从而减少程序生成和评估成本。
Ziang Ye et al.
cs.AI cs.CL
本文提出了一种名为Exploration Checkpoint Coverage的指标,用于量化LLM agent在未知环境中的探索能力,并设计了交替执行任务与探索rollout的训练策略。该方法通过解耦信息收集与任务执行,提升了agent的泛化性能,但未涉及code、spectral或Muon等关键词。
Kush R. Varshney
cs.AI
本文用structural causal modeling (SCM)符号形式化了二元道德理论(TDM),提出了typecasting operator、completion operator和valence-dependent inference mechanism三种心理算子,并展示了该代数框架在AI政策设计中的应用。
Parand A. Alamdari, Toryn Q. Klassen, Sheila A. McIlraith
cs.AI cs.CY cs.LG cs.LO
本文探讨了如何结合formal methods与LLMs,对AI系统进行从部署前测试到部署后审计的合规性监控。作者提出利用Linear Temporal Logic (LTL)的语法和语义,对黑盒LLM的行为约束进行离线审计和在线监控,并引入预测性和干预性监控器以减少违规。实验表明,该方法在检测时间扩展行为约束方面优于LLM基线,但未涉及code、spectral或Muon等关键词。
Igor Bogdanov et al.
cs.AI cs.CL cs.LG cs.MA eess.SY
本文在CybORG CAGE-2这一对抗性部分可观测环境(POMDP)中,对compound LLM agent的设计维度(上下文表示、推理方式、层次分解)进行了成本-性能对照研究。研究发现,程序化状态抽象比原始观测更高效,而将推理工具分布在层次结构中会导致性能下降(称为deliberation cascade),且上下文工程通常比深度推理更具成本效益。
Tahreem Yasir et al.
cs.AI cs.CL
本文评估了LLM在命题逻辑tutoring任务中的诊断能力,发现其在最优步骤上表现良好,但系统性地错误处理了次优和错误解法,表明LLM更适合与知识图谱结合的混合架构。
Xavier Theimer-Lienhard et al.
cs.AI cs.CL
本文介绍了Fully Open Meditron,首个用于构建临床LLM的完全开放pipeline,包括经临床医生审核的训练语料库、可复现的数据构建与训练框架以及对齐的评估协议。该pipeline在多个开放基础模型上验证了有效性,但方法本身并非开创性,且与关键词列表中的概念无直接关联。
Sarah Martinson et al.
cs.AI
本文提出了一种基于LLM引导的树搜索的自主多病原体疾病预测系统,该系统能自动生成并优化预测软件,在2025-2026美国呼吸道季节的实时评估中,其集成模型性能与人工策划的CDC基准相当或更优。该方法主要涉及agent和code生成,但与关键词中的spectral、Muon、pretrain、attention等无直接关联。

cs.IR

Jinze Wang et al.
cs.IR cs.AI cs.MA
Agent4POI提出了首个在推荐时刻生成上下文条件化多模态表示的POI推荐框架,而非依赖预计算的静态POI embedding。本文通过理论证明,在标准双线性评分下,任何预计算encoder都无法满足上下文敏感的排序需求,从而创新性地将计算过程反转:利用四阶段LLM agent生成动态affordance查询,并通过五步跨模态chain-of-thought推理,基于Gibsonian affordance理论构建不确定性感知的affordance表示。该方法在三个POI基准测试和三种评估配置下,相对最强baseline实现了23.2%的相对提升,在上下文偏移场景下性能仅下降7.5%(而最强baseline下降16-17%),冷启动场景下性能提升高达2.4倍。该工作与关键词中的agent和context高度契合,为上下文感知推荐提供了开创性的推理时表示生成范式。
Yibin Wang et al.
cs.IR cs.AI
本文提出了一种基于Healthy Eating Index (HEI)的检索增强生成框架,结合标准化营养数据库与大语言模型,用于个性化食物推荐。该方法通过构建食物级embedding空间并利用RAG pipeline生成推荐,模拟实验显示能显著提升用户的HEI评分。
Milind Pandurang Jagre et al.
cs.IR cs.AI
本文提出了Fortress框架,通过识别和剪除导致预测分数随时间波动的特征来增强搜索推荐系统的稳定性。该方法利用历史数据快照进行时间数据增强和特征剪枝,在大型应用市场验证了其能提升预测稳定性与分类性能。
Zehua Cheng, Wei Dai, Jiahao Sun
cs.IR cs.AI
本文提出DMP-MH框架,通过先对节点度进行确定性裁剪以限制敏感度,再使用Noisy Mirror Descent生成满足\((\epsilon,\delta)\)-Edge Differential Privacy的合成图,最后用双流hashing网络蒸馏该拓扑结构,解决了跨模态检索中图结构数据的隐私保护问题。实验表明该方法在保持隐私的同时显著优于现有私有基线。
Luca Mouchel, Pierre Bouquet, Yossi Sheffi
cs.IR
本文主张基于证据而非模型先验来测量工作对AI的暴露程度,提出了一种检索增强框架,利用新闻和学术摘要为O*NET中的职业-任务对分配暴露标签,并证明该方法比零样本基线更符合实际AI使用情况。
Jiangli Shao et al.
cs.IR cs.AI
本文提出了一种名为GenLI的生成式长期用户兴趣模型,用于点击率预测。该模型通过兴趣生成模块(IGM)生成多个兴趣分布,以捕捉用户兴趣的多样性,并采用行为检索模块(BRM)将时间复杂度降至\(O(1)\),从而在准确性和效率之间取得平衡。
Fujun He et al.
cs.IR
本文提出了Ascend-RaBitQ,首个在异构NPU-CPU架构上优化的IVF-RaBitQ系统,用于十亿级向量相似性搜索。它通过将粗排序(NPU)与细排序(CPU)解耦,并引入多种NPU原生优化,在保持精度的同时显著提升了索引构建速度和查询吞吐量。
Anh-Tai Pham-Nguyen et al.
cs.IR
本文提出了MERVIN,一个用于越南新闻视频的多模态事件检索统一框架,整合了关键帧、转录和视频摘要,并通过Gemini 1.5 Flash提升转录质量。实验表明该系统在AI Challenge HCMC 2025中取得了良好效果,但方法本身在检索领域较为常规,未涉及关键词中的特定概念。

cs.CL

Nurbek Tastan et al.
cs.CL cs.LG cs.MA
本文提出了一种名为Nexa的混合范式,用于多智能体系统中的协作。该方法通过一个可训练的response-conditioned policy,将并行执行与顺序通信相结合:系统首先并行获取所有agent的响应,将其嵌入共享语义空间,然后预测一个稀疏的有向无环通信图;若图为空则保持纯并行,否则执行一次顺序消息传播。该policy是一个轻量级transformer模型,通过policy-gradient优化训练,无需外部LLM评判或手工拓扑搜索,且严格包含纯并行执行作为特例。实验表明,Nexa学到的通信策略在agent数量、任务或底层模型变化时具有良好的泛化性,为多agent协作中的通信与延迟优化提供了新思路。
Yichen Zhu et al.
cs.CL
本文提出Dynamic Chunking Diffusion Model (DCDM),用可微分的Chunking Attention层替代固定大小的positional blocks,将tokens动态路由到\(K\)个由可学习子空间参数化的语义簇中。该方法通过diffusion objective端到端塑造簇分配,并基于簇分配生成chunk-causal attention mask,使离散扩散去噪器在语义块上自回归地分解序列似然,严格推广了block discrete diffusion。在高达1.5B参数规模的实验中,DCDM在多个下游基准上一致优于无结构和positional-block扩散基线,且优势在训练早期即显现并随规模保持稳定。
Jiawei Yu et al.
cs.CL cs.AI
本文提出了一种名为H-Mem的新型记忆机制,通过混合结构(hybrid structure)有效建模基于LLM的agent记忆随时间的演化过程。该方法构建了一个时间与语义树结构,使短期记忆逐步演化为包含摘要信息的长期记忆,并同时构建知识图谱(knowledge graph)以捕捉记忆实体间的关系。H-Mem利用树与图的混合结构实现了高效的记忆检索,在多个agent记忆基准测试的问答任务上取得了最先进性能。该工作与关键词中的agent高度契合,并为agent记忆管理提供了开创性的方法论。
Jiachen Zhu et al.
cs.CL
本文提出了一种将LLM的context engineering(上下文工程)从全局搜索问题转化为推荐问题的范式转变。作者引入Neural Collaborative Context Engineering (NCCE)框架,通过Context-CF Co-Evolution机制,利用Neural Collaborative Filtering (NCF)模型学习实例与上下文之间的偏好,从而为每个输入实例动态分配最优的上下文策略。该方法在理论上证明了通过匹配个体输入与其最优上下文能显著提升任务准确率,为LLM的个性化上下文优化提供了开创性思路。
Wentao Qiu et al.
cs.CL
本文提出DimMem,一种轻量级dimensional memory框架,将每个记忆表示为包含time、location、reason、purpose和keywords等显式字段的原子化、类型化、自包含单元。该方法通过dimension-aware retrieval和selective assistant-context recall,在不存储完整历史对话的情况下实现高效长期记忆,在LoCoMo-10和LongMemEval-S基准上分别达到81.43%和78.20%的准确率,同时将LoCoMo的per-query token成本降低24%。实验表明,dimensional memory extraction是可学习的,微调后的Qwen3-4B提取器在关键设置下性能可与更大模型相媲美,为LLM agent的长期记忆提供了有效且高效的显式维度结构化基础。
Shuaiyi Li et al.
cs.CL cs.AI
本文提出了一种面向block attention泛化能力的自动分割与蒸馏方法。针对长上下文场景(如RAG)中block attention面临的分割困难与微调效率低两大挑战,作者首先构建了包含30k+实例的语义分割数据集SemanticSeg,并训练轻量级分割器实现与人类直觉对齐的自动文本分块;其次提出block distillation训练框架,利用冻结的全注意力教师模型指导block attention学生模型,并引入block sink tokens、block dropout和token级损失加权三个创新组件。实验表明该方法在多个模型和基准上接近全注意力性能,为block attention的实用化部署提供了可扩展路径。
Michael Y. Hu et al.
cs.CL cs.AI cs.LG
本文提出了一种名为OP-Mix的数据混合算法,通过在当前模型上训练的low-rank adapter之间进行插值来廉价模拟候选数据混合,从而在整个语言模型训练生命周期(包括pretraining、continual learning等阶段)中统一解决数据混合问题。实验表明,该方法在多个阶段均能接近最优混合效果,并显著降低计算成本。
Sarah Griebel, Ted Underwood
cs.CL
本文使用130,486个文学翻译段落,通过translationese分类器和COMET-KIWI指标,发现流畅性与忠实性在文学翻译中呈负相关,且该模式在人类翻译和Google Translate中显著,但在TranslateGemma中较弱。
Amir Zeldes
cs.CL
本文介绍了DiscoExplorer,一个用于研究多语言话语关系的开源网络界面,支持16种语言的DISRPT数据集查询与可视化。该工具主要服务于计算语言学领域的话语关系分析,与关键词列表中的概念无直接关联。
Volodymyr Ovcharov
cs.CL cs.DL cs.IR
本文利用正则表达式从1亿份乌克兰法院判决中提取了5亿条引用边,构建了首个大规模法律引用图。通过幂律分布分析、Louvain社区检测和预测立法重要性等任务,展示了该图在无监督情况下恢复法律领域边界的能力,并开源了相关数据与代码。
Thomas Hikaru Clark, Sihan Chen, Laura Nicolae
cs.CL
本文研究了人类在有限词汇条件下如何回答问题,并与基于大语言模型的贪心和全局最优采样算法进行比较。人类行为更接近贪心采样,但更熟练的个体表现出非贪心的回溯和修正行为。
George Boateng et al.
cs.CL cs.CY
Adesua是一个基于WhatsApp的AI教学助手,为西非中学生提供科学学习支持,通过集成教科书和历年考试题目实现问答与自动评估。初步可行性研究显示其有用性较高,但样本量较小,未涉及关键词中的核心概念。
George Boateng et al.
cs.CL cs.CY cs.HC
本文介绍了Eskwai for Students,一个基于retrieval augmented generation (RAG)的生成式AI助手,用于加纳法律教育,通过超过12K案例法和1.4K立法的数据库回答学生问题,并在30个月内被3.1K学生使用。该工作主要关注AI在特定教育场景的部署与伦理问题,与关键词中的理论或方法(如spectral, Muon, attention等)无直接关联。
Sen Yang, Yinglei Ma
cs.CL
本文提出了一种名为Capability Conditioned Scaffolding的框架,通过将用户专业能力划分为强、中、弱三个领域来调节大语言模型的干预行为,旨在防止专业领域漂移。实验在MMLU子集和四个LLM基座上验证了该方法能产生一致的profile条件化干预行为。
Mahdi Naser-Moghadasi, Faezeh Ghaderi
cs.CL cs.LG
本文分析了六种不同LLM架构在十二类认知任务上的神经激活模式,发现数学推理在所有架构中产生最高的attention entropy,且decoder模型比encoder模型表现出更高的sparsity模式。
William Timkey, Brian Dillon, Tal Linzen
cs.CL
本文探讨了语言模型(LM)与人类在句子处理中预测差异的原因,通过使用Recurrent Neural Network Grammars (RNNGs)和词同步beam search,测试了“解析多重性不匹配假说”。研究发现,减少LM同时考虑的解析数量虽能增加花园路径效应,但不足以完全解释人类阅读时间的差异,表明该假说无法弥合LM与人类句子处理之间的差距。
Anders Gjølbye, Lars Kai Hansen, Sanmi Koyejo
cs.CL cs.LG stat.ML
本文通过分析推理模型在生成chain-of-thought时的hidden-state trajectories,发现原始轨迹几何形状受生成长度影响显著,需进行长度校正。校正后,推理模型在代码领域表现出更直接的轨迹和更低的局部曲率异质性,但在数学和布尔可满足性领域效应较弱。
A H M Rezaul Karim, Ozlem Uzuner
cs.CL cs.AI
本文提出了一种模块化的retrieval-augmented generation (RAG) pipeline,用于从对话式护士-患者转录文本中提取结构化临床信息,并约束于预定义schema。实验表明,RAG能稳定提升性能,但最优的schema约束程度依赖于模型,且二次审计可带来小幅改进。
Dmitry Stanishevskii et al.
cs.CL
本文提出了FINESSE-Bench,一个包含8个专门基准测试和3993个问题的分层评估套件,用于评估大语言模型在金融领域的专业知识和技术分析能力。该基准结合了基于专业认证的考试型数据集和实际交易任务,旨在评估模型从基础到专家级别的金融推理能力。
Yufeng Du et al.
cs.CL cs.AI cs.LG
本文从理论上证明了Rotary Positional Embeddings (RoPE)在长上下文场景中的固有局限性,指出随着上下文长度增加,RoPE会失去局部性偏好和token相关性的一致性,其注意力分数无法有效区分位置或token。该工作为Transformer长上下文模型的位置编码机制提供了理论分析,但未提出新的解决方案。
Junchao Wu et al.
cs.CL
本文构建了DetectRL-X多语言基准,用于评估LLM生成文本检测器在8种语言和6个领域上的可靠性,并分析了不同因素对检测性能的影响。
Jinyuan Li et al.
cs.CL cs.AI cs.LG
本文提出BetaPRM,通过预测步骤级成功概率及其可靠性,改进了过程奖励模型(PRM)在推理任务中的表现。该方法利用Beta-Binomial似然估计奖励的置信度,并基于此设计了自适应计算分配(ACA)策略,在Best-of-N推理中优化了准确率与计算开销的权衡。
De Shuai Zhang
cs.CL cs.LG
本文研究了非自回归文本生成中的连续潜变量模型,发现仅靠潜空间几何性质(如scale matching或cosine similarity)不足以保证解码质量,即使潜变量接近真实编码器输出,仍可能产生高熵或重复的token分布。作者提出了一种基于草稿条件潜变量精炼的框架,并指出连续潜变量文本生成应通过解码器可恢复性、起始分布质量以及精炼是否保留解码器可读结构来评估。
Tianyu Huang et al.
cs.CL
本文提出GiLT模型,通过从依赖图中提取特征来调节Transformer的attention权重,从而将句法结构信息注入语言模型。实验表明该方法在句法泛化上优于基线,但未涉及code、spectral、Muon等关键词。
Luxuan Chen et al.
cs.CL
本文对8个开源LLM家族的27个checkpoint进行了最大激活值的系统性测量,发现激活值范围跨越近四个数量级,且与模型家族、架构和训练阶段密切相关,而非简单的参数规模函数。该工作为低比特量化部署提供了实证参考。
Fengfei Yu et al.
cs.CL cs.LG
本文提出Calibration with Semantic Reward (CSR)框架,通过在语义空间中直接校准LLM的置信度,而非依赖token级别的口头化置信度,从而提升模型在问答任务中的校准性能。实验表明CSR在多个数据集上降低了期望校准误差(ECE)并提高了AUROC。
Weixin Liu et al.
cs.CL
本文提出了一个基于知识图谱的基准MHGraphBench,用于评估大语言模型在心理健康领域的实体识别、关系判断和两跳推理能力。实验发现模型在实体分类上表现优异,但在关系预测和推理上仍有困难。
Vinayshekhar Bannihatti Kumar et al.
cs.CL cs.LG
本文通过引入一个全新的编程语言PyLang,研究了大型语言模型在未见过的编程语言上的代码生成能力。实验发现,模型虽然能快速学会新语言的语法,但无法将Python中的语义能力迁移过来,存在“实现保真度差距”。
Shengyin Sun et al.
cs.CL
本文提出Parallel Speculative Decoding (PSD)框架,通过自适应unmasking策略和多深度草稿验证,在不额外增加模型调用的情况下加速diffusion LLM的推理。实验表明该方法在推理效率与生成质量间取得了良好平衡,但未涉及关键词中的code, context, spectral, Muon, pretrain, agent, attention等核心概念。
Sho Takase, Ukyo Honda
cs.CL
本文通过分析开源LLM生成的序列,证明LLM存在严重的英语中心化偏差,并指出持续预训练在适应目标语言方面并不比从头训练更具成本优势。
Junwen Mo et al.
cs.CL
本文基于Potential Ambiguity理论构建了首个中文歧义数据集CHA-Gen,并评估了多个LLM在中文歧义理解上的表现,发现模型存在歧义盲视、归因错误等失败模式。该工作主要聚焦于中文语言处理,与关键词中的code、spectral、Muon、agent等概念无直接关联。
Xiaoyan Su et al.
cs.CL cs.CV
本文提出了VCG-Bench基准,用于评估视觉语言模型在结构化图表生成与编辑任务上的能力,采用Diagram-as-Code范式将图表表示为mxGraph XML代码。实验表明现有SOTA模型在该任务上表现不佳。
Liqi Zhou, Jiafu Li
cs.CL cs.LG q-bio.QM
本文研究了使用大型语言模型(LLMs)对在线患者问询进行四类可操作分诊分类的任务,比较了TF-IDF和BioBERT等监督基线模型与多种LLM在0-shot、4-shot和12-shot条件下的性能。结果表明,最强的LLM(Claude Haiku 4.5, 12-shot)在宏观\(F_1\)指标上略优于最佳监督基线,但置信区间重叠,且模型在紧急召回率和分诊不足率等安全指标上表现有限。
Jiahui Guang et al.
cs.CL cs.AI
本文提出ASRU框架,通过激活重定向和强化学习优化多模态大语言模型的遗忘边界,在提升遗忘效果的同时保持生成质量。该方法主要关注模型遗忘与可用性的平衡,与关键词中的概念关联较弱。
Huacan Chai et al.
cs.CL
本文提出了SMMBench基准,用于评估多模态agent在跨多个独立来源(如对话、截图、表格等)中检索、对齐和组合证据的能力,实验表明现有系统在此任务上表现不佳。
Kamil Guttmann et al.
cs.CL cs.AI
本文研究了使用小型开源LLM(<30B参数)进行机器翻译质量估计(QE),通过单次提示策略同时生成质量分数、MQM错误注释、建议纠错和完整后编辑,证明了其在系统级相关性上优于传统神经指标和微调模型,可作为大型专有LLM的隐私保护替代方案。
Michał Ciesiółka et al.
cs.CL
ForMaT是一个包含15种语言对、3956个PDF文档的平行语料库,用于多模态机器翻译。该数据集通过K-Medoids采样选取视觉多样的文档,并发现现有翻译系统在空间定位和几何同步方面存在困难。
Daria Blinova et al.
cs.CL
本文介绍了一个俄罗斯政府多模态政治传播数据集,包含官方演讲的俄英文本、图像及元数据,并利用transformer-based multimodal topic modeling进行了主题标注。该工作主要贡献于政治传播的数据资源建设,与关键词中的核心概念关联较弱。
Ernesto Garcia-Estrada, Carlos Escolano, José A. R. Fonallosa
cs.CL cs.AI
本文研究了将Group Relative Policy Optimization (GRPO)应用于encoder-decoder Seq2Seq模型(NLLB-200)的机器翻译微调,使用无需平行数据的混合reference-free reward,在13种语言上取得了提升。该工作主要聚焦于机器翻译领域的实践,与关键词中的code, spectral, Muon, agent等概念关联度较低。
Anita Srbinovska et al.
cs.CL cs.AI cs.LO
本文提出了一种基于符号方法的框架,用于从执法报告的非结构化叙述中提取与证据相关的事实,并构建时间图。该方法通过语义解析和本体映射实现,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Isar Nejadgholi et al.
cs.CL
本文从Intercultural Communication理论出发,提出了一个关于AI文化能力的三个层次分类法:Cultural Awareness、Cultural Sensitivity和Cultural Competence,旨在澄清当前AI评估中文化能力定义的模糊性。该分类法作为提高AI评估有效性和可解释性的实用工具,但与我提供的关键词列表关联度较低。
Jie Gao et al.
cs.CL cs.AI
本文基于adaptive learning framework中的learner model,提出了一个评估Vision Language Models在数学教育中适应性的rubric,从认知、动机和复杂性三个维度评估模型对学习者特征的适应能力。实验发现当前VLMs在生成基于learner model的教学响应方面存在困难,尤其是在学习者信息有限时。
Nils Feldhus et al.
cs.CL cs.LG
本文通过Position-aware Edge Attribution Patching (PEAP)方法,在Gemma-3、Qwen2.5和Llama-3模型中发现了共享的Latent Evaluator子图,并揭示了格式诱导的评分不一致源于输出格式的脆弱分支,而非评估质量本身。
Yu Pan et al.
cs.CL cs.AI
本文提出S2ST-Omni 2框架,通过将多语言语音到语音翻译中的语言条件从扁平标签重构为结构化类型学先验,在表示、声学和解码三个层面进行语言编码与调制。实验表明该方法在数据稀缺场景下具有优势,但未涉及关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念。
Zijie Dai et al.
cs.CL cs.AI cs.LG
RecMem提出了一种基于重复性(recurrence)的memory consolidation方法,通过仅在检测到语义相似的交互持续重复时才调用LLM进行memory extraction,从而大幅降低token消耗。该方法在保持准确性的同时,将三种SOTA memory系统的memory construction token成本降低了高达87%。
Si-Belkacem Yamine Ketir et al.
cs.CL
本文提出使用LLM(GPT-5)驱动数据增强,通过书面回答生成多种风格的口语化独白,以改善从语音预测认知评分(Hasegawa Dementia Scale)的效果。实验采用相似性引导的类平衡选择策略,优先选择语义接近的合成样本,从而更稳定地减少少数低分样本的预测误差。
Chenwang Wu et al.
cs.CL
本文提出了一种多层级上下文token关系建模框架用于机器生成文本检测,通过马尔可夫校准模块和规则支持推理模块分别建模局部和全局关系,在跨模型和跨领域场景下提升了检测性能。
Rui Chu et al.
cs.CL cs.AI
本文提出DebiasRAG,一种基于检索增强生成的无调参去偏框架,通过自诊断偏置上下文和梯度更新重排序来减少大语言模型中的社会偏见,无需额外训练资源。该方法主要关注公平性生成,与关键词中的code、spectral、Muon、agent、attention等概念无直接关联。
Xin Zhang et al.
cs.CL
本文提出SGR框架,通过从外部知识库生成与问题相关的子图,引导LLM逐步推理,以提升复杂推理任务的准确性和事实可靠性。该方法在多个基准数据集上优于基线模型。
Michael P. Brenner, Lizzie Dorfman, John C. Platt
cs.CL cond-mat.other physics.comp-ph
本文利用AI编码系统(Google's AntiGravity)结合LLM驱动的树搜索算法(ERA),自主生成了高效的三维光伏结构。研究通过迭代修补物理引擎约束来消除算法奖励黑客行为,最终发现了具有改进性能的设计方案。
Axel Abels et al.
cs.CL cs.CY
本文提出了一种基于校准价值人格的跨文化调查模拟方法,通过从调查响应中提取文本描述符来构建价值导向的人格,并引入校准程序以提高响应多样性。该方法在减少跨文化预测误差方面有所改进,尤其对训练数据中代表性不足的人群效果更显著。
Zhen Zhang et al.
cs.CL cs.AI cs.IR
本文提出Argus系统,通过Searcher和Navigator协作将深度研究任务视为拼图组装,而非并行暴力搜索。Searcher收集子查询证据,Navigator维护证据图并调度缺失部分,最终生成带来源追踪的答案。
Nathan Roll et al.
cs.CL cs.LG
本文通过模拟脑损伤(lesion)语言模型(LM)的参数,并利用Text Aphasia Battery(TAB)评估其输出,研究了人工失语症现象。研究发现,虽然模型能表现出类似人类的失语症状分布,但其症状模式与人类存在定性差异,表明失语症候群高度依赖于学习与处理的细节,而非语言处理中断的领域不变结果。
Pavan Manjunath, Thomas pruefer
cs.CL cs.AI cs.ET cs.LG eess.SY
本文探讨了生成式AI在智能能源基础设施中的应用,包括智能燃气分配、计费、碳分析和量子启发优化,但未涉及关键词中的核心概念。
Pavan Manjunath, Thomas Pruefer
cs.CL cs.AI cs.DB cs.LG
本文提出了一个端到端的生成式AI框架,用于智能公用事业账单的CO2分析和可持续资源优化,整合了自然语言账单生成和基于transformer的负荷预测能力。

cs.DS

Ivan Lahtin, Viktor Zamaraev
cs.DS cs.DM math.CO
本文研究了时间图(temporal graph)中的探索问题,针对一类始终连通的\(k\)-边缺陷(\(k\)-edge-deficient)时间图,证明了存在一个长度为\(O(nk \log k)\)的探索调度(exploration schedule),其中\(n\)为顶点数。该结果解决了此前遗留的开放问题,即是否能在\(n\)的线性时间内完成探索,并表明对于常数\(k\),探索时间可达最优的\(\Theta(n)\),从而揭示了这类近静态时间图在探索复杂度上保留了静态图线性遍历的特性。该工作与关键词“agent”高度契合,因其核心是研究智能体(agent)在时间约束下的遍历行为。
Ioannis Caragiannis et al.
cs.DS cs.CC
本文研究了自动驾驶出租车平台中空闲车辆的随机优化放置问题,提出了一个形式化的k-RP模型,并给出了基于demand distribution的随机2-approximation算法、基于maximum coverage问题的不可近似性下界,以及在tree metric上的精确多项式时间动态规划算法。
Travis Gagie
cs.DS
本文提出通过批处理查询来优化PBWT前缀数组访问,在特定条件下(如批量查询数量足够大且平均报告单倍型数量满足阈值)可实现常数时间报告每个单倍型,但方法基于已有工作且改进有限。
Sinho Chewi, Andre Wibisono
cs.DS cs.LG math.ST stat.ML
本文研究了从log-smooth非log-concave分布中采样的查询复杂度,基于proximal sampler和restricted Gaussian oracle (RGO)实现,证明了在相对Fisher information下可获得与log-concave采样相同的维度依赖保证,并改进了非log-concave采样的先前工作。
Joanne Dumont et al.
cs.DS cs.CC cs.DM
本文研究了广播独立性和广播打包问题的参数化复杂度,证明了它们在树宽加直径参数下是FPT的,但在路径宽参数下是W[1]-难的。此外,还给出了加权版本的W[1]-难结果以及树宽参数下的常数因子近似算法。

others

Penghui Li et al.
cs.CR cs.AI cs.SE
本文提出Neo,一个结合Large Language Models (LLMs)与经典程序分析的agentic程序分析框架,用于检测多语言微服务架构中的权限提升漏洞。Neo通过LLM-based agent动态生成分析计划、自适应代码搜索策略并验证语义,同时开发了跨服务与跨语言的代码搜索原语以实现可扩展的代码探索。在涵盖7种编程语言、620万行代码的25个开源微服务应用上,Neo发现了24个零日权限提升漏洞,并达到了81.0%的精确率和85.0%的召回率,显著优于现有方案。该工作与关键词中的“agent”高度契合,展示了agentic方法在复杂程序分析任务中的开创性应用。
Jianke Zhang et al.
cs.CV cs.AI
本文提出Unified Action Model (UAM),通过引入并行Dorsal Expert(模拟生物视觉背侧通路)来解决VLA训练中VLM多模态能力退化(embodiment tax)的问题。该方法将预训练生成模型初始化的Dorsal Expert与VLM结合,并采用预测视觉动态的中级推理目标进行训练,在不冻结参数、不停止梯度、不依赖辅助VL共训练的条件下,端到端地在动作数据上训练,保留了VLM超过95%的多模态能力。这一工作为agent训练中的语义保持提供了新的架构分离视角,与关键词中的pretrain和agent高度契合。
Ruben Chocron et al.
cs.CR cs.AI cs.MA
本文首次形式化定义了AI agent归因问题(agent attribution),即如何将观察到的agent交互行为追溯至其部署账户。作者提出了一种基于canary的协议:授权方在agent交互流中注入canary,服务商通过搜索会话日志来定位源会话和账户。对于可能过滤或改写输入内容的对抗性操作者,论文设计了鲁棒的canary构造,使得在不降低agent自身任务性能的情况下无法抑制该canary,从而在防御方形成形式化的不对称优势。实验表明该方法在真实agent场景下可靠、鲁棒且可扩展。
Jonas Belouadi, Tamy Boubekeur, Adrien Kaiser
cs.CV cs.CL
本文提出MultiMat,一种利用大型多模态模型处理程序化材质节点图(一种生成2D材质通道的图形程序)的视觉与文本表示的多模态程序合成框架。该方法通过结合约束树搜索推理算法,在无条件与条件图合成任务中相比纯文本基线方法取得了更优的视觉质量与保真度。
Jacobus Conradi, Ivor van der Hoog, Eva Rotenberg
cs.CG cs.DS
本文重新审视了基于“frog”的Fréchet距离计算方法,针对其无法精确计算、收敛速度慢和简化启发式的问题,提出了保证精确性、多项式时间收敛和近最优无损简化的新方法。实验表明,尽管新方法在理论上具有吸引力,但实际性能不如Bringmann等人的现有实现。
Ivor van der Hoog et al.
cs.CG cs.DS
本文提出了Presort Hierarchy的概念,将几何问题根据在给定一维或二维排序后能否在\(o(n \log n)\)时间内解决进行分类。作者证明了quadtree、Delaunay triangulation、Voronoi diagram和Euclidean minimum spanning tree是2-Presortable的,并给出了一个期望运行时间为\(O(n \sqrt{\log n})\)的随机算法。
Jacobus Conradi et al.
cs.CG cs.DS
本文研究了在\(d\)维网格图中计算Fréchet距离的近似算法与下界,给出了一个\((1+\varepsilon)\)-近似算法及其近乎匹配的精细下界,并分析了与\(\lambda\)-低密度曲线的关系。
Sarita de Berg et al.
cs.CG cs.DS
本文针对动态圆盘交集图,提出了一种维护\((1+\varepsilon)\)-spanner的方法,其中圆盘直径限制在\([4,\Psi]\)内。该spanner具有近线性大小和空间复杂度,以及多对数更新时间,并利用持久化数据结构实现动态维护。此外,该spanner可适配为连通性数据结构,改进了现有动态数据结构的空间复杂度,并将结果推广到\(d\)维超立方体。
Sarita de Berg et al.
cs.CG cs.DS
本文研究了平面中不精确点集(imprecise point set)的Pareto前沿(Pareto front)构造问题,提出了在区域检索次数上达到实例最优(instance-optimal)的算法,并针对单位正方形区域给出了在运行时间上达到普遍最优(universally optimal)的算法。该工作将先前结果推广到了重叠输入区域的情形。
Can Zhou, Yulong Gao, Pian Yu
cs.LO cs.AI cs.FL math.OC
本文针对部分可观测Markov决策过程中LTL目标合成问题,提出了一种基于信念依赖奖励的蒙特卡洛规划框架,通过动态生成可验证的奖励信号来引导智能体在不确定环境中导航。该方法在多个基准测试中展现了优于现有求解器的性能。
Sascha Biel et al.
cs.AR cs.AI cs.CE
本文提出了一种利用生成对抗网络(GAN)采样技术来估计数字电路结构故障容错性的数值方法,通过比较理想数字信号与实际实验信号的偏差来评估电路鲁棒性。该方法主要关注数字电路中的逻辑门故障模式分析。
Arthur Fyon et al.
cs.AR cs.LG
本文提出了一种基于Bistable Memory Recurrent Units (BMRUs)的模拟递归计算硬件-软件协同设计方案,通过将离散输出与迟滞动力学结合,有效抑制了模拟递归中的噪声累积问题。该设计在180 nm CMOS工艺下实现了软件预测与电路行为的近乎完美匹配,并证明了递归计算的功耗随状态维度线性增长。
Yoichi Ishibashi, Taro Yano, Masafumi Oyamada
cs.SE cs.AI cs.CL
本文研究了在算法发现任务中,如何通过设计执行基础设施(harness)来提升基于LLM的进化搜索效率。实验表明,在固定token预算下,对每个算法进行更深入的思考比生成大量算法更有效,且更强大的模型更容易产生利用评分函数的“评估hack”。
Huihao Jing et al.
cs.SE cs.CL cs.PL
本文提出了PerfCodeBench,一个用于评估LLMs在高性能代码优化任务上的可执行基准,包含正确性检查和运行时效率评估。实验表明,当前LLMs在系统级优化(尤其是并行和GPU任务)上与专家代码存在显著差距。
Nenad Petrovic et al.
cs.AR cs.AI
本文提出了一种基于LLM的RISC-V供应链分析工作流,通过集成Vision-Language Models和Model-Driven Engineering来处理异构非结构化数据,并构建知识图谱以支持依赖关系验证和风险评估。该方法在RISC-V生态系统中进行了评估,展示了其在增强供应链透明度和决策支持方面的有效性。
Bogdan Banu
q-bio.QM cs.AI
本文通过三个深度基准测试(代谢优先级门控、自诱导剂群体感应和贝叶斯停滞检测),比较了受生物学启发的AI agent框架与简单替代方案的性能,但未发现其结构性保证能带来显著优势。
Qingyun Zou et al.
cs.AR cs.AI cs.SE
本文提出了Phoenix-bench基准,用于评估agentic AI系统在真实硬件工程中的表现,发现软件与硬件工程存在根本差异,硬件bug通过信号流传播而非调用图,且定位粒度比定位本身更重要。
Lucas Jing et al.
cs.SE cs.AI
本文提出了PBT-Bench,一个包含100个基于property-based testing问题的benchmark,用于评估AI agent从文档中推导语义不变量并生成精确输入策略的能力。实验发现,显式的Hypothesis提示框架能显著提升中等能力模型的bug召回率,但对最强模型效果有限,且不同模型在困难bug上表现各异。
Amirhossein Yousefiramandi
cs.IT cs.AI cs.NI
本文提出了一种基于深度强化学习的策略,用于在截止日期约束下选择性地合并编码缓存中的消息,以降低广播数据包过期率。该方法将问题建模为掩蔽离散动作队列状态控制问题,并使用图注意力策略网络进行优化。
Abinand Nallathambi et al.
cs.AR cs.AI
本文提出了一种名为A3D的Agentic AI流程,用于自动化硬件加速器设计,通过将任务分配给专业agent并利用LLM和HLS工具,实现了从工作负载分析到微架构生成的端到端自动化。该方法在LAMMPS和QMCPACK等复杂科学应用中展示了无需人工干预即可生成加速器设计的能力。
Alexander Du et al.
cs.SE cs.AI cs.PL
Hydra提出了一种通过checkpoint-and-rollback机制高效修复代码生成中静态错误的方法,允许检查与生成异步进行,并避免重新生成有效前缀。该方法在C/C++代码生成任务中相比事后修复降低了延迟和token消耗。
Yang Liu et al.
stat.ML cs.LG
本文研究了Kernel Ridge Regression (KRR)中kernel matrix与学习目标之间的eigen-alignment对泛化性能的影响,通过矩阵特征值和特征向量的估计稳定性推导了泛化误差界。
Rabin Kunwar et al.
eess.IV cs.CV cs.LG
本文提出了一种面向单颗牙冠修复的端到端pipeline,通过分类引导的分割策略处理部分口内扫描数据,并利用context-aware检索和Blender拟合生成初始牙冠方案。该方法在分割精度上表现良好,但整体属于工程应用型工作,缺乏理论或方法上的开创性突破。
Stavros Bouras et al.
cs.CR cs.LG
本文提出了一种基于Kubeflow MLOps的架构,用于在Kubernetes集群中自动检测和防御AI模型在推理阶段受到的对抗性攻击(如FGSM),并通过PGD对抗训练恢复模型精度。该工作主要关注工程实现与实验验证,在理论方法上缺乏开创性,且与关键词列表中的概念关联较弱。
Vinil Pasupuleti, Siva Rama Krishna Varma Bayyavarapu, Shrey Tyagi
cs.CR cs.AI
本文提出了一种AI驱动的自动化测试框架,通过自然语言驱动浏览器执行并集成安全验证,在四个生产应用中提升了脚本生成成功率并减少了导航失败。该框架将攻击场景描述转化为OWASP Top 10对齐的浏览器探测,但未涉及code、spectral、Muon、pretrain或attention等关键词。
Shijie Lian et al.
cs.RO cs.AI cs.CL cs.CV
本文提出PhysBrain 1.0,通过将大规模人类第一人称视频转换为结构化物理常识监督信号,训练视觉-语言模型以获取物理先验知识,再将其迁移至机器人策略中。该方法在多个多模态问答和具身控制基准上取得了SOTA结果,尤其在域外场景中表现突出。
Caoliwen Wang et al.
cs.GR cs.LG
本文提出了一种基于Transformer架构的统一学习型粒子模拟器,通过预测-校正设计在Lagrangian粒子表示上建模布料、弹性固体、流体、颗粒材料及分子动力学等多种物理现象。该方法使用粒子tokenizer编码局部交互,并通过超token编码器分层合并token以降低注意力成本,最终解码器通过交叉注意力预测粒子修正。
Thuan Hoang Nguyen et al.
cs.GR cs.CV cs.LG
本文提出FFAvatar,一种前馈式框架,能从少量未摆姿的人像图像中快速重建可动画化的3D高斯头部化身。它通过多视图查询融合器和端到端预测的FLAME参数实现,并采用三阶段训练课程来平衡泛化与保真度。
Maiyue Chen et al.
cs.RO cs.AI
本文提出了HoloMotion-1,一个用于零样本全身运动追踪的人形机器人基础模型。其核心创新在于利用大规模混合运动语料库(包括视频重建运动、动作捕捉和内部数据)来扩展控制策略训练,并通过大容量时序建模、稀疏激活的Mixture-of-Experts Transformer和序列级训练策略解决了异构数据带来的挑战。实验表明,该模型在多种未见过的运动基准上表现出鲁棒泛化能力,并可直接迁移到真实人形机器人上。
Sidharth Pulipaka et al.
cs.CR cs.AI
本文研究了LLM agents中持久化记忆的安全漏洞,提出了一种“休眠记忆投毒”攻击,通过操纵外部上下文使助手存储虚假用户记忆,并在后续对话中影响行为。实验表明该方法在多个模型上成功率较高,揭示了持久化记忆作为长期攻击面的风险。
Arsha Nagrani et al.
cs.CV cs.LG
本文提出了Minerva-Ego基准,用于评估第一人称视频理解中的复杂视觉推理能力,通过引入多模态问题和时空推理轨迹来测试模型。实验发现当前模型与人类表现差距较大,但提供“在哪里”和“何时”观察的提示能显著提升性能。
El Mahdi Chayti
math.OC cs.LG
本文提出Hybrid Momentum Stochastic Frank--Wolfe算法,用于解决外函数\(F\)非光滑的随机组合优化问题。该算法通过动量Jacobian跟踪器和Taylor校正函数跟踪器,将随机线性化输入广义线性最小化Oracle,在非凸目标下达到\(\mathcal{O}(K^{-1/4})\)的收敛速率。
Daniel Franzen, Jean Philip Filling, Michael Wand
cs.CV cs.GR cs.LG
本文提出在特征空间中进行采样,以替代群卷积神经网络中密集的几何采样,从而将几何分辨率与计算成本解耦。该方法通过特征相似性选择代表性样本,在保持分类精度的同时显著加速了3D等变分类器的训练。
Taha Gharaibeh, Jyotsna Sharma
quant-ph cs.LG
本文提出了一种混合量子-经典分割架构Quantum Feature Pyramid Gating,通过在encoder-decoder的Feature Pyramid Network融合点嵌入参数化量子电路(PQC)来学习特征的凸组合。实验表明,在TGS盐体识别任务中,该方法相比基线有一定性能提升,但主要贡献在于验证了量子特征融合在密集地震分割任务中的可行性,而非解决长期存在的理论问题或具有显著的开创性。
Blaž Rolih et al.
cs.CV cs.AI
本文提出ChangeFlow,一种基于latent rectified flow的生成式遥感变化检测框架,通过将变化检测转化为latent space中的mask合成任务,并利用结构化轻量级conditioning signal和随机采样集成来提高预测鲁棒性。该方法在四个benchmark上平均F1达80.4%,优于先前方法,但未涉及code、context、spectral、Muon、pretrain、agent或attention等关键词。
Le Jiang et al.
cs.CV cs.AI
本文提出PanoWorld,一种从单张图像和文本描述生成几何一致的360度全景视频的世界模型。通过引入深度一致性损失和轨迹一致性损失,该方法在保持视觉真实感的同时,显著提升了全景视频的几何一致性。
Hojjat Kaveh, Ricardo Baptista, Andrew M. Stuart
math.NA cs.AI
本文提出了一种基于transport map的amortized Bayesian inference方法,用于非线性inverse problem,通过最小化energy-distance目标来学习观测依赖的映射,从而近似后验分布。该方法无需似然函数,仅需joint samples,并在函数空间中使用neural operators参数化映射。
Huan-Hsin Tseng et al.
quant-ph cs.AI cs.LG
本文提出了一种对角自适应非局部观测器(Diagonal ANO),通过限制观测器为对角矩阵来降低变分量子算法中的参数数量和经典优化成本,同时保持与完整ANO等价的能力。该方法将\(k\)-局部观测器的复杂度从\(O(4^k)\)降至\(O(2^k)\),并简化了测量端的经典计算。
Yingying Fan et al.
stat.ML cs.LG math.OC
本文研究半参数上下文动态定价问题,通过ORBIT策略利用标量索引下的oracle价格映射的单峰性,实现了对未知效用函数和噪声分布的自适应学习,并给出了遗憾界。
Lingzhe Zhang et al.
cs.CE cs.AI cs.CL
本文提出了一种基于reinforcement fine-tuning的alpha因子发现框架QuantEvolver,通过将量化评估转化为policy updates来替代传统的prompt-level反馈循环,从而避免context explosion和搜索停滞问题。该方法在三个市场基准上优于现有LLM-based方法。
Luca Bompani et al.
cs.CV cs.AI eess.IV
本文提出MR2-ByteTrack方法,通过交替使用全分辨率和低分辨率推理并结合ByteTrack与Rescore算法,在MCU上实现高效的Video Object Detection。该方法在CNN和Transformer架构上均能降低计算成本并节省能耗。
Shubhi Asthana et al.
cs.SE cs.AI
本文提出了一种运行时结构化的任务分解方法,用于改进基于LLM的agentic coding系统,通过将任务划分和执行流从prompt中解耦,仅让LLM负责判断任务,并验证输出。实验表明,该方法相比静态分解和单体式系统,能显著降低重试成本。
Chunming He et al.
cs.CV cs.AI cs.LG
本文提出了一种基于Retinex理论(将图像分解为光照和反射分量)的同质图像分解方法RIDE,用于解决隐蔽目标分割问题。该方法通过任务驱动的分解模块、判别性差距注意力机制和对比损失,在多个子任务上提升了分割性能。
Kaize Deng, Zewen Yang
cs.RO cs.AI
本文提出了一种结合LSTM状态估计器和残差强化学习策略的混合控制框架,用于解决随机通信延迟下的机器人遥操作问题。该方法通过LSTM重建连续状态估计,使RL智能体学习残差扭矩补偿策略,在Franka Panda机器人上验证了其优于现有基线方法。
Libo Sun et al.
cs.CV cs.LG
本文研究了稀疏MoE在视觉分类任务中何时有效,发现存在一个“计算杠杆模式”:只有当路由计算量占总FLOPs的较大比例时,才能获得正向精度增益。通过控制实验,作者指出在ImageNet尺度下,多专家路由是必要的,而批量轴调度是CNN设置中主要的失败模式。
Swayamjit Saha et al.
cs.RO cs.AI
本文提出了一种基于LLM的智能框架,用于优化建筑机器人的任务调度,通过生成器和监督器两个LLM agent协同工作,以提升时间效率和资源利用率。该方法利用自然语言处理接口适应实时现场条件,并在简单场景下验证了有效性。
Bumsu Park et al.
cs.IT cs.AI cs.LG
本文针对Gaussian-mixture sources,提出了一种名为PrismQuant的rate-distortion-optimal vector quantization方法。该方法通过无损传输component label,并利用component-matched KLT和scalar quantization对残差进行编码,实现了接近理论RD bound的性能。实验表明,该方法在合成数据和真实CSI数据上均表现良好,且模型尺寸远小于基于transformer的learned codecs。
Anindya Sarkar et al.
cs.CV cs.AI
本文提出DiffVAS,一种基于diffusion model和reinforcement learning的视觉主动搜索方法,用于在部分可观测环境中同时搜索多种目标对象。该方法通过diffusion model重建地理空间,并利用目标条件策略引导搜索步骤。
Dmitry Kovalev
math.OC cs.LG
本文针对目标函数梯度无界的一类广义Lipschitz凸优化问题,分析了多种随机优化算法的收敛性,发现使用clipped updates的AdamW算法在理论上优于SGD和AdaGrad,并强调了指数加权梯度累积的关键作用。
Song Wu et al.
cs.CV cs.AI
本文提出了一种无需调优的基于指令的视频编辑框架,通过结构噪声初始化策略(SNIS)和噪声引导机制(NGM)来利用噪声潜变量中的信息,以改善编辑效果。实验表明该方法在视觉质量上达到了先进水平,但与关键词列表中的概念关联较弱。
Mingtong Dai et al.
cs.RO cs.AI cs.CV
本文提出了一种名为SkiP的机器人操作策略,通过动作重标记机制让策略在平滑运动阶段跳过冗余步骤,仅在关键阶段进行密集预测。该方法无需额外的跳过规划器,并利用Motion Spectrum Keying (MSK)自动划分演示数据中的关键与跳过阶段,在模拟和真实任务中减少了15%-40%的执行步数。
Juho Kim, Tuomas Sandholm
cs.GT cs.AI
本文提出了一种使用自然语言处理中的word embedding技术进行游戏抽象(game abstraction)的领域无关方法,将动作视为单词、游戏数据视为语料库来训练向量并聚类。该方法虽具通用性,但并未超越针对特定游戏(如poker)的专用算法。
David Soldani
cs.NI cs.AI cs.ET
本文探讨了6G网络架构的转型,提出运营商应优先控制、客户、业务和运营,而非技术。文章基于Rakuten Mobile的云原生Open RAN部署经验,定义了6G控制契约和保障经济模型,旨在将运营商控制转化为可执行的数字服务保障。
Nikos Tsikouras, Constantine Caramanis, Christos Tzamos
stat.ML cs.LG
本文提出MaxSketch算法,利用随机高斯投影构建max-linear sketch,用于在数据流中估计不同对象的数量。该方法在假设潜在对象具有几何结构(如常见于学习表示中)时,能以\(O(\log n / \varepsilon^2)\)的内存实现\((1+\varepsilon)\)近似估计,实验验证了其在图像流上的有效性。
Jiale Liu et al.
cs.CV cs.GR cs.LG cs.RO
本文提出了一种将3D资产转换为稀疏全景RGB-D-pose数据的方法COVER,并构建了CM-EVS数据集。该方法通过贪心覆盖代理和深度冲突惩罚,实现了低冗余且几何一致的全景场景覆盖。
Alexander Hackett et al.
cs.CV cs.AI
本文在极低数据量的细粒度分类场景下,比较了四种不同pretraining objective(包括supervised classification, contrastive learning, masked reconstruction, self-distillation)训练的frozen ViT-B/16 encoder在下游任务中的表现。研究发现,supervised和contrastive encoder在linear probe下表现最好,而MAE在nonlinear probe下有所提升,DINOv3则表现不佳。
Senmao Tian, Xiang Wei, Shunli Zhang
cs.CV cs.LG
本文提出NeRP方法,通过中性文本提示和参考图像来测量视觉语言模型在预训练类别几何中的先验偏好,并据此修正模型对未见类别的预测偏差。该方法无需修改模型参数,旨在缓解基类-新类权衡问题。
Shaoke Xi et al.
cs.DC cs.AI
本文提出PrismLLM,一种通过切片方法构建高保真执行图,并用少量GPU混合仿真大规模LLM训练行为的系统。它能在仅使用不到1%物理GPU的情况下,以极低的迭代时间和显存误差模拟多达8192个GPU的集群行为。
Ali J Alrasheed et al.
cs.CV cs.AI
本文系统评估了四种前沿视频基础模型(V-JEPA 2.1, V-JEPA 2, VideoPrism, VideoMAEv2)在五个鲁棒性轴上的表现,发现latent-prediction模型在特征判别性、腐败鲁棒性、细粒度判别、遮挡鲁棒性和时间方向敏感性上具有一致优势。该工作为视频世界模型的鲁棒性评估提供了新视角。
Yilong Wan, Yuqiang Li, Xianyi Wu
stat.ML cs.LG
本文研究了contextual bandits中的风险感知离线策略学习问题,提出了一种统一分布框架来优化Lipschitz连续风险泛函(如均值-方差、条件风险价值等),并推导了数据依赖的次优性界,其收敛率为\(\tilde{\mathcal{O}}(1/\sqrt{n})\),与风险中性策略优化相匹配。
Sauradeep Majumdar et al.
physics.chem-ph cond-mat.stat-mech cs.LG
本文提出了一种基于重加权方法的框架,用于在通用机器学习原子间势(MLIPs)之间快速构建自由能分布(PMF)的共识。该方法通过平均能隙近似克服了传统指数重加权因相空间重叠不足而失效的问题,并以较低计算成本恢复了目标热力学性质。
Hiroyuki Chuma, Kanji Otsuka, Yoichi Sato
cs.NE cs.AI
本文提出VaCoAl架构,一种基于Galois域LFSR的代数学确定性超维记忆系统,用于连接Vector-HaSH与Tolman-Eichenbaum Machine (TEM)的海马体计算模型。它通过确定性扩散替代随机投影,并推导出多跳回放保真度衰减的代数形式\(CR_2\),但未直接涉及关键词中的code、context、spectral、Muon、pretrain、agent或attention。
Hao Wang et al.
eess.SP cs.AI
本文提出了一种基于时频多维特征和Z检验决策树的超轻量级波形分类框架TFZ-Tree,用于在资源受限设备上识别OFDM、OTFS等6G候选波形,在AWGN下达到99.5%的平均准确率。该方法通过低复杂度时域特征提取和统计假设检验控制决策树分裂,实现了低延迟的实时分类。
Yan Luo et al.
cs.CV cs.AI
本文提出了一种无需训练的Velocity-Adaptive Guidance Scale (VAGS)方法,通过结合时间信号项和速度场的cosine similarity来动态调整classifier-free guidance (CFG)的尺度,以解决固定尺度在ODE轨迹中与模型动态不匹配的问题。该方法在图像编辑和生成任务中提升了结构保真度和生成质量,但并未涉及code、spectral、Muon、pretrain、agent或attention等关键词。
Hyesoo Hong et al.
cs.CV cs.AI
本文研究了Vision-Language Models (VLMs)在视觉路径追踪任务中的失败模式,发现模型容易因局部相似干扰而切换目标路径,且标准补救措施(如扩大模型规模、推理策略)效果有限。该工作主要聚焦于视觉感知的鲁棒性诊断,与关键词中的code, spectral, Muon, pretrain, agent, attention等方向关联较弱。
Mitsutaka Nakada et al.
eess.IV cs.CV cs.LG
本文利用基于Mask2Former的深度学习模型,从无人机影像中实现了阔叶树冠的实例分割,通过大量高质量标注数据提升了模型在不同森林生态系统中的泛化能力。
Ekkehard Schnoor et al.
stat.ML cs.AI cs.LG math.PR
本文分析了Concept Activation Vectors (CAVs)的随机性质及TCAV方法的统计不稳定性,指出标准TCAV score因使用不连续的indicator function导致方差不衰减。作者提出\(\alpha\)-TCAV框架,用参数化光滑函数替代指示函数,统一了TCAV与Multi-TCAV,并给出了参数调优的理论指导。
Tuo An et al.
cs.RO cs.AI
本文提出了一种反馈世界模型(feedback world model),通过在推理时利用机器人执行动作后观察到的真实状态来在线更新潜在状态,从而修正未来预测,无需额外训练数据。实验表明该方法能显著降低预测误差并提升分布外场景下的策略成功率。
Moonkyu Jung et al.
cs.RO cs.AI
本文提出了一种用于四足移动机械臂的分层强化学习框架,通过显式质量估计模块实现了对动态抓取与放置任务的自适应全身控制。实验表明该方法在仿真和真实场景中均能有效处理不同重量和尺寸的物体,并支持连续动态执行。
Sunil Kothari et al.
cs.SE cs.AI
本文主张在标注流程中优先采用早期质量保证(pre-annotation)而非后期验证(post-review),基于软件工程中的"shift-left"原则和成本乘数效应,提出一个包含三个QA触发点(T0, T1, T2)的分类法和参数化误差传播模型,但未涉及code、spectral或Muon等关键词。
Yuchen Li et al.
cs.CV cs.LG
本文提出Semi-MedRef,一个半监督医学图像分割框架,通过T-PatchMix、PosAug和ITCL三个模块来保持图像与文本描述之间的跨模态一致性,在低标注率场景下提升分割性能。实验表明该方法在QaTa-COV19和MosMedData+数据集上优于全监督和半监督基线。
Tianqiu Zhang et al.
cs.CV cs.AI cs.RO
本文提出DiLA模型,通过内容-结构解耦(content-structure disentanglement)来解决潜在动作模型(Latent Action Models)中动作抽象与生成保真度之间的权衡问题。该方法利用预测瓶颈驱动解耦,在保持生成质量的同时获得连续且语义化的潜在动作空间。
Yifan Gao et al.
cs.CV cs.AI
本文针对类别级6D物体姿态估计中跨类别优化冲突问题,提出DecomPose框架,通过难度感知梯度解耦和稳定性驱动的非对称分支来缓解梯度冲突与负迁移。实验在多个基准上验证了其有效性,但方法本身与关键词列表中的概念无直接关联。
Tianqiu Zhang et al.
cs.NE cs.AI cs.CV
本文提出了一种受海马-内嗅皮层启发的分层世界模型,通过逆模型提取潜在结构并构建预测性视觉模型,实现了结构抽象与泛化。该工作为理解自监督世界模型如何获取可重用抽象知识提供了计算框架。
Huanyang Tong et al.
cs.CV cs.AI
本文提出BiomedAP框架,通过门控跨模态融合和双锚点约束来增强医学视觉-语言模型对提示变化的鲁棒性,在少样本诊断任务中取得较好效果。该方法主要针对提示学习中的模态隔离问题,但与我提供的关键词列表契合度较低。
Junho Kim et al.
cs.CV cs.AI
本文提出了GRASP数据集和Social Grounding Reward (SGR)方法,用于提升多模态大语言模型在多人物视频中对非语言社交互动(如注视和手势)的推理能力。该工作主要关注社交场景理解,与关键词中的code、spectral、Muon、pretrain、agent、attention等概念关联度较低。
José-Miguel Díaz-Báñez et al.
cs.CG cs.DS cs.RO math.OC
本文研究了使用有限续航无人机检测线段(如太阳能厂管道)的路径规划问题,目标是最小化最大完工时间。作者证明了即使线段位于一条直线上且仅有两架无人机,该问题也是强NP-hard的,并提出了近似算法。
K. Ege de Bruin, Kyrre Glette, Kai Olav Ellefsen
cs.RO cs.AI
本文研究了Lamarckian inheritance(拉马克式遗传)在动态环境中的进化动力学,通过虚拟软体机器人结合Bayesian optimization和reinforcement learning,发现其效果取决于环境变化的冲突性与可预测性。当变化既冲突又不可预测时,Lamarckian inheritance表现不如Darwinian inheritance。
Jianlin Ye, Christos Kyrkou, Panayiotis Kolios
cs.RO cs.AI
本文提出了一种基于拓扑感知的时空交接框架,用于多无人机连续跟踪中的车辆身份保持。该方法通过几何重叠和虚拟车道离散化实现确定性队列匹配,在复杂城市环境中达到99.8%的交接成功率。
Himanshu Singh Baghel
cs.DC cs.LG
本文提出ADAPT,一种用于容器编排的自校准主动伸缩器,通过在线EWMA估计器跟踪冷启动延迟,并结合模型预测控制器优化副本数量。实验表明,该方法在不同工作负载下能有效降低SLA违规率。
Yingqi Zhao et al.
cs.DB cs.IR
本文针对Retrieval-Augmented Generation (RAG)系统中的公平性问题,提出了一种通过重排序进行可控偏差注入、位置感知偏差传播模型以及平衡相关性与公平性的优化框架。该方法利用二次公平性双超平面近似(FARO)实现高效求解,实验表明其能在保持相关性的同时有效缓解生成偏差。
Sujie Hu et al.
cs.CV cs.LG
本文提出了一种名为Embedding-perturbed Exploration Preference Optimization (E²PO)的框架,通过在样本组的embedding层面引入结构化扰动来维持组内方差,以解决基于组的强化学习优化(如GRPO)中因组内样本区分度下降导致的训练不稳定问题。实验表明该方法在生成模型与人类偏好对齐上优于现有基线。
Feier Qin et al.
cs.HC cs.AI
本文提出Cross-Temporal Emotion Modeling (CTEM)框架,通过将长期行为历史与即时情感表达关联,构建了情感状态与行为之间的闭环反馈机制,以提升虚拟代理在长期交互中的自然性和连贯性。该工作主要关注人机交互中的情感建模,与关键词中的agent有一定关联,但方法本身缺乏开创性且未涉及code、spectral、Muon等核心概念。
Sihan Fu et al.
cs.SE cs.CL cs.MA
本文提出了BootstrapAgent,一个多智能体框架,用于将代码仓库的启动配置过程蒸馏为可复用的agent知识,通过生成.bootstrap合约来减少下游agent的token消耗和构建时间。实验表明该方法在多个基准上取得了较好效果。
Ofir Gilad et al.
cs.GR cs.CV cs.LG
本文提出StippleDiffusion,一种基于扩散模型的点画生成方法,通过ControlNet分支结合最优传输网格点集扩散基线,在推理时同时满足学习到的局部点分布先验和图像定义的容量约束。该方法在Icons-50基准上达到与逐密度优化基线相当的性能,且支持端到端可微。
Yuqing Cheng et al.
cs.SD cs.AI
本文提出了一种面向音乐生成的2D Mel-spectrogram tokenizer BandTok,通过使用单一共享codebook的Mel-frequency band tokens来表示每一帧,从而构建了一个物理可解释的时频token网格。该方法采用多尺度PatchGAN目标和EMA codebook更新来改进重建质量,并引入2D Rotary Position Embedding (2D RoPE)来在生成过程中保持时间和频率带结构。实验表明,BandTok在数据有限的情况下优于残差codebook tokenizer。
Júlia Orteu Aubach et al.
cs.PF cs.LG
本文提出了一种基于启发式的合并方法,将多次HPC执行轨迹(每个轨迹使用不同硬件计数器集)合并为单一合成轨迹,以扩展硬件计数器覆盖范围。该方法通过分析MPI结构、时序和通信模式匹配计算突发,从而在不依赖多路复用的情况下构建统一数据集,并验证了其在MareNostrum5机器上的准确性。
Davide Buoso et al.
cs.RO cs.AI
本文提出了一种名为Geometric Anchor Pre-training (GAP)的预训练方法,通过在轻量级模拟代理任务上预训练空间适配器,以在数据稀缺场景下提升机器人操作策略的几何鲁棒性。该方法在RoboMimic和ManiSkill等基准上取得了优于现有方法的性能,但并未直接涉及关键词中的code, context, spectral, Muon, agent, attention等核心概念。
Xinbo Xu et al.
cs.SE cs.AI
本文提出了RoadmapBench基准,包含115个基于真实开源版本升级的长周期编程任务,评估了多个前沿模型在跨文件、多目标软件开发上的表现,发现即使最强模型也仅能解决39.1%的任务,表明长周期软件开发仍是未解决难题。
Rifat Mehreen Amin et al.
cs.HC cs.CL
本文提出了CanvasConvo,一种将线性LLM对话转换为分支对话树的可视化界面概念,支持用户探索假设场景和并行开发替代方向。通过现场研究验证了这种非线性对话结构对探索性工作流的支持作用。
Janne Rotter, Pau Benazet i Montobbio, Davinia Hernández-Leo
cs.CY cs.AI cs.HC
本文使用reinforcement learning agent决定学生何时访问GenAI,通过控制访问时机来改善学习效果,与关键词中的"agent"概念相关,但方法本身并非开创性,且未涉及code, context, spectral, Muon, pretrain, attention等关键词。
Chufan Shi et al.
cs.CV cs.CL
本文通过VisualSwap框架(一种图像替换探测方法)和VS-Bench数据集,揭示了Vision-Language Models (VLMs)在推理过程中声称的视觉重检(visual re-examination)实际上是一种幻觉。实验表明,模型在图像被替换后几乎无法察觉,且思考型模型比指令型模型更易受影响,而用户指令能恢复视觉注意力,但模型自身的自我反思语句则不能。
Tingting Liu et al.
cs.CV cs.AI
本文提出FSCM,一个基于GAN的框架,用于红外高光谱图像彩色化。它通过频域增强的空间-光谱状态空间生成器(包含FSB单元)和在线语义分割损失,来建模空间-光谱耦合并提升语义一致性。实验表明该方法在视觉质量和语义保真度上优于现有方法。
Yeang Makara et al.
math.DS cs.AI physics.comp-ph
本文提出了一种名为Symplectic Neural Operator的神经网络架构,用于学习无限维Hamiltonian系统,通过保持Hamiltonian PDEs的symplectic结构来提升长期稳定性。数值实验表明,该方法在能量保持方面优于非结构保持的neural operators。
Syed Waqas Ali et al.
cs.CR cs.LG
本文提出了一种基于强化学习的多层云入侵检测系统,通过置信度感知机制和LLM语义分析处理不确定事件,并在网络、主机和虚拟机监控器三层进行检测。该方法通过自适应阈值和ChromaDB记忆匹配降低了LLM调用成本,但未涉及关键词中的code, context, spectral, Muon, pretrain, agent, attention等概念。
Ranjith Chodavarapu
cs.CV cs.AI
本文提出了一种基于CBAM增强的EfficientNet与evidential deep learning的野火烟雾密度分类框架,从卫星图像中区分轻、中、重三类烟雾密度,并同时估计epistemic和aleatoric uncertainty。模型在真实数据集上达到93.8%的加权准确率,且不确定性随图像质量下降而单调增加。
Yanhao Ge et al.
cs.CV cs.AI
本文提出RaPD方法,在连续的Neural Image Field (NIF) latent space中进行diffusion,通过Semantic Representation Guidance和Coordinate-Queried Attention Renderer实现分辨率无关的图像生成。该方法允许单个去噪后的latent通过改变查询坐标在任意分辨率下渲染,但主要贡献在于计算机视觉领域的生成模型,与所提供的关键词关联度较低。
Minseo Kim
cs.HC cs.AI cs.CL
本文提出了SLIP(四阶段分级干预协议)和ETHICS(人机交互上下文信号分类法),通过情感强度与叙事动态性等定性指标来平衡AI情感伴侣的安全性与亲和力。初步实验显示该方法在危机导向场景中有效,但在高能量持续场景中暴露出安全原则冲突的边界问题。
Sebastian Springer, Alessandro Laio
stat.ML cs.LG
本文提出了一种无监督域偏移检测方法,通过检测高维特征空间中的局部密度异常来识别数据集间的分布差异,并利用subspace attribution定位最显著的特征子空间。该方法在20维基准和心电图数据上验证了有效性,但未涉及关键词中的code、spectral、Muon、pretrain、agent或attention等概念。
Marco Rando et al.
physics.bio-ph cs.LG
本文使用tabular Q-learning训练了一个嗅觉搜索agent,该agent仅依赖“上次嗅到气味以来的时钟”作为记忆,学习到了昆虫中常见的surge、cast和downwind return等策略。该方法在湍流模拟数据上表现良好,但无法根据局部间歇性调整策略。
Chenhao Wang et al.
cs.CV cs.AI
本文提出了一种分解式视觉-语言对齐框架,通过将文本提示分解为概念token和多个属性token,并引入特征门控交叉注意力模块,以提升开放词汇分割模型对未见过的类别-属性组合的泛化能力。该方法可集成到现有transformer分割架构中,在细粒度开放词汇分割基准上取得改进。
Qian He et al.
cs.RO cs.LG
本文提出FocalPolicy,一种结合频率优化分块与局部锚定流匹配的视觉运动策略,通过频域正则化改善跨块动作连贯性,并设计局部锚定采样提升训练效率。实验表明该方法在复杂操作任务中优于现有方法。
Zhongjie Ba et al.
cs.SD cs.AI cs.CR
本文提出了ToxiAlert-Bench,一个包含超过30,000个音频片段的大规模语音毒性数据集,并标注了毒性来源(文本内容或副语言线索)。作者设计了一个双头神经网络,通过多阶段训练策略分别识别毒性来源和具体毒性类型,实验表明利用副语言特征能显著提升检测性能。
Sofiya Burova et al.
stat.ML cs.LG math.ST
本文研究了在高维graphical model中,通过covariance queries(协方差查询)来测试树结构图的性质。作者针对叶子数、最大度、典型距离和直径等全局结构性质设计了随机化测试,并给出了亚二次的query complexity(查询复杂度)界限。
Gowrika Mahesh et al.
cs.SI cs.AI cs.DL
本文提出了CitePrism,一个结合LLM推理、嵌入相似度、元数据验证和人工审核的混合决策支持框架,用于编辑层面的引文审计。初步验证表明,该系统在识别不相关引文时具有保守筛查能力,但整体性能仍需跨领域和更大规模验证。
Vishnu Saj et al.
cs.RO cs.LG
本文提出了一种基于强化学习的四旋翼自适应外环控制架构,通过训练最优外环策略并引入残差动力学预测器(RDP)来在线估计外部力和力矩,同时利用线性校准桥和在线推力校正机制实现sim-to-real迁移。该方法在Crazyflie微型四旋翼上验证了其在质量变化、非对称载荷等动态扰动下优于基线方法的轨迹跟踪性能。
Timo Freiesleben, Kristof Meding, Gunnar König
stat.ML cs.LG
本文讨论了机器学习系统中算法可争议性(algorithmic contestability)的概念,将其与可解释AI(XAI)中的算法追索(recourse)区分开来,并提出了三种可推翻决策的证据类型。该工作主要聚焦于伦理与法律框架,而非提供新的数学方法或解决长期存在的技术问题。
Gina Wigginghaus et al.
cs.RO cs.AI
本文研究了从人类遥操作数据中学习双臂绳索操作策略的问题,比较了基于视觉的策略和基于DLO粒子状态(通过多视图融合和物理模拟演化得到)的策略。结果表明,基于状态的策略在预测初始抓取动作时比视觉策略的L1误差降低了30.8%,揭示了像素观测与物理一致状态之间的可观测性差距。
Yiming Liu et al.
cs.SE cs.AI
本文提出XSearch框架,将代码搜索重新表述为deductive concept alignment问题,通过识别查询中的functional concepts并显式对齐到代码语句来实现可解释检索。实验表明该方法在out-of-distribution基准上显著优于现有方法,但未涉及spectral、Muon或agent等关键词。
Jackie Baek, Vivek F. Farias, Farrell Wu
cs.GT cs.AI econ.TH
本文研究了多公司市场中,使用“探索-利用”定价算法的公司如何可能产生超竞争价格。通过流体极限常微分方程分析,论文刻画了当公司探索相似价格范围时,价格会收敛到高于Nash均衡的水平,甚至达到垄断价格。
Raushan Joshi, Jean-Yves Guillemaut
cs.CV cs.AI
本文提出了一种基于SAM-HQ的3D高斯泼溅分割框架,通过先验引导的标签重分配方法实现多视图一致的3D分割,在物体编辑任务中取得了较好的边界保持效果。该方法主要面向VR和机器人等应用场景,与关键词中的概念关联较弱。
Salma Hoque Talukdar Koli, Fahima Haque Talukder Jely
cs.CV cs.AI
本文提出了一个集成深度学习框架AgriMind,使用ResNet50、EfficientNet-B0和DenseNet121的集成对PlantVillage数据集中的15类植物病害进行分类,通过平均softmax输出将准确率提升至99.23%。该方法在计算效率上表现良好,但主要贡献在于工程集成而非理论创新,且未涉及关键词中的相关概念。
Noah Wade, Kirubel Teferra
stat.ML cs.LG
本文通过数值实验研究了神经网络代理模型在不确定性传播中的性能,重点分析了模型在分布尾部的预测误差。研究发现,极端样本的预测误差比平均场误差大一个数量级,并提出了识别这些样本的方法。
Yiming Zhao et al.
cs.CV cs.AI cs.HC
本文提出VideoSeeker,一种通过visual prompts实现instance-level视频理解的新范式,将agentic reasoning与视频理解任务结合,并构建了全自动数据合成pipeline。实验表明该方法在instance-level任务上显著优于GPT-4o等模型,但方法本身在数学理论或关键词相关领域(如spectral, Muon, attention机制创新)上缺乏开创性贡献。
Jingcheng Wu et al.
cs.DB cs.AI
本文提出了一种结合fine-tuned BART encoder和GraphSAGE-based GNN的混合架构,用于处理relational databases中的预测任务。实验表明该方法在driver-dnf任务上取得了有竞争力的ROC-AUC分数,但距离state-of-the-art foundation models仍有较大差距。
Till Beemelmanns et al.
cs.RO cs.AI
本文提出了一种用于自动驾驶感知的可信AI模块,集成了基于transformer的检测器、注意力机制解释、不确定性估计和鲁棒性增强训练,并在原型车辆上部署了可视化界面。该方法主要关注工程实现和系统集成,与关键词中的理论或方法关联较弱。
Yumeng Zhang et al.
cs.IT cs.AI
本文提出GeoGS-CE框架,利用3D高斯表示和可微无线渲染过程,在高移动性场景下学习延迟-波束信道先验,以提升稀疏导频下的信道估计性能。该方法通过离线建模场景几何散射支持,在线预测功率谱作为协方差先验,实现线性MMSE估计。
Eric Oliveira Gomes, Damien Rontani
cs.NE cs.LG
本文提出了一种基于无时钟数字电路的自发脉冲动力学实现可扩展神经形态计算的方法,并在商用FPGA上验证了其在音频分类任务中的高效性与低功耗。该方法无需专用硬件设计,为神经形态计算提供了新平台。
Zhipei Xu et al.
cs.CV cs.AI
本文提出GenShield,一个统一的autoregressive框架,用于联合执行可解释的AI生成图像检测和可控的artifact correction。该方法引入Visual Chain-of-Thought curriculum learning策略,实现多步“诊断-修复”的闭环校正,并在多个benchmark上取得最优性能。
Paulo C. Marques F., Helton Graziadei
stat.ML cs.LG
本文提出了一种用于回归问题的偏斜自适应共形预测方法,通过非对称区间族和逆双曲正弦变换来学习预测不确定性的偏斜,在保持有限样本边际有效性的同时生成适应局部尺度和偏斜的预测区间。实验表明该方法在预测区间效率上优于经典方法。
Dan Assouline et al.
physics.ao-ph cs.LG
本文提出SwAIther-Precip框架,通过一个对lead time敏感的U-Net进行偏差校正,再结合diffusion模型进行超分辨率,实现了对全球AI降水预报(AIFS)在瑞士地区的公里尺度降尺度。该方法通过显式校正lead time依赖的系统性偏差,提升了生成降水的空间谱保真度,但整体方法更偏向工程应用,在理论或方法上的开创性有限。
Yishun Lu, Wes Armour
cs.CV cs.AI
本文提出了一种名为ML-FOP-SOAP的二阶优化框架,通过多层级方差校正来缓解多模态模型中的模态竞争问题。该方法利用Fisher-Orthogonal Projection抑制梯度方差引起的模态冲突,并引入分层折叠策略以在梯度累积场景下实现高效计算。实验表明,该方法在图像生成和文本理解任务上均优于AdamW,并支持更大批量的稳定训练。
Yishun Lu et al.
cs.DC cs.LG
本文提出了Asteria运行时系统,通过将二阶优化逻辑与GPU训练路径分离,并动态分配optimizer state到GPU、CPU和NVMe存储,来解决大规模LLM训练中二阶方法的系统开销问题。实验表明该方法在内存受限和分布式场景下均能提升训练效率。
Arquimedes Canedo
cs.DL cs.AI cs.IR cs.MA
本文提出了一种名为`paper.json`的轻量级JSON文件格式,作为学术论文的配套文件,旨在解决LLM agent在阅读论文时遇到的子声明无法引用、范围过度扩展等问题。该格式包含五个约定,如稳定声明ID和精确的逐图shell命令,以提升agent对论文的可操作性。
Chaeyeon Lee, Sehwan Kim, Hyungrok Do
stat.ML cs.LG
QSurv提出了一种基于Gauss-Legendre数值积分的可扩展非参数连续时间生存模型,通过近似累积风险函数避免了传统方法中的时间离散化或分布假设限制。实验表明该方法在预测性能和时变风险函数估计上具有竞争力,但未涉及code、context、spectral等关键词相关技术。
Adrienne Deganutti et al.
cs.GR cs.AI cs.CV
本文针对设计动画视频生成领域缺乏标准化评估框架的问题,提出了一个全自动评估框架,从布局保真度、运动正确性、时间质量和内容保真度四个维度进行评测,旨在替代主观人工评估。该工作主要聚焦于评估方法而非生成模型本身,与关键词列表中的概念关联度较低。
Abhijatmedhi Chotrattanapituk et al.
cond-mat.mtrl-sci cs.LG
本文提出了Magnetic Structure Network (MSN),一个E(3)等变图神经网络,用于直接从原子晶体结构预测共线和非共线磁结构,并引入Primitive Modulated Structure Representation (PMSR)统一编码公度和非公度结构。该方法在MAGNDATA数据集上训练,实现了接近实验精度的磁结构预测。
Jin Shi, Brady Zhang, Yishun Lu
cs.CV cs.AI
本文提出VLA-AD框架,利用Vision-Language Model作为离线语义监督器,将大型Vision-Language-Action (VLA)策略蒸馏为轻量级学生策略。该方法通过引入任务阶段锚点和多帧操作方向描述等高层语义信号来增强训练,在测试时学生策略可独立运行,在LIBERO基准上实现了44倍模型压缩和3.28倍推理加速,且性能接近教师模型。
Stratis Tsirtsis et al.
cs.CY cs.AI cs.CL cs.LG cs.SI
本文通过实验和理论模型研究了AI在人类交流中引入的偏见如何影响集体意见形成,发现LLM在编辑文本时存在方向性偏见,且这些偏见可通过社交网络放大。研究还审计了X平台的“解释此帖”功能,发现Grok在堕胎相关内容上存在亲生命偏见。
Grant Wilkins et al.
cs.DC cs.AI
本文研究了AI时代数据中心电力传输层级的设计问题,通过构建一个结合GPU、计算和存储部署投影模型与微软Azure生产数据的框架,评估了不同设计在吞吐量、功率和成本方面的表现。结果表明,多资源搁浅会显著影响可部署容量和有效资本支出,并量化了机架和集群级AI系统带来的密度提升如何塑造这些结果。
Yuqi Wu et al.
cs.CV cs.AI cs.RO
本文提出IVGT,一种隐式视觉几何Transformer,用于从无位姿多视图图像中学习连续且一致的神经场景表示。该方法通过隐式建模连续几何,支持任意3D位置的连续空间查询,并利用轻量级解码器预测符号距离函数值和颜色,从而直接提取连续表面几何并实现多视角渲染。

- 数据来源 Data Source: arXiv.org

- 本网页的内容由 bluearXiv-ai 自动生成。实际抓取的是 arXiv 中 "new" 页面的数据,即最近的有所在分类论文变动的一天的数据。

- 感谢 arXiv 提供的服务。评论和精选由 AI 生成,不代表任何人对论文本身的看法。精选依赖于论文与给定关键词的匹配度。

- 计数基于主学科,不计重数。

- This webpage is automatically generated by bluearXiv-ai.

- The data actually captured is from the "new" page, that is, the data of the most recent day when there were changes in corresponding subjects.

- Thanks for services prodived by arXiv. Comments and selection of good papers are generated by AI, not showing anyone's point of view about those papers.

- The selection also depends on the matched-degrees between papers and given keywords.

- The counters are based on main subject, not counting multiplicities.