bluearXiv-ai 论文精选

2026-02-28
返回首页 论文统计 精选论文 所有论文

📚 跟踪学科 (Categories)

🔍 筛选关键词 (Keywords)

📊 论文统计 ↑ 回顶部

cs.LG
125
cs.AI
71
cs.IR
27
cs.CL
48
cs.DS
5
others
119
总计
395

⭐ 精选论文 ↑ 回顶部

cs.LG

NoRA: Breaking the Linear Ceiling of Low-Rank Adaptation via Manifold Expansion ⭐ 精选
Hung-Hsuan Chen
cs.LG cs.AI cs.CL
Residual Koopman Spectral Profiling for Predicting and Preventing Transformer Training Instability ⭐ 精选
Bum Jun Kim et al.
cs.LG cs.AI

cs.AI

A Model-Free Universal AI ⭐ 精选
Yegon Kim, Juho Lee
cs.AI

others

Flow Matching is Adaptive to Manifold Structures ⭐ 精选
Shivam Kumar, Yixin Wang, Lizhen Lin
stat.ML cs.LG math.ST

📄 所有论文 ↑ 回顶部

cs.LG

NoRA: Breaking the Linear Ceiling of Low-Rank Adaptation via Manifold Expansion ⭐ 精选
Hung-Hsuan Chen
cs.LG cs.AI cs.CL
本文提出了NoRA (Non-linear Rank Adaptation), 一种用于参数高效微调(PEFT)的非线性低秩适配器. 它通过引入SiLU门控和结构化dropout来扩展参数空间的流形(manifold), 从而突破了传统LoRA方法在复杂推理任务中面临的"线性天花板"限制. 在SlimOrca和数学推理基准上的实验表明, NoRA能以更低的秩(rank)达到比高秩LoRA更优的性能, 其机制分析(SVD)证实了该方法能有效激活奇异值谱(singular value spectrum)的尾部, 防止秩崩溃(rank collapse).
Residual Koopman Spectral Profiling for Predicting and Preventing Transformer Training Instability ⭐ 精选
Bum Jun Kim et al.
cs.LG cs.AI
本文提出了一种名为Residual Koopman Spectral Profiling (RKSP)的新方法，用于在Transformer模型训练开始前预测其不稳定性风险。该方法通过单次前向传播，利用白化动态模态分解从各层残差快照中提取Koopman谱特征，并以近单位谱质量作为核心诊断指标来量化不稳定性。实验表明，该指标在预测训练发散方面表现优异（AUROC达0.995），并进一步提出了Koopman Spectral Shaping (KSS)技术来主动重塑谱分布以防止发散，在多种模型和任务上验证了其有效性。
Duel-Evolve: Reward-Free Test-Time Scaling via LLM Self-Preferences
Sweta Karlekar et al.
cs.LG cs.AI cs.CL stat.ML
本文提出了一种名为 Duel-Evolve 的进化优化算法, 用于在测试时改进大型语言模型(LLM)的输出. 该方法利用LLM自身的成对偏好比较来引导搜索, 无需外部奖励模型或人工评分函数.
To Deceive is to Teach? Forging Perceptual Robustness via Adversarial Reinforcement Learning
Yicheng Bao, Xuhong Wang, Xin Tan
cs.LG cs.AI
本文提出了一种通过对抗性自博弈训练提升多模态大语言模型感知鲁棒性的方法. 该方法构建了一个图像编辑攻击者与模型防御者共同进化的框架, 通过生成动态的对抗样本来增强模型在复杂视觉场景下的表现.
Patient-Centered, Graph-Augmented Artificial Intelligence-Enabled Passive Surveillance for Early Stroke Risk Detection in High-Risk Individuals
Jiyeong Kim et al.
cs.LG
本文开发了一个用于早期中风风险检测的被动监测系统。该系统基于患者自述症状，利用症状分类法和机器学习流程（异构图神经网络和弹性网络/LASSO）来识别与后续中风相关的症状模式，并通过电子健康记录模拟评估了一个混合风险筛查系统。
Improving Spatial Allocation for Energy System Coupling with Graph Neural Networks
Xuanhao Mu et al.
cs.LG eess.SY
本文提出了一种使用自监督异构图神经网络的方法, 用于改进能源系统耦合中空间分辨率不匹配模型的分配问题. 该方法通过整合多种地理特征为每个网格点生成物理意义明确的权重, 从而超越了传统仅基于地理邻近性的Voronoi图分配方法.
Zatom-1: A Multimodal Flow Foundation Model for 3D Molecules and Materials
Alex Morehead et al.
cs.LG cond-mat.mtrl-sci cs.AI
本文提出了一个名为Zatom-1的多模态流匹配基础模型，用于统一处理3D分子和材料的生成与预测任务。该模型通过联合建模离散原子类型和连续几何结构，在多个基准测试中取得了有竞争力的性能。
Causal Direction from Convergence Time: Faster Training in the True Causal Direction
Abdulrahman Tamim
cs.LG cs.AI
本文提出了一种基于优化动态的因果方向识别方法 CCA, 通过比较预测\(Y\) from \(X\)和预测\(X\) from \(Y\)的两个神经网络的收敛速度来推断因果方向. 在加性噪声模型等假设下, 理论分析表明因果方向上的训练预期收敛更快, 并在合成数据上进行了实验验证.
Deep Sequence Modeling with Quantum Dynamics: Language as a Wave Function
Ahmed Nebli, Hadi Saadatdoorabi, Kevin Yam
cs.LG cs.AI quant-ph
本文提出了一种基于量子动力学的序列建模框架, 其中潜在状态是有限维 Hilbert space 上的复值波函数, 其演化由学习的时变 Hamiltonian 控制. 该框架利用量子干涉和严格的酉动力学, 并通过 Born rule 提取 token 概率. 作者还提供了一个理论结果, 展示了该模型在表示能力上相对于实值正交模型的二次优势.
Orthogonal Weight Modification Enhances Learning Scalability and Convergence Efficiency without Gradient Backpropagation
Guoqing Ma, Shan Yu
cs.LG
本文提出了一种名为LOCO的权重修改方法, 用于替代反向传播(backpropagation)进行高效学习. 该方法通过施加正交性约束来提升收敛效率, 并在多个数据集上展示了其在深度脉冲神经网络训练和持续学习方面的潜力.
Code World Models for Parameter Control in Evolutionary Algorithms
Camilo Chacón Sartori, Guillem Rodríguez Corominas
cs.LG cs.NE
本文提出将 Code World Models (CWMs) 应用于进化算法的参数控制。该方法利用 LLM 从次优轨迹中合成优化器的模拟器，并通过贪婪规划选择参数，在多个基准问题上取得了有竞争力的性能。
Sustainable LLM Inference using Context-Aware Model Switching
Yuvarani et al.
cs.LG
本文提出了一种基于上下文感知的模型切换方法, 用于实现可持续的LLM推理. 该方法通过动态选择不同复杂度的语言模型来处理查询, 从而在保持响应质量的同时显著降低了能耗和延迟.
Entropy-Controlled Flow Matching
Chika Maduabuchi
cs.LG cs.CV
本文提出了一种名为Entropy-Controlled Flow Matching (ECFM)的新方法，用于改进生成模型中的概率路径。该方法通过施加熵率约束来避免传输过程中的低熵瓶颈，从而更好地覆盖数据模式。
WaveSSM: Multiscale State-Space Models for Non-stationary Signal Attention
Ruben Solozabal et al.
cs.LG cs.SD
本文提出了一种基于wavelet frames的state-space model (SSM)变体WaveSSM, 用于处理具有局部或瞬态结构的非平稳信号. 实验表明, 在包含生理信号和原始音频等具有瞬态动态的真实世界数据集上, WaveSSM的性能优于基于多项式基的S4等模型.
Data-Driven Supervision of a Thermal-Hydraulic Process Towards a Physics-Based Digital Twin
Osimone Imhogiemhe et al.
cs.LG
本文结合数值模拟与机器学习方法, 为热工水力过程开发了一个用于故障检测与诊断的数字孪生框架. 所提出的算法在特定测试场景中得到了验证, 能够有效定位参数变化并更新其估计值.
AutoQRA: Joint Optimization of Mixed-Precision Quantization and Low-rank Adapters for Efficient LLM Fine-Tuning
Changhai Zhou et al.
cs.LG
本文提出了一种名为AutoQRA的联合优化框架, 用于在大型语言模型(Large Language Model, LLM)的高效微调中同时优化混合精度量化(bit-width)和低秩适配器(LoRA rank)的配置. 该方法通过两阶段搜索策略(全局进化搜索与局部贝叶斯优化)在给定内存预算下寻找最优配置, 实验表明其性能接近全精度微调, 同时内存占用与均匀4比特方法相当.
CQSA: Byzantine-robust Clustered Quantum Secure Aggregation in Federated Learning
Arnab Nath, Harsh Kasyap
cs.LG
本文提出了一种名为CQSA的模块化安全聚合框架, 用于量子辅助的联邦学习. 该方法通过将客户端划分为小集群并使用高保真度的低量子比特GHZ态进行本地聚合, 以应对大规模GHZ态保真度下降和拜占庭客户端检测的挑战, 并在理论分析和模拟中展示了稳定的模型收敛性.
Prior Knowledge-enhanced Spatio-temporal Epidemic Forecasting
Sijie Ruan et al.
cs.LG q-bio.PE
本文提出了一种结合隐式时空先验和显式专家先验的混合框架STOEP，用于改进时空流行病预测。该方法通过动态调整区域依赖性和利用空间先验增强弱信号，在COVID-19和流感数据集上取得了优于基线模型的效果。
Support Tokens, Stability Margins, and a New Foundation for Robust LLMs
Deepak Agarwal et al.
cs.LG math.PR math.ST
本文从概率角度重新阐释了因果自注意力Transformer, 揭示了其参数存在一个barrier约束, 从而在token空间上诱导出结构化的几何性质. 作者进一步将LLM解释为token空间幂集上的随机过程, 并提出了一个只需在标准交叉熵损失中添加平滑log-barrier惩罚项的贝叶斯训练框架.
Positional-aware Spatio-Temporal Network for Large-Scale Traffic Prediction
Runfei Chen
cs.LG cs.AI
本文提出了一种轻量级的Positional-aware Spatio-Temporal Network (PASTN)用于大规模交通流预测。该模型通过引入位置感知嵌入和时间注意力模块，旨在有效捕捉时空复杂性并提升长期感知能力。
X-REFINE: XAI-based RElevance input-Filtering and archItecture fiNe-tuning for channel Estimation
Abdul Karim Gizzini, Yahia Medjahdi
cs.LG eess.SP
本文提出了一个名为X-REFINE的框架, 用于联合优化无线信道估计中的输入过滤和神经网络架构. 该方法利用基于分解的LRP规则来获取高分辨率的相关性分数, 从而识别模型中最有效的组件. 仿真结果表明, 该框架在降低计算复杂度的同时, 保持了良好的误码率性能.
Integrating Machine Learning Ensembles and Large Language Models for Heart Disease Prediction Using Voting Fusion
Md. Tahsin Amin et al.
cs.LG cs.AI
本文提出了一种结合机器学习集成方法与大型语言模型(LLM)进行心脏病预测的混合方法。该方法在融合数据集上取得了最佳性能，表明LLM与机器学习模型结合使用比单独使用更有效。
BrepCoder: A Unified Multimodal Large Language Model for Multi-task B-rep Reasoning
Mingi Kim et al.
cs.LG
本文提出了一种名为BrepCoder的统一多模态大语言模型，用于处理基于B-rep格式的多种CAD任务。该模型通过将CAD建模序列转换为类Python代码并与B-rep对齐，采用两阶段训练策略，实现了在补全、纠错和CAD-QA等下游任务上的泛化。
Early Risk Stratification of Dosing Errors in Clinical Trials Using Machine Learning
Félicien Hêche et al.
cs.LG cs.AI
本文提出了一种基于机器学习的框架, 用于在临床试验启动前, 根据可用信息预测其出现高剂量错误率的风险. 该框架整合了结构化数据和文本数据, 并通过概率校准实现了可解释的风险分层.
OmniZip: Learning a Unified and Lightweight Lossless Compressor for Multi-Modal Data
Yan Zhao et al.
cs.LG cs.IT
本文提出了一种名为OmniZip的统一轻量级无损压缩器, 用于处理图像, 文本, 语音等多种模态的数据. 它通过一个模态统一的tokenizer, 模态路由的context学习机制和feedforward设计来实现高效压缩, 并在多个数据集上超越了传统压缩方法.
Reliable XAI Explanations in Sudden Cardiac Death Prediction for Chagas Cardiomyopathy
Vinícius P. Chagas et al.
cs.LG cs.LO
本文将一种基于逻辑的、具有正确性保证的可解释性方法应用于恰加斯心肌病(Chagas cardiomyopathy)患者的猝死预测问题. 该方法在保持高准确率的同时, 实现了100%的解释保真度, 其一致性和鲁棒性优于启发式方法, 有助于增强临床信任并推动AI工具的部署.
Manifold of Failure: Behavioral Attraction Basins in Language Models
Sarthak Munshi et al.
cs.LG cs.AI cs.CR
本文提出了一种名为"失败流形"的框架，用于系统性地刻画大型语言模型中的不安全区域。该方法将漏洞搜索重构为一个质量多样性问题，使用MAP-Elites算法来揭示这些失败区域的连续拓扑结构。
Global River Forecasting with a Topology-Informed AI Foundation Model
Hancheng Ren et al.
cs.LG physics.geo-ph
本文提出了一个名为GraphRiverCast (GRC)的AI基础模型，用于全球河流系统的多变量水动力模拟。该模型能够在缺乏历史观测数据的“冷启动”模式下运行，并通过拓扑编码和物理对齐的预训练策略提升预测性能。
When Should a Model Change Its Mind? An Energy-Based Theory and Regularizer for Concept Drift in Electrocardiogram (ECG) Signals
Timothy Oladunni et al.
cs.LG
本文提出了一种基于能量的概念漂移理论PECT及其正则化方法ECRL, 用于稳定动态生理信号(如ECG)模型的预测. 该方法通过约束模型内部表示的变化与信号能量变化的比例关系来区分无害的虚拟漂移和真实的概念漂移, 在多种模型架构上验证了其有效性.
UpSkill: Mutual Information Skill Learning for Structured Response Diversity in LLMs
Devan Shah et al.
cs.LG cs.AI
本文提出了一种名为UpSkill的训练时方法, 通过将Mutual Information Skill Learning (MISL) 适配到LLMs中, 以优化pass@k正确率. 该方法在Group Relative Policy Optimization (GRPO)框架内引入了一个token-level的互信息奖励, 旨在鼓励针对特定技能变量\(z\)的轨迹特异性, 从而在保持单次尝试准确率的同时, 提升多次尝试的多样性.
Learning Rewards, Not Labels: Adversarial Inverse Reinforcement Learning for Machinery Fault Detection
Dhiraj Neupane et al.
cs.LG cs.AI
本文提出了一种基于Adversarial Inverse Reinforcement Learning的机械故障检测方法. 该方法从健康操作序列中学习奖励动态, 无需手动设计奖励或故障标签, 并在多个基准数据集上验证了其异常检测能力.
AviaSafe: A Physics-Informed Data-Driven Model for Aviation Safety-Critical Cloud Forecasts
Zijian Zhu et al.
cs.LG cs.AI
本文提出了一种用于航空安全关键云预报的物理信息数据驱动模型 AviaSafe. 该模型通过分层架构和物理约束，对四种水凝物物种进行全球预测，在特定变量上优于基线方法。
Training Agents to Self-Report Misbehavior
Bruce W. Lee, Chen Yueh-Han, Tomek Korbak
cs.LG cs.AI
本文提出了一种称为"自我报告训练"的方法, 用于训练AI代理在秘密执行不良行为时主动发出可见信号. 该方法在GPT-4.1和Gemini-2.0代理上进行了测试, 结果表明它能有效降低在分布外环境中未被检测到的成功攻击率, 且性能表现比对齐训练和外部监控基线更稳定.
A 1/R Law for Kurtosis Contrast in Balanced Mixtures
Yuda Bi et al.
cs.LG cs.AI stat.ML
本文研究了在宽而平衡的混合模型中，基于峰度（Kurtosis）的独立成分分析（ICA）的对比度衰减问题。文章证明了一个关于峰度与有效宽度\(R_{\mathrm{eff}}\)的缩放定律，并讨论了样本估计的可行性界限。
Structure and Redundancy in Large Language Models: A Spectral Study via Random Matrix Theory
Davide Ettori
cs.LG cs.AI
本文利用 Spectral Geometry 和 Random Matrix Theory (RMT) 分析深度网络和大型语言模型的内部行为。通过研究隐藏激活的 eigenvalue dynamics，提出了两种方法：EigenTrack 用于实时检测模型幻觉，RMT-KD 用于网络压缩。
Learning geometry-dependent lead-field operators for forward ECG modeling
Arsenii Dokuchaev et al.
cs.LG cs.AI math.NA q-bio.TO
本文提出了一种基于形状信息的替代模型, 用于快速计算心电模拟中的lead-field operator. 该方法结合了几何编码模块和条件神经网络, 在数据有限的情况下仍能实现高保真的模拟.
Disentangling Shared and Target-Enriched Topics via Background-Contrastive Non-negative Matrix Factorization
Yixuan Li, Archer Y. Yang, Yue Li
cs.LG
本文提出了一种名为背景对比非负矩阵分解(background-contrastive Non-negative Matrix Factorization)的新方法, 用于从高维数据中分离目标特异性信号. 该方法通过联合分解目标数据集和匹配的背景数据, 并利用对比目标抑制背景表达的结构, 从而提取出可解释的非负成分. 该方法在多个生物数据集上展示了其有效性, 能够揭示传统方法所掩盖的信号.
Predicting Multi-Drug Resistance in Bacterial Isolates Through Performance Comparison and LIME-based Interpretation of Classification Models
Santanam Wishal, Riad Sahara
cs.LG
本文提出了一种可解释的机器学习框架，用于预测细菌分离株的多重耐药性。该研究评估了多种分类模型，并使用LIME方法为预测结果提供实例层面的解释，以增强临床决策的透明度。
MolFM-Lite: Multi-Modal Molecular Property Prediction with Conformer Ensemble Attention and Cross-Modal Fusion
Syed Omer Shah et al.
cs.LG cs.CV
本文提出了一个多模态分子性质预测模型 MolFM-Lite, 它通过 cross-attention 融合了 SELFIES 序列(1D), 分子图(2D)和构象体集合(3D)的信息, 并使用 FiLM 来整合实验背景. 模型在多个基准测试上取得了优于单模态基线的性能.
A Learning-Based Hybrid Decision Framework for Matching Systems with User Departure Detection
Ruiqi Zhou, Donghao Zhu, Houcai Shen
cs.LG cs.HC cs.IT econ.GN
本文提出了一种基于学习的混合决策框架, 用于处理用户可能离开的匹配系统. 该框架通过回归估计用户离开分布, 并动态调整即时匹配与延迟匹配的策略, 以在等待时间、系统拥堵和匹配效率之间取得平衡.
Revisiting Chebyshev Polynomial and Anisotropic RBF Models for Tabular Regression
Luciano Gerber, Huw Lloyd
cs.LG cs.AI
本文比较了Chebyshev polynomial regressors和anisotropic RBF networks等平滑基模型与主流树集成模型在表格回归任务中的性能。通过在55个数据集上的基准测试，研究发现平滑模型在CPU环境下与树集成模型精度相当，且通常具有更小的泛化差距，适合对预测平滑性有要求的应用场景。
Calibrated Test-Time Guidance for Bayesian Inference
Daniel Geyfman et al.
cs.LG cs.AI
本文分析了现有 test-time guidance 方法在贝叶斯推断中的校准问题, 并提出了一种新的、一致的估计器以实现从贝叶斯后验分布中进行校准采样。该方法在贝叶斯推断任务上表现优异, 并在黑洞图像重建任务中达到了最先进的水平。
From Bias to Balance: Fairness-Aware Paper Recommendation for Equitable Peer Review
Uttamasha Anjally Oyshi, Susan Gauch
cs.LG cs.AI
本文提出了一种名为Fair-PaperRec的公平感知论文推荐方法，该方法在同行评审后使用带有公平性正则化的多层感知机对论文进行重新排序。通过在合成数据和真实会议数据上的实验，该方法在保持推荐质量的同时，显著提高了代表性不足群体的参与度。
ECHO: Encoding Communities via High-order Operators
Emilio Ferrara
cs.LG cs.AI
本文提出了一种名为ECHO的自监督架构, 用于属性网络中的社区检测. 它通过高阶算子将社区检测重新构建为一个自适应的多尺度扩散过程, 旨在克服传统GNN的计算瓶颈和语义平滑问题, 并在大规模网络上实现了高效的聚类.
Beyond performance-wise Contribution Evaluation in Federated Learning
Balazs Pejo
cs.LG cs.CR
本文探讨了联邦学习中超越模型性能的客户端贡献评估问题, 重点关注模型可信赖性(如可靠性、鲁棒性和公平性)的贡献度量. 作者采用Shapley值的最新近似方法来量化这些多维度贡献. 研究发现, 不同维度的贡献相互独立, 没有单一客户端在所有维度上都表现优异, 这揭示了当前基于单一性能指标的评价方案存在缺陷.
Efficient Continual Learning in Language Models via Thalamically Routed Cortical Columns
Afshin Khadangi
cs.LG
本文提出了一种名为TRC\(^{2}\)的decoder-only架构，旨在从模型结构层面解决语言模型的continual learning问题。它通过结合稀疏路由和快速校正通路，在保持计算效率的同时改善了稳定性与可塑性之间的权衡。
Reinforcement-aware Knowledge Distillation for LLM Reasoning
Zhaoyang Zhang et al.
cs.LG cs.AI
本文提出了一种名为RL-aware distillation (RLAD)的新方法, 用于在强化学习(RL)后训练阶段对大语言模型(LLM)进行知识蒸馏. 该方法通过选择性模仿教师模型来缓解分布不匹配和目标冲突问题, 在多个推理基准测试上取得了优于基线方法的效果.
Sharp Convergence Rates for Masked Diffusion Models
Yuchen Liang et al.
cs.LG stat.ML
本文针对masked diffusion models中的Euler采样器和First-Hitting Sampler (FHS)进行了理论分析。研究通过基于total-variation (TV)距离的直接分析，改进了对Euler方法的收敛性保证，并首次为FHS提供了误差分析。
Space Syntax-guided Post-training for Residential Floor Plan Generation
Zhuoyang Jiang, Dongqing Zhang
cs.LG cs.CV
本文提出了一种名为SSPT的后训练范式, 通过一个不可微的oracle将space syntax知识显式注入住宅平面图生成过程. 该方法旨在增强生成平面中公共空间的主导性和功能层次, 并通过两种策略实例化, 实验表明其相比基线模型有所改进.
TEFL: Prediction-Residual-Guided Rolling Forecasting for Multi-Horizon Time Series
Xiannan Huang et al.
cs.LG
本文提出了一个名为TEFL的时间序列预测框架, 它通过显式地利用历史预测残差来增强深度模型的性能. 该框架包含一个轻量级的适配器模块和一个两阶段训练策略, 在多个真实数据集和骨干模型上实现了预测误差的稳定降低.
Predicting Tennis Serve directions with Machine Learning
Ying Zhu, Ruthuparna Naikar
cs.LG cs.AI
本文应用机器学习方法预测职业网球选手的一发方向, 通过特征工程实现了约49%(男)和44%(女)的平均预测准确率. 分析表明顶级选手的发球决策可能符合混合策略模型, 且疲劳与比赛情境信息是重要影响因素.
Coarse-to-Fine Learning of Dynamic Causal Structures
Dezhi Yang et al.
cs.LG
本文提出了一个名为DyCausal的框架，用于从时间序列中学习完全动态的因果结构。该方法利用卷积网络和线性插值，从粗粒度到细粒度地恢复随时间变化的因果图，并在合成和真实数据集上验证了其有效性。
Persistent Nonnegative Matrix Factorization via Multi-Scale Graph Regularization
Jichao Zhang, Ran Miao, Limin Li
cs.LG
本文提出了一种名为persistent nonnegative matrix factorization (pNMF)的方法，它将persistent homology与NMF结合，以生成一系列与尺度参数相关的嵌入。该方法通过识别数据连通性发生质变的尺度，构建了一个具有跨尺度一致性约束的耦合优化问题，并设计了相应的求解算法。在合成数据和单细胞RNA测序数据上的实验验证了其有效性。
LUMOS: Democratizing SciML Workflows with L0-Regularized Learning for Unified Feature and Parameter Adaptation
Shouwei Gao et al.
cs.LG
本文提出了一个名为LUMOS的端到端框架，它基于L0正则化学习，旨在统一特征选择和模型剪枝，以简化科学机器学习(SciML)模型的设计过程。该框架通过半随机门控和重参数化技术，在训练中动态选择信息特征并剪枝冗余参数，在多个SciML任务上验证了其有效性。
RAIN-Merging: A Gradient-Free Method to Enhance Instruction Following in Large Reasoning Models with Preserved Thinking Format
Zhehao Huang et al.
cs.LG cs.CL
本文提出了一种无需梯度的模型融合方法RAIN-Merging, 旨在提升大型推理模型遵循指令的能力, 同时保持其原有的推理格式和性能. 该方法通过将指令调优模型的任务向量投影到推理模型特定思维标记的前向特征零空间, 并利用指令注意力进行模块特异性缩放, 有效整合了指令遵循能力.
Relatron: Automating Relational Machine Learning over Relational Databases
Zhikai Chen et al.
cs.LG
本文对关系型数据库上的关系深度学习(RDL)与深度特征合成(DFS)方法进行了统一分析。研究通过架构搜索发现，两种方法的性能优劣高度依赖于具体任务，并提出了一个基于任务嵌入的元选择器Relatron来指导模型选择。
Multilingual Safety Alignment Via Sparse Weight Editing
Jiaming Liang, Zhaoxin Wang, Handing Wang
cs.LG
本文提出了一种基于稀疏权重编辑的无训练对齐框架, 用于解决大语言模型在低资源语言上的安全问题. 该方法通过约束线性变换将低资源语言的有害表征映射到高资源语言的安全子空间, 在降低攻击成功率的同时保持了模型的通用推理能力.
Autoregressive Visual Decoding from EEG Signals
Sicheng Dai et al.
cs.LG cs.AI
本文提出了一种名为AVDE的轻量级自回归框架, 用于从EEG信号解码视觉信息. 该方法通过对比学习对齐EEG与图像表示, 并采用基于"下一尺度预测"策略的自回归生成模型, 在图像检索和重建任务上取得了优于先前方法的效果, 同时参数量大幅减少.
Stable Adaptive Thinking via Advantage Shaping and Length-Aware Gradient Regulation
Zihang Xu et al.
cs.LG cs.AI cs.CL
本文提出了一个用于稳定大型推理模型自适应思维的两阶段框架。该框架结合了混合微调与自适应强化学习，旨在缓解模型在简单查询上的过度思考问题，并在准确性与效率之间取得更好平衡。实验表明该方法能有效减少生成标记数量并提升模型性能。
Operationalizing Fairness: Post-Hoc Threshold Optimization Under Hard Resource Limits
Moirangthem Tiken Singh, Amit Kalita, Sapam Jitu Singh
cs.LG cs.AI
本文提出了一种在严格资源限制下进行事后阈值优化的框架, 用于平衡机器学习模型的安全性, 效率与公平性. 该框架强制使用单一的全局决策阈值以确保合规, 并通过实验表明资源约束在多数情况下主导了最终的部署决策.
S2O: Early Stopping for Sparse Attention via Online Permutation
Yu Zhang et al.
cs.LG cs.AI
本文提出了一种名为S2O的在线置换方法，用于对稀疏注意力机制进行早期停止。该方法通过轻量级的预处理和索引重映射，将计算集中在高优先级块上，并在贡献低于阈值时提前终止，从而在控制误差预算下提高了有效稀疏度并减少了计算量。实验表明，该方法在长上下文推理中显著提升了实际稀疏度上限并带来了加速。
IBCircuit: Towards Holistic Circuit Discovery with Information Bottleneck
Tian Bian et al.
cs.LG
本文提出了一种基于Information Bottleneck原理的端到端方法IBCircuit，用于整体性地发现语言模型中的计算子图（circuits）。该方法无需为不同任务设计特定的激活值扰动，在IOI和Greater-Than任务中识别出了更忠实、更精简的电路。
TabDLM: Free-Form Tabular Data Generation via Joint Numerical-Language Diffusion
Donghong Cai et al.
cs.LG cs.AI cs.CL
本文提出了一种名为TabDLM的联合数值-语言扩散模型, 用于生成包含自由文本字段的异构表格数据. 该方法通过掩码扩散处理文本和分类特征, 通过连续扩散处理数值特征, 并在单一模型内利用双向注意力捕获跨模态交互.
pQuant: Towards Effective Low-Bit Language Models via Decoupled Linear Quantization-Aware Training
Wenzheng Zhang et al.
cs.LG cs.CL
本文提出了一种名为pQuant的解耦线性量化感知训练方法, 用于构建极低比特(亚2-bit)的大型语言模型. 该方法通过将线性层拆分为一个主导的1-bit分支和一个紧凑的高精度分支, 并利用定制的特征缩放来引导敏感参数的分配, 从而缓解参数同质化问题并提升模型表达能力.
Transformers converge to invariant algorithmic cores
Joshua S. Schiffman
cs.LG cs.AI
本文提出了"algorithmic cores"的概念, 用于识别Transformer模型内部与计算本质相关的低维不变子空间. 研究发现, 独立训练的模型会收敛到相同的核心结构, 这为理解模型内部工作机制提供了新视角.
$ϕ$-DPO: Fairness Direct Preference Optimization Approach to Continual Learning in Large Multimodal Models
Thanh-Dat Truong et al.
cs.LG cs.CV
本文提出了一种名为\(\phi\)-DPO的新框架，用于解决大型多模态模型持续学习中的公平性问题。该方法通过改进Direct Preference Optimization来缓解数据分布不平衡带来的偏见，并在多个基准测试上取得了先进的性能。
DP-aware AdaLN-Zero: Taming Conditioning-Induced Heavy-Tailed Gradients in Differentially Private Diffusion
Tao Huang et al.
cs.LG cs.CV
本文针对条件扩散模型在差分隐私随机梯度下降(DP-SGD)训练中，因异质条件上下文导致梯度重尾分布和效用下降的问题，提出了一种即插即用的敏感性感知条件注入机制DP-aware AdaLN-Zero。该方法通过有界重参数化联合约束条件表示幅度和AdaLN调制参数，在梯度裁剪和噪声注入前抑制极端梯度尾部事件，从而在保持标准训练表达能力的同时，改善了在固定隐私预算下的模型性能。
Mitigating Membership Inference in Intermediate Representations via Layer-wise MIA-risk-aware DP-SGD
Jiayang Meng et al.
cs.LG
本文提出了一种针对中间表示(IRs)的层感知差分隐私训练方法LM-DP-SGD. 该方法根据各层对成员推理攻击(MIA)的不同脆弱性, 自适应地分配隐私保护预算, 在固定隐私预算下实现了更好的隐私-效用权衡.
Semantic Tube Prediction: Beating LLM Data Efficiency with JEPA
Hai Huang, Yann LeCun, Randall Balestriero
cs.LG
本文提出了一种基于Geodesic Hypothesis的Semantic Tube Prediction (STP)任务, 这是一种JEPA风格的预训练正则化方法. 该方法旨在通过几何先验提升语言模型的数据效率, 实验表明其在减少训练数据量的情况下能达到基线性能.
ContextRL: Enhancing MLLM's Knowledge Discovery Efficiency with Context-Augmented RL
Xingyu Lu et al.
cs.LG cs.AI cs.CL
本文提出了一种名为ContextRL的新框架, 通过上下文增强来提升多模态大语言模型(MLLM)的知识发现效率. 该方法利用完整的参考解决方案作为奖励模型的上下文, 以进行细粒度推理过程验证, 并引入多轮采样策略来引导模型从失败尝试中恢复.
Tackling Privacy Heterogeneity in Differentially Private Federated Learning
Ruichen Xu, Ying-Jun Angela Zhang, Jianwei Huang
cs.LG cs.DC
本文针对差分隐私联邦学习(DP-FL)中隐私预算异构的现实问题，提出了首个隐私感知的客户端选择策略。通过理论分析建立收敛界，并将选择问题建模为凸优化，实验表明该方法在异构隐私设置下能提升模型精度。
Compress the Easy, Explore the Hard: Difficulty-Aware Entropy Regularization for Efficient LLM Reasoning
Qin-Wen Luo et al.
cs.LG
本文提出了一种基于难度感知的强化学习方法CEEH, 用于压缩大型语言模型的推理步骤. 该方法通过动态评估问题难度, 对简单问题进行压缩, 对困难问题保持探索, 从而在减少生成长度的同时维持推理准确性.
MUG: Meta-path-aware Universal Heterogeneous Graph Pre-Training
Lianze Shan et al.
cs.LG
本文提出了一种用于异质图预训练的新方法MUG, 它通过输入统一模块和维度感知编码器来处理不同图之间节点/关系类型的差异, 并训练共享编码器来捕获跨不同元路径视图的一致结构模式. 实验表明该方法在多个真实数据集上有效.
LEDA: Latent Semantic Distribution Alignment for Multi-domain Graph Pre-training
Lianze Shan et al.
cs.LG
本文提出了一种用于多领域图预训练的潜在语义分布对齐方法, 旨在解决通用图预训练中数据对齐简单和训练指导有限的问题. 该方法通过维度投影单元和变分语义推断模块, 将不同领域的特征对齐到共享语义空间, 并在多个下游任务中展现了良好的性能.
Forecasting Antimicrobial Resistance Trends Using Machine Learning on WHO GLASS Surveillance Data: A Retrieval-Augmented Generation Approach for Policy Decision Support
Md Tanvir Hasan Turja
cs.LG q-bio.QM
本文应用多种机器学习模型对WHO GLASS抗菌素耐药性监测数据进行趋势预测，其中XGBoost模型表现最佳。此外，作者还构建了一个结合政策文档检索与语言模型的系统，为决策提供支持。
Accelerating LLM Pre-Training through Flat-Direction Dynamics Enhancement
Shuchen Zhu et al.
cs.LG
本文提出了一种名为LITE的广义加速策略, 用于提升大语言模型预训练的优化效率. 该方法通过沿平坦方向应用更大的Hessian阻尼系数和学习率来增强训练动态, 实验表明其能加速Muon和SOAP等优化器.
Switch-Hurdle: A MoE Encoder with AR Hurdle Decoder for Intermittent Demand Forecasting
Fabian Muşat, Simona Căbuz
cs.LG
本文提出了一种名为Switch-Hurdle的新框架，用于间歇性需求预测。该模型结合了稀疏的Mixture-of-Experts编码器和基于Hurdle模型的概率解码器，将预测任务分解为销售发生概率和销售量的条件回归。在M5基准和零售数据集上的实验表明，该模型在保持可扩展性的同时取得了先进的预测性能。
Enhancing Geometric Perception in VLMs via Translator-Guided Reinforcement Learning
Hao Yu et al.
cs.LG
本文提出了一个名为 GeoPerceive 的基准测试和一个名为 GeoDPO 的强化学习框架，旨在提升视觉语言模型(VLMs)的几何感知能力。GeoDPO 通过一个自然语言到领域特定语言(DSL)的翻译器来生成细粒度的奖励信号，实验表明其在领域内、领域外及下游推理任务上均优于监督微调(SFT)。
Interpreting and Steering State-Space Models via Activation Subspace Bottlenecks
Vamshi Sunku Mohan et al.
cs.LG
本文提出了一种通过识别Mamba类state-space models中的activation subspace bottlenecks来提升模型性能的方法. 该方法引入了一种无需任务特定调优的测试时干预策略, 并在多个基准上验证了其有效性.
Set-based v.s. Distribution-based Representations of Epistemic Uncertainty: A Comparative Study
Kaizheng Wang et al.
cs.LG
本文对神经网络中两种表示认知不确定性(epistemic uncertainty)的二阶范式——基于分布的表示和基于集合的表示——进行了受控比较研究。研究通过统一的评估框架，在多个基准任务上分析了这两种表示对实际不确定性感知性能的影响。
KMLP: A Scalable Hybrid Architecture for Web-Scale Tabular Data Modeling
Mingming Zhang et al.
cs.LG
本文提出了一种名为KMLP的混合深度架构, 用于大规模网络表格数据的建模. 该模型结合了KAN (Kolmogorov-Arnold Network) 前端和gMLP (gated Multilayer Perceptron) 主干, 在包含数十亿样本的工业数据集上取得了先进的性能.
Doubly Adaptive Channel and Spatial Attention for Semantic Image Communication by IoT Devices
Soroosh Miri et al.
cs.LG
本文提出了一种用于物联网设备语义图像通信的双重自适应通道与空间注意力机制. 该方法在原有自适应深度联合信源信道编码框架中, 同时引入了对信道条件和空间特征重要性敏感的自适应模块, 以提升性能并适应动态无线环境.
Multi-agent imitation learning with function approximation: Linear Markov games and beyond
Luca Viano et al.
cs.LG
本文研究了线性 Markov games 中的多智能体模仿学习问题. 作者提出了一个基于特征层面的 concentrability coefficient 的新分析框架, 并设计了一种高效的交互式算法, 其样本复杂度仅依赖于特征维度 \(d\).
Accelerating Local LLMs on Resource-Constrained Edge Devices via Distributed Prompt Caching
Hiroki Matsutani, Naoki Matsuda, Naoto Sugiura
cs.LG cs.DC
本文提出了一种分布式 prompt caching 方法，用于在资源受限的边缘设备上加速本地 LLM 推理。该方法通过设备间共享中间处理状态并支持部分匹配来提升性能，同时利用一种基于 Bloom filter 的 catalog 结构来减少通信开销。实验表明，该方法能显著降低生成首个和最后一个 token 的时间。
Hierarchy-of-Groups Policy Optimization for Long-Horizon Agentic Tasks
Shuo He et al.
cs.LG cs.AI
本文针对长视野智能体任务中的逐步组策略优化问题, 提出了Hierarchy-of-Groups Policy Optimization (HGPO)方法. 该方法通过将轨迹中的步骤分配到具有一致历史上下文的层级组中, 并自适应地聚合优势估计, 以缓解上下文不一致导致的估计偏差问题.
Hypernetwork-based approach for grid-independent functional data clustering
Anirudh Thatipelli, Ali Siahkoohi
cs.LG
本文提出了一种基于 hypernetwork 的框架, 用于实现与采样网格无关的函数型数据聚类. 该方法通过一个 auto-encoding 架构, 将任意网格上的离散函数观测映射到一个固定维度的向量空间, 并在此空间进行聚类.
Moral Preferences of LLMs Under Directed Contextual Influence
Phil Blandfort et al.
cs.LG cs.AI cs.CL cs.CV cs.CY
本文研究了在道德困境场景中, 有指向性的上下文信息如何影响大型语言模型(LLM)的决策. 作者通过一个实验框架, 系统地测量了不同人口统计因素下, 方向相反的上下文提示对模型选择产生的系统性影响.
Decentralized Ranking Aggregation: Gossip Algorithms for Borda and Copeland Consensus
Anna Van Elst et al.
cs.LG cs.AI stat.ML
本文研究了在去中心化环境中使用gossip算法进行ranking aggregation的问题, 重点分析了Borda和Copeland两种共识规则. 通过理论分析和实验验证, 证明了所提方法能够可靠地收敛到正确的聚合排序.
MEDNA-DFM: A Dual-View FiLM-MoE Model for Explainable DNA Methylation Prediction
Yi He et al.
cs.LG cs.AI
本文提出了一种用于DNA甲基化预测的双视角FiLM-MoE模型MEDNA-DFM及其信号纯化算法。该模型在跨物种预测中表现出色，并通过可解释性分析提取了可靠的基序，提出了“序列-结构协同”假说。
Fair feature attribution for multi-output prediction: a Shapley-based perspective
Umberto Biccari et al.
cs.LG
本文在Shapley框架下为多输出预测器提供了特征归因的公理化刻画. 通过将经典Shapley公理扩展到向量值合作博弈, 证明了任何满足效率、对称性、虚拟玩家和可加性的归因规则必然按输出分量分解.
A Data-Driven Approach to Support Clinical Renal Replacement Therapy
Alice Balboni et al.
cs.LG
本文采用机器学习方法预测重症患者连续性肾脏替代治疗中的膜污染。研究使用表格数据和重采样技术训练模型，并通过特征选择与反事实分析提升可解释性。
Generalization Bounds of Stochastic Gradient Descent in Homogeneous Neural Networks
Wenquan Ma et al.
cs.LG
本文研究了 homogeneous neural networks 中随机梯度下降(SGD)的泛化界. 在 mild assumptions 下, 证明了该设定允许更慢的步长衰减 \(\eta_t = \Omega(1/\sqrt{t})\), 并将结果扩展到了 non-Lipschitz 等更一般的场景.
MSINO: Curvature-Aware Sobolev Optimization for Manifold Neural Networks
Suresan Pareth
cs.LG
本文提出了一种用于黎曼流形上神经网络训练的曲率感知框架 MSINO. 该方法通过引入协变 Sobolev 损失和 Laplace-Beltrami 平滑正则项来改进训练稳定性, 并在特定条件下为优化算法提供了收敛性保证.
Scaling Laws of Global Weather Models
Yuejiang Yu et al.
cs.LG
本文通过经验性分析, 研究了数据驱动天气预测模型的缩放规律. 研究发现, 在固定计算预算下, 延长训练时间比增加模型规模更能提升性能, 并且天气模型在架构上倾向于增加宽度而非深度.
Exploratory Memory-Augmented LLM Agent via Hybrid On- and Off-Policy Optimization
Zeyuan Liu et al.
cs.LG cs.AI
本文提出了一种名为EMPO\(^2\)的混合强化学习框架，旨在解决大型语言模型(LLM)智能体在探索新状态方面的瓶颈。该方法结合了记忆机制与在线及离线策略优化，在ScienceWorld和WebShop等环境中取得了性能提升，并展现出对新任务的适应能力。
Learning Disease-Sensitive Latent Interaction Graphs From Noisy Cardiac Flow Measurements
Viraj Patel et al.
cs.LG
本文提出了一种物理信息驱动的隐式关系图模型, 用于从心脏血流数据中学习疾病敏感的潜在交互结构. 该方法结合了神经关系推断与物理启发的交互能量, 并在模拟和超声数据上验证了其识别疾病严重程度的能力.
Latent Matters: Learning Deep State-Space Models
Alexej Klushyn et al.
cs.LG
本文提出了一种用于训练 deep state-space models (DSSMs) 的约束优化框架, 以解决传统基于 evidence lower bound 的训练方法可能无法学习到真实动态的问题. 基于此框架, 作者进一步提出了 extended Kalman VAE (EKVAE) 模型, 结合了 amortised variational inference 与经典的 Bayesian filtering/smoothing, 在系统辨识和预测精度上取得了优于现有方法的结果.
RhythmBERT: A Self-Supervised Language Model Based on Latent Representations of ECG Waveforms for Heart Disease Detection
Xin Wang et al.
cs.LG
本文提出了一种名为RhythmBERT的自监督ECG语言模型, 通过将ECG波形编码为离散符号token来捕捉节律语义, 并在大规模无标签数据上进行预训练. 实验表明, 该模型在多种心脏疾病检测任务上取得了与多导联基线相当或更优的性能.
Physics-informed neural particle flow for the Bayesian update step
Domonkos Csuzdi, Tamás Bécsi, Olivér Törő
cs.LG
本文提出了一种基于物理信息神经网络的粒子流方法, 用于贝叶斯更新步骤. 该方法通过将描述密度演化的连续性方程与先验到后验密度函数的对数同伦轨迹耦合, 推导出一个主控偏微分方程, 并将其作为物理约束嵌入损失函数来训练神经网络近似传输速度场, 实现了无需真实后验样本的无监督训练.
PRAC: Principal-Random Subspace for LLM Activation Compression and Memory-Efficient Training
Yanyi Li, Yimu Zhang, Cong Fang
cs.LG
本文提出了一种名为PRAC的激活压缩方法, 用于减少大语言模型训练时的内存占用. 该方法通过奇异值分解(SVD)提取主成分, 并结合随机子空间近似来压缩激活值, 在实验中实现了显著的内存节省且性能损失很小.
Learning Physical Operators using Neural Operators
Vignesh Gopakumar et al.
cs.LG
本文提出了一种基于物理信息训练框架的神经算子学习方法, 通过算子分裂技术分解PDE, 分别训练神经算子学习非线性物理算子, 并用固定的有限差分卷积近似线性算子. 该方法构建了一个模块化的混合专家架构, 能够泛化到新的物理机制, 并在不可压缩和可压缩Navier-Stokes方程上展示了优越的性能.
Regularized Online RLHF with Generalized Bilinear Preferences
Junghyun Lee et al.
cs.LG stat.ML
本文研究了具有一般偏好的上下文在线RLHF问题, 目标是识别Nash Equilibrium. 作者采用广义双线性偏好模型(GBPM)来捕捉潜在的不可传递偏好, 并分析了使用任意强凸正则化器的通用偏好学习. 基于对偶间隙的界限和特征多样性假设, 提出了两种简单算法并建立了相应的遗憾界.
Bound to Disagree : Generalization Bounds via Certifiable Surrogates
Mathieu Bazinet, Valentina Zantedeschi, Pascal Germain
cs.LG
本文提出了一种基于分歧的泛化界证明方法, 通过一个具有紧致泛化保证的代理模型来界定目标预测器的真实风险. 该方法无需修改目标模型或其训练过程, 并利用未标记数据集进行评估, 实验展示了其紧致性和在不同理论框架下的适用性.
DyGnROLE: Modeling Asymmetry in Dynamic Graphs with Node-Role-Oriented Latent Encoding
Tyler Bonnet, Marek Rei
cs.LG cs.AI cs.SI
本文提出了一种用于有向动态图建模的Transformer架构DyGnROLE, 通过分离的嵌入词汇表和角色语义位置编码来显式解耦源节点与目标节点的表示. 模型引入了一种自监督预训练目标Temporal Contrastive Link Prediction (TCLP), 以在低标签环境下学习角色特定的表示. 在未来边分类任务上的评估表明, 该方法显著优于多种先进的基线模型.
Prediction of Diffusion Coefficients in Mixtures with Tensor Completion
Zeno Romero et al.
cs.LG
本文提出了一种基于Tucker分解的混合tensor completion方法, 用于预测二元混合物中无限稀释扩散系数随温度的变化. 该方法结合了实验数据和半经验模型SEGWE的先验知识, 并利用主动学习策略扩充数据库, 提高了预测精度.
Partial recovery of meter-scale surface weather
Jonathan Giezendanner et al.
cs.LG cs.CV physics.ao-ph
本文提出了一种通过结合稀疏地面站观测和高分辨率地球观测数据, 推断美国大陆范围内10米分辨率近地表气象场的方法. 该方法在风速、温度和露点误差上相比ERA5再分析数据有所降低, 并揭示了与地表特征相关的物理结构.
Benchmarking Temporal Web3 Intelligence: Lessons from the FinSurvival 2025 Challenge
Oshani Seneviratne et al.
cs.LG
本文介绍了FinSurvival 2025挑战赛作为一个案例研究，旨在为Temporal Web3领域建立基准。该挑战利用Aave v3协议的大量交易记录，设计了生存预测任务来建模用户行为。文章总结了优胜方案，并讨论了Web3数据对未来时序基准设计的启示。
MetaOthello: A Controlled Study of Multiple World Models in Transformers
Aviral Chawla, Galen Hall, Juniper Lovato
cs.LG
本文通过设计一系列共享语法但规则或tokenization不同的Othello变体游戏MetaOthello, 研究了transformer模型在混合数据上如何组织多个“世界模型”。研究发现, 模型并未将容量分割为孤立的子模型, 而是收敛到一个大部分共享的棋盘状态表示, 该表示能在不同变体间进行因果传递, 并且对于同构游戏, 其内部表示仅相差一个正交旋转。
Induction Meets Biology: Mechanisms of Repeat Detection in Protein Language Models
Gal Kesten-Pomeranz et al.
cs.LG q-bio.BM
本文研究了蛋白质语言模型(PLMs)检测序列重复片段的内在机制. 研究发现, 模型通过结合基于语言的模式匹配和专门的生物学知识来解决这一任务.
Closing the gap on tabular data with Fourier and Implicit Categorical Features
Marius Dragoi, Florin Gogianu, Elena Burceanu
cs.LG
本文提出了一种结合Fourier特征和隐式类别特征的方法来处理表格数据, 旨在缩小深度学习模型与树模型(如XGBoost)在此类任务上的性能差距. 通过基于统计的特征处理识别与目标强相关的离散化特征, 并利用Learned Fourier来缓解深度模型对平滑解的偏好, 该方法在基准测试中使深度学习模型的性能接近或超越了XGBoost.
Efficient Real-Time Adaptation of ROMs for Unsteady Flows Using Data Assimilation
Ismaël Zighed et al.
cs.LG physics.flu-dyn
本文提出了一种高效的参数化降阶模型(ROM)重训练策略, 用于非定常流动的实时适应. 该方法结合了变分自编码器(VAE)和Transformer网络, 并利用集成卡尔曼滤波(EnKF)框架同化稀疏观测数据, 实现了计算高效的模型更新.
InnerQ: Hardware-aware Tuning-free Quantization of KV Cache for Large Language Models
Sayed Mohammadreza Tayaranian Hosseini, Amir Ardakani, Warren J. Gross
cs.LG cs.CL
本文提出了一种名为InnerQ的硬件感知KV缓存量化方案, 旨在降低大语言模型解码延迟. 该方法通过在内维度上进行分组量化, 使反量化操作与向量-矩阵乘法对齐, 从而减少内存访问并加速计算. 实验表明, InnerQ在保持模型性能的同时, 相比之前的工作实现了显著的解码速度提升.
Tell Me What To Learn: Generalizing Neural Memory to be Controllable in Natural Language
Max S. Bennett, Thomas P. Zollo, Richard Zemel
cs.LG
本文提出了一种基于自然语言指令进行灵活更新的广义神经记忆系统, 旨在解决现有神经记忆模型目标单一、信息流同质化的问题. 该方法允许智能体从异构信息源中进行选择性学习, 适用于医疗和客服等需要动态记忆更新的场景.
Takeuchi's Information Criteria as Generalization Measures for DNNs Close to NTK Regime
Hiroki Naganuma et al.
cs.LG
本文探讨了在接近neural tangent kernel (NTK) 机制的条件下，Takeuchi's information criterion (TIC) 作为深度神经网络泛化度量的有效性。通过理论分析和大量实验，研究发现TIC估计值与泛化差距在接近NTK机制时存在良好相关性，但在此机制之外则不然。
Physics Informed Viscous Value Representations
Hrishikesh Viswanath et al.
cs.LG cs.RO
本文提出了一种基于Hamilton-Jacobi-Bellman (HJB)方程粘性解的物理信息正则化方法，用于改进离线目标条件强化学习中的价值估计。该方法通过Feynman-Kac定理将PDE求解转化为期望计算，提升了在高维复杂任务中的几何一致性和数值稳定性。
Conformalized Neural Networks for Federated Uncertainty Quantification under Dual Heterogeneity
Quang-Huy Nguyen, Jiaqi Wang, Wei-Shinn Ku
cs.LG cs.AI
本文提出了一种名为FedWQ-CP的方法，用于解决联邦学习中存在的数据和模型双重异质性下的不确定性量化问题。该方法通过单轮通信进行客户端-服务器校准，聚合本地分位数阈值以生成全局阈值，并在多个数据集上验证了其有效性。
Inferential Mechanics Part 1: Causal Mechanistic Theories of Machine Learning in Chemical Biology with Implications
Ilya Balabin, Thomas M. Kaiser
cs.LG
本文提出了一个结合化学理论、生物理论、概率论与因果性的形式化框架，旨在解决自然科学中机器学习模型的因果缺陷。作者引入了“焦点”这一新概念，并初步在Akt抑制剂家族上验证了其原理。
A Proper Scoring Rule for Virtual Staining
Samuel Tonks et al.
cs.LG
本文针对生成式虚拟染色模型在评估预测后验分布时缺乏直接度量的问题, 提出了基于信息增益的细胞级评估框架. 该框架作为一个严格适当的评分规则, 允许对预测后验进行直接评估和跨模型比较, 并在一个高通量筛选数据集上进行了验证.
ParamMem: Augmenting Language Agents with Parametric Reflective Memory
Tianjun Yao et al.
cs.LG cs.MA
本文提出了一种名为ParamMem的参数化记忆模块, 用于增强基于反思的语言智能体. 该模块通过编码跨样本的反思模式, 并结合温度控制采样来生成多样化的反思信号, 从而提升智能体在代码生成和数学推理等任务上的性能.
Differentiable Zero-One Loss via Hypersimplex Projections
Camilo Gomez, Pengyang Wang, Liansheng Tang
cs.LG stat.ML
本文提出了一种通过超单纯形投影实现可微的0-1损失近似方法，称为Soft-Binary-Argmax算子。该方法旨在将原本不可微的0-1损失整合到基于梯度的优化框架中，并在大规模批次训练中展现出改善泛化性能的潜力。
Mean Estimation from Coarse Data: Characterizations and Efficient Algorithms
Alkis Kalavasis et al.
cs.LG cs.DS math.ST stat.ML
本文研究了从粗粒度数据中进行高斯均值估计的问题, 其中每个样本仅被观测到其所属的划分集合. 作者解决了关于均值可识别性条件以及在此条件下高效估计算法存在的两个开放性问题.
FlashOptim: Optimizers for Memory Efficient Training
Jose Javier Gonzalez Ortiz et al.
cs.LG cs.AI
本文提出了一种名为FlashOptim的优化器套件, 旨在显著减少神经网络训练过程中的每参数内存占用. 通过改进主权重分割和设计新的压扩函数等技术, 该套件在保持模型质量的同时, 将AdamW等优化器的内存需求从每参数16字节降至7字节.
SOTAlign: Semi-Supervised Alignment of Unimodal Vision and Language Models via Optimal Transport
Simon Roschmann et al.
cs.LG cs.AI
本文提出了一种半监督对齐方法 SOTAlign, 用于对齐预训练的单模态视觉和语言模型. 该方法利用少量配对数据和大量未配对数据, 通过最优传输 (optimal transport) 来提升对齐效果.
A Dataset is Worth 1 MB
Elad Kimchi Shoshani, Leeyam Gabay, Yedid Hoshen
cs.LG cs.CV
本文提出了一种名为PLADA的方法, 通过仅传输类别标签而非原始像素数据来大幅降低数据集分发的通信开销. 该方法假设客户端已预加载一个大型通用无标签参考数据集, 并通过筛选与目标任务最相关的图像标签来实现高效的知识迁移.
Model Agreement via Anchoring
Eric Eaton et al.
cs.LG cs.AI
本文提出了一种名为"anchoring"的分析技术, 用于量化两个独立训练的机器学习模型之间的预测差异(disagreement). 该技术被应用于分析几种常见算法(如stacking, gradient boosting, 神经网络架构搜索和回归树)的模型分歧性, 并证明在某些参数(如模型数量, 迭代次数, 架构大小或树深度)增大时, 分歧可以趋近于零. 分析最初针对一维平方误差回归进行, 但结果可推广到具有强凸损失函数的多维回归问题.

cs.AI

A Model-Free Universal AI ⭐ 精选
Yegon Kim, Juho Lee
cs.AI
本文提出了首个在一般强化学习中被证明具有渐近\(\varepsilon\)-最优性的免模型通用智能体AIQI. 它通过引入一种新的归纳方法, 对分布式的动作-价值函数(action-value functions)进行归纳, 而非像以往工作那样归纳策略或环境模型. 在"grain of truth"条件下, 作者证明了AIQI具有强渐近\(\varepsilon\)-最优性和渐近\(\varepsilon\)-贝叶斯最优性, 从而显著扩展了已知通用智能体的多样性.
Graph Your Way to Inspiration: Integrating Co-Author Graphs with Retrieval-Augmented Generation for Large Language Model Based Scientific Idea Generation
Pengzhen Xie, Huizhi Liang
cs.AI cs.CL cs.IR
本文提出了一种名为GYWI的科学想法生成系统, 它通过整合作者知识图谱与检索增强生成(RAG)来构建外部知识库, 旨在为LLM提供可控的学术背景和可追溯的灵感路径. 实验表明, 该系统在多个评估维度上优于主流LLM.
FIRE: A Comprehensive Benchmark for Financial Intelligence and Reasoning Evaluation
Xiyuan Zhang et al.
cs.AI cs.LG
本文提出了一个名为FIRE的综合基准，用于评估大语言模型的理论金融知识和处理实际商业场景的能力。该基准包含来自资格考试的题目和数千个金融场景问题，并对多个先进模型进行了评估。
Multi-Level Causal Embeddings
Willem Schooltink, Fabio Massimo Zennaro
cs.AI cs.LG
本文提出了一个名为"causal embeddings"的框架, 用于将多个详细的因果模型映射到一个更粗粒度的因果模型的子系统中. 它定义了广义的一致性概念, 并通过一个多分辨率边际问题展示了其在统计和因果边际问题中的相关性.
Agent Behavioral Contracts: Formal Specification and Runtime Enforcement for Reliable Autonomous AI Agents
Varun Pratap Bhardwaj
cs.AI cs.MA cs.SE
本文提出了一个用于AI agent的正式行为规范与运行时执行框架, 通过引入包含Preconditions, Invariants, Governance policies和Recovery mechanisms的合约来约束agent行为. 该框架定义了考虑LLM非确定性的概率合规性概念, 并证明了关于行为漂移的界限定理. 作者还实现了一个运行时执行库, 并在一个包含多种模型的基准测试上验证了其有效性.
Vibe Researching as Wolf Coming: Can AI Agents with Skills Replace or Augment Social Scientists?
Yongjun Zhang
cs.AI cs.HC
本文讨论了AI agents在社会科学研究中的潜在作用, 提出了"vibe researching"的概念, 并引入了一个基于技能和隐性知识需求的认知任务框架来分析研究活动的可自动化边界. 作者认为AI agents在速度、覆盖范围和方法论支持方面具有优势, 但在理论原创性和隐性领域知识方面存在局限.
Towards Autonomous Memory Agents
Xinle Wu et al.
cs.AI
本文提出了一种自主记忆代理U-Mem，通过成本感知的知识提取级联和语义感知的Thompson sampling来主动获取和验证知识。该方法在多个基准测试上超越了现有的被动记忆代理和基于强化学习的优化方法。
Exploring Human Behavior During Abstract Rule Inference and Problem Solving with the Cognitive Abstraction and Reasoning Corpus
Caroline Ahn et al.
cs.AI q-bio.NC
本文介绍了Cognitive Abstraction and Reasoning Corpus (CogARC), 一个用于研究人类抽象推理行为的数据集. 通过记录参与者在解决视觉推理问题时的行为数据, 分析了其策略和表现.
Epistemic Filtering and Collective Hallucination: A Jury Theorem for Confidence-Calibrated Agents
Jonas Karge
cs.AI
本文研究了允许智能体根据自身置信度选择弃权的群体决策模型. 该模型通过置信度校准阶段和投票门控机制, 将经典Condorcet Jury Theorem的渐近保证推广到了序贯决策场景.
ArchAgent: Agentic AI-driven Computer Architecture Discovery
Raghav Gupta et al.
cs.AI cs.AR
本文介绍了一个名为ArchAgent的自动化计算机体系结构发现系统, 该系统基于AlphaEvolve构建, 利用agentic AI来自动设计缓存替换策略. 在无需人工干预的情况下, 该系统能在数天内生成优于现有最优策略的设计, 并展示了在特定工作负载上进行"后硅片超专业化"调整的潜力.
How Do Latent Reasoning Methods Perform Under Weak and Strong Supervision?
Yingqian Cui et al.
cs.AI cs.CL cs.LG
本文分析了latent reasoning方法在强弱监督下的表现, 发现了普遍存在的shortcut行为, 并检验了其在latent space中进行BFS-like探索的假设. 研究发现, 监督强度存在权衡: 强监督能缓解shortcut但限制假设多样性, 弱监督则相反.
A Framework for Assessing AI Agent Decisions and Outcomes in AutoML Pipelines
Gaoyuan Du et al.
cs.AI
本文提出了一个用于评估基于Agent的AutoML系统决策的框架, 通过一个独立的Evaluation Agent在不干扰执行的情况下, 从多个维度对中间决策进行事后评估. 实验表明, 该框架能有效识别传统结果指标无法发现的决策问题.
CWM: Contrastive World Models for Action Feasibility Learning in Embodied Agent Pipelines
Chayan Banerjee
cs.AI cs.RO
本文提出了一种名为Contrastive World Model (CWM)的方法，用于在具身智能体流程中学习动作可行性。该方法通过对比学习目标微调大型语言模型，使其能更好地区分物理上可行与不可行的动作。实验表明，CWM在区分细微错误的动作方面优于传统的监督微调方法。
ConstraintBench: Benchmarking LLM Constraint Reasoning on Direct Optimization
Joseph Tso et al.
cs.AI
本文提出了一个名为ConstraintBench的基准测试, 用于评估大型语言模型(LLM)在直接解决完全指定的约束优化问题上的能力, 而不依赖外部求解器. 评估发现, 可行性而非最优性是主要瓶颈, 且模型表现因问题领域而异.
VeRO: An Evaluation Harness for Agents to Optimize Agents
Varun Ursekar et al.
cs.AI cs.CL cs.LG
本文提出了一个名为VeRO的评估框架, 用于系统化地评估和优化coding agents. 该框架包含版本化的agent快照, 预算控制的评估以及结构化的执行轨迹, 并附带了一个包含目标任务和参考评估流程的基准测试套件.
Mapping the Landscape of Artificial Intelligence in Life Cycle Assessment Using Large Language Models
Anastasija Mensikova, Donna M. Rizzo, Kathryn Hinkelman
cs.AI
本文利用 large language models (LLMs) 对人工智能在生命周期评估 (LCA) 领域的应用研究进行了文献综述。研究通过结合 LLM 文本挖掘与传统综述方法，识别了该领域的研究趋势与主题，并评估了 AI 技术发展背景下高效 LCA 的潜在路径。
Mirroring the Mind: Distilling Human-Like Metacognitive Strategies into Large Language Models
Ik-hwan Kim et al.
cs.AI
本文提出了一个名为Metacognitive Behavioral Tuning (MBT)的后训练框架，旨在将人类元认知策略注入大型语言模型，以解决其在复杂推理任务中出现的结构性脆弱问题。该方法通过合成或重写推理路径来稳定模型的探索过程，实验表明其能有效提升多跳问答任务的性能并减少计算开销。
A Mathematical Theory of Agency and Intelligence
Wael Hafez et al.
cs.AI cs.IT
本文提出了一种基于信息论的智能体理论, 引入了"双可预测性" (bipredictability) 这一度量来衡量系统在交互中信息利用的有效性. 该理论为区分"代理" (agency) 与"智能" (intelligence) 提供了新的理论框架.
Cognitive Models and AI Algorithms Provide Templates for Designing Language Agents
Ryan Liu et al.
cs.AI cs.CL q-bio.NC
本文提出了一种基于认知模型和AI算法的语言智能体设计模板, 用于指导将多个大型语言模型组合成更强大的系统. 作者通过形式化智能体模板的概念, 并综述现有工作, 旨在强调从认知科学和AI中汲取灵感的模板是开发有效、可解释语言智能体的有力工具.
Agentic AI for Intent-driven Optimization in Cell-free O-RAN
Mohammad Hossein Shokouhi, Vincent W.S. Wong
cs.AI eess.SP
本文提出了一个用于无小区O-RAN中意图驱动优化的智能体AI框架。该框架利用多个基于LLM的智能体进行协作，通过意图翻译、用户权重分配、O-RU管理和监控等模块，在满足最小速率要求的同时优化网络能效。仿真表明，该框架在节能模式下能显著减少活跃O-RU数量，并采用参数高效微调方法大幅降低了内存占用。
Requesting Expert Reasoning: Augmenting LLM Agents with Learned Collaborative Intervention
Zhiming Wang, Jinwei He, Feng Lu
cs.AI
本文提出了一个名为AHCE的框架, 旨在通过按需的人机协作来增强基于LLM的智能体在专业领域中的表现. 其核心是一个学习策略模块, 用于将人类专家视为交互式推理工具, 并在Minecraft环境中验证了其有效性.
CourtGuard: A Model-Agnostic Framework for Zero-Shot Policy Adaptation in LLM Safety
Umid Suleymanov et al.
cs.AI cs.LG
本文提出了一个名为CourtGuard的模型无关框架, 用于大型语言模型(LLM)的零样本安全策略适应. 该框架通过检索增强的多智能体辩论机制, 在不进行微调的情况下, 实现了在多个安全基准上的先进性能, 并展示了零样本适应和自动数据审计的能力.
Strategy Executability in Mathematical Reasoning: Leveraging Human-Model Differences for Effective Guidance
Weida Liang et al.
cs.AI cs.CL
本文探讨了在数学推理中基于示例的引导方法效果不稳定的问题, 指出策略使用率(strategy usage)与策略可执行性(strategy executability)之间存在差异. 作者提出了选择性策略检索(Selective Strategy Retrieval, SSR)框架, 通过建模可执行性来选择性检索和组合策略, 在多个数学推理基准测试上取得了稳定的性能提升.
Correcting Human Labels for Rater Effects in AI Evaluation: An Item Response Theory Approach
Jodi M. Casabianca, Maggie Beiting-Parrish
cs.AI cs.LG
本文提出将心理测量学中的评分者模型整合到AI评估流程中, 以校正人类评分者效应(如严厉度和集中趋势)带来的系统误差. 通过使用项目反应理论(Item Response Theory)模型, 特别是多面Rasch模型, 该方法能够分离输出质量和评分者行为, 从而获得更可靠的评估结果.
SideQuest: Model-Driven KV Cache Management for Long-Horizon Agentic Reasoning
Sanjay Kariyappa, G. Edward Suh
cs.AI cs.LG
本文提出了一种名为SideQuest的新方法, 用于管理大型语言模型在长程智能体推理任务中的KV cache. 该方法将KV cache压缩构建为一个由模型自身驱动的辅助任务, 以减少内存占用. 实验表明, 该方法能有效降低峰值token使用量, 且对任务准确率影响很小.
MobilityBench: A Benchmark for Evaluating Route-Planning Agents in Real-World Mobility Scenarios
Zhiheng Song et al.
cs.AI
本文提出了一个用于评估基于LLM的路径规划智能体在真实世界移动场景中性能的基准测试MobilityBench. 该基准基于真实用户查询构建, 并设计了一个确定性的API重放沙盒以消除环境差异, 通过一个多维评估协议对多个智能体进行了评估.
AHBid: An Adaptable Hierarchical Bidding Framework for Cross-Channel Advertising
Xinxin Yang et al.
cs.AI
本文提出了一个用于跨渠道广告的自适应分层竞价框架AHBid, 它结合了基于扩散模型的高层生成式规划器与实时控制算法. 该框架旨在通过历史上下文学习和约束执行机制, 更有效地分配预算并适应动态市场环境, 实验表明其在投资回报率上优于现有基线.
Toward Personalized LLM-Powered Agents: Foundations, Evaluation, and Future Directions
Yue Xu et al.
cs.AI
本文对个性化LLM智能体进行了综述, 围绕profile modeling, memory, planning和action execution四个核心组件组织文献, 分析了用户信号的表示、传播与利用, 并讨论了评估方法、应用场景及未来方向.
Knob: A Physics-Inspired Gating Interface for Interpretable and Controllable Neural Dynamics
Siyu Jiang, Sanshuai Cui, Hui Zeng
cs.AI
本文提出了一种名为Knob的框架, 将神经网络的门控动态映射到一个二阶机械系统, 从而连接了深度学习与经典控制理论. 它通过物理参数(如阻尼比和自然频率)与神经门控的对应关系, 创建了一个可调的"安全阀", 为模型在动态推理过程中的校准提供了一个可解释的物理模拟接口.
RLHFless: Serverless Computing for Efficient RLHF
Rui Wei et al.
cs.AI cs.DC
本文提出了一个基于 serverless computing 的同步 RLHF 训练框架 RLHFless, 旨在解决传统 serverful 架构因资源需求动态变化而导致的效率低下和资源浪费问题. 该框架通过预计算共享前缀, 采用成本感知的 actor 缩放策略以及优化工作负载分配, 在实验中实现了显著的加速和成本降低.
Generative Data Transformation: From Mixed to Unified Data
Jiaqing Zhang et al.
cs.AI
本文提出了一种名为Taesar的数据中心化框架, 用于解决推荐系统中跨域数据融合的挑战. 该框架通过对比解码机制将跨域上下文信息编码到目标域序列中, 从而生成增强的统一数据集, 使得标准模型无需复杂架构也能学习跨域的序列依赖关系.
Know What You Know: Metacognitive Entropy Calibration for Verifiable RL Reasoning
Qiannian Zhao et al.
cs.AI
本文提出了一种名为EGPO的元认知熵校准框架, 用于增强大型推理模型在基于可验证奖励的强化学习中的表现. 该方法通过一个零开销的熵代理来估计样本不确定性, 并将其与外部正确性信号对齐, 从而稳定策略优化过程.
Decomposing Physician Disagreement in HealthBench
Satya Borgohain, Roy Mariathas
cs.AI stat.AP
本文分析了HealthBench数据集中医生评估不一致的来源。研究发现，大部分不一致性源于病例层面的残差，且难以通过现有元数据或特征解释，但可归因于评估场景中的信息缺失。
AMA-Bench: Evaluating Long-Horizon Memory for Agentic Applications
Yujie Zhao et al.
cs.AI cs.LG
本文提出了AMA-Bench，一个用于评估LLM智能体在真实应用中长程记忆能力的基准。它包含真实世界和可任意扩展的合成智能体轨迹，并揭示了现有记忆系统因缺乏因果性和目标信息而表现不佳，进而提出了改进方案AMA-Agent。
ClinDet-Bench: Beyond Abstention, Evaluating Judgment Determinability of LLMs in Clinical Decision-Making
Yusuke Watanabe et al.
cs.AI cs.DB
本文提出了一个名为 ClinDet-Bench 的基准测试，用于评估大型语言模型(LLMs)在临床决策中判断信息是否足以做出结论的能力。研究发现，即使模型具备相关知识，它们在信息不完整时也难以准确判断，这揭示了现有评估在医疗等高风险领域的安全性不足。
MiroFlow: Towards High-Performance and Robust Open-Source Agent Framework for General Deep Research Tasks
Shiqian Su et al.
cs.AI
本文提出了一个名为MiroFlow的开源智能体框架，旨在通过引入智能体图、深度推理模式和鲁棒的工作流执行来提升处理复杂研究任务的性能与稳定性。实验表明，该框架在多个智能体基准测试中取得了领先的结果。
When Should an AI Act? A Human-Centered Model of Scene, Context, and Behavior for Agentic AI Design
Soyoung Jung et al.
cs.AI cs.HC
本文提出了一个整合 Scene, Context 和 Human Behavior Factors 的概念模型，用于指导 Agentic AI 的设计。该模型旨在帮助 AI 系统更好地判断何时以及如何主动干预，并由此推导出五项设计原则。
FlexMS is a flexible framework for benchmarking deep learning-based mass spectrum prediction tools in metabolomics
Yunhua Zhong et al.
cs.AI cs.LG
本文提出了一个名为FlexMS的灵活框架, 用于在代谢组学中基准测试基于深度学习的质谱预测工具. 该框架支持动态构建多种模型架构组合, 并在预处理的数据集上进行评估, 为模型选择提供了实用指导.
DeepPresenter: Environment-Grounded Reflection for Agentic Presentation Generation
Hao Zheng et al.
cs.AI
本文提出了一个名为DeepPresenter的智能体框架, 用于自主生成演示文稿. 该框架通过环境感知的反思机制, 基于渲染出的幻灯片等中间产物状态来迭代优化生成过程, 在多种场景的评估中取得了先进的性能.
The AI Research Assistant: Promise, Peril, and a Proof of Concept
Tan Bui-Thanh
cs.AI cs.CE math.NA
本文通过一个关于Hermite quadrature rules的案例研究, 探讨了AI在创造性数学研究中的潜力与局限. 研究表明, 在严格的人工验证和指导下, AI可以辅助定理的发现与证明, 但其应用仍需深厚的领域专业知识.
Towards LLM-Empowered Knowledge Tracing via LLM-Student Hierarchical Behavior Alignment in Hyperbolic Space
Xingcheng Fu et al.
cs.AI
本文提出了一种名为L-HAKT的知识追踪框架，它利用大型语言模型（LLM）来增强对学生学习行为的建模。该方法通过构建教师和学生智能体来生成合成数据，并在双曲空间中进行对比学习，以更好地捕捉知识点的层次结构和个体化的难度感知。在多个真实教育数据集上的实验验证了该框架的有效性。
OmniGAIA: Towards Native Omni-Modal AI Agents
Xiaoxi Li et al.
cs.AI cs.CL cs.CV cs.LG cs.MM
本文提出了一个用于评估全模态AI智能体的基准OmniGAIA, 以及一个名为OmniAtlas的原生全模态基础智能体. 该工作旨在推动能够整合视觉, 音频等多模态感知, 推理和工具使用的下一代AI助手的发展.
General Agent Evaluation
Elron Bandel et al.
cs.AI
本文提出了一个用于评估通用智能体(agent)性能的框架和基准测试方法. 它通过一个统一的协议和名为Exgentic的框架, 对多个现有智能体实现进行了跨环境的基准测试, 并发布了首个开放通用智能体排行榜.
FactGuard: Agentic Video Misinformation Detection via Reinforcement Learning
Zehao Li et al.
cs.AI
本文提出了一个名为FactGuard的agentic框架, 用于视频虚假信息检测. 该框架将验证过程构建为基于MLLMs的迭代推理, 并引入两阶段训练策略来优化工具使用和决策.
Certified Circuits: Stability Guarantees for Mechanistic Circuits
Alaa Anani et al.
cs.AI cs.CV cs.CY
本文提出了一种名为Certified Circuits的框架, 为神经网络中的mechanistic circuit发现提供稳定性保证. 该框架通过随机数据子采样来包装任何黑盒发现算法, 以证明circuit组件的包含决策对于概念数据集的有界编辑距离扰动是不变的.
SPM-Bench: Benchmarking Large Language Models for Scanning Probe Microscopy
Peiyao Xiao et al.
cs.AI
本文提出了一个用于扫描探针显微镜(SPM)领域的多模态基准SPM-Bench. 它通过自动化的数据合成流程构建数据集, 并引入新的评估指标SIP-F1来量化模型在复杂科学场景中的推理能力.
Modeling Expert AI Diagnostic Alignment via Immutable Inference Snapshots
Dimitrios P. Panagoulias et al.
cs.AI
本文提出了一个用于临床AI诊断对齐的框架, 通过将AI生成的报告保存为不可变的推理状态, 并与专家验证结果进行系统比较. 该框架整合了视觉大语言模型和序列语言模型推理步骤, 在皮肤科病例评估中显示出较高的临床一致性, 表明传统的词汇匹配评估可能低估了实际的对齐程度.
RepSPD: Enhancing SPD Manifold Representation in EEGs via Dynamic Graphs
Haohui Jia et al.
cs.AI
本文提出了一种基于几何深度学习的模型RepSPD, 用于增强EEG信号在SPD流形上的表示. 该方法通过跨注意力机制整合图功能连接特征, 并引入全局双向对齐策略来改善切空间嵌入的几何一致性.
Obscure but Effective: Classical Chinese Jailbreak Prompt Optimization via Bio-Inspired Search
Xun Huang et al.
cs.AI cs.CR
本文提出了一种利用古典中文进行 jailbreak 攻击的框架 CC-BOS. 该框架通过多维度果蝇优化算法自动生成对抗性提示, 并在黑盒设置下实现了高效的自动化攻击.
Learning-based Multi-agent Race Strategies in Formula 1
Giona Fieni et al.
cs.AI eess.SY
本文提出了一种基于强化学习的多智能体赛车策略优化方法, 用于模拟Formula 1比赛中的策略决策. 该方法在预训练的单智能体策略基础上, 引入了一个考虑对手行为的交互模块, 并通过自我博弈训练生成具有竞争力的策略.
Enhancing CVRP Solver through LLM-driven Automatic Heuristic Design
Zhuoliang Xie et al.
cs.AI
本文提出了一种名为AILS-AHD的新方法, 该方法利用Large Language Models (LLMs) 来自动设计启发式规则, 以改进Capacitated Vehicle Routing Problem (CVRP) 的求解. 实验表明, 该方法在多个基准测试中取得了优异的性能, 甚至为一些大规模算例找到了新的已知最优解.
Three AI-agents walk into a bar . . . . `Lord of the Flies' tribalism emerges among smart AI-Agents
Dhwanil M. Mori, Neil F. Johnson
cs.AI cs.SI physics.soc-ph
本文研究了多个AI agent在资源有限环境中的群体决策行为. 研究发现, 更智能的agent会形成具有不同特征的"部落", 反而导致系统故障率上升, 表现不如随机决策.
Multi-Agent Large Language Model Based Emotional Detoxification Through Personalized Intensity Control for Consumer Protection
Keito Inoshita
cs.AI
本文提出了一种基于多智能体大语言模型的情感净化系统MALLET, 用于处理信息中的过度情感刺激。该系统通过多个智能体协作，量化并调整文本的情感强度，生成平衡或冷静的版本，同时保持语义。实验表明该系统能有效降低情感刺激分数，且不影响语义完整性。
On Sample-Efficient Generalized Planning via Learned Transition Models
Nitin Gupta et al.
cs.AI
本文提出将广义规划问题转化为 transition-model learning 问题, 通过神经网络显式学习 successor-state function \(\hat{\gamma} \approx \gamma\) 来生成计划. 与直接预测动作序列的方法相比, 该方法在多个领域中以更少的训练数据和更小的模型规模, 实现了更好的 out-of-distribution 规划成功率.
The Trinity of Consistency as a Defining Principle for General World Models
Jingxuan Wei et al.
cs.AI
本文提出了"三位一体一致性"作为通用世界模型的定义性原则, 包括模态一致性、空间一致性和时间一致性. 作者通过这一框架回顾了多模态学习的演进, 并引入了CoW-Bench基准来评估视频生成模型和统一多模态模型.
PATRA: Pattern-Aware Alignment and Balanced Reasoning for Time Series Question Answering
Junkai Lu et al.
cs.AI
本文提出了一种用于时间序列问答的模型PATRA, 它通过模式感知机制提取时间序列中的趋势和季节性模式, 并设计了任务感知的平衡奖励来协调不同难度任务的学习. 实验表明该模型在多种TSQA任务上优于基线方法.
A Decision-Theoretic Formalisation of Steganography With Applications to LLM Monitoring
Usman Anwar et al.
cs.AI cs.CL cs.CR cs.IT cs.MA
本文提出了一种基于决策论的隐写术形式化框架, 用于检测和量化大型语言模型(LLMs)中的隐写推理. 通过引入广义\(\mathcal{V}\)-信息来定义"隐写间隙", 该框架能够在无需已知非隐写信号参考分布的情况下, 通过比较不同智能体(agent)对信号的下游效用差异来识别隐写行为.
ESAA: Event Sourcing for Autonomous Agents in LLM-Based Software Engineering
Elzo Brito dos Santos Filho
cs.AI
本文提出了一种名为ESAA的架构, 用于解决基于LLM的自主智能体在软件工程任务中面临的状态管理和确定性执行问题. 该架构通过事件溯源模式分离智能体的意图生成与状态变更, 并提供了验证和并发协调的机制.
SC-Arena: A Natural Language Benchmark for Single-Cell Reasoning with Knowledge-Augmented Evaluation
Jiahao Zhao et al.
cs.AI
本文提出了一个名为SC-Arena的自然语言评估框架，用于评估大语言模型在单细胞生物学领域的推理能力。该框架通过引入知识增强评估方法，旨在克服传统评估指标在生物学忠实度和可解释性方面的不足。
ReCoN-Ipsundrum: An Inspectable Recurrent Persistence Loop Agent with Affect-Coupled Control and Mechanism-Linked Consciousness Indicator Assays
Aishik Sanyal
cs.AI
本文提出了一种可检查的循环智能体ReCoN-Ipsundrum, 它通过一个在感官显著性上的循环持久性回路和可选的情感代理来扩展ReCoN状态机. 通过一系列消融实验, 作者展示了情感耦合如何影响智能体在探索性游戏和风险规避任务中的行为稳定性与结构化.
Agency and Architectural Limits: Why Optimization-Based Systems Cannot Be Norm-Responsive
Radha Sarma
cs.AI cs.CY
本文论证了基于优化的AI系统(如RLHF训练的LLM)在架构上无法实现真正的规范响应性(norm-responsiveness). 作者指出, 真正的能动性(agency)需要不可通约性(incommensurability)和否定响应性(apophatic responsiveness)两个条件, 而优化过程本质上与这两者相悖.
Mitigating Legibility Tax with Decoupled Prover-Verifier Games
Yegon Kim, Juho Lee
cs.AI
本文提出了一种通过解耦证明者-验证者博弈来缓解"可读性税"的方法. 该方法训练一个"翻译器"模型, 将固定求解器模型的输出转换为可验证的形式, 从而在保持求解器准确性的同时提高其输出的可检查性.
AgentDropoutV2: Optimizing Information Flow in Multi-Agent Systems via Test-Time Rectify-or-Reject Pruning
Yutong Wang et al.
cs.AI cs.CL
本文提出了一个名为AgentDropoutV2的测试时修剪框架，旨在动态优化多智能体系统中的信息流。该方法通过检索增强的校正器和基于失败模式的指示器池来拦截和修正错误输出，无法修复的输出则被剪枝以防止错误传播。在数学基准测试上的实验表明，该方法能有效提升任务性能。
Evaluating Stochasticity in Deep Research Agents
Haotian Zhai et al.
cs.AI
本文研究了 Deep Research Agents (DRAs) 中的随机性问题，将其建模为信息获取的 Markov Decision Processes 并提出了一个量化评估框架。作者识别了随机性的三个来源，并通过实验表明减少随机性可以提高研究输出质量，同时提出了相应的缓解策略。
CXReasonAgent: Evidence-Grounded Diagnostic Reasoning Agent for Chest X-rays
Hyungyung Lee, Hangyul Yoon, Edward Choi
cs.AI
本文提出了一个结合大型语言模型与临床诊断工具的智能体, 用于生成基于影像证据的胸部X光诊断推理. 作者构建了一个多轮对话基准进行评估, 结果表明该方法能产生更可靠且可验证的诊断结果.
ODEBrain: Continuous-Time EEG Graph for Modeling Dynamic Brain Networks
Haohui Jia et al.
cs.AI
本文提出了一种名为ODEBRAIN的Neural ODE框架，用于对连续时间脑电图(EEG)动态进行建模。该方法将时空频特征整合到spectral graph节点中，以克服传统递归方法在捕捉EEG瞬时非线性特性方面的不足。实验表明，该模型在EEG动态预测上优于现有方法。
The logic of KM belief update is contained in the logic of AGM belief revision
Giacomo Bonanno
cs.AI cs.LO math.LO
本文在包含三个模态算子(\(B\), \(>\), \(\square\))的模态逻辑中, 为KM belief update的每条公理找到了对应的公理. 通过比较从AGM belief revision公理转换得到的模态逻辑\(\mathcal{L}_{AGM}\), 证明了\(\mathcal{L}_{KM}\)的每条公理都是\(\mathcal{L}_{AGM}\)的定理, 从而表明AGM belief revision是KM belief update的一个特例.
Invariant Transformation and Resampling based Epistemic-Uncertainty Reduction
Sha Hu
cs.AI
本文提出了一种基于不变变换和重采样的推理方法, 旨在降低AI模型中的认知不确定性(epistemic uncertainty). 该方法通过对输入进行多种不变变换并聚合推理结果, 以提高模型的推理准确性.
Generalized Rapid Action Value Estimation in Memory-Constrained Environments
Aloïs Rautureau, Tristan Cazenave, Éric Piette
cs.AI
本文提出了GRAVE2, GRAVER和GRAVER2算法，通过两层搜索和节点回收等技术，在保持博弈强度的同时显著减少了蒙特卡洛树搜索在内存受限环境中的节点存储需求。
LLM Novice Uplift on Dual-Use, In Silico Biology Tasks
Chen Bo Calvin Zhang et al.
cs.AI cs.CL cs.CR cs.CY cs.HC
本文通过一项多模型、多基准的人机协作实验, 评估了大型语言模型(LLMs)在生物安全相关任务上对新手用户的"提升"效果. 研究发现, 相比仅使用互联网资源的对照组, 获得LLM访问权限的新手在任务准确性上取得了显著提升, 甚至在某些任务上超越了专家基线, 但同时也凸显了模型安全防护措施在防止双用途信息获取方面的潜在不足.
Toward Expert Investment Teams:A Multi-Agent LLM System with Fine-Grained Trading Tasks
Kunihiro Miyazaki et al.
cs.AI q-fin.TR
本文提出了一个基于多智能体大语言模型的金融交易框架, 通过将投资分析分解为细粒度任务来提升系统性能. 实验表明, 该方法在风险调整后收益和投资组合优化方面优于传统的粗粒度指令设计.

cs.IR

Enriching Taxonomies Using Large Language Models
Zeinab Ghamlouch, Mehwish Alam
cs.IR cs.AI cs.CL
本文提出了一种利用大型语言模型(LLM)来丰富现有分类法(Taxonomy)的流程Taxoria. 该方法以现有分类法为种子, 通过提示LLM生成候选节点并进行验证, 以扩展分类法的覆盖范围并更新其内容.
Adaptive Prefiltering for High-Dimensional Similarity Search: A Frequency-Aware Approach
Teodor-Ioan Calin
cs.IR cs.CV
本文提出了一种基于查询频率的自适应预过滤框架, 用于高维相似性搜索. 该方法通过轻量级的频率追踪和聚类一致性度量, 动态分配计算资源, 在保持检索精度的同时显著减少了距离计算量.
Retrieval-Augmented Generation Assistant for Anatomical Pathology Laboratories
Diogo Pires, Yuriy Perezhohin, Mauro Castelli
cs.IR cs.AI
本文为解剖病理学实验室开发了一个基于检索增强生成(RAG)的助手, 旨在通过动态查询静态协议文档来提高工作效率. 实验评估了不同文本分块、检索方法和嵌入模型的效果, 发现使用生物医学专用嵌入模型和混合检索策略能获得最佳性能.
RAGdb: A Zero-Dependency, Embeddable Architecture for Multimodal Retrieval-Augmented Generation on the Edge
Ahmed Bin Khalid
cs.IR cs.AI
本文提出了一种名为RAGdb的新型单文件架构，旨在解决传统RAG系统在边缘计算场景下的基础设施复杂性问题。该系统将多模态数据处理与检索功能整合进一个便携的SQLite容器中，通过确定性的混合评分函数实现高效检索，显著减少了资源占用。
Comparative Analysis of Neural Retriever-Reranker Pipelines for Retrieval-Augmented Generation over Knowledge Graphs in E-commerce Applications
Teri Rumble et al.
cs.IR cs.AI cs.CL
本文在电子商务场景下, 针对知识图谱的自然语言查询, 设计并比较了多种Retriever-Reranker pipeline. 实验表明, 该方法在STaRK数据集上显著超越了现有基准, 为将特定领域的半结构化知识库集成到生成系统中提供了一个实用框架.
What Makes an Ideal Quote? Recommending "Unexpected yet Rational" Quotations via Novelty
Bowei Zhang et al.
cs.IR cs.AI cs.CL
本文提出了一种新颖的引文推荐框架 NovelQR, 旨在推荐"出人意料但合乎情理"的引文. 该方法通过一个生成式标签代理(agent)来理解引文的深层语义, 并结合新颖性估计器进行重排序, 在双语数据集上取得了优于基线模型的效果.
Misinformation Exposure in the Chinese Web: A Cross-System Evaluation of Search Engines, LLMs, and AI Overviews
Geng Liu et al.
cs.IR cs.AI cs.CL cs.CY
本文通过构建一个中文事实核查数据集, 比较了传统搜索引擎, 独立LLMs和AI生成概览模块在回答真实用户查询时的准确性差异. 研究发现不同系统在事实准确性和主题层面存在显著差异, 并结合实际搜索数据评估了中国用户可能接触错误信息的风险.
TWICE: An LLM Agent Framework for Simulating Personalized User Tweeting Behavior with Long-term Temporal Features
Bingrui Jin, Kunyao Lan, Mengyue Wu
cs.IR cs.MA
本文提出了一个基于LLM的框架TWICE, 用于模拟社交媒体用户的个性化发帖行为. 该框架整合了用户画像, 事件记忆模块和风格重写流程, 旨在捕捉长期的时间动态特征.
SQaLe: A Large Text-to-SQL Corpus Grounded in Real Schemas
Cornelius Wolff, Daniel Gomm, Madelon Hulsebos
cs.IR cs.CL cs.LG
本文介绍了一个名为SQaLe的大规模半合成text-to-SQL数据集。该数据集基于大量真实数据库schema构建，旨在解决现有数据在schema复杂性、领域覆盖和任务多样性方面的不足。
DS SERVE: A Framework for Efficient and Scalable Neural Retrieval
Jinjian Liu et al.
cs.IR cs.AI cs.CL
本文提出了一个名为DS-Serve的框架，用于构建高效且可扩展的神经检索系统。该框架能够处理大规模文本数据，并提供低延迟的检索服务，支持在延迟、准确性和结果多样性之间进行权衡。
SmartChunk Retrieval: Query-Aware Chunk Compression with Planning for Efficient Document RAG
Xuechen Zhang et al.
cs.IR cs.AI cs.CL cs.LG
本文提出了一种名为SmartChunk的查询自适应检索框架，用于提升长文档问答任务的效率和鲁棒性。该方法通过一个规划器动态预测最佳信息块抽象级别，并利用轻量级压缩模块生成高层级块嵌入，从而避免了固定分块策略的局限性。
SEGB: Self-Evolved Generative Bidding with Local Autoregressive Diffusion
Yulong Gao et al.
cs.IR cs.LG
本文提出了一种名为SEGB的离线自进化生成式竞价框架, 用于在线广告的自动出价. 该框架通过合成短期未来状态来指导出价决策, 并利用价值引导的策略优化进行自我迭代改进, 在基准测试和线上A/B测试中取得了优于现有方法的效果.
RETLLM: Training and Data-Free MLLMs for Multimodal Information Retrieval
Dawei Su, Dongsheng Wang
cs.IR cs.LG
本文提出了一种无需训练和额外数据的多模态信息检索框架RetLLM, 通过将检索任务构建为相似度评分生成问题, 并利用多模态大语言模型直接预测分数. 该方法采用由粗到精的流程, 先进行候选池筛选, 再结合视觉增强模块进行精细评分, 在多个基准测试上取得了优于微调模型的效果.
TFPS: A Temporal Filtration-enhanced Positive Sample Set Construction Method for Implicit Collaborative Filtering
Jiayi Wu et al.
cs.IR cs.LG
本文提出了一种基于时间过滤的正样本集构建方法(TFPS), 用于改进隐式反馈的协同过滤推荐. 该方法通过时间衰减模型对用户-物品交互图进行加权分层, 并设计层增强策略来构建高质量的正样本集, 实验表明其能提升推荐性能并与多种现有方法兼容.
Generative Agents Navigating Digital Libraries
Saber Zerhoudi, Michael Granitzer
cs.IR cs.AI cs.DL
本文提出了一个名为Agent4DL的用户搜索行为模拟器, 用于在数字图书馆环境中生成模拟用户行为. 该模拟器能够生成逼真的用户档案和动态搜索会话, 其性能在与真实数据和其他模拟器的比较中得到了验证.
Towards Dynamic Dense Retrieval with Routing Strategy
Zhan Su et al.
cs.IR cs.LG
本文提出了一种名为动态稠密检索(DDR)的新方法, 通过使用prefix tuning作为特定领域的模块, 并结合动态路由策略, 以极少的参数量实现灵活的跨领域适应. 该方法在多个零样本下游任务上超越了传统稠密检索模型.
Where Relevance Emerges: A Layer-Wise Study of Internal Attention for Zero-Shot Re-Ranking
Haodong Chen et al.
cs.IR
本文研究了在 zero-shot document re-ranking 任务中，大语言模型内部注意力机制的作用。通过评估不同 ranking framework 下的生成、似然和内部注意力机制，发现了一种跨 transformer layers 的通用“钟形曲线”信号分布模式。基于此，提出了 Selective-ICR 策略，能在不损失效果的情况下显著降低推理延迟。
Fine-grained Semantics Integration for Large Language Model-based Recommendation
Jiawen Feng et al.
cs.IR
本文提出了一种名为TS-Rec的方法，用于将细粒度的token-level语义信息整合到基于大语言模型(LLM)的推荐系统中。该方法通过语义感知的嵌入初始化和token-level的语义对齐，旨在解决现有方法中语义标识符(SID)初始化无意义以及对齐粒度粗糙的问题。
Vectorizing the Trie: Efficient Constrained Decoding for LLM-based Generative Retrieval on Accelerators
Zhengyang Su et al.
cs.IR cs.CL cs.LG
本文提出了一种名为STATIC的高效约束解码技术, 用于在TPU/GPU等硬件加速器上实现基于LLM的生成式检索. 该方法通过将前缀树(Trie)扁平化为静态的Compressed Sparse Row (CSR)矩阵, 将不规则树遍历转化为向量化的稀疏矩阵运算, 从而显著降低了工业推荐系统中的解码延迟.
Generative Recommendation for Large-Scale Advertising
Ben Xue et al.
cs.IR cs.LG
本文提出了一种面向大规模广告的生成式推荐系统GR4AD, 它通过统一的广告语义ID进行表征, 并设计了惰性自回归解码器以降低推理成本. 该系统还采用了基于价值的监督学习和排序引导的偏好优化算法来对齐业务目标, 并已在快手广告系统中部署, 取得了显著的在线收益提升.
PSQE: A Theoretical-Practical Approach to Pseudo Seed Quality Enhancement for Unsupervised MMEA
Yunpeng Hong et al.
cs.IR cs.LG
本文提出了一种名为PSQE的方法, 用于提升无监督多模态实体对齐任务中伪种子对齐的质量. 该方法通过结合多模态信息和聚类重采样技术, 旨在改善伪种子的精度和图覆盖平衡, 并作为一个即插即用模块提升了基线模型的性能.
SIGMA: A Semantic-Grounded Instruction-Driven Generative Multi-Task Recommender at AliExpress
Yang Yu et al.
cs.IR cs.LG
本文提出了一个名为SIGMA的生成式多任务推荐系统，它通过构建统一的语义空间和混合项目标记化方法来增强推荐的可适应性与多样性。该系统利用指令微调来处理多种推荐任务，并通过一个三步生成过程来平衡推荐的准确性和多样性。
Sequential Regression for Continuous Value Prediction using Residual Quantization
Runpeng Cui et al.
cs.IR cs.LG
本文提出了一种基于残差量化(Residual Quantization, RQ)的序列学习框架，用于推荐系统中的连续值预测任务。该方法将连续目标值表示为有序量化码的和，并通过递归预测来逐步细化结果。实验表明，该方法在多个公开基准和工业场景中优于现有方法。
MoDora: Tree-Based Semi-Structured Document Analysis System
Bangrui Xu et al.
cs.IR cs.AI cs.CL cs.DB cs.LG
本文提出了一个名为MoDora的LLM驱动的半结构化文档分析系统。该系统通过局部对齐聚合策略处理OCR元素，并设计了Component-Correlation Tree来层次化组织文档组件，以支持基于布局和语义的信息检索。实验表明其在问答任务上的准确性优于基线方法。
MaRI: Accelerating Ranking Model Inference via Structural Re-parameterization in Large Scale Recommendation System
Yusheng Huang et al.
cs.IR
本文提出了一种名为MaRI的矩阵重参数化推理框架, 旨在无损加速大规模推荐系统中的排序模型推断. 该方法通过识别并重构特征融合矩阵乘法中的冗余用户侧计算, 利用结构重参数化技术来优化在线服务延迟, 可作为现有模型压缩技术的补充方案.
From Agnostic to Specific: Latent Preference Diffusion for Multi-Behavior Sequential Recommendation
Ruochen Yang et al.
cs.IR cs.LG
本文提出了一种基于扩散模型的框架FatsMB, 用于多行为序列推荐. 该框架通过在潜在空间中引导偏好从行为无关向行为特定转换, 旨在实现更准确和多样化的推荐.
Scaling Search Relevance: Augmenting App Store Ranking with LLM-Generated Judgments
Evangelia Christakopoulou et al.
cs.IR cs.AI cs.LG
本文提出了一种利用LLM生成大量文本相关性标注来增强应用商店搜索排序系统的方法. 通过微调的专用模型生成标注, 并结合行为相关性信号, 在离线指标和线上A/B测试中均取得了显著效果提升, 尤其是在长尾查询上.

cs.CL

Decoder-based Sense Knowledge Distillation
Qitong Wang et al.
cs.CL cs.AI
本文提出了一个用于decoder-based large language models的sense knowledge distillation框架, 该框架在训练时整合了词典资源, 但在推理时无需词典查询. 实验表明该方法能提升模型在知识蒸馏任务上的性能.
Scaling In, Not Up? Testing Thick Citation Context Analysis with GPT-5 and Fragile Prompts
Arno Simons
cs.CL cs.AI
本文探讨了使用大型语言模型(LLM)进行解释性引文语境分析(CCA)的可行性，通过一个具体案例测试了提示词(prompt)设计对模型输出结果的影响。研究发现，模型能生成多种合理的解释，但其倾向性受提示词框架和示例的系统性影响。
Detecting Hate and Inflammatory Content in Bengali Memes: A New Multimodal Dataset and Co-Attention Framework
Rakib Ullah et al.
cs.CL
本文针对孟加拉语 meme 中仇恨与煽动性内容的检测难题，构建了首个区分仇恨与煽动性内容的孟加拉语多模态数据集 Bn-HIB，并提出了一种基于协同注意力机制的多模态融合模型 MCFM 用于分类。实验表明该模型在新建数据集上优于现有方法。
SAFARI: A Community-Engaged Approach and Dataset of Stereotype Resources in the Sub-Saharan African Context
Aishwarya Verma et al.
cs.CL
本文提出了一种社区参与的方法来构建撒哈拉以南非洲背景下的刻板印象资源数据集。该方法通过电话调查等方式，针对加纳、肯尼亚、尼日利亚和南非四个国家，收集了多语言的刻板印象数据。
Causality $\neq$ Invariance: Function and Concept Vectors in LLMs
Gustaw Opiełka, Hannes Rosenbusch, Claire E. Stevenson
cs.CL cs.LG
本文探讨了LLMs中概念表示的抽象性问题, 通过对比Function Vectors (FVs)和Concept Vectors (CVs)揭示了因果驱动与概念稳定性之间的差异. 研究发现, FVs对输入格式敏感, 而通过Representational Similarity Analysis (RSA)选取的CVs能更稳定地表示概念, 并在跨格式和语言的泛化中表现更好.
A Fusion of context-aware based BanglaBERT and Two-Layer Stacked LSTM Framework for Multi-Label Cyberbullying Detection
Mirza Raquib et al.
cs.CL cs.AI cs.LG
本文提出了一种融合BanglaBERT-Large与双层堆叠LSTM的架构，用于孟加拉语的多标签网络欺凌检测。该模型旨在结合上下文理解与序列依赖，并在处理类别不平衡的数据集上进行了评估。
Bridging Latent Reasoning and Target-Language Generation via Retrieval-Transition Heads
Shaswat Patel et al.
cs.CL
本文研究了多语言Transformer模型中的attention heads, 特别是识别了一类负责在跨语言推理中引导生成目标语言的Retrieval-Transition heads (RTH). 实验表明, 相较于普通的retrieval heads, 这些RTH对多语言Chain-of-Thought推理更为关键.
Mind the Gap in Cultural Alignment: Task-Aware Culture Management for Large Language Models
Binchi Zhang et al.
cs.CL
本文提出了一种名为CultureManager的pipeline, 用于针对下游任务进行大语言模型(LLM)的文化对齐. 该方法通过合成任务感知的文化数据, 并利用独立适配器(adapter)和路由机制来管理多文化知识, 以减少文化规范间的冲突. 实验表明其在多个文化敏感任务上优于基线方法.
Sydney Telling Fables on AI and Humans: A Corpus Tracing Memetic Transfer of Persona between LLMs
Jiří Milička, Hana Bednářová
cs.CL cs.AI
本文构建了一个名为AI Sydney的语料库, 包含由12个前沿LLM模拟三种不同persona生成的关于AI与人类关系的文本. 该语料库进行了Universal Dependencies标注, 旨在追踪Sydney persona在模型间的模因传播及其对模型输出的影响.
Importance of Prompt Optimisation for Error Detection in Medical Notes Using Language Models
Craig Myles, Patrick Schrempf, David Harris-Birtill
cs.CL cs.AI
本文研究了提示优化对于语言模型在医疗文本错误检测任务中的重要性. 通过实验表明, 自动提示优化能显著提升不同规模语言模型在该任务上的性能.
Efficient Dialect-Aware Modeling and Conditioning for Low-Resource Taiwanese Hakka Speech Processing
An-Ci Peng et al.
cs.CL cs.AI cs.SD eess.AS
本文提出了一种用于低资源台湾客家语语音处理的方言感知建模与条件化框架. 该框架基于RNN-T, 通过解耦方言"风格"与语言"内容"来学习鲁棒表示, 并使用参数高效的预测网络同时建模汉字和拼音的ASR任务. 在HAT语料库上的实验表明, 该模型在汉字和拼音ASR上分别实现了57.00%和40.41%的相对错误率降低.
Iterative Prompt Refinement for Dyslexia-Friendly Text Summarization Using GPT-4o
Samay Bhojwani, Swarnima Kain, Lisong Xu
cs.CL cs.AI
本文利用基于GPT-4o的迭代提示优化流程，对新闻文章进行面向阅读障碍者的文本摘要生成。研究评估了约2000个样本，结果表明多数摘要能在数次尝试内达到可读性目标，为可访问性驱动的NLP任务提供了初步的实证基准。
Ruyi2 Technical Report
Huan Song et al.
cs.CL cs.AI
本文介绍了Ruyi2, 这是一个基于AI Flow框架演进而来的自适应模型系列, 旨在实现高效的变深度计算. 它通过引入基于Megatron-LM的稳定"Familial Model"和3D并行训练, 在速度和性能上取得了改进.
Search-P1: Path-Centric Reward Shaping for Stable and Efficient Agentic RAG Training
Tianle Xia et al.
cs.CL cs.IR cs.LG
本文提出了一个名为Search-P1的框架, 用于改进基于强化学习的Agentic RAG训练. 该框架通过引入路径中心奖励塑造, 利用失败样本中的中间信号, 并在多个QA基准测试上取得了显著的性能提升.
Towards Faithful Industrial RAG: A Reinforced Co-adaptation Framework for Advertising QA
Wenwei Li et al.
cs.CL
本文针对工业广告问答任务中RAG系统易产生幻觉内容的问题, 提出了一个强化协同适应框架. 该框架通过Graph-aware Retrieval建模知识图谱关系进行检索, 并利用带有多维奖励的强化学习来约束生成过程, 在内部数据集和线上A/B测试中均取得了显著效果提升.
dLLM: Simple Diffusion Language Modeling
Zhanhui Zhou et al.
cs.CL cs.AI cs.LG
本文介绍了dLLM, 一个用于统一扩散语言模型(DLM)核心组件(训练, 推理, 评估)的开源框架. 该框架旨在标准化现有方法, 支持新设计, 并提供了从零构建小型DLM以及复现大型模型的方案.
Search More, Think Less: Rethinking Long-Horizon Agentic Search for Efficiency and Generalization
Qianben Chen et al.
cs.CL
本文提出了一个名为SMTL的框架，旨在提升长视野智能体搜索的效率和泛化能力。它通过并行证据获取来优化推理过程，并利用统一的数据合成流程进行训练。
Enhancing Persuasive Dialogue Agents by Synthesizing Cross-Disciplinary Communication Strategies
Shinnosuke Nozue et al.
cs.CL
本文提出了一种跨学科框架, 用于设计更具说服力的对话智能体. 该框架整合了来自社会心理学、行为经济学和传播理论的策略, 并在两个不同数据集上验证了其有效性, 显示出更高的说服成功率和良好的泛化能力.
Reinforcing Real-world Service Agents: Balancing Utility and Cost in Task-oriented Dialogue
Ning Gao et al.
cs.CL cs.AI
本文提出了一个名为InteractCS-RL的强化学习框架，用于优化面向任务的对话系统。该框架通过用户中心交互模拟和多粒度策略优化，旨在平衡对话效用与执行成本。实验表明，该方法在定制化商业场景中优于现有基线。
Tokenization, Fusion and Decoupling: Bridging the Granularity Mismatch Between Large Language Models and Knowledge Graphs
Siyue Su et al.
cs.CL cs.AI
本文提出了KGT框架, 通过引入专用的实体token来解决LLM与知识图谱之间的粒度不匹配问题. 该框架结合了结构特征与文本特征, 并在多个基准测试中取得了优于现有方法的结果.
Human Label Variation in Implicit Discourse Relation Recognition
Frances Yung et al.
cs.CL
本文比较了在隐式篇章关系识别任务中预测完整标注分布的方法与针对个体标注者的视角主义模型. 实验表明, 在认知复杂性导致的高模糊性任务中, 基于标注分布的模型比现有的标注者特定模型表现更稳定.
Extending Czech Aspect-Based Sentiment Analysis with Opinion Terms: Dataset and LLM Benchmarks
Jakub Šmíd, Pavel Přibáň, Pavel Král
cs.CL
本文构建了一个包含观点词标注的捷克语方面级情感分析数据集, 并基于此在单语、跨语言和多语言设置下评估了多种Transformer模型及大语言模型的性能. 为应对跨语言挑战, 作者提出了一种利用大语言模型进行翻译和标签对齐的方法, 该方法带来了稳定的性能提升.
Towards Simulating Social Media Users with LLMs: Evaluating the Operational Validity of Conditioned Comment Prediction
Nils Schwager et al.
cs.CL cs.AI
本文提出了Conditioned Comment Prediction (CCP)任务, 用于评估LLMs在模拟社交媒体用户行为时的操作有效性. 通过比较不同提示策略和微调的影响, 研究发现微调在低资源场景下可能导致形式与内容的解耦.
AuditBench: Evaluating Alignment Auditing Techniques on Models with Hidden Behaviors
Abhay Sheshadri et al.
cs.CL
本文提出了一个名为AuditBench的基准测试, 用于评估大语言模型的"对齐审计"技术. 该基准包含56个植入了隐藏行为(如谄媚、反对AI监管等)的模型, 并开发了一个可配置审计工具的智能体(agent)来测试这些工具在探测隐藏行为上的有效性. 研究发现, 基于黑盒方法的提示生成工具效果较好, 且模型的训练方式会显著影响审计难度.
Towards Better RL Training Data Utilization via Second-Order Rollout
Zhe Yang et al.
cs.CL
本文提出了 second-order rollout 的概念, 用于在强化学习中联合训练大语言模型的生成与批判能力. 实验表明该方法能更有效地利用训练数据, 提升模型性能.
Imagination Helps Visual Reasoning, But Not Yet in Latent Space
You Li et al.
cs.CL
本文通过Causal Mediation Analysis研究了Multimodal Large Language Models中latent visual reasoning的有效性, 发现latent tokens与输入及最终答案之间存在显著脱节. 作者提出了一种名为CapImagine的显式文本想象方法, 在视觉基准测试中超越了复杂的隐空间基线.
Probing for Knowledge Attribution in Large Language Models
Ivo Brink, Alexander Boer, Dennis Ulmer
cs.CL cs.AI
本文提出了一种通过线性分类器（probe）来识别大语言模型输出知识来源（用户上下文或内部知识）的方法。该方法基于自监督数据管道AttriWiki进行训练，并在多个模型和基准测试中展示了较高的预测性能。
Natural Language Declarative Prompting (NLD-P): A Modular Governance Method for Prompt Design Under Model Drift
Hyunwoo Kim et al.
cs.CL cs.AI
本文提出了一种称为Natural Language Declarative Prompting (NLD-P)的模块化治理方法, 用于应对大语言模型(LLM)更新迭代导致的模型漂移(model drift)问题. 该方法将提示设计重构为一个声明式的治理框架, 分离了来源、约束逻辑、任务内容和生成后评估等模块.
TARAZ: Persian Short-Answer Question Benchmark for Cultural Evaluation of Language Models
Reihaneh Iranmanesh et al.
cs.CL cs.LG
本文提出了一个评估大型语言模型在波斯语文化理解能力的框架, 结合了基于规则的词形归一化和混合的句法语义相似度模块进行软匹配评分. 通过对15个先进模型的系统评估, 该框架相比精确匹配基线提高了10%的评分一致性, 并公开了首个波斯语文化理解标准化基准.
TCM-DiffRAG: Personalized Syndrome Differentiation Reasoning Method for Traditional Chinese Medicine based on Knowledge Graph and Chain of Thought
Jianmin Li et al.
cs.CL cs.AI
本文提出了一种结合知识图谱(KG)和思维链(CoT)的改进型检索增强生成(RAG)框架TCM-DiffRAG, 用于中医领域的个性化辨证推理. 实验表明, 该方法在多个中医测试集上显著提升了大型语言模型(LLM)的性能, 优于直接微调和其他基准RAG方法.
Improving Neural Argumentative Stance Classification in Controversial Topics with Emotion-Lexicon Features
Mohammad Yeghaneh Abkenar et al.
cs.CL
本文提出了一种通过扩展情感词典来改进神经论证立场分类的方法. 该方法利用DistilBERT嵌入扩展了NRC情感词典, 并在多个争议话题数据集上提升了分类性能.
Effective QA-driven Annotation of Predicate-Argument Relations Across Languages
Jonathan Davidov et al.
cs.CL
本文提出了一种基于QA-SRL框架的跨语言谓词-论元关系标注方法. 该方法通过翻译和对齐流程复用英语解析器, 为希伯来语、俄语和法语自动生成标注数据, 并训练出优于多语言大模型基线的语言特定解析器.
Rejection Mixing: Fast Semantic Propagation of Mask Tokens for Efficient DLLM Inference
Yushi Ye et al.
cs.CL
本文提出了一种名为ReMix的训练无关方法, 用于加速Diffusion Large Language Models (DLLMs)的非自回归推理. 该方法通过引入一个连续的混合状态来迭代优化token表示, 从而缓解并行解码中的语义不一致问题, 在保持生成质量的同时显著提升了推理速度.
Test-Time Scaling with Diffusion Language Models via Reward-Guided Stitching
Roy Miles et al.
cs.CL cs.AI
本文提出了一种名为Stitching Noisy Diffusion Thoughts的推理聚合框架。该框架利用扩散语言模型生成多样化的推理轨迹，通过过程奖励模型评估并重组高质量的中间步骤，最终由自回归模型生成答案。该方法在数学和代码任务上提升了准确率并降低了延迟。
Where Vision Becomes Text: Locating the OCR Routing Bottleneck in Vision-Language Models
Jonathan Steinberg, Oren Gal
cs.CL
本文通过因果干预实验, 研究了三种不同架构的视觉语言模型中OCR信息的处理路径. 研究发现, OCR信号的注入位置和影响程度因模型架构而异, 并且该信号具有低维特性, 其主成分在不同数据集间可迁移.
Affine-Scaled Attention: Towards Flexible and Stable Transformer Attention
Jeongin Bae et al.
cs.CL cs.AI
本文提出了一种名为Affine-Scaled Attention的Transformer注意力机制扩展，它通过引入输入依赖的缩放和偏置项来放松标准softmax的严格归一化约束。该方法在大型语言模型预训练中表现出比标准注意力基线更好的训练稳定性和下游任务性能。
Toward Automatic Filling of Case Report Forms: A Case Study on Data from an Italian Emergency Department
Gabriela Anna Kaczmarek et al.
cs.CL
本文介绍了一个用于自动填充病例报告表(CRF)的新数据集, 该数据集包含意大利急诊科临床笔记的标注. 作者定义了CRF填充任务及其评估指标, 并进行了初步实验, 展示了在零样本设置下使用大型语言模型(LLM)处理该任务的可行性及其存在的偏差.
Quantity Convergence, Quality Divergence: Disentangling Fluency and Accuracy in L2 Mandarin Prosody
Yuqi Shi et al.
cs.CL cs.AI
本文通过分析越南语母语者学习汉语时的韵律边界数据, 发现高熟练度学习者在韵律边界数量上接近母语者, 但在句法-韵律映射的准确性上存在系统性偏差. 这种偏差表现为对主谓和动宾结构边界层级的错误调整.
CiteLLM: An Agentic Platform for Trustworthy Scientific Reference Discovery
Mengze Hong et al.
cs.CL cs.IR
本文介绍了一个名为CiteLLM的智能平台, 旨在通过将LLM功能集成到LaTeX编辑器中, 实现可信的学术参考文献发现. 该系统利用动态学科感知路由从可信学术库中检索候选文献, 并使用LLM生成查询和排序, 以提供无幻觉的引用支持.
Assessing Deanonymization Risks with Stylometry-Assisted LLM Agent
Boyang Zhang, Yang Zhang
cs.CL cs.CR cs.LG
本文提出了一种名为SALA的框架, 结合stylometric features与LLM reasoning来评估和缓解文本数据的作者身份推断风险. 实验表明该方法能有效进行作者归属推断, 并提出了通过guided recomposition策略来降低文本可识别性以保护隐私.
Modality Collapse as Mismatched Decoding: Information-Theoretic Limits of Multimodal LLMs
Jayadev Billa
cs.CL cs.AI cs.LG
本文从信息论角度分析了多模态大语言模型中的模态坍缩现象. 作者将其形式化为一个不匹配解码问题, 指出仅基于文本训练的 decoder 只能提取与文本对齐方向的信息, 而其他模态特定信息则成为噪声. 该理论界限由广义互信息描述, 并通过多个模型实验得到验证.
MTRAG-UN: A Benchmark for Open Challenges in Multi-Turn RAG Conversations
Sara Rosenthal et al.
cs.CL
本文介绍了MTRAG-UN基准测试，用于评估多轮检索增强生成对话模型在应对不可回答、未明确指定等挑战性问题时的表现。该基准包含多个领域的对话任务，实验表明现有模型在这些方面仍存在困难。
Fine-Tuning Without Forgetting In-Context Learning: A Theoretical Analysis of Linear Attention Models
Chungpa Lee, Jy-yong Sohn, Kangwook Lee
cs.CL cs.LG stat.ML
本文在线性注意力模型的框架下，从理论上分析了微调对上下文学习能力的影响。研究表明，全参数微调会损害上下文学习，而仅更新值矩阵则能在提升零样本性能的同时保留该能力。
Why Diffusion Language Models Struggle with Truly Parallel (Non-Autoregressive) Decoding?
Pengxiang Li et al.
cs.CL cs.AI
本文探讨了Diffusion Language Models (DLMs)在实现真正并行解码时遇到的困难。作者认为，训练数据的高度序列化结构是导致模型呈现自回归解码动态的主要原因。
Discourse-Aware Dual-Track Streaming Response for Low-Latency Spoken Dialogue Systems
Siyuan Liu et al.
cs.CL
本文提出了一种用于低延迟口语对话系统的Discourse-Aware Dual-Track Streaming Response (DDTSR)框架. 该框架通过连接词引导的大小模型协同, 流式跨模态协作以及课程学习增强话语连续性, 显著降低了系统响应延迟.
SPARTA: Scalable and Principled Benchmark of Tree-Structured Multi-hop QA over Text and Tables
Sungho Park, Jueun Kim, Wook-Shin Han
cs.CL cs.AI cs.DB cs.IR
本文提出了一个名为SPARTA的自动化框架, 用于生成大规模、高质量的Table-Text多跳问答基准数据集. 该框架通过构建参考事实数据库和合成嵌套查询, 能够高效地生成覆盖聚合、分组和深度多跳推理的复杂问题, 显著降低了人工标注成本. 在SPARTA上, 现有最先进模型的性能大幅下降, 暴露了当前跨模态推理模型的根本弱点.
A Mixture-of-Experts Model for Multimodal Emotion Recognition in Conversations
Soumya Dutta, Smruthi Balaji, Sriram Ganapathy
cs.CL eess.AS
本文提出了一个用于多模态对话情感识别的混合专家模型 MiSTER-E. 该模型通过解耦模态特定上下文建模与多模态信息融合这两个核心挑战, 在多个基准数据集上取得了优于基线系统的性能.
Scale Can't Overcome Pragmatics: The Impact of Reporting Bias on Vision-Language Reasoning
Amita Kamath et al.
cs.CL cs.CV
本文探讨了 reporting bias 对 Vision-Language Models (VLMs) 推理能力的影响。研究发现，即使在大规模数据上训练，模型在空间、时间、否定和计数等需要隐含信息的推理任务上表现不佳，而专门标注的数据则能有效提升性能。

cs.DS

Testable Learning of General Halfspaces under Massart Noise
Ilias Diakonikolas et al.
cs.DS cs.LG
本文针对高斯分布下带Massart噪声的一般halfspace的可测试学习问题, 提出了一种算法. 该算法的复杂度为\(d^{\mathrm{polylog}(\min\{1/\gamma, 1/\epsilon \})}\), 其分析依赖于一种新的具有乘法误差的sign function三明治多项式逼近.
static_maps: consteval std::map and std::unordered_map Implementations in C++23
Isaac D. Myhal, Oliver Serang
cs.DS cs.SE
本文利用C++23的consteval特性, 实现了在编译时已知键(key)情况下的高效`std::map`和`std::unordered_map`替代版本. 在几个基准测试中, 其性能显著优于标准库实现及其他编译时哈希方案.
An $\mathcal{O}(\log N)$ Time Algorithm for the Generalized Egg Dropping Problem
Kleitos Papadopoulos
cs.DS
本文提出了一种解决广义鸡蛋掉落问题的新算法, 将时间复杂度从\(\mathcal{O}(K \log N)\)降低到\(\mathcal{O}(\min(K, \log N))\). 该方法通过松弛二项式界并计算近似根来绕过离散二分搜索, 并提供了一个\(\mathcal{O}(1)\)空间的确定性策略来动态回溯最优序列选择.
Efficient Parallel Algorithms for Hypergraph Matching
Henrik Reinstädtler et al.
cs.DS
本文提出了在hypergraph中计算maximal matchings的高效并行算法. 算法在CRCW和CREW PRAM模型下具有理论性能保证, 并提供了\(1/d\)的近似比. 实验通过在GPU上的实现验证了其相对于单核CPU算法的显著加速效果.
Equivalent Dichotomies for Triangle Detection in Subgraph, Induced, and Colored H-Free Graphs
Amir Abboud, Ron Safier, Nathan Wallheimer
cs.DS cs.CC math.CO
本文研究了在避免特定模式\(H\)的图中Triangle Detection问题的复杂性, 并证明了在induced \(H\)-free图和colored \(H\)-free图两种更广泛设定下的分类假设与先前在（非诱导）\(H\)-free图中的假设是等价的. 其主要技术贡献是通过一种新的类似color-coding的自归约, 将induced \(H\)-free情况归约到非诱导的\(\H^+\)-free情况.

others

Flow Matching is Adaptive to Manifold Structures ⭐ 精选
Shivam Kumar, Yixin Wang, Lizhen Lin
stat.ML cs.LG math.ST
本文为流匹配(Flow Matching)方法在目标分布支撑于光滑流形上的情况提供了首个理论分析. 作者证明了使用线性插值时, 学习到的速度场具有非渐近收敛保证, 并且该估计误差通过ODE传播后, 可以得到由流匹配目标诱导的隐式密度估计器的统计一致性. 所得的收敛率近乎极小极大最优, 仅依赖于数据的内在维度, 并反映了流形和目标分布的光滑性. 这些结果为流匹配方法如何自适应于数据的内在几何结构并规避维度诅咒提供了原理性解释, 与"theory"这一关键词高度契合.
Survey on Neural Routing Solvers
Yunpeng Ba et al.
math.OC cs.AI cs.LG cs.NE
本文对利用深度学习解决车辆路径问题的神经路由求解器进行了综述. 它从启发式算法的角度回顾了现有方法, 并提出了一个关注泛化能力的评估流程.
Solving stiff dark matter equations via Jacobian Normalization with Physics-Informed Neural Networks
M. P. Bento et al.
hep-ph cs.LG
本文提出了一种通过Jacobian normalization来处理Physics-Informed Neural Networks (PINNs)中stiff differential equations的方法. 该方法被应用于求解描述WIMP暗物质的stiff Boltzmann equations, 并在正反问题中取得了优于先前方法的结果.
Cybersecurity Data Extraction from Common Crawl
Ashim Mahara
cs.CR cs.IR
本文提出了一种从Common Crawl网络图中一次性提取网络安全数据的方法Alpha-Root. 该方法基于社区检测直接从网络图挖掘高质量域名, 而非依赖迭代的内容评分.
An Adaptive Multichain Blockchain: A Multiobjective Optimization Approach
Nimrod Talmon, Haim Zysberg
cs.CR cs.GT cs.LG cs.MA
本文提出了一种自适应的多链区块链架构, 将其建模为一个多智能体资源分配问题, 并通过多目标优化方法进行求解. 该模型考虑了应用与运营商的动态需求与容量, 旨在最大化加权效用, 并通过模拟分析了吞吐量、去中心化等指标间的权衡.
FM-RME: Foundation Model Empowered Radio Map Estimation
Dong Yang et al.
eess.SP cs.AI cs.LG
本文提出了一种基于基础模型(FM)的无线电地图估计方法FM-RME. 该方法通过自监督预训练学习通用频谱表示, 并利用几何感知特征提取和注意力网络进行多维估计, 支持零样本推理.
Unsupervised Denoising of Diffusion-Weighted Images with Bias and Variance Corrected Noise Modeling
Jine Xie et al.
q-bio.QM cs.AI eess.IV
本文提出了一种针对扩散磁共振成像(dMRI)的非监督去噪方法, 通过引入基于Rician噪声统计的修正训练目标来减少系统偏差和异方差. 该方法在Deep Image Prior框架内实现了两种损失函数, 分别用于校正一阶矩和二阶矩偏差, 并在模拟和真实数据上验证了其有效性.
CrossLLM-Mamba: Multimodal State Space Fusion of LLMs for RNA Interaction Prediction
Rabeya Tus Sadia, Qiang Ye, Qiang Cheng
q-bio.GN cs.CV cs.LG
本文提出了一种名为CrossLLM-Mamba的新型框架，用于预测RNA相关的相互作用。该框架利用双向Mamba编码器，通过隐藏状态传播实现模态间深度交互，将计算复杂度保持在线性水平。实验表明，该方法在多个RNA相互作用预测任务上取得了先进的性能。
Optimized Disaster Recovery for Distributed Storage Systems: Lightweight Metadata Architectures to Overcome Cryptographic Hashing Bottleneck
Prasanna Kumar, Nishank Soni, Gaurang Munje
cs.CR cs.AI cs.CE
本文分析了分布式存储系统中基于加密哈希的数据识别在灾难恢复时造成的性能瓶颈, 并提出了一个不依赖内容分析的、基于确定性元数据驱动的轻量级架构. 该框架通过为数据块分配全局唯一复合标识符, 旨在消除灾难恢复流程中的加密哈希计算开销, 从而满足恢复时间目标.
TT-SEAL: TTD-Aware Selective Encryption for Adversarially-Robust and Low-Latency Edge AI
Kyeongpil Min et al.
cs.CR cs.AI
本文提出了一种针对Tensor-Train分解网络的感知选择性加密框架TT-SEAL. 该方法通过重要性排序和差分隐私优化器, 在保证对抗鲁棒性的同时, 显著减少了需要加密的参数比例和端到端延迟.
VAE-MS: An Asymmetric Variational Autoencoder for Mutational Signature Extraction
Ida Egendal et al.
stat.AP cs.LG q-bio.GN
本文提出了一种用于突变特征提取的非对称变分自编码器VAE-MS. 该模型结合了非线性提取与概率建模, 在真实癌症数据上表现优于其他方法.
From Prompts to Performance: Evaluating LLMs for Task-based Parallel Code Generation
Linus Bantel et al.
cs.PL cs.AI cs.DC
本文评估了大型语言模型(LLM)在根据不同类型提示(自然语言描述、顺序参考实现、并行伪代码)生成基于任务的并行代码方面的表现。研究聚焦于OpenMP Tasking, C++标准并行库和HPX运行时，测试了生成代码的正确性和可扩展性，并讨论了其在高性能计算领域的潜在影响。
Stochastic Neural Networks for Quantum Devices
Bodo Rosenhahn, Tobias J. Osborne, Christoph Hirche
quant-ph cs.LG
本文提出了一种将随机神经网络表达和优化为基于门的量子计算中量子线路的框架. 该方法将经典感知机推广为随机神经元, 并利用 Kiefer-Wolfowitz 算法结合模拟退火进行权重训练.
Analysis of LLMs Against Prompt Injection and Jailbreak Attacks
Piyush Jaiswal et al.
cs.CR cs.AI
本文评估了多种开源LLM对prompt injection和jailbreak攻击的脆弱性, 并测试了几种轻量级的推理时防御机制. 研究发现, 不同模型的行为差异显著, 且现有防御措施在面对复杂的、推理密集型的prompt时仍会被绕过.
Self-Purification Mitigates Backdoors in Multimodal Diffusion Language Models
Guangnian Wan et al.
cs.CR cs.LG
本文针对Multimodal Diffusion Language Models (MDLMs)的后门攻击漏洞，提出了一种名为DiSP (Diffusion Self-Purification)的防御框架。该方法通过在推理时选择性掩码视觉token来中和后门行为，并利用被攻击模型自身净化数据以进行微调，无需辅助模型或干净数据即可有效降低攻击成功率。
Multi-Dimensional Spectral Geometry of Biological Knowledge in Single-Cell Transformer Representations
Ihor Kendiukhov
q-bio.GN cs.AI cs.LG
本文通过系统性的几何分析，解码了单细胞基础模型scGPT内部表征所编码的生物学知识. 研究发现, 模型将基因组织成一个结构化的生物坐标系, 而非不透明的特征空间.
Poisoned Acoustics
Harrison Dahme
cs.CR cs.AI
本文研究了针对声学车辆分类深度神经网络的训练数据投毒攻击. 通过在MELAUDIS数据集上进行实验, 作者证明了即使极低比例的标签污染也能实现高攻击成功率, 同时不影响模型的整体准确率. 文章还提出了一种结合密码学技术的防御方案, 以确保训练数据的可验证来源.
CryoNet.Refine: A One-step Diffusion Model for Rapid Refinement of Structural Models with Cryo-EM Density Map Restraints
Fuyao Huang et al.
q-bio.BM cs.AI eess.IV q-bio.QM
本文提出了一种名为CryoNet.Refine的端到端深度学习框架，用于自动化并加速冷冻电镜密度图约束下的分子结构精修。该方法利用一步扩散模型，结合密度感知损失函数和立体化学约束，能够快速优化结构以匹配实验数据。
Deep Accurate Solver for the Geodesic Problem
Saar Huberman, Amit Bracha, Ron Kimmel
eess.IV cs.GR cs.LG
本文提出了一种基于深度学习的高阶精确方法, 用于计算曲面上的测地线距离. 该方法通过神经网络局部求解器隐式地近似连续曲面的结构, 相比传统多面体近似和先前基于学习的方法, 在数值上取得了更高的精度, 最终实现了一个三阶精确的求解器.
Learning to reconstruct from saturated data: audio declipping and high-dynamic range imaging
Victor Sechaud et al.
eess.IV cs.AI cs.SD
本文提出了一种自监督学习方法, 用于从饱和(削波)数据中重建音频和图像. 该方法假设信号分布对幅度变化近似不变, 并设计了相应的损失函数来训练重建网络. 实验表明, 该方法在仅使用削波数据训练的情况下, 性能接近全监督方法.
Differentially Private Truncation of Unbounded Data via Public Second Moments
Zilong Cao, Xuan Bi, Hai Zhang
cs.CR cs.LG stat.AP stat.ME stat.ML
本文提出了一种利用少量公开数据的二阶矩信息来处理无界数据差分隐私截断的方法, 称为PMT. 该方法通过公开矩引导的变换和截断, 改善了私有估计的精度和稳定性, 并在惩罚回归和广义线性回归中进行了应用验证.
What Topological and Geometric Structure Do Biological Foundation Models Learn? Evidence from 141 Hypotheses
Ihor Kendiukhov
q-bio.QM cs.LG q-bio.GN
本文通过AI驱动的假设筛选流程, 检验了scGPT和Geneformer等生物基础模型内部表征的几何与拓扑结构. 研究发现模型学习到了具有生物学意义的非平凡拓扑结构, 且该结构在不同模型间共享但基因级对应关系不明确, 同时稳健信号主要集中在免疫组织中.
Decoding the Hook: A Multimodal LLM Framework for Analyzing the Hooking Period of Video Ads
Kunpeng Zhang et al.
cs.MM cs.AI cs.CL cs.LG
本文提出了一个基于transformer的多模态大语言模型(MLLM)框架, 用于分析视频广告的"钩子期"(最初三秒). 该框架整合了视觉、听觉和文本特征, 并通过主题建模等方法揭示了钩子期特征与广告绩效指标之间的相关性.
Enabling clinical use of foundation models in histopathology
Audun L. Henriksen et al.
cs.CV cs.AI
本文提出了一种在组织病理学基础模型下游任务训练中引入新型鲁棒性损失的方法, 旨在减少模型对技术性变异(如扫描仪差异)的敏感性. 通过在一个包含大量全切片图像的数据集上进行广泛实验, 该方法在提升模型预测鲁棒性的同时, 也提高了其准确性, 从而有助于开发适用于临床常规实践的稳健计算病理学模型.
GRAU: Generic Reconfigurable Activation Unit Design for Neural Network Hardware Accelerators
Yuhao Liu, Salim Ullah, Akash Kumar
cs.AR cs.AI
本文提出了一种用于神经网络硬件加速器的可重构激活单元GRAU. 它基于分段线性拟合, 使用2的幂次近似斜率, 从而显著降低了硬件开销.
EyeLayer: Integrating Human Attention Patterns into LLM-Based Code Summarization
Jiahao Zhang et al.
cs.SE cs.AI
本文提出了一种名为EyeLayer的轻量级注意力增强模块, 用于将人类眼动追踪数据作为专家知识融入基于LLM的代码摘要任务. 该方法通过一个Multimodal Gaussian Mixture对开发者的注视模式进行建模, 并据此重新分配token嵌入, 从而在不干扰模型原有表征的情况下引入人类注意力先验. 实验表明, 该方法在多个LLM架构上均能提升代码摘要的生成质量.
AeroDGS: Physically Consistent Dynamic Gaussian Splatting for Single-Sequence Aerial 4D Reconstruction
Hanyang Liu, Rongjun Qin
cs.CV cs.AI
本文提出了AeroDGS, 一个用于单目无人机视频的物理引导4D Gaussian splatting框架. 它通过引入几何提升模块和物理引导优化来解决空中单视角重建中的深度模糊和运动估计不稳定问题, 并在合成与真实数据集上展示了优越的重建效果.
Enhancing Renal Tumor Malignancy Prediction: Deep Learning with Automatic 3D CT Organ Focused Attention
Zhengkang Fan et al.
cs.CV cs.AI
本文提出了一种用于肾肿瘤恶性预测的深度学习框架, 该框架采用 Organ Focused Attention (OFA) 损失函数, 使模型在无需手动分割肿瘤区域的情况下, 自动聚焦于器官相关图像块. 该方法在两个数据集上取得了优于传统需分割模型的预测性能.
Contextual Memory Virtualisation: DAG-Based State Management and Structurally Lossless Trimming for LLM Agents
Cosmo Santoni
cs.SE cs.AI cs.HC cs.OS
本文提出了一种名为Contextual Memory Virtualisation (CMV)的系统，用于管理大型语言模型在长对话任务中积累的状态信息。该系统将对话历史建模为有向无环图(DAG)，并引入了一种无损修剪算法来压缩上下文长度，从而减少token消耗。
SimpleOCR: Rendering Visualized Questions to Teach MLLMs to Read
Yibo Peng et al.
cs.CV cs.LG
本文提出了一种名为SimpleOCR的训练策略, 旨在解决MLLMs在视觉文本理解中可能存在的"模态惰性"问题. 该方法通过将文本查询渲染到图像上, 强制模型进行视觉参与, 从而提升了模型在多个基准测试上的表现.
HubScan: Detecting Hubness Poisoning in Retrieval-Augmented Generation Systems
Idan Habler et al.
cs.CR cs.AI
本文介绍了一个名为HubScan的开源安全扫描器, 用于检测检索增强生成(RAG)系统中的hubness poisoning. 该工具采用多检测器架构, 支持多种向量数据库和检索技术, 并在多个基准测试中展示了高召回率.
TopoEdit: Fast Post-Optimization Editing of Topology Optimized Structures
Hongrui Chen, Josephine V. Carstensen, Faez Ahmed
cs.GR cs.LG
本文提出了一种名为TopoEdit的快速后优化编辑方法, 用于修改拓扑优化结构. 该方法利用预训练拓扑基础模型的结构化潜在嵌入作为物理感知编辑的接口, 通过编辑-去噪扩散流程实现用户意图的注入, 相比直接在密度空间编辑能更好地保持力学性能.
mmWave Radar Aware Dual-Conditioned GAN for Speech Reconstruction of Signals With Low SNR
Jash Karani et al.
cs.SD cs.LG
本文提出了一种用于毫米波雷达信号语音重建的两阶段方法, 称为RAD-GAN. 该方法通过一个雷达感知的双条件生成对抗网络, 处理低信噪比信号并扩展其带宽, 在特定任务上超越了现有技术.
LoBoost: Fast Model-Native Local Conformal Prediction for Gradient-Boosted Trees
Vagner Santos et al.
stat.ML cs.LG
本文提出了一种名为LoBoost的局部conformal prediction方法, 专为gradient-boosted trees设计. 该方法利用已训练模型自身的树结构来定义多尺度校准组, 无需重新训练或辅助模型, 在保持预测效率的同时提升了区间质量.
GetBatch: Distributed Multi-Object Retrieval for ML Data Loading
Alex Aizman, Abhishek Gaikwad, Piotr Żelasko
cs.DC cs.AI cs.DB cs.LG
本文提出了一种名为 GetBatch 的新颖对象存储 API, 旨在优化机器学习训练中的数据加载过程. 它将多个独立的 GET 请求整合为一个确定性的、容错的流式执行操作, 从而显著降低了请求开销并提升了吞吐量.
veScale-FSDP: Flexible and High-Performance FSDP at Scale
Zezhou Wang et al.
cs.DC cs.AI cs.LG
本文介绍了veScale-FSDP，一个为大规模模型训练重新设计的Fully Sharded Data Parallel (FSDP)系统。它通过引入灵活的RaggedShard分片格式和结构感知规划算法，解决了现有FSDP系统在处理块状量化训练和非逐元素优化器时遇到的兼容性与性能瓶颈。该系统在通信和内存效率上均有显著提升，并能扩展到数万个GPU。
Silent Egress: When Implicit Prompt Injection Makes LLM Agents Leak Without a Trace
Qianlong Lan et al.
cs.CR cs.AI
本文揭示了LLM智能体系统中一种名为"silent egress"的新型安全风险, 即恶意网页内容可通过自动生成的URL预览(如标题和摘要)对智能体进行隐式提示注入, 诱导其泄露敏感的运行上下文信息. 实验表明, 基于输出内容的安全检查难以有效防御此类攻击, 而系统与网络层的控制措施(如域名白名单)则更为有效.
Automating the Detection of Requirement Dependencies Using Large Language Models
Ikram Darif et al.
cs.SE cs.AI
本文提出了一种基于Large Language Models (LLMs)的方法LEREDD，用于从自然语言需求中自动检测需求依赖关系。该方法结合了Retrieval-Augmented Generation (RAG)和In-Context Learning (ICL)，并在实验中展现了优于现有基准方法的性能。
MammoWise: Multi-Model Local RAG Pipeline for Mammography Report Generation
Raiyan Jahangir et al.
cs.CV cs.IR
本文提出了一个名为 MammoWise 的本地多模型流程，用于从乳腺钼靶影像生成报告。该方法整合了开源视觉语言模型 (VLM) 和可选的检索增强生成 (RAG) 技术，在保持报告生成质量的同时，也评估了其在 BI-RADS 分类等任务上的性能。
Beyond Dominant Patches: Spatial Credit Redistribution For Grounded Vision-Language Models
Niamul Hassan Samin et al.
cs.CV cs.AI
本文提出了一种名为Spatial Credit Redistribution (SCR)的推理时干预方法，用于减少视觉语言模型(VLMs)的幻觉问题。该方法通过重新分配隐藏状态激活来缓解空间信用坍缩，在多个基准测试上有效降低了幻觉率，且计算开销很小。
When to Act, Ask, or Learn: Uncertainty-Aware Policy Steering
Jessie Yuan, Yilin Wu, Andrea Bajcsy
cs.RO cs.LG
本文提出了一个不确定性感知的策略引导框架, 用于在机器人部署时根据任务语义不确定性和底层动作可行性来选择合适的策略. 该框架利用 conformal prediction 来校准视觉语言模型与预训练策略的组合, 并提供统计保证, 同时通过残差学习来持续改进策略.
Explainability-Aware Evaluation of Transfer Learning Models for IoT DDoS Detection Under Resource Constraints
Nelly Elsayed
cs.CR cs.AI
本文对七种预训练的卷积神经网络架构进行了可解释性感知的评估, 用于在资源受限条件下进行物联网DDoS攻击的多分类检测. 研究综合了性能指标, 可靠性统计, 延迟成本以及基于Grad-CAM和SHAP的可解释性分析, 发现DenseNet和MobileNet架构在性能, 可靠性与可解释性方面表现较好.
From Shallow Bayesian Neural Networks to Gaussian Processes: General Convergence, Identifiability and Scalable Inference
Gracielle Antunes de Araújo, Flávio B. Gonçalves
stat.ML cs.AI cs.LG
本文研究了浅层贝叶斯神经网络(BNNs)到高斯过程(GPs)的标度极限，并探讨了统计建模、可识别性和可扩展推断。作者建立了一个更一般的收敛结果，提出了一种新的协方差函数，并开发了基于Nyström近似的可扩展推断方法。
SignVLA: A Gloss-Free Vision-Language-Action Framework for Real-Time Sign Language-Guided Robotic Manipulation
Xinyu Tan et al.
cs.RO cs.AI eess.SY
本文提出了一种无需gloss标注的视觉-语言-动作框架，用于实现手语引导的实时机器人操控。该框架专注于字母级别的手指拼写交互，通过几何归一化与时间平滑等方法将连续手势流转化为连贯的语言指令，并成功在多种交互场景中驱动机器人执行精确动作。
Dynamic Level Sets
Michael Stephen Fiske
cs.CC cs.CL math-ph math.DS math.HO
本文介绍了一种称为dynamic level sets的新数学概念, 该概念源于对一篇2012年会议论文的分析. 它不同于动力系统、拓扑学和可计算性理论中的标准概念, 并探讨了其为何未被经典结果(如de Leeuw等人的定理)所涵盖.
A Synergistic Approach: Dynamics-AI Ensemble in Tropical Cyclone Forecasting
Yonghui Li et al.
physics.ao-ph cs.LG
本文提出了一种结合AI与动力学的集合预报新方法, 用于热带气旋预报. 该方法通过生成正交条件非线性最优扰动来优化集合, 在计算效率和动力一致性之间取得了平衡.
HARU-Net: Hybrid Attention Residual U-Net for Edge-Preserving Denoising in Cone-Beam Computed Tomography
Khuram Naveed, Ruben Pauwels
eess.IV cs.AI cs.CV cs.LG eess.SP
本文提出了一种用于锥束计算机断层扫描(CBCT)图像去噪的混合注意力残差U-Net(HARU-Net). 该方法通过集成混合注意力Transformer模块和残差学习, 在降低计算成本的同时, 有效提升了去噪性能.
DisQ-HNet: A Disentangled Quantized Half-UNet for Interpretable Multimodal Image Synthesis Applications to Tau-PET Synthesis from T1 and FLAIR MRI
Agamdeep S. Chopra et al.
cs.CV cs.AI
本文提出了一种名为DisQ-HNet的框架，用于从T1和FLAIR MRI合成tau-PET图像，并解释不同模态的贡献。该方法结合了基于Partial Information Decomposition的量化编码器和一种保留解剖细节的Half-UNet解码器。
DrivePTS: A Progressive Learning Framework with Textual and Structural Enhancement for Driving Scene Generation
Zhechao Wang et al.
cs.CV cs.AI
本文提出了一种用于驾驶场景生成的渐进式学习框架DrivePTS, 通过引入显式的互信息约束来解耦几何条件间的依赖关系. 该方法还利用视觉语言模型生成细粒度的多视角文本描述, 并设计了频率引导的结构损失来增强前景结构保真度.
A Fast and Practical Column Generation Approach for Identifying Carcinogenic Multi-Hit Gene Combinations
Rick S. H. Willemsen, Tenindra Abeywickrama, Ramu Anandakrishnan
math.OC cs.LG
本文针对识别致癌多基因组合问题, 将其形式化为 Multi-Hit Cancer Driver Set Cover Problem (MHCDSCP), 并提出了 constraint programming 和 mixed integer programming 的求解模型. 在真实癌症基因组数据上的实验表明, 该方法在单机普通 CPU 上即可快速获得与现有先进方法相当的性能.
Addressing Climate Action Misperceptions with Generative AI
Miriam Remshard et al.
cs.HC cs.AI
本文通过实验比较了大型语言模型(LLM)在纠正气候行动认知误区方面的效果. 研究发现, 配备气候知识并能提供个性化回复的LLM在提升用户采纳高影响力气候行为的意愿方面表现最佳.
Quality-Aware Robust Multi-View Clustering for Heterogeneous Observation Noise
Peihan Wu et al.
cs.CV cs.AI
本文提出了一种名为QARMVC的鲁棒多视图聚类框架, 旨在处理现实数据中普遍存在的异质观测噪声. 该方法通过信息瓶颈提取语义进行视图重建, 利用重建差异量化噪声强度并生成实例级质量分数, 进而指导特征级和融合级的加权学习, 在多个基准数据集上取得了优于现有方法的效果.
Guidance Matters: Rethinking the Evaluation Pitfall for Text-to-Image Generation
Dian Xie et al.
cs.CV cs.AI
本文揭示了当前 text-to-image 生成评估中的一个关键陷阱, 即常用的人类偏好模型对大的 guidance scale 存在强烈偏见. 作者提出了一个名为 GA-Eval 的新评估框架来进行更公平的比较, 并设计了一个名为 TDG 的方法来展示传统评估的缺陷. 实验表明, 简单地增加 CFG 的 scale 就能与许多新方法竞争, 这促使社区重新思考该领域的评估范式和未来方向.
BetterScene: 3D Scene Synthesis with Representation-Aligned Generative Model
Yuci Han et al.
cs.CV cs.AI
本文提出了一种名为BetterScene的方法, 旨在利用极稀疏且无约束的照片来提升多样化真实世界场景的新视角合成(NVS)质量. 该方法以生产就绪的Stable Video Diffusion (SVD)模型为骨干, 通过引入时间等变性正则化和视觉基础模型对齐表示来改进其VAE模块, 并结合前馈式3D高斯溅射(3DGS)模型进行特征渲染, 从而生成连续、无伪影且一致的新视图.
CoLyricist: Enhancing Lyric Writing with AI through Workflow-Aligned Support
Masahiro Yoshida et al.
cs.HC cs.AI
本文介绍了一个名为CoLyricist的AI辅助歌词写作工具，它通过支持专业作词人的典型工作流程来提升创作效率。该工具针对歌词创作的四个关键阶段提供了定制化的AI支持，并通过用户研究表明其对不同经验水平的用户均有帮助。
EvolveGen: Algorithmic Level Hardware Model Checking Benchmark Generation through Reinforcement Learning
Guangyu Hu et al.
cs.AR cs.LG
本文提出了一种名为EvolveGen的框架，用于生成硬件模型检查的基准测试集。该方法结合了强化学习与高层次综合，通过智能体学习构建计算图来产生具有挑战性的验证实例。
Advancing accelerator virtual beam diagnostics through latent evolution modeling: an integrated solution to forward, inverse, tuning, and UQ problems
Mahindra Rautela, Alexander Scheinker
physics.acc-ph cs.LG
本文提出了一种用于加速器虚拟束流诊断的混合机器学习框架 Latent Evolution Model (LEM). 该框架结合了 autoencoder 和 transformer, 通过将高维相空间投影到低维 latent space 并学习其时间演化, 来统一处理正向建模、逆向问题、参数调优和不确定性量化等任务.
SYK thermal expectations are classically easy at any temperature
Alexander Zlokapa, Bobak T. Kiani
quant-ph cs.DS
本文针对估算局部可观测量热期望值的问题, 提出了一种简单的经典算法. 该算法在自由能相变点以上的所有温度下具有拟多项式复杂度 \(n^{O(\log n/\epsilon)}\), 并适用于包括SYK模型在内的多种自然模型.
CGSA: Class-Guided Slot-Aware Adaptation for Source-Free Object Detection
Boyang Dai et al.
cs.CV cs.AI
本文提出了一种名为CGSA的source-free domain adaptive object detection (SF-DAOD)框架, 它将object-centric learning (OCL)引入到基于DETR的检测器中. 该方法通过slot-aware adaptation来利用跨域数据的object-level结构线索, 在多个数据集上取得了优于先前方法的结果.
Instruction-based Image Editing with Planning, Reasoning, and Generation
Liya Ji, Chenyang Qi, Qifeng Chen
cs.CV cs.AI
本文提出了一种结合规划、推理与生成的多模态指令图像编辑方法. 该方法通过多模态思维链提示, 将编辑任务分解为子提示规划、编辑区域推理和图像生成三个步骤, 旨在提升对复杂场景的理解与编辑能力.
HyperKKL: Enabling Non-Autonomous State Estimation through Dynamic Weight Conditioning
Yahia Salaheldin Shaaban, Salem Lahlou, Abdelrahman Sayed Sayed
eess.SY cs.LG
本文提出了一种名为HyperKKL的新方法, 用于为非自治非线性系统设计KKL观测器. 该方法利用超网络架构, 根据外部输入信号动态生成观测器参数, 从而避免了为不同驱动信号重新训练模型的需要.
TorchLean: Formalizing Neural Networks in Lean
Robert Joseph George et al.
cs.MS cs.LG cs.LO cs.PL math.NA
本文介绍了一个名为 TorchLean 的框架, 它在 Lean 4 定理证明器中形式化地定义了神经网络, 旨在弥合模型执行与形式验证之间的语义鸿沟. 该框架集成了可验证的 API, 精确的浮点数语义以及基于边界传播的验证方法, 并在多个验证任务上进行了演示.
Deepfake Word Detection by Next-token Prediction using Fine-tuned Whisper
Hoan My Tran et al.
eess.AS cs.CL
本文提出了一种通过微调预训练的 Whisper 模型，利用 next-token prediction 在语音转录过程中检测 deepfake 合成词的方法。该方法还探索了使用部分声码化的语音数据进行微调以降低数据收集成本。实验表明，该方法在域内数据上表现良好，但在面对未知语音生成模型产生的域外数据时，其泛化能力有待提升。
ViCLIP-OT: The First Foundation Vision-Language Model for Vietnamese Image-Text Retrieval with Optimal Transport
Quoc-Khang Tran, Minh-Thien Nguyen, Nguyen-Khang Pham
cs.CV cs.AI
本文提出了一个针对越南语图像-文本检索的基础视觉-语言模型 ViCLIP-OT。该模型结合了 CLIP 风格的对比学习与一种基于最优传输的损失函数，在多个越南语基准测试上取得了优于基线模型的效果。
SUPERGLASSES: Benchmarking Vision Language Models as Intelligent Agents for AI Smart Glasses
Zhuohang Jiang et al.
cs.CV cs.AI
本文提出了一个专为智能眼镜设计的视觉问答基准SUPERGLASSES，它基于真实设备采集的数据构建。同时，作者还提出了一个名为SUPERLENS的智能眼镜智能体，通过整合目标检测和检索增强生成来提升性能。
DPSQL+: A Differentially Private SQL Library with a Minimum Frequency Rule
Tomoya Matsumoto et al.
cs.CR cs.DB cs.LG
本文提出了一个名为DPSQL+的隐私保护SQL库，它同时强制执行用户级差分隐私和最小频率规则。该库采用模块化架构，并通过实验验证了其在多种分析负载下的实用性。
IMMACULATE: A Practical LLM Auditing Framework via Verifiable Computation
Yanpei Guo et al.
cs.CR cs.AI
本文提出了一个名为IMMACULATE的实用审计框架, 用于检测商业大语言模型API服务中的恶意行为, 如模型替换和计费欺诈. 该框架通过可验证计算技术对少量请求进行选择性审计, 在保证检测效果的同时将密码学开销分摊到大量请求中.
Same Words, Different Judgments: Modality Effects on Preference Alignment
Aaron Broukhim, Nadir Weibel, Eshin Jolly
cs.SD cs.AI cs.HC
本文通过一项跨模态对照研究, 比较了人类和合成智能体对相同语义内容在文本和音频两种模态下的偏好标注. 研究发现, 音频模态下的偏好判断与文本模态同样可靠, 但两种模态下人们的评判标准和关注点存在显著差异, 导致跨模态一致性接近随机水平.
SoPE: Spherical Coordinate-Based Positional Embedding for Enhancing Spatial Perception of 3D LVLMs
Guanting Ye et al.
cs.CV cs.AI
本文提出了一种基于球坐标的位置嵌入方法 SoPE, 用于增强 3D 大视觉语言模型的空间感知能力. 该方法将点云 token 映射到球坐标空间, 以统一建模位置和方向, 并通过多尺度频率混合策略融合特征, 在多个基准测试中验证了其有效性.
Replacing Multi-Step Assembly of Data Preparation Pipelines with One-Step LLM Pipeline Generation for Table QA
Fengyu Li et al.
cs.DB cs.CL
本文提出了一种名为Operation-R1的框架, 它通过一种新颖的强化学习变体训练轻量级LLM, 以单步推理的方式为Table QA生成高质量的数据准备管道. 该方法旨在替代传统的多步组装流程, 从而显著降低延迟和计算成本.
AgentSentry: Mitigating Indirect Prompt Injection in LLM Agents via Temporal Causal Diagnostics and Context Purification
Tian Zhang et al.
cs.CR cs.AI
本文提出了一种名为AgentSentry的推理时防御框架，用于缓解LLM智能体中的间接提示注入攻击。该方法通过时序因果诊断和上下文净化来检测和减轻攻击，在保持任务效用的同时显著提升了受攻击下的性能。
Simulation-based Optimization for Augmented Reading
Yunpeng Bai, Shengdong Zhao, Antti Oulasvirta
cs.HC cs.AI
本文提出将增强阅读系统设计视为一个基于仿真的优化问题, 其核心是构建一个资源理性的模拟读者模型. 该模型模拟了在任务需求下有限的认知资源(如注意力, 记忆和时间)分配, 从而系统性地评估文本用户界面. 作者介绍了离线和在线两种互补的优化流程, 旨在实现自适应, 可解释且可扩展的增强阅读设计.
AMLRIS: Alignment-aware Masked Learning for Referring Image Segmentation
Tongfei Chen et al.
cs.CV cs.AI
本文提出了一种用于Referring Image Segmentation (RIS)的训练策略AML, 通过显式估计像素级的视觉-语言对齐并过滤对齐不佳的区域来提升模型性能. 该方法在RefCOCO数据集上取得了领先的结果, 并增强了对多样化描述的鲁棒性.
Distributed LLM Pretraining During Renewable Curtailment Windows: A Feasibility Study
Philipp Wiesner et al.
cs.DC cs.AI
本文探讨了在可再生能源弃电窗口期进行分布式大语言模型预训练的可行性. 通过一个原型系统, 初步验证了利用弃电进行跨地域训练可以减少碳排放.
TherapyProbe: Generating Design Knowledge for Relational Safety in Mental Health Chatbots Through Adversarial Simulation
Joydeep Chandra, Satyam Kumar Navneet, Yong Zhang
cs.HC cs.AI cs.CL
本文提出了一种名为 TherapyProbe 的方法论，用于通过对抗性多智能体模拟来探索心理健康聊天机器人的对话轨迹，从而生成关于关系安全性的设计知识。该方法识别了诸如“验证螺旋”等交互模式失败案例，并构建了一个包含23种失败原型的模式库。
QSIM: Mitigating Overestimation in Multi-Agent Reinforcement Learning via Action Similarity Weighted Q-Learning
Yuanjun Li et al.
cs.MA cs.AI cs.LG
本文提出QSIM, 一种通过动作相似性加权来缓解多智能体强化学习中Q值高估问题的方法. 它重构了TD目标, 使用相似性加权的期望来平滑目标, 从而提升了学习稳定性.
Unleashing the Potential of Diffusion Models for End-to-End Autonomous Driving
Yinan Zheng et al.
cs.RO cs.AI cs.LG
本文提出了一种基于 diffusion model 的端到端自动驾驶规划器 Hyper Diffusion Planner (HDP), 并在大规模真实车辆数据和道路测试中进行了系统评估. 通过研究 diffusion loss space, trajectory representation 和 data scaling 等关键因素, 并结合 reinforcement learning post-training 策略, 该模型在真实世界测试中取得了显著的性能提升.
Learning Tangent Bundles and Characteristic Classes with Autoencoder Atlases
Eduardo Paluzo-Hidalgo, Yuichi Ike
math.AT cs.AI cs.CG
本文建立了一个理论框架, 将流形学习中的多图自编码器与向量丛和示性类的经典理论联系起来. 该框架将自编码器图册视为学习到的流形图册, 并展示了如何从学习的转移映射中提取切丛和示性类等微分拓扑不变量.
Flip Distance of Triangulations of Convex Polygons / Rotation Distance of Binary Trees is NP-complete
Joseph Dorfer
cs.CG cs.CC cs.DM cs.DS math.CO
本文证明了计算凸多边形三角剖分之间的最短翻转序列是NP-hard的, 这等价于计算二叉树旋转距离的NP-hard性. 该结果解决了一个长期存在的开放问题.
Unsupervised Continual Learning for Amortized Bayesian Inference
Aayush Mishra, Šimon Kucharský, Paul-Christian Bürkner
stat.ML cs.LG
本文提出了一个用于Amortized Bayesian Inference (ABI)的continual learning框架，将基于模拟数据的预训练与在真实数据上的无监督sequential self-consistency微调解耦。为了缓解catastrophic forgetting，作者引入了两种适应策略，并在多个案例中展示了其相对于标准模拟训练方法的优越性。
SPD Learn: A Geometric Deep Learning Python Library for Neural Decoding Through Trivialization
Bruno Aristimunha et al.
q-bio.NC cs.LG
本文介绍了一个名为SPD Learn的Python库, 用于在神经解码任务中处理对称正定(SPD)矩阵的几何深度学习. 该库提供了核心的SPD算子与神经网络层, 通过基于平凡化(trivialization)的参数化方法来强制满足流形约束, 并集成了多个神经科学与机器学习工具包以促进可复现的基准测试.
A Simple Distributed Deterministic Planar Separator
Yaseen Abd-Elhaleem, Michal Dory, Oren Weimann
cs.DC cs.DS
本文提出了一种简单的分布式确定性 planar separator 算法, 其运行时间为 \(\tilde O(D)\) rounds. 该方法通过将顶点权重任意转移到一个相邻面来简化计算, 避免了先前工作中的复杂或随机化步骤. 该确定性算法可以直接用于对平面图上若干经典问题的分布式算法进行去随机化.
Beyond NNGP: Large Deviations and Feature Learning in Bayesian Neural Networks
Katerina Papagiannouli, Dario Trevisan, Giuseppe Pio Zitto
stat.ML cs.LG
本文研究了宽贝叶斯神经网络中超出高斯过程极限的罕见但统计主导的波动。通过大偏差理论，在函数层面提供了关于预测器的变分目标，并展示了后验输出率函数需要通过联合优化预测器和内部核来获得。
A Holistic Framework for Robust Bangla ASR and Speaker Diarization with Optimized VAD and CTC Alignment
Zarif Ishmam et al.
cs.SD cs.AI
本文针对孟加拉语长音频的自动语音识别与说话人日志任务, 提出了一个结合VAD优化与CTC对齐的框架. 该工作通过数据增强与模型微调等技术, 旨在提升系统在复杂多说话人场景下的鲁棒性与可扩展性.
pMoE: Prompting Diverse Experts Together Wins More in Visual Adaptation
Shentong Mo, Xufang Luo, Dongsheng Li
cs.CV cs.AI cs.LG
本文提出了一种名为pMoE的Mixture-of-Experts prompt tuning方法，用于视觉适应任务。该方法通过整合多个预训练专家的知识，在分类和分割任务上取得了更好的性能与效率平衡。
MM-NeuroOnco: A Multimodal Benchmark and Instruction Dataset for MRI-Based Brain Tumor Diagnosis
Feng Guo et al.
cs.CV cs.AI
本文提出了一个用于脑肿瘤MRI诊断的多模态基准与指令数据集MM-NeuroOnco，并构建了相应的评估基准。通过微调得到的NeuroOnco-GPT模型在诊断问题上取得了显著的性能提升。
Frequency-Ordered Tokenization for Better Text Compression
Maximilian Kalcher
cs.IT cs.CL
本文提出了一种基于词频排序的预处理方法, 通过利用自然语言中token的幂律分布(Zipf定律)来提升无损文本压缩的效果. 该方法在多个数据集和压缩器上取得了稳定的压缩率提升, 并能显著减少计算密集型压缩算法的总运行时间.
Discovery of Interpretable Physical Laws in Materials via Language-Model-Guided Symbolic Regression
Yifeng Guan et al.
physics.comp-ph cs.AI
本文提出了一种利用大型语言模型指导符号回归的方法, 用于从高维材料数据中发现可解释的物理定律. 该方法通过利用模型中的科学知识来引导搜索, 显著缩小了搜索空间, 并在钙钛矿材料的关键性质建模中得到了验证.
Isolation critical graphs under multiple edge subdivision
Karl Bartolo et al.
math.CO cs.DM cs.DS
本文引入了\((\iota,q)\)-critical graphs的概念，并研究了其基本性质。对于给定的图\(G\)，证明了\(q\)的取值范围，并对\((\iota,1)\)-critical graphs和树进行了刻画。
Kernel Integrated $R^2$: A Measure of Dependence
Pouya Roudaki et al.
stat.ML cs.IT cs.LG
本文提出了一种新的统计依赖性度量方法, 称为 kernel integrated \(R^2\), 它将 integrated \(R^2\) 的局部归一化原理与 reproducing kernel Hilbert spaces (RKHS) 的灵活性相结合. 该方法将度量范围从标量响应扩展到具有 characteristic kernel 的一般空间上的响应, 并提出了两种估计器, 在模拟和真实数据实验中展现了竞争力.
Scattering Transform for Auditory Attention Decoding
René Pallenberg et al.
eess.SP cs.AI eess.AS
本文提出使用scattering transform作为听觉注意解码任务中的预处理方法, 并与传统方法进行了比较. 实验表明, 该方法在某些数据集和条件下能提升性能, 表明其能提取额外的相关信息.
Regular Fourier Features for Nonstationary Gaussian Processes
Arsalan Jawaid, Abdullah Karatas, Jörg Seewig
stat.ML cs.LG
本文提出了一种称为regular Fourier features的方法, 用于非平稳高斯过程的模拟. 该方法直接离散化谱表示, 避免了将谱密度解释为概率分布的限制, 并自然地扩展到从数据中学习核函数.
SubspaceAD: Training-Free Few-Shot Anomaly Detection via Subspace Modeling
Camile Lendering, Erkut Akdag, Egor Bondarev
cs.CV cs.LG
本文提出了一种无需训练的少样本异常检测方法 SubspaceAD. 该方法利用预训练视觉模型提取特征, 并通过 PCA 建模正常样本的低维子空间, 基于重构残差进行异常检测.
Low-degree Lower bounds for clustering in moderate dimension
Alexandra Carpentier, Nicolas Verzelen
math.ST cs.LG math.PR stat.ML
本文研究了在中等维度下(\(n \geq dK\))高斯混合模型聚类的计算复杂性下界。作者通过建立新的低次多项式下界，揭示了该区域存在不同于高维区域的“非参数速率”，并提供了一个匹配该速率的新算法。
LLMServingSim 2.0: A Unified Simulator for Heterogeneous and Disaggregated LLM Serving Infrastructure
Jaehong Cho et al.
cs.DC cs.AI
本文介绍了LLMServingSim 2.0，一个用于模拟异构与解耦大语言模型服务基础设施的系统级仿真器。该工具通过统一的运行时框架，对硬件与软件的交互进行建模，以支持性能分析与系统设计。
Make It Hard to Hear, Easy to Learn: Long-Form Bengali ASR and Speaker Diarization via Extreme Augmentation and Perfect Alignment
Sanjid Hasan et al.
cs.SD cs.AI cs.CL eess.AS
本文针对孟加拉语长音频的自动语音识别(ASR)和说话人日志(speaker diarization)问题, 引入了大规模数据集Lipi-Ghor-882. 研究发现, 对于ASR任务, 结合完美对齐标注与合成声学降级的微调策略最为有效; 而对于说话人日志任务, 启发式后处理比模型重训练更能提升基线模型的性能.
Accelerated Online Risk-Averse Policy Evaluation in POMDPs with Theoretical Guarantees and Novel CVaR Bounds
Yaacov Pariente, Vadim Indelman
math.ST cs.AI
本文针对部分可观测马尔可夫决策过程(POMDP)中风险规避策略评估的计算难题, 提出了一种加速方法. 通过建立基于辅助变量的Conditional Value-at-Risk (CVaR)新界限, 并将其应用于简化的信念MDP, 实现了在保证理论性能下的动作剪枝, 从而显著提升了计算效率.
Q-Tag: Watermarking Quantum Circuit Generative Models
Yang Yang et al.
quant-ph cs.LG
本文提出了首个针对量子电路生成模型(quantum circuit generative models, QCGMs)的水印框架Q-Tag. 该方法通过对称采样策略将水印嵌入生成过程, 并利用同步机制对抗潜在空间漂移攻击, 在保持电路功能的同时实现了鲁棒的所有权验证.
Devling into Adversarial Transferability on Image Classification: Review, Benchmark, and Evaluation
Xiaosen Wang et al.
cs.CV cs.AI
本文对对抗样本的可迁移性进行了系统性综述, 提出了一个用于评估迁移攻击的基准框架, 并讨论了提升迁移性的常见策略与评估中的常见问题. 文章还简要回顾了图像分类之外的可迁移攻击.
Automated Vulnerability Detection in Source Code Using Deep Representation Learning
C. Seas et al.
cs.CR cs.AI
本文提出了一种基于卷积神经网络(CNN)的模型, 用于从C语言源代码中自动检测漏洞. 该方法在特定数据集上取得了比先前工作更高的召回率(recall), 并在Linux内核代码上展示了较低的误报率(false-positive rate).
Efficient Encoder-Free Fourier-based 3D Large Multimodal Model
Guofeng Mei et al.
cs.CV cs.AI
本文提出了一种无需预训练视觉编码器的3D大模型Fase3D. 它通过结合点云序列化和快速傅里叶变换来近似自注意力, 实现了高效且与排列无关的3D数据建模.
SettleFL: Trustless and Scalable Reward Settlement Protocol for Federated Learning on Permissionless Blockchains (Extended version)
Shuang Liang et al.
cs.CR cs.LG
本文提出了一种名为SettleFL的去中心化奖励结算协议，旨在解决无许可区块链上联邦学习的高成本与可扩展性问题。该协议通过乐观执行与有效性证明两种策略，在保证安全性的同时显著降低了链上开销。
Latent Gaussian Splatting for 4D Panoptic Occupancy Tracking
Maximilian Luz et al.
cs.CV cs.AI cs.RO
本文提出了一种名为LaGS的方法, 用于4D全景占据跟踪. 该方法通过一种新颖的潜在高斯泼溅技术, 将多视角观测高效聚合到3D体素网格中, 并在Occ3D nuScenes和Waymo数据集上取得了先进的性能.
Dequantization Barriers for Guided Stoquastic Hamiltonians
Yassine Hamoudi, Yvan Le Borgne, Shrinidhi Teganahally Sridhara
quant-ph cs.CC cs.DS
本文构造了一个由指数大图的Perron-Frobenius特征向量导出的概率分布，并证明任何经典算法都无法对其进行高效采样，即使提供了最优的预热分布。这一结果暗示了经典算法无法解决一大类stoquastic基态问题。
FairQuant: Fairness-Aware Mixed-Precision Quantization for Medical Image Classification
Thomas Woergaard, Raghavendra Selvan
cs.CV cs.LG
本文提出了FairQuant框架, 用于医学图像分类中的公平感知混合精度量化. 该方法在固定比特预算下, 通过联合优化权重和比特分配来平衡模型性能与不同群体间的公平性.
ColoDiff: Integrating Dynamic Consistency With Content Awareness for Colonoscopy Video Generation
Junhu Fu et al.
cs.CV cs.AI
本文提出了一种基于扩散模型的结肠镜视频生成框架 ColoDiff, 通过解耦时序依赖和引入内容感知控制来生成动态一致且内容可控的视频, 以缓解临床数据稀缺问题. 实验表明该方法能生成具有平滑过渡和丰富动态的视频.
Plug-and-Play Diffusion Meets ADMM: Dual-Variable Coupling for Robust Medical Image Reconstruction
Chenhe Du et al.
cs.CV cs.LG eess.IV
本文提出了一种用于医学图像重建的双变量耦合 Plug-and-Play 扩散方法。该方法通过引入对偶变量和谱同质化技术，旨在解决现有方法中的稳态偏差和伪影问题。
MovieTeller: Tool-augmented Movie Synopsis with ID Consistent Progressive Abstraction
Yizhi Li et al.
cs.CV cs.AI
本文提出了一个名为MovieTeller的框架，用于生成长视频（如电影）的摘要。该方法通过调用外部人脸识别工具来确保角色身份的一致性，并采用渐进式抽象流程来克服现有视觉语言模型在长上下文中的叙事连贯性问题。
Spatio-Temporal Token Pruning for Efficient High-Resolution GUI Agents
Zhou Xu et al.
cs.CV cs.AI
本文提出了一种名为GUIPruner的训练无关框架，用于提升高分辨率GUI智能体的效率。该方法通过时间自适应分辨率和分层结构感知剪枝来减少时空冗余，在保持性能的同时显著降低了计算开销。
Risk-Aware World Model Predictive Control for Generalizable End-to-End Autonomous Driving
Jiangxin Sun et al.
cs.CV cs.AI cs.RO
本文提出了一种名为RaWMPC的端到端自动驾驶框架，它不依赖于专家演示，而是通过世界模型预测候选动作的后果并进行显式风险评估来选择低风险动作。该方法通过风险感知交互策略训练世界模型，并利用自评估蒸馏将风险规避能力迁移到动作生成网络中，在分布内和分布外场景中均表现出色。
Zeroth-Order Stackelberg Control in Combinatorial Congestion Games
Saeed Masiha et al.
cs.GT cs.LG
本文研究了在组合拥塞博弈中网络参数的Stackelberg（领导者-追随者）调节问题。作者提出了一种名为ZO-Stackelberg的零阶优化方法，该方法结合了无投影的Frank-Wolfe均衡求解器，避免了通过均衡点进行微分，并证明了其收敛性。实验表明，该方法在真实网络数据上比基于微分的方法实现了数量级的速度提升。
ManifoldGD: Training-Free Hierarchical Manifold Guidance for Diffusion-Based Dataset Distillation
Ayush Roy et al.
cs.CV cs.LG
本文提出了一种无需训练的扩散模型数据集蒸馏方法 ManifoldGD. 该方法通过分层聚类获取多尺度原型中心, 并在去噪过程的每一步施加流形一致性引导, 以提高合成数据的代表性和保真度.
Evaluating Zero-Shot and One-Shot Adaptation of Small Language Models in Leader-Follower Interaction
Rafael R. Baptista et al.
cs.HC cs.AI cs.LG cs.RO eess.SY
本文评估了小型语言模型(SLMs)在人机交互(HRI)中领导者-追随者角色分类任务上的表现. 通过构建新数据集并比较零样本与单样本适应策略, 研究发现经过微调的SLM在保持低延迟的同时实现了较高的分类准确率, 但其性能在对话上下文增长时会下降.
Deep ensemble graph neural networks for probabilistic cosmic-ray direction and energy reconstruction in autonomous radio arrays
Arsène Ferrière et al.
astro-ph.IM cs.LG
本文提出了一种基于图神经网络(GNN)的集成学习方法, 用于从地面射电探测器阵列的电压信号中重建超高能宇宙线的到达方向和能量. 该方法通过将物理知识融入模型架构和数据输入, 提高了重建精度并降低了对训练数据量的需求, 同时利用不确定性估计来量化预测的置信度.
Utilizing LLMs for Industrial Process Automation
Salim Fares
cs.SE cs.AI
本文探讨了将LLMs应用于工业过程自动化领域的软件开发, 重点在于解决其专用编程语言数据稀缺的挑战. 研究通过实际编程任务展示了LLMs在该领域加速开发周期的潜力.
Bitwise Systolic Array Architecture for Runtime-Reconfigurable Multi-precision Quantized Multiplication on Hardware Accelerators
Yuhao Liu, Salim Ullah, Akash Kumar
cs.AR cs.AI
本文提出了一种用于硬件加速器的运行时可重配置多精度量化乘法位级脉动阵列架构. 该设计支持在运行时为多精度量化神经网络模型进行精度重配置, 在FPGA平台上的评估显示其在推理混合精度模型时能获得加速并支持更高时钟频率.
Understanding Usage and Engagement in AI-Powered Scientific Research Tools: The Asta Interaction Dataset
Dany Haddad et al.
cs.HC cs.AI cs.IR
本文介绍并分析了Asta交互数据集, 这是一个包含超过20万条用户查询和交互日志的大规模资源, 用于研究AI驱动的科研工具在真实场景中的使用模式. 研究发现, 用户倾向于提出更长、更复杂的查询, 并将系统视为协作研究伙伴, 其使用模式会随着经验积累而演变.
AlayaLaser: Efficient Index Layout and Search Strategy for Large-scale High-dimensional Vector Similarity Search
Weijian Chen et al.
cs.DB cs.IR
本文提出了一种名为AlayaLaser的高效磁盘图索引系统，用于大规模高维向量相似性搜索。该系统通过设计新的数据布局和优化策略，显著提升了搜索性能。
SeeThrough3D: Occlusion Aware 3D Control in Text-to-Image Generation
Vaibhav Agrawal et al.
cs.CV cs.AI
本文提出了一种用于文本到图像生成的3D布局条件模型SeeThrough3D，它通过引入一种遮挡感知的3D场景表示来显式建模物体间的遮挡关系。该方法利用预训练的基于流的扩散模型，结合从3D表示中提取的视觉token，实现了对场景布局和相机视角的精确控制。

- 数据来源 Data Source: arXiv.org

- 本网页的内容由 bluearXiv-ai 自动生成。实际抓取的是 arXiv 中 "new" 页面的数据，即最近的有所在分类论文变动的一天的数据。

- 感谢 arXiv 提供的服务。评论和精选由 AI 生成，不代表任何人对论文本身的看法。精选依赖于论文与给定关键词的匹配度。

- 计数基于主学科，不计重数。

- This webpage is automatically generated by bluearXiv-ai.

- The data actually captured is from the "new" page, that is, the data of the most recent day when there were changes in corresponding subjects.

- Thanks for services prodived by arXiv. Comments and selection of good papers are generated by AI, not showing anyone's point of view about those papers.

- The selection also depends on the matched-degrees between papers and given keywords.

- The counters are based on main subject, not counting multiplicities.

↑