新闻
CogniConsole：将推理时间控制外化为可靠的 LLM 交互的形式抽象
1 分钟阅读
来源：arXiv AI
arXiv:2607.08774v1 公告类型：新 摘要：大型语言模型 (LLM) 系统中的可靠性通常被视为模型功能的函数。我们通过证明可靠性受到 \emph{推理时间控制}（管理任务框架和上下文选择的计算层）的显着影响来挑战这一点。我们引入了 \emph{CogniConsole}，这是一种架构实例，它将这种控制外化为一个结构化界面，将编程协调与基于有限提示的推理相结合。通过在多步交互环境中的\emph{可控性导向探针}（$N=489$），我们证明了从非结构到增加结构脚手架