不是
答案在回答前不知道有多少个字
模型从第一个字开始生成，先推出第n个字后才能推出第n+1个字
当第x个字后的下一个字最大概率是null时，就停下了

【 在 ooolinux 的大作中提到: 】
: 标  题: Re: AI的回答为什么是一个字一个字出来的？
: 发信站: 水木社区 (Thu Feb 20 22:06:06 2025), 站内
:
: 比如答案有300字，推理出前30个字到后30个字需要那么久，那内容逻辑怎么连贯一体？
: 会不会类似多线程的效果，服务器时间分片，用来同时服务上万个用户，每个用户一次一个字，一万个用户轮流一遍再下一个字？
:
: --
: ※ 修改:·ooolinux 于 Feb 20 22:14:01 2025 修改本文·[FROM: 218.108.214.*]
: ※ 来源:·水木社区 http://www.mysmth.net·[FROM: 218.108.214.*]
--
修改:ooolinux FROM 218.108.214.*
FROM 123.119.74.*

现在主流的大模型，都是生成式的，技术方案都是逐字推理，前几年ibm还是谁弄了一个多字推理的，后面就被gpt给弄得没啥动静了，
【 在 ooolinux 的大作中提到: 】
: 而不是一整篇出来  
: --  
:

发自「今日水木 on SM-S9260」
--
FROM 39.144.230.*