水木社区手机版
- 主题:ChatGPT的死机案例
- 我擦，他自己每次算结果还能不一样？
【 在 LouisaSquare 的大作中提到: 】
: 有一大类问题叫做Compositional Task，说得都是语言模型的局限。比如以下论文：
: On the Paradox of Learning to Reason from data, 2022 (https://arxiv.org/pdf/2108.04378.pdf)
: Making Transformers Solve Compositional Tasks, 2022 (https://arxiv.org/pdf/2205.11502.pdf)
: ...................
--
FROM 114.249.130.* - 这种简单的加法还需要用数据集去做训练？我还以为是独立的算法
【 在 LouisaSquare 的大作中提到: 】
: 有一大类问题叫做Compositional Task，说得都是语言模型的局限。比如以下论文：
: On the Paradox of Learning to Reason from data, 2022 (https://arxiv.org/pdf/2108.04378.pdf)
: Making Transformers Solve Compositional Tasks, 2022 (https://arxiv.org/pdf/2205.11502.pdf)
: ...................
--
FROM 114.249.130.* - 那还是你教的不严谨，训练的数据集不够
所以，神经网络的一个最大的限制就是数据集，没什么神秘的，就是教小孩子输入是这样，输出就是那样，碰到不是一个位面的输入就抓瞎了
【 在 LouisaSquare 的大作中提到: 】
: 这个其实不容易。人类是如何被训练完成没有逻辑漏洞的推理，是很难说清楚的。
: 最近我女儿学习乘法，我就很感慨。
: 告诉她乘以10就是后面加一个0，乘以100就是后面加两个0。训练的例子是：
: ...................
--
FROM 114.249.130.* - 兼容也不好做，第一步决策：是使用“专家系统”还是使用“神经网络”，就很难
【 在 LouisaSquare 的大作中提到: 】
: 这个就是“专家系统”和“神经网络”之争了。
: 现在很多做AGI人的希望，就是脱离“专家系统”，只用“神经网络”，就可以学习出各种复杂的业务逻辑。
: 但是，作为一个商业产品，应该是秉承“不论黑猫白猫，只要抓得住老鼠就是好猫”的原则，兼容并蓄。相信ChatGPT很快就会用各种办法弥补这些短板。
: ...................
--
FROM 114.249.130.*