水木社区手机版
- 主题:ChatGPT的死机案例
--
FROM 98.42.159.*- 又试了一遍，这次没死机。但居然知道“偷师”。
然后就是自己发挥，自信地认为王弼版排在第一应该就是最早的。
但是知道知错能改。
【 在 LouisaSquare 的大作中提到: 】
:
[upload=1][/upload]
--
修改:LouisaSquare FROM 98.42.159.*
FROM 98.42.159.* - 他自动支持中文。你直接输入中文就可以了。
只不过回答质量比英语有所不如。
【 在 Jokeson 的大作中提到: 】
: 中文版本哪里下？
--
FROM 104.132.0.* - 有一大类问题叫做Compositional Task，说得都是语言模型的局限。比如以下论文：
On the Paradox of Learning to Reason from data, 2022 (https://arxiv.org/pdf/2108.04378.pdf)
Making Transformers Solve Compositional Tasks, 2022 (https://arxiv.org/pdf/2205.11502.pdf)
一个最简单的例子就是做加法。如果你的训练数据集只有N位数以下的，而你用N位数以上的加法做测试，它基本就很难答对。
我试了一下，ChatGPT也有这问题：
-能答对的：12345+345678=?
-不能答对的：123453623645764+4546456575467687689=?
【 在 xiucaijiang 的大作中提到: 】
: 我正巧了解这块，人工智能虽说很强，但几乎都可以用数据拟合来综述，他并没有严格的逻辑推断，至少目前看不太像人类儿童的学习方式，更像是人云亦云的傻小子。
: 不知道你加入的信息，他是永久记住了（即加入后续的模型中），还是只是针对你的回答，进行了模型结果的微调。如果是前者，学习能力更强。
: 不过，相比语言模型的搜索排序，我们可能更重要的是他是否有人类的推断能力，例如：
: ...................
--
修改:LouisaSquare FROM 174.160.179.*
FROM 174.160.179.* - 这个就是“专家系统”和“神经网络”之争了。
现在很多做AGI人的希望，就是脱离“专家系统”，只用“神经网络”，就可以学习出各种复杂的业务逻辑。
但是，作为一个商业产品，应该是秉承“不论黑猫白猫，只要抓得住老鼠就是好猫”的原则，兼容并蓄。相信ChatGPT很快就会用各种办法弥补这些短板。
【 在 z8j 的大作中提到: 】
: 这种简单的加法还需要用数据集去做训练？我还以为是独立的算法
--
FROM 104.132.0.* - 这个其实不容易。人类是如何被训练完成没有逻辑漏洞的推理，是很难说清楚的。
最近我女儿学习乘法，我就很感慨。
告诉她乘以10就是后面加一个0，乘以100就是后面加两个0。训练的例子是：
2*10=20
23*10=230
71*100=7100
然后考试的时候，她对于0.2*10的回答是0.2*10=0.20。
【 在 z8j 的大作中提到: 】
: 我擦，他自己每次算结果还能不一样？
: [upload=1][/upload]
--
FROM 104.132.0.*