水木社区手机版
- 主题:至今不知道chatGPT的智能实现方式
- 它的学习和理解能力是怎么实现的?
--
FROM 117.133.51.* - 涌现效应
--
FROM 111.199.249.* - 【 在 wodehao0708 的大作中提到: 】
: 它的学习和理解能力是怎么实现的?
学习和理解， 是人的主观感受， AI只是数学的机器， 只有机器学习没有人的理解。
说白了， 这个世界有两种关系， 一种是关联关系， 一种是因果关系。
当关联关系， 做到极致的时候， 就分不清这二者了。
因果关系， 需要从底层的逻辑结果， 去演绎推理， 弄清关系的主从，起始。
关联规则， 则不然， 可以通过事物的表象产生的大数据，然后，从数据生成的结构和特征，
从数据的分布来揭示，事物和事物的关联关系， 仅仅通过这个关联关系去指导下一步行为，
尽管， 都是浅层的， 但是由于海量数据，可以产生很精细， 结构精巧的结论。
比如， 渣男和暖男。
早期的人工智能， 很容易， 通过分类， 聚类， 来获得， 两种不同类型的人的行为模式，
然后， 通过AI的浅层学习， 来把各种各样不同的行为， 在两个类型上进行关联。
但， 人的行为是如此复杂， 这种，小伎俩， 很快就被人类发现模式和套路， 然后，
出现了第三个概念， 套路男。
那么， 靠二元， 二分法的简单AI技术就再也行不通了，
因此， 更强大的模型， 开始向更高级的维度推进， 随着维度的提升， 算力需求也是指数级别。
大语言模型， 不仅在空间属性维度， 得到了很大的提升， 一个更大的突破来源于时间上的提升，
通过， 在时间维度的大举训练， 就能够发现在万花丛中周旋的海王， 而这里面发现的规律，
已经不再是简单的非黑即白的线性分类能解决的， 通常人类要解决这种问题， 也是需要复杂的演绎推理，
找出其中的因果律来得出正确结论。
说白了， 人是不得不需要很强的演绎推理， 去完成的因果规律的一个很复杂的问题，
如果，AI也一样出色完成了， 那么人类就给予了AI相应的人类的智能等级， 尽管，AI处理的还是复杂维度的关联关系。
当然， AI未来有没有因果推理的能力， 目前，还在发展中，也许AI逐渐强大， 和人类互动投喂模式，
也许能发展出因果框架。
--
FROM 124.126.0.* - 这语文水平堪忧啊？是文心一言写的？
【 在 poggy 的大作中提到: 】
: 【 在 wodehao0708 的大作中提到: 】
: : 它的学习和理解能力是怎么实现的?
:
: ...................
--来自微微水木3.5.14
--
FROM 123.118.14.* - 我表达的不清楚吗?我语文水平确实很差
【 在 fotobang 的大作中提到: 】
: 这语文水平堪忧啊？是文心一言写的？
--
FROM 117.133.51.* - 你说的很好了
【 在 wodehao0708 的大作中提到: 】
: 我表达的不清楚吗?我语文水平确实很差
:
--
FROM 114.254.17.* - 多参数概率统计拟合
【 在 wodehao0708 的大作中提到: 】
: 它的学习和理解能力是怎么实现的?
--
FROM 218.108.210.* - ChatGPT的智能实现方式基于一种称为“大规模语言模型”的人工智能技术，具体来说是基于OpenAI的GPT（Generative Pre-trained Transformer）架构。以下是关于其学习和理解能力的实现方式的详细解释：
1. 架构基础
Transformer 架构：GPT使用了一种叫Transformer的神经网络架构。这种架构特别擅长处理自然语言任务，因为它能够有效地处理长距离依赖关系和捕捉语言中的上下文信息。
自注意力机制：Transformer的核心组件之一是自注意力机制，它允许模型在处理每个单词时关注句子中的其他所有单词。这使得模型能够理解和生成连贯的文本。
2. 预训练阶段
大规模文本数据：模型在一个巨大的文本语料库上进行预训练，这些文本来自互联网上的各种来源。通过阅读和分析这些文本，模型学习到语言的结构、语法、以及大量的常识知识。
无监督学习：在预训练阶段，模型通过预测句子中的下一个单词来学习。这个过程称为自监督学习，因为它不需要人工标注的数据。
3. 微调阶段
任务特定的数据：在预训练之后，模型会在特定任务的数据集上进行微调，例如对话生成、文本分类等。这一步骤使得模型能够适应特定任务的需求。
有监督学习：微调通常使用有监督学习方法，即通过带标签的数据来指导模型学习特定任务的知识。
4. 生成文本
基于上下文的生成：在生成文本时，模型基于用户输入的上下文信息，通过一系列计算和概率选择来生成下一部分文本。这个过程依赖于预训练和微调过程中学到的知识。
连续生成：模型生成文本时是逐词进行的，每一步都考虑到前面的上下文，从而保证生成的文本连贯且有意义。
5. 学习和理解能力
大规模数据驱动：模型的理解能力来自于对海量数据的学习，这使得它能够在很多情况下做出合理的推断和回答。
语言模式捕捉：通过大量的训练数据，模型学会了捕捉语言的模式，包括词语之间的关系、句子结构、语义等。
上下文理解：Transformer架构的自注意力机制使得模型能够理解上下文信息，从而生成相关且连贯的回复。
总结
ChatGPT的智能实现方式依赖于Transformer架构、预训练和微调过程，以及大量的文本数据。通过这些技术手段，模型能够在很多自然语言处理任务中表现出色，包括对话生成、文本理解和生成等。
【 在 wodehao0708 的大作中提到: 】
: 它的学习和理解能力是怎么实现的?
--
FROM 183.156.79.*