听雨 发表于 2023-2-8 02:42:15

关于ChatGPT,究竟什么是ChatGPT,它有那么神吗?

ChatGPT(Chat Generative Pre-trained Transformer)是OpenAI于 2022 年 11 月推出的聊天机器人。它建立在 OpenAI 的GPT-3大型语言模型家族之上,并经过微调(一种迁移学习的方法)具有监督和强化学习技术。



ChatGPT 于 2022 年 11 月 30 日作为原型推出,并因其详细的响应和跨多个知识领域的清晰答案而迅速受到关注。其参差不齐的事实准确性被认为是一个重大缺陷。 ChatGPT 发布后,OpenAI 估值为290 亿美元。

训练
ChatGPT 使用监督学习和强化学习在 GPT-3.5 之上进行了微调。这两种方法都使用人类训练员来提高模型的性能。在监督学习的情况下,模型提供了对话,在对话中,培训师扮演了双方的角色:用户和AI助手。在强化步骤中,人类训练员首先对模型在先前对话中创建的响应进行排序。这些排名用于创建“奖励模型”,该模型使用近端策略优化(PPO)的多次迭代进一步微调。近端策略优化算法为信任域策略优化算法带来了成本效益;它们以更快的性能否定了许多计算量大的操作。这些模型是与Microsoft在其Azure超级计算基础设施上合作训练的。

此外,Open AI 继续从 ChatGPT 用户那里收集数据,这些数据可用于进一步训练和微调 ChatGPT。允许用户对他们从 ChatGPT 收到的回复投赞成票或反对票;在投赞成票或反对票时,他们还可以填写一个带有额外反馈的文本字段。

ChatGPT(Chat Generative Pre-trained Transformer)是OpenAI于 2022 年 11 月推出的聊天机器人。它建立在 OpenAI 的GPT-3大型语言模型家族之上,并经过微调(一种迁移学习的方法)具有监督和强化学习技术。

ChatGPT 于 2022 年 11 月 30 日作为原型推出,并因其详细的响应和跨多个知识领域的清晰答案而迅速受到关注。其参差不齐的事实准确性被认为是一个重大缺陷。 ChatGPT 发布后,OpenAI 估值为290 亿美元。

特点和限制

虽然聊天机器人的核心功能是模仿人类对话者,但 ChatGPT 用途广泛。例如,它可以编写和调试计算机程序,创作音乐、电视剧、童话故事和学生论文;回答测试问题(有时,根据测试,水平高于普通人类测试者);写诗作词;模拟Linux系统;模拟整个聊天室;玩井字游戏;并模拟 ATM。ChatGPT 的培训数据包括手册页和有关互联网现象和编程语言的信息,例如公告板系统和Python 编程语言。

与其前身 InstructGPT 相比,ChatGPT 试图减少有害和欺骗性的响应。

与大多数聊天机器人不同,ChatGPT 会记住之前在同一对话中给它的提示;记者建议,这将使 ChatGPT 可以用作个性化治疗师。为防止向 ChatGPT 提交和生成冒犯性输出,查询通过 OpenAI 的全公司审核 API 进行过滤,并驳回潜在的种族主义或性别歧视提示。

ChatGPT 受到多重限制。OpenAI 承认 ChatGPT“有时会写出看似合理但不正确或荒谬的答案”。这种行为在大型语言模型中很常见,被称为人工智能幻觉。ChatGPT 的奖励模型围绕人类监督设计,可能会过度优化,从而影响性能,也称为古德哈特定律。ChatGPT 对 2021 年之后发生的事件知之甚少。





lzdl 发表于 2023-2-8 19:59:39

这东西确实很强,玩了一段时间学到很多。

pingdi 发表于 2023-2-10 13:57:14

现在很多人上时不时会断开

zhjxh 发表于 2023-2-10 18:22:44

是不是要科学使用啊,没有科学方法是个问题啊

lmmandy 发表于 2023-2-11 21:46:47

国内现在通过什么渠道登录?

cmh 发表于 2023-4-25 12:01:39

最好能增加AI绘画的话题,而不仅限于ChatGPT

hwjake 发表于 2023-5-6 12:02:52

很实用,感谢分享,也感谢原作者

yjtdhd 发表于 2023-8-20 17:28:17

:)666666666666666666666666666666666666

AI玩家网 发表于 2023-9-20 22:36:32

感谢作者的介绍!推荐一个免费能学习的AI网站,AI玩家网xiaohongma.cc免费【3.5】【4.0】【MJ】
页: [1]
查看完整版本: 关于ChatGPT,究竟什么是ChatGPT,它有那么神吗?