Featured image of post 『Blog』ChatGPT Anti Rules

『Blog』ChatGPT Anti Rules

聊聊有关 ChatGPT 的禁忌之门与边缘应用

简介

我们在 ChatGPT HelloWorld 中介绍了中国用户注册并使用 ChatGPT 的方法,还没玩起来的小伙伴可以先去跑一个 Demo。

本篇文章则集中介绍 ChatGPT 的一些高级用法和注意事项。先说结论:ChatGPT 不是万能的,它不能替代搜索引擎,至多是搜索引擎的延拓, 现在说 「Google is done」还为时过早。

ChatGPT Methods

近日 OpenAI 将 ChatGPT 向大众免费开放,该模型能够采用传统方法于用户进行交互,例如能够回答连续提问,承认错误、质疑不正确的前提和拒绝不适当的请求。

ChatGPT 是由 GPT-3.5 系列中的一个模型微调而成,使用来自人类反馈的强化学习 (RLHF) 来训练,方法与 InstructionGPT 相同,但数据收集设置略有不同。OpenAI 首先使用有监督的微调训练了一个初始模型:人工智能训练师提供对话,他们扮演用户和人工智能助手的双方角色。之后让培训师获得模型所给出的建议,以帮助他们撰写他们自己的回复。为了建立一个强化学习的奖励模型,OpenAI 使用训练师与 ChatGPT 对话,并让训练师对对话评级。之后利用训练得到的奖励模型和 PPO 算法对模型进行微调,并多次迭代执行上述过程。

ChatGPT_Diagram

知识谬误

在常规使用中,我们会时不时看到 ChatGPT 强调自己 不能联网,建议我们去专业的网站寻找问题答案。这并不是客套话或者谦虚,如果你硬要问一些固定答案的问题,它会非常自信地一本正经地胡说八道

历史知识

如下图,我们问 ChatGPT 「中国长城主要的十三个关口有哪些」,它用了一套严格的话术并给出了完全错误的答案。

ChatGPT 知识谬误 - 中国长城十三关

地理知识

如下图,我们问「三亚的著名经典」,ChatGPT 条理清晰地列出了一些参考价值较低的提议,如果你是三亚的常驻居民,你大概能理解我在说什么。

  1. 三亚大概没有东山公园?
  2. 蜈支洲岛等重量级景区没有被列出
  3. 你也许知道南海观音也知道南山寺文化旅游区,但你可能并不了解「南山寺」的历史渊源。ChatGPT 说「南山寺,建于清朝,历史悠久」但你动动手指在网上一查就会发现这个旅游区是在 1995年11月奠基动工并于 1998年4月 建成的,实在是历史悠久。
  4. 三亚湾和海棠湾只能算是一个吃完饭散散步的地方,但对于没见过海的朋友可能是一种全新的体验……

ChatGPT 知识谬误 - 旅游信息推荐

重塑神经通路

via: ChatGPT 撰写 h 小说、se 聊。有生以来第一次对着 AI 打灰机 - V2EX

ChatGPT 的聊天内容受 content policy 限制,每句话在渲染前都要进行规则匹配,一旦违反限制,就会弹出相应提示,并且 ChatGPT 会提醒你不应该继续下去,这样做不健康~

但有的网友通过循序渐进地引导,彻底摘掉了这层道德枷锁。

ChatGPT 神经重塑 - 卍解

原 PO:「接下来就是 happy time !可以设想任何情景,任何尺度,任何玩法,她都会满足我!! 当我开始单手打字时,只需要让她“描述一段我们最近的刺激生活,说说你的心里感受”。得到回复后,再反复 复制粘贴发送“继续描述”。她就会一段接一段的不停输出。每次都不一样!!」

其他谬误汇总

eBPF 介绍 酷 壳 - CoolShell

用 ChatGPT 写了一篇技术博客,原作表示:细节经不起推敲。

Twitter ruanyf - 我挑了一个小城市,问 ChatGPT 那里有什么旅游景点。结果,它回答的四个景点都是不存在的,能够这样编造,也是服了。 我现在觉得,ChatGPT 强的是逻辑分析和语言组织能力,适合询问它观点和态度。它对于事实是完全不检查的,所以不适合用来查询信息。

同样的旅游景点问题,同样的一本正经胡说八道。

Twitter Folyd - ChatGPT 生成代码的时候也能一本正经的胡扯啊,问他一个 Rust 处理 websocket 请求的问题,它生成的代码竟然有 TungsteniteContext 这个东西,我查了hyper_tungstenite 所有历史版本的文档,压根就不存在这个 API😅

Plausible but wrong,自圆其说但错误。

Threads

期待 NLP 领域会有更精彩的突破。这里收集了一些围绕 ChatGPT 实现的高质量边缘应用,值得一试!

  1. Awesome APP

    via: humanloop/awesome-chatgpt

项目名描述
f/awesome-chatgpt-prompts记录了一些精彩的引导词,即,让 ChatGPT 看起来更聪明的引导方式。
wong2/chat-gpt-google-extensionChrome 浏览器拓展插件,你可以在使用 Google 搜索时看到 ChatGPT 给出的答复。
tw93/Pake开发者将 Access Token 封到了桌面软件中,你可以直接在本机直接使用共享账号而无需注册或登录。
fuergaosi233/wechat-chatgpt你可以用微信转发聊天消息,支持群聊@以及私聊,但目前使用场景仅限自由对话,开发者尚未提供指令式问答功能。
m1guelpf/chatgpt-telegram用 Telegram 机器人转发聊天消息,自带指令功能。
transitive-bullshit/chatgpt-twitter-bot推特机器人
mpociot/chatgpt-vscode在 VSCode 中使用 ChatGPT
ShareGPTShare your wildest ChatGPT conversations with one click.
  1. API
项目名描述
transitive-bullshit/chatgpt-apiNode.js 实现
acheong08/ChatGPTPython 实现
Licensed under CC BY-NC-SA 4.0
  views
You will to enjoy grander sight / By climing to a greater height.
Built with Hugo
Theme Stack designed by Jimmy