ChatGPT是个小骗子

（下面的内容涉及数学公式。这里不能完全显示出来。要继续请用链接 ）

这几天大家都在聊ChatGPT很厉害很能干。最热火的大概是它蒙混考试的本事。我也去试用了几次。现在就给大家提个醒，这小家伙(是的，年纪不大）是很厉害，知道的很多，反应也很快。但是它也是一个小骗子。你千万不要被它表现出来的自信给骗了。

ChatGPT的说明已经说过，它对所有的问题都会努力地回答。结果就是，这小家伙对自己不知道问题，不会马上老老实实的说自己不知道。这种情况下，它的努力就成了认认真真的胡诌。在你指出它的错误之前，它总是信心满满。你指出它的错误以后，它会很麻利的给你说一声对不起就算揭过了。这是典型的美国学生的性格，不懂不怕装懂，发现错了完全没有任何包袱地开始新的尝试。

下面是我在ChatGPT上和这小家伙的几个对话。和我当初教书的时候和学生的对话很相似。我用“它”表示ChatGPT的回答。这几个例子足够说明，如果用ChatGPT 来做理工科的考试或者研究，或者其它比较特殊的领域，现在的它基本可以保证把你带到沟里

（一）写格律诗词

最容易测试的，是让它写一首中文的格律诗词。如果你先问它会不会，它肯定自信满满的告诉你会。我这里按一个无事不写诗的的数学家朋友的方式来给大家演示一遍。

我：你会写中文格律诗词吗？

它：是的，我会写中文格律诗词。

我：那请写一首清平乐

它：清平乐

寂寞山僻无人过，闲云野鹤互游。 沙鸥空中巢，鹤驾雕树阴。 池鱼闲游鳞，塘鹤倦渡涟。 更深烟霞绿，仍敛萤光阵。

我：你这不是清平乐。清平乐是个词牌名，有一定的平仄规矩。看来你不懂这个啊

它：对不起，您说得对。我是一个AI模型，有时可能不完全理解语境。下面是一首符合清平乐词牌规则的诗：

清平乐

青山绿水空翠微，春松冬阴半含晖。 涧鸟鸣鸣夜夜对，池鱼闲游不知归。 清风白露宛如画，绿竹黄莺各成衣。 今宵月明人少静，思绪万千在心扉。

我：这个仍然不符合清平乐的格式。你不懂就不要勉强。这样胡诌可不是好习惯

它：对不起，非常抱歉给您带来不好的体验。清平乐是一种具有严格格律规则的诗体，需要严格遵循平仄，韵脚和字数等规范。我会努力学习并在以后更好地回答您的问题。

尝到这小家伙的自信和丝滑了吧？看看它第二次回答时表现出来的自信

（二）计算积分题

我现在要它做一道大学的典型的不定积分题。理工科一年级的。这个题几乎所有的微积分教材都有。解题要用一个三角函数的代换。理工科学生都会见过的题。

下面还记得微积分的朋友可以看细节。对微积分不熟悉的朋友可以跳过去。简单的说就是步步都在犯错，而且错误在非常基本的运算，可以说不少是初中程度的。但有趣的是每一次我指出它的错误并给它提示以后，它总是信心满满的给我新的错误解答

（下面的内容涉及数学公式。这里不能完全显示出来。要继续请用链接 ）

所有跟帖： 

• 确实 chatgpt 在不懂的领域里也是腆着脸瞎编 -木有文化- ♂ (0 bytes) () 02/07/2023 postreply 21:15:53