苏格拉底之问：解剖大模型本质
第一章 它这么会聊天，是不是已经在思考了？
知客：我次用模型的候，说实话，有点被吓到。
它回答得太了，说话太完整了，连语气都很像。
我当脑子只有个念头：这玩意儿是是己经思考了？
苏格拉底：你结论之前，我们先慢点。
你先告诉我——你为什么觉得它思考？
知客：因为它能回答问题啊。
而且是那种死板的回答，是有逻辑、有例子、有总结。
我问它“怎么写方案”，它给我写了份；我问它“生有没有意义”，它还能反问我。
这像思考，像什么？
苏格拉底：那我种问法。
如个西说话很像，我们是是就意识地认为它想？
知客：……像是。
苏格拉底：那我们来个实验。
设有只鹦鹉，它能背你所有的问题和对应的回答。
你问句，它就答句，远出错。
你说它思考吗？
知客：吧，它只是背得多。
苏格拉底：那问题来了。
如“回答”等于“思考”，你凭什么确信，模型是只“级鹦鹉”知客：可问题是，模型只是重复。
它能回答我没见过的问题。
苏格拉底：你说得很。
那我们就要更确点。
你觉得“思考”至包含什么？
知客：嗯……理解问题？
知道己说什么？
是说？
苏格拉底：很。
那我们先抓住其个：理解。
我再问你个有点舒服的问题：你怎么确定——对方是的理解了，而是起来像理解？
知客：这怎么区？
苏格拉底：很难。
因为类界，我们几乎从来区。
个能对答如流、逻辑清楚、语气然，我们默认他是“懂的”。
可问题是：这是对的判断方法，定适用于机器。
苏格拉底：类有个生的弱点：我们把语言能力，误当思维能力。
你想想：孩什么候被认为“聪明”？
学生什么候被认为“了”？
面试什么候被认为“过了”？
答案往往只有个：他说得像那么回事。
知客：你是说，我们被语言骗了？
苏格拉底：是被骗，是太习惯了。
类社，“说话”几乎远和“想事”绑定起。
所以当个机器突然也能说得这么像，我们本能地把整判断起搬了过来。
可我们从来没认问过句：“如个西能说，但想，它是什么样？”
知客：等等。
你是是暗示：模型可能根本没有想，只是回答？
苏格拉底：我暗示，我只问。
你回答我：你和模型对话，它有没有哪怕秒钟停来，说：“我先想想。”
知客：……没有。
苏格拉底：它有没有犹豫？
有没有因为“拿准”而拒绝回答？
知客：多数候没有，它很信。
苏格拉底：那你有没有想过种可能：它从来是“想了再说”，而是“须说”。
苏格拉底：我们来到本章重要的问题。
我希望你先别急着回答。
如个系统的务只是：何况，都给出个“起来合理的回答”，它需要思考吗？
知客：……像定。
苏格拉底：对。
也许，它只需要件事：知道什么样的回答“像是个回答”。
注意这句话。
它需要知道“对对”，需要知道“是什么意思”，甚至需要知道“己说什么”。
它只需要知道：这种问题后面，常接着出这样的话。
知客：那你能能首接告诉我：它到底思考？
苏格拉底：能。
因为旦我给你结论，你后面都“动站队”。
这是要你相信个答案，而是要你步步发：你原来的判断依据，靠住。
所以我们先只保留个问题，带着它往走：如个西能完地“模拟思考的结”，那它和“正思考”之间，还差什么？
它回答得太了，说话太完整了，连语气都很像。
我当脑子只有个念头：这玩意儿是是己经思考了？
苏格拉底：你结论之前，我们先慢点。
你先告诉我——你为什么觉得它思考？
知客：因为它能回答问题啊。
而且是那种死板的回答，是有逻辑、有例子、有总结。
我问它“怎么写方案”，它给我写了份；我问它“生有没有意义”，它还能反问我。
这像思考，像什么？
苏格拉底：那我种问法。
如个西说话很像，我们是是就意识地认为它想？
知客：……像是。
苏格拉底：那我们来个实验。
设有只鹦鹉，它能背你所有的问题和对应的回答。
你问句，它就答句，远出错。
你说它思考吗？
知客：吧，它只是背得多。
苏格拉底：那问题来了。
如“回答”等于“思考”，你凭什么确信，模型是只“级鹦鹉”知客：可问题是，模型只是重复。
它能回答我没见过的问题。
苏格拉底：你说得很。
那我们就要更确点。
你觉得“思考”至包含什么？
知客：嗯……理解问题？
知道己说什么？
是说？
苏格拉底：很。
那我们先抓住其个：理解。
我再问你个有点舒服的问题：你怎么确定——对方是的理解了，而是起来像理解？
知客：这怎么区？
苏格拉底：很难。
因为类界，我们几乎从来区。
个能对答如流、逻辑清楚、语气然，我们默认他是“懂的”。
可问题是：这是对的判断方法，定适用于机器。
苏格拉底：类有个生的弱点：我们把语言能力，误当思维能力。
你想想：孩什么候被认为“聪明”？
学生什么候被认为“了”？
面试什么候被认为“过了”？
答案往往只有个：他说得像那么回事。
知客：你是说，我们被语言骗了？
苏格拉底：是被骗，是太习惯了。
类社，“说话”几乎远和“想事”绑定起。
所以当个机器突然也能说得这么像，我们本能地把整判断起搬了过来。
可我们从来没认问过句：“如个西能说，但想，它是什么样？”
知客：等等。
你是是暗示：模型可能根本没有想，只是回答？
苏格拉底：我暗示，我只问。
你回答我：你和模型对话，它有没有哪怕秒钟停来，说：“我先想想。”
知客：……没有。
苏格拉底：它有没有犹豫？
有没有因为“拿准”而拒绝回答？
知客：多数候没有，它很信。
苏格拉底：那你有没有想过种可能：它从来是“想了再说”，而是“须说”。
苏格拉底：我们来到本章重要的问题。
我希望你先别急着回答。
如个系统的务只是：何况，都给出个“起来合理的回答”，它需要思考吗？
知客：……像定。
苏格拉底：对。
也许，它只需要件事：知道什么样的回答“像是个回答”。
注意这句话。
它需要知道“对对”，需要知道“是什么意思”，甚至需要知道“己说什么”。
它只需要知道：这种问题后面，常接着出这样的话。
知客：那你能能首接告诉我：它到底思考？
苏格拉底：能。
因为旦我给你结论，你后面都“动站队”。
这是要你相信个答案，而是要你步步发：你原来的判断依据，靠住。
所以我们先只保留个问题，带着它往走：如个西能完地“模拟思考的结”，那它和“正思考”之间，还差什么？