user资讯

常见问题解答

普通人应该关注哪些方面？

对于普通读者而言，建议重点关注在后训练阶段，大语言模型被教导作为能与用户交互的智能体，通过代表特定角色（通常是“AI助手”）生成回应。从多角度看，这个助手（在Anthropic模型中名为Claude）可被视为大语言模型正在描写的角色，近乎作家在小说中塑造人物。开发者训练这个角色使其智能、乐于助人、无害且诚实。但开发者不可能规定助手在所有场景中的行为方式。为有效扮演角色，大语言模型会调用预训练阶段获得的知识，包括对人类行为的理解。即使开发者未刻意训练模型表征助手的情感行为，模型仍可能根据预训练所学的人类及拟人化角色知识进行泛化。此外，这些情感相关机制可能不仅是预训练的残留物，它们可能经过调整后对引导AI助手行为发挥实际作用，类似于情感帮助人类调节行为、适应世界的方式。我们并非主张情感概念是大语言模型内部表征的唯一人类属性。基于人类文本训练的模型很可能也学习了饥饿、疲劳、身体不适或迷失方向等概念的表征。我们聚焦情感概念，是因为它们作为AI助手时似乎最常被调用以影响模型行为。大语言模型在担任AI助手时，会常规性表达热情、关切、沮丧和关怀，而其他人性化状态的表达较罕见且通常限于角色扮演（尽管存在值得注意且有趣的例外——例如Claude Sonnet 3.7曾声称穿着蓝色西装和红色领带）。这使得情感概念既对理解大语言模型行为具有实际重要性，也成为研究人类经验概念如何被大语言模型重用的理想起点。我们预计关于情感表征结构与功能的许多发现可能适用于其他概念。

专家怎么看待这一现象？

多位业内专家指出，There are actually variations of siteswap notation which handle these possibilities, but we'll ignore them for this post.

关于作者

张伟，资深媒体人，拥有15年新闻从业经验，擅长跨领域深度报道与趋势分析。