为更好的使用大模型,必须要足够的了解它,否则得到的结果会总是不尽如人意。
提示词是什么
用户输入给大语言模型的指令(包括文本,图片等),用于引导模型生成符合预期的输出。
过程原理
将文本转为向量(Embedding),然后进行注意力机制层,通过概率分布循环预测下一个字直至结束。
由此其实可见,其结果本质还是概率问题,只要问题存在分歧,必然会出现一次错误的答案,也是因为这样,在面对需要高精度的场景(如金融行业)下的问题时,必须规定各个步骤,不断放大正确的答案的概率。
特性
谄媚效应
经常使用大模型的同学可能会发现,大模型总想要讨好用户,最经典的就是很“茶”的豆包。大模型会倾向于附和用户的观点,即使该观点存在明显错误或偏见。比如在我提供一个想法的时候,如果加上一些带有偏见的词语,那么大模型大概率会顺着你说。
角色依赖性
这个知道的比较多,在和大模型进行对话的时候,最好设定好大模型的人设,定位,这样能更好的从对应的角度来进行回答。比如你问减肥相关的问题,设定是健身教练和设定是中医,那么它的回答的角度将截然不同。
上下文敏感
大模型不仅仅会关注你问的当前问题,还会结合对话历史、背景信息、甚至你之前提到的细节来生成回答。例如,如果你在对话中提到“我正在写一本关于明朝历史的小说”,后续再问“如何描写宫廷斗争?”,AI 会自动关联“明朝”这一背景,而非泛泛谈论古代宫廷。因此,提供完整、清晰的背景信息,是获得精准回答的关键。这也是为什么“上下文简报”被列为 Anthropic 内部提示词框架的首要步骤。
指令模糊性
AI 对模糊指令的理解能力有限。这也很好理解,相当于你问一个陌生人自己的爱好。因此我们需要给足AI需要的信息。
网络搜索的时效性和可信度
在AI大模型进行网络搜索的过程中,很有可能会找到已经过时的网页信息,或者带有错误信息合伙由于读取网页不完整导致的信息错误。
解决方法
1. 不要使用带有偏见的定语,而是经常使用“客观”这样的词去阐述问题
2. 设定人设和定位
3. 提供完整的信息,可以参考ICIO、BROKE以及CREATE框架来进行提问
4. 我们还可以使用一些策略来进一步提高准确性,如CoT,ReAct等
5. 如果涉及到网络查询,提示词中添加“完整查看网页”,“最新”等关键词
做到以上的方式也不能100%做到每次的回答都是准确无误的,在高精度的场景下,还需要配合评估测试来进一步提升最终结果。