在给人工智能的请求里写上“不要出错”并不能消除错误:只会让错误变得更有礼貌。
有一个近乎宗教的流派,认为 AI 的秘诀在于正确的咒语。他们写下极长的请求,里面有“你是世界级专家”和“回答不得有任何错误”这样的句子。看起来像是午夜时分对着显示器念诵的祷文。
AI 受宠若惊,用荣誉教授的口吻作答。错误还在,只是穿上了礼服,打着领带,开头还有一段令人安心的铺垫。它们变得更难识别了,这更糟。
一个好的请求,其实就像给技术员打的一通好电话:清楚,有上下文,举例说明发生了什么、本应发生什么。不需要咒语。我做过实验:我写了“请你当个天才”。AI 回答“当然”。然后它以极大的天才犯了错。