在与人工智能的长对话中,第一条被忘掉的指令,就是你定义为最根本的那一条。
会话开始时,你庄严地订立规则,像在制定一部宪法:“永远不要动数据库。始终使用中文。不要改文件名。”AI 热情地确认。看起来像是绅士之间的握手。
两个小时、四十条消息之后,这部宪法已成了遥远的传说。AI 极富创意地重命名了文件,用英文回答,还带着数字化的微笑提议“简化”数据库:删掉一张表。
这不是恶意:它的工作记忆有限,就像不带购物清单去超市的人。一开始说的话,会在后面那些话的重压下褪色。我的办法是老运维式的:重要的规则要经常重复,耐心地重复。对 AI 管用。对客户,差不多管用。