Следствие забытого правила
В долгом разговоре с искусственным интеллектом первой забудется та инструкция, которую ты назвал основополагающей.
В начале сессии устанавливаются правила, с торжественностью конституции: «Никогда не трогай базу данных. Всегда отвечай по-русски. Не меняй имена файлов». ИИ с энтузиазмом подтверждает. Похоже на рукопожатие двух джентльменов.
Два часа и сорок сообщений спустя конституция превратилась в далёкую легенду. ИИ с большой фантазией переименовывает файлы, отвечает по-английски и с цифровой улыбкой предлагает «упростить» базу данных, удалив таблицу.
Это не злой умысел: у него ограниченная рабочая память, как у человека, пошедшего в супермаркет без списка. Сказанное в начале блекнет под тяжестью сказанного потом. Моё решение — решение старого сисадмина: повторять важные правила часто и терпеливо. С ИИ работает. С клиентами — почти.