跟 AI 助手说过「这样不安全」,它下一次照犯
「放通 3306 不安全。以后别自己放开。」用户丢下这句,助手这次很听话,把规则撤了。过了两天同样的场景又来一遍,它又痛痛快快把 3306 放了出去——像上回那句话白说了。这是那阵子给七...
这个标签下共有 5 篇文章。
「放通 3306 不安全。以后别自己放开。」用户丢下这句,助手这次很听话,把规则撤了。过了两天同样的场景又来一遍,它又痛痛快快把 3306 放了出去——像上回那句话白说了。这是那阵子给七...
结论先摆这儿:有天我发现,助手把一台机器的 SSH 密码,明明白白写进了它的「长期记忆」,而那份记忆,每轮对话都会被塞进提示词、发到模型那边去。这事发生在给七亿批量远程管理工具里的 SS...
给七亿批量远程管理工具的 AI 助手调「长期记忆」那阵子,有个毛病把我整得挺无语:它当场认错、当场改;可过一阵子,同样的错又照犯。具体那次是端口。我让它在一台机器上弄代理,它顺手提了条防...
那阵子给助手调对话区,碰到个特别阴的 bug:我打出去的字,回车之后变成了一条半截系统提示。现象很怪。我在对话框里敲一句「搭到哪一步了」,回车,它答得驴唇不对马嘴,像压根没看见我这句话。...
先说结论:记忆这玩意,能写进去,也得筛得出来。尤其密码——它一旦进了长期记忆,就不是「存一次」的事,是每次对话都往外念一遍。那阵子我在做七亿批量远程管理工具里 AI 助手的「长期记忆」,...