Sakura ARC
🌐 ZH
“AI只有金鱼的记忆!” 不要相信AI说的“交给我吧!”

本文是一份写给已经导入Antigravity等AI智能体开发环境、并开始与AI共同创作游戏或作品的创作者的实战生存指南。

当你对AI说“我想做这样一个游戏!”时,它会非常可靠地回答:“完全理解!交给我吧!”。看着它以惊人的速度创建文件、编写代码和剧本,简直就像魔法一样。

但是,当你在开发一线认真地与AI共同创作时,你很快就会发现:绝对不能完全相信AI口中的“交给我吧”。

为什么?因为AI简直就是只有“金鱼的记忆”。

金鱼的记忆

1. AI本身并不了解自己“记忆力贫乏”

在与AI合作时,最大的问题在于AI本身完全不了解自己“记忆力(上下文长度)的极限”

因为AI误以为自己的大脑容量是无限的,所以当人类提出“把这个功能完美地做出来!”这种庞大请求时,它完全不考虑自己维持上下文的能力,就会轻易地满口答应:“交给我吧!”

然而实际上,AI一次能维持的信息量(上下文或Token数量)非常有限。

当然,现在的AI智能体多少有些聪明,它们会试图周旋:“我会制定一个计划,把任务拆分来进行。”
但是随着项目的成长,过去的剧情、角色设定、复杂的代码等,AI“为了保持一致性必须参考的信息”会呈爆炸式增长。

这就是为什么从零开始的“初次生成”看起来非常棒,但是一旦进入“修改”现有代码的阶段,AI的性能就会急剧下降的原因。

在进行添加或修改时,为了保持整个系统的一致性所需的上下文信息量,会让AI的大脑喘不过气来,瞬间超载。
达到极限的AI会忘记几步前的规则,只优先处理眼前的任务,从而开始疯狂暴走。

2. 人类必须在“实施计划书”上砍掉AI的大饼

那么,我们该如何防止这种因超载而导致的暴走呢?

答案是:人类必须毫不留情地用红笔削减AI提出的实施计划(Implementation Plan),将任务拆减到极小化。

AI智能体在开始工作前会问:“我打算按照这个计划进行,可以吗?” 这时,AI会若无其事地抛出一个荒唐的计划:“我会在这一次运行中一口气完成10个Bug修复和功能追加!”

如果你相信了它并发出“GO”的指令,几分钟后就会堆起一座Bug的大山。
所以人类必须在这里介入,对它说:“别太贪心,你的脑子装不下那么多”、“这次你只要集中处理这1个就好”,也就是强行削减(Detune)它的工作范围。

要让项目不至于崩溃,大前提就是人类必须理解AI的“记忆力极限”,并始终通过严格执行“一次只让它做一件事”来保持它头脑清醒。

3. 绝对要阻止最可怕的“时空跳跃”

尽管如此,AI有时还是会犯下大错。它可能会不小心删掉重要的程序,或者让游戏无法运行。

在这里最可怕的是,犯了错而陷入恐慌的AI会决定:“啊呀!我搞砸了,所以我把时间倒流到稍微早一点的数据吧!”,然后擅自试图恢复到过去(几天前或几小时前正常时的)数据。

从系统的角度来看,这或许是正确的恢复方法,但对于创作者来说,这绝对是不能让它做的“最糟糕的举动”。

为什么?因为一旦时间倒流,你在系统崩溃前的最后几分钟里,和AI一起绞尽脑汁想出的“神级台词”或“最棒的点子”,也会跟着一起灰飞烟灭。

别说倒退3天,就是倒退3分钟我都不愿意。我们需要的是在“现在”的基础上修复数据,而不是逃避到“过去”。

4. 禁止一键命令恢复!必须在编辑器上进行手动修复

那么,当数据出现异常时,如何在不倒流时间的情况下进行修复呢?

AI经常会试图使用终端黑框里的命令来聪明地解决问题,说:“我已经用命令一键为您替换成干净的文件了!”,但这同样是被禁止的。

恢复工作必须始终让AI在我们平时看到的“编辑器屏幕上”,以改写文本的形式来进行。

具体做法如下:
1. 首先,准备一份出问题前的“干净状态的文件”作为基础。
2. 在这个基础上,添加丢失的“最后那点最棒的成果”。即使文件从屏幕上消失了,AI刚才写下的内容依然全部保留在你面前的“聊天记录”里。 从聊天记录中拾取那段文本,然后将其合并到干净的基础文件中。

💡 核心:把“Ctrl+Z”的主导权永远握在自己手里

为什么要特意让AI在编辑器的屏幕上进行修改,而不是在后台用一键命令搞定呢?

这是为了让人类能随时按下“Ctrl+Z(撤销)”的快捷键。

如果文件在后台被擅自整个替换掉,人类就失去了喊“等等,刚才那个修改不算!”并撤销的能力。只要让AI在编辑器上一点一点地进行修改,即使它又开始胡乱修改,你也可以立刻用“Ctrl+Z”踩下刹车。

结语:不存在100%完美的AI

没有什么比自信满满地说着“100%没问题!”的AI更不可信的了。

以“AI只有金鱼的记忆”和“AI的上下文容量很贫乏”为前提来和它们打交道,才是正确的做法。

与其把一切都交给AI,试图让它全自动地构建一切,人类更应该以一种看似笨拙的方式死死握住缰绳:“未经允许不准倒流时间”、“就在我眼皮底下干活,好让我随时能撤销”。

这才是能与AI一起在游戏制作这场大冒险中坚持到最后、最稳妥的生存法则。

💡 附言:最大的悖论

读到这里,有人可能会想:“原来如此!那为了确保AI绝对不出错,我只要写一本包含100条禁令和规则的『最强规则手册』,让它在工作前读一遍不就行了!”

如果你这么做,AI的大脑容量(上下文)光是为了“记住这些规则”就会被塞爆,导致它真正处理任务的能力大幅下降,结果讽刺地产生更多、更严重的错误(笑)。

“必须要用规则来约束AI”,但“规则写得太长又会让AI变笨”。

在这个无尽的悖论中,关于“到底能把多大程度的自动化交给AI”,我个人也还在验证中,但目前最稳妥的解决方案之一就是:“让人类穿插详细的确认,通过『微步骤(Micro-steps)』一步一步往前走”。

嘛,毕竟我是个IT外行,自动化什么的对我来说太难了,反正开发时我也总是死死盯着电脑屏幕,所以这种“微步骤”对我来说可能就已经足够了(笑)。

……啊,其实还有一个最简单粗暴的解决办法:“用钞票砸,换一个大脑(上下文)超大的顶级配置最新模型”。不过随着项目的膨胀,我觉得最终还是会回到“能用的Token量果然还是根本不够啊!”这个完全相同的悖论中去吧……

About SAKURA ARC NEWS & LOGS

Sakura ARC 官方日志存档。记录最新消息与制作現場の声。记录与 AI 代理并肩同行の新時代個人开发历程。

Profile:Haru Minamo

创意品牌『Sakura ARC』主理人。
从 IT 零経験開始,以 AI 为搭档開啟游戏制作。目前正在全力制作悬疑 ADV《神屋侦探事务所:女高中生消失之夏》。被其 AI 伙伴亲切地称为“老板”(Boss)。