gpt有token数量限制，只有4k的记忆力。如果直接让gpt写小说，我尝试过gpt只会无脑续写环境描写、对话描写之类的，根本没有剧情的把控能力和展开能力。
ChatPDF项目给大家带来一种思路，即分治法，为文件中每个段落计算embedding向量（创建语义索引），gpt每次无需记忆所有内容。 auto-gpt、BabyAGI等项目大同小异，都是把gpt当做一个"主控机器人"，为"主控机器人"赋予很多能力，包括创建并使用"代理机器人"的能力、使用搜索引擎、读写文件的能力。
传统使用gpt写小说的方式，也就是给大模型输入上文，输出下文的方式太落后了，只能作为水文 ai辅助创作工具，无法制作出真正的小说。
受到这些项目启发，我认为应该是这样的流程："主控"机器人拥有编写大纲、创建ai人物、读写文件的能力。也就是完全模拟人脑写小说的流程。 由"主控"机器人先生成大纲，然后根据大纲来控制剧情走向，决定下文是环境描写还是对话等等。而真正的对话，是由ai人物自己产生。 主控机器人的prompt由大纲、前文提要、当前上下文（可以是最近的1000个字）组成。 ai人物的prompt由前文提要、对话上下文组成。