我以前一直以为ChatGPT的响应速度会随时间而减慢,但现在我开始怀疑这真的不是问题的主要原因。更准确地说,似乎在更长的会话中会有一个临界点:
→ 响应会变得不一致,
→ UI会过载,
→ 流的感觉就会有点僵硬。
在这一点之后,几乎更好的是开始新会话而不是继续。 但重新开始也有自己的问题:你会遗失所有相关的背景内容。因此你会被困在:
→ 慢和凌乱的会话
→ 或者快但没有背景的会话之中。
这种权衡感觉就像是一个真正的问题,而不是性能问题。
一直以来我都在试验将重要的背景信息全部或部分导入到一个新会话中(我专门为此打造了一个小工具,叫做ChatBeacon)。
我想知道其他人有没有发现这样的临界点,或是只有我一个人这样感觉呢。