给机器人发消息之后,它会一条一条消息发送,也可能什么都不发。也可能想一下,边想边发(ReAct)
它还可以感知到你的输入节奏和发消息的节奏。比如,我说”问你个事啊” 它不会立即回复。除非我半天不说下一句话。
更早之前的 PendingBot 还会结合输入状态来回应人。大概逻辑是,机器人能看到用户的输入状态,然后加一个防抖动机制:发消息之后两秒内先不回应,如果用户开始打下一个字,就继续延长等待时间。(和人类回微信的逻辑差不多)或者先由一个小的、首Token很快的模型来判断要不要等。但是后来发现,这样会让机器人显得反应很慢,体验不好,况且也省不了多少 Token 钱。Token 输入可以用缓存,输出才贵,而如果判断不需要等,直接让模型输出不需要等的这个动作就好了。