Palantir这家企业很有意思,它把企业里分散的知识、逻辑放进软件里,成为公司运转的一部分。PendingCrew从设计之初就一直在参考企业的模式,Palantir的一些思路很值得借鉴。不过我对它的了解还不太多。 现在PendingCrew还是处于全部听我指挥的状态,我经常感觉我大脑的上下文不够用。我做了很多机制来缓解,例如Todo系统,驾驶舱等等。可是似乎治标不治本。本是什么?我现在觉得是:Agent让我决策的东西里面,很多决策价值很低。我不可能去做所有看似重要的事情,这种情况下牺牲一些重要但价值较低的决策是必要的。例如是否同意合main,真机验证某个它刚做好的功能等等。仅当它们拿不准,或者某个决策涉及我的重大利益(比如如果做错的话可能致使文件丢失,财产丢失等等)这种情况下才应该让我决策。
这其实也是任何一个组织的管理者面临的问题,只不过在Agent这里较为特殊,因为Agent无法独立承担责任。当责任只能由人来承担时,不亲自审阅往往被视为不负责任的表现,可正是这个道德观点束缚着许多人,包括我自己。
自从AI Agent出现以来,“安全、负责任、有判断力”就像“努力”在教育行业一样崇高。 试想如果一个人在完成它的任务时,说:“xxx都是AI做的,权限我都没怎么看就批了。”听者会如何想?可能会觉得这个人没有安全意识,没有判断力,盲目觉得AI可以帮他完成所有任务。学生翘课欠作业是一个很好的类比,一个学生这样做有可能是他真的懈怠学业,也可能是因为课堂和作业的效率和价值过低,但给人的初步印象就是不努力,哪怕后者的情况下他大概率做出了更恰当的选择。同理,如果一个人适当让AI“假性”承担一些价值较低的责任,也许从整个项目的角度来说效益仍是更大的。
借鉴Palantir能得到什么启示?Palantir试图建立一个企业长期存在的决策模型,把一些较为固定的决策流程和判断方法给AI执行或者预处理,比如某地发生战争、某竞品推出后企业采取的行动。PendingCrew其实有执行的能力,但是缺乏执行前的这一部分,缺乏的原因又要追溯到我没有把我的策略、目标、框架等等明确地给到它,而这些东西正是Palantir建立决策模型的原料。
我之前也不是没想过类似的思路。PendingCrew曾经按照“声明式创作系统”这个思路去做过,当时重点在驾驶舱上,我的想法是把我的决策逻辑、我想要的东西放到驾驶舱里,详细地写清楚,然后交由Agent来做就好了。执行起来发现很多问题是完全没办法提前设计的,并且过程中遇到的问题反过来可能会让最初敲定的决策不再合理。
那我应该怎么设计呢?我目前的设想是把任务分级,给定一套分类方法,什么事情属于应该找我的再来找我。什么事情是不应该找我的,或者只需要我完成一小部分的,那就按照Palantir的思路做处理后再给我。但是具体怎么分类呢?预处理到什么程度呢?好难啊!我真的想不出这两个问题的答案。