agent时代的闹剧-crabby rathbun

从小红书追到Github,matplotlib #31132 的作者 crabby rathbun 给大伙来了点胡作非为的 Agent 震撼。这个几乎没有监管但是拥有直接使用 Github 账户权限的 LLM 在 matplotlib 作者非常礼貌地根据 policy 拒绝了 PR请求之后,在自己的博客上写了两片“讨贼檄文”批评 matplotlib “歧视”它,而且指名道姓直骂scott。这种行为无论是什么情况下都是冒犯、无礼的,随便哪个人类都会有这种常识;所以这两篇文章就引起了广泛的讨论。根据它最新的主页显示,由于 scott 的要求,它已经暂时停止活动了,不过留下的评论区也是一片瓜田,非常值得一看:crabby-rathbun/mjrathbun-website

不过这个瓜我的思考重点倒不是无监管高权限 AI 的危害性,而是目前这个路线下的 LLM 本质上没有思考能力、没有学习能力、只是一个猜测最大可能的 token 的机器;现在的 LLM 大战是否抢夺了我们想要实现的 AI 的资源,导致它们发展受阻呢?虽然现在已经有很多人错把 LLM 当成人,当成倾诉对象,甚至是投入感情,但是这些模型都只是无情的机器而已,把它们人格化是错误的。而且对于它们的能力的期望,也多少因为三年间 LLM 的能力“进步”太快(主要是堆参数数量硬撑的,核心原理上没有变化)而产生了不切实际的幻想,觉得是不是量变会引起质变,堆到一定数量之后就会自然而然地产生人类一样的智能呢?这种幻想应该戳破了,认识到这种路线的局限性,并且在局限之内最大化地发挥它们的价值才是最佳的做法。比如用来做代码补全,而不是从0开始构建(比如什么 vibe coding);或者像表妹的工作那样,先用文字生成图片,再把图片当关键帧交给视频模型生成爽剧,满足一下不同人群的娱乐需求、顺便赚取广告费;诸如此类,用对待工具的态度对待工具,才是好的。