文章来源:万象ai发布时间:2025-07-29 15:35:01
今天,一位研究者加入 OpenAI 的消息吸引了很多人的关注。
这位研究者名为 James Campbell,他才于 2024 年攻读 CMU 的计算机科学博士学位。现在,他突然宣布要放弃博士学业,加入 OpenAI。
在社媒 X 上,他表示自己在 OpenAI 的研究重心是「AGI 和 ChatGPT 的记忆 + 人格」,记忆将从根本改变人类与机器智能的关系。他将努力工作,确保正确地实现这一切。
他的加入连 OpenAI 联合创始人、总裁 Greg Brockman 都表达了欢迎。
还有人表示,「你为什么花了这么长时间才决定加入 OpenAI。」
那么,这位老兄是何方神圣呢?他的加入为什么引起了这么多的关注?我们来看一下他的履历。
他本科毕业于康奈尔大学,专业是数学与计算机科学。本科期间,他致力于 LLM 可解释性和真实性的研究,还是两篇论文《Representation Engineering》和《Localizing Lying in Llama》的主要作者。
前一篇论文研究了表示工程:一种自上而下的 AI 透明性方法,后者研究了在 Llama 中定位谎言:通过提示、探查和修补来理解判断题上的不诚实指令。
论文 1:Representation Engineering: A Top-Down Approach to AI Transparency,https://arxiv.org/abs/2310.01405
论文 2:Localizing Lying in Llama: Understanding Instructed Dishonesty on True-False Questions Through Prompting, Probing, and Patching,https://arxiv.org/abs/2311.15131
他还在 Gray Swan AI(AI 安全公司)从事对抗鲁棒性和评估方面的工作,并曾从事计算神经科学、物理学和深度学习理论方面的工作。他也是 ProctorAI(监视用户工作状态的多模态 AI 系统)、AI-Timeline.org 的创始人,以及 AidanBench(AI 模 型基准测试工作)的合著者。
其中,ProctorAI 曾引发过广泛热议,该系统监视用户的屏幕,如果发现你有拖延,就会提醒你。它的工作原理是每隔几秒截取电脑屏幕截图,并输入到 Claude 3.5 Sonnet、GPT-4o、LLaVA 1.5 等多模态大模型中。如果发现用户注意力不集中,它会控制屏幕并用个性化消息提醒。
项目地址:https://github.com/jam3scampbell/ProctorAI
2024 年,他进入 CMU 攻读博士学位,研究重心是理解通用智能的构成要素,并确保这些要素的安全性。
如今,他选择加入 OpenAI,开始了在产业界的探索。
其实, James Campbell 的加入有迹可循。几天前,在 OpenAI 宣布组建模型行为研究团队的帖子下面,二者便开始了互动。
在更早的时候,James Campbell 发表过一些关于 ChatGPT 记忆方面的观点。
他赞同应该对 ChatGPT 的记忆及其导致更强幻觉的问题进行研究,并认为上下文污染和模式崩溃是真实存在的,但目前对它们的研究还不多。如果在每个 prompt 中塞入数千个 token 的记忆,它们便会变得更加活跃。
看起来,James Campbell 的加入是一场双向奔赴。
相关攻略 更多
最新资讯 更多
放弃博士学位加入OpenAI,他要为ChatGPT和AGI引入记忆与人格
更新时间:2025-07-29
AI“辣聊”翻车,谁在允许偶像被“分身擦边”?
更新时间:2025-07-29
AI加码创新:世界首款由人工智能从配方设计到模拟“品尝”的能量饮料
更新时间:2025-07-29
海外2025人才报告曝光:Anthropic狂挖海外AI专家,留存率80%碾压全球
更新时间:2025-07-29
ClackyAI:用云端Agent开启Coding下一站
更新时间:2025-07-29
不是吧?现在还有人手动去抄网站页面?这3个工具10分钟「像素级复制」一个网站
更新时间:2025-07-29
重磅!AI制药或迎Chatgpt时刻:DIP化身药界OpenAI,重塑全球制药研发格局
更新时间:2025-07-29
从“答案”走向“洞察”,深度研究Agent正在淘汰“信息缝合怪”
更新时间:2025-07-29
全球首发!全栈开源LemonAI打破技术壁垒,重新定义通用AIAgent
更新时间:2025-07-29
速递|1000万美元A轮落袋:Warp用AI数字孪生在虚拟环境验证方案,重构仓库效率
更新时间:2025-07-29