我让AI“偷窥”了我的屏幕,它有机会变成我第二个大脑

本文来自微信公众号:极客公园 (ID:geekpark),作者:张勇毅,编辑:靖宇
几周前,我为了一份行业深度文章的撰写,在堆积如山的数据分析文件和浏览器标签页中挣扎了整整两天。
那种感觉,就像在自己的知识库里溺水——你明确地记得看过某个数据、某段论述,却无论如何也无法在信息的洪流中重新定位它。
我们早已习惯了这种数字时代的“失忆症”,也习惯了将希望寄托于AI。我们像一个耐心的饲养员,不断地在应用之间复制、粘贴、切换,把上下文一点点“喂”给ChatGPT,只为换取一次灵光乍现。
此时,一个名为“Glass”的项目引起了我的注意。这款据开发团队介绍致力于成为用户“数字大脑拓展”的应用,并非又一个AI聊天框的变体,而是一个完全迥异的存在。
它将“被动观察”这一理念,原汁原味地注入了我的macOS,并由此让我得以一窥,当AI成为你心智的延伸时,人机交互的终极形态,究竟有多远。
一、面向未来的AI助手,但是开发者版
Glass没有任何传统意义上的“界面”。它的“安装”,更像是一套开发者环境的配置流程,需要你熟悉Python和Node.js。它的“实体”,则只是一个静默地躺在菜单栏的图标。
Glass应用安装界面|图片来源:极客公园
进入Glass,首先是几个直接的权限请求:
屏幕录制权限
麦克风访问权限
辅助功能权限
Glass需要的用户隐私权限都非常敏感|图片来源:极客公园
没有任何花哨的引导,每一个权限都直指其核心:一个需要完整观察你、倾听你的AI。
如果仅看Glass安装完成之后的效果,可能很难意识到这是一个AI应用——你甚至是可以选择是否将其隐藏:这里并非物理意义上的隐藏,而是在数字世界中隐藏,即使你将屏幕分享给其他用户,他们也无法看到Glass的存在。
Glass以一个悬浮药丸的形式运行于系统中|图片来源:极客公园
这正是Glass的核心理念:AI不应是一个需要被频繁唤起注意到的“工具”,而应是一个与你伴生的“记忆体”。
传统AI助手的工作模式是“你问,我答”,这个过程是割裂的、非连续的。而Glass颠覆了这一点,它的工作模式是“我观察,你随时问”。它会在后台默默地记录你的一切数字化行为,并将其内化为自己的记忆。
它不再需要你费力地去“解释上下文”,因为它本身就活在你的上下文里。
二、当记忆不再是负担
看完了它极简的“页面布局”,我很好奇Glass的实战表现如何。
先说结论,Glass主要有我们已经熟悉的部分,也有不同于现有任何AI工具使用体验的部分。
首先,它并不是一个现有AI大模型工具的便捷访问入口,Glass虽然可以直接提问,但问题的内容总是与屏幕中显示的内容相关。你可以直接通过快捷键,来向它提问各种关于当前屏幕的内容。
但这只是Glass真正能力的冰山一角:当你点击悬浮栏中的Listen按钮,Glass就会切换为监听模式,从静态读取你当前桌面上的内容,变为持续记录你电脑屏幕过去出现过的各种画面信息与音频,并基于此生成一份总结报告。
Glass监听屏幕内容改变并实时记录|图片来源:极客公园
在会议纪要场景中,Glass不仅能实时生成一份会议纪要重点,并且还能实时转录音频,当然目前的体验中还只支持英文,对于中文语音的支持欠佳。
但Glass比起其他会议纪要类AI工具最大的不同,是它不受某个App的限制,可以全局记录并提取过去屏幕中的内容,并且根据记录下来的内容实时生成摘要以及问题总结。
除了老生常谈的会议记录功能,Glass的应用场景还能体现在看视频上:我在Glass开启的状态下,打开一个主题是关于F1车手刘易斯-汉密尔顿的采访视频。在不到三分钟之后,Glass就通过目前读取到的内容,帮我生成了一份当前内容摘要。
在这份摘要中,Glass还会主动提供数个进一步问题,供你进一步了解视频内容,当然在这个阶段,你同样可以自己提问你仍然感觉疑惑的问题。
Glass生成视频摘要|图片来源:极客公园
这份摘要内容本身会随着屏幕内容数据的不断增加,进一步更新更多相关内容,目前,Glass分析本身支持中文内容,但自动生成的内容汇总目前还只能以英文的方式展示——这种情况我们在如今的Apple Intelligence中ChatGPT的体验中也曾见过,都是模型本身支持中文内容、应用层没有做适配而产生的问题。
Glass的屏幕内容摘要功能支持中文,但支持的不多|图片来源:极客公园
在直接针对屏幕内容的提问中,由于我可以直接使用中文提问,因此回答也会采用中文回复,这很大程度上提高了这一功能对中文用户的友好程度。
Glass可以针对记录的屏幕内容提问|图片来源:极客公园
全局读取屏幕信息并记录,是一个潜力几乎无上限的功能,我遇到的第一个震撼瞬间,是在VSCode里重构一个复杂的项目。
当我使用Gemini修改完一串代码,然后脑中突然闪过一丝不确定。此时,我没有急于修改撰写的那段代码,而是直接通过快捷键唤出Glass,问道:“帮我分析一下修改的那部分代码的核心逻辑。”
几秒钟后,一个对话框以通知的方式弹出,用清晰的列表总结了函数的用途和我的修改点。
我没有复制任何代码,没有跳转任何页面。我只是提出了一个基于“屏幕内容”和“需求”的问题,Glass就从屏幕中为我提取了答案。
另一个,则是Glass对非结构化信息(如会议语音)的惊人处理能力。在一场持续一个多小时的线上脑暴会中,我全程投入讨论。会议结束后,Glass已经自动生成了一份详尽的会议纪要,不仅区分了不同发言人,甚至提炼出了关键的结论和待办事项列表。
它就像一个永不疲倦的书记员,将稍纵即逝的多模态内容流,沉淀为结构化的信息资产。
可以说,Glass的首秀,就将目前AI助手最大的痛点——上下文的缺失和跨应用操作的割裂感解决了。同时,作为一个开源项目,Glass即使是在全时监控屏幕的情况下,也没有对电脑的内存产生特别巨大的压力——这一点足以让我愿意让它全天运行在我的电脑上,在我需要它的时候将它唤醒。
话虽如此,但我仍然不建议电脑内存在16GB以下的Mac设备(当前Glass只有macOS版本,Windows版本在开发中)长时间运行Glass,这仍然会给电脑造成明显的卡顿现象。
但简单的产品应用逻辑,也说明Glass放弃了所有取巧的路径,它依赖云端服务器对你的行为进行分析(至少在开源版本中),同时选择在本地进行大量的结构化信息整理任务。这意味着所有的屏幕录制、语音识别,几乎都直接压在了处理器本身上,自然也就带来了更高的硬件负载。
三、记忆延伸的源流与未来
Glass的推出,虽然只是一个名为Pickle的小团队的开源项目,但其背后的理念,却可以追溯到上个世纪。
1945年,在美国科学家范尼瓦·布什(Vannevar Bush)发表于《大西洋月刊》的著名文章《诚如所思》(As We May Think)中,一个名为“记忆扩展器”(Memex)的革命性概念被首次提出。这个构想远早于个人电脑和互联网的诞生,却以惊人的前瞻性预示了未来信息技术的发展方向,并对后来的超文本(Hypertext)和个人计算领域产生了深远的影响。
《诚如所思》(As We May Think)| 图片来源:Wikipidia
“记忆拓展器”的核心逻辑,是通过技术手段,将个人的知识和记忆外部化,使其成为一个可供随时访问的“外接大脑”。
是不是很熟悉?Glass所做的事情,正是Memex理念在AI时代的具象实现。它不再局限于存储文档和书籍,而是将用户动态的、实时的“行为”本身作为记录对象,通过大型语言模型的“关联索引”,最终实现一个远超任何传统知识库的、活的、个人的记忆系统。
Glass这个项目更深远的目标——“为每个人建立一个活的数字克隆”,则更是这一理念的极致延伸。它不仅要成为你的记忆,更渴望成为你的“代理”,一个可以理解你、模仿你,甚至代替你执行任务的数字孪生。
但回到现实,目前Glass的体验显然距离这个目标还很遥远:Glass需要你手动输入OpenAI或Gemini的API Keys,现阶段Glass也提供了登录账号、免费试用开发团队提供的API Key额度的解决方案。同时正常使用也需要前置安装Python与Node环境库,虽然门槛实际上并不高,但也并没有达到“开箱即用”的地步。
即便如此,Glass在开源之后还是迅速在GitHub上吸引了不少关注,短短四天已经破超过3K Star,迅速在AI工具圈走红。
在Glass背后,开发团队Pickle是一家致力于构建“数字思维扩展(Digital Mind Extension)”的公司。他们刚刚在上个月从Y Combinator吸引到了60亿韩元(约3100万人民币)的投资。
Pickle 官网 | 图片来源:Pickle
Pickle脱胎于另一个开源项目Cheating Daddy,而Cheating Daddy又是另一个“臭名昭著”的项目Cluely的开源版本——后者在今年曾因为闭源、付费以及最重要的面试作弊这一卖点颇受关注,同时也引来了诸多争议。
由于Pickle项目中存在大量对Cheating Daddy项目的内容直接复用,目前,Cheating Daddy创始人正在就这一点在X上对Pickle发起讨伐,指责“开源项目并不意味着可以拿来照抄”,但这件事尚未得到Pickle团队的正面回应。
目前,作为一个轻量级的解决方案,Glass仍然不失为一种值得观察的思路;此前主打“全天候记录用户信息”的Rewind.ai项目,就因为对设备的内存占用过高,同时对结构化内容整理效果不尽人意,因而迅速退出AI工具的主流舞台。
Glass这类产品所代表的“主动感知AI”,这个曾在科幻作品中反复出现,代表着高效与智能的词汇,距离真正到我们的日常生活中落地,或许已经不远。
一个轻量级工具的脱颖而出,更是说明了这个过程中,对用户核心需求的提炼——没错,一个完美的记忆体的确很强大,AI的辅助也的确很努力,但人们想得到的,或许仅仅是一个能让自己工作更顺畅、思考更专注的普通的好工具。
本文来自微信公众号:极客公园 (ID:geekpark),作者:张勇毅,编辑:靖宇