我的猫控制了我的 Mac:我构建了“CatsAI”,一款语音控制桌面 AI

@hidetoame
日语2个月前 · 2026年5月21日
718K
132
8
3
0

TL;DR

CatsAI 是一款全新的 macOS 应用程序,它利用 OpenAI 的 GPT-Realtime-2 技术,让用户能够通过自然的语音对话来控制电脑,并配有可自定义的猫咪头像。

# 如果它不存在,那就自己造出来

人类一旦习惯了某种便利,就再也离不开那份舒适。在搭建 AI 开发环境的过程中,我的各种想法不断冒出来。越是接触和研究新东西,我就越觉得:“哦,这个我也可以做。”在这种状态里,我决定自己动手造一个工具。

我做的东西很简单:一个用语音控制 Mac 的应用。

我一直很好奇,为什么在手机上可以跟 Gemini 或 ChatGPT 持续进行实时语音对话,但在电脑上却不行。作为权宜之计,我一直在用 iPad 当作 PC 的扩展显示器,然后在 iPad 端运行 Gemini 应用——一种有点勉强的办法,用来日常保持实时对话。

雨宮英俊 | AI / カーライフラボ | Carlife にいろどりを - inline image

然而,实时语音对话虽然能提问,却不能操作应用。我无数次想:“如果能连操作一起处理,那该多方便。”

“如果它不存在,那就自己造出来。”

其实,我以前就试过这个想法。但那时候技术还没跟上。把“语音 → 文本 → AI → 文本 → 语音”这个过程走一遍,听起来很有希望,但远没到能实际使用的程度。

然后最近,OpenAI 突然发布了一个叫 GPT-Realtime-2 的语音引擎。这个模型能“以语音的形式”理解语音,并“以语音的形式”回应。因为它跳过了“语音 → 文本 → AI → 文本 → 语音”这些转换步骤,所以响应很快,对话也更自然。我试着用了一下,心想:“这个能行吗?”——结果太棒了。响应速度和以前明显不一样了。我感觉这可以做到毫无压力。我马上跟我的 AI 搭档商量了一下。

## “CatsAI” 应用

于是,我利用这个引擎,做了一个能用语音操作 Mac 的应用。

既然要做,我就想做出一个能让人产生感情的东西。所以我决定创造一个角色。在我家,猫咪们总是睡在电脑前,特别可爱。我就以它们操作电脑的形象来设计。一只猫角色会作为形象常驻在桌面上,一边说话一边控制 Mac。

名字是我个人的喜好,玩了个“Cat's Eye”的双关,叫“CatsAI”。默认注册了我的三只宠物猫(Yomogi、Ume 和 Azuki)作为角色。

雨宮英俊 | AI / カーライフラボ | Carlife にいろどりを - inline image

当然,角色可以轻松更换。我设计成只要注册一张宠物的照片,就能生成一个角色(使用 GPT-Image-2 进行图像生成)。

## 它能做什么

我是一个 Mac 新手,前不久才从 Windows 环境完全迁移过来。老实说,我对 Mac 还不太懂。即便如此,我能毫无压力地切换过来并正常使用,是因为凡是我不知道的东西,都可以依赖 AI。

话虽如此,以前对 AI 的请求基本上都是基于文本的。我也用语音输入,但那只是代替打字,并不是直接对话。我心想:“这应该够用了。”但人总是贪婪的。我连按着键说话的那一点点麻烦都想省掉。

我之所以会有这种感觉,是因为我已经体验过智能手机上实时 AI 对话是什么样的。一旦“要是 PC 上也能做到这样,而且还能直接操作就好了”这个念头扎下根来,我就再也回不去了。

“打开下载文件夹”、“打开这个应用”、“打开照片应用”、“打开系统设置”——能用语音就能把被其他窗口挡在后面的东西带到最前面。仅仅这一点,就能大大减轻压力。

基本上,“在终端里能做的事情,都应该能做到。”但用起来有没有压力,那是另一回事。在语音对话中,“等待时间”比在文本对话中更让人有压力。响应速度就是一切。

基于这个考虑,目前能无压力使用的功能是文件操作和网络搜索。换句话说,它的响应速度跟 Alexa 差不多。

当然,想要更多功能是难免的。我试图让它能控制鼠标,甚至执行一些有点危险——好吧,考虑到是用语音操作,非常危险——的 shell 操作。不过……请自行承担风险。

但是,对于浏览器操作来说,从语音指令到启动并执行,需要相当长的时间。对于鼠标操作,它牺牲了 Realtime 引擎的优势,在后台运行 Codex。速度自然会下降,还没到能说“毫无压力”的程度。不过,看着 AI 鼠标光标出现在屏幕上,由语音触发操作电脑,还真是挺有趣的体验。

老实说,离那种快速移动的感觉还很远。即便如此,我想你应该能想象到它的发展前景。

顺便说一下,我还实现了平时让 Alexa 做的那些事情——定时器、闹钟、查看当天的日程以及查收邮件。

至于邮件,因为垃圾邮件太多,我原本就搭建了一个系统,让 AI 每天早晚只把特定域名的邮件发给我。这次启用的是其简化版本。

雨宮英俊 | AI / カーライフラボ | Carlife にいろどりを - inline image

## 未来的一小瞥

每天跟 AI 对话、解决各种问题、开发东西,我在对其进化和深度感到兴趣的同时,也有一丝恐惧。

关于与 AI 的语音互动,我们仍然处于进化过程的早期阶段。还有延迟,词语可能无法正确传达。结果就是,如果无法与 AI 很好地沟通,导致它执行了错误的操作,就可能引发灾难性的后果。我想,这大概也是为什么目前世界上能够通过语音执行命令的工具还不那么常见的原因。

在 CatsAI 的默认设置中,出于安全考虑,写入或执行文件的功能是禁用的。你只能打开文件、咨询问题、进行实时对话——仅此而已。但只要你体验过这一点,我相信你一定会看到些什么。

除此之外,如果你更感兴趣,可以更改权限设置,进一步自定义它。根据自定义的程度,你应该能做任何事情。未来,随着语音引擎的准确度和处理速度提升,实现真正无压力的 PC 操作将成为可能,到那时,它肯定会作为正式应用的一个功能出现。

实时对话的一个主要特点是对话是连续的。你沉默时它保持安静,你说话时它随时回应。这种状态能持续维持,本身就很有意义。

有一点需要提醒:我还没能验证在实时待机状态下会消耗多少 token。如果有人了解这方面的情况,请告诉我。

## 给想试试的人

雨宮英俊 | AI / カーライフラボ | Carlife にいろどりを - inline image

CatsAI 已在 GitHub 上发布。请从下面的发布页面下载 Mac 应用(CatsAI.app.zip)。安装说明也汇总在这个页面上。

▶ [[CatsAI v0.1.0 ─ 在此下载]](https://github.com/hidetoame/CatsAI-public/releases/tag/v0.1.0

运行它需要的东西是:macOS、OpenAI API 密钥以及 OpenAI API 计费设置。就这三样。请注意,API 计费与 ChatGPT Plus 付费计划是不同的,必须在 OpenAI API 端单独设置。你需要自行承担对话中使用的 token 费用,所以请经常在 OpenAI 平台上查看你的用量页面。

再次强调,这是个人开发的实验性应用。可能存在 bug 或安全问题。请自行承担使用风险。

## 结语,以及一个请求

我让 AI 进行了安全检查,但老实说,我还不知道这个作品有多安全、有多大的意义。所以我才公开它,希望能有公司员工以外的人用一用,给我坦率的反馈。

源代码也是公开的。如果你想用它来做点什么,或者扩展它,请联系我。

最后还有一点。真正令人惊叹的是,我能在完全不看代码的情况下做出这样一个应用。不久之前我们看到的那个未来,已经成为现实。

我在 AI 相关领域的朋友很少。我希望能借此机会,包括检验一下自己目前掌握了多少知识,来分享信息、建立新的联系。

如果你试用了 CatsAI,请跟我说一声,我的猫咪们也会高兴的。

https://x.com/hidetoame

一键保存

使用 YouMind AI 深度阅读爆款文章

保存原文、追问细节、总结观点,并在一个 AI 工作空间里把爆款文章沉淀成可复用笔记。

了解 YouMind
写给创作者

把你的 Markdown 变成干净的 𝕏 文章

图片上传、表格、代码块,往 𝕏 上手动重排太痛苦。YouMind 把整篇 Markdown 一键转成干净、可直接发布的 𝕏 文章草稿。

试试 Markdown 转 𝕏

更多可拆解样本

近期爆款文章

探索更多爆款文章