方寸智匣1.8.0:聊天模型指挥六类本地AI,语音到视频实测
黑粉科技 · 实测记录

方寸智匣1.8.0:聊天模型指挥六类本地AI,语音到视频实测

14 分钟
分类:
标签:
摘要

同一聊天完成六类本地媒体调用,语音接转写、红杯接编辑;原始产物、参数回执和问题一起展示。

完整动态样片

LTX-2.5本机最小样片|25帧原件

打开或下载完整视频

一张蓝底红杯,下一条聊天指令把杯子改成绿色。原图来自本地图片模型,编辑交给另一个本地模型,聊天里的文件路径把两步接了起来。

我想解决的就是这个问题:电脑里已经有配音、转写、图片和视频模型,能不能在同一个聊天窗口里安排它们干活,最后把真实结果交回来?这轮方寸智匣1.8.0的修复,已经把六类媒体调用接进了安装版对话:语音合成、语音转写、图片生成、图片编辑、音乐生成和视频生成。

图片生成|蓝底红杯

图片编辑|同一只杯子改成绿色

这轮实测在2026年10月12日完成,文章于13日整理。设备是M5 Pro、64GB统一内存,macOS 26.7.1。聊天模型是Swift-1.5-Qwen3.8-27B-Splash,使用温度0.7、低思考、单次输出上限16K。六项任务从安装版的普通聊天窗口依次发出,使用同一个会话。本文展示这轮留下的原始产物和运行记录。

一个聊天入口,几种各有专长的模型

录视频时,我经常需要图片、配音、字幕和一小段补充画面。过去的操作很像拿着一张购物清单跑几家店:配音在一处,转写去另一处,出图后再找编辑入口,文件还得自己递过去。

现在聊天模型负责拆解请求、选择已接入的工具,再读取执行回执。专门的媒体模型负责生成或识别,方寸智匣负责启动服务、核对能力、传递参数和保存文件。这里的“工具调用”,就像把清单交给各个窗口办理;每个窗口都有自己的可办理事项,最后还要凭回执找到实际结果。

这次最直接的变化,是完整媒体请求能够进入共同代理流程。聊天模型可以先查能力和模型目录,按这次请求选择一个已登记的兼容模型,再执行任务。本次选择不会改掉软件的默认模型设置。需要换模型时,目录必须确实存在,名称也要匹配,不能只在回复里写个模型名就算切换完成。

安装版对话|视频任务返回实际文件

先出图,再把这张图交给编辑模型

我给图片工具的任务很简单:蓝色背景上放一个红色茶杯,512×512,种子20261012,使用已登记的Qwen-Image-2.1-Turbo模型。种子可以理解为一次随机抽样的编号;记录它有助于对照实验,但同一编号的结果还会受模型、引擎和其他设置影响。

聊天模型先查询目录和能力。第一次查询时,图片后端还在加载,记录保留了这个状态;随后模型自行再查,确认这条执行路线固定使用八步、引导1.0,再提交生成请求。后端纯生成用时25.911秒,实际图片是512×512,画面就是蓝底红杯。冷启动和聊天等待是另外的耗时,不能合并成“整个任务只要26秒”。

下一条请求直接使用上一步实际返回的图片:把红色茶杯改成绿色,保留蓝色背景,四步、种子20261013、512×512像素预算。Mage-Flow编辑模型接手后,输出的杯子变绿,背景和构图保留,工具实际执行约五秒。

这条链的价值在于文件真正接上了。后续工具读取的是上一步生成的那张图片,实际结果可以逐张打开核对。图片编辑前两次启动退出,第三次成功;这些记录还在,原因尚未确认,不能据一个完成样例声称每次冷启动都稳定。

编辑参数也有一处值得仔细看。程序以前走的上传接口没有读取种子和步数字段,这次改成后端支持的JSON编辑接口。像填写订单一样,请求单上的“四步、指定种子”必须送到实际办理窗口;表单里看起来能填,后台不读取,控制就没有生效。

这次后台日志能确认四步,输出PNG能确认512×512。种子有真实提交证据,上游没有回传实际采用值,所以记录里保留未知。尺寸预算也是按输入图比例分配像素;本轮输入为方图,输出正好是512×512,不能把这一结果套用到所有长宽比例。

配音接转写:链路接通,文字差异原样展示

语音请求是:“方寸智匣可以在对话中调用不同类型的本地模型。”语言设为中文,温度0.6,使用已经配置的参考声音。OmniVoice实际生成了24kHz、单声道WAV,文件时长2.52秒,工具执行约八秒。

安装版对话|语音生成及参数

接着,我让Whisper读取这份真实音频,指定中文、温度0,开启逐词时间戳。它返回的文本是“可以在对话中调用不同类型的本领过去”。开头品牌名没有出现在识别结果里,结尾也与原句有差异。这里保留原音频和原转写,语音生成与识别各自造成了多少偏差,本轮还没有确定。

这时需要回到音频核对,单看聊天总结还不能确定差异发生在哪一步。录屏展示时,先播放音频,再对照转写表格,让观众自己听和看。“本领过去”这几个字有点喜感,但拿来正式配音或做字幕,仍要逐句核听和校正。

转写时间戳的意义则很实际:它给每段和每个词标出开始、结束位置,后续做字幕可以找到对应音频。本轮回执里的分段和逐词信息已经回到聊天中,没有在界面传递时只剩下一段纯文字。

音乐和视频,也在同一个会话里执行

音乐任务要求十秒轻柔钢琴纯音乐,BPM80、三拍、指定种子。BPM表示每分钟多少拍,可以跟着节拍器理解;三拍是节奏分组要求,能不能听出这些控制,还要听实际音乐。

这次修复的是拍号传递:原生后端读取字符串,程序把数字3转换成“3”再提交。最终文件是48kHz双声道WAV,实际十秒。后端没有返回实际采用的节拍、拍号和种子,本轮也没有完成听感验收,所以文章只确认文件时长与提交记录。

音乐已经生成后,聊天汇总又等待了一段时间。记录显示上下文预填耗时约两分十秒,随后任务正常结束。预填可以理解为接着办事前,先把前面的材料重新读一遍;材料越多,这段准备越可能变长。这里的等待发生在聊天模型处理上下文阶段,音乐工具本身约6.5秒已经返回,两个时间应分别看。

视频任务用LTX-2.5生成黄色小鸭漂在平静水面,256×256、25帧、种子20261012,并关闭响度后处理。真实产物含H.264视频和AAC音频,25帧,1.041667秒,工具约33秒返回。

视频实测|首帧、中间帧、末帧

这是为验证聊天调用而做的最小短片。接触图里能看到水面小鸭;完整声音效果没有验收。要拿模型做正式长镜头,还需要按目标分辨率、时长和参考控制另测,这个一秒样例只覆盖当前任务。

六项实测结果放在一起看

类型 实际模型 本轮确认的结果
语音合成 OmniVoice 中文、温度0.6传入;真实音频2.52秒,下游转写差异原因未定
语音转写 Whisper large-v3-turbo 读取前项音频,保留分段及逐词时间戳;识别差异原样保存
图片生成 Qwen-Image-2.1-Turbo-GGUF 512×512蓝底红杯;固定八步,指定种子,纯生成约26秒
图片编辑 Mage-Flow-Edit-Turbo 读取前项图片,红杯改绿杯;实际512×512,执行约五秒
音乐生成 ACE-Step-1.5-XL-Turbo 拍号按字符串提交;实际十秒双声道音频,听感未验
视频生成 LTX-2.5-MLX-q8 实际256×256、25帧、1.04秒有声视频,工具约33秒

表里按实际模型分别记录。语音到转写、图片到编辑是两条已完成的文件衔接;六种媒体任务从同一个聊天入口执行。这样才方便判断,问题出在模型结果、文件传递,还是程序把参数送错了。

这轮程序优化,具体省掉了什么麻烦

模型选择以前有一个容易被界面掩盖的缺口:工具查询到了请求的图片模型,实际启动命令却仍可能使用默认模型。现在启动路径跟着本次选择走,选择和执行对上了。

还有一处纯显示问题。图片能力回执中的runtime是引擎名称,界面曾把这个同名字段当成网页检查报告,提示“检查报告格式异常”。原始能力回执其实正常,误报会让用户以为图片服务出了问题。最终包补测已经正常显示stable-diffusion.cpp和固定八步,历史记录继续保留。

这轮也把“能提交什么”和“实际返回了什么”区分得更清楚。音乐的拍号格式已修正,编辑的步数和种子进入正确接口;转写时间戳保留完整。对模型没有声明的参数,程序明确报错,方便按能力调整请求。已有一个成功样例,也不能据此把全部高级选项都打开:例如当前路线未支持的蒙版、非一倍语速或未声明的LoRA,仍有各自限制。

长媒体任务现在会持有可续租的活动令牌。它像正在办理的取号单:任务还在执行,软件能知道服务正在使用,避免按闲置回收。本轮最久的媒体工具少于90秒,活动保护有程序回归和执行接线证据,更长生成的实际场景还没有穷举。

这批程序改动解决的是入口、参数、文件和状态之间的衔接。我现在可以让聊天模型安排几种本地模型干活,并沿着回执找回结果;输出是否适合正式作品,仍要打开图片、听音频、看视频。

下载、模型准备与录屏演示

Mac1.8.0已经公开,最终安装包从DMG安装并启动。六类实测包与最终包的64份媒体执行资源逐字节一致,最后的界面修复另外做了安装版真实补测。发行资产实际下载后校验一致,更新包独立验签通过。Mac包是临时签名,尚未苹果公证;Windows和Linux本轮没有新包,手动安装版保持1.7.6。这轮Mac测试不能代替其他平台验收。

软件安装包不带模型权重。先准备对应运行环境和模型,再启动支持工具调用的聊天模型;进入对话后写清任务、输入文件、所需参数和输出要求。想选某个模型时先查已登记目录,想控制声音、画面或时长时先查实际能力。准备完成后的这些媒体推理在本机执行,下载、更新和主动使用联网工具仍可能需要网络。

方寸智匣下载与更新(发行页)

下载方寸智匣Mac1.8.0安装包(Apple Silicon,DMG)

查看六类媒体调用与本版验收记录

录屏可以先展示红杯变绿杯,再回到同一会话解释文件怎样交接;随后播放语音、核对转写,展示十秒音乐和一秒视频,最后看参数回执、恢复记录与停止后台服务。样例原件、提示词和名录会放在配套材料里,重新运行得到的新结果要另记,不能覆盖本轮原稿。

下载六类实测样例、提示词与测试名录(ZIP)

同版还整理了Wuli MiniMax-H3-Turbo的Mac模型准备与下载页,提供四/六/八步和MLX四/八位六档选择。它与本轮视频样例使用的LTX-2.5是两条模型路线。此前Wuli四步出现色块、首尾条件样例出现灰帧,原因和效果修复继续搁置;下载入口接入完成,不能替代这些画面问题的解决。

模型下载|Wuli六档选择

我的判断是,这轮升级最有用的地方,在于已经准备了多种本地模型的人,可以从一个聊天入口安排任务,并把实际产物继续递给下一个工具。对做教程、字幕、配图和短片素材的人,这比来回切窗口、猜参数有没有送到更省事。设备内存、模型体积、冷启动和成品质量,仍要按自己的工作要求权衡;正式制作前,用自己的素材先做一次小任务,沿着回执把文件和效果核对清楚。


🧰 我做的工具

这些工具都由我持续维护。预览版会明确标注,下载、更新和已知边界以发行页为准。

信息:黑粉盒子 HyphenBox 状态: 正式迭代

免费大模型 API 雷达:持续复测可用性,本地统一接口,Key 只存本机

下载与更新:黑粉盒子 HyphenBox

信息:方寸智匣 LocalBrain 状态: 正式迭代

本地模型的多模态 MCP 工具箱:TTS / Whisper / 视频生成一站接入

下载与更新:方寸智匣 LocalBrain

信息:ScreenLex 光影词库 状态: 正式迭代

看美剧顺手把生词背了,Mac/Windows 双平台,免费

下载与更新:ScreenLex 光影词库

信息:黑粉录屏 HyphenScreen 状态: 正式迭代

录屏 + 智能剪辑一体:达芬奇式时间线、自动打码、导出前成片体检,免费

下载与更新:黑粉录屏 HyphenScreen


引用:黑粉科技 让AI成为你的超能力 本地部署 · 免费白嫖 · 自制软件 黑粉科技

分享到:

留言

正在加载留言…