RWKV-Runner开箱即用的AI软件 -聊天 写作 作曲一键启动管理器

RWKV Runner 是 RWKV 模型的管理和启动工具,由 RWKV 开源社区成员 josStorer 开发,它本身也是一个开源软件,且体积仅 10MB 左右(不含依赖项)。
开箱即用的 AI 功能:易于使用的聊天、写作、作曲交互等 AI 功能,支持聊天预设,支持 MIDI 硬件输入及音轨编辑等功能。

RWKV-Runner开箱即用的AI软件 -聊天 写作 作曲一键启动管理器

软件特性

🤖 开箱即用的 AI 功能:易于使用的聊天、写作、作曲交互等 AI 功能,支持聊天预设,支持 MIDI 硬件输入及音轨编辑等功能。

✨ 用户友好的 UI 设计:易于理解和操作的参数配置,丰富的操作引导提示;支持多语言;支持主题切换;支持自动更新

⚙️ 丰富的内置功能:内置 WebUI 选项,可一键启动 Web 服务,共享硬件资源,内置模型转换工具、下载管理和远程模型检视、一键 LoRA 微调 (仅限 Windows)

🥂 强大的兼容性:预设多级显存配置,几乎在各种电脑上工作良好。(通过配置页面将 Strategy 切换到 CPU / WebGPU,可以在 AMD、Intel 等显卡上运行)。

🧷 前后端分离架构:用户可以在服务器部署 backend-python,然后将此程序仅用作客户端,也允许单独部署前端服务,或后端推理服务,或具有 WebUI 的后端推理服务。

开箱即用的AI软件 -聊天 写作 作曲一键启动管理器

#聊天功能
软件提供了开箱即用的聊天功能,你可以与 AI畅聊、提出问题并获取建议。

开箱即用的AI软件 -聊天 写作 作曲一键启动管理器

#写作功能
写作功能可根据你提供的文本内容作进一步的续写、翻译等任务。

开箱即用的AI软件 -聊天 写作 作曲一键启动管理器

#作曲功能
作曲功能可提供基于 MIDI 格式的乐谱创作、续写等功能,同时为生成的乐谱提供播放功能。

开箱即用的AI软件 -聊天 写作 作曲一键启动管理器

下载和使用指南

    1. 注意:无论下载哪个版本,请将程序放在一个空目录(空文件夹)内再执行,因为软件所有依赖文件均会放在此目录。

准备启动环境

首次打开 RWKV Runner 软件时,点击“运行”按钮,软件会提示你缺失 Python 等依赖项。

跟随软件的引导点击 “安装”,RWKV Runner 会为你自动下载并安装所需的文件。

下载完成并启动 RWKV Runner 后,放置 RWKV Runner 的文件夹应该会具有以下标准的离线环境目录:

开箱即用的AI软件 -聊天 写作 作曲一键启动管理器其中 models 文件夹用于存放 RWKV 模型,RWKV Runner 默认从此文件夹读取本地 RWKV 模型。

启动环境只需在首次启动 RWKV Runner 时配置一次。

对于 Mac 和 Linux 用户,请手动安装 Python3.10 (通常最新的系统已经内置了)。此外,你可以在设置中指定使用的 Python 解释器。

模型配置与运行

完成启动环境的配置后,我们可以开始下一步:配置、下载并运行 RWKV 模型。

为了照顾新手用户,RWKV Runner 内置了一系列预设模型配置,以降低使用难度。

开箱即用的AI软件 -聊天 写作 作曲一键启动管理器

每个模型配置名称的规则,依次代表着:设备-所需显存/内存-模型规模-模型语言。
例如 GPU-8G-3B-CN,表示该配置用于 Nvidia 显卡,需要 8G 显存,模型规模为 30 亿参数,使用的是中文模型。
模型的规模越大,理论上的任务效果会更好,但对设备的内存、显存等性能要求也会更高。
如果你使用 NVIDIA(英伟达)的显卡,可以选择“GPU” 前缀的预设模型配置。
如果你使用的是 AMD 或 Intel 的显卡,请选择 “CPU” 或“AnyGPU” 前缀的预设模型配置。
选择一项预设的模型配置后,点击右下角的 运行 按钮,即可运行对应的模型。
如果你尚未拥有该预设配置所需的 RWKV 模型,请点击弹窗的“下载”按钮,系统将自动为你下载对应的模型文件。
(如果模型下载失败或无响应,请勾选使用Huggingface镜像源)

等待模型下载完成,再度点击 运行 按钮,即可启动模型,并运行各类 AI 功能。

开箱即用的AI软件 -聊天 写作 作曲一键启动管理器

下载权限
查看
  • 免费下载
    评论并刷新后下载
    登录后下载
  • {{attr.name}}:
您当前的等级为
登录后免费下载登录 小黑屋反思中,不准下载! 评论后刷新页面下载评论 支付以后下载 请先登录 您今天的下载次数(次)用完了,请明天再来 支付积分以后下载立即支付 支付以后下载立即支付 您当前的用户组不允许下载升级会员
您已获得下载权限 您可以每天下载资源次,今日剩余
AIGC资源

告别传统建模!5秒TripoSR直出3D模型整合包-本地运行无需联网

2024-4-11 15:36:21

AIGC资源

5 秒实现自动抠图?AI一键抠图工具BRIA-RMBG整合包来了

2024-4-16 11:59:43

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索
在线客服
幕后
点击下面图标和我们联系
2024-05-26 01:13:59
您好,有任何疑问请与我们联系!
您的工单我们已经收到,我们将会尽快跟您联系!
[技术支持]
674316
微信号
取消

选择聊天工具: