unsloth 是一个本地跑大模型的工具,提供桌面应用和网页界面两种带图形的用法,普通人不用背命令也能上手。今天它在涨星榜上,星数已经到 77034。
现在想在本地用大模型,多数方案绕不开命令行:装环境、敲参数、看报错,一步卡住就全卡住。没写过代码的人基本被挡在门外,会写的人也只是被迫多花时间在折腾环境上。
它把这件事做成了三种用法:Unsloth Desktop 是桌面应用,装完打开就能用;Unsloth Studio 是网页界面,浏览器里操作;Unsloth Core 留给想写代码的人。想点按钮的点按钮,想写代码的写代码,一条路径卡了换另一条。
值得展开的是它的硬件兼容:Windows、Linux、WSL、macOS 都支持,NVIDIA、AMD、Intel 的显卡和 CPU 都能跑,还有 Vulkan 后端。也就是说不用为了它换电脑、换显卡,家里那台旧机器先试起来再说。这一步省掉的是“先查半天兼容性”的麻烦。
判断很直接:想本地用大模型又不想碰命令行,它给了一条现成的路;硬件差异带来的实际效果需要自己试。
如果你感兴趣但不会装,评论区或私信喊我一声。