快用闲置的大叽叽自己搭建一个自己的ai语言大模型

三月七 · 发表于 2024-3-21 07:49:51

可以纯CPU运行，速度不慢。即使是7B的模型实测也可以跑。

ollama
https://ollama.com/download/linux

搭配openwebui使用
https://github.com/open-webui/open-webui

在这里下载你想要的模型：
https://ollama.com/library

刚刚试了下未审查的模型，还是很六的

liuluoqianqiu · 发表于 2024-3-21 08:43:41

感觉不必，下个智障没必要

zhouktv1 · 发表于 2024-3-21 08:43:03

还不如挖矿zeph

机长 · 发表于 2024-3-21 07:58:25

翻译功能怎么样

icon · 发表于 2024-3-21 08:01:04

大便AI

xuanruo0710 · 发表于 2024-3-21 08:10:23

那么最低需要什么配置呢？

你号没了 · 发表于 2024-3-21 08:42:35

本帖最后由你号没了于 2024-3-21 08:44 编辑

笑死了写代码如何

大爷 · 发表于 2024-3-21 11:14:16

有没有一键代码

luckmc · 发表于 2024-3-21 11:21:44

整个模型不行。不能上下文

kindlecon · 发表于 2024-3-21 11:23:45

7b普遍都挺蠢的，8x7b效果就很好了，体验跟chatgpt3.5差不多。

		自动登录	找回密码
密码			注册