发帖

手机端

扫码访问

立即注册

登录

运营动脉»社区 › 经验交流 › 随便聊聊 › 想本地部署一个大语言模型

返回列表发新帖

查看: 175|回复: 1

想本地部署一个大语言模型

小白兔〤奶糖

4 主题	11 回帖	30 积分

Rank: 1

积分: 30

发表于 2024-12-22 19:10:21 | 显示全部楼层 |阅读模式

只测试了ollama，下载了上百G的大模型，测试结果都是流模式输出，有没有又快又非流模式输出的？
如果想让大语言模型给上百万字的文本文件总结文章大纲、西纲等要如何弄？

回复

使用道具举报

2 主题	14 回帖	33 积分

Rank: 1

积分: 33

发表于 2024-12-22 19:31:34 | 显示全部楼层

秀起来~

回复支持反对

使用道具举报

返回列表发新帖

特惠

限量优惠活动

正在火热进行

站长

添加站长微信

领取运营礼包

下载

便携运营智库

立即下载APP

导航

运营工具导航

AI工具导航

AI

AI运营助手

帮助

帮助中心

常见问题

顶部