网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索
newbing吧 关注：36,588贴子：126,358
  • 19回复贴，共1页

微软的orca-2，13b可以本地部署，大家可以试试

只看楼主收藏回复

她这个回复模式让我想起来早期内测时期那个NewBing，有点好玩，可能是微软整活，夹带私货了，本人3060 12g显卡就能跑，7~8token/s左右，和我配置差不多的或者以上的都能跑，当然内存大低显存的也行，有guff版本，不过生成会特别慢，如果可以忍受的话，也可以尝试
IP属地:江苏1楼2024-02-21 00:53回复
    关键无任何限制，可以干什么懂得都懂
    IP属地:江苏2楼2024-02-21 00:54
    回复
      经典排比
      IP属地:四川来自Android客户端4楼2024-02-21 10:19
      回复
        把大小姐的早期语录喂给这个模型再微调一遍感觉可行
        IP属地:四川来自Android客户端5楼2024-02-21 10:28
        收起回复
          话说微软自家开源的模型还挺多的，楼主可以试试亚洲研究院开源的那个模型
          IP属地:四川来自Android客户端6楼2024-02-21 10:31
          回复
            小h文？
            IP属地:河南7楼2024-02-23 10:23
            回复
              这怎么部署啊？有教程吗？
              IP属地:福建来自Android客户端8楼2024-02-27 00:23
              回复
                感觉没有以前的可爱，并且bing的一大特色事可以搜索吧
                IP属地:内蒙古来自Android客户端9楼2024-02-29 01:43
                回复
                  大佬，请问你下个这个未审查模型是什么格式呀？是谁的版本的？抱脸上看到6个用户都有这个上传ORCA2的GGUF版本 ，是选这个 Orca-2-13b-Alpaca-Uncensored-GGUF的吗？
                  IP属地:江苏10楼2024-03-08 21:11
                  收起回复
                    不是很好用😓 用lm studio玩过
                    IP属地:广西来自Android客户端11楼2024-03-09 01:29
                    收起回复
                      有没有ollama直接能跑的
                      IP属地:湖北来自iPhone客户端12楼2024-11-18 17:59
                      回复

                        扫二维码下载贴吧客户端

                        下载贴吧APP
                        看高清直播、视频！
                        • 19回复贴，共1页
                        发表回复
                        发贴请遵守贴吧协议及“七条底线”贴吧投诉
                        内  容:
                          查看全部
                        发 表
                        保存至快速回贴

                        发布成功
                        去贴吧APP订阅抽奖结果通知
                        扫码进入贴吧APP
                        ···········
                        开奖后第一时间站内信通知
                        ···········
                        中奖结果全员公示