claude吧 关注:20,338贴子:126,618
  • 12回复贴,共1

本地70B midnight miqu使用体验

只看楼主收藏回复

结论在这里,以前最常用claude2.1,现在miqu才是我的最爱


IP属地:陕西来自手机贴吧1楼2024-10-08 02:31回复
    设备 mac studio m1 max 64g 速度 6t/s,不过本来流式生成我英语读得也不快
    英语对话,非常有逻辑性,完全符合人设,毕竟是专门针对nsfw 的rp训练的。比较有创造力,各种谐音梗接得很好。评价肯定是比gpt和gemini优秀太多。
    缺点:大概有10%的概率会代替user发言,目前没有找到很好用的prompt


    IP属地:陕西来自手机贴吧2楼2024-10-08 02:37
    回复
      好贵,mac studio m1 max 64g上淘宝看了一下要1.8w一台,加上学习成本,本地部署ai还是有点难度


      IP属地:广东来自Android客户端3楼2024-10-09 18:49
      收起回复
        现在70B要多少显存才能玩


        IP属地:江苏来自Android客户端4楼2024-10-10 13:48
        收起回复
          没有中文水平吗?和3.5对比如何?


          IP属地:上海来自Android客户端5楼2024-10-10 20:08
          收起回复
            感觉一个模型如果只专精一个语言大小会小很多,现在那种100多b的本地模型都要搞十几个语言,太花里胡哨了


            IP属地:上海来自Android客户端6楼2024-10-10 20:09
            回复