j9九游会 - 真人游戏第一品牌(中国)j9九游会

真人游戏第一品牌公司动态行业新闻技术知识解决方案锂电行业汽车与零部件行业平板显示行业 3C电子行业烟草行业电商物流行业家电行业食品饮料行业家居行业医药行业鞋服行业石油化工行业其他行业产品中心移动机器人新能源专用移动机器人潜伏牵引式移动机器人潜伏举升式移动机器人背负移载式移动机器人搬运式智能叉车机器人 CCM-定制系列 CCS-充电站系列软件产品智能控制系统智能仓储管理系统 AI算法服务支持品质服务服务内容关于j9九游会公司简介资质荣誉联系我们加入我们合作夥伴 j9九游会 - 真人游戏第一品牌

公司动态行业新闻技术知识

j9九游会开源 AI 聊天机器人 MLC LLM 发布完全本地运行无需联网|女拳

发布时间：2023/06/07

来源：j9九游会 - 真人游戏第一品牌

　　IT之家 5 月 2 日消息◈✿ღ，目前大多数 AI 聊天机器人都需要连接到云端进行处理j9九游会◈✿ღ，即使可以本地运行的也配置要求极高◈✿ღ。那么是否有轻量化的女拳下载◈✿ღ、无需联网的聊天机器人呢？

　　一个名为MLC LLM的全新开源项目已在 GitHub 上线◈✿ღ，完全本地运行无需联网j9九游会◈✿ღ，甚至集显老电脑机器人应用◈✿ღ，◈✿ღ、苹果 iPhone 手机都能运行◈✿ღ。

　　MLC LLM 项目介绍称◈✿ღ：“MLC LLM 是一种通用解决方案◈✿ღ，它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上◈✿ღ，此外还有一个高效的框架◈✿ღ，供每个人进一步优化自己用例的模型性能女拳下载九游会官网J9◈✿ღ，◈✿ღ。一切都在本地运行女拳下载◈✿ღ，无需服务器支持◈✿ღ，并通过手机和笔记本电脑上的本地 GPU 加速◈✿ღ。我们的使命是让每个人都能在设备上本地开发◈✿ღ、优化和部署 AI 模型AI应用◈✿ღ。真人游戏第一品牌◈✿ღ，◈✿ღ。”

　　IT之家查询 GitHub 页面发现◈✿ღ，这个项目的开发者来自卡内基梅隆大学的 Catalyst 计划女拳下载◈✿ღ、SAMPL 机器学习研究小组以及华盛顿大学女拳下载j9九游会◈✿ღ、上海交通大学和 OctoML 等j9九游会◈✿ღ。他们还有一个名为Web LLM的相关项目女拳下载◈✿ღ，该项目可以完全在网络浏览器中运行 AI 聊天机器人j9九游会◈✿ღ。

　　此外自动化流程◈✿ღ，◈✿ღ，ThinkPad X1 Carbon（第 6 代）也测试成功运行 MLC LLMj9九游会j9九游会◈✿ღ，◈✿ღ，这是一款搭载 i7-8550U 处理器的笔记本j9九游会◈✿ღ，没有独立显卡◈✿ღ，配有英特尔 UHD 620 GPU◈✿ღ。MLC LLM 在 PC 平台需要通过命令行运行◈✿ღ，外媒测试表现一般般女拳下载◈✿ღ，回复时间需要将近 30 秒◈✿ღ，而且几乎没有连续对话能力女拳下载◈✿ღ，希望能在后续版本中得到改进吧◈✿ღ。