Hugging Face 与 Dell 推出 Dell Enterprise Hub,支持本地训练和部署开源模型
Hugging Face 与 Dell 联合推出 Dell Enterprise Hub,可在 Dell 平台上本地训练和部署开源模型,将原本数周的工程工作缩短至几分钟。
Hugging Face 与 Dell 联合推出 Dell Enterprise Hub,可在 Dell 平台上本地训练和部署开源模型,将原本数周的工程工作缩短至几分钟。
OpenAI 与业内顶尖选角及导演专业人士合作,从 400 多份投稿中筛选,最终为 ChatGPT 选定 5 个语音。
ChatGPT 的数据分析功能获得升级,用户现在可以与表格和图表进行交互,并直接从 Google Drive 和 Microsoft OneDrive 添加文件。
Hugging Face 在 Transformers 中新增 KV Cache 量化功能,通过降低 KV 缓存精度减少长上下文生成的内存占用,int4 精度下质量接近 fp16。
Canva 是一个月活超 1.75 亿人的视觉传播平台,用于制作演示文稿、视频、文档、网站和社交媒体图片等。面对全球多数知识工作者缺乏设计训练的问题,Canva 通过易用界面、丰富素材库和节省时间的工具,让任何人都能创作出有视觉吸引力的内容。
Hugging Face 与 LangChain 联合发布合作包 langchain_huggingface,这是一个由双方共同维护的 Python 包,可通过 pip install langchain-huggingface 安装。
Hugging Face 发布 Transformers Agents 2.0,在原有智能体类型之外新增两类可基于历史观察迭代的智能体,并加入共享功能。官方称新框架下 Llama-3-70B-Instruct 智能体在 GAIA 榜单上超过多个基于 GPT-4 的智能体,排名第 4,成为开源类别领先者。
推荐理由:官方给出新智能体框架的模块划分与 GAIA 榜单成绩,可据此判断开源智能体方案的可用边界。
Hugging Face 现已支持通过 AWS 账户将组织升级至 Enterprise Hub,用户可在 AWS Marketplace 完成订阅并关联 Hugging Face 组织账户。
Artificial Analysis 将其覆盖 100 多个无服务器 LLM API 端点的 LLM Performance Leaderboard 上线 Hugging Face,综合对比模型的质量、上下文窗口、价格、吞吐与延迟。
OpenAI 发布 ChatGPT 与 Whisper 的 API,供开发者将对话与语音能力接入自有应用。
OpenAI 宣布 GPT-4 API 正式开放(general availability),GPT-3.5 Turbo、DALL·E 和 Whisper API 也同步正式开放。同时公布旧版 Completions API 模型的退役计划,这些模型将于 2024 年初下线。
推荐理由:OpenAI 公布 GPT-4 等 API 正式开放及旧模型退役安排,读者可据此规划接口迁移。
OpenAI 为 API 客户新增更多安全功能与控制项,并更新 Assistants API,同时提供更便于管理成本的工具。
Hugging Face 推出 Deploy on Google Cloud,可将数千个开源模型一键部署到 Google Cloud 的 Vertex AI 或 GKE,作为自有账号内的 API Endpoint。
OpenAI 为微调 API 新增功能,让开发者对微调拥有更多控制权,同时公布构建自定义模型的新方式。官方称此举旨在扩展其自定义模型计划,具体功能细节与开放范围尚未披露。
Hugging Face Hub 上线 Deploy on Cloudflare Workers AI 集成,让开发者以无服务器 API 方式调用 Llama、Gemma、Mistral 等热门开源模型,按请求付费、无需管理 GPU 基础设施。
OpenAI 宣布让用户无需注册即可直接使用 ChatGPT,以便更轻松地体验 AI 带来的好处。
推荐理由:OpenAI 官方宣布 ChatGPT 无需注册即可使用,读者可据此了解其降低使用门槛的具体变化。
OpenAI 分享了自定义语音生成模型 Voice Engine 小规模预览的经验教训。该模型可根据样本创建定制声音,目前仍处于小范围测试阶段。
Zelma 利用 GPT-4 让教育数据变得易于获取。
OpenAI 上月发布 Sora 后,与艺术家合作探索其在创作流程中的应用,并公布了首批使用反馈。
Pollen Robotics 开源 pollen-vision 库,为机器人提供零样本视觉模型的统一接口,首个版本聚焦 3D 物体检测,输出物体在 3D 空间中的 (x, y, z) 坐标。
Lighthouz AI 联合 Hugging Face 推出 Chatbot Guardrails Arena,让用户与两个匿名 LLM 聊天,尝试套取虚构银行 XYZ001 客户的敏感信息并投票选出隐私保护更强的模型。
Holiday Extras 已在所有团队中部署 ChatGPT Enterprise,每周提升生产力 500 小时。这家旅游附加服务公司借助 AI 打造数据驱动、高效的企业文化。
Superhuman 宣布与 OpenAI 合作,推出由 AI 驱动的新一代邮件体验。官方称这标志着邮件进入新纪元,但未披露具体模型版本、功能细节或上线时间。
Hugging Face 面向 Enterprise Hub 组织推出 Train on DGX Cloud,可一键调用 NVIDIA H100 Tensor Core GPU 微调 Llama、Mistral、Stable Diffusion 等模型。
Hugging Face 发布 Quanto,一个面向 Optimum 的 PyTorch 量化后端,支持 int2、int4、int8 和 float8 权重以及 int8、float8 激活,量化模型可部署在 CUDA、MPS 等任意设备上。
Match Group 正在使用 ChatGPT Enterprise 激发创意并提升影响力。OpenAI 分享了这一企业级产品的应用案例。
Paradigm 正使用 OpenAI 的 API 改善患者参与临床试验的可及性。该举措旨在让更多患者更容易找到并加入合适的临床试验。
Lifespan 利用 GPT-4 大幅提升健康素养并改善患者预后。该机构借助 GPT-4 帮助患者更好地理解医疗信息,从而改善治疗效果。
Argilla 与 Hugging Face 发起 Data is Better Together 实验,几天内吸引 350 名社区贡献者完成超 11,000 次 prompt 评分,并发布含 10,000 条 prompt 用户评分的 10k_prompts_ranked 数据集。
Hugging Face 发布 TTS Arena,用户输入文本后由两个模型分别合成语音,投票选出更自然的一方,结果汇总为公开排行榜。首批参评模型包括 ElevenLabs、MetaVoice、OpenVoice、Pheme、WhisperSpeech 和 XTTS,投票前不显示模型名称以避免偏见。榜单初期为空,随投票累积自动更新,排名采用类似 Elo 的算法。
Mistral AI 发布对话助手 Le Chat,作为与自家各模型交互的对话入口,底层可调用 Mistral Large、Mistral Small 或原型模型 Mistral Next。
推荐理由:Mistral 官方发布对话助手 Le Chat 及企业版,可了解其模型入口与自部署、审核机制。
Upstage 于 2023 年 9 月发起 Open Ko-LLM Leaderboard,为韩语大模型提供公开评测平台,采用 Ko-ARC、Ko-HellaSwag、Ko-MMLU、Ko-Truthful QA 和 Ko-CommonGEN V2 五项任务,并使用不公开的私有测试集防止数据污染。
OpenAI 正在测试 ChatGPT 记住用户讨论内容的能力,以便让后续对话更有帮助。用户对 ChatGPT 的记忆拥有控制权。
推荐理由:OpenAI 开始测试 ChatGPT 记忆功能,读者可了解其能力边界与用户控制方式。
Hugging Face 为 Text Generation Inference(TGI)和 Inference Endpoints 推出 Messages API,从 1.4.0 版本起提供与 OpenAI Chat Completion API 兼容的接口,可直接配合 OpenAI 客户端库、LangChain 或 LlamaIndex 使用。
推荐理由:TGI 新增 OpenAI 兼容的 Messages API,读者可据此判断现有 OpenAI 脚本迁移到开源模型的改造成本。
SegMind 发布 SegMoE 框架,可从零创建混合专家(MoE)扩散模型,并已集成进 Hugging Face diffusers 生态。同时发布 SegMoE-4x2、SegMoE-2x1 和 SegMoE-SD4x2 三个模型(Apache 2.0 许可)以及配套 GitHub 仓库,用户通过 config.yaml 即可组合任意数量的模型,几分钟内完成构建。
推荐理由:原文给出从零构建扩散模型 MoE 的完整流程与显存代价,读者可据此判断本地部署门槛。
Hugging Face Text Generation Inference(TGI)正式在 AWS Inferentia2 和 Amazon SageMaker 上全面可用,为生产级 LLM 部署提供 GPU 之外的替代方案。
Digital Green 利用 OpenAI 技术为农民构建农业数据库,以提高农民收入。
OpenAI 发布 GPT Store。
OpenAI 推出面向各类规模团队的 ChatGPT 新套餐 ChatGPT Team,提供安全、可协作的工作空间,帮助团队在工作中充分利用 ChatGPT。
推荐理由:OpenAI 面向各类规模团队推出 ChatGPT 团队版,提供安全协作工作空间,可据此了解其企业协作定位。
WHOOP 借助 GPT-4 为用户提供个性化的健身与健康指导。该功能面向 LLM 驱动的健康解决方案场景,将 GPT-4 的能力接入 WHOOP 的健康教练服务中。