硬核观察 #947 以众包的方式在家用电脑上运行大语言模型

以众包的方式在家用电脑上运行大语言模型

BigScience 项目最近公布了 BLOOM，这是一个支持 46 种自然语言和 13 种计算机语言的 1760 亿个参数的模型，参数数量和性能与 GPT-3 相当。但它需要超过 350GB 的加速器内存，甚至需要更多的优化调整。他们开发了名为 🔗 petals.ml 的框架，可以以众包的方式在家用电脑上运行大语言模型。参与者可以运行客户端和服务器端，可以调整模型，子模块在训练后可以发布在模型中心，以便其他人可以利用它们进行推理或额外的训练。

谷歌将某多多应用标记为恶意程序

谷歌周一出于安全理由从其官方应用商店下架了某多多应用，将其标记为恶意程序。谷歌说，“这个应用的非谷歌商店版本被发现含有恶意软件，已经通过谷歌商店保护进行防范”。安卓内的安全机制将阻止用户安装它。对于已经安装的该应用的用户，谷歌建议用户卸载。当然，由于众所周知的原因，该应用主要出现在谷歌应用商店之外的厂商商店中。在这之前，多个中国安全研究人员披露该应用包含有恶意功能，居然利用零日漏洞提权来阻止卸载并监视用户。

生成式人工智能的下一个领域是视频

几个月来，像 DALL-E 和稳定扩散这样的服务一直在创造美丽的、引人注目的、有时令人不安的图片。现在，一家名为 Runway AI 的初创公司正在使用 AI 生成视频，该系统可以通过用户的几句话提示生成简短的视频片段。目前已经可以在几分钟内生成几秒钟长度的视频。

昨日观察

关注 Linux 中国，每日硬核点评