开源模型 PrivateGPT 上线,可本地搭建、避免信息外泄

35小吃技术网 推荐阅读 2023年10月05日22时18分47秒 88 0

IT之家 6 月 25 日消息,三星、摩根大通、苹果、亚马逊等公司因担心泄露公司机密信息而发布命令,禁止员工使用它们。

开发人员 Ivn Martnez Toro 最近推出了一个开源模型,允许用户在没有互联网连接的情况下根据自己的文档提出问题。

开源模型可以在家庭设备本地运行,运行前需要下载开源的大型语言模型(L网LM),称为大型语言模型(LLM)。

开源模型 PrivateGPT 上线,可本地搭建、避免信息外泄-第1张图片

然后,指示用户将所有相关文件放入一个目录中,以便模型提取所有数据。

训练 LLM 后,用户可以向模型提出任何问题,模型网将使用提供的文档作为上下网文进行回答。

开源模型 PrivateGPT 上线,可本地搭建、避免信息外泄-第2张图片

可以摄取超过 58,000 个单词,目前需要大量本地计算资源(建议使用高端 CPU)来设置。

Toro表示,目前正处于概念验证(PoC)阶段,至少证明完全可以在本地创建类似的大型模型,并且可以预见,这个PoC有潜力转化为实际的模型。产品,使公司能够访问个性化、安全和私人信息,以提高生产力。

IT之家在此附上页面链接,感兴趣的用户可以点击阅读。