直接解答。
如果这里没有您的问题,请直接问我们。
NectarBox 做什么?
NectarBox 是您的应用与本地运行的 AI 模型之间的一扇门。应用携带自己的密钥,向同一个地址发送标准的聊天请求。NectarBox 会核实调用者身份,记录这次调用(谁、哪个模型、多少 token),并把请求交给本地模型。答案再返回给应用。
适合谁?
想在他人数据上使用 AI、又不想把数据发送给外部 AI 公司的团队:代理机构、律师事务所、会计师事务所,以及运行多个 AI 驱动应用、希望在一处管理密钥和用量的内部团队。只是少量使用 AI 的很小团队,用普通订阅可能更合适。
我们的文本会发送给云端 AI 公司吗?
第 1 版不会。目前只设置了本地模型,没有配置任何云服务商,因此不会有提示词或答案被发送到云端。
我们必须重写应用吗?
不需要。如果应用使用大多数 AI 应用已在用的标准聊天 API 格式,只需换一个新地址和一把新密钥。同时支持固定数据结构的答复。由哪个模型来回答,是在 NectarBox 中设置的,而不是在应用里。
它使用哪些模型,是否能与其他 AI 服务配合?
本地开源模型,通过设置选择,因此应用无需修改代码。哪些模型合适取决于您的硬件和需求,我们会与您一起决定。NectarBox 是您的应用调用的入口;它不替代也不转售外部 AI 服务。
谁能看到我们的提示词和回答?
默认情况下没有人,因为这些内容不被存储。只保留每次调用的事实:谁、哪个模型、多少令牌以及时间。如果您的组织和某个应用的密钥都开启了文本日志,持有该密钥的人可以看到已记录的文本。我们的员工管理账户和席位,其构建目标是不读取提示词、回答或已记录的文本;已由我们自己的测试检查;未经独立审计。
能把一个客户的工作与另一个客户的工作隔离开吗?
可以,这正是客户隔离墙的用途。每条记录在数据库层面按人员和位置(组织、客户)隔离,设计上让一个客户的请求、记录和费用不会触及另一个客户。该功能已构建,正在测试中,由我们自己的测试检查;未经独立审计。
我们的应用和人员如何获得访问权限?
每个人获得一个席位和一条欢迎链接,并创建通行密钥,因此没有可泄露的密码。之后他们为每个应用、脚本或机器人创建一个密钥,并且只能看到一次。密钥可以暂停或吊销,而不影响其他应用(把密钥转交给同事的功能在计划中)。密钥不共享;每个密钥属于一个人。您可以按人员、应用和组织查看用量。
运行它我们需要什么?
一台可以运行小型开源 AI 模型的服务器。我们与您一起确定规格。在我们的测试盒子上,小型模型运行在普通服务器处理器上,一次回答需要几秒到约一分钟;配备专用图形处理器的服务器会更快,并可运行更大的模型。计划是在 IT Labs India 的云端或您的办公场所运行;目前它只在我们的测试盒子上运行。
试点如何进行?
您告诉我们哪些应用应使用 AI 以及它们处理哪些数据。我们与您的组织一起设置 服务器。人们获得一个席位和欢迎链接,并创建通行密钥。他们为每个应用创建一个密钥,并让应用指向新地址。然后我们一起审查用量,由您决定保留什么。范围和期限在一开始与您商定。
NectarBox 可以使用了吗?
它已构建并在测试中。第 1 版运行在我们的测试服务器上,目前没有任何功能标为“现已可用”。未通过测试的内容将被移除。它尚未经过独立审计,我们也不声称有任何合规认证。功能页面显示每项功能的阶段。
费用是多少?
成本按每个试点确定,请与我们沟通,我们会和您逐项说明。
还有疑问?
请联系我们,或登记您的意向,并带上最棘手的那些。