聊聊AI接入指南:从API到本地部署全解析

刷到一个挺有意思的话题,结合自己之前的经验,整理了一下核心要点。

目录

AI发展历程

​编辑

为什么需要API接入大模型

API接入云端大模型

api测试


AI发展历程

在这个科技发达的时代,想必大家对AI工具肯定是十分熟悉的,但对AI的使用,却有着多种多样的途径,本篇旨在对AI大模型接入SDK工程

### 为什么需要API接入大模型

使用官方大模型服务就像开车,会操作就行,目的是到达终点;调用AP就像学习汽车原理、保养和改装,能让你造出更适合任务的专用车,甚至将发动机装到飞机、轮船上。前者是大模型产品的使用者,后者已经摇身成为大模型应用的创造者。

大语言模型接入有两种方式:

1.通过官方提供的API接入云端大模型-----deepseek:(1)提供了一个网页的产品,供普通大众使用;(2)deepseek提供一些操作模型的api,供程序员使用

优势:

  • 开箱即用,零门槛
  • 模型顶尖,能力强大
  • 成本可控
  • 持续更新
劣势:
  • 数据安全风险----企业用户
  • 持续成本
  • 网络延迟
2.通过第三方工具本地部署大模型,ollama工具

优势:

  • 绝对的安全数据
  • 无需持续付费
  • 网络延迟坑
  • 对模型是完全可控的
劣势:
  • 硬件成本
  • 模型性能
  • 运维和技术门槛
  • 模型需要手动更新

API接入云端大模型

1.运行官方大模型的服务器在哪里?

2.官方提供的API在哪里?

这里以deepseek为例

进入API开放平台

API Key是一种用于身份验证和授权的密钥(如身份证),本质就是⼀个通过特定算法生成的字符串,可用于:

身份验证:验证你的应用程序是否被授权,只有拥有API Key的用户才能调用大模型的API

授权:限制应用程序对特定功能或资源的访问权限。举个例子:某些高级功能需要特定API Key才能访

监控和限制:监控API的使用情况,举个例子统计请求次数、限制请求频率,以防滥用

计费:根据API的使用情况,向用户收取费用

于是我们需要申请自己的API key,身份的凭证

API key申请好之后,在自己的本地妥善保存一份,请勿分享给其他人,否则可能会被官方封掉

想知道这个API到底在哪里,可以查看API文档

此处为官方服务器的地址

该例子为非流式的,开头调用处为api的地址 

model:deepseek-v4-pro为模型名称

我们在和模型聊天时的一个api,HTTP协议为post

api测试

这里我建议用大家使用apifox

创建好自己的团队之后,在团队中接入api链接

因为该链接使用到的HTTP协议为post,于是我们这里也需要选择post

这里所需要的路径为根路径,根路径为服务器名称之后,即红框

接下来就是设置参数,我们将post的请求参数放在body当中,以json的方式来进行组织,根据curl中进行填写

通过以上给的参数填写请求参数中的Body部分,并选择JSON进行填写

在Headers中填写所需的头部参数

还可以在右上角处,进行对自己apikey进行私密

还可以在此处对你的这个接口命名

然后这个接口就相当于开发完了

如果要给模型发消息的话,就需要将服务器的地址填进来

依旧是左上角这个位置中的测试环境,里面有个默认URL,将其改成你所要调用的大模型的api(如deepseek),之后保存即可

之后这个返回的响应就先不用管了,后续需要对响应来进行解析

接下来就需要对接口进行验证

运行就需要选择环境,环境选择在红框处

环境有开发环境,测试环境,线上环境

大模型即会回答你了


就写这么多吧,内容比较基础,适合入门回顾。有补充的地方欢迎留言一起完善。

评论 (0)

暂无评论