Gemma 3是谷歌发布的一款轻量级多模态模型。能够处理文本、图片和视频。BuluAI平台预置了Gemma3-27B参数的模型,该模型具备支持超过140种语言的128K上下文窗口,支持函数调用/工具调用。
本文介绍云端一键部署以及API调用Gemma3-27B的方法:
step 1:找到Gemma3-27B模型
在【弹性算力】页面,配置好GPU规格后,下拉页面至底部,在【选择镜像–预置模型镜像,点击选择Gemma3-27B

step 2:在快捷工具中打开
点开容器实例页面,在开机实例的快捷工具中,点击【open-webui】

step 3:登录 Open WebUI
电子邮箱可任意写,不用激活验证。填完后,可保存登陆信息。

step 4:即可进入Gemma3-27B交互页面

step 5:模型调用
成功进入页面后,您可以通过以下两种方式调用Gemma3-27B模型:
方式一:通过WebUI直接交互
输入问题/指令:在WebUI的输入框中直接输入您的问题或任务指令(例如:“请用Python实现快速排序算法”),提交后即可收到实时返回的推理结果。
方式二:通过API调用(适合开发者)
1)获取API信息:
返回BuluAI容器实例页面,在实例的快捷工具中找到ollama,右键复制链接。

2)调用示例(Shell):
curl http://sh.tools.buluai.cn:40317/api/generate -d '{
"model": "gemma3:27b",
"prompt": "Why is the sky blue?",
"stream": false
}'
3)处理响应:
API会返回JSON格式的结果,在自己的业务逻辑中正确的处理他们。
小贴士: