谷歌开源模型Gemma3-27B

Gemma 3是谷歌发布的一款轻量级多模态模型。能够处理文本、图片和视频。BuluAI平台预置了Gemma3-27B参数的模型,该模型具备支持超过140种语言的128K上下文窗口,支持函数调用/工具调用。

本文介绍云端一键部署以及API调用Gemma3-27B的方法:

step 1:找到Gemma3-27B模型

在【弹性算力】页面,配置好GPU规格后,下拉页面至底部,在【选择镜像–预置模型镜像,点击选择Gemma3-27B

step 2:在快捷工具中打开

点开容器实例页面,在开机实例的快捷工具中,点击【open-webui】

step 3:登录 Open WebUI

电子邮箱可任意写,不用激活验证。填完后,可保存登陆信息。

step 4:即可进入Gemma3-27B交互页面

step 5:模型调用

成功进入页面后,您可以通过以下两种方式调用Gemma3-27B模型:  

方式一:通过WebUI直接交互  

输入问题/指令:在WebUI的输入框中直接输入您的问题或任务指令(例如:“请用Python实现快速排序算法”),提交后即可收到实时返回的推理结果。  

方式二:通过API调用(适合开发者)  

1)获取API信息:  

返回BuluAI容器实例页面,在实例的快捷工具中找到ollama,右键复制链接。

2)调用示例(Shell): 

curl http://sh.tools.buluai.cn:40317/api/generate -d '{
  "model": "gemma3:27b",
  "prompt": "Why is the sky blue?",
  "stream": false
}'

3)处理响应:

API会返回JSON格式的结果,在自己的业务逻辑中正确的处理他们。

小贴士:  

API调用详情,可以参考官方网站的文档

https://github.com/ollama/ollama/blob/main/docs/api.md