看到一个非常有趣的例子,分享一下,TranslateGemma以及其应用:
首先,TranslateGemma是什么?
TranslateGemma 是一套以 Gemma 3 为基础打造的开放式翻译模型,提供 4B(4 亿)、12B(12 亿)、27B(27 亿)三种参数规模,对应不同的使用场景。支持500组语言,可以识图,识别PDF中的文字。
TranslateGemma 的最大优势在于“可根据设备规模选择模型”,针对不同的计算环境提供了多种版本:
- 4B(40 亿)版本:已针对移动设备与边缘设备进行优化,适合进行离线翻译或内置于 App 中实时使用。
- 12B(120 亿)版本:可在笔记本电脑或本地环境顺畅运行,将研究级别的翻译能力带入本机。
- 27B(270 亿)版本:主打追求最高保真度,适合部署于云端 GPU 或 TPU 环境,例如单颗 NVIDIA H100 或 Google TPU。
嘿嘿,我们可以直接在Huggingface下载模型文件,然后在ollama里用
https://huggingface.co/collections/google/translategemma
https://www.kaggle.com/models/google/translategemma/
那更近一步,有个软件,叫做GPT旅行翻译神奇

安装之后,点击设定,可以启用离线模式,就下载的是TranslateGemma 4B的模型

启动离线模式,没有网的状态下就可以进行翻译:

我的手机有点逊色,iphone 12 Pro MAX有点费劲,主流的iphone 16应该很流畅
这也算是大模型的立即应用了。