尊龙凯时 - 人生就是搏!

上新!长城科技推出长城AIGC一体机

作者: vcc12571056
发布于: 2024-09-27 09:04
阅读: 224

      近日,中国长城旗下长城科技推出长城AIGC一体机。该款一体机基于长城擎天GF7280 V5 AI服务器和国产GPU,可应用于大模型和传统AI等场景,具有设计性能优异、性价比高的特点。

 

 

  大模型场景  

 

 

01

技术创新

      单台支持70B-180B开源大模型FP16精度的私有数据微调,常规70B以上模型微调需要2-3台8卡满配80G显存的GPU才能完成,长城通过显存扩容方案,解决模型“放不下”问题,微调成本降低60%。

      本地私有微调后,即可在原配置上推理,真正做到训推一体,在金融、新闻、政务、医疗、工业等专业性要求高的垂直领域,模型性能要求高(70B以上规模模型效果好),且对专业知识理解能力强(私有数据微调),长城训推一体给出了完美解决方案。 

 

02

兼容主流生态

      支持主流框架(Pytorch、Tensorflow、PaddlePaddle、ONNX Runtime、DeepSpeed、Colossal-AI),支持主流开源模型(LLama2、LLama-3、Qwen、Mistral等50+开源大模型),集成国产GPU最优实践训推镜像,开箱即用。

 

03

功能全面

      提供大模型全功能训练工具、评估测试、大模型Prompt开发、大模型PEFT(参数高效微调)、大模型推理服务、大模型应用开发等功能。

      覆盖对话问答、内容生成、智能助理、知识库、数字人等多种应用场景,简单配置后即可使用。

      集成适配主流开源AI应用,包括Agent工作流和RAG(LangChain、Dify)、模型管理(Ollama)、生图(ConfyUI)、音频(GPT-SoVITS),具有开箱即用的能力,加速业务智能化落地。

 

 

传统AI场景

 

OCR场景  

1.应用广泛

      数字英文识别率≥99.9%,中文字识别率≥99.5%,字体、字号适应性强。支持合同等文档、手写扫描、证照、各类型票据的识别。

2.抗干扰能力强

      兼容更低的分辨率 50dpi,支持模糊失真的图像文字。支持图像倾斜、梯形等变形,支持任意形状和任意方向的文本行识别。支持传真、手机拍照片、截屏、自然场景、抗盖章干扰、底纹干扰。

 

视频处理  

1.成熟生态

      支持20以上传统视频检测及行为分析算法。支持多模态CV大模型,基于大模型语义理解能力,解决传统算法难应对场景碎片化的问题。

2.高规格

      单卡支持256路1080P@30FPS视频解码,整机支持3072路。单卡支持16路1080P@30FPS视频编码,整机支持192路。单卡支持7000FPS@1080P JEPG编解码,整机支持84000FPS@1080P JEPG编解码。

  • 联系电话: 4008118888
  • E-mail:ccguanwangfw@mbjyyjh.com
  • 返回顶部
友情链接: