上新！長(zhǎng)城科技推出長(zhǎng)城AIGC一體機(jī)
近日，中國(guó)長(zhǎng)城旗下長(zhǎng)城科技推出長(zhǎng)城AIGC一體機(jī)。該款一體機(jī)基于長(zhǎng)城擎天GF7280 V5 AI服務(wù)器和國(guó)產(chǎn)GPU，可應(yīng)用于大模型和傳統(tǒng)AI等場(chǎng)景，具有設(shè)計(jì)性能優(yōu)異、性價(jià)比高的特點(diǎn)。
大模型場(chǎng)景
01
技術(shù)創(chuàng)新
單臺(tái)支持70B-180B開(kāi)源大模型FP16精度的私有數(shù)據(jù)微調(diào)，常規(guī)70B以上模型微調(diào)需要2-3臺(tái)8卡滿配80G顯存的GPU才能完成，長(zhǎng)城通過(guò)顯存擴(kuò)容方案，解決模型“放不下”問(wèn)題，微調(diào)成本降低60%。
本地私有微調(diào)后，即可在原配置上推理，真正做到訓(xùn)推一體，在金融、新聞、政務(wù)、醫(yī)療、工業(yè)等專(zhuān)業(yè)性要求高的垂直領(lǐng)域，模型性能要求高（70B以上規(guī)模模型效果好），且對(duì)專(zhuān)業(yè)知識(shí)理解能力強(qiáng)（私有數(shù)據(jù)微調(diào)），長(zhǎng)城訓(xùn)推一體給出了完美解決方案。
02
兼容主流生態(tài)
支持主流框架（Pytorch、Tensorflow、PaddlePaddle、ONNX Runtime、DeepSpeed、Colossal-AI），支持主流開(kāi)源模型（LLama2、LLama-3、Qwen、Mistral等50+開(kāi)源大模型），集成國(guó)產(chǎn)GPU最優(yōu)實(shí)踐訓(xùn)推鏡像，開(kāi)箱即用。
03
功能全面
提供大模型全功能訓(xùn)練工具、評(píng)估測(cè)試、大模型Prompt開(kāi)發(fā)、大模型PEFT(參數(shù)高效微調(diào))、大模型推理服務(wù)、大模型應(yīng)用開(kāi)發(fā)等功能。
覆蓋對(duì)話問(wèn)答、內(nèi)容生成、智能助理、知識(shí)庫(kù)、數(shù)字人等多種應(yīng)用場(chǎng)景，簡(jiǎn)單配置后即可使用。
集成適配主流開(kāi)源AI應(yīng)用，包括Agent工作流和RAG（LangChain、Dify）、模型管理（Ollama）、生圖（ConfyUI）、音頻（GPT-SoVITS），具有開(kāi)箱即用的能力，加速業(yè)務(wù)智能化落地。
傳統(tǒng)AI場(chǎng)景
OCR場(chǎng)景
1.應(yīng)用廣泛
數(shù)字英文識(shí)別率≥99.9%，中文字識(shí)別率≥99.5%，字體、字號(hào)適應(yīng)性強(qiáng)。支持合同等文檔、手寫(xiě)掃描、證照、各類(lèi)型票據(jù)的識(shí)別。
2.抗干擾能力強(qiáng)
兼容更低的分辨率 50dpi，支持模糊失真的圖像文字。支持圖像傾斜、梯形等變形，支持任意形狀和任意方向的文本行識(shí)別。支持傳真、手機(jī)拍照片、截屏、自然場(chǎng)景、抗蓋章干擾、底紋干擾。
視頻處理
1.成熟生態(tài)
支持20以上傳統(tǒng)視頻檢測(cè)及行為分析算法。支持多模態(tài)CV大模型，基于大模型語(yǔ)義理解能力，解決傳統(tǒng)算法難應(yīng)對(duì)場(chǎng)景碎片化的問(wèn)題。
2.高規(guī)格
單卡支持256路1080P@30FPS視頻解碼，整機(jī)支持3072路。單卡支持16路1080P@30FPS視頻編碼，整機(jī)支持192路。單卡支持7000FPS@1080P JEPG編解碼，整機(jī)支持84000FPS@1080P JEPG編解碼。
