星空体育,星空体育官方网站,星空体育APP下载

　　2024年1月，ArsTechnica 网站援引其读者提供的截图报道称，ChatGPT 泄露了多段非用户本人的对话内容，包含了大量敏感信息。该读者原本只是使用 ChatGPT 进行一个无关的查询，却意外发现聊天记录中出现了不属于自己的对线日，国家网络与信息安全信息通报中心在官方微信公众号发布情况通报称，大模型工具Ollama存在安全风险。通报称，据清华大学网络空间测绘联合研究中心分析，开源跨平台大模型工具Ollama默认配置存在未授权访问与模型窃取等安全隐患。鉴于目前DeepSeek等大模型的研究部署和应用非常广泛，

　　例如，企业在将一体机与现有的业务系统对接时，需要进行繁琐的调优工作，这对于许多企业而言是一个不小的挑战。特别是在行业需求上，不同行业的客户对大模型的要求各不相同，从政务到金融，再到医疗、制造业等，每个领域的技术要求都在不断变化。中国云厂商优刻得董事长兼首席执行官季昕华曾公开表示，将大模型和企业内部数据相结合颇有挑战，不是简单部署一套DeepSeek就可以，而是要明确场景，把数据用好。作为云服务商，优刻得积累了大量应用和场景，正在联合To B的应用开发者，希望将这方面的经验带给客户。

　　对于场景适配问题，部分硬件厂商有了自己的解法。海光信息相关专家表示，客户对训推一体机有一定需求，但广泛的业务部署需要高性价比，满足预算要求的Deepseek一体机方案。针对这一深刻洞察，DCU提供了多套部署方案和产品组合分别应对蒸馏版和满血版的需求，确保客户的钱花在刀刃上，避免资源浪费。而且DCU较高的显存，以及对各类精度的支持，尤其在BF16、INT8、INT4等不同的数值精度格式的加持下，可以满足不同场景需求。

　　火山引擎相关人士表示，“AI一体机涉及硬件、软件和AI模型的集成，技术门槛较高，也需要定期更新升级(比如支持 DeepSeek 后续的升级版模型)，需要厂商能提供完善的维保服务。遇到AI大模型在实际业务场景中的性能不如预期的情况下，不仅需要企业自身配备专业的算法工程师，也需要AI一体机厂商在软件层面能提供模型压缩、量化和蒸馏工具，帮助优化模型性能;提供自动化调优工具，帮助企业快速找到最优参数;提供专业的AI咨询服务，帮助企业解决性能瓶颈。”

　　虽然部分厂商已经推出了“集成算力+大模型+场景方案”的模式，试图满足特定行业的需求，但这些方案往往局限于某些特定的业务场景，无法满足多变的行业需求。针对升级的难题，海光信息相关专家表示，大模型技术仍在持续迭代，硬件过时是AI行业的共同挑战。但需要注意到一体机的核心价值在于软硬件协同优化，并非硬件堆叠。面对新模型的需求，可以有多种途径应对。比如软硬件协同优化，让老设备继续运行新模型的蒸馏版;在硬件架构设计中保留一定的扩展性空间，以支持单节点局部替换升级，让用户可通过叠加算力卡应对模型计算需求，无需更换整机，减少升级成本。另外，持续加速产品迭代，保持异构兼容能力也是硬件可持续升级的关键。