【环球网科技综合宣布】7月11日，网宿科技宣告正式推出其全新的AI做事——边缘AI网关。
网宿科技CDN产品研发总监曾智全在发布会上表示，随着AI成为新一轮创新的焦点，越来越多的企业希望利用AI技能来推动业务发展，但每每受限于技能或履历的缺少。网宿科技这次推出的边缘AI网关，正是为了帮助企业更大略、更安全、更有效地运用AI技能。
据悉，网宿边缘AI网关旨在为企业在模型做事与AI运用之间搭建起一座桥梁。无论是个人开拓者还是大型企业，都可以通过网宿边缘AI网关更加便捷地管理和集成模型做事，进而更好地开展AI运用创新。
近年来，随着GPT等大模型的兴起，AI在各行各业的运用加速呈现。集成大模型已成为提升运用体验和功能深度的普遍趋势。然而，企业在利用多个模型或供应商时，面临着高昂的AI运用本钱以及繁芜的管理和运维难题。如何更好地管控模型利用、降落本钱支出，并清晰地洞察AI利用现状和做事问题，成为企业构建AI运用的内在诉求。
此外，企业在利用模型做事的过程中，还面临着敏感数据透露、内容不合规等风险。目前，大多数企业组织还未动手办理或正在办理这些AI干系风险。
针对这些寻衅，网宿边缘AI网关供应了一体化的办理方案。企业可以通过统一的掌握平台创建边缘AI网关，添加通道，实现与多个AI做事商的模型对接，并且平台支持多模型做事的可管、可控、可不雅观察。
在接入层面，网宿边缘AI网关已经提前完成了与多个主流AI做事商的集成。企业开拓职员无需频繁修正代码，只需在掌握台进行网关配置，即可一次接入并利用多个模型做事，大大提升了接入效率。
在管理层面，网宿边缘AI网关支持分外配置，企业可以在AI网关上灵巧定义优先级、负载均衡、限速等策略，按需配置不同模型做事，实现本钱可控或减少滥用。同时，企业还可以在要求失落败情形下实现无缝切换，提升AI做事的可靠性。其余，启用缓存功能后，一旦要求在AI缓存中命中，则不必回到模型供应商，从而减少tokens数的花费，降落本钱并提高相应速率。
在运营层面，网宿边缘AI网关供应数据可视化功能，聚合来自多个模型供应商的指标，并支持要求数、tokens数、缓存数、缺点数等的剖析展示。同时，供应实时日志记录，让企业可以不雅观测和掌握模型做事的利用情形，以优化模型做事策略。
除了高效接入与管理外，网宿边缘AI网关还看重确保模型做事的安全性、高性能以及可定制化。在安全性方面，企业可以在网关上配置提示词过滤规则或实行内容安全审计，以确保交互内容的安全、合规和尊重用户。在做事性能上，依托网宿强大的环球资源网络，用户可以就近接入边缘分布式AI网关，确保访问的稳定性和速率。
目前，网宿边缘AI网关已开放限时免费测试，以支撑用户的AI体验。未来，网宿科技还将深入企业运用，聚焦特定的AI场景，打造更多如边缘向量数据库、边缘模型推理做事等创新产品，操持面向"大众年夜众开放。
届时，企业将能够轻松集成公共或自有模型，通过边缘AI网关合理管控模型运用，并获取多模型运行数据。同时，他们还可以与边缘函数、边缘KV存储、运用引擎等组合利用，灵巧构建和扩展边缘AI运用，实行智能问答、内容创作、检索增强、图片识别等多样化的AI任务。
随着AI时期的不断发展，网宿科技在AI领域的能力布局将持续深化。曾智全表示，网宿科技将致力于构建更加敏捷、适应性更强、更安全的AI生态系统，让更多企业都能拥抱AI，并从中得到创新与增长。