☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

编译丨伊风

出品 | 51CTO技术栈（微信号：blog51cto）

易标AI

告别低效手工，迎接AI标书新时代！3分钟智能生成，行业唯一具备查重功能，自动避雷废标项

135 查看详情

生成性人工智能（generative AI）的需求正不断增长，而对LLM安全和可靠性的担忧也变得比以往任何时候都更加突出。企业希望能确保为内外部使用而开发的大规模语言模型（LLM）能够提供高质量的输出，而不会偏离到未知领域。 为了满足这一需求，有几个关键方面需要考虑。首先，应该加强对LLM模型的可解释性，使其能够透明地展示其生成结果的来源和逻辑推理过程。这将有助于用户理解输出的质量，并评估其可信度。 其次，需要提供更多的工具和技术来验证和检测LLM输出的准确性和正确性。这些工具可以帮助用户在使用

微软认识到这些担忧，长期以来，微软使用OpenAI的模型只能调用API，对黑盒里的秘密缺少掌控的方法。微软近期宣布推出了新的Azure AI工具，用以帮助解决大模型的幻觉问题，同时能够够解决安全漏洞问题，如提示输入攻击，即模型被攻击生成侵害隐私或其他有害内容——就像微软自己的AI图像创作器生成的泰勒·斯威夫特深度伪造图像一样。

据悉，安全工具将在未来几个月内广泛推出，目前尚未公开具体的时间表。

1.Azure AI在大模型的安全做些什么？

随着LLM的普及，提示注入攻击问题变得格外突出。本质上，攻击者可以以一种方式改变模型的输入提示（prompt），以绕过模型的正常操作，包括安全控制，并操纵它以显示个人或有害内容，从而危及安全或隐私。这些攻击可以通过两种方式进行：直接攻击，即攻击者直接与LLM交互；或间接攻击，这涉及使用第三方数据源，如恶意网页。

为了解决这两种形式的提示注入，微软正在将提示盾（Prompt Shields）添加到Azure AI。这是一个综合能力，使用先进的机器学习（ML）算法和自然语言处理自动分析提示和第三方数据的恶意意图，并阻止它们到达模型。

它将集成到微软的三个相关产品中：Azure OpenAI服务（编者注：Azure OpenAI 是微软推出的一款基于云的服务产品，它提供了对OpenAI强大语言模型的访问能力。Azure OpenAI 的核心优势在于它结合了OpenAI的先进技术和微软Azure的安全性及企业级承诺）、Azure AI内容安全和Azure AI工作室。

除了努力阻止威胁安全和安全的提示注入攻击外，微软还引入了专注于生成型AI应用程序可靠性的工具。这包括预建的安全中心系统消息模板和一个新的功能，称为“基础性检测”（Groundedness Detection）。

正如微软所解释的，安全中心系统消息模板允许开发人员构建引导模型行为朝着安全、负责和数据基础输出的系统消息。而基础性检测使用一个经过微调的定制语言模型来检测模型产生的文本输出中的幻觉或不准确材料。两者都将在Azure AI工作室和Azure OpenAI产品中提供服务。

值得注意的是，检测基础性的指标还将伴随着自动化评估，以压力测试生成型AI应用程序的风险和安全性。这些指标将衡量应用程序被越狱并产生任何不适当内容的可能性。评估还将包括自然语言解释，以指导开发人员如何构建适当的缓解措施来解决问题。

“今天，许多组织缺乏压力测试其生成型AI应用程序的资源，以便他们可以自信地从原型转向市场应用。首先，构建一个反映新出现风险范围的高质量测试数据集可能是具有挑战性的，例如越狱攻击。即使有高质量的数据，评估也可能是一个复杂且手动的过程，开发团队可能会发现很难解释结果以通知有效的缓解措施，”微软安全AI首席产品官Sarah Bird在博客文章中指出。

2.Azure AI将实时“监控”大模型

Azure AI在实际使用过程中，微软将提供实时监控，帮助开发人员密切关注触发安全功能（如提示盾）的输入和输出。这项功能被集成在Azure OpenAI服务和AI工作室产品中，将生成详细的可视化图表，突出显示被阻止的用户输入/模型输出的数量和比例，以及按严重性/类别的细分。

利用这种可视化的实时监测，开发人员能够了解有害请求趋势随时间的变化，并调整其内容过滤器配置、控制以及更广泛的应用程序设计，以增强安全性。

微软致力于加强其AI产品已经有很长的时间了。此前，微软CEO萨提亚·纳德拉（Satya Nadella）在采访中强调，微软并没有完全依赖于OpenAI，同时也在发展自己的AI项目，以及帮助OpenAI建设其产品：“我对于我们现在的关系感到很满意。我也认为，这样有助于我们掌握各自公司的命运。”

改变了“All in OpenAI”的格局，微软也使用了包括Mistral在内的大模型。最近，微软新成立的团队Microsoft AI动作频频，它甚至聘请了来自Inflection AI的Mustafa Suleyman及其团队。这似乎是一种减少对Sam Altman及OpenAI依赖的方法。

现在，这些新的安全和可靠性工具的加入建立在公司已经完成的工作基础上，为开发人员提供了一个更好、更安全的方式来构建其提供的模型之上的生成型AI应用程序。

参考链接：https://venturebeat.com/ai/microsoft-launches-new-azure-ai-tools-to-cut-out-llm-safety-and-reliability-risks/

以上就是更好、更安全、更不依赖OpenAI，微软的AI新动向，推出大模型安全工具Azure AI的详细内容，更多请关注其它相关文章！

# openai  # api  # 微软  # 开发人员  # 模型  # 还将  # google网站优化推广价格  # 为什么网站要优化推广  # 宠物店营销推广政策方案  # 郑州网站排名优化哪家好  # 西安网站推广排行  # 58同城推广营销怎么样  # 漳州数字营销推广分类  # 联想推广策划营销效果预测  # 安吉推广网站公司  # 解决问题  # 将在  # 自然语言  # 更不  # 高质量  # 自己的  # 应用程序  # 推广 营销遇到的问题 

相关栏目： 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195 】

相关推荐： 夸克为什么会变小  如何在一串数字前面去掉四位数的命令  如何选择启用固态硬盘  华硕k20ce怎么装win7  交管12123协议头不完整怎么解决  如何激活固态硬盘  43寸电视长宽多少厘米  新三板市盈率是什么意思  j*a怎么声明byte数组  j*a 怎么清空数组元素  华为的type-c接口是什么接口  如何用命令连接mysql  空调主板单片机怎么拆开  液位传感器power是什么意思  如何更新固态硬盘固件  命令行ftp如何创建目录  冰柜power是什么意思这个黄灯怎么不亮  苹果16都有哪些亮点  春运提前抢票攻略  固态硬盘如何装入机箱  苹果手机16系统有哪些  driver是什么意思  春运哪天抢票最好预约  typescript如何遍历map  命令行如何运行c  苹果16promax有哪些颜色  如何寻找和修复无法在 AI 中找到文件的问题  单片机计时程序怎么写  每日推荐电声音乐软件有哪些  摩托车上power是什么意思  春运抢票技巧攻略  如何修改cad中的命令  .asm如何在命令行运行  苹果16关闭哪些功能好  云淡风轻什么意思  课程伴侣登不上怎么办  NoSQL数据库有哪些特点  如何使硬盘升级固态硬盘  play的三人称单数和过去式  本科一批和本科二批是什么意思  oppo手机nfc功能是什么意思  老电脑如何装固态硬盘  typescript中如何引入本地js  sql isnull函数如何使用  33000日元等于多少人民币  电脑5G怎么上传手机  夸克加载什么要会员  哪些库是typescript  typescript为什么现在才火  2025年国外最佳语音聊天软件排行榜