微软宣告全面推出 Azure AI Content Safety 内容安全，这是一项新服务，可帮助用户跨应用程序和服务检测和过滤有害的 AI 和用户生成的内容。
微软
该服务包括文本和图画检测功用，能够辨认微软所称的「冒犯、风险或不受欢迎」的内容，包括亵渎、成人内容、血腥暴力和某些类型的言论。
「通过重视内容安全，咱们能够创建一个更安全的数字环境，促进 AI 的负责任运用，西部数码备案,并保护个人和整个社会的福祉，」Azure Anomaly Detector 产品司理 Louise Han 在一篇博文中宣告了该服务的推出。
Azure AI Content Safety 具备处理各种内容类别、言语和威胁的能力，能够对文本和视觉内容进行检查和调理。它还供给了运用 AI 算法扫描、剖析和调理视觉内容的图画功用，保证了微软所称的 360 度全面的安全措施。
该服务还能够在多种言语中进行内容检查，并运用严峻性目标来评价特定内容的严峻程度，该目标的规模从 0 到 7。
0-1 级的内容被认为是安全且适合一切受众的，而表达成见、带有评判性或有定见的内容被评为 2-3 级，即低等级。
中等严峻性的内容被评为 4-5 级，其间包括冒犯、凌辱、嘲笑、恫吓言语或针对身份群体的清晰进犯，而高严峻性的内容被评为 6-7 级，其间包括有害行为的宣传、支持或美化对身份群体的极点有害活动。
Azure AI Content Safety 还运用多类别过滤器来辨认和分类多个关键范畴的有害内容，包括仇视、暴力、自残和性内容。
「[在网络安全方面]，不仅需要考虑人类生成的内容，尤其是跟着 AI 生成的内容变得遍及，保证 AI 生成的输出资料的准确性、可靠性和无害或不适当的资料至关重要。内容安全不仅保护用户免受错误信息和潜在危害，还保护了伦理规范，并建立了对 AI 技术的信赖，」Han 写道。
Azure AI Content Safety 的定价基于按需付费。有爱好的用户能够在 Azure AI Content Safety 定价页面（https://azure.microsoft.com/en-us/pricing/details/cognitive-services/content-safety/）上查看定价选项。