图像安全审核

图像安全审核提供鉴黄、鉴政、鉴暴恐等多种类型的敏感内容审核服务，有效识别违禁图片，规避违规风险。

功能特性

审核类型	描述
涉黄识别	检测色情、性感内容，有效降低人工审核成本，适用于各类社交平台、即时通讯应用，帮助平台规避涉黄风险
涉暴恐识别	识别图片中的恐怖分子、邪教组织、枪支弹药、血腥暴力等恐怖主义内容，帮助平台规避法律风险
涉政识别	通过人脸识别、图片泛化等技术检测图片涉政内容，帮助平台及时响应法律法规要求，规避舆论风险
广告识别	通过广告引导类图片的识别，帮助平台屏蔽广告信息

• 注意：您不仅在云函数中可以使用该扩展能力，也可以在客户端使用，文件读写权限策略与云存储一致，减去您额外的权限管理工作。

前置要求

1. 已经开通云开发。
2. 云环境已安装图像安全审核扩展，点击此处查看安装情况

使用说明

1. 安装扩展 SDK 到项目

npm install --save @cloudbase/extension-ci@latest

2. 注册扩展到Cloud对象

小程序中

const extCI = require('@cloudbase/extension-ci');

// 初始化环境
qq.cloud.init({
    env:"test-x1dzi"
})

// 注册云开发扩展
qq.cloud.registerExtension(extCI);

云函数中

const cloud = require('qq-server-sdk');
const extCI = require('@cloudbase/extension-ci');
// 初始化环境
cloud.init({
  env: cloud.DYNAMIC_CURRENT_ENV
})
// 注册云开发扩展
cloud.registerExtension(extCI);

3. 调用扩展 SDK

Cloud.invokeExtension(extensionName: String, options: Object): Promise

参数说明

参数	类型	是否必须	说明
extensionName	String	是	扩展名，传CloudInfinite
options	Object	是	扩展参数，说明见下方

options参数

名称	类型	是否必须	说明
action	String	是	操作类型，传：ImageProcess
cloudPath	String	是	文件的绝对路径，与cloud.uploadFile中一致
fileContent	ArrayBuffer或Buffer	否	文件内容, 有值，表示上传时处理图像；为空，则处理已经上传的图像
operations	Object	否	图像处理参数

operations节点内容

名称	类型	是否必须	说明
type	String	是	审核类型支持：porn（涉黄识别）、terrorist（涉暴恐识别）、politics（涉政识别）、ads（广告识别），可选择多种识别类型，如porn,ads

返回内容

参数名称	类型	描述
RecognitionResult	Object	内容识别结果

RecognitionResult 节点内容：

参数名称	类型	描述
PornInfo	Object	鉴黄审核信息
TerroristInfo	Object	鉴暴恐审核信息
PoliticsInfo	Object	鉴政审核信息
AdsInfo	Object	广告审核信息

审核信息（PornInfo、TerroristInfo、PoliticsInfo、AdsInfo）中包含如下内容：

参数名称	类型	描述
Code	Int	错误码，0为正确，其他数字对应相应错误。详情请参见 错误码
HitFlag	Int	是否命中：0(未命中)，1(命中)，2(疑似)
Score	Int	审核分值：0 - 60分(正常)，60 - 90分(疑似敏感)，90 - 100分(确定敏感)
Label	String	识别出的图片标签

调用示例

小程序使用：

const extCI = require('@cloudbase/extension-ci');
qq.cloud.init({
    env:"test-x1dzi"
})
// 注册云开发扩展
qq.cloud.registerExtension(extCI);

云函数中使用：

const cloud = require('qq-server-sdk');
const extCI = require('@cloudbase/extension-ci');
// 初始化环境
cloud.init({
  env: cloud.DYNAMIC_CURRENT_ENV
})

// 注册云开发扩展
cloud.registerExtension(extCI);

您可以根据需要选择在【客户端】或【云函数】中使用，再按照如下代码调用：

async function demo() {
  try {
    const res = await cloud.invokeExtension('CloudInfinite',{
      action:'DetectType',
      cloudPath: "ab.png", // 需要分析的图像的绝对路径，与cloud.uploadFile中一致
      operations: {
        type: "porn"
      }
    })
    console.log(JSON.stringify(res.data, null, 4));
  } catch (err) {
    console.log(JSON.stringify(err, null, 4));
  }
}

• 更多使用说明可参考腾讯云扩展能力-图像安全审核