관점 API

관점이란 무엇입니까?

Perspective은 기계 학습을 사용하여 "독성"콘텐츠를 식별하는 무료 API로, 더 나은 온라인 대화를 보다 쉽게 ​​구성할 수 있습니다.

텍스트가 대화에서 미칠 수 있는 인지된 영향을 기반으로 문장에 점수를 매기면 개발자와 편집자는 이 점수를 사용하여 댓글 작성자에게 피드백을 제공하고 중재자가 댓글을 더 쉽게 검토하도록 돕거나 독자가 "독성"언어를 필터링하도록 도울 수 있습니다. Perspective는 다음과 같은 여러 속성에 대한 점수를 제공합니다.

심한 독성

모욕

부상

ID 공격

위협

그리고 음란물

따라서 댓글, 포럼 또는 라이브 채팅에서 나쁜 콘텐츠를 방송하지 않도록 위협적인 댓글 등으로부터 자신을 보호할 수 있는 매우 좋은 솔루션이 있습니다. 이 API로 실현할 수 있는 많은 기능이 있습니다.

Perspective API는 유독한 모욕과 문구를 걸러내는 아주 좋은 방법입니다.

Toxicity online poses a serious challenge for platforms and publishers. Online abuse and harassment silence important voices in conversation, forcing already marginalized people offline.

코드의 예

예제는 JavaScript에 있지만 다른 언어와 완전히 작동할 수 있습니다.

See the documentation dev

// Since the official documentation and slightly modified 
// https://developers.perspectiveapi.com/s/docs-sample-requests

const {google} = require('googleapis')
require('dotenv').config()

CONTENT = 'You're really crap at this game'

// Create an .env file to recover GOOGLE_API_KEY.
API_KEY = process.env.GOOGLE_API_KEY
DISCOVERY_URL =
  'https://commentanalyzer.googleapis.com/$discovery/rest?version=v1alpha1'

google.discoverAPI(DISCOVERY_URL).then(client => {
  const analyzeRequest = {
    comment: {
      text: CONTENT,
    },
    requestedAttributes: {
      TOXICITY: {},
    },
  }

  console.info(`Input Text : ${analyzeRequest.comment.text}`)

  client.comments.analyze(
    {
      key: API_KEY,
      resource: analyzeRequest,
    },
    async (err, response) => {
      if (err) throw err
      let ScoreValue = response.data.attributeScores.TOXICITY.summaryScore.value
      await console.log(`TOXICITY Score : ${ScoreValue}`)
      console.table(JSON.stringify(response.data, null, 2))
    })
}).catch(err => {
  throw err
})

googleapis 및 dotenv를 설치하고 Perspective API 키를 가져와서 코드를 테스트하기만 하면 설정이 매우 쉽습니다. 🎉

yarn add googleapis dotenv

또는 NPM을 선호하는 경우:

npm i googleapis dotenv

저는 이미 No Toxic Discussions라는 GitHub의 오픈 소스 프로젝트를 만들었습니다. 토론 공간에서 메시지를 식별하고 해당 콘텐츠가 유해한지 여부를 확인하는 GitHub Action입니다.

thomasbnt / 작업-NoToxicDiscussions

No Toxic Discussions, 토론 영역에서 독성을 감지하는 GitHub 작업입니다.

이 작업에 대한 DEV 게시물도 있습니다. .

학점

배너의 "Perspective API"로고는 Google Inc.의 Jigsaw에서 가져왔기 때문에 일부 텍스트는 웹사이트에서 복사되었습니다. 소스 코드는 웹사이트의 예제에서 가져와 결과가 표시되도록 수정되었습니다. No Toxic Discussions 프로젝트를 위해 수정한 내용입니다.


☕
내 . 많은 프로젝트와 업데이트를 볼 수 있습니다. 할 수도 있습니다support me on Buy Me a Coffee.