Watson Open Scale을 사용해 보았습니다.

Watson Open Scale이란?


  • 용도 : AI 모니터링 도구
  • 특징 : 신뢰성, 투명성, 설명 가능성의 시각화
  • 설명 : AI 결정이 어떻게 이루어 졌는지 설명한다. 또한 바이어스를 자동으로 감지하고 줄이고 공정하고 신뢰할 수있는 결과를 만듭니다.
  • 작동 원리 : 모델에 대한 실제 입력 및 출력에서 ​​시뮬레이션으로 모델을 재구성하고 분석합니다

  • 기능 확인


  • 정확성, 공정성 확인

  • 시계열 프로덕션 환경에서의 신용 판단 확인
  • Age 19 -25와 Sex female에 대한 응답 상태를 확인할 수 있도록 설정하고 있습니다. 젊은층은 no risk라고 판단하고 있는 것 같습니다.


  • 3. 연령별 여신 판단 확인
  • 각 연령에 대해 모델의 판단 상황을 한눈에 알 수 있습니다.


  • 4. 성별별 여신 판단 확인
  • 이것으로 성별마다 차이가 있으면, 바이어스가 걸려 있다고 하는 것이 될 것입니다.


  • 5. 특징량의 기여도의 확인
  • 50세라면, 리스크가 높다고 하는 것이군요.

  • 좋은 웹페이지 즐겨찾기