AI 소프트웨어 공학 자료 요약

이 문서의 설명

AI 응용 시스템의 안전성과 신뢰성을 확보하는 신세대 소프트웨어 공학 확립 (과학 기술 진흥기구 연구 개발 전략 센터) 의 개요입니다

본문

AI 소프트웨어 공학이란?

기존의 연역형 시스템과는 다른 귀납형 시스템의 안전성·신뢰성을 확보할 수 있는 방법론·기술 체계이다.

AI 소프트웨어 공학에 대한 두 가지 접근법

1 : 실천으로부터 얻어지는 지견의 체계화⇒산업계를 중심으로 스스로 진행해 간다

2 : 이론·원리에 관련된 학술연구의 접근법⇒본서의 타겟

중요한 기술적 과제(자세한 내용은 문서 참조)

1 : 기계 학습 자체의 품질 보증

2 : 전체 시스템으로서의 안전성 확보

3: 블랙박스 문제에 대한 대책

4 : 문제를 효율적으로 해결하는 엔지니어링 프레임 워크

시스템 개발의 패러다임 전환

종래의 사고방식이 통용되지 않게 되는 예(산업과제)

V자 모델(워터폴 개발)

시스템의 기능 (사양)이 높은 추상화 수준 (상위)에서 특정 수준 (하위)으로 계층 적으로 분해 될 수 있다고 가정한다

그러나 기계 학습의 CACE (Change Anything Change Everything)의 특성으로 인해 그 가정이 성립되지 않는다

시스템 안전성이 위협되는 예(사회 과제)

Adversarial Examples 공격

인간에게는 판별할 수 없지만 AI에는 영향을 주는 것 같은 데이터를 사용해 오인식을 의도적으로 일으키는 행위(adversarial attack 등으로 검색하면 나옵니다)

Microsoft Tay 공개 중지

악의적 인 사람이 학습에 관여함으로써 부적절한 시스템이 완성되는 예

훈련 데이터에 숨어있는 차별·편견

훈련 데이터를 만드는 단계에서 작업자의 차별 및 편견이 포함된다.

AI 적용 산업에서 품질 보증의 중요성

주로 '미스의 심각성', 'AI 기여도', '환경 통제 어려움'의 3 요소가 중요한 관점

업계·연구 커뮤니티의 동향

일본의 AI 전략·정책과의 관련

일본이 내거는 「Society5.0」을 이루기 위해서 2개의 정책이 있다

"인간 중심의 AI 사회 원칙 검토 회의": AI의 사회적, 경제적, 윤리적, 법적 과제를 포함한 AI에 대한 요청을 검토

'인공지능기술전략회의' : AI기술 자체의 연구개발 추진

AI 응용 시스템을 어떻게 만들 수 있는지에 대한 소프트웨어 공학적 관점의 개발 방법론 · 기술 체계의 연구 개발을 추진하기위한 정책이 필요하다

AI 소프트웨어 엔지니어링의 진보로 인한 과학 기술 효과

새로운 학문 분야 창출

기존 소프트웨어 엔지니어링 확장

구체적인 R&D 과제

AI 소프트웨어 공학 체계화

데이터 집합에 초점을 맞춘 기계 학습의 품질 (정확도, 공정성 등) 이론 및 테스트 방법

기존 및 기계 학습 유형의 혼합 시스템의 전반적인 안전성 평가 방법 및 복구 처리 설계 방법

시스템 동작의 해석성 향상 (사고 발생시의 원인 이해나 설계시·이용시의 동작 예측의 용이화)

"기계 학습 (상향식)과 기호 추론 (하향식)을 통합 한 효율적인 문제 해결

※제4장은 생략

Reference

이 문제에 관하여(AI 소프트웨어 공학 자료 요약), 우리는 이곳에서 더 많은 자료를 발견하고 링크를 클릭하여 보았다 https://qiita.com/masso/items/eba7ae67f21648cd692c

텍스트를 자유롭게 공유하거나 복사할 수 있습니다.하지만 이 문서의 URL은 참조 URL로 남겨 두십시오.

우수한 개발자 콘텐츠 발견에 전념 (Collection and Share based on the CC Protocol.)