[Google Study Jam - Beginner] 03. Introduction to Responsible AI

책임감 있는 AI 사용의 의미

01. 의미

(1) Understand why Google has put AI principles in place

(2) Identify the need for a responsible AI practive within an organization

(3) Recognize that decisions made at all stages of a proect have an impact on responsible AI

(4)  Recognize that organizations can design AI to fit their own business needs and values

 

02. AI와 사람 간의 상호작용 : AI 시스템

(1) Example ) 교통, 날씨 예측 / 다음에 볼만한 TV 프로그램 추천 등

(2) 발전 상황 : AI가 흔해지면서 AI에 기반하지 않은 많은 기술이 부족하게 느껴질 수도 있는 정도로, 빠른 속도로 발전됨

(3) 효과 : 컴퓨터를 통해 세상을 보고, 이해하고, 상호작용 가능케 함

(4) 문제 : 엄청난 발전에도 불구하고 AI는 완벽하지 않다

  -  Responsible AI 에 대한 보편적인 정의 및 관행을 구현하는 방법을 정의하는 간단한 체크리스트나 공식 X

  ⇒ Responsible AI 를 개발하려면 잠재적인 문제, 한계 또는 의도하지 않은 결과에 대해 이해할 수 있어야 함

 

03. 자체적인 AI 원칙 개발

(1) Organization : Organization의 사명과 가치를 반영하여 자체적인 AI 원칙을 개발

(2) 특징 : 원칙이 각각 다르지만 공통적인 주제를 찾을 수 있음

  - 투명성 + 공정성 + 책임성 + 개인 정보 보호

 

04. 사람의 의사결정과 Responsible AI

: 정의되고 반복 가능한 프로세스가 필요

(1) 오해 : 머신이 중요한 의사결정 역할을 한다고 오해

(2) 실제 : 사람의 결정이 Google의 기술 제품 전반에 얽혀 있음

  ⇒ 의사 결정을 내릴 때마다 고민과 평가가 있어야만 개념부터 배포와 유지관리를 거치는 동안 책임감 있게 선택 가능

  - 사람이 이러한 머신을 설계하고 빌드하며 사용되는 방식을 결정

  - 모델 학습 및 데이터 수집 + 생성

  - AI 배포와 AI가 주어진 컨텍스트에서 적용되는 방식을 제어

  - 자신의 가치에 따라 선택하여 결정을 내림

Responsible AI 에 대한 Google

01. Google의 시선

: 자체 AI 원칙과 관행, 거버넌스 프로세스, 도구를 개발하면서 Google의 가치를 반영하고 책임감 있는 AI에 대한 접근방식 

(1) Built for everyone

(2) Accountable and safe

(3) Respects privacy

(4) Driven by scientific excellence

 

02. Google이 생각하는 Responsible AI의 효과

(1) 더 나은 모델을 만들 수 있음

(2) 고객과 그 고객의 고객 간에 신뢰 구축 가능

  ⇒ 신뢰가 깨지면 AI 배포가 지연되거나 실패할 위험이 있으며 최악의 경우 해당 제품의 이해관계자에게 해를 끼칠 수 있음

 

03. Google의 AI 원칙

: 일련의 평가와 검토를 통해 AI 관련 제품과 비즈니스에 대해 결정하기 위한 확인 방법

⇒ 여러 제품 영역과 지역에 엄격하고 일관성 있게 접근

(1) 장점 :그룹이 공동의 약속을 지키는 데 도움 줌

(2) 문제점 : 모든 사람이 책임감 있게 제품을 설계하는 방법에 대한 모든 결정에 동의하는 것은 아님

(3) 해결방법 : 사람들이 신뢰할 수 있는 강력한 프로세스의 개발

  ⇒ 최종 결정에 동의하지 않더라도 그 결정에 이르게 된 프로세스를 신뢰할 수 있도록

 

04. Google의 7대 AI 원칙 ( 2018년 6월)

⇒  Google의 연구와 제품 개발을 적극적으로 관리하고 비즈니스 결정에 영향을 줌

1. AI should be socially benefical
   ⇒ 광범위한 사회적, 경제적 요인을 고려하여 "전반적으로 예상되는 이익 > 예측 가능한 위험과 단점"인 경우진행
2. AI should avoid creating or reinforcing unfair bias
   ⇒ 인종, 민족, 성별, 국적, 소득, 성적 지향 등 민감한 특성과 관련하여 사람들에게 부당한 영향을 미치지 않도록
3. AI should be built and tested for safety
   ⇒ 의도치 않게 위험한 결과를 초래하지 않도록 계속해서 강력한 안전 관행과 보안 관행을 개발하고 적용
4. AI should be accountable to people
   ⇒ 적절한 피드백과 관련 설명, 이의제기 기회를 제공하는 AI 시스템을 설계
5. AI should incorporate privacy design principles
   ⇒ 고지와 동의 기회를 제공하고 개인 정보 보호 장치가 있는 구조를 장려하며 데이터 사용에 있어서 적절한 투명성과 제어권을 제공
6. AI should uphold high standards of scientific excellence
   ⇒ 다양한 이해관계자와 협력하여 AI 분야를 신중히 이끌어나감 + 과학적으로 엄격하면서도 여러 학문을 넘나드는 접근방식을 활용
   ⇒ 더 많은 사람이 유용한 AI 애플리케이션을 개발할 수 있도록 교육 자료, 모범 사례, 연구 결과를 게시하여 관련 지식을 공유
7. AI should be made available for uses that accord with these principles
   ⇒ 많은 기술이 여러 용도로 사용되므로 Google은 잠재적으로 유해하거나 악의적인 애플리케이션을 제한하기 위해 노력

05. Google이 자향하지 않을 4가지 AI 응용 분야

1. technologies that cause or are likely to cause overall harm
2. weapons or other technologies whose principla purpose or implementation is to cause or directly facilitate injury to people
3. technologies that gather or use information for surveillance that violates internationally accepted norms
4. technologies whose purpose contravenes widely accepted principles of international law and human rights

 

05. 결론

: 여전히 AI 원칙만으로는 제품을 어떻게 빌드할 것인지에 대한 직접적인 답을 찾지 못했기 때문에, AI원칙에 대한 논의를 피하지 말아야함