[Beginner] 05. Responsible AI: Applying AI Principles with Google Cloud

AI 시스템의 발전

01. 현재
: 이미 인공지능과 일상적으로 상호작용하고 있음 → 생성형 AI가 보편화됨에 따라 AI를 지원하지 않는 많은 기술은 부족하게 느껴짐
(1) 개발 및 사용 관련한 의문 제기
  - 지금까지의 AI : 일반인 접근 불가 / 적은 수의 전문 엔지니어 (비싼 비용)
  - 이후 AI : 진입장벽이 낮아져, 많은 사람들이 AI 구축가능
 
(2) AI 시스템의 발전 속도 - standford 대학의 2019 AI 지수 보고서
  - 2012 이전 : AI 컴퓨팅 성능이 무어의 법칙에 따라 2년마다 2배 증가
  - 2012 이후 : AI 컴퓨팅 성능이 약 3.5개월마다 2배 증가
 
(3) 발전 분야 - Vision AI
  - ImageNet의 오류율 크게 감소 : 26%(2011) → 2%(2020)    (사람이 동일한 작업 수행시, 오류율 : 5%)
 
(4) AI is not infallible
 : AI는 발전했음에도 완벽하진 않음
  - 잠재적인 문제, 한계 또는 의도하지 않은 결과에 대해 이해해야함
  - 모범 사례가 없으면 AI는 기존의 문제나 편견을 답습하여 이를 증폭시킬 수 있음
 
(5) Responsible AI에 대한 조직의 공통 주제 : transparency, fairness, accountability, privacy
(6) Responsible AI에 대한 Google

 - 모든 해답을 아는 것 처럼 행동하지 않음
 - 협업하고 도움이 되도록 배운 것을 공유
 - AI 프로세스의 어떤 단계에 참여하든 내가 내린 결정이 영향을 미치므로 Responsible AI 적용 방식에 있어서 모두 각자의 역할이 존재
   -> 자신의 가치에 따른 선택을 하므로 의사결정마다 고민+평가가 있어야 개념이 개발, 유지관리를 거치는 동안 책임감 있는 선택 가능
 - 더 많은 커뮤니티와 정보 및 교훈을 공유함으로써 책임감 있는 관행 장려
 - 시스템을 책임감 있게 만들고 사용하는 방법에 대한 지속적인 대화의 필요성 강조
 - 기술의 정의에 대해 자세히 다루지 않고 대신 기술 개발에서 인간 의사 결정이 얼마나 중요한지에 초점
 - 반복적인 관행으로 헌신과 규율, 그리고 시간이 가면서 배우고 적응하려는 의지가 필요
 - 모든 사람이 책임감 있게 제품을 설계하는 방법에 대한 모든 결정에 동의하지 않으므로 신뢰할 수 있는 강력한 프로세스의 개발이 중요
 - 건전한 심의를 수용하는 집단적 가치 체계에 기반한 문화가 존재해야함
 

Economist intelligence Unit 보고서

: 증가하는 AI 기반 세상에서 책임감 있는 인공지능 관행의 가치를 보여주는 보고서
 
01. 제안 내용 : Responsible AI 조직의 핵심 비즈니스 고려사항에 미칠 수 있는 영향을 종합적으로 제시
02. 사용 데이터 : 광범위한 데이터 기반 연구, 업계 전문가 인터뷰, 임원 설문조사 프로그램으로 수집
03. 섹션 : 7개로 세분화
 

7개로 세분화된 섹션

01. Responsible AI 가 제품 품질을 향상시키는 방법
 (1) Responsible AI 관행 : 제품 개발에 대한 현명한 투자
   - 관행을 도입하지 않을 때, 결과
    : 제품 출시 지연, 업무 중단, 경우에 따라서는 시중에서 판매되는 제품 철수 등
   - Responsible AI 관행을 조기에 통합하고 피해를 식별하고 완화할 수 있는 공간을 제공
    ⇒ 조직 : 다운스트림 윤리 위반을 줄여 개발 비용을 절감 가
 
 (2) 윤리적 검토 : 새로운 기술과 관련된 잠재적 기회와 피해를 검토
  - 데이터 세트, 하위 그룹 전반의 모델 성능을 면밀히 검토
    ⇒ 의도한 결과와 의도하지 않은 결과의 영향을 모두 고려
  - 효과 : 제품을 Responsible AI 설계에 더 잘 부합하도록 함
 
 (3) 제대로 구현시, 나타나는 효과
   - 불공정한 편향으로 인해 발생할 수 있는 피해 감소
   - 투명성 개선 및 보안 강화로 제품 개선이 가능
   - 사용자에 대한 제품의 가치와 경쟁 우위를 모두 높여줌
 
02. 인재 확보, 유지 및 참여에 대한 전망을 개선하는 방법  : Responsible AI 개척자가 최고의 인재를 유치 및 유지
 (1) 기술 인재에 대한 경쟁 심화
  - 치열한 경쟁 + 높은 비용에 따른 적절한 직원확보가 가치가 있어짐
  - 연구 결과 ) 우수 직원의 생산성 = 평균 이하의 숙련된 직원의 400%  ( 매우 복잡한 직종에서는 800% )
 (2) 우수한 인재를 유지하는 방법
  - Deloitte Global Millennial 설문조사 : 작업자들은 윤리적 문제를 해결하는 고용주에게 더강한 충성도를 보임
  - 방법 : 공동의 약속과 Responsible AI 관행을 구축하는 조직이 되
 
03. 더 나은 데이터 관리, 보안 및 개인 정보 보호에 기여하는 방법 : 데이터 약속 보호 장치의 중요성
 (1) 정보 유출 : 비즈니스에 막대한 비용을 초래
  - EIU의 경영진 설문조사 : 사이버 보안과 데이터 개인 정보 보호 문제가 AI 도입의 가장 큰 걸림돌
  - 소비자의 90% 이상 : 데이터 사용 방식에 대한 우려가 있는 기업의 제품을 구매하지 않을 것
 
(2) 정보 유출 : 비즈니스에 막대한 비용을 초래
  - 정보 유출 사고 : 평균 25,575건, 평균 392만 달러의 비용
  - 가장 높은 국가별 평균 비용 : 미국 - 819만 달러
  - 비즈니스 손실 : 전체 평균 비용의 36%  ( 재정적으로 가장 큰 피해 )
  - 소비자 : 해커보다 기업을 비난할 가능성이 높음
 
(3) 정보 보호 : 고객 신뢰 확보와 유지에 필수
  - 공개 개인정보처리방침을 통해 고객의 데이터를 선제적으로 보호하는 방법을 분명히해야함
  - 조직 : 데이터를 신뢰할 수 있어야함
    ⇒ 더 크고 다양한 데이터 세트 확보 + AI의 성과 개선 가능
  - Cisco의 연구 : 데이터 개인 정보 보호 강화에 1달러를 투자할 때마다 평균적으로 2.70달러의 수익을 얻음
 
04. 현재와 미래의 AI 규정에 대해 대비하는 방법 :  AI 규정에 대한 사전 준비의 중요성
(1) AI 발전에 따른 사회, 비즈니스 커뮤니티, 기술 분야 내부에 대한 규정 요구
  - 정부 : AI 규정의 중요성 파악 후 이행하고자 노력 중
     ⇒ 유럽의회 의원 : AI 시스템에 대한 새로운 투명성 및 위험 관리 규칙 지지 (승인시, 세계 최초의 AI 관련 규칙)
(2) 강력한 규정 마련을 위해 시간 및 노력이 필요
  - EIU 경영진 설문조사
    : 조사 대상 5개 섹터의 미국 기업 경영진 92% : 공식적인 AI 규정이 없는 상황에서 관행을 보장하기 위해 선제적으로 대응해야 한다
(3) Responsible AI 개발 조직의 이점
  - 규정이 시행될 때 규정 미준수 위험을 줄이거나 규정의 적절한 범위를 보장하기 위해 규정에 대한 논의에 생산적으로 기여할 수 있음
(4) GDPR ( 유럽 연합의 개인 정보 보호법 )
  - 법 도입 전 : 31% 준수 했었음
  - GDPR 규정 위반과태료 = 규정을 준수했을 때의 비용의 2.71배
  - 전체 규정 위반 비용 : 비즈니스 운영 중단 (34%) > 생산성 손실과 매출 손실 > 규정 위반 과태료 (13%)
 
05. 매출 및 수익 성장으로 이어지는 방법 : 매출 성장 개선
 (1) 조직의 윤리적 행동 & 핵심 재무 성과 = 긍정적인 관계
   - EIU 경영진 설문조사
       - 경영진의 91% : 윤리적 고려 사항을 공급업체 평가에 포함
       - 경영진의 91% : Responsible AI 지침을 제공하는 업체와 협력할 의향이 있다
       - 경영진의 66% : 윤리적 우려로 인해 협력을 중단한 경험이
   - ESG에 투자하는 기업 : 주식 시장에서 더 나은 성과
   - 세계에서 가장 윤리적인 기업 : 5년 동안 대형주 지수를 14.4% 상회
(2) 고객 행동은 윤리의 영향을 받음
  - 닐슨의 설문조사
     - 응답자의 66% : 지속 가능하고 사회적 책임을 다하며 윤리적으로 설계된 상품과 서비스에 더 많은 비용을 지불할 것
 
06. 이해관계자 및 투자자와의 관계를 강화하는 데 도움이 되는 방법 : 파트너십 강화
(1) 이해관계자와 조직의 관계
 : 투자에 대한 관심을 반영하여 포트폴리오를 개인의 가치에 맞게 조정하려는 경향이 많아짐
  ⇒  조직의 기업 전략과 재무 성과에 영향을 미침 
(2) 지속 가능한 투자의 광범위한 정의
 : ESG 요소와 위험을 명시적으로 고려하는 모든 투자
   ⇒ 불미스러운 투자 대상을 선별 / 온실가스 배출 / 다양성 initiative / 급여 구조
(3) Responsible AI 우선시하는 기업
  - Hermes Investment Management : Responsible AI 원칙에 대해 투자 대상자를 평가한
  - Forrester의 조사 : 투자자들은 Responsible AI 스타트업을 육성하는 데 점점 더 많은 관심을 가짐
  - 800만 달러 (2013) ⇒  3억 3,500만 달러 ( 2018 ~ 2019 : 자금 규모 93% 증가)
 
07. 강력한 신뢰와 브랜딩을 유지하는 방법
(1) 강력한 감독 없이 AI 개발한 경우
  - 불리한 여론, 브랜드 침식, 부정적인 언론 보도 등의 위험에 노출될 수 있음
 (2) 브랜드 침식
  - 회사만의 문제가 아님
  - 브랜딩 리스크 완화 방법 : Responsible AI 관행 구현
 

AI의 기술적 고려사항과 윤리적 우려

01. 윤리란 ?
 : 가치를 명확히 표현하고 기반한 결정을 권리, 의무, 사회에 대한 혜택 또는 특정 덕목이라는 측면에서 질문, 합리화하는 지속적인 프로세스
=> 다른 사람들과 잘 어울려 살아가는 기술
=> 윤리가 조직에 무엇을 의미하는지 정의 하면 사회와 더불어 어떤 신뢰를 맺고 싶은지 결정
=> 신뢰가 없으면 고객과의 관계가 존재할 수 없으므로, Responsible AI와의 ㄱ

02. 윤리적 딜레마
: 서로 다른 행동 과정에서 어려운 선택을 해야 하는 상황으로 각 행동 과정에서 도덕적 원칙을 위반하는 것
(1) 특징
  - 불확실하고, 복잡한 문제
  - 해결해야 할 가치에 대해 면밀히 살펴야 함
  - 도덕적 유혹과는 다름 
 
(2) AI 구축과정에서 발생하는 윤리적 딜레마
  - 정답이 없음에도 어려운 선택을 해야함
  - 발생하는 원인 : AI가 사회에 미칠 수 있는 영향
  - 현재 : AI의 의사결정이 많은 분야에서 수행되면서 윤리적 우려가 커짐
 

AI 관련 우려사항

01. 투명성
: AI 시스템이 복잡해지면서 AI 시스템의 의사결정 방식을 이해할 수 있도록 투명하게 구축하는 일이 어려워짐
(1) 투명성이 부족하다면?
  - 시스템이 언제 어떻게 실패할지, 의도하지 않은 피해를 일으킬지 예측이 어려움
     -> AI 성능이 저조할 때, 언제 개입해야할지 모름

02. 불공정한 편향
(1) 문제점
   - 기존 사회에 존재하는 편향을 드러내고 강화함
   - 편향이 AI의 모든 단계에 형성됨
(2) 문제 완화 방법 : 사회적 맥락과 편향을 인식하고 해결
   - Example ) 빌드하는 활동등을 모니터링 하기 위해 보안이 중요한 영역에 비전 시스템 체택

03. 보안
- 악위적인 행위자가 악의적인 목적으로 악용할 가능성이 존재해 안전과 보안에 영향을 줄 수 있음
- 데이터 중심으로 이뤄지기 때문에 공격의 규모와 속도가 증가할 수 있음
- 딥페이크 같은 새로운 AI 조작도 문제가 되고 있음

04. 개인 정보 보호
: 데이터 악용, 원치 않는 식별 및 추적, 강제적 음성, 얼굴인식, 프로파일링 등

05. AI 유사 과학
: 과학계에서 과학적으로 잘못된 모델링을 해를 끼친다고 간주함
=> AI의 이로운 사용을 막음
=> Example) 관상으로 범죄성향을 측정하는 알고리즘 (얼굴 분석 알고리즘)

06. 인간에 대한 책임성
: 인간의 지시와 제어를 적절하게 적용할 수 있도록 설계되어야함
-> 사람들이 시스템에 개입하거나 의견을 제공하는 등

07. AI로 인한 실업과 탈숙련화
: 작업에 효율성과 속도를 제공하지만, 실업과 탈숙련화를 촉진함
-> 기술에 대한 의존도가 높아져, 인간의 능력이 감소한다.
-> 주요 기술이 발전하는 동안, 직업이 바뀔것임 (사라지기도 하고, 생기기도 함)

생성형 AI 고유의 우려사항

01. Hallutination
: AI 모델이 비현실적이거나 허구이거나 완전히 조작된 콘텐츠를 생성하는 경우
02. 사실성 : 생성된 정보의 정확성 또는 진실성
03. 의인화 : AI 모델 등 인간이 아닌 개체에 인간과 유사한 자질, 행동을 부여하는 것

 

Google의 AI 원칙

=> 가이드라인을 정할때, 전문성에만 의존하지 않고, 다양한 배경, 인구 통계를 대표하는 사람 등 다양하게 선발 (광범위한 그룹에서 다양한 의견을 반영하도록)
=> 구성 : AI 응용의 목표 (7가지) + Google에서 추구하지 않는 AI 응용분야 (4가지)

01. 사회적으로 유익
(1) 목표 : 심각성, 범위 측면의 사회적 피해, 의도하지 않은 피해의 위험 줄이기
(2) 방법 : 건강한 사회 시스템과 제도를 지원
(3) Example : 자동화 시스템이 사람들의 복지에 필수적인 서비스를 부당하게 차단하지 못하도록 함

02. 불공정한 편향을 만들거나 강화하면 안됨
(1) 목표 : 사람과 그룹을 공정하고 정의롭게 대우하는 AI를 장려
(2) 방법
   - 학습 데이터에서 소외된 집단에 대한 과거 편견의 영향을 제한
   - 다양한 사회에서 더 많은 대표성을 확보하고자 함
   - 근본원인과 상호작용을 구분하고 가장 공정한 솔루션으로 가는 방법 찾기
       => 수명 주기 관련 질문에 답변하여 불공정한 편향 가능성 인지
- 의도한 사용자는 누구인가요?
- 다른 어떤 그룹이 영향을 받을 수 있나요?
- 현재 보이지 않는 그룹은 무엇인가요?
- 학습 데이터는 어떻게 수집, 샘플링, 라벨 지정을 했나요?
- 학습 데이터가 왜곡되어 있나요?
(3) Example : 결혼식 이미지 검색시, 다른 문화의 전통 결혼식 복장의 이미지는 인식하지 못함

03. 안전을 위한 빌드 및 테스트
: 공격이나 중지로 시스템, 인프라 등의 보안 + 사람과 커뮤니티의 무결성 등 안전을 도모하기 위함
(1) 목표 : 안전이 중요한 AI 시스템 동작에 대한 제어 machine intelligence에 대한 신뢰성 제한

04. 사람에 대한 책임으로 사람의 권리와 독립성을 존중
(1) 목표 : 권한의 불평등을 제한하고, 사람들이 AI 상호작용을 거부할 수 있도록
(2) 방법 : 오용, 오작동 등을 신고라고 시정하도록 보장

05. 개인 정보 보호 설계 원칙 통합
(1) 목표 : 개인과 그룹 모두의 개인 정보와 안전 보호
      => 사용자가 데이터 사용방식에 대한 명확한 기대치를 갖고 정보에 입각한 동의를 하도록 하는 능력을 갖도록함
(2) 방법 : 강력한 보안을 통한 개인 식별 정보 및 민감 정보 주의하여 처리

06. 높은 수준의 과학적 우수성 유지로 AI 지식 수준 발전
(1) 목표 : 열린 탐구 지적 엄격성, 무결성 협업에 대한 약속을 통해 달성하기
(2) 방법 : 과학적으로 엄격한 접근 방식을 따르고 기능적 요구를 과학적으로 신뢰할 수 있는지 확인

07. AI응용 목표는 원칙을 준수하는 용도로 제공된 것
=> 사회에 미치는 구글의 특별한 영향에 대한 책임을 강조
(1) 목표 : 잠재적으로 유해하거나 악용될 수 있는 응용을 제한하는 동시에 유익한 기술의 폭넓은 활용과 영향력
(2) 방법 : 자체적으로 사용할 수 있는 기술을 빌드, 제어 하고, 공개함