인공지능 윤리(AI Ethics)!
요즘 리서치를 하다 보면 AI에 대한 관심이 그 어느 때보다 더욱 높아지고 있습니다. 그리고 이와 관련하여 다양한 서비스들도 나오고 있고 말이죠. 하지만, AI란 과거의 데이터를 학습하고 그에 따른 결과를 제공하기 때문에 유용하기도 하지만 다양한 문제를 일으킬 수도 있다는 사실도 많은 사람들이 알고 있습니다. 그래서 이에 대해서 유네스코(UNESCO)가 국제기구 차원에서 2021년에 처음으로 인공지능의 윤리적 사용에 대한 국제 표준 지침을 마련했습니다. 그리고 프랑스 파리 유네스코 본부에서 열린 제 41차 유네스코 총회에서 193개 회원국의 만장일치로 ‘AI 윤리 권고’를 채택했습니다. 이에 대한 자세한 내용은 다음 링크를 참조하시면 됩니다. 오늘은 이 AI 윤리 권고에 대해서 간략하게 공유해 드리려고 합니다. |
유네스코의 AI 윤리 권고란?위에서도 간략하게 설명드렸지만 유네스코의 AI 윤리 권고에 대해서 더 자세히 설명해 드리겠습니다. 유네스코(UNESCO)는 2021년 11월 23일에 파리 유네스코 본부에서 개최된 제41차 유네스코 총회에서 최조로 AI의 윤리적 사용에 대한 국제 표준 지침인 ‘AI 윤리 권고’를 193개 회원국의 만장일치로 채택했습니다. 이 권고안은 AI의 건설적이고 건강한 발전 및 활용을 위한 생태계를 조성하기 위해 요구되는 공통의 가치와 원칙 제시를 핵심으로 하고 있습니다. 이전에는 AI 윤리와 관련해서 국제적 수준에서의 기준이 마련되지 않았었습니다. 이로 인해 다양한 요인을 고려한 국제적 수준에서의 AI 윤리 가이드라인에 대한 필요성이 계속적으로 제기되어 왔습니다. 이에 유네스코의 자문 기구인 세계과학기술윤리위원회에서 유네스코의 특화 분야인 교육, 문화, 커뮤니케이션 영역의 전문성을 고려하여 관련 권고안을 작성할 것을 제안하였습니다. 그래서 유네스코에서는 회원국을 비롯한 다양한 이해관계자의 의견을 수렴하여 권고안을 마련하게 되었고, 이것이 국제 지침으로 채택된 것입니다. 유네스코의 AI 윤리 권고는 4대 가치(Values) 및 10대 원칙(Principles)으로 구성되어 있습니다. |
4대 가치(Four core values)권고사항의 핵심으로 인류, 개인, 사회 및 환경의 이익을 위한 AI 시스템의 기반을 마련하는 4가지 핵심 가치는 다음과 같습니다.
|
10대 원칙(A human rights approach to AI)1. 비례성 및 무해성 AI 시스템의 사용은 합법적인 목표를 달성하는 데 필요한 수준을 넘어서는 안 됩니다. 즉, 너무 AI에 모든 것을 의존해서는 안 된다는 것입니다. 그리고 그러한 사용으로 인해 발생할 수 있는 피해를 방지하려면 리스크 평가를 해야하는 것입니다. 2. 안전 및 보안 AI 담당자는 원치 않는 피해(안전 위험)과 공격 취약성(보안 위험)을 피하고 해결해야 합니다. 3. 프라이버시 및 데이터 보호 개인 정보 보호는 AI 수명주기 전반에 걸쳐 보호되고 장려되어야 합니다. 그리고 적절한 데이터 보호 프레임워크도 확립되어야 합니다. 4. 다자적이고 조정 가능한 거버넌스 및 협력 데이터 사용 시 국제법과 국가 주권이 존중되어야 합니다. 또한 AI 거버넌스에 대한 포괄적인 접근 방식을 위해서는 다양한 이해관계자의 참여가 필요합니다. 5. 책임 및 의무 AI 시스템은 감사 및 추적이 가능해야 합니다. 인권 규범과의 충돌 및 환경 복지에 대한 위협을 피하기 위해 관리, 영향 평가, 감사 및 실사에 대한 사항이 마련되어 있어야 합니다. 6. 투명성 및 설명가능성 AI 시스템의 윤리적 배포는 투명성 및 설명가능성에 달려 있습니다. 그리고 이는 상황에 적합해야 합니다. 왜냐하면 투명성 및 설명가능성과 개인 정보 보호, 안전, 보안 등 다른 원칙 사이에 충돌이 있을 수 있기 때문입니다. 7. 인간의 감독 및 결정 회원국은 AI 시스템이 궁극적인 인간의 책임과 의무를 대체하지 않도록 보장해야 합니다. 8. 지속가능성 AI 기술은 UN의 지속가능한 목표에 명시된 목표를 포함하여 끊임없이 진화하는 ‘지속가능성’에 미치는 영향을 평가해야 합니다. 9. 의식 및 리터러시 개방적이고 접근 가능한 교육, 시민 참여, 디지털 기술 및 AI 윤리 교육, 미디어 및 정보 활용 능력을 통해 AI와 데이터에 대한 대중의 이해를 증진시켜야 합니다. 10. 공정성 및 비차별성 AI 관리자는 사회 정의, 공정성, 차별 금지를 장려하는 동시에 모든 사람이 AI의 혜택에 접근할 수 있도록 포괄적인 접근 방식을 취해야 합니다. |
권고 사항에 대한 방법론이런 권고 사항을 효율적으로 이행하기가 쉽지 않기에 유네스코는 두 가지 실용적인 방법론을 개발하고 있습니다. 준비 상태 평가 방법론(RAM; Readiness Assessment Methodology) 이것은 회원국이 권고 사항을 효과적으로 이행할 준비가 되어 있는지 평가하는 데 도움을 주기 위해 설계되었습니다. 윤리적 영향 평가(EIA; Ethical Impact Assessment) 이것은 AI 프로젝트 팀이 영향을 받는 커뮤니티와 협력하여 AI 시스템이 미칠 수 있는 영향을 식별하고 평가하는 데 도움이 되는 구조화된 프로세스입니다. 이를 통해 잠재적인 영향을 반영하고 필요한 피해 예방 조치를 취할 수 있습니다.
오늘은 유네트코의 AI 윤리 권고에 대해서 간략하게 공유해 드렸습니다. 기술이 발달하고 이런 기술이 정책이나 규범보다 먼저 사회에 적용될 때 많은 문제들이 발생하게 됩니다. 이런 문제들을 미연에 방지할 수 있도록 국제적, 국가적, 조직적 차원에서 유네스코의 AI 윤리 권고와 같은 이런 지침들에 대해서 많이 고민해야 하는 시기가 아닐까 하는 생각이 듭니다. 기술이란 사람에게 편의성을 제공해 주기 위한 것이지 기술의 발전 그 자체가 목적은 아닐테니까 말이죠.
클라우드나 SaaS와 관련하여 다른 궁금한 점이 있으시면 언제든지 저희에게 문의해 주세요. 저희에게는 클라우드에 대한 다양한 정보와 경험, 그리고 도구가 있습니다.
|
