AI는 차별을 인간에게서 배운다 - 고학수

개인적으로 좋아하는 서가명강 시리즈인데요.

괜찮은 책이 많아서 한권씩 사다보니 꽤 많이 모았네요.

AI는 차별을 인간에게서 배운다.

이 책에서는 최근 핫한 AI에 대해서 학문적인 관점에서의 여러 이슈를 쉽게 설명하고 있습니다.

최근 한국사회에서 논란이 되고 있는 공정이라는 것과 AI를 다루고, 

또 작년에 엄청난 이슈를 만들었던 '이루다 사태' 역시 학자의 눈으로 바라봅니다.

2021.01.12 - [Life/Review] - [AI] 이루다 서비스 일시 중단

[AI] 이루다 서비스 일시 중단

그리고 또 이슈가 되었던 네이버의 검색알고리즘은 물론 우리에게 인공지능의 충격을 안겨주었떤

알파고부터 이야기가 시작됩니다.

2016.03.09 - [Life/Review] - [기타] 이세돌 VS 알파고 후기

[기타] 이세돌 VS 알파고 후기

 

무엇보다 책 도입부에 주요 키워드에 대해서 다루고 있는데요.

이 부분은 인공지능에 대해서 이야기 하기전에 알아야할 부분 위주로 설명하고 있습니다.

여기에 간략하게 2페이지 정도로 정리되어 있지만, 

사실상 해당 내용으로만으로도 책 한권을 쓸만큼 방대한 내용을 다루고 있습니다.

해당 키워드에 대해서 뒤에 보다 자세히 설명하고 있습니다.

특히 최근 이슈가 되고 있는 인공지능 판사에 대해서 작가는 부정적인 의견을 보이고 있습니다.

이부분은 어느정도 동의 하는데요. 판례가 시대적 합의에 따라서 변화할 수 있는데, 

AI는 과거 기록을 가지고 판단하기 때문에 새로운 판례를 만들어 내는 것은 불가능하기 때문입니다.

즉 최근에 다뤘던 인공지능 코딩처럼, 인간의 코딩을 도와주는 비서 역활을 할 것이라고 기대하였는데요.

2022.02.04 - [News] - 구글 AI로 인간 수준의 코딩 달성

구글 AI로 인간 수준의 코딩 달성

실제로 판결을 내리기전 기존의 판례 등을 찾아주는 등의 역활을 AI가 대체하지 않을까 싶습니다.

지금의 자율주행차가 충돌 감지 센서 등을 이용하여 차선 변경 등 주행보조시스템을 운영하는 것처럼 말입니다.

설명가능한 AI

또 작가는 설명 가능한 AI에 대해서 이야기를 하고 있습니다.

설명 가능한 AI는 AI는 현재 AI가 판단하는 것을 우리는 알수 없습니다.

일명 블랙박스와 같은데요.

반대로 AI 알고리즘이 누구나 알 수 있는 수준이라면 그 결과값의 품질이 떨어지는 단점이 있습니다.

아래 예시를 보시면 이 것을 알 수 있습니다.

현재의 대부분의 AI는 우리에게 고양이와 유사성이 0.93이기 때문에 고양이라는 결과만을 알려줍니다.

하지만 설명가능한 AI(XAI)는 고양이로 판단한 것을 수치로 알려주는 게 아니라  털이 있고, 발톱이 있어서 고양이라고 

판단했고, 다른 고양이 사진과 유사점이 있어서 고양이라고 판단했다고 알려줍니다.

설명 가능한 AI(XAI, Explainable Artificial Intelligence)는 머신 러닝 알고리즘으로 작성된 결과와 출력을 인간인 사용자가 이해하고 이를 신뢰할 수 있도록 해주는 일련의 프로세스와 방법론입니다. 설명 가능한 AI를 사용하면 AI 모델, 이의 예상된 영향 및 잠재적 편향을 기술할 수 있습니다. 이는 AI 기반 의사결정에서 모델 정확성, 공정성, 투명성 및 최종 결과를 특성화하는 데 유용합니다. 설명 가능한 AI는 기업이 AI 모델을 생산에 투입할 때 신뢰감과 자신감을 얻는 데 있어서 매우 중요합니다. AI 설명가능성은 기업이 AI 개발에 책임 있는 접근 방식을 적용하는 데도 도움이 됩니다. AI가 고도로 발전함에 따라, 인간은 AI 알고리즘의 결과 도출 과정을 파악하고 이를 역추적해야하는 난제에 봉착하게 되었습니다. 전체 계산 프로세스는 해석이 불가능한 소위 말하는 "블랙박스"로 전환됩니다. 이러한 블랙박스 모델은 데이터로부터 직접 구축됩니다. 또한 알고리즘을 만드는 엔지니어나 데이터 사이언티스트조차도 그 내부에서 도대체 무슨 일이 발생하는지 혹은 AI 알고리즘이 특정 결과를 어떻게 도출하는지를 파악하거나 설명할 수가 없습니다.

이 설명가능한 AI에 대한 논란이 국내에서 가장 크게 알려진 것은 네이버 쇼핑 논란입니다.

2021.09.12 - [Tip & Tech/IT] - 플랫폼 중립성이란? 알고리즘 조작이란 무엇인가?

플랫폼 중립성이란? 알고리즘 조작이란 무엇인가?

당시 네이버는 쇼핑 검색엔진에 네이버 페이 입점 업체가 상위 노출이 되고 있다는 이슈가 생겼는데요.

이 경우에도 알고리즘이 복잡하여 설명할수가 없고, 또 영업기밀에 해당되기 때문에 공개할수가 없었는데요.

또 당시 카카오T의 배차 몰아주기 논란도 이 이슈에서 자유로울 수 없었습니다.

즉 AI가 만드는 알고리즘은 차별과 공정에서 자유로워지기 위해서 설명가능성이 필요합니다.

책에서는 경찰력의 배치에 대해서 이야기 하고 있는데요.

우범지역에 경찰의 수가 늘어나면 자연스레 검문검색이 많아지고 결국 

해당 지역의 범죄율이 높아지는 악순환이 일어나게 된다는 것입니다. 

즉 우리가 흔히 행하는 사소한 범죄에 대해서 잘 다루지 않지만,

조금은 다를 수 있으나 한국 사회에서도 유사한 건을 찾아볼 수 있습니다.

최근 수백억대에 횡령 기사에 묻히긴 했지만 어제 기사로 이슈가 된 5900원 횡령사건입니다.

폐기시간을 착각해서 알바가 먹어버린 것인데요.

이것이 검사는 20만원을 약식 기소 및 판결이 되었지만,  정식 재판에서 무죄가 됬던 사건입니다.

이러한 사건의 경우에도 주변의 증거를 잘 살펴보고, 또 금액에 대해서도 잘 판단해봐야 할 것입니다.

이 책은 급격하게 다가오는 AI시대에 대해서 어떻게 행동해야 하는지에 대해서 미리 생각해 볼 수 있는

기회를 우리에게 제공해주고 있습니다.

 실제로 예전과 달리 여러 분야에서 AI가 이미 우리를 도와주고 있습니다.

우리가 날마다 쓰는 이 검색엔진도 AI가 최적의 결과값을 찾아주고

자주 보는 유튜브의 추천 영상도 AI가 나의 영상 기록을 추적하여 알려줍니다.

다만 이로 인한 확증편향은 항상 주의해야하는 것이죠.

사실 이외에도 프로그램을 만들때에도 예전에는 정말 하나하나 모두 코딩해야 했으나,

최근에는 다양한 IDE가 AI기반으로 잘못된 문법을 자동으로 수정해주고, 또 추천 코드를 알려주기도 합니다.

그래서 저와 같은 초보자도 손쉽게 프로그램을 개발할 수 있게 되었는데요.

이처럼 편리해진 세상에서 AI로 인해 발생되는 여러 사회적인 문제에 대해서

사회적 합의에 대해서 이제는 생각해봐야하는 시기가 아닌가 싶습니다.

기술의 발전에 필요한 개인정보의 축적과 사용은 물론

이루다처럼 AI윤리는 어떻게 해야할지?

또 알고리즘의 설명가능성은 어떻게 해야할지 이제는 사회적 논의를 해야할 시기입니다.

최초 복제양 돌리 이후 생명과학의 윤리 논의가 활발해진 것처럼

이제는 AI윤리에 대해서 생각해봐야할 시기입니다.