이게 제목이야 기사 사건

어제 AI 관련하여 이슈가 생긴 일이 있었습니다.

바로 AI로 기사를 작성한 것이 유출된 것인데요.

*이게 제목이야. 본문 겹치지 않는 부제 2개 만들어줘

바로 이 프롬프트가 기사 제목으로 노출된 것인데요.

구글의 아카이빙 때문에 현재도 여전히 노출되고 있습니다.

아마도 본문을 넣고 ChatGPT나 Gemini에게 아래처럼 제목에 대한 부제를 제안하는 형태로 사용하지 않았나 싶습니다.

실제로 제가 돌려보니

아래와 같이 부제 2개와 함께 작성 포인트까지 친절하게 알려주더라구요.

추천 부제 (각 약 35자) 1. 로컬 네트워크를 활용해 빈틈없이 완성한 전 주기적 커리어 설계의 새로운 지평 2. 실무 전문성과 정교한 솔루션으로 구축한 미래 인재 양성 생태계의 독보적 경쟁력 📝 작성 포인트 본문 중복 단어 배제: '통합', '연계', '혁신', '성과' 등 본문에 반복되는 표현 대신 '유기적', '패러다임', '결실', '경쟁력' 등의 유의어를 사용하여 신선함을 주었습니다. 길이 균형: 두 부제 모두 공백 포함 36자로 길이를 맞추어 시각적인 안정감을 주었습니다. 내용의 상호보완: 첫 번째 부제는 '지역 및 시스템' 측면을, 두 번째 부제는 '전문성 및 미래 가치' 측면을 강조하여 본문의 내용을 입체적으로 뒷받침합니다.

 

이 사건은 작년 12월에 충북도청에서 발생한 오빠 나는 연인사이에 공문하고 비슷한 결인 것 같은데요.

사실 기사를 쓰면서 최소한 한번은 퇴고를 할텐데, 그러한 기본적인 부분이 전혀 안되었다는데 놀랐습니다.

실제로 아는 기자분들에게 물어보니 요즘에는 기자들이 본인이 올리면 되고 보고는 사실상 후보고 체계로 진행되어서 이런 일이 발생할 수 있다고 하더라구요.

향후 전망

최근에는 학교 등에서 AI 사용을 제한하는 방식으로 AI 금지령을 내리고 있는데요.

작년만 하더라도 서울대/연세대/고려대 등 국내 유수의 대학에서 AI 부정시험 이슈가 터져서 재시험 또는 무효로 처리하기도 했습니다.

https://www.joongang.co.kr/article/25400488

[단독] "AI 금지령? 창의적 평가 없는 게 문제" 서울대 AI연구원장의 진단 | 중앙일보

이렇게 생활속에 AI가 자리잡게 되면서 이에 따른 부작용도 점점 커지고 있는데요.

이제 AI가 쓴 글도 기사로 인정할 것인지, AI를 활용하여 시험을 볼 수 없도록 창의적 평가 시스템 도입 등이 논의되어야 한다고 하는데요. 과연 우리는 AI를 어떻게 올바르게 사용해야 할까요?

개인적으로 AI로 초안을 잡는 것은 문제가 없지만 최종 판단은 담당자가 해야하는 게 아닌가 싶은데요.

이번 사건처럼 아무런 감수 없이 환각 현상이 가득한 AI를 바로 쓰는 것은 위험하다고 생각합니다. 특히 가짜 뉴스가 판을 치는 가운데 기자가 AI를 통해서 가짜 뉴스를 직접 퍼트리는 상황이 된다면 심각한 문제가 될 것입니다.

AI는 재미로는 사용할 수 있지만 환각 현상 때문에 세밀한 검증이 필요한데요. 실제로 AI가 만든 허위 판례가 법원에 적발된 사례도 있습니다.

기본적으로 AI는 생성형을 만족하기 위해서 강제로 환각을 넣어논 것인데요. 이에 따라 정확한 정보를 사용해야 하는 기자나 법원 등에서는 사용하기 어려운 점이 있습니다. 물론 이러한 한계를 사람들이 검토해서 해결해 나가야 하는데요.

올바른 AI 사용에 대한 가이드라인이 사회적 합의를 통해 이뤄져야 하지 않나 싶습니다.

AI역시 칼처럼 사용하는 사람에 따라 맛있는 요리를 만들어 주기도 하고 사람을 죽이기도 할 수 있는데요.

AI 사용이 늘어나는 상황에서 올바른 AI를 사용하는 방법에 대한 논의 역시 같이 진행되어야 한다고 생각합니다.