만주에서 시작한 3.1운동?...인공지능 환각 현상과 인공지능 윤리

"인공지능, 모르는 걸 아는 척 하지마, 멋대로 말 만들어 내지 마"
세계경제포럼, 2024년 글로벌 위기 2위로 인공지능환각 지정

이승훈 승인 2024.03.02 10:00 의견 0

행정안전부가 3·1절을 맞이해서 공개한 카드뉴스에 3·1운동을 설명하면서 한반도 내에서가 아니라 만주에서 먼저 시작됐다고 하는 서술이 논란을 일으켰다.

행안부는 "3·1절을 맞아 방문하기 좋은 뜻깊은 명소를 추천한다"면서 "3·1운동이란 1919년 3월 1일, 만주 하얼빈에서 시작된 대한민국 임시정부의 독립선언과 동시에 만주, 한국, 일본 등에서 일어난 대규모 항일 독립운동"이라고 설명했다.

역사적 사실의 선후 관계가 맞지 않고 문장이 이상하다는 비판에 행안부는 아무 해명 없이 해당 카드를 내렸다.

인공지능 전문가들은 행안부가 만든 문장이 인공지능의 환각(hallucination)현상에 따른 전형적인 문장이라고 보고 있다.

인공지능이 '없는 것을 있는 것처럼 진술하는 것'을 '환각이라고 한다. 환각은 인공지능윤리 이슈에서 가장 문제시되는 인공지능 현상이다.

존재하지 않았던 사실을 존재한다고 서술하거나 역사적 사실 관계의 선후를 뒤바꾼다거나 하는 식으로 환각 현상이 일어난다.

여러 대화형 인공지능 챗봇 중에서 ChatGPT 3이나 ChatGPT 3.5 등 엔진이 낮은 버전에서 환각이 더 잘 일어난다.

인공지능 환각에는 똑똑한 사람들도 잘 속아넘어간다. ChatGPT가 처음 나온 해에는 미국에서 변호사들이 변론서 작성에 인공지능을 이용했다가 존재하지 않은 허위 판례를 변론서에 넣은 일이 여러 차례 발생해서 문제가 됐다. 사실은 안 똑똑한 변호사인가도 모르겠다.

인공지능 챗봇은 인터넷상에 올라온 수많은 문건들을 통계적으로 샘플링해서 문장으로 조합한다. 그 과정에서 편향이 일어나기 십상이다.

이 때문에 인공지능을 사용하는 이용자들은 옳은 정보를 많이 만들어내서 인터넷에 올리고 끊임없이 팩트체크, 사실을 확인해야 하는 윤리적 의무가 필요해진다.

최근 세계경제포럼이 선정한 2024년 최고의 글로벌 위기에서 2위로 인공지능 환각을 정했다.

세계경제 포럼이 선정한 2024년 최고의 글로벌 위기 1위부터 5위까지는 다음과 같다.

1위는 기후변화

2위는 인공지능 환각 (AI가 만들어내는 잘못된 정보 및 허위 정보)

3위는 사회적·정치적 양극화

4위는 생계비 부족

5위는 사이버 공격 (해킹 등)

새계경제포럼은 인공지능 환각 현상에 경각심을 가지고 엄중히 대해야 한다고 주장하고 있다. 사회의 신뢰자본을 무너뜨리기 때문이다.

아마도 행정안전부의 잘못된 카드뉴스 문장은 인공지능을 이용해서 손쉽게 문장을 만들고서 팩트체크를 하지 않고 그대로 올린 것으로 보인다.

인공지능윤리 이슈를 좀 더 대중에게 알리고 대중들이 인공지능 기술을 잘 사용할 수 있도록 미디어교육이 정비·확산돼야 한다.

참고로 서구에서는 미디어교육을 초중등학교에서 국어나 산수(수학)과 같은 정규 교과목으로 두고 학생들에게 가르치는 나라가 많다. 미디어라는 것이 사회생활을 하면서 불가피하게 접하고 미디어를 얼마나 잘 활용하느냐에 따라 학생의 삶의 수준이 달라지기 때문이다.

그런데 한국은 미디어교육의 불모지라 할 수 있는 나라다. 미디어교육을 미디어를 가지고 교육에 활용하는 것으로 오해하는 사람들이 많다. 그것은 미디어교육이 아니다. 미디어 현상을 제대로 알아서 미디어를 제대로 활용할 수 있도록 하는 리터러시 교육이 미디어 교육이다.

평판경제신문 발행인 겸 기자. 레마코리아 대표이사. 문화정책학·과학기술정책학 박사 과정 재학 중, 김대중 전 대통령의 정치경제사상을 연구하면서 정치적 자유주의와 경제적 자유주의를 통합하는 포스트자유주의 이론 체계를 구축하고 있다.

평판경제신문 이승훈 jake.seunghoon@gmail.com 이승훈의 기사 더보기

전체 메뉴