내 삶에 들어온 인공지능, ‘모르면 독, 알면 약’

 

왜 지금 AI 리터러시 교육인가

​

written by. 김현철 (고려대 컴퓨터학과 교수)

​

 

얼마 전 세계적 유명 인사들이 잠시 인공지능의 개발을 멈추자며 캠페인을 진행했다.
이유는 챗GPT로 대표되는 생성형 인공지능의 위험성 때문이다.
그런데 인공지능이 위험한 이유는 인간의 지능을 뛰어넘을 정도로 똑똑해서가 아니라
완벽하지 못하기 때문이며, 인공지능의 기반이 되는 데이터 학습의 특성상
신뢰성, 공정성, 윤리성, 안전성, 투명성 같은 문제가 있기 때문이다.
바로 이 지점에서 인공지능 리터러시 교육의 필요성이 대두된다.

 

​

예상되는 부정적인 이슈와 그에 대한 해결책 및 방지책을
일부 소수의 과학자들에게만 맡겨서는 안 될 일이다. 
왜냐면 인공지능은 인류 모든 개인 한 명 한 명에게 그대로 반영되고
직간접적으로 영향을 줄 수 있기 때문이다.

​

​

  인공지능(AI; Artificial Intelligence)은 쉽게 설명하자면 우리 인간의 지능적인 판단, 결정 행위를 흉내 내는 컴퓨터 소프트웨어를 만드는 것과 관련한 개념이다. 여기에는 두 가지 이슈가 있다. 하나는, 우리 인간의 지능은 무엇인가에 대한 것이고, 다른 하나는 그것을 어떻게 알고리즘으로 그리고 컴퓨터 프로그램으로 만드는가에 대한 것이다. 물론 두 가지 모두 쉬운 일이 아니다.

 

​

어느 순간 갑자기 우리 옆에​

 

  인공지능 연구는 1950년대부터 미국과 영국을 중심으로 시작됐으며 초기에는 인간의 지능 중에서 문제 해결, 논리적 추론 같은 지능을 흉내 내어 체스 게임, 고객의 신용 평가, 환자 진단 등에 사용됐다. 그 이후에는 데이터를 사용하여 인간의 학습 능력을 흉내 내는 기계학습 방법이 사용되면서 적용 범위가 확장되고 많은 관심을 끌게 됐다. 하지만 인공지능이 대중적으로 알려진 지는 불과 10년도 안 됐는데, 그 시작은 기계학습의 일종인 딥러닝이라는 새로운 기법의 등장이다. 딥러닝은 그동안 난제였던 많은 문제를 한꺼번에 해결해 나가기 시작했다. 대표적으로 인간의 눈에 해당하는 이미지 인식, 귀에 해당하는 소리 인식, 그리고 인간의 언어를 이해하고 만들어 내는 자연어처리(NLP) 등이 있다.

  이미지, 소리, 언어에 대한 딥러닝의 지능적인 자동 처리는 인공지능 기술을 대중화시킨 핵심이다. 내 자신을 먼저 보자. 스마트폰으로 사진을 찍어 SNS에 올리면 그 사진 속 얼굴이 자동 인식되어 내 친구에게 연결된다. 내 스마트폰의 음성 비서나 우리 집 거실에 있는 AI 스피커는 내 목소리와 말을 알아듣고 일을 처리해 준다. 또한 내 글을 순식간에 여러 다른 언어로 번역해 주고, 더 좋은 문장으로 고쳐 주기도 한다. 내 의도를 파악하여 음악을 작곡해 주고, 그림을 그려 주고, 문장을 만들어 준다. 그리고 어느 순간 갑자기 우리는 깨닫게 됐다. 인공지능은 우리 인간의 미디어 중심에 이미 와 있다는 사실을 말이다.

 

 

챗GPT, 내 손안의 첫 인공지능, 그리고 문제점

​

  인공지능 중에서도 기계학습이나 딥러닝은 데이터를 기반으로 하기 때문에 기본적으로 그 데이터에 편향된 모델이 만들어질 수밖에 없다. 그리고 모든 데이터 샘플을 다 만족시키는 하나의 모델을 만드는 것은 원래 불가능하다. 따라서 가장 최적화된 모델을 만들기 때문에 우리는 그것을 ‘PAC(Probably Approximately Correct; 아마도 대략 맞는) 모델’이라고도 부른다. 다시 말해 완전히 정확하지 않다는 의미다. 예를 들어 95% 정도 정확하고 5% 정도 틀린다는 말이다. 따라서 이 인공지능이 5% 정도 틀려도 되는 곳에 사용 될 때에는 별 문제가 없다. 예를 들면 일상적 상황에서의 얼굴 인식, 음악 추천, 음성 비서 같은 곳에서는 큰 무리 없이 사용될 수 있다. 하지만 인간의 생명과 직접 연결된 의료 분야, 핵무기 사용 결정 등과 같은 곳에서는 사용하기 쉽지 않다. 이와 같이 인공지능은 본질적으로 신뢰성, 공정성, 윤리성, 안전성, 투명성 같은 문제를 지니고 있다.

  그 중에서 공정성의 문제는 다소 심각하게 받아들여지고 있다. 편향된 데이터로 만들어진 인공지능은 인종과 성별에 대해 상당한 수준의 공정성 문제를 야기한다는 사례가 많이 보고됐다. 우리나라의 경우 성별 이외에도 학벌, 출신 지역, 나이 등에 의한 불공정성이 나타날 가능성이 매우 높다. 우리 사회가 만들어낸 과거의 데이터가 어떠한 미디어의 형태로 부활하여 현재를 살고 있는 우리의 사고를 편향시킬 가능성이 없지 않다. 맞춤형 추천 시스템을 통해 내가 좋아할 만한 SNS 글과 유튜브의 동영상만 전달하면서 더욱 빠르고 강하게 우리를 정치적 확증편향에 빠트리고 그로 인해 사회의 갈등과 불행을 증폭시킬 수도 있다. 포털 사이트의 주요 뉴스 제공도 인공지능 알고리즘에 의존하고 있으니 미디어에서 인공지능의 역할은 상상하기 힘들 정도로 점점 커지고 있다. 2016년 케임브리지 애널리티카 사건^[각주:1]은 SNS를 통해 인간의 자유의지가 스스로도 모르게 변경될 수 있음을 알게 해 주었다.

  최근에 큰 화제를 몰고 온 챗GPT와 같은 대규모 언어 모델(Large Language Model, LLM)은 더 심각한 문제로 연결될 수 있다. 인공지능에 대해 대중적으로 큰 기억을 남겼던 2016년의 알파고는 사실 우리의 생활과 그리고 우리 사회의 미디어와는 직접적인 관련이 없었지만 이번의 챗GPT는 모든 사람이 직접 자기 손으로 인공지능을 직접 사용할 수 있게 된 최초의 사건이다. 이전의 인공지능은 문제가 발생해도 통제하기가 다소 수월했지만, 모든 사람의 손에 넘어가서 사용되기 시작한 챗GPT는 이제 통제 불가능의 단계로 넘어가게 된다. 이 글이 어떤 의도로 누구에 의해 만들어지고, 그 글이 누구에게 어떤 영향을 주게 되는지, 통제는 물론이고 확인할 방법이 없게 될 수도 있다. 인류의 콘텐츠 생태계가 무너지게 될지도 모른다는 우려가 시작됐다. 이미지와 사진과 음악을 생성해주는 인공지능의 등장도 마찬가지로 인간의 미디어 생태계에 큰 영향을 주게 될 것이다.

​

​

그래서 인공지능 소양 교육 필요

​

  이처럼 미디어로서의 인공지능은 규모나 속도, 그리고 그 효과성에 있어서 매우 강력하며 그만큼 매우 위험해질 수 있다. 따라서 미디어 소양의 관점에서 인공지능의 소양은 매우 중요한 의미를 가진다. 인공지능 기본 소양은 어떠한 내용을 포함해야 하는가. 먼저, 인공지능이 어떻게 작동하고 만들어지는지에 대한 기본적인 지식과 이해가 필요하다. 두 번째, 그러한 이해를 바탕으로 인공지능의 사회윤리적인 이슈와 긍정/부정적인 영향력을 인지할 수 있어야 한다. 세 번째는 그러한 문제를 방지하기 위해 시민으로서 나는 무엇을 해야 하는지 그리고 더 좋은 세상을 만드는 데 인공지능을 어떻게 사용해야 하는지에 대한 실천적 태도를 갖추어야 한다.

  ‘2022 개정 국가 교육과정’이 발표됐다. 이 교육과정은 여러 준비를 거쳐 2025년부터 단계적으로 초중고에 적용될 예정이다. 지난 ‘2015 개정 국가 교육과정’과의 차이점 중에 다음 두 가지를 살펴보도록 하자. 먼저, 총론에서 기초 소양에 기존의 언어 소양, 수리 소양 이외 추가로 ‘디지털 소양’이 포함됐다. 이제 읽고 쓰고 셈하기 외에 디지털 소양이 기초 소양에 포함됐음은 상당히 중요한 의미를 지닌다. ‘2022개정 교육과정’은 디지털 소양의 개념을 다음과 같이 정의하고 있다.

​​

디지털 지식과 기술에 대한 이해와 윤리 의식을 바탕으로,
정보를 수집·분석하고 비판적으로 이해·평가하여 새로운 정보와 지식을 생산·활용하는 능력

 

2022 개정 교육과정에서 강조하는 기초소양과 개념(안)

 

기초 소양	개념(안)
언어 소양	언어를 중심으로 다양한 기호, 양식, 매체 등을 활용한 텍스트를 대상, 목적, 맥락에 맞게 이해하고, 생산·공유, 사용하여 문제를 해결하고 공동체 구성원과 소통하고 참여하는 능력
수리 소양	다양한 상황에서 수리적 정보와 표현 및 사고 방법을 이해, 해석, 사용하여 문제해결, 추론, 의사소통하는 능력
디지털 소양	디지털 지식과 기술에 대한 이해와 윤리 의식을 바탕으로, 정보를 수집·분석하고 비판적으로 이해·평가하여 새로운 정보와 지식을 생산·활용하는 능력

*출처: 교육부(2021). 2022 개정 교육과정 주요 사항(시안). 13p.

 

  ‘디지털 소양’이 기초 소양에 포함됐으니 앞으로 모든 교과에 어느 정도 반영되어 학생들의 디지털 소양이 자연스럽게 갖추어질 것이다.

  두 번째 큰 차이점은 정보 교과의 내용이 크게 강화됐다는 점이다. ‘2015 개정 교육과정’에서는 중학교에 처음으로 정보 교과가 신설되고 정보 과목을 3년간 36시간 의무 교육하도록 지정됐다. 이번 ‘2022 개정 교육과정’에서는 3년간 68시간으로 확대 강화됐으며, 고등학교에도 정보 교과의 선택과목으로 기존의 정보 외에 ‘인공지능 기초’, ‘데이터 과학’, ‘소프트웨어와 생활’이 신설됐다. 또한 중학교 정보와 고등학교 정보에 ‘인공지능’ 단원이 새롭게 추가되어 초등, 중등, 고등 전 학급에 걸쳐 인공지능을 교육해야 한다. 뿐만 아니라 인공지능의 사회적 영향력 이해와 윤리적 문제는 교육과정에서 매우 중요하게 다루어지고 있다. 이와 관련해 서울시교육청을 비롯한 대부분의 교육청에서는 정규 교과와 별도로 인공지능 소양 교육을 준비하고 있다.

 

 

우리는 어디로 가고 있는가

​

  18~19세기에 유럽을 뒤흔들었던 산업 혁명의 본질은 인간의 육체노동을 대신하는 기계의 등장이었다. 지난 이삼십 년 동안의 디지털 혁명은 인터넷을 기반으로 인간의 인지 노동을 대신하는 기계(소프트웨어)의 등장과 대중화라고 볼 수 있다. 그리고 마찬가지로 지금의 인공지능 혁명은 인간의 지능적 노동을 대신하는 기계(인공지능 소프트웨어)의 등장과 대중화라고 할 수 있다. 인공지능은 인간의 다양한 지능적인 행동 중에서도 생각을 표현하고 전달하고 공유하는 분야까지 들어와서, 나에게 뉴스와 영화와 음악과 읽을거리를 추천해 주고, 나의 생각을 글과 사진과 그림으로 만들어 적절한 다른 사람에게 전달하는 것까지 하고 있다. 하지만 인공지능의 이러한 지능적인 판단과 결정은 신뢰성, 안전성, 투명성, 공정성 등에 있어서 많은 문제를 가지고 있으며, 또한 악의를 가진 사람에 의해 악용될 가능성도 있다.

  인공지능은 분명히 우리 인류 문명의 발전에 큰 도움과 역할을 하게 될 것으로 믿어진다. 하지만 이를 위해서는 예상되는 부정적인 이슈와 그에 대한 해결책 및 방지책을 일부 소수의 과학자들에게만 맡겨서는 안 될 일이다. 왜냐면 인공지능은 인류 모든 개인 한 명 한 명에게 그대로 반영되고 직간접적으로 영향을 줄 수 있기 때문이다. 따라서 우리 일반 시민의 판단과 의사와 참여가 필수적이다. 이것이 인공지능 소양 교육이 중요해지고 있는 이유이다.

 

 

 

​

본 원고는 한국언론진흥재단의 정부광고 수수료를 지원받아 작성되었습니다.

↓↓ 자세한 내용은 링크를 통해 확인해주세요. ↓↓

 

 

한국언론진흥재단

​

 

 

​

1.  [편집자 주] 케임브리지 애널리티카 사건: 영국 정치 컨설팅 업체 케임브리지 애널리티카가 2016년 미국 대선 당시 페이스북 이용자 수천만 명의 개인 정보를 동의 없이 무단 수집해 정치 광고 등에 활용해 문제가 된 사건. [본문으로]