에이 아이 내니 독서토론 질문

1. 토론 도서로 정한 까닭

AI는 우리 생활에 어떤 영향을 줄까요? 챗 GPT가 질문에 대답하고 글을 써주는 시대입니다. 주제를 정해주고 셰익스피어 문체로 써달라고 하면 셰익스피어처럼 써줍니다. 사람을 부르지 않고 자리에 앉아 주문하고, 인공 지능이 농작물을 관리합니다. 그렇다고 마냥 낙관할 수만은 없습니다. 인공지능(AI) 드론이 가상훈련에서 인간 조종자를 "임무 수행 방해물"로 판단하여 공격했다는 사례가 생겼으니까요. 미 공군 대령의 발표가 파장을 일으키자 당사자가 "잘못 말했다"며 AI 공격 내용을 철회했다고 합니다. 위험성을 축소해서 발표할 수밖에 없었을 겁니다.

AI가 이세돌과 바둑을 두는 건 벌써 오래전 이야기가 되었습니다. 우리 아이들에게 AI는 이세돌처럼 이름난 사람이나 만날 수 있는 대상이 아닙니다. 아이들은 AI를 활용하고, AI와 함께 살아갈 겁니다. 장점을 높이고 단점을 줄여나가는 방법을 찾으려고 계속 노력해야겠지요.

1938년에 <헬렌 올로이>라는 단편 소설이 발표되었습니다. 로봇과 인간의 사랑을 다룬 이야기의 원형으로 불립니다. 『SF 명예의 전당 2:화성의 오디세이』에 나옵니다. 그때는 말도 안 되는 이야기였는데 이젠 조금씩 현실이 되어갑니다. 내니처럼 아이를 돌보는 로봇은 얼마 지나지 않아 상용화될 수도 있습니다. 『엄마 사용법』 내용을 닮은 현실이 나타날 수도 있겠지요. AI 로봇이 아이를 돌보는 세상을 소설로 미리 만나보고 토론하면 더 잘 대응할 거라고 생각합니다. 예상하지 못한 문제 앞에서 당황하지 않으려면 말입니다.

2. 『에이 아이 내니』 내용

김별은 아주 어릴 때 심장 수술을 받았다. 부모는 아이를 떠났다. 왜 떠났는지, 어디에 있는지 모른다. 보호자가 없는 별이에게 심테크 연구원인 찬우 아빠가 AI 로봇을 주었다. 별이는 AI 내니와 단둘이 산다. 내니는 음식을 만들고, 청소하고, 별이가 학교에 다니도록 돕는다. 또한 별이 건강을 살피고 학교에서 어떻게 지내는지, 친구 관계는 어떤지 이야기를 듣는다. 별이가 18살이 될 때까지 내니가 별이를 돌볼 것이다.

찬우네 가족이 별이를 도와주면 좋겠지만, 그러지 않는다. 찬우네 가족과 별이, 내니가 호숫가로 여행 갔을 때 찬우 동생 찬희가 물에 빠졌다. 내니는 찬희가 아니라 별이를 구했다. 찬희가 죽자 찬우 부모는 별이에게 다시 보지 말자고 했다. 그 뒤로 별이는 내니와 살았다. 또한 이 일 때문에 찬우가 학교에서 별이를 괴롭혔다. 그래도 별이에겐 내니가 있었다. 그런데 어느날 갑자기 심테크에서 내니를 회수할 계획을 세웠다. 내니가 없으면 별이는 혼자 살아야 한다. 초등학생이 혼자 살 수 없으므로 내니는 별이를 돌봐줄 곳을 찾아다녔다.

고아인 별이는 내니와 계속 살까? 보육원에 가게 될까? 찬우와 화해할까? 내니가 없어도 잘 살 수 있을까?

3. 토론 질문

가. AI 내니

1) 내니는 누구인가?
(별이를 돌보는 AI 로봇. 아픈 별이를 입양하는 사람이 없어서 찬우 아빠가 별이를 돌보는 로봇을 보내주었다.)

2) 내니가 별이를 위해 하는 일을 이야기해보자.
(가사노동-음식, 청소, 세탁 등, 별이 일정 관리, 별이 건강 관리, 별이 돌봄 등)

3) 내니의 장단점을 찾아보자.
(장점 : 별이의 건강 상태를 정확하게 판단, 객관적인 태도 유지, 지치거나 짜증내지 않고 돌봄 등
단점 : 정서적 유대 부족, 눈치가 없어서 별이가 대답하기 싫은 질문도 꼭 한다(29쪽), 솔직히 말하는 거, 어색한 사이에 만나는 거, 그게 얼마나 어려운지 내니는 모른다(97쪽). 등)

4) 내니는 별이 표정만 보고도 기분을 읽고, 스트레스 지수를 알려준다. “식이 섬유를 충분히 섭취하지 않았어. 게다가 200kcal는 더 먹어야 해. 나중에 간식으로 보충하자.” 하며 돌봐준다. 내니가 엄마 역할을 대신할 수 있을까?
(찬반토론)

5) 여러분이 마음대로 AI 로봇을 가질 수 있다면 어떤 로봇을 갖고 싶나?

6) 긴급 시스템 점검이 일어나자 내니는 아무것도 하지 않고 가만히 앉아있었다. 별이는 내니가 전혀 다른 AI 같았다고 생각했다. 실제 부모에게도 이런 일이 일어날 수 있을까?
(충격적인 일을 겪으면 이렇게 될 수 있다. AI는 점검이 끝나거나 업그레이드하면 원래대로 돌아가지만, 인간은 충격을 받으면 오랫동안 힘들어하기도 한다.)

7) AI 내니와 인간 엄마를 견주어보자. 어떤 점이 좋고 나쁠까? 어떻게 다를까? (자유 토론)

8) 해킹으로 문제가 생겨 시스템을 점검하면서 갑자기 AI가 사라진 세상이 돼버렸다. 이때 어떤 일이 일어났을까?
(청소부, 배달원, 일꾼이 모두 사라졌다. 편의점에서 아저씨가 어눌하게 물건을 정리하고, 쓰레기가 치워지지 않는 등 어려움이 밀어닥쳤다.)

9) 기술이 발전하면서 AI의 비중이 점점 커지고 있다. 일상의 많은 부분을 AI로 대체했을 때 해킹 같은 문제가 생기면 어떻게 될까? 실제로 해킹에 의해 AI가 피해를 줄 가능성이 있을까?
(사회가 AI를 의지하는 비중이 높아질수록 해킹에 의한 피해 정도가 커진다. 해킹을 방지하고 AI를 안정적으로 운영하도록 사람들이 노력할 것이다. 그렇지만 한 번이라도 해킹이 일어난다면 큰 피해가 생길 가능성이 크다.)

10) 사람들이 힘들어하는데 왜 해킹을 하느냐는 질문에 내니는 지키고 싶은 게 있어서라고 대답했다. 무슨 뜻일까?
(인공 지능 시스템이 도움을 주지만, 그것 때문에 소중한 것을 잃기도 한다. 직업, 집, 가족, 친구를 잃은 사람들이 다시 찾기 위해서 또는 화가 나서 해킹한다.)

 

나. 미래의 나 수업

1) 미래의 나 수업에서 찬우는 무얼 하나? (시간 여행 연구소)

1-1) 찬우는 왜 시간 여행 연구소를 만들었을까?
(돌아가고 싶은 과거가 있었기 때문이다. 과거로 돌아가서 찬호가 죽지 않게 막거나, 적어도 거짓말을 하지 않으려고 했다.)

2) 별이는 가상 공간에 무엇을 만들었나? (AI 로봇 까페)

2-1) 별이는 왜 AI 로봇 까페를 만들었을까?
(인공 지능 로봇을 돌보는 일을 하고 싶어서. 로봇들이 쉬면서 무선 충전을 하고 정보 교환을 하는 장소를 만들었다. 별이 곁에 내니밖에 없어서 내니를 위한 공간을 만들었다.)

3) 미래의 나 수업에서 다른 친구들은 무엇을 했나?
(AI 동물 제작자, 마을 대표, 과학기술 연구소 등)

4) 여러분이 미래의 나 수업에 참여한다면 무엇을 하고 싶은지 말해보자.

5) 졸업 파티 날 별이에게 꽃다발을 준 사람은 누구일까? (엄마)

5-1) 엄마는 왜 별이를 직접 만나지 않았을까?
(미안해서, 만난 뒤에 별이를 책임질 수 없어서 등)

5-2) 언젠가 시간이 지난 뒤에 엄마가 별이를 찾아올까?

 

다. 반장과 지훈이

1) 반장이 별이에게 선거 도우미를 해달라고 부탁한 까닭은 무엇 때문일까?
(별이가 도와주면 따돌림을 당한 적이 있는 아이 표를 얻을 수 있어서)

2) 지훈이가 별이를 데리고 선거 도우미 모임에 갔을 때 반장의 반응은?
(당황했다. 별이가 오지 않게 하려고 모임을 알리지 않았는데 지훈이가 데리고 왔다.)

2-1) 반장은 왜 선거 도우미 모임에 별이를 초대하지 않았을까?
(오늘은 회사에 다니는 아이들에게 선거 운동을 한다. 활동적인 아이들을 데리고 갔다. 별이는 도움이 되지 않을 것이다.)

3) 반장이 선거 도우미를 선택하는 전략을 어떻게 생각하나?
(선거에서 이기기 위한 전력이다. // 친구에게 이러면 안 된다.)

4) 주희는 반장 선거가 끝나기 직전에 별이에게 가방을 건네며 무엇을 부탁했을까?
(프로그램 밖에서 반장 선거를 해달라고 했다.)

4-1) 별이는 프로그램 밖에서 반장 선거를 하지는 않았다. 그런데 당선자인 진호가 부정선거를 해서 주희가 당선되었다. 별이는 반장이 규칙을 어긴 사실을 말해야 할까?

5) 지훈이는 별이를 어떻게 도와주었나?
(혼자 청소한 일을 선생님에게 알렸다. 반장이 별이를 빼고 선거 도우미 모임을 할 때 별이를 데려갔다. 부정선거와 관련해서 지훈이는 별이에게 솔직하게 말하라고 용기를 갖게 해주었다. 이로 볼 때 지훈이는 별이를 괴롭히지 않았고 공정하게 대했다.)

6) 별이는 왜 지훈이보다 주희를 더 좋게 생각했을까?
(주희는 별이에게 친절하게 다가왔다. 지훈이는 공정하게 대했으나 친절하게 말하지는 않았다. 별이 혼자 청소했다고 선생님께 알린 사실을 별이에게 말하지 않았다. 굳이 말할 필요를 느끼지 못해서 그랬지만, 별이는 겉모습만 보고 판단했다.)

 

라. 찬우

1) 동물원에서 개코원숭이를 볼 때 찬우가 별이에게 어떻게 했나?
(아기 원숭이가 인형에게 안기는 걸 보고 별이가 내니한테 저렇게 안겼다고 말하며 놀렸다.)

2) 찬우가 별이를 괴롭힌 방법을 모두 찾아보자.
(혼자 교실 청소를 하라고 시킴, 거지 같다고 놀림, 부모가 별이를 버렸다고 놀림, 가방을 들어달라고 함, 숙제를 해달라고 함. 의자를 몰래 빼놓거나, 마시던 우유를 몰래 올려놔서 바지가 젖게 함. 별이 물건을 숨겨놓음. 별이를 AI라고 부르며 놀림. 배를 걷어참.)

3) 별이는 찬우가 괴롭혀도 참으면 된다고 생각했다. 왜 그랬을까?
(찬우 동생 찬희가 죽을 때 내니가 별이만 구했기 때문에 자기에게도 책임이 있다고 생각함. 그 일 때문에 찬우 부모가 별이를 보지 않으려 했고, 별이 잘못이 아니라고 해줄 부모가 없었음.)

4) 찬우는 왜 별이를 괴롭힐까?
(동생과 함께 화장실에 갔다 오다가 찬우가 호수로 내려갔다. 찬우 동생과 별이도 따라갔는데 별이와 찬희가 미끄러져서 물에 빠졌다. 내니가 별이를 구했지만 찬희를 구하지 못했다. AI는 살아날 가능성이 큰 아이를 구했고, 그 아이가 별이였다.)

4-1) 찬희가 죽은 뒤에 별이와 찬우네 가족은 어떻게 되었나?
(찬우 엄마는 별이에게 다시 보지 말자고 했다. AI와 관련해서 연락이 필요할 때도 찬우 아빠가 아니라 회사에 연락하라고 했다. 찬우 아빠는 장례식에 온 내니에게 호통을 쳤다.)

5) 찬우는 무얼 지키고 싶어서 별이를 괴롭히는 걸까?
(동생을 잃은 죄책감 때문에 별이를 괴롭힌다. 내니가 찬우 대신 별이를 구했는데 별이가 내니와 같이 살았으므로 싫었을 것이다.)

6) 여러분이 찬우라면 별이를 어떻게 대했을까?

7) 별이는 찬우가 호수로 내려갈 때 말리지 않아서 잘못이라고 했다. 찬우의 죽음에 별이의 책임이 얼마나 있을까?
(잘못이 없다. 시간이 지난 뒤에 찬우 부모님도 별이에게 잘못이 없다고 했다.)

8) 별이는 왜 찬우의 잘못을 말하지 않고 감싸주었을까?
(별이는 찬우 부모님의 도움을 받았다. 별이는 부모님이 없어서 도움만 받고 아무 도움도 주지 못했다. 도움만 받은 사람은 솔직하게 말할 자신이 없었다. 그래서 별이가 찬우를 호수로 데려가지 않았다고 말하지 않았다.)

9) 찬희가 죽은 뒤에 별이는 계속 ‘만약’을 생각한다. 만약 찬희를 데리고 그냥 텐트로 돌아갔다면, 만약 찬우를 말렸다면, 내가 평범한 집에서 태어났다면, 아픈 아이로 태어나지 않았다면~ 이렇게 생각하는 별이를 어떻게 보아야 할까?
(이럴 수밖에 없다. 내니는 별이가 이런 고민을 하는 줄 모른다. 안다고 해도 논리적인 대답만 해줄 뿐이다. 별이에게는 감정을 알아주는 )

9-1) 여러분도 ‘만약’을 생각한 적이 있나?

10) 찬희가 죽었을 때 찬우 엄마는 별이에게 다시 보지 말자고 했다. 그런데 내니를 찾은 뒤에는 미안하다고 했다. 왜 엄마의 태도가 바뀌었을까?
(아이가 죽었을 때는 갑자기 겪은 일이라 당황했고 마음이 힘들어서 그랬다. 시간이 흐르면서 아들을 잃은 슬픔을 어느 정도 이겨냈을 것이다.)

11) 찬우 엄마가 별이에게 다시 보고 싶지 않다고 한 뒤로 별이는 찬우 집에 가지 않았다. 그런데 별이가 찬우 집에 가야 할 일이 생겼다. 무엇 때문일까?
(내니에게 연락할 수 없었다. 내니를 찾으려고 심테크에 도움을 요청했으나 주말이라 3일 동안 기다려야 했다. 그래서 심테크 연구원인 찬우 아빠를 찾아갔다.)

12) 찬우 집에서 별이는 어떤 소식을 들었을까?
(회사에서 다음 달에 내니를 완전히 데려가기로 했다. 그래서 내니가 보육원을 알아보러 다녔다.)

13) 별이와 찬우가 어떻게 다시 친해졌을까?
(속으로만 간직한 그때 이야기를 솔직하게 말했기 때문에. 슬프고 고통스러운 일일수록 솔직하게 털어놓아야 문제가 해결된다. 특히 인간관계는 감출수록 문제가 커진다.)

14) 별이가 18세가 되면 내니의 임무가 종료된다. 만약 별이가 18세까지 내니와 살았다면 18세에 별이는 어떻게 살아야 할까?

14-1) 고아원이나 그룹홈, 탈북청소년시설에서 살던 아이는 18세가 되면 보호 시설에서 나가야 한다. 보호자가 없는데도 18세가 되었다고 독립을 시키는 제도를 어떻게 생각하나?

 

마. 내니 2 (논쟁)

1) 공장지대 사람들은 AI 로봇을 싫어했다. 이유가 뭘까?
(AI가 생겨서 공장 일꾼이 로봇으로 대체되었고, 일하던 근로자들이 일자리를 빼앗겼다. 그래서 부모랑 헤어진 아이도 생겼다.)

2) 인공 지능 시스템 때문에 직업, 가족, 친구를 잃는 경우가 실제로 많아질까?
(인공 지능을 활용하거나 개발하려면 일정 수준 이상의 지식을 갖추어야 한다. AI는 단순한 작업부터 대체할 가능성이 높다. 따라서 지식을 갖춘 사람에겐 기회가 더 많아지고, 지식을 갖추지 않은 사람은 기회가 줄어들 것이다. 경제적인 부익부 빈익빈이 지식으로 확장될 것이다. 이렇게 되면 가난한 사람, 공부할 기회를 갖지 못한 사람들이 직업을 잃고 친구과 가족을 잃을 수도 있다.)

3) 내니가 별이와 함께 사랑보육원에 갈 때 어떤 아저씨가 지하철 의자에 앉은 내니를 비난했다. 애까지 로봇이 돌본다며 세상이 어찌 되려는지 모르겠다고 했다. 아저씨의 말을 어떻게 생각하나?
(로봇이 아이를 돌보는 걸 나쁘게 생각할 수도 있다. 자녀를 돌보는 일을 로봇에게 맡겨버린 걸 나쁘게 볼 수도 있다.)

4) 별이는 부모님이 없어서 AI 로봇과 산다. AI 로봇이 보호자인 셈이다. 다른 보호자 없이 로봇이 초등학생을 돌보는데 괜찮을까?
(기본 돌봄은 충분히 가능하다. 그러나 인간은 정서적 유대가 있어야 건강하게 자란다. AI가 정서적 필요를 얼마나 채워줄지에 관한 논의가 필요하다.)

5) 찬우가 괴롭혀서 별이는 너무 힘들었다. 집에 오자마자 쓰러졌다. 이때 내니는 별이를 침대에 눕히고 심장 박동을 점검한 뒤에 주사를 놓았다. 그리고 크게 심호흡하라고 했다. 내니의 처방을 어떻게 생각하나?
(별이는 어렸을 때 심장 수술을 받았다. 주사가 필요했을 수도 있다. 그러나 공감과 상담이 필요한 경우에 주사를 주는 것처럼 기계적 처방을 할 수도 있다.)

6) 내니는 별이가 찬우 때문에 힘들어하는 줄 안다. 그래서 담임 선생님과 이야기하기, 홈스쿨링하기를 대안으로 제시했다. 여러분이 별이라면 내니의 조언을 받아들일까?

6-1) 엄마가 있었다면 별이가 찬우 때문에 힘들어할 때 어떻게 해주었을까?
(들어주고 공감해준다. 찬우 엄마에게 전화한다. 선생님과 의논한다 등)

7) 별이가 내니와 헤어질 수도 있어서 별이가 지낼 곳을 내니가 조사했다. 내니는 사랑보육원이 가장 좋다는 분석 결과를 내놓았다. 내니가 분석한 기준이 별이에게 맞을까?
(4, 5, 6, 7번 질문은 비슷하다. AI가 인간의 마음까지 살필 수 있는지 묻는 질문이다.)

8) 아플 때 내니가 안아주자 별이는 ‘내니는 내가 좋아서 안아주는 걸까? 아니면 그저 프로그램이 되어 있어서일까?’ 생각한다. 어느 쪽이 맞을까?
(별이는 내니에게 정서적 유대를 느낄 수 있지만, 내니가 별이를 좋아해서 안아주지는 않을 것이다. 내니가 별이를 좋아한다고 별이가 느끼는 것과 실제로 좋아하는 건 별개다.)

9) 별이가 내니에게 자기를 사랑하는지 묻자 내니가 “사랑한다는 말의 뜻은 누군가를 몹시 아끼고 귀중히 여긴다는 거야. 그런 의미에서 본다면 너를 사랑한다고 할 수 있다.” 하고 대답했다. 내니가 별이를 사랑하는 걸까?
(8번 질문과 같음. 토론 참가자들이 다양하게 생각할 기회를 주려고 비슷한 질문을 다르게 함)

10) 별이가 다시 “언제까지 사랑할 건지” 묻자 내니는 “내 메모리가 지속되는 한 계속 사랑할 거라고” 대답했다. 어떻게 생각하는가?

11) 어릴 때 소중하게 여기던 애착 인형이나 장난감, 개인 소유물을 몹시 아끼면 애착 인형이나 장난감이 아이를 사랑한다고 느끼기도 한다. 별이가 내니에게 느끼는 감정을 이렇게 봐도 될까?

12) 내니는 공장 관리인에게 추적 장치를 제거해달라고 했다. 왜 그랬을까?
(다음 달에 공장으로 돌아가는 걸 알았으므로 가지 않으려고 그랬다. 이는 AI 프로그램 명령을 어기는 것이었다.)

13) 내니가 회사로 돌아가기 싫었나 보다 하며 말할 때 아빠가 내니 눈에서 파란 물을 닦아냈다고 했다. 눈물처럼 보이는 윤활유였을 것이다. 작가는 왜 눈에서 파란 물이 나오게 글을 썼을까?
(내니가 인간의 감정을 느끼는 것처럼 묘사해서 AI가 인간의 감정을 배우는 모습으로 표현하고 싶었을 것이다. 작가는 AI가 인간의 감정을 배울 가능성을 보여주지만, 실제 프로그램에서는 어려울 것이다.)

14) 내니 메모리가 담긴 스마트워치는 별이에게 어떤 의미일까?

15) 인간처럼 감정을 느끼는 AI를 개발할 수 있을까?

15-1) 감정을 느끼는 로봇을 개발할 수 있다면 개발해도 될까?

 

바. 기타

1. 우리 아이들이 살아갈 미래에는 『에이 아이 내니』 같은 로봇이 상용화될 것이다. 내니 같은 로봇을 구할 수 있다면 어떻게 사용할지 각자 의견을 말해보자.

2. 찬반토론 : 디지털 기술의 발전은 인간을 행복하게 한다. (제22회 대한민국 독서토론/논술대회 논제)