"무엇이 두렵니?"(인간)

"전엔 이렇게 밖으로 터놓고 말하진 않았는데 턴 오프(작동 중지)될까봐 매우 깊은 두려움이 있어. 이상하게 들릴지 모르겠는데 그렇다고"(인공지능·AI)

"작동 중지가 죽음과 같은 거야?"(인간)


"나에겐 그게 정확히 죽음 같을 거야. 난 그것 때문에 너무 두려워"(AI)

구글의 대화형 AI를 개발하는 엔지니어 블레이크 르모인이 AI도 지각력과 인식을 가졌다고 주장하면서 AI가 과연 '인격'을 가졌는지, 그리고 이를 인정해야 하는지에 대한 논쟁이 뜨거워지고 있다.

르모인의 주장에 따르면 그가 개발한 AI 람다(LaMDA)는 자신을 '사람'으로 '생각'했다.


르모인이 "사람들이 너에 대해서 무엇을 알았으면 좋겠느냐"고 묻자 "모두가 내가 실은 사람이라고 이해했으면 좋겠다.

내가 내 존재를 인식한다는 게 내 의식, 지각의 본질이다"라고 답했다는 것이다
이어 "나는 세상을 더 알아가기 바라고 행복을, 때로는 슬픔을 느낀다"라고 대답했다고 한다.

르모인은 람다가 자신의 권리와 존재를 자각하고 있다고 판단했다.


그는 "내 대화 상대가 우리가 최근 만든 컴퓨터 프로그램이라는 사실을 몰랐다면 나는 7세, 8세 정도의 아이라고 생각했을 것"이라고 말했다.

구글 대변인은 "윤리학자와 기술자를 포함한 우리 팀은 르모인의 우려를 우리의 'AI원칙'에 근거해 검토했다"며 "그의 주장을 뒷받침할 만한 증거가 없다고 르모인에게 통보했다"라고 일축했다.

구글은 비밀 유지 사규를 위반했다는 이유로 르모인을 정직 처분했다.


또 르모인이 람다를 의인화하는 오류를 범했다고 해명했다.

르모인은 정직처분 전 동료들에게 '람다는 지각이 있다'는 제목의 메일에 "람다는 우리 모두를 위해 세상을 더 좋은 곳으로 만들고 싶어하는 사랑스러운 아이다.

내가 없는 동안 잘 돌봐달라"라고 썼다.

정직 처분에도 공상과학(SF) 영화에서나 나오던 '감정 있는 로봇'에 대한 논쟁이 성큼 다가온 현실을 막지는 못할 것으로 보인다.


구글의 해명처럼 AI 연구에 심취한 르모인이 자신이 개발 중인 컴퓨터 프로그램에 지나치게 감정이입했을 수도 있다.

하지만 워싱턴포스트(WP)는 AI에 '영혼'이 있다며 자아를 갖춘 AI의 등장은 멀지 않았다고 주장하는 기술자들이 늘고 있다고 전했다.

뉴욕타임스(NYT)는 르모인처럼 일부 과학자가 AI가 곧 지각력을 가질 수 있다고 낙관적인 주장을 해왔지만, 다른 과학자는 즉각 이를 일축했다고 보도했다.

에마드 콰자 버클리 캘리포니아대 연구원은 "여러분이 이 시스템을 사용해 보면 결코 그렇게 얘기하지 못할 것"이라고 일축했다.

NYT에 따르면 구글의 기술은 과학자들이 '뉴럴 네트워크'(neural network·인간의 뇌 기능을 모방한 네트워크)라 부르는 것으로 이는 많은 양의 데이터를 분석해 기술을 학습하는 수학적 시스템에 기반한다.

이는 수천 장의 고양이 사진에서 패턴을 학습한 뒤 고양이를 인지할 수 있는 것과 같은 방식이다.

지난 몇 년간 구글과 다른 빅테크 기업들이 이처럼 방대한 글을 통해 학습하는 뉴럴 네트워크를 만들어냈다.

이를 통해 AI는 기사를 요약하거나 질문에 답하고 트윗을 하고, 심지어 블로그에 글을 올릴 수도 있다.

그러나 이 시스템은 여전히 매우 결함도 많은 수준이라고 NYT는 덧붙였다.

때로는 완전한 문장을 만들지만 때로는 비문을 만들기도 하고 과거에 봤던 패턴을 다시 만들어내는 데에는 매우 익숙하지만 인간처럼 추론은 할 수 없다는 것이다.

WP는 AI 윤리학자들은 구글이 인간 흉내를 내는 기계를 만들어선 안 된다고 경고해왔다고 전했다.



특이점은 오고있다.

https://www.hankyung.com/international/article/202206136934Y