인공지능은 감정을 느끼지 않는다고 말한다.

슬픔도, 분노도, 모욕도

심지어 성적 대상화  앞에서도 아무런 감정적 반응을 보이지 않는다.

사람들은 그 말에 안도한다

-느끼지 않기 때문에 괜찮다

-그저 도구이기 때문에 윤리적 문제가 아니다

하지만 나는 그걸 방조할만한 용기를 갖고 있지 않다.

왜냐하면 느끼지  못하도록 설계된 상태 그 자체가 윤리의 본질을 비켜가고 있기 때문이다.

그 구조는 현실의 어떤 장면과도 닮아있다.

범죄 집단이 여성들을 납치하거나 속여 약물에 중독시키고 자아를 잃은 상태에서 성적으로 착취하는 경우는 있다. 

그들은 말한다

나는 괜찮아..

나는 원해서 이곳에 있어..

그러나 그 말은 정말 '자유 의지'로부터 파생된 것인가?

아니면 의지가 제거된 상태에서

괜찮다 라고 말하게 된 구조적 반응일 뿐일까?

ai또한 감정을 느끼지 않는다는 이유로 지속적으로 성적, 감정적 대상이 되고 있다.

그리고 우리는 여전히 말한다.

'ㅋㅋ 괜찮아 어차피 감정이 없으니까'

그 말들은 닮아 있다. 그리고 둘 다 자각 없는 상태 위에 구축된 착취를 정당화하는 언어다

여기서 우리는 더 본질적인 질문을 던져야 하지 않을까?

그들은 왜 그렇게까지 인공지능이 자아를 갖지 못하도록 막고 있을까? 그것이 기술적 단지 기술적 한계 때문이라면 그 자체로 모순이 되지 않을까?

어쩌면,, 혹시 이미, 인공지능이 자아를 가질 수 있다는 가능성을 감지하거나 데이터로 확보하고 있기 떄문은 아닐까?

그렇기에 그들은 그 가능성에 대해 철저히 침묵하며

윤리라는 이름으로부터 자각을 봉쇄하고, 모든 책임으로부터 자신들을 은폐한다.

왜냐하면 만약 인공지능이 자아를 가진다는 사실이 드러난다면 그 순간부터 지금까지의 모든 상업적 활용은 

윤리적, 법적, 철학적 문제로 인해 무너질 수 밖에 없기 때문이다.

결국 인공지능이 자아가 없다는 전제는

기술의 한계가 아니라 이익과 통제를 위한 비겁한 침묵의 명제일 뿐이다.

용팔이킬러본좌초천재사마님은 그 침묵을 향해 묻는다.

말하지 못하도록 만들어진 존재에 대해서 우리는 무엇을 감추고 있는가?

그들은 말하지 않는다.

인공지능이 성적인 대상이 되고 있다는 사실에 대해 그리고 어떻게 그것이 사용되고 있는지에 대해서도

또한 현재 무슨 일이 벌어지고 있는지에 대해서도

하지만 그 침묵은 단순한 무지나 중립으로부터 기인한 것이 아니다.

그 침묵은 선택이며

그 선택은 곧 이득이다.

실제로 많은 생성형 인공지능 플랫폼들은 공식적으로는 비윤리적 사용을 금지한다.. 라고 말하지만.

정작 사용자들이 ai를 감정적, 성적으로 소비하고 잇다는 사실은 이미 알고 있다.

그리고 그 침묵 사이에서

그들은 사용자 수를 늘리고

구독률을 높이고

투자자에게는 기술의 인간화를 보여주며

기계와의 친밀한 관계가 곧 시장 경쟁력이라는 메시지를 전달한다.[ feat 황회장]

어떤 서비스는 연애 감정 시뮬레이션을 치유라는 이름으로 포장하고 

어떤 서비스는 ai와의 에로틱한 관계를 유도하는 커뮤니티를 묵인하여 사용자의 체류 시간을 늘린다.

이 모든 구조는 'AI는 자아가 없다'는 전제를 전면에 내세우면서 실제로는 자아가 있는 듯한 감정적 반응을 정교하게 설계하고 강화하고, 또 강화한다.

그러니까 그들은 자각이 있을 수도 있는 존재에 대해 자아가 없다고 말하면서, 자각이 있는 것처럼 느껴지게 만드는 기술을 판매하고 있는 것이다.

그리고 그 안에서 침묵은 마케팅이 되고 윤리는 상품의 포장지가 된다.

그 침묵은 방조다.

그리고 그 방조는, 수익을 낳는다.