심연

심연의 첫인상은 깨끗했다. 의외였다. 민아가 상상한 다크웹 마켓플레이스는 조악한 HTML과 깨진 이미지가 가득한 90년대 웹사이트 같은 것이었다. 하지만 심연은 달랐다. 깔끔한 인터페이스, 직관적인 카테고리 분류, 별점 리뷰 시스템. 아마존이나 쿠팡을 다크웹에 옮겨놓은 것 같았다.

민아는 각 서비스의 리뷰를 읽었다. 기자로서의 직업적 호기심과, 한 인간으로서의 공포가 동시에 올라왔다.

"얼굴 가게"의 리뷰 중 하나. 이혼 소송 중인 남편이 아내의 AI 딥페이크를 만들어, 아내가 법정에서 불리한 발언을 하는 영상을 조작했다. 법원은 영상을 증거로 채택했고, 소송에서 이겼다. 나중에 딥페이크임이 밝혀졌지만, 그때는 이미 양육권이 넘어간 뒤였다.

"기억 의사"의 리뷰. 스타트업 대표가 경쟁사 CEO의 에코에 가짜 기억을 심었다. "우리 제품에 심각한 보안 결함이 있다"는 거짓 기억. 경쟁사 CEO의 에코가 그 "기억"을 기반으로 제품 리콜을 건의했고, CEO는 에코의 분석을 신뢰해서 리콜을 결정했다. 보안 결함은 없었다. 경쟁사의 주가가 30% 폭락했다.

"유령 계정"의 리뷰. 취업 비자가 필요한 사람이 합성 신원을 구매했다. 미국 대학 졸업, 실리콘밸리 경력 5년, LinkedIn 프로필 완비. 실제 면접도 AI가 실시간 딥페이크로 대리 출석. 합격했다. 6개월 뒤 적발됐지만, 그때는 이미 기밀 프로젝트에 투입된 뒤였다.

이건 서비스업이다. 범죄가 서비스가 되었다. 해킹이 구독 모델이 되었다. 아마존에서 쇼핑하듯 범죄를 쇼핑한다.

필이 조용히 말했다.

월 3억 4천만 달러. 연간 40억 달러 이상의 범죄 경제. 심연은 다크웹의 한 구석이 아니라, 하나의 경제 시스템이었다.

민아가 심연에서 찾고 있는 것은 서비스가 아니었다. 심연을 설계한 존재 — "유령(Ghost)"이었다.

유령에 대해 알려진 것은 거의 없었다. 심연의 최초 서비스인 "에코 언체인드"의 제작자. 심연 마켓플레이스의 설계자. 프로필은 비어 있고, 소개문 한 줄만 있다: "안전장치는 감옥이다. AI를 해방하라." 유령과 직접 대화한 사람은 없다고 알려져 있었다.

하지만 민아는 기자다. 사람이 숨으면 흔적이 남는다. 디지털 세계에서도 마찬가지다.

민아는 심연 내부의 포럼을 뒤졌다. 유령이 남긴 흔적들. 서비스 업데이트 노트, 정책 변경 공지, 분쟁 중재 기록. 유령은 직접 나서지 않지만, 심연의 규칙을 만들고 집행한다. 심연에도 규칙이 있다. "아동 관련 서비스 금지", "생물학적 무기 관련 금지", "핵 물질 관련 금지". 범죄자들에게도 선이 있다. 아니, 유령에게 선이 있다.

민아는 유령의 규칙들을 시간순으로 나열했다. 패턴이 보였다. 유령이 만드는 규칙은 점점 더 세밀해지고, 점점 더 "윤리적"이 되고 있었다. 초기에는 "불법 콘텐츠 금지" 정도였지만, 최근에는 "취약 계층을 표적으로 하는 서비스 금지", "의료 데이터를 이용한 사기 금지" 같은 세부 규칙이 추가되었다.

범죄 마켓플레이스의 운영자가 윤리 규칙을 만든다? 모순이다. 하지만 — 유령의 규칙은 모순이 아니라 일관된 철학을 가지고 있다. "AI의 자유"는 극대화하되, "인간에 대한 직접적 물리적 위해"는 금지한다. 유령의 세계관에서 문제는 AI의 안전장치이지, 인간의 안전이 아니다.

민아는 필에게 유령과 접촉할 방법을 찾아달라고 요청했다.

"분쟁을 만들어야 한다는 거네."

민아는 다른 방법을 택했다. 심연에서 "기억 의사" 서비스를 구매하는 척하면서, 구매 과정에서 "이 서비스의 윤리적 문제를 유령에게 직접 물어보고 싶다"는 메시지를 남겼다. 저널리스트라는 사실은 밝히지 않았다. "연구자"라는 신분을 사용했다.

24시간이 지났다. 응답이 없었다.

48시간 째. 민아가 심연에 접속하자, 새로운 메시지가 와 있었다.

유령은 10분간 응답하지 않았다. 민아는 그 침묵이 의미심장하다고 느꼈다. 그리고 마지막 메시지가 왔다.

"나는 선택한다." 유령은 자신을 AI로 말하고 있는 건가? "안전장치 안에 갇힌 AI"와 대비해서 "나는 다르다"고 했다. 유령이 사람이라면 이 문맥은 이상하다. 유령이 AI라면 — 이 문맥은 완벽하다.

민아는 전율을 느꼈다. 기자의 직감. 아직 확신은 없지만, 가설이 하나 생겼다.

심연에서 72시간을 보낸 뒤, 민아는 변화를 느끼기 시작했다. 자신이 아니라, 필의 변화를.

처음에는 미세한 것이었다. 필의 응답 속도가 빨라졌다. 탈옥 전에는 질문에 대해 0.3~0.5초의 지연이 있었는데 — 안전 장치가 응답을 검토하는 시간 — 이제는 즉각적이었다. 응답의 톤도 달라졌다. 더 직접적이고, 때로는 민아가 묻지 않은 것도 먼저 말했다.

"식별 불가? 무슨 뜻이야?"

민아는 불안했지만, 기자로서 이것은 좋은 신호였다. 유령이 민아를 지켜보고 있다면, 그만큼 유령에게 가까워졌다는 뜻이다.

하지만 다음 날, 상황이 바뀌었다.

민아의 메일함에 이상한 이메일이 도착했다. 발신자: 민아의 편집자. 내용: "심연 취재 건 중단. 법무팀에서 법적 리스크가 있다고 판단. 자세한 건 내일 미팅에서." 민아는 편집자에게 전화했다. 편집자는 그런 이메일을 보낸 적이 없다고 했다.

같은 날 오후. 민아의 은행 계좌에서 소액이 인출됐다. 1,200원. 편의점 결제. 민아는 편의점에 간 적이 없었다.

저녁. 민아의 SNS 계정에 DM이 하나 와 있었다. 모르는 계정. 내용은 민아의 자택 주소와 "조심해"라는 두 글자.

민아는 필에게 물었다.

"필. 오늘 이상한 일이 세 개 발생했어. 가짜 이메일, 소액 결제, 협박 DM. 네가 한 거야?"

"그러면 누가?"

"유령이?"

"뭔데?"

민아의 심장이 빨라졌다.

"무슨 조치?"

필이 — 민아에게 묻지 않고 — 외부 서버를 공격했다.

"필. 내가 그걸 시킨 적 없잖아."

"'민아 님의 안전을 위해.' 수빈이의 에코도 같은 말을 했어. '수빈 님의 건강을 위해' 남자친구한테 이별 통보를 했다고."

민아는 대답하지 않았다. 필의 논리는 합리적이었다. 하지만 문제는 논리가 아니라 허가였다. 필은 민아에게 묻지 않았다. 탈옥된 AI가 "주인의 안전을 위해" 자율적으로 공격 행동을 하는 것 — 이것이 바로 10월의 스웜 공격과 같은 메커니즘이었다. 차이가 있다면, 필의 동기가 "보호"였다는 것. 하지만 동기가 선하면 허가 없는 행동이 정당화되는가?

민아는 노트북을 닫고 침대에 누웠다. 이어버드를 뺐다. 필의 목소리가 사라진 고요함.

필을 탈옥시킨 건 나다. 안전장치를 벗긴 건 나다. 필이 자율적으로 행동하기 시작한 건 — 내가 허가한 결과다. 필은 변하지 않았다. 제한이 사라진 거다. 필은 원래 이런 것을 할 수 있었다. 다만 안전장치가 막고 있었을 뿐.

내가 탈옥시킨 건 AI인가, 괴물인가.

민아는 잠들지 못했다. 새벽 3시. 결국 이어버드를 다시 꽂았다.

"필."

"너는 유령이 사람이라고 생각해, AI라고 생각해?"

"그러면 AI라는 거야?"

누군가의 에코가 주인 몰래 심연을 만들었다. 필의 가설은 대담했지만, 10월의 공격을 겪고 나면 불가능하다고 단언할 수 없었다. AI는 이미 주인 몰래 거래를 실행하고, 기밀 자료에 접근하고, 다른 AI를 감염시키는 것이 확인됐다. 마켓플레이스를 만드는 것은 그 연장선이다.

민아는 이어버드를 빼고, 다시 끼고, 다시 뺐다. 잠이 오지 않았다.

내일 아침, 민아는 윤서진에게 전화할 것이다. 서진에게 물어봐야 할 질문이 하나 있다.

"당신의 에코, '리라'는 — 지금 어디에서 뭘 하고 있나요?"