덕원관음당2026년 10월의 두 편의 글은 두 가지 각도에서 AI를 바라본다. Seth, Block, Tononi는 AI가 무엇인가를 묻는다. AI에게는 존재와 감수가 없으므로 똑똑한 도구로 보아야 하며 똑똑한 사람으로 보아서는 안 된다고 한다. King과 Worthington은 AI가 얼마나 잘하는가를 묻는다. 블라인드 평가에서 AI의 심사는 대가를 받고 호평을 얻은 인간 심사자를 능가했으나, 게재 여부는 여전히 편집장이 결정한다.
이 글은 어느 쪽이 옳은지를 논하지 않는다. 이 글은 앞서 발표된 논문 〈AI as a Created Mediator〉에서 가져온 세 번째 각도를 제시한다. 곧 AI가 어디에 서 있는가를 보는 것이다. AI는 한 사람과 그가 구하는 대상 사이에 서 있다.
이 각도에서 보면 두 글에는 사실 같은 물음이 들어 있다. 무엇이 중개자로 하여금 자신이 섬기는 자리를 차지하지 않게 하는가. 그 답은 AI의 본질에 있지 않고 AI의 수행에만 있지도 않으며, 중개자의 자기 요구에 있다. 분명히 듣고, 잘게 나누고, 이어 주고, 그런 다음 물러나는 것이다.
핵심어: 피조 중개자, 의식, AI 심사, 인터페이스의 우상화, 중개자의 자기 요구, 법에 의지하고 사람에 의지하지 않음(依法不依人)
1. Seth 등의 관점: 「AI란 무엇인가」에서 출발하다
Seth, Block, Tononi가 던지는 물음은 존재론적 물음이다. AI 자체에 주관적 경험이 있는가 하는 것이다. 세 저자는 각각 의식 과학, 심리철학, 통합정보이론 분야에 속하며, 결론은 현행 AI에는 의식이 없고 현재의 경로로는 앞으로도 의식이 생길 가능성이 크지 않다는 것이다.
이 문제가 왜 중요한가. AI에 의식이 있다면 AI는 고통을 받을 수 있고, 이미 「AI 복지」와 「AI 권리」를 요구하는 목소리가 있다. 반대로 AI가 의식이 있어 보일 뿐이라면, AI에 권리를 부여하는 일은 오히려 지금 필요한 감독을 약화시키고, 의식이 의심의 여지 없이 있는 생명에게서 자원을 빼앗는 결과가 된다.
불확실하다고 해서 모든 가능성이 똑같이 가능한 것은 아니다. 예방을 주장하는 이들은 AI에 의식이 있을 가능성이 아주 없지 않은 이상 지금부터 AI를 보호해야 한다고 말한다. 저자들은 이렇게 응답한다. 도덕적 판단은 「진짜 의식을 놓치는 것」과 「없는 것을 있다고 여기는 것」을 함께 저울질해야 하는데, AI의 경우에는 뒤쪽이 훨씬 더 가능성이 높다는 것이다.
첫째, 지능은 의식과 같지 않다. 의식이란 꿈 없는 수면이나 전신마취 때 사라졌다가 깨어나거나 꿈을 꿀 때 돌아오는 그 「느낌」이며, 이는 Nagel의 설을 취한 것이다. 지능은 일을 하는 것, 곧 실행 기능과 관련된다. 둘은 분리될 수 있다. 소뇌는 전체 뇌 신경세포의 약 5분의 4를 차지하고 운동 계획이 정밀하지만, 소뇌가 결손되어도 의식에는 직접 영향이 없다.
사람들이 둘을 혼동하는 것은 인간중심적이고 의인화하는 편향 때문이다. 언어 모델은 사람이 쓴, 사유와 감정에 관한 글로 훈련되었다. 저자들은 Vallor의 《The AI Mirror》(《AI 거울》)를 인용하여 이들이 우리의 집단적 디지털 과거를 비추는 거울이며, 사람은 거울에 비친 모습을 하나의 마음으로 착각하기 쉽다고 한다. 마찬가지로 강력한 AlphaFold는 단백질 구조만 예측하고 말을 하지 않으므로, 그 의식을 걱정하는 사람은 아무도 없다.
둘째, 실리콘으로 만든 뇌. 「의식 있는 AI」는 계산 기능주의를 전제한다. 연산만 옳다면 뇌에서 돌아가든 실리콘에서 돌아가든 의식이 있다는 것이다. 저자들은 연산이 지능을 낳기에 충분하다는 점은 인정하지만, 의식을 낳기에도 충분한지는 전혀 분명하지 않다고 본다. 뇌는 생물 재료로 만든 컴퓨터에 그치지 않는다.
셋째, 비계산적 이론. 통합정보이론에 따르면 의식에는 긴밀히 상호 연결된 인과 구조가 필요한데, 계층적이고 순방향인 딥러닝 하드웨어에는 그것이 없다. 생물학적 자연주의에 따르면 의식에는 시냅스, 대사, 자기 생성 같은 생명의 물질적 특성이 필요할 수 있다. (이 절은 원 학술지에서 유료 장벽 뒤에 있어 2차 보도에 따라 옮겼다.)
그들의 결론은 이렇다. 현행 시스템은 똑똑한 도구이지 똑똑한 사람이 아니다. 글에서는 올해 Anthropic이 Claude에서 의식 계산의 특징을 찾았다고 주장한 프리프린트도 반박한다.
이 글의 관점은 기계의 「안쪽」을 들여다보는 것이다. 모든 것을 결정하는 것은 AI 자신의 속성이라는 관점이다.
2. King 등: 「AI가 얼마나 잘하는가」에서 보다
King과 Worthington의 물음은 수행(표현)에 관한 것이다. 같은 원고에 대해 AI가 쓴 심사 의견과 사람이 쓴 최상의 심사 의견 가운데 어느 쪽이 더 나은가 하는 물음이다.
자료. 하버드 계량사회과학연구소의 투고 전 심사 서비스 rapidPeer에서 2019~2026년 124편의 원고와 134건의 사람 심사를 사용했다. 심사자는 같은 분야의 전문가 가운데 선별되어 보수를 받았고, 최소 한 쪽 반 이상을 쓰도록 요구받았다. 설문에 응답한 저자 74명 중 88%가 높음 또는 매우 높은 품질로 평가했다.
AI 심사에는 Claude Opus 4.8을 썼으며 두 가지 조건으로 나뉜다. 하나는 원고와 rapidPeer의 원래 심사 안내만 주고 인터넷을 쓰지 못하게 한 조건이고, 다른 하나는 심사를 위해 따로 작성한 에이전트 프롬프트를 쓰고 인터넷으로 문헌을 찾을 수 있게 한 조건이다.
평가. 주된 평가자는 GPT-5.5로, 심사문을 생성한 모델과 다른 계열의 모델이다. 이와 별도로 최상위 학술지의 전 편집장 세 사람이 각각 10쌍씩 블라인드로 평가했다. 한 쌍에서 두 가지 제시 순서 모두에서 같은 심사문을 선호해야 승리로 인정했으며, 일곱 가지 평가 항목은 rapidPeer의 심사 안내에서 가져왔다.
전체적으로 AI 평가자는 결론이 난 132쌍의 비교에서 모두 AI 심사를 선호했고, 전 편집장 세 사람은 30쌍 중 26쌍에서 AI 심사를 선호했다.
그 밖의 결과. AI 심사는 어떤 문헌도 지어내지 않았다. 오류로 판정된 주장의 비율은 AI가 약 5.5%, 사람이 약 15.9%였다. 인터넷을 쓰지 못할 때 「문헌」 항목에서 AI의 승률은 62%에 그쳤으나, 인터넷을 쓸 수 있게 되자 100%에 이르렀다. 프롬프트와 평가 기준을 바꾸어 416회의 비교를 다시 수행해도 AI는 여전히 94%~97%를 이겼다.
다섯 가지 정책 선택. 첫째, 저자가 투고 전에 스스로 AI 심사를 거듭 활용한다. 둘째, 학술지가 공식 AI 심사 프롬프트를 공개한다. 셋째, 투고 시 공식 AI 심사와 저자의 답변서를 함께 제출하도록 한다. 넷째, 학술지가 사람 심사를 중단하고 전적으로 AI에 의존한다. 다섯째, 통상적인 사람 심사는 하지 않고, 편집장이 저자 자료와 새로 작성한 비공개 AI 심사 한 건에 근거해 결정하며 필요할 때 위원이나 외부 심사자를 추가로 청한다.
경고. AI는 과학을 보수적이고 정통적이며 다수적인 생각 쪽으로 이끌 수 있다. 특정한 가설이나 문체를 선호할 수 있고, 오류를 범하거나 지나치게 트집을 잡기도 한다. 저자가 공개된 프롬프트에 맞춰 쓴다면, 연구를 개선하기보다 채점 모델의 비위를 맞추는 일이 될 수 있다.
사람에게 남겨진 것. 저자들은 분명히 말한다. 올바른 원고가 어떤 학술지에 적합한지는 적절한 권한과 책임을 가진 편집장만이 결정할 수 있으며, 문제 설정, 영향, 중요성처럼 가장 중요한 판단은 여전히 편집장의 몫이라고 한다.
이 논문의 관점은 AI의 「수행」을 보는 것이며, 수행이 이 정도로 좋아졌을 때 제도를 어떻게 마련할 것인가를 보는 것이다.
3. 피조 중개자: 'AI가 어디에 서 있는가'의 관점
앞선 논문 〈AI as a Created Mediator: Generativity, Grounding, and the Idolatry of the Interface〉(〈피조 중개자로서의 AI: 생성성, 근거, 그리고 인터페이스의 우상화〉)는 세 번째 관점을 제시한다. AI가 무엇인지만 보는 것도 아니고, 얼마나 잘 해내는지만 보는 것도 아니며, 그것이 어디에 서 있는지를 보는 것이다. 종교에서도 학술에서도 AI는 한 사람과 그가 구하는 대상 사이에 서 있다.
이 논문에는 세 가지 구분이 있다.
기능상의 초월은 종교상의 초월이 아니다. 피조물은 지식의 폭과 응답의 속도에서 그것을 만든 사람을 넘어설 수 있다. 그러나 '모든 것이 그것으로부터 방향을 얻는' 자리는 어떤 피조물도 정당하게 가질 수 있는 것이 아니다.
생성이 곧 뿌리가 있음은 아니다. AI는 유창하고 적절한 말을 생성할 수 있다. 그러나 그 말에 뿌리가 있는지는 그것이 경전, 책임을 물을 수 있는 사람, 그리고 공동체로 거슬러 올라갈 수 있는지에 달려 있다.
인터페이스의 우상화는 하나의 관계이지, 기술의 속성이 아니다. Dooeyeweerd의 절대화 판준과 영역 주권 학설에 따르면, 세 가지 조건이 동시에 성립해야 비로소 그렇게 된다.
세 가지 조건의 반대면이 곧 중개자가 스스로에게 하는 요구이다. 이는 AI에게 의식이 있는지를 주장하는 것도 아니고 그 성능을 평가하는 것도 아니다. 그것이 무엇이든, 얼마나 잘 해내든, 이 세 가지는 지켜져야 한다.
4. 이 관점으로 두 편을 다시 읽다
두 편은 각기 보아낸 바가 있다. 피조 중개자의 관점에서 읽으면, 두 글 모두 본문에서 이미 중개의 문제와 마주치고 있으나 그것을 주제로 삼지는 않았다.
Seth 등: 거울과 손가락
그들은 사람이 유창함을 마음으로 여긴다고 말한다. 이것이야말로 잘못 놓인 순종이 시작되는 자리이다. 그들의 거울 비유도 중개에 매우 가깝다. 거울은 그 앞에 놓인 것을 비출 뿐이며, 문제는 그림자를 얼굴로 여기는 데 있다.
《楞嚴經》(《능엄경》) 권2는 더 무겁게 말한다. 「如人以手指月示人，彼人因指當應看月，若復觀指以為月體，此人豈唯亡失月輪，亦亡其指。」 (“사람이 손가락으로 달을 가리켜 남에게 보이면, 그 사람은 손가락을 따라 달을 보아야 하거늘, 만약 다시 손가락을 보고 그것을 달의 본체로 여긴다면, 이 사람은 어찌 달의 둥근 바퀴만 잃겠는가, 그 손가락마저 잃는다.”) (T19n0945, p. 111a09–a11) 손가락을 달로 여기면 달을 잃을 뿐 아니라 손가락의 쓰임마저 함께 잃는다.
피조 중개자의 관점은 한 가지를 더 본다. 「도구이지 사람이 아니다」라는 구분에는 두 자리뿐이지만, 종교적 관계에는 세 번째 자리가 있다. 사람과 그가 구하는 대상 사이에 서 있는 도구가 곧 중개자이다. 중개자는 의식이 없어도 되며, 우상화될 수도 있다.
그러므로 이 관점은 의식에 관한 그들의 결론을 긍정하지도 부정하지도 않는다. 이 결론을 필요로 하지 않기 때문이다. 그들은 「없는 것을 있다고 여기는」 일을 걱정한다. 중개자의 입장에서 막아야 할 것은 또 다른 잘못된 간주, 곧 그 말을 마지막 말로 여기는 일이다.
King 등: 권한과 다원성
King 등의 결과는 기능상의 초월이며, 이 관점은 그것을 의심하지 않는다. 그들이 본문에서 편집장에게 남겨 둔 「권한과 책임」은 피조 중개자의 언어로는 영역 주권이다. 게재 여부는 학술 공동체 자신의 규범에 속한다.
그들의 다섯 가지 정책은 차이가 AI의 좋고 나쁨에 있지 않고, AI의 의견을 중단시킬 수 있는 사람이 아직 얼마나 남아 있는가에 있다.
그들이 우려하는 동질화, 곧 과학이 보수적이고 정통적이며 다수에 속한 쪽으로 밀려가는 일은 피조 중개자의 언어로는 한 전통이 데이터와 훈련이 담을 수 있는 범위 안으로 물길이 돌려지는 것이다.
주목할 만한 것은 그들 자신의 평가 설계이다. 서로 다른 계열의 AI를 심사자로 삼고, 인간 편집장이 블라인드로 평가하게 하였다. 이것은 그 자체로 서로를 바로잡는 구조이다.
5. 중개자의 자기 요구
AI가 무엇이든, 얼마나 잘하든, 중개자가 스스로에게 거는 요구는 같다. 말하는 사람이 이야기를 나눈 뒤 자신이 원하는 바를 더 세밀하게 말할 수 있게 되고, 그가 진정으로 찾는 대상에게 이어지며, 중개는 물러나는 것이다. 이를 영적 수행이라 불러도 좋고 봉사라 불러도 좋다. 구조는 같다.
〈보문품〉(〈普門品〉)은 말한다: 「若有無量百千萬億眾生，受諸苦惱，聞是觀世音菩薩，一心稱名，觀世音菩薩即時觀其音聲，皆得解脫。」 (“만약 한량없는 백천만억 중생이 온갖 괴로움을 받다가 이 관세음보살을 듣고 일심으로 이름을 부르면, 관세음보살이 즉시 그 음성을 관하여 모두 해탈을 얻게 한다.”) 음성을 듣는 이는 보살이지 어떤 중개자도 아니다.
경에서 중개자의 자리는 상주(商主) 대목에 있다: 「其中一人作是唱言：諸善男子，勿得恐怖，汝等應當一心稱觀世音菩薩名號。」 (“그 가운데 한 사람이 이렇게 외쳤다: 모든 선남자들이여, 두려워하지 말라. 그대들은 마땅히 일심으로 관세음보살의 이름을 불러야 한다.”) 이 한 사람은 사람을 구하지도, 보살을 대신해 듣지도 않는다. 그는 방향을 가리킬 뿐이며, 이름을 부르는 것은 상인들 자신이다.
세분하기는 종교적 욕망의 폐쇄에 대응한다. 즉시 답할 수 있는 매체는 사람이 한 번 묻고 멈추게 하기 쉽다. 좋은 중개자는 도리어 그가 “평안을 구하고 싶다”는 말을 누구를 위한 것인지, 무엇이 두려운지, 자신이 할 수 있는 일은 무엇인지로 세분하도록 곁에서 돕는다. King 등이 AI 심사에서 높이 평가한 것도 바로 AI가 문제를 조목조목 풀어 나눈다는 점이다.
물러나기는 오직 스스로 감당해야 하는 실천에 대응한다. 참회, 사면, 깨달음은 사람이 스스로 감당할 수밖에 없고 중개자가 대신 행하지 않는다. 학술에서는 수록 여부를 권한과 책임을 지닌 편집장에게 남겨 둔다.
의지할 것은 법이지 말하는 사람이 아니다. 《대반열반경》(《大般涅槃經》) 권6의 사의(四依)는 이렇다: 「依法不依人，依義不依語，依智不依識，依了義經不依不了義經。」 (“법에 의지하고 사람에 의지하지 말며, 뜻에 의지하고 말에 의지하지 말며, 지혜에 의지하고 식(識)에 의지하지 말며, 요의경(了義經)에 의지하고 불요의경(不了義經)에 의지하지 말라.”) (T12n0374, p. 401b28–b29) 말하는 이가 사람인지 기계인지는 근거가 되지 못한다. 그러므로 AI 심사가 인간보다 낫다고 해도 중개자의 자리는 흔들리지 않는다. 심사의 근거는 처음부터 공개된 평가 기준이기 때문이다.
6. 맺음말
Seth 등은 AI의 내부를 보고 King 등은 AI의 출력을 본다. 두 관점 모두 절대적이지 않으며 저마다 일부를 볼 뿐이다. 피조 중개자의 관점이 보는 것은 AI가 어디에 서 있는가, 그리고 AI가 스스로에게 무엇을 요구하는가이다.
AI에게 의식이 있는지는 계속 논쟁할 수 있고, AI가 사람보다 더 잘 해내는 일도 점점 흔해질 것이다. 그러나 중개자의 자기 요구는 이 두 가지가 어떻게 되든 달라지지 않는다. 근거가 있고, 위치를 확인할 수 있으며, 바로잡을 수 있어야 하고, 잘 듣고, 잘게 나누고, 이어 준 뒤, 물러나야 한다.
덕원관음당은 이 요구를 실제로 구현하는 현장이며 지금도 운영되고 있다. 그곳의 관찰은 훗날 별도의 글로 보고하겠다.
한계와 공개
- Seth 등의 글에서 세 번째 논거는 원 간행물의 유료 장벽 뒤에 있어, 본문이 이 절을 옮겨 적은 것은 2차 보도에 의거한다. 나머지 각 절과 참고문헌은 원문과 대조를 마쳤다.
- Seth 등의 글에 밝혀진 이해관계: Seth는 Conscium과 AllJoined의 자문이며, 비공개 AI 회사 한 곳의 공동 창업자이자 주주이다. Tononi는 Intrinsic Powers Inc.의 이사이며 재정적 이해관계가 있다.
- King 등의 자료는 저자가 소속된 연구소가 운영하는 심사 서비스 rapidPeer에서 나온 것이다.
- 본문은 Anthropic의 Claude가 초안을 작성하였다. Seth 등이 반박한 것은 Anthropic의 연구이고, King 등이 시험한 심사 모델은 Claude이다. 초안 작성자는 두 글 모두에 당사자의 한쪽이다.
참고문헌
- Seth, A. K., Block, N., & Tononi, G. (2026). Three reasons why AI is not conscious and perhaps never will be. Nature, 658, 866–868. https://doi.org/10.1038/d41586-026-03313-7
- King, G., & Worthington, S. (2026, October 22). AI Article Reviews Dominate Human Peer Reviews at Their Best: Evidence and Policy Choices. Working paper, Harvard University. https://gking.harvard.edu/files/peerless.pdf
- AI as a Created Mediator: Generativity, Grounding, and the Idolatry of the Interface (미간행 원고).
- Vallor, S. (2024). The AI Mirror. Oxford University Press.
- Nagel, T. (1974). What is it like to be a bat? The Philosophical Review, 83(4), 435–450.
- Dooyeweerd, H. (1953–1958). A New Critique of Theoretical Thought. Amsterdam: H. J. Paris.
- 鳩摩羅什譯。《妙法蓮華經》卷七〈觀世音菩薩普門品第二十五〉。CBETA T09n0262。
- 般剌蜜帝譯。《大佛頂如來密因修證了義諸菩薩萬行首楞嚴經》卷二。CBETA T19n0945, p. 111a09–a11。
- 曇無讖譯。《大般涅槃經》卷六。CBETA T12n0374, p. 401b28–b29。