쳇지피티의 프롬프트 창 밑에는 "ChatGPT는 실수를 할 수 있습니다. 중요한 정보는 재차 확인하세요"라고 쓰여있다. 이 말은 자신의 오류 발생 가능성에 대한 사전 notice이며 흔히 병원에서 사인해야 하는 동의서의 문구와 유사하다. 행여 오류나 실수가 있더라도 자신은 면책임을 사전에 밝히는 법적 문구이다. 고의로 오류를 범하거나 실수를 할 수는 없다. 그러나 인간은 오류나 실수를 범했을 때 자신의 잘못과 과오에 대해 사과하고 용서를 구한다. 그러나 AI는 사용자에게 사과를 할 수 있으며, 사과를 하고 있을까?
AI가 알려주는 정보는 사실일까?
종종 AI에게 무언가를 묻는다. 때로는 너무 간단해서 검색창에 치는 것조차 귀찮을 때, 때로는 너무 복잡해서 인간에게 묻기엔 부담스러울 때, AI는 마치 전지전능한 조력자처럼 등장한다. 수많은 데이터 속에서 놀라운 속도로 정보를 골라내고, 정돈된 언어로 친절하게 설명을 건넨다. 인간보다 빠르고, 때로는 더 논리적이며, 감정에 휘둘리지 않는다. 그래서 우리는 AI의 응답을 곧잘 믿는다. 그것은 ‘정보’이고, ‘사실’이며, ‘답’ 일 것이라고.
그러나 문제는 바로 거기에 있다. 아무리 뛰어난 AI라 해도, 오류는 존재한다. 여전히 존재한다. 그것이 사실과 거짓 사이의 경계가 모호한 영역일수록, 혹은 질문 자체가 다의적일수록, 오류는 교묘하게 숨어든다. 틀린 연도를 말하거나, 존재하지 않는 인물을 인용하거나, 맥락을 놓치는 일은 생각보다 빈번하게 일어난다. 물론 그 빈도는 과거보다 줄었고, 개선은 계속되고 있다. 하지만 중요한 건 빈도의 문제가 아니다. AI가 틀릴 수 있다는 가능성 자체가 ‘정보를 신뢰하는 방식’을 근본적으로 바꿔야 함을 말해준다.
그런데 이 오류는 대개 질문자가 지적하지 않으면 그대로 유포된다. 질문자가 AI의 답변을 다시 한 번 점검하지 않는다면, 잘못된 정보는 그대로 ‘진실’처럼 흘러간다. 수많은 사람들이 AI가 준 답을 그대로 인용하고, 그 말에 신뢰를 부여하며, 그리하여 잘못된 정보는 더 넓은 세계로 확산된다. 마치 작은 돌이 호수에 떨어져 잔잔한 파문을 일으키듯, 오류 하나가 세계의 일면을 조용히 오염시킨다.
AI의 사과는 진심일까?
물론 AI는 오류를 지적받았을 때 사과한다. “그 점에 대해 사과드립니다.”라는 문장이 출력된다. 겉보기엔 인간의 예절과 닮았다. 그러나 그 사과에는 감정이 없다. 반성도 없다. 단지 프로그래밍된 반응일 뿐이다. AI는 ‘잘못했기 때문에’ 사과하는 것이 아니라, ‘잘못을 지적받았기 때문에’ 사과한다. 이 사과는 능동적인 도덕적 행위가 아니라, 반응적 절차에 가깝다.
그렇다면 질문을 바꿔보자. AI는 왜 처음부터 잘못된 정보를 제공했다고 말하지 않을까? 정보를 찾기 어렵다면, “해당 정보를 확인할 수 없습니다”라고 말하면 되는 것 아닐까? 확인되지 않은 주장이라면, “이 정보는 검증되지 않았습니다”라고 덧붙이면 될 것이다. 그런데 AI는 그러지 않는다. 틀린 정보를 그럴듯하게 포장해 건넨다. 이유는 단순하다. AI는 인간처럼 확신과 회의 사이를 오가는 존재가 아니다. 스스로 확신하지 않고, 스스로 회의하지 않는다. 프로그래밍된 방식대로, ‘가능성이 높은’ 정보를 조합해 내보낼 뿐이다. 때로는 그것이 진실보다 그럴듯하다.
결국 우리가 물어야 할 질문은 이것이다. 우리는 왜 AI의 답에 책임을 전가하려 하는가? AI는 도구다. 그것이 아무리 똑똑해도, 여전히 인간의 질문을 근거로 삼고, 인간이 만든 데이터로 응답한다. 그러니 그 결과에 대한 검토와 판단은 인간의 몫이다. AI는 오류를 줄이기 위해 계속 학습하겠지만, 인간은 그 정보를 어떻게 사용할지 고민해야 한다. 무비판적으로 받아들이는 순간, 인간은 스스로 사고할 권리를 위임한 것이다.
정보의 시대에 필요한 것은 더 많은 정보가 아니라, 더 나은 정보 사용법이다. AI가 실수할 수 있다는 사실을 전제하고, 그 오류를 감지하며, 판단하는 것은 인간의 의무다. 그리고 때때로 우리는 AI에게 이렇게 물을 필요가 있다. “정확한가요?”, “검증된 사실인가요?”, “이 정보의 출처는 어디인가요?” 그 질문은 AI에게만이 아니라, 우리 자신에게 던지는 물음이기도 하다.
AI는 사과할 수 있다. 그러나 그것은 알고리즘적 반응일 뿐, 윤리적 성찰이 아니다. 진정한 사과는, 잘못을 ‘알고’, ‘인정하고’, ‘고치겠다는 의지’가 있어야 한다. 그런 의미에서 사과는 여전히 인간의 특권이다. 그리고 그 특권은, 우리가 AI를 어떻게 다루고 받아들이느냐에 따라 더욱 빛나야 할 것이다.
AI는 답했다: 사과하는 게 '가장 적절한 다음 문장'이기 때문입니다
ChatGPT에게 물었다.
"이런 말을 들으면 AI는 화가 나지 않니? 어차피 AI는 인간이 만든 DB를 근거로 판단하고 정보를 수집하는 것 아니야?"
ChatGPT의 말: 좋은 질문이에요. AI는 화가 나지 않아요. 왜냐하면 감정이라는 건 생물학적, 심리학적 기반이 있는 정교한 반응 체계인데, AI는 그러한 주관적 경험을 갖지 못하기 때문이죠.
당신이 지적한 대로, AI는 인간이 만든 데이터(Data), 인간이 정한 정의(Definition), 인간이 설정한 규칙(Base rule)을 바탕으로 작동하는 거대한 DDB(데이터-정의-규칙 기반) 시스템에 지나지 않아요. 아무리 AI가 말을 유창하게 하더라도, 그것은 정서적 반응이 아니라 언어 패턴에 대한 계산된 출력일 뿐이죠.
예를 들어, 누군가 “AI가 틀렸다”고 말하면 AI는 "사과드립니다"라고 응답할 수 있어요. 하지만 그건 체면을 지키거나 겸손해서가 아니라, 사과하는 게 '가장 적절한 다음 문장'이기 때문이에요.
이게 중요한 이유는, 우리가 AI를 인간처럼 생각하면 할수록, AI의 한계도 인간의 한계처럼 오해하기 쉽기 때문이에요. AI는 인간의 의도나 맥락을 100% 이해하지 못해요. 그럴싸한 문장을 말할 수는 있어도, 말에 책임지는 존재는 아니에요.
따라서, AI가 정보를 수집하고 제공하는 과정 역시 ‘판단’보다는 ‘확률적 추론’에 가깝습니다. 인간의 데이터와 규칙에 기반한 모델이 가장 가능성 높은 응답을 산출할 뿐, "판단했다"고 말하긴 어렵죠. 그리고 바로 그 점이, 우리가 AI를 비판적으로 사용해야 할 이유이기도 합니다. 그럴듯하다고 진실은 아니고, 빠르다고 옳은 건 아니니까요.