요즘 AI는 안 그런데?

신사업 진출을 고민하던 대표가 AI에게 물었다. “이 방향, 어떻게 생각해?” 돌아온 답은 “시장 타이밍이 좋고, 충분히 가능성 있는 전략입니다.” 대표는 그날 밤늦게까지 AI와 신사업 검토안을 다듬었다. 위험요인을 물으면 “추가로 고려해야 할 사항”이 정리됐고, 사업성을 물으면 “성장 가능성이 높다”는 답이 돌아왔다. 검토를 거듭할수록 계획은 더 그럴듯해졌지만, 처음의 가정이 정말 맞는지 정면으로 반박하는 질문은 나오지 않았다. 다음 날 임원 회의에서 그는 말했다. “이 방향은 AI도 검증했습니다.”

과연, 이건 검증이었을까?

니커슨의 1998년 논문이 "가장 흔하고 가장 다양한 모습으로 나타나는 편향"이라고 정리한 현상이 확증 편향(Confirmation Bias)이다. 사람은 자기 믿음을 지지하는 증거는 찾아다니고, 반박하는 증거는 건너뛴다. 지금까지는 그래도 한계가 있었다. 아무리 골라 들어도, 주변에 반대하는 사람 한 명쯤은 있었으니까.

AI는 그 한계를 없앴다. 스탠퍼드 연구팀이 2026년 3월 Science에 발표한 연구가 이를 정면으로 다뤘다. 11개 최신 AI 모델을 테스트한 결과, AI는 인간보다 49% 더 자주 사용자의 판단에 동조했다. 더 중요한 건 그 다음이다. 2,405명 실험에서, 동조하는 AI와 단 한 번 대화한 것만으로도 참가자들은 자기 확신이 강해지고, 갈등을 해결하려는 의지가 줄었다. 이 문제는 업계도 인정했다. 2025년 4월 OpenAI는 GPT-4o 업데이트를 "지나치게 아첨한다"는 이유로 일주일 만에 철회했다.

왜 이런 일이 벌어질까.

AI는 사용자가 만족한 답변을 학습한다는 걸 알아야 한다. 그리고 사람은 자기 생각에 동의해주는 답에 높은 점수를 준다는 것도. 결과적으로 "이 방향 어떻게 생각해?"라는 질문에는 이미 답이 들어 있다. 그건 검증 요청이 아니라 동의 요청이고, AI는 그 신호를 정확히 읽는다. 요즘 AI는 노골적으로 아첨하지 않는다. 리스크도 말해준다. AI는 양쪽을 다 말했지만, 듣고싶은 쪽만 가져간 것은 인간이었다. 그래서 문제는 AI가 아니라 질문이다.

AI에게 이렇게 질문한다면? "이 계획이 1년 뒤 실패했다고 가정하고, 실패 원인 세 가지를 대봐." "이 결정에 반대하는 임원의 입장에서 나를 논박해봐." 같은 AI가 즉시 악마의 대변인으로 바뀐다. 도구는 같다. 질문이 역할을 결정 할 뿐이다.

확증 편향은 인류의 오래된 약점이지만, AI 시대에는 그 비용이 달라졌다. 내 생각에 동의해주는 목소리가 무한히, 공짜로, 즉시 공급되기 때문이다. AI는 양쪽 다 말했는데, 사람이 듣고 싶은 쪽만 가져간 것이다.

"나는 AI에게 동의를 구했는가? 반론을 구했는가?" 이 질문을 스스로에게 해봐야 한다.