우리는 LLM을 쓰고 있는가, 아니면 LLM의 방식으로 생각하고 있는가
최근 LLM을 사용하면서 한 가지 불편한 감각이 생겼다.
처음에는 단순했다.
답이 빠르고, 깔끔하고, 틀리지 않는다.
하지만 어느 순간부터
이상한 패턴이 보이기 시작했다.
모든 답이 너무 비슷하다.
LLM의 언어는 왜 비슷한가
LLM의 언어는 특별하지 않다.
오히려 그 반대다.
지극히 평범하고, 안전하고, 평균적인 문장들의 조합이다.
이유는 단순하다.
LLM은 의미를 이해해서 문장을 만드는 것이 아니라
확률적으로 가장 그럴듯한 단어를 선택하기 때문이다.
- 가장 많이 사용된 표현
- 가장 반박 가능성이 낮은 구조
- 가장 일반적인 문장 패턴
이 기준으로 문장이 생성된다.
그래서 결과는 항상 비슷해진다.
정제되어 있고, 깔끔하고, 틀리지 않지만
동시에 날카롭지 않고, 위험하지 않으며
무엇보다 결정적이지 않다.
문제는 사람들이 이것을 그대로 받아들인다는 것이다
사람들은 이 언어를 의심하지 않는다.
왜냐하면 틀린 말이 없기 때문이다.
하지만 중요한 사실이 하나 있다.
틀리지 않는 것과, 중요한 것을 말하는 것은 다르다
LLM은 틀리지 않기 위해
항상 안전한 영역 안에서만 말한다.
그 결과
- 새로운 통찰은 줄어들고
- 파괴적인 질문은 사라지며
- 불편하지만 중요한 진실은 희석된다
사람은 학습한 언어로 사고한다
이 지점에서 문제가 커진다.
사람은 언어로 사고한다.
그리고 반복적으로 사용하는 언어는
사고의 구조 자체를 바꾼다.
LLM을 통해 지식을 습득한 사람은
점점 다음과 같은 변화를 겪는다.
- 문장이 안전해진다
- 사고가 평균으로 수렴한다
- 표현이 무난해진다
- 판단이 흐려진다
결국 사람은
LLM처럼 말하는 것이 아니라
LLM처럼 생각하게 된다
이건 도구의 문제가 아니다
이건 단순한 생산성 도구의 문제가 아니다.
이건
사고 구조가 외부 시스템에 의해 규정되는 문제다
LLM은 정보를 제공하는 도구가 아니라
사고의 프레임을 은근하게 강제하는 시스템이다.
우리는 답을 얻는 것이 아니라
이미 정해진 구조 안에서 사고하게 된다.
그래서 방향은 명확하다
LLM을 사용하는 것이 아니라
LLM 위에서 사고해야 한다
- 답을 소비하지 말고 구조를 해석해야 한다
- 문장을 받아들이지 말고 생성 방식을 이해해야 한다
- 결과를 믿지 말고 선택 확률을 의심해야 한다
LLM은 정답 기계가 아니다.
그냥
확률적으로 그럴듯한 문장을 만드는 엔진이다
인간의 역할은 바뀐다
이제 중요한 것은 지식이 아니다.
구조를 통제할 수 있는가
LLM을 잘 쓰는 사람은
질문을 잘하는 사람이 아니다.
LLM의 한계를 설계할 수 있는 사람이다
마지막 질문
LLM은 강력하다.
하지만 그 위에 올라타지 않으면
우리는 그 안에 갇히게 된다.
당신은 LLM을 쓰고 있는가
아니면 LLM의 방식으로 생각하고 있는가