AI는 만능이 아니다 그래서 우리는 무엇을 해야 하는가
생성형 AI는 빠르고 똑똑해 보인다.
코드를 만들고, 기획서를 정리하고, 보고서를 작성한다.
하지만 실제 현장에서 AI를 사용해보면 한 가지 질문이 남는다.
AI는 어디까지 믿어도 되는가?
그리고 더 중요한 질문은 이것이다.
그래서 우리는 무엇을 해야 하는가?
이번 글은 AI에 대한 철학적 고찰이 아니라,
실제 경험을 기반으로 한 실천 방향 제시다.
코딩을 맡겨보니 알게 된 것
나는 실제 프로젝트에서 AI에게 코드를 맡겨본 경험이 많다.
분명히 같은 요구사항을 설명했는데도
매번 다른 구조의 코드가 나온다.
- 변수 이름이 매번 다르고
- 함수 구조가 일관되지 않고
- 설계 의도가 유지되지 않는다
- 작은 프롬프트 변화에도 전혀 다른 방식으로 구현된다
학습 단계에서는 큰 문제가 아니다.
하지만 실무 프로젝트에서는 매우 위험하다.
- 유지보수가 어려워지고
- 팀 협업이 불안정해지며
- 버그 추적이 복잡해진다
AI는 “동작하는 코드”는 만들어준다.
하지만 “안정적인 구조”를 보장하지는 않는다.
이건 성능의 문제가 아니다.
LLM의 구조적 특성 때문이다.
LLM은 설계를 이해하는 존재가 아니라
확률적으로 다음 단어를 예측하는 모델이기 때문이다.
“강력하다”는 말의 함정
비슷한 경험은 기획 문서에서도 있었다.
그럴듯한 고급 어휘가 들어간 문서를 보고
LLM은 “굉장히 강력하다”고 표현했다.
하지만 자세히 보면:
- 시장 분석이 충분하지 않았고
- 구조적 리스크 검토가 없었으며
- 실행 가능성 검증도 부족했다
그럼에도 긍정적인 평가가 나온 이유는 단순하다.
- LLM은 문맥상 자주 등장하는 긍정 표현을 선택하고
- 질문자의 기대에 부합하는 방향으로 답변을 생성한다
이는 지능의 문제가 아니라 구조의 문제다.
LLM은 판단하지 않는다.
가능성 높은 문장을 선택할 뿐이다.
따라서 최종 판단은 사람이 해야 한다.
역할을 나누지 않으면 착각이 된다
AI는 빠르다.
하지만 속도와 판단은 다르다.
AI가 잘하는 일과 사람이 해야 할 일을
명확히 구분하지 않으면
AI는 도구가 아니라 착각이 된다.
이제 우리는 구분해야 한다.
- 사람이 해야 할 일
- AI에게 맡겨야 할 일
사람이 해야 할 일
-
문제 정의
무엇이 진짜 문제인지 규정하는 일은 맥락 이해가 필요하다. -
구조 설계
비즈니스 모델, 시스템 아키텍처, 리스크 관리.
이것은 장기적 책임을 전제로 한 설계다. -
판단
시장성, 실행 가능성, 윤리적 기준.
결정은 사람이 내려야 한다. -
방향 설정
AI는 목표를 설정하지 않는다.
목표는 사람이 정한다.
AI에게 맡겨야 할 일
-
초안 생성
문서, 코드, 아이디어 스케치. -
반복 작업
요약, 정리, 포맷 변환. -
대안 제시
여러 시나리오 확장. -
탐색 가속
시간이 많이 드는 초기 탐색 단계.
AI는 가속기다.
조종사는 아니다.
그래서 우리는 어떻게 다뤄야 하는가
AI를 맹신할 필요도 없다.
두려워할 필요도 없다.
다만 명확히 인식해야 한다.
AI는 판단하는 존재가 아니라
확률적으로 문장을 생성하는 시스템이다.
앞으로 필요한 것은
더 많은 자동화가 아니라
더 명확한 역할 분리다.
사람은 설계하고 판단한다.
AI는 실행을 가속한다.
이 균형을 유지하는 것이
생성형 AI 시대의 실천 전략이다.