AI 시대의 사고와 고유성에 대한 성찰
인공지능이 발전함에 따라 현재는 AI 가 우리 삶 속에 깊이 자리 잡은 상태다. 사람들은 AI 의 성능을 실시간으로 목격하고 있고, 생산성 향상이라는 경험과 선전으로 인해 모든 것을 AI 로 해결하려 하거나, 생각하지 않고 AI 에 의존하려는 경향이 나타나고 있다. 이러한 현상에 관해 AI 가 아무리 발전하더라도 대체되지 않는 고유한 특성을 어떻게 가질 수 있을지를 고민해볼 필요가 있다.
- 인공지능이 아무리 발전해도 대체될 수 없는 뇌를 만드는 방법 | (서울대 뇌인지과학과) 이인아 교수 - YouTube 해당 영상을 보고 든 생각을 정리했다.
Vibe Coding 현상과 그 한계
2025 년 2 월, OpenAI 공동창업자이자 테슬라 AI 디렉터를 역임한 Andrej Karpathy 는 “vibe coding” 이라는 용어를 만들어냈다. 그는 이것을 ” 완전히 분위기에 몸을 맡기고, 지수적 성장을 받아들이며, 코드가 존재한다는 것조차 잊어버리는 ” 새로운 형태의 코딩이라고 설명했다. LLM 이 충분히 발전해서 음성으로 지시만 하면 코드가 생성되고, 에러가 나면 그냥 복사해서 붙여넣으면 대부분 해결되며, diff 도 읽지 않고 항상 “Accept All” 을 누른다는 것이다.(사실 당시에는 코딩 툴 성능이 올라감에 따라서 이래도 만들어지네? 라는 느낌의 포스팅이었는데, 점차 시간이 지남에 따라 유행을 타면서 딸깍만으로도 반드시 동작해야한다는 인식이 자리잡은 경향이 있다.)
그러나 Karpathy 본인조차 이 방식의 한계를 인정했다. 때로는 LLM 이 버그를 고치지 못해서 우회하거나 무작위로 변경을 요청해야 했고, 코드가 자신의 이해 범위를 넘어서게 되었다고 고백했다. 그는 이것이 “throwaway weekend projects” 에는 괜찮지만 심각한 프로젝트에는 적합하지 않다고 덧붙였다.
Karpathy 의 “professional coding” 에 대한 포스트 에서는 먼저 관련 모든 것을 컨텍스트에 넣고, 코드를 바로 요청하지 말고 먼저 여러 high-level approaches 와 장단점을 물어보라고 조언한다. LLM 의 판단이 항상 좋지는 않기 때문이다. Simon Willison 역시 “LLM 이 모든 코드를 작성했더라도, 당신이 그것을 검토하고, 테스트하고, 다른 사람에게 설명할 수 있다면—그것은 vibe coding 이 아니라 소프트웨어 개발 ” 이라고 강조한다.
Karpathy 의 최신 프로젝트인 Nanochat 을 “basically entirely hand-written” 으로, vibe coding 이 아니라 직접 코딩으로 만들었다고 말하기도 했다. vibe coding 의 한계—보안 문제, 버그, 유지보수 어려움—가 현실에서 드러나면서 그 자신도 다시 전통적인 방식으로 돌아간 것이다. 최근에는 BMAD-Method, SuperClaude, SpecKit 등 Skill 기반, TDD 기반 워크플로우를 통해 한계를 보완하고자 하는 움직임이 보인다. MIT 의 컴퓨터 과학자 Daniel Jackson 은 “AI 코딩에 너무 의존하는 것은 임박한 재앙일 수 있다 ” 고 경고하며, ” 보안 취약점으로 가득 찬 망가진 코드뿐 아니라, 그 취약점을 다룰 능력이 없는 새 세대의 프로그래머를 만들어낼 것 ” 이라고 지적했다.
AI 에 생각을 맡겨버린다면?
지난 3 개월간 AI 를 적극적으로 사용하면서 의식적으로 더 많이 활용하고자 노력했다. 어떻게 사용해야 할지, 어떻게 해야 도움이 될지 방향성에 대해 고민하면서 많이 사용해 보았다. 그 과정에서 스스로 AI 가 빠른 아웃풋을 내준다는 측면에서 대부분의 것들이 쉽게 가능하다는 생각을 가지게 되었다.
지금 돌아보면 부끄러운 부분인데, AI 에게 맡기고 나서 실질적으로 내용에 대한 인지가 확실하게 되어 있지 않아 미팅에서 곤혹을 치른 적이 있었다. 이 경험을 통해 깨달은 것은, 나의 맥락 없이 사용되는 AI 는 무의미하다는 것이다. 먼저 생각하지 않고 사용한 AI 의 결과값은 결국 내 머릿속에 남지 않는다. 이것은 Ines Lee 의 “Think First, AI Second” 글에서도 확인할 수 있다.
Expermiment
2025 년 6 월 MIT 연구진이 발표한 연구 (Your Brain on ChatGPT) 에서 54 명의 학생들이 세 가지 조건에서 에세이를 작성하는 동안 뇌를 스캔했다:
- ChatGPT 만 사용
- Google 만 사용
- 자신의 사고만 사용
주목한 결과는 다음과 같다.
- ChatGPT 그룹이 가장 낮은 신경 활동을 보였다
- ChatGPT 그룹의 83% 가 자신이 쓴 내용을 기억하지 못했다 (다른 그룹은 11% 만)
하지만 대부분의 언론이 놓친 중요한 발견이 있었다. 연구진은 AI 사용 순서에 따른 차이도 테스트했다:
- Brain → AI (먼저 생각하고, 그 다음 AI 사용): 이 그룹은 AI 를 사용하면서도 주의력, 계획력, 기억력이 더 좋았다. 놀랍게도 AI 를 전혀 사용하지 않은 학생들만큼 인지적 참여도가 높았다.
- AI → Brain (먼저 AI 사용, 그 다음 사고): 이 그룹은 AI 사용을 중단하고 스스로 작업할 때도 정신적으로 수동적인 상태를 유지했다. 수동적으로 시작하면 수동적으로 남는다.
즉, AI 를 우선적으로 사용하게 되는 경우 AI 가 빠른 아웃풋을 제공하므로 우리는 그 과정에서 일어나야 할 인지적 처리—문제 분해, 맥락 파악, 연결 짓기—를 건너뛰게 된다. 생각을 연결하고, unlearning 하면서 분해하고, 다시 새롭게 연결하는 과정이 생략되는 것이다. 따라서 우리는 Brain → AI 단계를 이어나가야 한다.
AI 를 시뮬레이터로 이해하기
“Think First, AI Second” 와 더불어 함께 연관되어 생각났던 내용은 Karpathy 가 이야기한 AI 를 인격체로 받아들이지 않고 시뮬레이터로 이해해야 한다는 것이다. 사람들은 AI 가 친근하게 답하고 대화할 수 있다 보니 ” 너는 xyz 를 어떻게 생각해?” 라고 묻는 것처럼 일반적으로 사용하게 된다.
그러나 Karpathy 는 AI 를 인격체가 아닌 시뮬레이터로 생각하고 입력을 전달하라 고 말한다. 해당 관점에 따르면, 현재 LLM 들은 학습한 텍스트를 기반으로 대화의 충실한 시뮬레이션을 생성하려는 존재로 보는 것이 더 정확하다. AI 의 내부 원리는 결국 확률 높은 결과값을 도출해내는 굉장히 복잡한 연산을 동반한 기계인 것이다.(지금으로서는) 따라서 우리는 기계가 우리가 원하는 맥락에 대해 높은 연관성을 지닌 답변을 도출하도록 가이드하기 위해 ” xyz 에 대해 탐험하기에 좋은 사람들 그룹은 무엇일까요?” 처럼 특정 상황과 특정 인물 혹은 환경을 던져주면서 시뮬레이션을 동작시킨다는 생각을 해야 한다.
클로드 코드 토큰 사용량 대회에서 1 위를 하신 (그만큼 많이 사용해보시고 사용 방법에 대한 철학이 있다는 의미다.) 박진형님도 평범한 사업가 채널 영상 에서 동일한 이야기를 하시는데, AI 는 뱉어내는 것이고 올바른지, 알맞는지에 대한 결정과 판단은 사람이 해야한다는 점이다. 이때, AI 가 내뱉는 것들에 대한 퀄리티를 위해 여러 회사의 가장 최상의 모델을 사용하고 여러 모델들이 내용에 대해 합의를 보도록 이끈다. 사람은 모델들이 합의를 보는 과정에서 모델에게 잘못 전달된 부분은 어디인지를 파악해 문맥이 잘 유지되도록 이끌고 최종적으로 올바른지 이해하고 검증 및 판단하는 역할을 한다. 결국 중요한 것은 실행과 결과물 도출의 사이클에서 생각을 연결하고, unlearning 하면서 분해하고, 다시 색다르게 연결하는 과정을 AI 와 페어 (pair) 로 진행하지만 무엇보다 중요한 것은 내 판단이다. 빠르게 적용하고 빠르게 실행하며 그로 인해 빠른 결과값을 도출해내는 것이 중요하되, 그 과정에서 나의 사고와 판단에 대한 학습이 함께 이루어져야 한다.
또 다른 한편으로 연이어서 든 개인적 성찰은 AI 를 학습의 도구로 활용하는 데 현재보다 더 많은 시간을 쏟아야 한다는 점이다. 설계의 구조적인 부분, 구현적인 부분, 고려 사항, 의사소통, 소통을 위한 기본 지식 등 모르는게 너무 많다는 것을느낀다. 최근 고등학교 졸업 후 AI 를 활용해 공부해 OpenAI 에 입사한 Gabriel Petersson 의 인터뷰 가 화두에 올랐었는데, 이야기하는 바와 같이 AI 와 함께 학습하는 과정을 적용해봐야 겠다.(+ 추후에는 코딩 영역 외의 어떤 다른 영역을 공부해볼지 고민해봐야겠다.)
AI 시대에 탁월한 사람의 조건
탁월한 사람의 조건을 정의해봤다.
- 고유성. 개인의 고유성을 넣을 수 있는 사람이 탁월하다. AI 가 생성하는 결과물은 결국 평균의 조합이다. 개인의 경험, 관점, 맥락이 들어갈 때 비로소 차별화가 생긴다. 나의 맥락이 우선되어야 한다는 것과 일맥상통한다.
- 관찰력이다. 고유성은 나와 타인을 대비했을 때 알 수 있기에, 고유성을 갖추기 위해서 우선적으로 사람을 잘 관찰해야 한다. 직접적인 관찰일 수도 있고, SNS 든 어떤 관계를 통해서 얻을 수 있는 관찰일 수도 있다. 그리고 고유성을 표현하기 위한 측면에서도 관찰력이 필요하다. 타인이 어떤 부분에 관심이 있는지에 귀 기울여야 하고, 그 니즈를 잘 아는 사람이 고유성을 더 잘 표현할 수 있다는 점에서 탁월하다. AI 는 패턴을 분석할 수 있지만, 맥락 속에서 진짜 니즈를 포착하는 것은 여전히 사람의 영역이다.
- 실행력이다. 실행과 실패를 빠르게 사이클을 돌리면서 목표를 집요하게 추진해 나가는 사람이 탁월하다. 생각만 하는 것이 아니라, 빠르게 실행하고 실패하고 학습하고 다시 실행하는 반복이 중요하다. 실행과 결과물의 도출의 사이클
AI 는 실행을 도울 수 있지만, 무엇을 관찰할지, 어떤 고유성을 넣을지, 어떤 목표를 집요하게 추진할지는 온전히 사람의 몫이다. AI 를 잘 활용하되 그 전에 나의 사고가 먼저 있어야 하고, 그 사고를 기반으로 AI 와 협업하며, 끊임없이 실행하고 학습하는 사이클을 돌려야 한다.