AI는 이제 우리 삶에 스며들었습니다. 모두가 AI를 사용하는 지금, 중요한 건 '무엇을 쓰느냐'가 아니라 '어떻게 쓸지'를 고민해야 합니다. 정답은 없지만, 이 탐구 생활을 통해 해법을 찾아가는 과정을 함께 나누고 고민해 보고자 합니다.
▲옵시디언에서 구현한 지식도서관, 각 점(노드)은 개별 지식이고, 선은 그 노드들의 관계를 설명합니다. 현재는 데이터를 구축하는 단계입니다. ⓒ 신상호
새로운 AI 모델이 나왔다는 소식에 무기력감을 느낄 때가 있었습니다. 가장 최근까지도 그랬습니다. 과거에는 코드 수천만 줄을 쓰고, 수많은 수정 작업을 거쳐야 했던 일들이, 이제는 AI 명령어 단 '한 줄'로 대체되는 시대가 됐기 때문입니다. 저는 지금까지 AI 자동화 플랫폼인 n8n 환경에서 여러 자동화 워크플로우 모델, 파이썬 코딩을 통한 머신러닝 모델들을 만들어 활용해 왔습니다. 코드 수식과 임베딩을 맞추고 노드(Node)를 연결하고 오류를 수정하는 등 상당히 어려운 과정이 필요했고, 하나의 자동화 모델을 만들기까지 몇 개월이 걸리기도 했습니다.
그렇게 자동화 모델이나 머신러닝을 만들어내고 뿌듯했던 마음도 잠시였습니다. AI 에이전트가 급속도로 발전하면서, 제가 어렵게 구축해 놓은 모델들도 무용지물이 됐으니까요. 명령어 한 줄만 넣으면 AI가 알아서 코드를 만들고, 실행하고, 자동으로 에러까지 잡아 결과물을 내놓는 수준에 도달했습니다. 에이전트를 써보니, 제가 만든 머신러닝모델이나 자동화 워크플로우가 쓸모없어졌다는 생각에, 허탈한 마음도 컸습니다.
이런 허탈함은 저만 느끼는 일이 아니었습니다. AI 에이전트가 발전을 거듭하면서 AI를 활용한 스타트업들도 큰 위기를 맞고 있습니다. 카피라이팅 자동화를 통해 한때 1조 5000억 원의 기업 가치를 인정받았던 재스퍼(Jasper), 대학 과제 도우미였던 체그(chegg) 등은 챗지피티(ChatGPT) 등 범용 AI 모델들이 비슷한 기능들을 잇따라 내놓으면서 어려움을 겪고 있다고 합니다. IT 업계에선 'AI가 새로운 모델을 내놓으면, 스타트업들이 와장창 한다(무너진다)'라는 말도 들립니다.
이런 흐름에 대해 앤트로픽(Anthropic) 프로덕트 매니저인 캣 우(Cat Wu)는 "당신은 계속 올라가는 바닥 위에서 제품을 만들고 있습니다(You are building on a rising floor)"라고 정의했습니다. 새 모델이 나올 때마다 AI의 기본 성능(바닥)이 높아지고, 어제 어렵게 만든 기능이 오늘은 기본 기능이 되어버리는 상황을 가리킨 말입니다.
AI가 내 의도에 맞춰 맥락까지 고려해 답변하게 하는 법
그래서 AI의 거듭된 발전과 상관 없이 쌓아나갈 수 있는 나만의 영역에 대한 고민으로 넘어갔습니다. AI가 발전하더라도 가치를 유지하고, AI 발전과 더불어 그 가치를 돋보이게 할 수 있는 분야는 무엇일까에 대한 고민이기도 했습니다.
현 시점에서 제 나름대로 내린 결론은 '나만의 지식 도서관 구축'입니다. 오픈AI(OpenAI) 창업 멤버였던 안드레 카파시(Andrej Karpathy)의 아이디어로부터 얻은 힌트이기도 합니다. 나만의 지식 도서관(데이터베이스)을 매일 같이 저축하듯 쌓아나가고, 이 데이터를 AI와 접목하는 방식입니다. 데이터 구축을 기반으로 한 AI 모델은 범용 AI 모델과 분명히 다릅니다.
물론 범용 AI도 좋은 성능을 자랑합니다. 하지만 AI가 내놓는 답변들은 때로는 내 의도와 선호, 인사이트와는 다르게 나타날 때가 많습니다. 내가 의도하는 맥락을 AI가 모두 알아서 판단할 수 없기 때문입니다. 그래서 필요한 작업은 AI가 답변을 할 때, '나의 도서관 서고'를 찾도록 설정하는 일입니다. 나만의 지식 도서관을 쌓고, 이를 AI 가 참고할 수 있게만 한다면, 그 답변은 내가 필요한 정보에 더욱 가까워질 것입니다.
지금부터 쌓아야 할 데이터는 무엇일까요? 당장 내 머릿속에 떠오른 아이디어, 관심 있게 본 기사나 블로그, 유튜브 영상, 논문 등이 될 수 있을 겁니다. 그리고 이렇게 쌓은 데이터들을 구조화하게 된다면 AI는 단순하게 질문하더라도 내가 의도한 맥락적 부분까지 이해하고 답변하게 될 것입니다. 매번 AI에 배경과 맥락을 설명하지 않아도 필요한 답변을 얻을 수 있게 될 겁니다.
이는 범용 AI 에이전트가 아니라, 나의 시각이 복제된 또 다른 '나'를 구축하는 것과도 같습니다. 실제로 깃허브(GitHub) 등에는 이같은 지식 도서관을 구축할 수 있는 오픈 소스들이 LLM 위키 등의 이름으로 배포되고 있고, 상당한 인기를 누리고 있습니다. 나만의 데이터를 쌓는 것이 유용하다는 걸 많은 사람들이 공감했다는 방증이기도 합니다.
캣 우의 표현대로, 우리는 모두 '계속 올라가는 바닥(rising floor)' 위에 서 있습니다. 어제까지 복잡한 코드로 구현해야 했던 일들이 다음날, 명령어 한 줄로 실현 가능한 시대, AI로 충분히 구현 가능할 것으로 예상되는 작업에 시간을 들이는 일은 계란으로 바위 치는 것과도 같습니다. 대신 AI가 가질 수 없는 것, 나만의 데이터 도서관을 쌓으면서 AI가 나의 맥락을 이해하도록 한다면, AI 시대에도 나만의 경쟁력을 확보할 수 있지 않을까 생각합니다. 물론 나의 데이터를 쌓기 위한 역량을 지속적으로 기르는 것, 가령 책과 논문을 꾸준히 읽으면서 낡은 고정관념에 사로잡히지 않는 태도를 갖추는 것도 중요합니다.