돈 내고 쓰는데 왜 막혀? AI한도의 진짜 이유
원본 영상: 돈 내고 쓰는데 왜 막혀? AI한도의 진짜 이유
채널: 머니코믹스 Money Comics
유료 AI의 사용량 한도에서 시작된 질문
“내 돈 내고 내가 쓰는데 왜 막히냐.”
영상은 유료 AI를 쓰다가 사용량 한도에 부딪히는 불편에서 출발한다. IT 커뮤니케이터 김덕진 소장과 SK텔레콤 이주은 매니저는 이 질문을 AI 활용 방식의 변화와 데이터센터의 공급 문제로 연결한다.
대화의 중심은 AI가 질문에 답하는 도구에서 업무를 맡아 수행하는 에이전트로 바뀌고 있다는 점이다. 사용자가 직접 질문하지 않는 동안에도 AI가 작업한다면, 이를 뒷받침할 연산 자원도 필요하다. 출연자들은 데이터센터와 전력, 운영 효율을 이러한 변화의 기반으로 설명한다. 후반부에서는 SK텔레콤의 인프라 사업과 국내 모델·데이터센터를 확보해야 하는 이유를 다룬다.
질문을 기다리던 AI가 먼저 일을 시작한다
김덕진 소장은 최근 에이전트의 변화를 “이제는 가만히 있어도 지가 돌아요”라고 표현한다. 사용자가 매번 지시해야 움직이던 방식에서, 연결된 정보를 살펴보고 필요한 작업을 준비하는 방식으로 바뀌고 있다는 설명이다.
김 소장은 사용자가 쉬거나 잠자는 동안에도 AI가 일을 하고, 그 과정에서 토큰을 사용한다고 말한다. AI의 활용 범위가 넓어질수록 눈앞에 보이는 질문과 답변 외에도 작업이 이어지는 셈이다.
이주은 매니저는 여러 AI에 서로 다른 역할을 맡기는 사용 방식도 소개한다. 한 AI가 만든 결과를 다른 AI에게 검토하게 하고, 문제점을 지적하는 역할을 따로 맡기는 식이다. 결과를 한 번 생성하는 데서 끝내지 않고, 생성과 검토를 반복하며 업무에 활용한다는 설명이다.
출연자들이 토큰과 인프라를 강조하는 배경에는 이러한 사용 방식의 변화가 있다. AI가 더 많은 일을 맡고 여러 모델이 함께 작업할수록, 이를 실행할 자원에 대한 요구도 커진다는 것이다.
생산성을 높이려면 사람의 역할도 바뀐다
코드를 직접 쓰는 일에서 설계하고 맡기는 일로
이 매니저는 코딩 에이전트를 함께 일하는 개발자에 비유한다. 사람이 전체적인 설계와 세부 방향을 정하면, 에이전트가 이를 바탕으로 코드를 작성하는 방식이다.
그의 설명에서 사람의 역할은 사라지지 않는다. 무엇을 만들지 정하고, 실행 방향을 제시하고, 결과를 살펴보는 일이 중요해진다. 출연자들은 이러한 변화를 기존 인력이 더 많은 결과물을 만들어 내는 방향으로 설명한다.
김 소장 역시 사람이 모든 일을 더 빠르게 직접 처리해야 한다는 식으로 받아들일 필요는 없다고 말한다. AI에게 맡길 일과 사람이 판단할 일을 나누고, 작업 결과에 따라 다음 지침을 정하는 역할이 필요하다는 것이다. 그는 이를 ‘에이전트 보스’라는 표현으로 설명한다.
조직에 맞추는 동안에는 부담이 늘 수 있다
이 매니저는 개인이 잘 쓰는 AI 도구를 팀의 업무 흐름으로 연결하는 일도 중요하다고 말한다. 자신에게 맞춘 에이전트를 공유하고, 조직의 업무에 맞게 활용해야 생산성 향상으로 이어진다는 설명이다.
다만 도입 직후부터 시간이 절약되는 것은 아니다. 그는 조직에 맞는 데이터를 준비하고, 실행 구조를 설계하고, 원하는 대로 작동하는지 확인하는 초기 부담을 ‘AX J커브’로 설명한다. 익숙한 업무를 AI와 함께 수행하는 방식으로 바꾸는 동안에는 오히려 시간이 더 들 수 있다는 것이다.
06:57 - 조직의 AI 전환 초기에 발생하는 시간 부담
이 매니저는 이러한 적응 과정을 거쳐야 생산성 향상에 도달할 수 있다고 본다. 회사가 업무에 필요한 AI 사용 자원을 지원하는 일도 이 변화의 일부로 소개한다.
AI의 발전 속도와 데이터센터의 구축 속도
김 소장은 AI의 발전을 제약하는 요인으로 데이터센터 부족을 지목한다. 소프트웨어가 빠르게 발전하더라도 이를 실행할 시설과 전력을 같은 속도로 확보하기는 어렵다는 설명이다.
09:46 - 소프트웨어 발전 속도와 데이터센터 공급 속도의 차이
데이터센터는 실제 건물과 설비를 갖춰야 한다. 전력을 확보하고 장비를 설치한 뒤, 시설을 연결하고 운영할 준비를 해야 한다. 김 소장은 이처럼 물리적 구축에 시간이 필요한 점을 늘어나는 AI 수요와 연결한다.
그는 자체 데이터센터를 가진 기업도 공급 부담을 겪을 수 있다고 설명한다. 외부 고객에게 제공할 자원과 자체 AI 개발에 사용할 자원이 함께 필요하기 때문이다. 시설을 보유하고 있다는 사실만으로 모든 수요를 충족할 수 있는 것은 아니라는 관점이다.
영상에서 사용량 한도에 대한 질문은 이처럼 늘어나는 연산 수요와 인프라를 확보하는 속도의 차이로 이어진다. 김 소장은 모델의 성능뿐 아니라, 그 모델을 실제로 실행할 기반도 AI 경쟁의 중요한 요소라고 본다.
데이터센터를 짓고 운영하는 사업
시설 구축과 지역사회의 관계
이 매니저는 데이터센터 개발에 지역사회와의 협력이 필요하다고 설명한다. 시설 건설에 대한 주민들의 우려가 사업 진행에 영향을 줄 수 있고, 운영에 필요한 인력을 확보하는 일도 함께 고려해야 한다는 것이다.
그가 소개하는 방향은 지역 청년의 취업과 운영 인력 양성을 데이터센터 사업에 연결하는 것이다. 김 소장도 데이터센터 투자가 생산과 고용, 부가가치에 미치는 효과를 언급한다. 두 사람은 데이터센터를 건설과 운영, 인력 양성이 연결되는 지역 산업의 기반으로 설명한다.
신규 개발과 안정적인 운영
이 매니저는 SK텔레콤의 데이터센터 사업을 설명하며, 그룹 관계사의 건설·반도체·에너지·냉각·운영 역량을 결합하는 구상을 소개한다. 데이터센터에 필요한 여러 요소를 연결해 구축과 운영을 추진한다는 취지다.
신규 시설을 개발하는 일과 기존 시설을 안정적으로 운영하는 일도 구분한다. 부지와 전력, 냉각 설비 등을 확보하는 과정에는 큰 투자가 필요하며, 시설을 갖춘 뒤에는 이를 지속적으로 운영할 역량이 요구된다는 설명이다.
규모뿐 아니라 전력 효율도 중요하다
이 매니저는 전력 대비 토큰 처리 효율을 설명하며 ‘토큰 퍼 와트’를 중요한 지표로 언급한다. 더 적은 전력으로 더 많은 토큰을 제공하는 방향이 중요해지고 있다는 것이다.
그가 소개하는 AI 팩토리 구상도 이러한 효율 개선과 연결된다. 물리적 시설을 갖추는 것에 더해, 추론 소프트웨어와 클라우드 플랫폼 운영 등을 함께 설계해 자원을 효율적으로 활용하겠다는 설명이다.
앞선 데이터센터 공급 논의가 시설을 얼마나 확보할 수 있는지에 관한 것이었다면, 이 대목에서는 확보한 시설로 얼마나 많은 작업을 처리할 수 있는지가 중요해진다. 출연자들은 인프라 확장과 운영 효율을 함께 다룬다.
고객의 장비를 수용하거나, 컴퓨팅 자원을 제공하거나
진행자는 주주의 관점에서 데이터센터에 들어가는 큰 투자가 어떻게 수익으로 이어지는지 묻는다. 이 매니저는 장기 계약과 투자 파트너 등을 활용하는 방식을 설명하고, 사업 방향으로 코로케이션과 컴퓨팅 클라우드를 소개한다.
코로케이션은 데이터센터 공간과 전력, 관련 설비를 마련하고 고객의 GPU를 받아 운영할 기반을 제공하는 방식이다. 이 매니저는 “고객한테 GPU는 가져오세요”라는 말로 이를 설명한다.
컴퓨팅 클라우드는 사업자가 GPU까지 갖추고 고객에게 컴퓨팅 자원과 서비스를 제공하는 방식으로 소개된다.
| 사업 방향 | 제공 방식 |
|---|---|
| AI 특화 코로케이션 | 고객의 GPU를 설치하고 운영할 공간·전력·관련 설비 제공 |
| AI 컴퓨팅 클라우드 | 사업자가 GPU를 갖추고 컴퓨팅 자원과 서비스 제공 |
김 소장은 보안 때문에 자체 장비를 사용하려는 수요와 AI 인프라의 큰 전력 요구를 코로케이션의 필요성과 연결한다. 일반 사무공간에서 감당하기 어려운 설비를 전용 데이터센터에서 운영할 수 있다는 설명이다.
이 매니저는 해외의 컴퓨팅 자원이 대규모 계약으로 확보되면 국내 기업이 필요한 자원을 구하기 어려울 수 있다고 본다. 국내 데이터센터와 컴퓨팅 클라우드를 마련하는 것은 이러한 기업들이 이용할 기반을 제공한다는 의미도 있다고 설명한다.
해외 AI가 있어도 국내 기반이 필요한 이유
진행자는 해외 모델을 쓰는 입장에서 국내 AI를 육성해야 하는 이유를 묻는다. 해외 서비스가 더 저렴하거나 성능이 좋다고 느껴지는 상황에서, 국내 기반을 갖추는 의미가 무엇인지에 대한 질문이다.
이 매니저는 데이터 주권과 보안 통제를 강조한다. 데이터를 어떻게 다루고 통제할 수 있는지가 모델의 성능과 가격 못지않게 중요하다는 설명이다.
그는 공공·의료·금융·국방 등의 분야에서 해외 서비스 이용에 제약이 생길 수 있다고 설명한다. 해외 정책이나 수출 규제의 변화로 자원과 서비스에 대한 접근이 영향을 받을 가능성도 국내 기반이 필요한 이유로 든다.
이 매니저는 국내 모델과 데이터센터를 확보하는 일을 국내 AI 산업과 국가 경쟁력의 문제로 본다. 필요한 자원을 스스로 통제하고, 계속 이용할 수 있는 기반을 마련해야 한다는 주장이다.
영상 말미에는 SK텔레콤이 인프라 공급자이면서 모델과 서비스를 개발하는 사용자이기도 하다는 점을 강점으로 제시한다. 이 매니저는 직접 인프라를 사용하는 경험이 고객에게 필요한 자원과 운영 환경을 이해하는 데 도움이 된다고 설명한다.
마무리
영상은 유료 AI의 사용량 한도에 대한 불편을 에이전트의 확산과 데이터센터의 물리적 제약으로 연결한다. 김덕진 소장은 AI가 더 많은 일을 맡을수록 이를 실행할 자원이 중요해지며, 시설과 전력 확보가 발전 속도를 제약할 수 있다고 본다.
이주은 매니저는 업무 현장의 설계와 적응, 데이터센터의 구축·운영, 전력 효율을 함께 강조한다. 국내 AI 기반의 필요성도 성능과 가격뿐 아니라 데이터 통제와 자원 접근성의 관점에서 설명한다. 대화는 국내에서도 AI 활용을 뒷받침할 데이터센터가 필요하다는 이야기로 마무리된다.